Я боюсь, что мы вступаем в тот период экспоненциального роста, когда, если он ничем не сдерживаем, он уже не может привести к счастью человечества, как его определял Аристотель в эвдемоническом смысле человеческого единения и вклада в общее дело (см. главу 9). Я боюсь, что новые технологии ограничат нас, а не послужат нашему развитию, будут представлять собой не ключ к расширению возможностей, а орудие порабощения, замаскированное под подарок – троянского коня огромных размеров.

От магии к мании и вреду

Становится ясно, что переход от магии к мании и вреду может совершиться стремительно, с неожиданными последствиями, трагическими и пагубными. Удовольствие и ощущение чуда, которое у нас возникает, когда мы делимся изображениями с семейного отдыха на Flickr[87], разделяют миллионы людей. Этот сервис был доступен еще до появления iCloud, Dropbox и Facebook (самой большой мания-платформы, которую я могу себе представить), благодаря которым делиться своими материалами стало еще проще.

Тем не менее Flickr может спровоцировать сильные негативные эмоции, когда кто-то использует в своих целях те файлы, которые я размещаю для семьи и друзей, вырывая их из контекста и представляя в абсолютно другом свете. Например, когда в 2015 году голландская компания Koppie-Koppie хотела выпустить линейку кружек с милыми изображениями детей, они обратились к Flickr, чтобы бесплатно воспользоваться доступными изображениями семей по лицензии Creative Commons[88], 116.

Если изображения были загружены под этой лицензией, то, как считает Flickr, такое их использование правомерно. Приятный сюрприз? Большинство детей на этих фотографиях и их родители считают иначе. Без сомнения, это именно тот случай, когда технологии используются вопреки своему изначальному предназначению. Нежелательные последствия могут очень быстро разрастись, когда этому способствуют сетевые технологии.

Магия Flickr для многих пользователей была разрушена из-за различных интерпретаций прав использования изображений и их бесчестной эксплуатации в неожиданных контекстах. Возможно, это и не нелегально само по себе, но это настораживает. Случай с Koppie-Koppie – яркий пример того, как магия может обратиться во вред.

Нежелательные последствия будут увеличиваться прямо пропорционально экспоненциальным технологиям, их порождающим

То, что произошло с Koppie-Koppie, можно назвать случайной неприятностью (если это, конечно, не коснулось изображений ваших детей), которая принесла небольшой осязаемый ущерб. Однако это заставляет задуматься: а если наша общая принадлежность к чему-то, что кажется очень удобным и полезным для всех, наделяет это что-то такой властью, что оно станет способно к самостоятельному целеполаганию, сможет найти себе причину для существования и жить своей жизнью? Facebook служит примером такого развития, и поэтому я максимально ограничил для себя его использование.

Что, если эта инстанция, наделенная сверхвластью, начнет посягать на наши негласные желания сохранить личное личным, а мы не сможем этому противиться, потому что станем слишком зависимы от нее? Что, если мы настолько погрузимся в эту новую субстанцию, что забудем, где заканчиваемся мы и начинается она?

Что, если технологические способности систем и уровень их интеллекта вырастут в тысячи, в миллионы раз, как нам обещают квантовые и когнитивные компьютеры (в миллион раз более скоростные, чем обычные) и программное обеспечение, которое не надо будет программировать, потому что оно всему научится само?

Какими будут нежелательные последствия такого развития? Станут ли эти посредники и платформы впоследствии использовать наши данные в своих интересах, чтобы получать большую прибыль от нашего участия и оправдать финансовые ожидания своих владельцев и публичных рынков? Учитывая почти полное отсутствие надлежащего регулирования онлайн-платформ, неясно, смогут ли эти всевластные организации удержаться от того, чтобы не перейти границу между случайным и запланированным злоупотреблением данными.

Почему мы думаем, что этого не случится? Мы просто обязаны учитывать эти неприятные сценарии, потому что мы уже встали на путь развития экспоненциальных технологий. Власть социальных сетей в эпоху веб 2.0 (Web 2.0)[89] покажется пустяком по сравнению с могуществом, которое возникнет, когда мы подсоединим всех к единому мощному облачному хранилищу интернета вещей, содержащему постоянно самообучающиеся ИИ-системы наподобие Watson от IBM и DeepMind от Google. Абсолютно все наши данные, включающие даже самые личные медицинские и биологические сведения, станут доступными, и мы и моргнуть не сможем без того, чтобы об этом не узнали как в цифровом, так и в реальном мире.

Я думаю, что технологии и те, кто их обеспечивает, станут гораздо лучше определять, кто мы, что мы думаем и как нами управлять, – и это все без особых затрат. Поэтому нам нужно уделять особое внимание разграничению того, где заканчиваемся мы и где начинаются они, т. е. тому, где наша человечность пересекается с их технологичностью, пока они не стали совсем неотделимы друг от друга.

В таком мире совершенно точно возникнут определенные проблемы. Например, как изменится наше восприятие из-за пузырей фильтров, которые приведут к тому, что мы будем читать и видеть только то, что нам подобрали алгоритмы? Как мы справимся с рисками предвзятости и манипуляции, если даже не будем знать, по какой логике выбирается то, что мы видим и что не видим?

Мы должны начать оттачивать свои навыки наблюдения и оспаривания для того, чтобы власть имущие больше считались с нашими требованиями. Как это повлияет на ожидания от политиков и государственных деятелей?

Умные цифровые помощники и облако как продолжение нас

Сегодня мы уже пользуемся простыми формами машинного интеллекта, например мобильными картами, программами электронной почты или приложениями для знакомств. Но пока еще приложения вроде TripAdvisor лишь могут нам сказать, что другие люди думают о том или ином ресторане, не обладая при этом самостоятельным знанием нашей кулинарной истории за последние 20 лет. Они пока не могут заглянуть внутрь нашего холодильника, монитора или туалета, что позволяет сделать новый японский сервис117, не могут связать между собой все эти данные и сравнить их с 500 млн других информационных точек других доступных пользователей. Тем не менее TripAdvisor все же весьма полезен, и там зарегистрированы почти все отели и рестораны. Если помнить о контексте его рейтингов и рекомендаций, это очень удобный сервис, несмотря на его низкий интеллект.