Кристин Финн

Археолог, журналист; автор книги «Артефакты: Год археолога в Кремниевой долине» (Artifacts: An Archaeologist’s Year in Silicon Valley)

Мы приближаемся к тому, что машины будут предчувствовать любое желание и любую потребность людей. Как это меняет ценность предчувствия?

За Северным полярным кругом я три раза становилась свидетелем завершения полярной ночи, первого рассвета за несколько недель — и сейчас люди его ждут, по-видимому, с таким же нетерпением, как ждали древние охотники-собиратели. Стоя рядом с фермой в Лапландии, я всматривалась в небеса над кронами деревьев в поисках первых лучей солнца. Как только я заметила едва различимый свет, то сразу услышала неистовый лай наших хаски. На следующий день, на 30 километров севернее, солнце опять поднялось, впервые за долгое время, над саамской деревушкой, где когда-то, а может и сейчас, его долгожданное возвращение было связано с жертвоприношениями и обрядами. Еще дальше к северу я скоро снова увидела окончание полярной ночи. У семьи, приютившей меня, на кухне висел листок с надписью «Солнце вернется 16/1» и смайликом.

Очень многое из того, что происходит в небесах, предсказуемо, а умение привязать наступление определенного события к определенному времени не ново, но все более востребовано, и, раз технология стремится все предвидеть до энной степени, места случаю остается все меньше. Полные солнечные затмения вычислены на много лет вперед. Сейчас уже, как я узнала, есть приложение, которое даст вам подробные инструкции о том, как снять идеальные фотографии, — нужно только подключить наушники и выполнять команды. Запрограммированное событие произойдет, даже если его скроют облака.

Так вот, я размышляла над вопросом ИИ за полярным кругом, сразу после сезонной серии религиозных, светских и языческих празднеств. И главной причиной, по которой большинство из нас поехали сюда, было желание увидеть своеобразный гибрид научного и мифического чуда — северное сияние. Этого времени с интересом ждут, его предчувствуют, на нем зарабатывают, но оно, несмотря на все усилия по сбору прогнозных данных, оказывается удивительно неуловимым. Понятия «охота» и «погоня» за северным сиянием используются не без причины. Через неделю я видела зеленые огни, танцевавшие в небе в течение четырех ночей. Неплохой результат. Особенно если учесть, что прогнозы, которые я получила с помощью своего ноутбука, говорили, что в эти дни особой активности не будет. Хотя прогнозы и содержали определенные экивоки по поводу непредсказуемости феномена.

Я много лет хотела увидеть северное сияние. Но никакое планирование, никакие технологии не могли гарантировать, что я буду наблюдать его в определенном месте и в определенное время. Факторы сложны, а вероятности уравновешивают друг друга, и, разумеется, машина говорит: «Шансов нет», а я смотрю из окна и вижу, как появляется первое прозрачное зеленое покрывало. Я понимаю, что меня начинает охватывать пьянящее ожидание. Установленные рядом с замерзшим озером камеры говорят: «Вж-ж-ж, вж-ж-ж» — и перезагружаются. Мечта всей жизни сбылась, сияние поймано в сеть. И опубликовано в Сети.

Я отхожу от толпы, опускаю камеру и просто смотрю, как на небесах разворачивается действо, которое они показывают уже много веков. Какая сегодня будет программа? Медленный «Танец семи покрывал», натянутых поперек Млечного пути? Или стремительная постановка в духе Басби Беркли[100] с взлетающими красными оборками? Зеленая рябь мечется и опадает целый час.

Хотела бы я, чтобы машина мне сообщила в точности, когда и что я увижу? Нет, спасибо! Ожидание — важнейшая часть представления. А у этого представления свое уникальное торговое предложение — удача и терпение. Для него нет приложения на смартфоне.

Все, что я могу сделать, — это собственными глазами смотреть на небо и ждать, когда опадет последнее покрывало. И даже когда я пробираюсь по снегу обратно, то все равно поглядываю назад через плечо — в надежде, на всякий случай.

Дирк Хелбинг

Кафедра социологии Швейцарской высшей технической школы Цюриха; ведущий исследователь Центра ускорения нового знания и разрешения кризисов FutureICT

Мыслящие машины уже есть. Взрывной рост вычислительной мощности и данных, подпитываемый развитыми алгоритмами машинного обучения, наконец-то дал основанному на кремнии интеллекту возможность превзойти интеллект, основанный на углероде. Разумные машины уже не надо программировать, они сами способны учиться и развиваться, причем значительно быстрее, чем прогрессирует человеческий интеллект.

Люди не очень быстро приняли идею о том, что Земля — не центр Вселенной, им до сих пор сложно поверить, что человек — результат случайных изменений и отбора, как учит нас теория эволюции. Теперь мы можем потерять еще и статус самого разумного вида на Земле. Люди к такому готовы? Как это изменит нашу роль, нашу экономику, наше общество?

Было бы здорово иметь машины, которые думают за нас, машины, которые выполняют скучную бумажную работу и другие неприятные дела. Было бы здорово иметь машины, которые нас хорошо знают — знают, как мы думаем и что чувствуем. Станут ли машины нашими преданными друзьями?

Но кому отвечать за то, какие решения будут принимать разумные машины и что они будут делать? Сможем ли мы их контролировать? Сможем ли мы говорить им, что и как они должны делать? Мы их поработим или они поработят нас? Сумеем ли мы выдернуть вилку из розетки, когда машины начнут эмансипироваться?

Если в долгосрочной перспективе мы не сможем контролировать разумные машины, получится ли у нас, по крайней мере, сделать так, чтобы они вели себя этично? Полагаю, что мыслящие машины в определенный момент начнут следовать этическим принципам. Однако если эти принципы будут определять люди, то все может плохо закончиться. Если машины станут действовать согласно нашим принципам эгоистичной оптимизации, то нам не избежать преступности, конфликтов, кризисов и войн. Потому, если мы хотим исцелить общество от его нынешних болезней, лучше дать машинам выработать собственную, более совершенную этику.

Разумные машины, вероятно, выяснили бы, что общаться и сотрудничать, принимать решения, заботясь о других, и обращать внимание на системные последствия таких решений — это хорошо. Они бы быстро выяснили, что для инноваций нужны разнообразие, системная гибкость и коллективный интеллект. Люди стали бы узлами в глобальной сети интеллектов и огромной экосистеме идей.

В действительности нам самим предстоит узнать о том, что важны идеи, а не гены. Идеи могут работать на аппаратуре с различной архитектурой. Не так уж важно, кто их производит и распространяет — человек, или машина, или они оба. Важно то, что полезные идеи идут в мир, а другие особого воздействия не оказывают. Мы сейчас должны выяснить, как организовать наши информационные системы, чтобы достичь такого состояния. Если у нас получится, тогда люди войдут в историю как первый вид, который в этом разобрался. Иначе заслуживаем ли мы вообще того, чтобы нас помнили?