Дело в том, что интеллектуальные технологии — благодаря огромному количеству доступных данных, очень сложным программам и возможности беспрепятственно взаимодействовать друг с другом — способны решать все больше и больше задач, причем делать это (включая прогнозирование нашего поведения) лучше нас. Поэтому мы больше не единственные возможные исполнители. Именно это я называю „четвертой революцией“ в нашем понимании самих себя. Оказалось, не мы находимся в центре Вселенной (Коперник), биологического царства (Дарвин) или царства разума (Фрейд). После Тьюринга мы больше не пребываем в центре инфосферы — мира обработки информации и умных приложений. Мы разделяем ее с цифровыми технологиями.

В решении все большего числа задач нас превосходят уже даже не дети из научной фантастики, обладающие сверхразумом, а самые обычные предметы, несмотря на то, что они не умнее тостера. Их способности заставляют нас испытывать смирение и переоценивать человеческие исключительность и особую роль во Вселенной. Мы полагали себя самыми умными, потому что можем играть в шахматы. Теперь обычный телефон играет лучше гроссмейстера. Мы думали, что свободны, потому что можем купить все, что пожелаем. Теперь глупое, как пробка, устройство может предсказать модель нашего потребительского поведения, а иногда даже предвидеть наши действия.

Что все это значит для нашего самосознания? Успех технологий во многом зависит от того, что, рассуждая о возможностях сверхразума, мы тем временем все больше наполняем мир огромным количеством устройств, датчиков, приложений и данных. В результате он становится средой, где технологии смогут заменить нас, но при этом им не потребуется какого-либо понимания, намерений, интерпретаций, эмоциональных состояний, семантических навыков, совести, самосознания или интеллектуальной гибкости (позволяющей нам, например, использовать обувь в качестве молотка, если нам нужно забить гвоздь). Память (в форме алгоритмов или гигантских наборов данных) работает лучше интеллекта, если нужно посадить самолет, найти оптимальный маршрут из дома в офис или лучшую цену на новый холодильник.

То есть умные технологии лучше справляются с простыми задачами, но не следует это путать со способностью лучше думать. Цифровые технологии не думают (не говоря уж о том, чтобы думать лучше нас). Но они могут делать лучше все больше и больше вещей, обрабатывая все большие объемы данных или отталкиваясь от результатов своих собственных расчетов ради повышения их точности в будущем (так называемое машинное обучение). Компьютерная программа AlphaGo, разработанная Google DeepMind, выиграла в игре го у лучшего игрока в мире Ли Седоля, поскольку могла использовать базу данных из примерно 30 млн ходов и сыграть тысячи игр против самой себя, каждый раз становясь немного более „умной“ и, как следствие, улучшая свою игру. Это как система с двумя ножами, которые могут затачивать сами себя. Но представьте на минуточку, что во время матча сработала бы пожарная сигнализация. Ли Седоль в ту же секунду встал бы и направился к выходу, в то время как AlphaGo продолжала бы думать над следующим ходом.

Так в чем разница? В том же, в чем между вами и посудомоечной машиной, когда вы и она моете посуду. Результат? Любой апокалиптический прогноз с участем искусственного интеллекта можно игнорировать. Серьезный риск заключается не в появлении какого-то сверхразума, а в том, что мы сами злоупотребляем цифровыми технологиями в ущерб значительной части человечества и всей планете.

Остерегайтесь людей

В обозримом будущем самой большой проблемой будем мы сами, а не технологии. Поэтому нужно включить свет в темной комнате и внимательно обдумать, куда нам стоит направиться. В этой комнате нет чудовищ, но есть много препятствий, которые необходимо обойти, убрать или постараться договориться о том, что с ними делать. Тревожиться надо по поводу реальной человеческой глупости, а не воображаемой опасности, исходящей от искусственного интеллекта. Проблема не в уровне аппаратных абстракций, а в самом человечестве.

Иными словами, следует сосредоточиться на реальных проблемах. В заключение я перечислю пять таких одинаково важных узких мест.

• Мы должны привести искусственный интеллект в соответствие с окружающей средой. Нам нужны самые умные технологии, которые только можно создать для борьбы с конкретными бедствиями — от экологических катастроф до финансовых кризисов, от преступности, терроризма и войны до голода, нищеты, невежества, неравенства и ужасающего уровня жизни. Например, у более 780 млн человек нет доступа к чистой воде, почти 2,5 млрд людей живут в антисанитарных условиях. Ежегодно от последствий стихийных бедствий и болезней, связанных с плохой водой, умирает от 6 до 8 млн человек. Это, а не искусственный интеллект, входит в число „наших самых серьезных экзистенциальных угроз“.

• Мы должны сделать искусственный интеллект удобным для человека. Следует действовать так, чтобы для него, перефразируя Иммануила Канта, люди были целью, а не средством для ее достижения.

• Мы должны обратить недостатки искусственного интеллекта на пользу человеческому интеллекту. Будут ликвидированы и созданы миллионы рабочих мест. Выгоды от этого преобразования должны принадлежать всему обществу — равно как и издержки, понесенные последним, поскольку никогда ранее такое количество людей не переживало столь радикальных и быстрых изменений. Сельскохозяйственной революции для оказания реального воздействия на общество потребовались тысячелетия. Промышленной — столетия. А цифровой потребовалось всего несколько десятилетий. Неудивительно, что мы чувствуем неуверенность и беспокойство.

• Мы должны сделать так, чтобы способность искусственного интеллекта к прогнозированию не ограничивала наши свободу и автономность. Маркетинг, внедрение в массовое сознание новых моделей поведения, борьба с преступностью и терроризмом никогда не должны унижать человеческое достоинство.

• И, наконец, мы должны заставить искусственный интеллект сделать нас более человечными. Серьезный риск заключается в том, что мы можем злоупотребить интеллектуальными технологиями. Уинстон Черчилль однажды сказал: „Сначала мы создаем свои дома, а потом они создают нас“. Это относится и к инфосфере, и ко входящим в нее „умным“ технологиям.

Кеннет Кукьер

Повсеместное массовое и инновационное использование данных позволит многое делать проще, дешевле и в больших объемах.

Вы просыпаетесь, и ваш личный робот плавно парит в воздухе, чтобы подать вам в постель завтрак — белковую таблетку и эспрессо в виде леденца. Вы зеваете, и вмонтированный в потолок датчик дыхания анализирует данные, проверяя наличие недомоганий. А чуть позже беспилотный реактивный ранец аккуратно везет вас на работу.

Вообще-то, пока это лишь мечта. Фантастика. Но в течение следующих трех десятилетий, когда практики искусственного интеллекта проникнут во все сферы жизни, грядут фундаментальные изменения. Данные преобразуют каждый аспект бизнеса и общества, точно так же, как это происходило в период развития вычислительной техники и Интернета.