Нейроны — это такие занятные клетки, которые хорошо умеют принимать решения. Когда они образовывают сети, получается мозг. Система из нескольких нейронов уже способна принимать разные решения, и число таковых увеличивается экспоненциально по мере расширения сети нейронов. Решения, которые принимает мозг, чтобы реагировать на вызовы окружающей среды, бывают весьма изощренными. По мере того как организмы становились более сложными, клетки объединялись в сети и создавали величественные органические конструкции — биологические эквиваленты Эмпайр-стейт-билдинг или Бурдж-Халифа. Нейроны в мозгах этих организмов создавали еще более замысловатые сети, чтобы получить возможность управлять неповоротливыми телами с исключительной точностью и изобретательностью и обеспечить им выживание и воспроизводство. Прежде всего мозгам надо было обеспечить своим организмам возможность подключиться к потокам энергии, производимой Солнцем и пригодной для потребления посредством фотосинтеза.

Люди добавили еще один уровень организации сети, когда язык связал между собой мозги из разных регионов и поколений, создав обширные региональные интеллектуальные сети. Это называется коллективным обучением. Его мощь увеличивалась по мере того, как росла эффективность сотрудничества людей в рамках все более и более многочисленных сообществ, которые учились использовать все более значительные потоки энергии. За последние два века эти сети стали глобальными, а мы научились использовать огромные запасы окаменевшего солнечного света, хранящиеся под землей миллионы лет. Вот почему наше воздействие на биосферу в ходе антропоцена оказалось настолько значительным.

Коллективное обучение также породило средства, расширяющие мышление, — от устных преданий до письменности, книгопечатания и науки. Каждое из них усиливало мощь поразительной мыслящей машины, составленной из сети человеческих мозгов. Однако за последний век в результате сочетания ископаемого топлива и вычислительных машин она развилась гораздо больше, чем за всю предыдущую историю. Поскольку компьютеры за последние 30 лет выстроили собственные сети, они многократно увеличили коллективную мощь человечества.

Самая могущественная из известных нам на сегодняшний день разумных машин собрана из миллиардов человеческих мозгов, каждый из которых представляет собой огромную сеть нейронов. Все эти мыслящие единицы сперва были объединены в пространстве и времени, а теперь еще и усилены миллионами объединенных в сети компьютеров.

Этой штукой кто-нибудь управляет? Что-то удерживает вместе ее элементы? Если да, то кому она служит и чего хочет? А если ею никто не управляет, то неужели колосс современного общества вообще неуправляем? Жутковато, не правда ли? Меня больше всего волнует даже не то, о чем именно думает эта огромная машина, а то, является ли ее мышление хоть сколько-нибудь последовательным. Не будут ли отдельные части тянуть ее в разных направлениях, не сломают ли они ее в конце концов и не обернется ли это катастрофой для детей наших детей?

Тимо Ханней

Исполнительный директор в Digital Science, Macmillan Science and Education; один из основателей Sci Foo

Если отталкиваться от одного из определений слова «мыслить» — «собирать, обрабатывать информацию и действовать на ее основе», можно сделать вывод, что Землю наводнили основанные на кремнии мыслящие машины. Все — от термостатов до телефонов — устройства, которые привносят в нашу повседневную жизнь удобство и радость, теперь наделены настолько впечатляющим интеллектом, что мы уже привычно говорим о них, без тени иронии, что они умные. Наши самолеты, поезда, а теперь еще и автомобили становятся практически полностью самостоятельными, и, наверное, недалек тот день, когда они смогут избавиться от одной из главных причин поломок, задержек и аварий — людей-операторов.

Мало того, навыки этих машин быстро развиваются, что обусловлено доступом к большим, чем когда-либо, объемам данных и вычислительным мощностям вместе со стремительным (хоть и не всегда понятным) улучшением алгоритмов. После десятилетий несбыточных обещаний специалисты в технических науках вдруг обнаружили, что их творения способны на сверхчеловеческий уровень производительности в таких ранее сложных для них областях, как распознавание голоса, рукописного текста и изображений, не говоря уже о тестах на общую эрудицию. Модель развития по схеме «стой — иди» была настолько необыкновенной, что если бы кого-нибудь переместили во времени из 2010-го в 2015-й, то он был бы поражен нынешним состоянием техники куда больше, чем путешественник во времени, прибывший из середины XX века или более ранней эпохи.

Но если индустрия искусственного интеллекта уже не шутка, то не превратилась ли она во кое-что похуже — в плохой фильм ужасов?

Машины теперь знают намного больше, чем любой из нас, лучше справляются со многими задачами, нисколько не уставая, — так чего им стоит перехватить инициативу и стать нашими хозяевами? И не наступит ли время, когда самые продвинутые из наших творений породят еще более умные машины, которые мы вообще не сможем ни понимать, ни контролировать?

Возможно, такие риски и стоит учитывать. Но если нас и ждут эти проблемы, то лишь в отдаленном будущем. Искусственный интеллект хоть и выглядит впечатляюще в определенных областях, все еще остается достаточно ограниченным и негибким. Самая замечательная особенность биологического разума состоит не в его мощности, а в удивительной универсальности — от отвлеченного полета фантазии до высочайшего совершенства в физическом развитии, иначе говоря, от Дворжака до Джоковича[10].

По этой причине люди и машины скорее продолжат дополнять друг друга, чем станут конкурировать, а самые сложные задачи — навигация в физическом мире, лечение болезней, сражение с врагом на поле битвы — будут лучше всего выполняться в ходе совместной работы углерода и кремния. Пока что наибольшую опасность для человечества представляют сами люди. Чтобы оказаться реальной угрозой, машинам сначала надо стать более похожими на нас, а сейчас почти никто не пытается создать ничего подобного — гораздо проще и интереснее делать людей.

И все же если мы действительно рассматриваем долгосрочные перспективы, то существует серьезная причина сделать машины более похожими на нас по одному важнейшему — и пока что совершенно не учитываемому — критерию. Если отталкиваться от другого определения слова «мыслить», то машинам это вообще не свойственно, потому что ни одна из них не обладает самосознанием. Точнее говоря, мы не можем знать или даже с достоверностью предполагать, есть ли вероятность появления сознания у основанного на кремнии интеллекта, хотя большинство из нас считает, что нет. Есть три объяснения, почему создание действительно обладающего сознанием искусственного интеллекта — это хорошо. Во-первых, так мы получим свидетельство, что у нас есть в целом приемлемая теория насчет того, что необходимо для получения субъективного опыта. Во-вторых, сам факт, что одно мыслящее существо намеренно (позволено ли мне будет сказать «сознательно»?) конструирует другую форму разума, займет достойное место в ряду важнейших событий истории.