совершенствоваться с головокружительной скоростью, быстро выйдут из‐под контроля людей и погубят своих создателей. Мы можем назвать такой вариант развития событий «сценарием ученика чародея».

Наш любимый сценарий такого рода принадлежит философу из Оксфордского университета Нику Бострому и известен как «Вселенная скрепок». Допустим, что был создан искусственный интеллект, чья единственная функция – добывать материал из окружающей среды и превращать его в скрепки для бумаги. Он совершенствует себя до такой степени, что выходит из‐под контроля человека – и в конечном счете превращает в скрепки всю Вселенную, включая и создавшее его человечество. Важно понимать, что этот сценарий не подразумевает со стороны искусственного интеллекта никаких эмоций. Машина ни к кому не испытывает ненависти – просто‐напросто вы состоите из атомов, которые должны быть превращены в скрепки.

Как и большинство людей, мы любим фильмы‐катастрофы. С другой стороны, нам трудно заставить себя относиться к таким сценариям достаточно серьезно. В конце концов, они требуют от нас, чтобы мы поверили в существ, которые так далеко зашли по пути развития техники, что способны создать совершенные AI-машины, но при этом им не хватило ума предусмотреть в конструкции этих машин кнопку «ВЫКЛ».

Еще одна любопытная вариация на тему искусственного интеллекта – машина фон Неймана. Она названа в честь американского математика венгерского происхождения Джона фон Неймана (1903–1957). Говоря современным языком, машина фон Неймана – это робот, управляемый искусственным интеллектом и способный контролировать строительство собственных копий. Идея состоит в том, что посылка флотилии таких машин к какой‐нибудь экзопланете могла бы обойтись относительно дешево: им бы не требовалось мер по жизнеобеспечению. При этом как только хотя бы несколько таких машин высадится на планету, они тут же могут начать поиски залежей минералов и других материалов, необходимых для создания отрядов роботов, а те, в свою очередь, примутся строить инфраструктуру для колонистов (людей или, по крайней мере, каких‐либо углеродных существ). Когда роботы выполнят свою задачу, на планету прибудут колонисты. (Если исходить из предположения, что никаких способов передвижения со сверхсветовой скоростью открыто не будет, колонисты, которые к тому времени уже вылетели отдельным рейсом, проведут свое долгое межзвездное путешествие в состоянии анабиоза – а может, на планету прилетят далекие потомки людей, которые взошли на борт космического корабля десятилетия или даже столетия назад.) Оказавшись на экзопланете, люди, вероятно, отправят в космос очередную флотилию машин фон Неймана, чтобы начать заселение следующего подходящего мира. Или, как вариант, машины фон Неймана могут быть запрограммированы на то, чтобы выполнить последний шаг самостоятельно.

Ключевой нюанс здесь состоит в том, что, как только процесс фон Неймана начат, он будет продолжаться до своего завершения независимо от того, будут ли те, кто этот процесс запустил, живы или нет. Однако существам в родительском мире без сверхсветовых путешествий после завершения первых нескольких итераций процесса будет непросто получить какую‐либо информацию с переднего края колонизации. Назовем эту ситуацию «волной фон Неймана» – волной роботов, распространяющейся по Галактике, оставляя на своем пути выстроенные ими колонии. Теоретические вычисления показывают, что волна фон Неймана может обойти весь Млечный Путь за несколько десятков миллионов лет. Хотя в масштабах человеческой жизни это довольно длинный промежуток, для Вселенной несколько миллионов лет – не более чем мгновение ока. Если воспользоваться приемом, который мы уже применяли в этой книге, и сжать всю историю Вселенной в один год, волна фон Неймана обойдет Галактику за один‐два дня.

Один из вариантов формулировки парадокса Ферми (см. главу 9) – вопрос о том, почему машин фон Неймана до сих пор нет на Земле. Сомнительно, чтобы люди не смогли распознать роботизированные, компьютеризированные и наделенные искусственным интеллектом устройства – хотя возможно, конечно, что машины фон Неймана просто настолько продвинутые, что мы не замечаем их присутствия. Впрочем, ответить на вопрос о том, были бы они «живыми» или «сознательными», будет немного труднее. В главе 3 мы уже обсудили, насколько сложно дать определение такому с виду простому понятию, как жизнь. А определить, обладает ли существо сознанием, еще труднее! Так что, наверно, надо честно сказать, что сейчас ответа на этот вопрос не предвидится даже в первом приближении.

В 1950 году ученый‐компьютерщик Алан Тьюринг (1912–1954) предложил свой подход к вопросу наличия полноценного сознания у машин. Идея придуманного им так называемого теста Тьюринга заключается в том, что экспертная группа людей взаимодействует с кем‐то (или с чем‐то), не видя при этом, с кем (или с чем) они разговаривают. И если машине удается убедить жюри, что она человек, то считается, что она прошла тест Тьюринга. На момент написания этой книги ни одному компьютеру еще не удалось этого сделать – хотя некоторые добиваются частичного успеха: если ограничить количество обсуждаемых тем. У компьютеров, по‐видимому, вызывают трудности такие вещи, как сарказм, юмор и человеческая иррациональность. В ближайшем будущем возникновения роботов, способных пройти тест Тьюринга, не ожидается, но мы уверены, что они рано или поздно появятся. Отметим, наконец, что, по большому счету, машина, прошедшая тест Тьюринга, еще не доказывает этим, что обладает сознанием, – она просто демонстрирует свою способность обмануть людей.

В любом случае можно быть твердо уверенными, что со временем будут строиться все более мощные компьютеры, и мы не видим никаких причин, почему у каких‐то из них не сможет развиться что‐то вроде сознания. Однако, если говорить о разуме, то равно нет оснований предполагать, что их разум будет таким же, как наш. Тем не менее мы можем с некоторой уверенностью утверждать, что рано или поздно появится что‐то вроде машины, обладающей самосознанием. Эту уверенность наилучшим образом выражает перефразированное высказывание пионера компьютерной науки Дэнни Хиллиса: «Целью человечества должно быть создание машин, которые будут нами гордиться».

Вполне возможно, что высокоразвитые технологические цивилизации на экзопланетах могут исходить из того же тезиса.

Майк и Джим

Майк: А может, и нет.

Джим: Интересный вопрос.

17

Открытые вопросы

В науке прекрасно то, что вопросы в ней никогда не кончаются. На протяжении всей этой книги мы наблюдали, как из новых открытий возникают все новые проблемы и задачи, которые еще только предстоит решить. И для начала этой, последней, главы, в которой обсуждаются нерешенные проблемы, очень хорошо подходят строки персидского мыслителя и поэта Омара Хайяма (1048–1131) из его книги «Рубаи»:

Дверь, от которой ключ не подобрать:Покров тяжелый – света не видать…

Если история науки чему‐то нас учит, то вот чему она учит: появление новых инструментов, новых способов измерений или наблюдений открывает прежде запертые двери. Поэтому мы можем начать наше обсуждение с разговора о ряде инструментов, которые должны появиться в скором будущем, и о том, на какие главные вопросы