Нет нужды беспокоиться из-за этой тучки сейчас. Она, быть может, пролетит мимо. В данный момент нам не под силу создать искусственный интеллект, которые прошел бы тест Тьюринга. Лет через десять или двадцать пейзаж будет почище, и тогда мы сможем придумать ИИ, который, скажем, отгадает загадку общей теории относительности / квантовой механики. Лично мне хотелось бы увидеть машину, которая возьмется за такую задачу. Изобретательность — действительно сложная часть разумности, к тому же совершенно непонятная даже у людей — пока что не встречается у искусственных интеллектов. Наше бессознательное, по-видимому, неотъемлемая часть нашей креативности (не у нас есть идеи, а мы есть у них), так не стоит ли ИИ обзавестись бессознательным? Не исключено, что даже искусное программирование и случайности эволюции не смогут его создать.

Если это огромное препятствие когда-нибудь удастся обойти и у нас появится такой искусственный интеллект, то я его бояться не буду — у меня к нему есть несколько интересных вопросов.

Лоуренс Краусс

Физик, космолог, Университет штата Аризона; автор книги «Вселенная из ничего» (A Universe from Nothing)

В последнее время довольно много чернил ушло на работы, в которых обсуждаются опасения по поводу искусственного интеллекта и будущего мира, где машины смогут «думать»; при этом значение последнего термина всеми трактуется по-разному: от простого автономного принятия решений до полноценного самосознания. Я не разделяю большей части этих опасений, и мысль о появлении умных машин мне кажется очень увлекательной ввиду новых возможностей, способных улучшить жизнь человека, и новых идей о природе сознания, которыми ИИ нас, несомненно, снабдят.

Для начала давайте кое-что проясним. Даже при экспоненциальном росте объемов компьютерной памяти и вычислительной мощности, который мы наблюдаем уже 40 лет, мыслящим компьютерам потребуется цифровая архитектура, сильно отличающаяся от той, что существует сегодня. К чему-то похожему на сознание им в обозримой перспективе, скорее всего, тоже не удастся приблизиться. Это утверждение подкрепляется простым физическим мысленным экспериментом.

При нынешнем потреблении энергии компьютерами машине с объемом памяти и вычислительной мощностью нашего мозга потребуется более 10 тераватт — примерно в два раза больше, чем общий объем энергопотребления всего человечества. Человеческий мозг использует около 10 ватт энергии. Это значит, что расхождение между ним и искусственным интеллектом по данному показателю составляет 1012, то есть миллион миллионов. За последние 10 лет время удвоения мегафлоп/ватт составляло около 3 лет. Даже если предположить, что закон Мура продолжит действовать и впредь, чтобы достичь энергозатрат человеческого мозга, таких удвоений потребуется примерно 40, а это 120 лет. Кроме того, каждое удвоение эффективности требует довольно радикальных перемен в технологиях, и крайне маловероятно, что 40 удвоений пройдут без существенного изменения того, как именно компьютеры вычисляют.

Если на минуту забыть о сложности алгоритмов, то, на мой взгляд, не останется других препятствий для того, чтобы создать компьютер, действительно обладающий самосознанием. Прежде чем это случится, решения, которые принимают машины, будут играть все более значительную роль в нашей жизни. Многие люди испытывают беспокойство, но это тянется не первый десяток лет. Начиная, наверное, с простейших вычислительных машин — лифтов, которые решают, как и когда нам добраться до своей квартиры, мы позволяем им быть нашими автономными проводниками. Мы летаем на самолетах, управляемых автопилотом, наши автомобили умеют определять, когда пора пройти техобслуживание или подкачать колеса, и уже совсем скоро, наверное, станут полностью самостоятельными.

Для многих, если не для большинства относительно автоматических задач машины принимают решения намного лучше, чем люди, и мы должны быть рады тому, что у них есть возможность сделать рутинные дела безопаснее и эффективнее. Мы не утратили контроль, потому что мы создаем условия и исходные алгоритмы, которые определяют процесс принятия решений. Мне представляется, что интерфейс «компьютер — человек» — это вроде работы с хорошим помощником; чем умнее становятся машины, тем лучше становятся помощники. Всякое партнерство требует определенного доверия и частичного отказа от контроля, но если выгоды перевешивают потери, то мы продолжаем быть партнерами. Если нет — мы разрываем отношения. Я не вижу разницы между партнером-человеком и партнером-машиной.

Есть одна область, в которой надо быть осторожнее с таким партнерством — это системы командования и управления современными вооружениями. Поскольку у нас есть способ уничтожить большую часть человечества на этой планете, мысль о том, что разумные машины смогут когда-нибудь контролировать большую красную кнопку — или даже хотя бы что-то менее опасное — довольно неприятна. Это происходит оттого, что когда мы принимаем решения, то часто опираемся на интуицию и межличностные коммуникации, а не только на рациональный анализ (Карибский кризис — хороший тому пример), и мы полагаем, что у разумных машин таких способностей не будет.

Однако интуиция — результат опыта, как и коммуникация, а они в современном мире не ограничены телефонными или личными разговорами. Опять же разумный замысел, лежащий в основе систем, со множеством встроенных в них ограничений и мер безопасности, говорит о том, что решения, принимаемые машинами, даже в случае с насилием и военными действиями, не обязательно будут хуже решений, принимаемых людьми.

То же самое касается и поводов для беспокойства. Разрешите мне закончить эту статью тем, что, как мне кажется, является самым замечательным аспектом искусственного разума. Машины сейчас помогают нам заниматься наукой, делая за нас вычисления. За исключением простой арифметики, большинство старшекурсников-физиков теперь зависят от программы Mathematica, которая делает за них большую часть алгебраических операций. Когда я был студентом, нам приходилось все считать самим. Но копнем глубже.

Мне интересно, чем захотят заниматься машины, когда смогут выбирать не только ответы, но также и вопросы. Что они выберут? Что их заинтересует? Будут ли они изучать физику так же, как мы? Конечно, квантовые компьютеры, если они когда-нибудь станут применяться на практике, будут обладать значительно лучшим «интуитивным» пониманием квантовых явлений, чем мы. Смогут ли они быстрее разобраться в фундаментальных законах природы? Когда первая машина получит Нобелевскую премию? Подозреваю, что самые интересные вопросы — это, как обычно, те вопросы, о которых мы еще даже не задумывались.

Питер Норвиг

Специалист по теории вычислительных систем, директор по исследованиям Google, Inc.; автор, совместно со Стюартом Расселом, книги «Искусственный интеллект: Современный подход» (Artificial Intelligence: A Modern Approach)[52]