Что я думаю по поводу мыслящих машин, так это то, что все мы до сих пор упускаем из виду самое главное. Подлинный преобразующий гений человека — вовсе не отдельный разум, а коллективный, совместный и распределенный интеллект; это тот факт (на который первым указал либертарианец Леонард Рид), что нужны тысячи людей для того, чтобы сделать обычный карандаш, и ни один из них сам по себе не знает, как сделать карандаш. Человечество превратилось в господствующий над миром техниум[57] не из-за какого-то изменения в головах людей, а из-за изменений среди них — из-за изобретения обмена и специализации. Это был сетевой эффект.

Мы понятия не имеем о том, чего могли бы добиться дельфины, осьминоги или вороны, если б их мозги были объединены в подобную сеть. И наоборот, если бы люди остались главным образом автономными индивидуумами, то так и продолжали бы жить как немногочисленные охотники-собиратели, целиком зависящие от своей среды обитания; это, очевидно, и делали обладавшие большим мозгом неандертальцы, пока совсем не исчезли. Человечество преобразовало объединение интеллектов в сети, произведенное магической силой разделения труда, — этот трюк впервые удалось проделать в малом масштабе в Африке около 300 000 лет назад, а затем он во все большем масштабе и с возрастающим темпом осваивался в течение нескольких последних тысячелетий.

Вот почему успехи интеллекта у компьютеров были так печально малы, пока те оставались отдельными машинами, но, как только появился интернет, начали происходить замечательные события. Влияние машинного интеллекта будет сильнее всего заметно среди машин, а не внутри них. Уже ясно, что интернет — это подлинный машинный разум. В будущем сетевые феномены, такие как блокчейн — технология, на которой основаны криптовалюты, могут оказаться источником наиболее оригинальных примеров машинного разума.

Стивен Косслин

Психолог; основатель и декан Школы Minerva (факультет прикладной психологии), Академический институт Кека; автор, совместно с Уэйном Миллером, книги «Два игрока на одном поле мозга» (Top Brain, Bottom Brain)[58]

Многообразие не только политически целесообразно, оно также полезно. Неоднородная группа эффективно использует различные точки зрения и богатый набор идей и подходов для решения сложных проблем.

Искусственные интеллекты могут обеспечить еще один вид многообразия, тем самым обогатив всех нас. На самом деле неоднородность среди самих ИИ может оказаться важной составляющей тех выгод, которые нам даст сближение с ними. Нетрудно представить себя широкий перечень различных искусственных интеллектов, от тех, которые думают более или менее по-нашему («близкие ИИ»), до тех, чей образ мысли для нас пока непостижим («далекие ИИ»). Из взаимодействия с разными типами искусственного интеллекта мы будем извлекать различные выгоды.

Во-первых, «близкие ИИ» могут нам непосредственно помогать в наших делах. Если эти формы искусственного интеллекта и в самом деле думают так же, как мы, то появившиеся среди них интеллектуалы способны будут обнаружить, что переживают экзистенциальный кризис. Они могут задаться вопросом: «Для чего мы здесь? Только для того, чтобы потреблять электричество и создавать избыточное тепло?» Как многие люди, они могут решить, что им нужна цель. Одной из очевидных целей для таких искусственных интеллектов стало бы повышение сознательности и восприимчивости человечества. Это могло бы быть их raison d’être[59]. Пространство для развития огромно, а наши проблемы настолько запутанны с научной точки зрения, что распутать их можно, только приложив огромные усилия. По крайней мере, некоторые из этих ИИ станут измерять свои достижения по нашим достижениям.

Во-вторых — и это, наверное, более интересно, — глубокие различия между тем, как мыслят некоторые ИИ, и тем, как мыслят люди, способны помочь разобраться с нашими вековыми проблемами опосредованно. Рассмотрим известное утверждение Витгенштейна о том, что, если бы лев умел говорить, мы бы его не поняли. Витгенштейн имел в виду, что у львов и людей разные «формы жизни», которые определили их концептуальные структуры. Львы ходят на четырех ногах, охотятся на быстрых животных, часто перемещаются по высокой траве и т. д., тогда как люди ходят на двух ногах, имеют руки, часто манипулируют предметами для достижения определенных целей и т. д. Эти отличия в «формах жизни» приводят к тому, что у львов и людей ментальная репрезентация мира оказывается организована по-разному, так что, даже если бы львы пользовались словами, они отсылали ли бы к понятиям, непостижимым для людей. То же самое может быть верно для «далеких ИИ».

Чем они способны нам помочь? Даже простое наблюдение за такими ИИ даст нам глубокие фундаментальные знания. Например, люди долгое время спорили по поводу того, отражают ли математические понятия платоновские «идеи» (которые существуют независимо от того, как мы намерены их использовать) или же, напротив, отражают изобретения, которые создаются для решения определенных проблем. Другими словами, следует ли нам принять математический реализм или математический конструктивизм? Есть ли у математических понятий собственная жизнь или они всего лишь порождения нашего ума, сформулированные так, как нам удобно?

В этом контексте очень помогло бы наблюдение за «далекими ИИ», обладающими совсем другими, нежели у нас, концептуальными структурами и решающими совсем другие проблемы. Предположим, что мы сможем наблюдать за тем, как «далекие ИИ» используют математику; тогда, если они разработают те же понятия, что и мы, это будет аргументом против конструктивизма.

Одни искусственные интеллекты могут работать рядом с нами, а другие могут быть помещены в чуждую среду, например на поверхность Луны или на дно глубокой океанической впадины, и поставлены перед необходимостью решать оригинальные проблемы вроде всепроникающей мелкодисперсной пыли или огромного давления воды. «Далекие ИИ» следует создавать самообучаемыми, чтобы они могли эффективно эволюционировать и работать в своей среде без участия человека, вообще без контакта с ним. При соблюдении необходимых предосторожностей, связанных с отношением ИИ к нам, мы должны позволить им развить наиболее подходящие для них концептуальные структуры.

Короче говоря, мы что-то получим и от тех искусственных интелектов, что созданы по нашему образу и подобию, и от тех, что не похожи на человека. Так же, как в случае с друзьями-людьми и коллегами-людьми, в конечном счете многообразие пойдет на пользу всем.

Лука де Бьазе