Гуманист. В научном издании The Journal of Evolution and Technology Бейли высказывает противоположную точку зрения.

Становится ясно, что технологический детерминизм – не лучшее решение, и основной девиз Кремниевой долины «Почему бы нам просто не продолжать изобретать, веселиться, делать деньги и заодно пытаться упростить жизнь миллионам людей с помощью этих чудесных новых технологий?» не только говорит о лени, но и может в итоге привести к таким же опасным последствиям, как и луддизм[21].

В этой книге, в противовес картезианским и редукционистским взглядам трансгуманистов (т. е. упрощенным взглядам на мир и человечество как на огромную машину), я приведу другое мировоззрение – философию цифровой эры, которую я иногда называю экспоненциальным гуманизмом. С ее помощью мы сможем найти срединный путь, который позволит нам принять развитие технологий, но не превратиться в них, и использовать их как средство, а не как цель.

Чтобы обеспечить безопасное будущее, мы должны инвестировать не только в развитие технологий, но и в нас самих. Необходимо приложить значительные усилия (материальные ресурсы и проч.) в определение и обоснование нового экспоненциального гуманизма, который, несмотря на все наши несовершенства и недостатки, поможет сохранить наш мир благоприятным для жизни. Инвестировать только лишь в развитие технологий будет недостаточно, коль скоро мы во всем станем полагаться на машины, но перестанем даже понимать, как они работают.

Если мы не примем меры, я боюсь, что экспоненциальный неконтролируемый рост интеллекта в областях ИИ, роботостроения, биоинженерии и генетики приведет к систематическому пренебрежению главными принципами человеческого существования, ведь у техники нет этики – а общество без этики обречено.

Эта дихотомия проявляется всюду: все, что может быть оцифровано, виртуализировано, роботизировано, – будет, но есть такие вещи, которые нельзя автоматизировать – потому что они делают нас людьми.

Эта книга рассказывает о том, куда нас могут привести экспоненциальные технологии в ближайшие десять лет, что окажется на кону, и объясняет, что мы можем сделать сегодня, чтобы предотвратить негативные последствия. Независимо от личных философских или религиозных взглядов, все, пожалуй, согласятся, что технологии уже настолько заполнили нашу жизнь, что любой дальнейший экспоненциальный прогресс должен стать основанием для нового вида дискуссии, чтобы определить, куда и зачем он нас ведет. И вот сейчас, когда технологии в буквальном смысле готовы ворваться в наши тела, нам пора посовещаться – и этот разговор обещает быть самым главным из тех, что еще предстоят человечеству.

Давайте остановимся на секунду и поговорим о человечности.

Когнитивные возможности человека во многом зависят от нашего генетического кода и от активности нейронов в нашем мозге.

Если усовершенствовать эти структуры и наладить более крепкие межнейронные связи, вскоре мы сможем отметить более высокую производительность и другие отклонения от нормы в лучшую сторону. Это позволило бы увеличить средний показатель IQ (от 70 до 130) до 100023.

Сложно себе представить, какие возможности откроет подобный уровень интеллекта, но они точно превзойдут все наши ожидания. Путем редактирования ДНК у эмбрионов когнитивная инженерия сможет сформировать индивидуумов, чьи возможности будут выше, чем у всех вместе взятых гениев за всю историю человечества. Этот процесс, скорее всего, начнется уже к 2050 году. Обновить операционную систему машины – это одно дело, но перепрограммировать разумное существо, обладающее памятью и свободной волей, – что это будет значить? Конечно, это вопрос имеет смысл задавать, только если данные свойства все еще будут что-то значить в 2050-м.

Давайте для начала попробуем определить, что это значит – быть человеком. Бесчисленное количество философов билось над этой проблемой, но именно сейчас этот вопрос важен как никогда: новые технологии уже скоро сделают возможным усовершенствование, изменение, перепрограммирование и перепроектирование человека. Многие сторонники сингулярности и трансгуманизма считают, что мы движемся к слиянию человека и машины, биологии и технологии. Как бы фантастически это ни звучало, тем важнее нам определить, что же значит «человечность» в цифровую эру.

Мораль и другие нравственные особенности свойственны только человеку

Сложность заключается в том, что в то время как технологии не знают этики, норм и веры, жизнь человека и общества целиком определяется ими. Машины когда-нибудь научатся считывать и понимать наши моральные соображения и этические проблемы, но смогут ли они проявлять сочувствие или эмпатию, обладать, как и мы, идентичностью? Ведь мы, грубо говоря, живем, ориентируясь на ценности, убеждения и менталитет, а не на алгоритмы и данные. Даже если машины это поймут и научатся воспроизводить, им все равно будет сложно перейти на наш способ существования.

Как я уже говорил, мы находимся в отправной точке экспоненциальной кривой, следующий шаг от которой будет резким переходом от четырех к восьми и затем к шестнадцати. Поэтому мы сталкиваемся с противоречием между тем, что технологии могут делать (ответ очевиден: практически все), и тем, что они должны сделать, чтобы послужить всеобщему счастью человечества. Ведь действительно непонятно, что же есть счастье само по себе, если не противопоставлять его таким очевидным проявлениям несчастья, как ограничение свободы, неравенство, бедность и болезнь (см. главу 9).

Очевидно, что технологии не знают и не хотят знать о счастье, самореализации, эмоциях, ценностях и убеждениях, несмотря на то что у них все лучше получается симулировать человеческие взаимоотношения. Они понимают только логику, рациональные действия, завершенность, эффективность, да и нет, ведь чтобы «обнаружить / идентифицировать счастье», нужно сначала стать счастливым, а это, в моем понимании, подразумевает телесность.