«Человеческий мозг есть мыслящая машина» — один из наиболее справедливых научных трюизмов, касающихся человека. Он занимает достойное место рядом с утверждениями «Сердце есть качающий кровь насос» и «Глаз есть камера». Насколько нам известно, все наши ощущения, эмоции, сильнейшие стремления, глубочайшая радость и печаль и даже (судя по всему) свобода воли — словом, вся полнота человеческих переживаний — обусловлены работой мозга. Столько людей принимают это утверждение как нечто само собой разумеющееся, как то, о чем мы всегда знали (на самом деле не всегда), что можно сделать вывод: наша наука и впрямь сильно продвинулась за последнюю пару веков.

Хотя такое видение мозга сейчас многим кажется естественным, большинству из нас сложно его полностью осознать. Примерно две трети американцев все еще верят в существование души, продолжающей жить после смерти, — а это трудно принять, если вы и вправду убеждены, что мозг производит всю полноту человеческих переживаний. У некоторых такой убежденности убавляется, когда они узнают о пробелах, все еще отделяющих нас от понимания того, как именно мозг производит мысль. Но вокруг этой идеи есть проблемы и посерьезнее.

Существуют опасения, что, приняв нейробиологическую природу наших переживаний, мы как человечество потеряем чувство собственного достоинства. Если широко распространится идея, что человеческий разум — результат работы машины, то не будем ли мы относиться друг к другу менее милосердно, терпимо и уважительно? И имеем ли мы в принципе право относиться друг к другу менее милосердно, терпимо и уважительно?

Нет, не будем, и нет, не имеем.

Во-первых, не стоит забывать: для того чтобы не уважать достоинство другого человека или разумного существа, не обязательно верить в то, что мозг — это мыслящая машина. Как показывает история, вера в нематериальную природу наших переживаний может спокойно существовать бок о бок с безразличием и жестокостью. Человеческие жертвоприношения, охота на ведьм, пытки и мученичество, например, основаны на доктрине о том, что разум и тело — независимые сущности. На протяжении всей своей истории люди с готовностью причиняли ужасную боль материальным телам других людей (или своим собственным), чтобы улучшить состояние их нематериальных душ. И могли бы ученые так долго практиковать вивисекцию без морального оправдания, обеспеченного им картезианским убеждением, будто тело (которым животные определенно обладают) и душа (которой, согласно картезианцам, у них нет) — это разные вещи? Я сомневаюсь.

Но, что еще важнее, современное понимание разума никакой угрозы человеческому достоинству не несет. С точки зрения морали важно вовсе не то, исходят ли ваши желания, надежды и страхи от машины, огромного невидимого голубя или щепотки магической пыльцы. Единственным этически актуальным фактом является то, что эти стремления есть внутри вас; остальным надо решить, что этичнее: помочь вам в реализации ваших стремлений или помешать. Есть интересная аналогия для одного из этических вопросов, касающихся клонирования человека: будут ли человеческие существа, произведенные посредством клонирования, наделяться теми же правами, что и человеческие существа, произведенные традиционным способом? Конечно, будут. Вопрос о том, как человеческое существо приходит в мир, не столь актуален с точки зрения этики. Важнее то, что человек в этом мире есть, у него имеются желания, стремления и страхи, точно так же, как у всех остальных. Нам нужно принять лишь одно этическое решение: помогать этому человеку или препятствовать в реализации его устремлений.

Убежденность в том, что все переживания порождены мозгом, не только не угрожает человеческому достоинству, а напротив, помогает его сохранить. Когда я понимаю, что вы и я, в сущности, одинаковые мыслящие машины, заключенные в наших головах (и получившиеся, конечно же, в результате естественного отбора), то мне нужно сделать лишь один маленький шажок, чтобы прийти к важному этическому открытию: вы, вероятно, любите кое-что из того, что люблю я (еду, семью, теплую постель, свободу), и, вероятно, чувствуете боль по тем же причинам, что и я (из-за пыток, из-за смерти любимого человека, из-за порабощения детей). Как только я осознаю́, что мои устремления почти такие же, как и ваши, мне сложнее чувствовать свою правоту, если я топчусь по вашим устремлениям, одновременно требуя, чтобы вы уважали мои. На этом понимании строится натуралистическое обоснование всеобщих прав человека. Нам нет нужды утверждать, как делали отцы-основатели, что всеобщее равенство всех людей самоочевидно. Наука сделала его очевидным.

Но зачем останавливаться на людях? Раз вы понимаете, что мозг — это мыслящая машина, то причинение страданий животным вы тоже не сможете оставить безнаказанным. Все-таки мыслящие машины других позвоночных не так уж отличаются от наших; мыслящие машины заставляют их что-то любить, чего-то бояться и реагировать на боль так же, как реагируем мы. Тогда какое может быть моральное оправдание унижению достоинства животных просто потому, что они не способны ничего сказать в свою защиту?

Все мы хотим, чтобы к нам относились с уважением, но до сих пор было сложно найти универсально-обоснованный довод, чтобы этого требовать. Понимание того, что наш мозг — мыслящая машина, созданная в ходе естественного отбора, может хоть немного приблизить нас к цели, поскольку показывает, что мы в общем совершенно одинаковые. Эта идея никак не умаляет человеческого достоинства; напротив, благодаря ей мы заново открываем золотое правило нравственности, подойдя к нему с другой стороны.

Хаим Харари

Физик; экс-президент Института Вейцмана; автор книги «Вид из ока бури» (A View from the Eye of the Storm)

Когда мы говорим «машины, которые мыслят», то обычно подразумеваем «машины, которые мыслят как люди». Очевидно, что машины мыслят различными способами: инициируют события, обрабатывают данные, принимают решения, делают выбор и реализуют многие другие (но не все) аспекты человеческого мышления. Но настоящий вопрос заключается в том, могут ли машины мыслить как люди. Все тот же старинный тест для искусственного интеллекта: вы наблюдаете результат мышления и не знаете, принадлежит оно компьютеру или человеку.

Некоторые научные светила приходят в ужас от идеи о том, что миром могут управлять мыслящие машины. Я не уверен, что эти страхи обоснованы. Меня больше беспокоит то, что миром могут управлять люди, которые мыслят как машины, — это главная новая тенденция нашего цифрового общества.

Можно научить машину следовать алгоритму и выполнять в нужном порядке определенные операции, которые логически связаны друг с другом. Она будет делать это быстрее и точнее любого человека. При наличии хорошо сформулированных постулатов или аксиом чистая логика — козырь мыслящей машины. Но умение задавать вопросы и принимать решения, опираясь на здравый смысл, пока остается прерогативой людей. Сочетание интуиции, эмоций, эмпатии, опыта и культурного фона и способность использовать это все, чтобы ставить актуальные вопросы и делать выводы, объединяя внешне не связанные факты и принципы, — вот отличительные качества человеческого мышления, которых пока нет у машин.