В 2016 году «Майкрософт» запустил чат-бота по имени Тая. Это виртуальный собеседник, который обучался онлайн на основании записей в Твиттере и вел «свободный и шутливый разговор»37. Через шестнадцать часов Таю пришлось выключить: она начала публиковать в твитах сообщения о том, что «люди – суперкрутые существа», и быстро превратилась в «дуру, сексистку и расистку» из-за многочисленных, полных предубеждений твитов, которые Тая использовала в качестве входной информации. Хотя некоторые ответы были просто имитацией, это стало доказательством того, что общие правила извлекаются из общих тем, и в результате получаются утверждения, которые никто никогда специально не высказывал, например «феминизм – это культ». Этому Тай «научилась», складывая вместе то, что она знала о культах, и все, что прочитала в твитах о феминизме.

Этот эксперимент был основан на системе под названием «глубокое обучение»38. Компьютеры запрограммированы так, чтобы извлекать закономерности из информации и «самообучаться» с целью получения более точного представления об окружающем мире. Это не просто программа для выполнения определенного задания. Принцип глубокого обучения лежит сегодня в основе любых компьютерных программ искусственного интеллекта, и его можно сравнить с современными моделями процессов обучения мозга. Но, как стало ясно из истории с бедной Тай, если такая программа получает информацию из сексистского, расистского или просто грубого мира, то предварительные прогнозы, определяющие оптимальное для нее поведение, будут точно такими же.

Пытаясь понять половые различия и роль взаимодействия мозга с окружающим миром, нейробиологи обнаружили, что одна из проблем связана с глубоким обучением. Если поступающие данные изначально носят пристрастный характер, то система выучит соответствующее правило. Если система пытается создать правило, связанное с изображением кухни, то она свяжет это изображение с женщиной, потому что именно такую ассоциацию найдет в окружающем мире39. Когда программу просят закончить предложение «Мужчина – программист, а женщина…», она ответит: «домохозяйка». Подобным образом, в ответ на вопрос о бизнес-лидерах или руководителях высшего звена мы получим списки и изображения белых мужчин. В результате недавнего исследования обнаружили, что простой ввод речевых данных в систему, которая учится распознавать изображения, не только приведет к существенным гендерным предубеждениям, но даже многократно усилит их40. Так, система, которая активно учится распознавать изображения «приготовления пищи», может, основываясь на обнаруженном в сети дисбалансе, считать это женской прерогативой в 68 % случаях, хотя на самом деле только 33 % женщин готовят чаще мужчин.

Ученые, которые «обучали» эту модель, искали другие примеры речи в интернете, чтобы ввести в программу. Они обнаружили, что 45 % слов и 37 % объектов несут в себе гендерные предубеждения в пропорции два к одному. Иными словами, в два раза вероятнее, что конкретное слово или объект будут связаны с одним гендером, чем с другим. Далее ученые показали, как ограничить модель, чтобы точнее указать на эти предубеждения. Они никак не прокомментировали ситуацию, хотя и назвали свою статью «Мужчины тоже любят ходить по магазинам».

Таким образом, в нашем представлении о мозге мы все больше учитываем тот факт, что способ общения мозга с окружающим миром очень сильно зависит от той информации, которую он извлекает, и тех правил, которые он создает для нас на основании полученной информации. Чтобы выдавать предварительные прогнозы, человеческий мозг действует как система «с глубоким обучением». Если же извлеченная информация носит оттенок предубеждения, возможно на основании каких-то стереотипов, то нетрудно догадаться, каким будет результат. Это все равно что слишком полагаться на неверно настроенный навигатор: можно оказаться на совершенно неподходящей дороге или пуститься в ненужный объезд (или вообще вернуться домой).

Важнее то, как мозг определяет способ нашей реакции на окружающий мир и как этот мир реагирует на нас. Мир сложнее, чем мы привыкли о нем думать. Различия мозга (и последствия этих различий) будут в равной степени определяться нашим жизненным опытом, генетическим кодом и гормональным маринадом. Поэтому для понимания этих различий (и их последствий) необходимо тщательно разобраться в том, что происходит как вне нашей головы, так и внутри нее.

Двадцать первое столетие принесло еще одно важное направление исследований. Это те аспекты человеческого поведения, которые пытаются объяснить нейробиологи. Многие предположения об эволюции человеческого мозга основаны на появлении когнитивных навыков высокого уровня: речи, абстрактного мышления, планирования и выполнения сложных задач, а также вклада всех этих навыков в развитие вида Homo sapiens. Но внимание ученых все чаще привлекает идея о том, что успех нашего вида на самом деле основан на способности жить и работать сообща: мы распознаем невидимые социальные правила в выражении лиц и языке тела, которые понятны всем членам «общины»41. Нам нужно представлять себе, кто входит в нашу собственную группу и как стоит себя вести, чтобы быть в ней принятым. И, конечно, мы должны отличать тех, кто не входит в группу, понимая, почему так происходит. Да, мы должны читать мысли представителей своего вида, понимать их верования и намерения, надежды и желания. Нам необходимо понимать их точку зрения, предсказывать их поведение и настраивать свое собственное, чтобы помогать другим людям добиваться целей, а иногда и наоборот.

Вопрос, как и когда мы используем мозг, чтобы стать социальными существами, привел к образованию новой ветви когнитивной нейробиологии – науки о социальном познании. Конечно, появилась новая модель мозга – «социальный мозг»42. Специалисты в области социального познания изучают нейронные сети, которые лежат в основе нашего стремления присоединиться к социальным и культурным сетям, чтобы объяснить, как теснейшая связь мозга с этими сетями на самом деле определяет то, каким станет мозг.

Если мы признаем, что изучение взаимодействия человека с перегруженным информацией окружающим миром – сложная задача, то изучение межличностных отношений – вообще неподъемная. Нам приходится не только справляться со своими собственными потребностями, представлениями и желаниями, но и предсказывать все то же самое у других людей. Причем часто на основании таинственных невысказанных правил. Нам нужно «отметить» свой список контактов, рассортировать окружение в соответствии с типами людей, ситуаций и событий, которые пойдут нам на пользу или во вред или даже вызовут приятное или неприятное ощущение. Человеческий мозг будет (автоматически и подсознательно) «ставить лайки» членам различных «групп своих», побуждая нас искать таких людей и проводить с ними время. В противном случае срабатывает «предупреждение об угрозе». Оно связано с теми, кто не считается членом нашей социальной сети, и запускает реакцию «избегания», которую очень трудно преодолеть. Наша социализация означает, что мы изначально готовы к заблуждениям, и в положительном, и в отрицательном смысле2.