Если наборы данных, используемых для обучения ИИ, искажены (в одном случае набор данных с лицами членов американского правительства, собранных для обучения, включал 75 % мужчин и 80 % лиц со светлой кожей), результаты прогноза будут неверны. В контролируемом обучении то, каким окажется ИИ, зависит от того, как мы его обучаем. Это может иметь явные и очевидные последствия, когда компьютерное зрение используется с целью обеспечения безопасности или полицией. В этих случаях предвзятость может привести к искаженным результатам идентификации определенных групп людей. А если у вас есть акцент, то, вероятно, и распознавание вашего голоса будет менее эффективным.

Сети компьютерного зрения не обязательно учить с помощью контролируемого обучения (см. главу 6), но часто есть смысл его привлекать. Когда мы обучаем искусственные нейронные сети, то должны предоставить им возможность получить достаточно большой опыт, чтобы они могли эффективно функционировать. Плохое обучение приведет к плохому ИИ.

К сожалению, предубеждения все еще распространены в нашем обществе. В классных комнатах и университетских лекционных залах, где изучают компьютерные науки и инженерию, по-прежнему преобладают студенты мужского пола, причем эта тенденция не меняется уже несколько лет. В результате становится все больше мужчин – исследователей ИИ. Но пришло время восстановить баланс!

Предвзятость при обучении – не единственная проблема, связанная с разработкой компьютерного зрения. Сегодня алгоритмы «дипфейк» (deepfake: deep – «глубокий» и fake – «подделка») легко могут заменить лицо одного человека лицом другого в видео, что широко используется в порнографии. Эта технология применяется также с целью мошенничества или для манипулирования в политике. Отличить факт от фикции никогда еще не было так сложно. В США это привело к принятию новых нормативных актов: Акта о запрете злонамеренных дипфейков, рассмотренного Сенатом США в 2018 году, и Акта об ответственности за дипфейки, рассмотренного Палатой представителей в 2019 году.

Нравится нам это или нет, но в развитии компьютерного зрения мы добились чрезвычайных успехов. Несмотря на искажения и злоупотребления, сегодня иногда кажется, что компьютерное зрение – это уже решенная проблема с точки зрения архитектуры нейронной сети. Но хотя мы можем соединить сети способами, напоминающими связи в зрительной коре, искусственные нейронные сети пока не дотягивают до уровня нейронных сетей живых организмов. Наши методы работают, но часто используя грубую силу с массивами данных, тысячи искусственных нейронов и огромные вычислительные мощности для обучения. Оса-малютка показывает нам, что существуют намного более изящные, более простые способы восприятия нашего мира. Нам еще многое предстоит узнать.

Перед нами стоит башня из деревянных блоков. Роботизированная рука с одним захватом медленно движется вокруг башни, прощупывая и подталкивая различные блоки. Она останавливает свой выбор на одном из них и осторожно выталкивает его на полкорпуса, облегчая движение с помощью покачиваний. Затем она перемещается на другую сторону, осторожно вытаскивает этот блок и кладет его на вершину башни. Далее робот возвращается назад и снова начинает кружить, пока не найдет другой кажущийся ему подходящим блок. Это не совсем обычный робот. Он уже узнал, что такое задача, научился оценивать силы и получать обратную связь, чтобы принимать решения о дальнейшем действии. Это робот, который обучает сам себя.

ИИ может быть удивительным, когда дело доходит до изучения чисто теоретических игр – от шахмат до видеоигр. Но поставьте большинство роботов перед «Дженгой» (башня из деревянных блоков, которые нужно аккуратно вынимать и класть сверху), и результат будет плачевным. Даже если робот создавался с использованием контролируемого обучения в моделируемых условиях, сложность и изменчивость реального мира – совершенно другая история. Обычный способ научить ИИ понимать действительность заключается в том, чтобы показать ему миллионы примеров хороших и плохих попыток удаления реальных деревянных блоков. Подобный подход занял бы очень много времени, так как башню пришлось бы восстанавливать миллионы раз. Каждый деревянный блок слегка отличается от соседнего, непредсказуемые факторы, такие как температура и влажность, способны влиять на трение различными способами, и то, что робот узнал в один день, может не сработать в другой.

По этой причине Нима Фазели и его коллеги из МТИ разработали новый ИИ. Вместо того чтобы тренировать свой ИИ, используя контролируемое обучение, исследователи помещали руку робота перед башней и позволяли ей учиться самостоятельно – играя. Только толкая, вытягивая и ощущая результат, робот может понять, как его действия повлияют на шаткую, неровную башню из блоков. Примерно после 300 попыток он сгруппировал свои действия по типу блока, например: застрявший блок – лучше оставить его в покое, незакрепленный блок – подходит, чтобы удалить. Этот ИИ в буквальном смысле почувствовал проблему, а затем обобщил свое понимание и скорректировал будущие шаги. Робот с подобными способностями может улучшить работу заводских машин, помогая им понимать, к примеру, что какой-то элемент неправильно зафиксирован. Он может научить их чувствовать силу и осязать, даже если со временем что-то в их «обязанностях» изменится.

В ИИ самообучение по очевидным причинам часто называют неконтролируемым, или обучением без учителя. Эти ИИ не «отправляются в школу» для интенсивных тренировок, как это происходит, если процесс идет под наблюдением. В случае неконтролируемого обучения ИИ получает данные, которые затем должен будет понимать самостоятельно. Также обучение без учителя необходимо, когда у нас нет данных для тренировки ИИ. Порой данные нельзя получить (каждая возможная выигрышная стратегия в игре го), иногда же данных и вовсе не существует (при управлении новым роботом у нас нет предыдущих примеров хороших решений, но мы узнаем, когда проблема будет решена, так как теперь робот сможет выполнять поставленные задачи).

Кластеризация является одной из наиболее часто используемых форм обучения без учителя. Вместо того чтобы учить ИИ классифицировать данные (например, «кошки» или «собаки»), мы можем вообще не знать, как это лучше делать, и рассчитывать на то, что компьютер сам выберет подходящий способ. Продавцы хотят лучше понимать своих покупателей. Если компьютер обнаружит, что есть, скажем, пять основных типов клиентов (матери, молодые люди, те, кто делает покупки в выходные, любители скидок, лояльные покупатели) и в зависимости от типа они покупают разные вещи в разное время, продавец сможет лучше удовлетворить потребности каждого клиента, а не относиться ко всем одинаково. Та же идея лежит в основе систем рекомендаций, позволяющих находить сходства между потребителями и предлагать им новые продукты. Если я похож на вас по возрасту, полу, стране проживания и оценил несколько тех же книг, что и вы, после того как я приобрету новый товар и/или поставлю ему высокую оценку, вы можете получить предложение попробовать тот же продукт. Объединение достаточного количества данных от тысяч или даже миллионов потребителей порой ведет к удивительно предсказуемым рекомендациям. Такой подход известен как совместная фильтрация, и он предполагает использование алгоритмов кластеризации для группирования людей.