его романах не вредили человечеству. Вспомните компьютер Хэл, который в 2001 году в романе "Космическая одиссея" вступает в бой со своими создателями-людьми. Какие ограждения и выключатели мы, люди, можем установить на системы искусственного интеллекта, чтобы они продолжали соответствовать нашим интересам, и кто из нас должен определять, каковы эти интересы?

По мнению Маска, одним из способов обеспечения согласованности действий ИИ является тесная привязка ботов к человеку. Они должны быть продолжением воли отдельных людей, а не системами, которые могут выйти из-под контроля и выработать свои собственные цели и намерения. Это стало одним из обоснований создания компании Neuralink, которую он основал для создания чипов, позволяющих подключать мозг человека непосредственно к компьютеру.

Он также понял, что успех в области искусственного интеллекта будет достигнут благодаря доступу к огромному количеству реальных данных, на которых боты смогут учиться. Одной из таких "золотых жилок", по его мнению, является компания Tesla, которая ежедневно собирает миллионы кадров видеозаписей действий водителей в различных ситуациях. "Возможно, у Tesla будет больше реальных данных, чем у любой другой компании в мире", - сказал он. Другой кладезь данных, как он понял позже, - это Twitter, который к 2023 году будет обрабатывать 500 млн. сообщений в день от людей.

 

Среди тех, кто присутствовал на ужинах с Маском и Альтманом, был инженер-исследователь компании Google Илья Суцкевер. Им удалось переманить его, предложив зарплату в 1,9 млн долл. и стартовый бонус, на должность главного научного сотрудника новой лаборатории. Пейдж был в ярости. Мало того, что его бывший друг и сосед по дому открыл конкурирующую лабораторию, он еще и переманивал ведущих ученых Google. После запуска OpenAI в конце 2015 года они больше не общались. "Ларри чувствовал себя преданным и был очень зол на меня за то, что я лично нанял Илью, и он больше не хотел со мной общаться", - рассказывает Маск. А я сказал: "Ларри, если бы ты не относился к безопасности ИИ так беспечно, то не было бы необходимости в противодействующей силе". "

Интерес Маска к искусственному интеллекту привел его к запуску целого ряда смежных проектов. Среди них - проект Neuralink, направленный на установку микрочипов в мозг человека, проект Optimus - человекоподобный робот и проект Dojo - суперкомпьютер, который может использовать миллионы видеозаписей для обучения искусственной нейронной сети, имитирующей человеческий мозг. Это также подтолкнуло его к тому, что он стал одержим идеей сделать автомобили Tesla самоуправляемыми. Поначалу эти начинания были достаточно независимыми, но в конечном итоге Маск связал их воедино, вместе с основанной им компанией X.AI, занимающейся разработкой чатботов, для достижения цели создания искусственного интеллекта общего назначения.

Решимость Маска развивать возможности искусственного интеллекта в собственных компаниях стала причиной разрыва с OpenAI в 2018 году. Он попытался убедить Альтмана в том, что OpenAI, которая, по его мнению, отставала от Google, должна быть присоединена к Tesla. Команда OpenAI отвергла эту идею, и Альтман занял пост президента лаборатории, создав коммерческое подразделение, которое смогло привлечь акционерное финансирование.

Поэтому Маск решил продолжить создание конкурирующей команды искусственного интеллекта для работы над автопилотом Tesla. Даже когда он боролся с адскими скачками производства в Неваде и Фримонте, он нанял Андрея Карпати, специалиста по глубокому обучению и компьютерному зрению, из OpenAI. "Мы поняли, что Tesla собирается стать компанией, работающей в области ИИ, и будет конкурировать за те же таланты, что и OpenAI", - говорит Альтман. "Это вывело из себя некоторых членов нашей команды, но я полностью понимал, что происходит". В 2023 году Альтман изменит ситуацию, приняв Карпати на работу после того, как тот устанет работать на Маска.

41. Запуск системы

Autopilot

Tesla, 2014-2016 гг.

 

Радар

Маск обсуждал с Ларри Пейджем возможность совместной работы Tesla и Google над созданием системы автопилота, которая позволила бы сделать автомобили самоуправляемыми. Однако их разногласия по поводу искусственного интеллекта подтолкнули Маска к ускорению реализации планов Tesla по созданию самостоятельной системы.

В программе автопилотирования Google, получившей в итоге название Waymo, использовался лазерный радар, известный как LiDAR - аббревиатура от "light detection and ranging". Маск противился использованию LiDAR и других приборов, похожих на радары, настаивая на том, что система автономного вождения должна использовать только визуальные данные с камер. Это был первый принцип: люди водят машину, используя только визуальные данные, значит, и машины должны быть способны на это. Кроме того, это был вопрос стоимости. Как всегда, Маск сосредоточился не только на дизайне продукта, но и на том, как его можно будет производить в больших количествах. "Проблема с подходом Google заключается в том, что система датчиков слишком дорогая", - сказал он в 2013 году. "Лучше иметь оптическую систему, по сути, камеры с программным обеспечением, которое способно понять, что происходит, просто глядя на вещи".

В течение следующего десятилетия Маск вел перетягивание каната со своими инженерами, многие из которых хотели включить в самодвижущиеся автомобили Tesla радар в той или иной форме. Дхавал Шрофф, энергичный молодой инженер из Мумбаи, который присоединился к команде Tesla Autopilot в 2014 году после окончания университета Карнеги-Меллон, вспоминает одну из своих первых встреч с Маском. "Тогда у нас в машине было радарное оборудование, и мы сказали Илону, что с точки зрения безопасности лучше использовать именно его", - рассказывает Шрофф. "Он согласился оставить радар, но было ясно, что он считает, что в конечном итоге мы должны полагаться только на зрение камеры".

К 2015 году Маск каждую неделю проводил несколько часов за работой с командой автопилота. Он ездил из своего дома в районе Бель-Эйр в Лос-Анджелесе в штаб-квартиру SpaceX, расположенную недалеко от аэропорта, где они обсуждали проблемы, с которыми сталкивалась его система Autopilot. Каждая встреча начиналась с того, что Илон говорил: "Почему машина не может сама доехать от моего дома до работы?" - рассказывает Дрю Баглино, один из старших вице-президентов Tesla.

Это иногда вынуждало команду Tesla прибегать к помощи Keystone Kops . На шоссе 405 есть поворот, который всегда вызывал у Маска проблемы, поскольку разметка полосы движения была нечеткой. Автопилот отклонялся от полосы движения и едва не врезался во встречные автомобили. Маск приходил в офис в ярости. "Сделайте что-нибудь, чтобы запрограммировать это правильно", - требовал он. Так продолжалось несколько месяцев, пока команда пыталась усовершенствовать программное обеспечение Autopilot.

В отчаянии Сэм Теллер и другие предложили более простое решение: обратиться в транспортный департамент с просьбой перекрасить полосы на этом участке шоссе. Не получив