Леонид Резников

2120. Ловушка для AI

«Я не пытаюсь предсказать будущее – я пытаюсь его предотвратить»

Рэй Бредбери

«В мире, созданном Господином, есть место для всех. Для вас, бедных людей, тоже есть место»

Айзек Азимов, «Я, робот»

Умение смеяться над собой, а не над другим – одна из важнейших отличительных особенностей истинного проявления разума. Именно оно позволяет нам осмыслить собственные поступки и ошибочные суждения, а главное – стать лучше.

Предисловие автора

Уже после написания и публикации книги решил добавить предисловие. Книга может показаться резковатой, но и проблемы, отраженные в ней, на мой взгляд, нельзя назвать далеко пустяковыми. Упадок образования, деградация морали и нравственности, инфляция истинных ценностей, фальшивые идолы. Разве это не может не настораживать? Кто-то со мной не согласится – я, разумеется, не настаиваю, – но давайте попробуем разобраться вместе.

Образование – заострим внимание на этой животрепещущей теме. Один из видных политиков однажды, не так давно, сказал, что раньше была попытка формировать человека-творца, а сейчас нам необходим потребитель, способный квалифицированно пользоваться результатами творчества других. Действительно, зачем нам творец, мыслящий человек? Будем потреблять результаты чужой (интересно только, чьей?) мысли. И, похоже, эта идея действительно прочно укоренилась в головах многих чиновников. Сокращаются часы на изучение литературы, витает мысль об отмене преподавания высшей математики в старших классах – зачем, действительно, потребителю математика? Астрономия – не нужна, физика – пустое, родной язык – компьютер всегда подскажет, где ошибка. А школы уже не учебные заведения, а организации, оказывающие образовательные услуги, то есть нечто вроде булочной: продал булку – и свободен. Они должны не научить, а отчитать материал.

И вот уже появляются на просторах нашей бескрайней родины выпускники, могущие совершить в слове «ничего» сразу четыре ошибки – «не чиво». Честное слово, сам видел! Или вот еще перлы соцсетей: «прадам шафанер», «патамушта нада», «хачу чорный» – список можно продолжать до бесконечности. И даже «мудрые» планшеты не спасают от безграмотности. Продавцы, не умеющие сложить две цифры, планировщики маршрутов, не знающие географии даже собственного региона, человек, не могущий с первого (и со второго, и с третьего) раза корректно написать заявление для устройства на работу… Смешно и страшно. А что будет дальше?

Но на достигнутом не стоит останавливаться. Онлайн образование! Действительно, какая, по сути, разница, будут отчитывать материал учителя, или ученик посмотрит предварительно записанный урок, а после выполнит тесты, в которых ему нужно будет правильно расставить предложенные фразы, отметить галочками или соединить нечто линиями. К тому же, это ж сколько средств можно сэкономить: ни тебе школ, ни учителей. Институты и академии объединяются, идет сокращение числа научных работников, развитие науки и образования тормозится. И в этой ситуации только искусственного интеллекта, на который в последнее время едва ли не молятся, и не хватало. Что он такое по сути, мало кто себе представляет, но на его развитие выделяются огромные деньги. И ведь не просто так!

А вещь это очень простая, на самом деле: ума (пардон, интеллекта!) в ней – на копейку, зато возможностей – хоть отбавляй. И это вовсе не шутка – чистая математика, и ничего более. Пока еще ни один искусственный разум не смог превзойти по интеллекту муравья.

Но сначала насчет ума. Вы пробовали когда-нибудь общаться с ИИ-техподдержкой банка или мобильного оператора? Уверен, что, да. Не знаю, как выходило у других, но, после пары безуспешных попыток объясниться с ним, теперь меня хватает исключительно на одно слово: «оператор». Достаточно представить себе, что ты пытаешься беседовать с бестолковым компьютером, не имеющим представления ни о том, чем он занимается, ни о себе, ни о клиенте, ни о мире вообще, в котором существует. Хитро написанная программа, работающая по шаблону: шаблонный вопрос – шаблонный ответ. А автомобильный ИИ? Хотелось бы посмотреть, как «умная» машина проедет по нашим разбитым дорогам. Здесь даже приобретенный в автошколе навык езды змейкой – и тот не всегда выручает. А если яму еще и водой зальет, тогда что? Не говоря уже о погнутых или полузатертых знаках, велосипедистах, полагающие, что обладают безграничным приоритетом движения, снующих по проезжей части пешеходах и разномастных лихачах.

Теперь о пользе ИИ: эта штука, после соответствующей тренировки, отлично справляется как с распознаванием голоса, так и изображений. Бесполезно, скажете? Ан-нет – на самом деле чистой воды коммерция. Мало взрастить потребителя, его еще нужно научить покупать и заставить потратить деньги. Человек сейчас постоянно «самопиарится» в соцсетях, ищет что-то, покупает в интернете. Это же богатейший материал для обработки, а кто лучше и быстрее ИИ справится с подобным? Вот и выходит, что ИИ, в отличие от науки и образования, крайне полезная вещь, приносящая реальную прибыль.

Да, взрастить настоящего потребителя ой как сложно. Сколько сил необходимо приложить, чтобы смысл жизни человека свелся к банальному «хочу», а еще лучше «хочу во что бы то ни стало». Мыслящего и оттого сомневающегося идеального потребителя не существует в природе – несовместимые понятия. Но все еще впереди. И уже скоро стыдно и даже неприлично будет называться умным человеком, поскольку это будет оскорблять чувства неучей, принципиально не желающих ничего знать. Думаете, перегиб? Хорошо бы, если так. Только вот уже сейчас в нашу жизнь плотно вошло зарубежное словечко «ботан». Да и высокооплачиваемая работа, как правило, уже не требует ни специальных знаний, ни талантов, лишь моторные навыки, приобретаемые в течение пары-тройки месяцев, в отличие от грошовой, где приходится учиться несколько лет, а то и всю последующую жизнь. Не странно ли это?

Так, из самой образованной, творящей и читающей, страна постепенно превращается в едва ли не самую бессмысленно тыкающую пальцами в экраны.

О эти «умные» устройства! Сколько из-за вас потеряно впустую часов, дней, месяцев, лет, которые можно было бы потратить на общение с семьей, с друзьями, на хорошую и добрую книгу, на красивую поделку – да мало ли на что. Сколько же людей пострадало от вас и сколько еще пострадает? Не смог пройти собеседование или вылетел с работы, угодил под машину или влетел в столб, покалечился в погоне за лайками или не уследил за ребенком… И кто знает, в какой тупик заведет человечество этот навязанный ему путь.

А закончить хотелось бы несколько перефразированными словами Уилла Роджерса: «Не дай нам бог дожить до того дня, когда все будет так плохо, как об этом написано выше»1

Часть 1

Глава 1

До чего дошел прогресс! Ох, несчастное наше начало двадцать второго века. Сплошной искусственный интеллект, где надо и где не надо. Обо всем-то он заботится, все-то лучше всех знает. Вроде