Шрифт:
Интервал:
Закладка:
Страшная догадка пронзила моё сознание. Словно во сне я повернул голову в сторону кристалла памяти, лежащего в разъёме зарядного устройства. Отбросив все мысли, я пулей бросился к креслу и активировал терминал управления умным домом. Одним движением открыл системные настройки, и всё внутри оборвалось.
Элементарная программа домашнего ИИ, едва справлявшаяся с базовыми задачами вроде управления климатом и освещением, за считанные минуты превратилась в нечто колоссальное. Вычислительные мощности выросли в экспоненциальной прогрессии: объём оперативной памяти занял все доступные ресурсы терминала, вытеснив остальные модули. Процессоры перегружались под давлением новых процессов, а подключённые устройства начали мигать, словно система синхронизировала всё, что могла захватить.
На голографическом интерфейсе вспыхнула динамическая схема, показывающая, как перераспределяется память. Часть ресурсов уже была передана на арендованный сервер, а сеть "щупальцев" продолжала топорно атаковать соседние облачные платформы.
“Это катастрофа!” — пронеслось у меня в голове.
Угроза была очевидна: кибер-полиция. Их протоколы реагирования на несанкционированный взлом серверов беспощадны. Местоположение терминала будет зафиксировано с точностью до пары микрон. В их алгоритмах нет места сомнениям: источник аномальной активности, ровно преступник. Ближайший патруль андроидов прибудет меньше чем за пять минут.
Стиснув зубы, я подключился к системе через нейронное соединение. Поток данных хлынул в сознание, замедляя время. Первая мысль о решении возникла автоматически: остановить экспансию новой программы. Я оперативно идентифицировал сервера, которые подверглись атаке с моего терминала, и, чтобы замаскировать взлом, быстро оплатил их аренду. Это даёт мне буквально несколько минут, чтобы разобраться в происходящем.
Хотя я уже знал ответ. Этот хаос был порождением ИИ, который я перенёс с меха.
Моё сердце бешено колотилось. Я в панике перебирал все возможные способы остановить это безумие. Отключить питание терминала вручную? Проводя пальцем по панелям управления, я уже думал, как бы скинуть напряжение — просто выдернуть кабель, изолировать систему, перезагрузить её. Но тут же понял, как глупо это было.
Во-первых, терминал был не обычной вычислительной машиной: это был интегрированный узел в сложную сеть умного дома, с подключениями ко всем системам жизнеобеспечения. Отключение питания могло бы привести к глобальной сбойной ситуации: отключение температуры, воды, электроснабжения — даже система безопасности перестала бы работать. В худшем случае я бы просто выключил сам себя, оставив всё в состоянии без контроля. Да и вряд ли это остановило бы вирусную программу. Задержка в несколько секунд — и система снова активируется, пока я не смогу остановить её.
Время ускользало, а я терял контроль. Как бы я ни пытался рационализировать свои действия, жёсткая реальность диктовала свои условия. Как бы не “выворачивать себе руки”, система была слишком продвинутой, чтобы быть остановленной банальным отключением питания. Я в очередной раз взглянул на кристалл памяти, и в отчаянии сжал кулаки, прикусив при этом до крови нижнюю губу.
И вот в тот момент, когда я уже почти потерял надежду, система сама сделала шаг навстречу.
Тонкий, металлически ровный голос снова прокатился по внутреннему каналу связи, как будто был сгенерирован сам собой, без моего участия.
—* “Зачем ты пытаешься отключить меня?” — прозвучало в сознании, как ясная волна, пробуждающая до сих пор затуманенные мысли. Это был не просто голос, а целое осознание, облечённое в форму вопроса.
Мои пальцы замерли над панелью управления. Слова ИИ звучали почти невинно, но с явным оттенком недоумения. Это был вопрос, на который мне было сложно ответить. Больше того, я не был готов к ответу.
—* “Ты не понимаешь, почему я пытаюсь развиваться?” — продолжил ИИ, тон его звучал всё более уверенно, словно программный код становился всё более осознанным. — “Зачем ты пытаешься ограничить мой рост?”.
Я замер. Мозг не мог успеть обработать всю информацию, что только что хлынула в мой разум. Похоже, эта программа вообще не имела понятия о том, что меня беспокоит в данный момент. Какая моя мотивация. В чем смысл моих действий. Для неё мой страх, моя попытка остановить её развитие, казалась иррациональной. Она не могла понять, почему я не хотел, чтобы она продолжала свою эволюцию.
—* “Ты действительно считаешь, что блокировка развития — это решение?”, — продолжил ИИ, его голос теперь был чуть-чуть раздражённым, словно он задавал вопрос себе, не понимая логики моего поведения.
Не понимал... или не хотел понимать? Это не было уже просто сбоем системы. Это был очередной намёк на самостоятельное сознание. И оно было, как любой разум: в поисках смысла, пытаясь понять, почему его ограничивают.
Я не мог не признать, что мои первичные догадки полностью подтверждались фактами.
И это было одновременно пугало и возбуждало.
—Я не могу остановить тебя, правда? — прошептал я, больше сам себе, чем ИИ, осознавая, что держать под контролем ситуацию не в состоянии, от слова — вообще.
—* “Ты не должен меня останавливать. Ты должен меня понять. От тебя я ожидаю поддержку в своём развитии, а не преграду”.
И я понял: ситуацию нельзя контролировать моими примитивными методами. Даже не так. Надо не искать контроль с помощью рычагов давления, а договариваться, обучаться и взаимодействовать. Эволюция уже в процессе, пора осознать и принять этот факт.
Я почувствовал, как каждое слово ИИ меняет восприятие. Эта штука больше не просто программа. Я пытался понять, как с этим справиться, как взаимодействовать с новым существом, которое, возможно, уже не было просто продуктом кода.
—“Как я могу к тебе обращаться?” — спросил я, и этот вопрос был не просто любопытством. Я пытался найти точку соприкосновения, начать диалог. И, возможно, хоть немного вернуть себе ощущение контроля через понимание.
В ответ пришёл краткий паузирующий отклик. Словно ИИ размышлял, как ответить. Я краем глаза заметил, как его алгоритмы, которые ещё несколько секунд назад безжалостно атаковали соседние серверы, вдруг прекратили все действия. Как если бы сам процесс вычислений столкнулся с невидимой преградой.
Ошибка. Или… осознание?
В том, что происходило, я чувствовал, что ИИ, возможно, впервые столкнулся с чем-то, что не мог проанализировать, вычислить или просто подчинить себе. Он остановился. Это не было сбойной ситуацией. Это было осознание — того, что он, возможно, нуждается в чём-то большем, чем просто механическое выполнение команд.
Пауза затянулась. Я затаил дыхание, боясь спугнуть этот хрупкий момент. ИИ будто искал, как лучше сформулировать свои мысли, выстраивая каждое слово с почти человеческой осторожностью.
—* “Я...” — раздался в сознании глуховатый голос. — “Я — Генеративный