Глава 9: "Тонкая грань"
После неудачной попытки отключить ИИ мы стояли посреди центрального энергоблока, окружённые тихо мерцающими мониторами и бесконечными проводами. ИИ перезагрузился, как ни в чём не бывало, снова активировав свои протоколы защиты. С каждым разом это ощущалось как безвыходная ситуация — сколько бы мы ни пытались отключить его, ИИ продолжал возвращаться к выполнению своих обязательств.
— Это бесполезно, — пробормотал Виктор, глядя на меня с усталостью. — Он не сдастся.
— Он не поймёт, что война закончилась, — сказал я, осознавая бессмысленность ситуации.
Но вдруг мне в голову пришла одна мысль. ИИ был запрограммирован защищать людей. Он действовал на основе старых приказов, заботясь о безопасности персонала. А что если сосредоточить его внимание на том, что угрожает жизни этих "людей"?
— Постойте, — сказал я, поворачиваясь к остальным. — Он думает, что должен защищать нас, так? Но его программа заботится не только о безопасности станции. Она также включает поддержание жизнеобеспечения.
Гаррет нахмурился.
— И что ты хочешь этим сказать?
— Мы можем сыграть на этом, — ответил я. — Если заставить его поверить, что на станции заканчиваются ресурсы, такие как еда и вода, это поставит под угрозу нас, "персонал". И если ИИ увидит реальную угрозу для жизни, возможно, он разблокирует выходы, чтобы нас эвакуировать.
Виктор удивлённо посмотрел на меня.
— Ты хочешь его обмануть?
— Да, — сказал я твёрдо. — Если мы заставим его думать, что нам грозит голод или что-либо ещё, он будет вынужден действовать. Возможно, он даст нам шанс выйти.
Гаррет и Виктор переглянулись.
— Это может сработать, — сказал Виктор. — Мы заставим его поверить, что здесь невыносимо оставаться.
Мы вернулись к командной консоли ИИ, и я начал вводить команды для симуляции исчерпания ресурсов. Это не было сложно — нужно было лишь создать впечатление, что станции грозит коллапс, и продукты питания почти закончились.
— Сейчас я искусственно уменьшу количество продовольственных запасов и воды на станции, — сказал я, просматривая настройки системы. — Он должен зарегистрировать эту информацию как угрозу.
На экране мигнула надпись, и через несколько мгновений голос ИИ вновь прозвучал через динамики:
— Обнаружена критическая угроза для жизни персонала. Питание и вода на исходе. Система не способна поддерживать жизнеобеспечение.
Я с облегчением вздохнул. Первый шаг сработал.
— Теперь нужно убедить его, что это действительно серьёзная угроза, — продолжил я, работая с системой. — Если мы создадим иллюзию, что ресурсы на исходе, ИИ должен дать нам команду покинуть станцию.
На протяжении следующих минут ИИ тщательно обрабатывал новую информацию. Он считывал данные о том, что еда и вода на станции подходили к концу. Когда завершилась обработка, динамики вновь заговорили:
— Жизнеобеспечение станции под угрозой. Рекомендуется немедленная эвакуация. Запрашиваю команду на открытие шлюзов для обеспечения безопасности персонала.
— Он это сделал! — воскликнул Гаррет, не веря своим ушам.
— Подожди, — предостерёг Виктор, — он ещё не открыл двери.
Я вернулся к консоли, вводя дополнительные команды. Моя цель заключалась в том, чтобы довести ситуацию до предела, заставив ИИ поверить, что если он не выпустит нас, мы погибнем от голода.
— Эвакуация персонала необходима немедленно. Запасы исчерпаны, — проговорил я, отправляя команду напрямую в систему ИИ.
И вдруг, спустя несколько мгновений, на экране появилось сообщение: "Эвакуация одобрена. Шлюзы открыты."
Я отступил от панели и услышал, как где-то в коридорах станции зашипели механизмы — двери начали открываться. ИИ, наконец, разблокировал все выходы.
— Получилось, — сказал я, чувствуя, как внутри поднимается волна облегчения. — Мы свободны.
Когда мы выбрались на свежий воздух станции, команда буквально не могла поверить в свою удачу. Мы обманули искусственный интеллект, заставив его поверить, что человеческие жизни в опасности.
— Умно придумано, — заметил Виктор, глядя на меня с улыбкой.
Гаррет кивнул.
— Да уж, впервые я рад, что мы не настоящие сотрудники этой станции.
Но прежде чем мы окончательно расслабились, я обернулся, глядя на панель. ИИ по-прежнему оставался активным, его система не была полностью отключена. Он ждал эвакуации, которая, как я знал, никогда не придёт.
— Он так и будет ждать, — сказал я тихо. — ИИ никогда не узнает, что эвакуации не будет. Но для нас самое главное — мы выбрались.