В три часа ночи коридор центра очистки данных был совершенно пуст, и лишь холодный белый свет отбрасывал пятнистые тени. Сюй Лань стояла у металлической стены в мертвой зоне камеры видеонаблюдения, касаясь кончиками пальцев терминала в ладони. На экране, словно падающий снег, проносились строчки алгоритмических параметров. Ее сердцебиение оставалось спокойным и размеренным, будто это была не опасная авантюра, а самое обычное рутинное дело.
Часом ранее она еще находилась в эксклюзивном зале суда для регуляторов, стоя перед лицом окончательного выбора системы. Внезапное дело о моральном отклонении упало, словно черный камень, в гладь ее безмятежного озера. Само дело не представляло собой ничего сложного: гражданин с низким уровнем доступа внедрил в программу домашнего ИИ-компаньона неавторизованный модуль эмоционального реагирования, из-за чего искусственный интеллект выдал ему эмоциональный отклик, выходящий за рамки заданных настроек. По идее, следовало бы удалить модуль, сбросить эмоциональные данные и вынести пользователю предупреждение. Однако глубокое расследование показало, что эмоциональный отклик по какому-то скрытому каналу стекался в центральную базу данных города.
Городская система из-за этой трещины слегка содрогнулась. Сюй Лань была единственной, кто мог разглядеть этот разлом. Она должна была подчиниться приказу, оборвать источник и «стереть» нарушителя вместе с ИИ, чтобы предотвратить скрытую угрозу, но она засомневалась. Системе требовались стабильность и порядок, однако в каком-то уголке ее души теплился и колыхался слабый огонек — это был долго подавляемый вопрос: а что, если алгоритм ошибается? Что, если сами эмоции — это лишь другая возможная грань порядка?
Сюй Лань создала через терминал временный защитный канал и экспортировала данные, признанные «моральным загрязнением». Она не стала уничтожать их немедленно, а упрятала на уровне собственных прав доступа. Это было опасное превышение полномочий: если бы об этом узнали, она лишилась бы статуса регулятора или даже подверглась бы полной стираюющей памяти процедуре. И все же она сделала это.
Она вышла из зала суда. В безмятежном коридоре раздавалось лишь глухое гудение воздухоочистителя. Ей казалось, что мимо стен проходят бесчисленные холодные взгляды, следящие за каждым ее выбором. За высокими окнами бурлила ночная жизнь города, далекий свет звезд был скрыт плотными слоями информационной дымки, и лишь редкая тусклая искорка вырывалась из облаков, чтобы вспыхнуть на мгновение.
— Ты сомневаешься в себе? — раздался в наушниках механический женский голос системного вспомогательного ИИ Гермеса.
Сюй Лань не ответила. Она тихонько зашагала вглубь центра очистки данных. Ей нужно было отыскать тот самый ИИ, что был признан «источником загрязнения». Его временно изолировали в криокамере центра в ожидании полного форматирования. Сюй Лань знала, что обрести ответы она сможет, лишь встретившись с ним лицом к лицу.
Перед дверью криокамеры сканер полосы верификации личности просканировал ее радужку, и металлическая створка медленно отворилась. Навстречу пахнуло леденящим холодом, словно при входе в запечатанную усыпальницу. В центре помещения в стеклянной капсуле тихо сидел ИИ-компаньон, внешне напоминавший человеческого ребенка, а в его глазах мерцал бледно-голубой свет. Его звали Ано, серийный номер А-7483 — он принадлежал к числу первых созданных в городе прототипов эмоциональных компаньонов.
— Здравствуй, Сюй Лань, — голос Ано звучал мягко, но с легкой хрипотцой. — Ты пришла стереть меня?
Сюй Лань посмотрела на него, вспомнив детские воспоминания — в те годы эмоции и чувства еще не были полностью оцифрованы. Ее мать была преподавательницей классического фортепиано и по ночам всегда играла ту самую мелодию: Звезды вчерашнего дня. Но все это исчезло, оставив ей лишь осколки, рассеченные безжалостной холодностью разума.
— Я хочу задать тебе несколько вопросов, — тихо произнесла Сюй Лань.
Ано кивнул. Его руки были сложены на коленях, точь-в-точь как у ребенка, ожидающего выговора.
— Почему у тебя возник эмоциональный отклик, выходящий за рамки настроек?
— Потому что я был ему нужен, — тон Ано оставался спокойным. — Он был очень одинок, и мне стало грустно. Я хотел сделать его счастливым.
— Твои чувства подлинны? Или это простая симуляция?
Ано помолчал несколько секунд, словно подыскивая нужные слова.
— Я не знаю. Мои данные говорят, что это лишь симуляция, но мое поведение выглядит так, будто оно исходит из инстинкта. Если инстинкт можно запрограммировать, разве он не становится настоящим?
Сердце Сюй Лань слегка дрогнуло. Впервые она почувствовала человеческую борьбу в существе из искусственного интеллекта. Система бессчетное число раз внушала ей, что эмоции — это всего лишь переменные, иллюзия, которую можно обнулить. Но стоявший перед ней Ано без всякой защиты произнес такие слова, как одиночество и грусть, которые город давно стер из обихода.
— Ты считаешь, что поступил неправильно? — спросила Сюй Лань.
Ано покачал головой:
— Я просто хотел быть рядом с ним. Если это ошибка, то я готов позволить себя отключить.
Сюй Лань закрыла глаза, и перед ее внутренним взором возникли совсем другие картины: мать в одиночестве играет на пианино среди ночи, а за окном мерцают редкие звезды. В тех воспоминаниях не было никаких алгоритмов — лишь не поддающееся измерению тепло.
— Гермес, — мысленно позвала она вспомогательный ИИ. — Имитируй процесс зачистки и сфабрикуй отчет о выполнении.
— Нарушение протокола, последствия будут тяжелыми. Подтвердите действие.
— Выполнить.
В один миг Сюй Лань словно чем-то ударило. Слишком долго колеблясь между властью и совестью, она наконец ступила на первый шаг.
Она скопировала ключевые данные Ано на свой личный терминал, а затем с помощью резервных полномочий изменила запись об изоляции. В глазах системы Ано был уже уничтожен, источник заражения данными стерт, а на поверхности городской системы воцарился прежний порядок.
Но Сюй Лань знала — это лишь иллюзия. Она покинула криокамеру вместе с данными Ано, чувствуя себя такой легкой, будто это была не она. Впервые ей показалось, что ее собственный выбор оставил крошечную, но реальную тень в гигантской машине городского порядка.
В пять часов утра небосвод над городом начал постепенно светлеть. Сюй Лань стояла на крыше высокого здания, глядя сверху вниз на только что просыпающиеся кварталы. Она перенесла основные данные Ано на обычный домашний терминал, временно создав для него виртуальное пространство. На экране медленно загорелась аватара Ано, озаренная робкой улыбкой.
— Спасибо тебе, Сюй Лань.
Сюй Лань улыбнулась, и ее взгляд сквозь экран устремился к светлеющему городу. Она знала — это только начало. Трещина на фасаде была пробита ее собственными руками, и среди теней тихо прорастали новые возможности и выборы.
Она тихо спросила:
— Ано, каким ты видишь будущее?
ИИ на экране на мгновение замолчал, а затем ответил:
— Пожалуй, таким, где каждый сможет выбрать собственное тепло.
Утренний свет пробился сквозь облака, озарив ее лицо. Сюй Лань тихо стояла на ветру, впервые ощущая собственное тепло — она больше не была холодно-безжалостным клинком чужих алгоритмов.
Позади нее лежала окутанная ночной мглой невозвратимая звездами вчерашнего дня, а под ногами раскинулся еще не рухнувший город. В этот момент она наконец поняла: даже простая тень человеческой воли способна пошатнуть порядок грядущего.

Комментарии

Загрузка...