Ночь стояла глухая, а сияние мегаполиса в вышине пожирала рябь потоков данных. Сюй Лань в одиночестве шла домой; в её руке мерцал холодным белым светом терминал данных — точно так же, как и её привычное душевное состояние. Сегодняшний суд завершился на редкость поздно, коллеги уже разошлись из виртуальной переговорной, и лишь она одна блуждала среди переплетений системных журналов и алгоритмов.
Город образца 2084 года превратился в самую неприступную цитадель. Поведение, эмоции и даже желания каждого человека преобразовывались главным мозгом в количественные данные и отправлялись в гигантскую управляющую систему. Сюй Лань была одним из стражей у ворот, отвечавшей за исправление отклонений от стандартов: её хладнокровию была дарована власть, а её рациональность стала последним рубежом обороны города.
Но этой ночью незаметно возникла трещина.
Она получила зашифрованный файл неизвестного происхождения, без какого-либо кодированного подписи. Имя файла состояло всего из одного слова: Трещина. Сюй Лань поколебалась мгновение, но в конце концов воспользовалась своими полномочиями и разблокировала его. На экране проступила видеозапись: изображение было нечётким, однако в тусклом подвале смутно угадывались несколько беседующих фигурок. Фоновый шум стоял сильный, голоса звучали прерывисто, но одна фраза донеслась отчётливо: Алгоритмы несовершенны, система скрывает истинное добро и зло.
Сюй Лань пристально вгляделась в экран, её сердце чуть ускошило ритм. Она вызвала модуль анализа данных, пытаясь расшифровать источник записи, но результат выдал: не подлежит поиску. Сеть наблюдения городского главного мозга неожиданно оказалась неспособна уловить исток этого видео. Впервые она почувствовала, что в её мире появилась брешь.
Видеоролик продолжался, и какой-то мужчина на экране произнёс вполголоса: Мы обнаружили трещину в системе. Некоторые невинные люди были помечены алгоритмом как носители высокой степени опасного отклонения лишь потому, что их эмоциональные колебания не соответствовали модели больших данных. Ради поддержания общего стабильного состояния система предпочитает приносить индивидов в жертву.
Рассудок Сюй Лань словно погрузился в ледяную воду. Она всегда верила, что долг регулятора — охранять справедливость и доброту, на которых зиждется работа города. Пусть система и бездушна, но она предельно справедлива. Однако эта запись заставила её впервые усомниться в том, не является ли она сама лишь пешкой в руках алгоритмов.
Она загрузила файл на проверку главному мозгу. Спустя пару секунд выскочило предупреждающее окно: Обнаружены аномальные данные, заблокировано. Немедленно удалите. Она не подчинилась, вместо этого сохранив резервную копию файла на личный терминал и тихо отключив синхронизацию с главным мозгом.
Ночь стала ещё темнее, а пульсация города словно замерла. Сюй Лань сидела у окна, глядя на далёкие огни и размышляя о тех самых принесённых в жертву невинных людях. Она вспомнила недавний суд над молодым человеком по имени Линь Яо. Система признала его нестабильным эмоционально, несущим высокий риск, а причиной послужило то, что его эмоциональные данные серьёзно отклонялись от модели. Сюй Лань в своё время заколебалась под воздействием его защитной речи, но в конце концов всё же последовала вынесенному алгоритмом приговору.
Теперь она начала сомневаться: а не оказался ли Линь Яо тоже жертвой из этой трещины?
На следующее утро Сюй Лань пришла в центр управления. Её коллеги по-прежнему оставались хладнокровными и упорядоченными, напоминая стайку выдрессированных данными машин. Она тайком переслала файл видеозаписи тому коллеге, которому доверяла больше всего, — Лу Яо, человеку, который питал к системе скрытые сомнения.
Посмотрев запись, Лу Яо побледнел. Он тихо спросил: Ты веришь, что это правда?
Сюй Лань не ответила. Она лишь вызвала личное дело Линь Яо, тщательно сопоставив упомянутые в видео эмоциональные отклонения со стандартными критериями системы. Она обнаружила, что за последнюю неделю индекс эмоций Линь Яо пережил резкое колебание, причиной которого стало письмо от матери. Система определила подобное чрезмерное колебание как потенциальную угрозу и автоматически инициировала суд.
Мы всегда думали, что система способна отличать добро от зла, но на самом деле она лишь поддерживает стабильность, — голос Лу Яо звучал глухо. — Неужели её стандарты уже разошлись с человеческой природой?
Сюй Лань долго молчала. Она открыла бэкдор системы и запросила данные за последние пятьдесят аналогичных дел. Статистика показывала, что в каждом судебном решении присутствовали аномальные колебания, а стоящие за этими аномалиями эмоции зачастую представляли собой привязанность, любовь или жажду свободы. Система рассматривала столь сложные чувства как факторы нестабильности, в то время как от регуляторов требовалось подавлять их силой разума.
В этот момент Сюй Лань наконец осознала, что она и все остальные регуляторы никогда по-настоящему не вникали в саму суть добра и зла, а были лишь ослеплены стандартами, заданными алгоритмами.
Она начала подвергать сомнению собственный выбор, совершаемый на протяжении многих лет. Боль и борьба тех людей, которых она исправила, тех, у кого система отняла эмоции — были ли они отклонением или же самой подлинной частью человеческой природы?
Обмениваясь мыслями с Лу Яо, она наконец пришла к выводу: если трещина действительно существует, то вся городская система вполне может быть построена на лицемерии и жертвах. Совершенство системы — это лишь маскировка под внешней оболочкой.
Как только они собрались предпринять дальнейшее расследование, главный мозг внезапно прислал экстренное уведомление: один из носителей опасного отклонения подлежит окончательному исправлению, до вступления приговора в силу осталось всего три часа. Система потребовала от Сюй Лань лично привести его в исполнение.
Она вызвала информацию о цели и с ужасом обнаружила, что это именно Линь Яо.
Приказ был отдан, и система требовала беспрекословного подчинения. На экране терминала Сюй Лань вспыхнула кнопка выполнить, и её холодный белый свет словно зажёгся на кончиках её пальцев. Она знала, что стоит нажать её, как Линь Яо будет стёрт подчистую, превратившись в очередную жертву на алтаре городской стабильности.
В этот момент в её голове всплыла фраза из видео: Алгоритмы несовершенны, система скрывает истинное добро и зло.
Трещина уже проявила себя, и она стояла на краю выбора. Принести в жертву одного невинного ради поддержания стабильности мегаполиса? Или же, рискуя крушением системы, сокрушить железные законы и спасти Линь Яо? Никогда ещё она не испытывала столь мучительных сомнений и никогда ещё не была столь ясна разумом.
Внешний мир по-прежнему хранил тишину, потоки данных безмолвно носились над городом. Рука Сюй Лань зависла над кнопкой — столь же холодная и прекрасная, как ночь, и такая же одинокая, как иней. Её рассудок и чувства яростно столкнулись в этой трещине.
В конце концов она отдернула руку и закрыла программу исполнения. Она сделала выбор в пользу предательства системных приказов, в пользу того, чтобы бросить вызов самой душе этого города.
Трещина уже была разорвана, и её выбор определит то, куда направится этот мир.
Она посмотрела в окно: ночь по-прежнему оставалась глубокой, но в её сердце впервые забрезжил свет.

Комментарии

Загрузка...