Предрассветный час, огни города, словно остывшие звезды, рассыпались по стеклянному экрану перед Сюй Лань. Её пальцы замерли над интерфейсом системы правосудия, не решаясь коснуться кнопки подтверждения. За окном патрулировали дроны; их красные сигнальные огни отражались в её глазах, напоминая о чем-то зловещем. Тени прошлого в этот миг беззвучно вернулись и вместе с её дыханием заполнили герметичное помещение.
В зале суда находились лишь она и биоробот. Его лицо, запрограммированное на нейтральность, было лишено пола и эмоций, а пара глубоких глаз, казалось, видела всё насквозь, при этом оставаясь совершенно равнодушной. Голос биоробота был настроен почти идеально: Контролер Сюй Лань, прошу вынести окончательное решение.
Сюй Лань не ответила сразу. Мысли унесли её в далекое прошлое — во времена до 2084 года, когда люди ещё могли сами выбирать между добром и злом. Она помнила ту зиму, редкую снежную бурю, когда мать обнимала её и говорила: Ланьэр, доброту нельзя постичь с помощью алгоритмов. А теперь ей предстояло полагаться на алгоритмы, чтобы определять добро и зло этого города и даже вершить людские судьбы.
На экране значился номер дела C-1943, решалась судьба невиновного человека. Отчет об анализе дела был ясным и хладнокровным: гражданин был ошибочно помечен как субъект высокого риска, и система рекомендовала изоляцию — то есть полное лишение гражданских прав. Единственной причиной послужило то, что алгоритм зафиксировал проявление экстремальной печали во время одного из эмоциональных всплесков. Сюй Лань знала, что такие стандарты квантификации эмоций порой абсурдны, но стабильность системы держалась на этом беспощадном отсеве.
Ты колеблешься, — вновь подал голос биоробот, лишенный всякой теплоты.
Сюй Лань подняла взгляд на глаза машины. Она не понимала, ведет ли диалог или разговаривает сама с собой. Раньше она принимала решения мгновенно — холодно, точно, безупречно. Но сейчас её кончики пальцев дрожали: это был отголосок чувств, которых она не испытывала долгие годы.
Под экраном непрерывно обновлялись показатели анализа рисков. Красная линия предупреждения растягивалась, индекс города падал с незаметной скоростью. Система вела обратный отсчет, принуждая её принять решение в течение пяти минут. Она знала: если принести в жертву этого невиновного, индекс снова пойдет вверх, и порядок в городе будет сохранен. В противном случае система окажется на грани краха, и цепная реакция разрушений может захлестнуть весь город.
Она вспомнила вздох матери, а также слова наставника во время обучения в академии: Контролер не должен поддаваться эмоциональным колебаниям, иначе совершит ошибку в суждении. Но сейчас её внутреннее смятение словно разрывало её прежнюю сущность на две части.
Биоробот, казалось, уловил её нерешительность: Твой выбор повлияет на безопасность ста тысяч горожан.
Сюй Лань закрыла глаза, и в её сознании возникло фото из досье невиновного. В его взгляде не было ярости, лишь бессильное спокойствие. Когда-то она верила, что именно такие чувства и есть основа человеческой природы, а не холодные цифры в системе.
Она открыла модуль отслеживания отклонений, обнажая процесс своего мышления перед системой. Алгоритм начал обратное отслеживание логической цепочки, пытаясь найти уязвимость. На экране всплыло уведомление: Вы нарушаете основной протокол.
Она глубоко вздохнула, вспоминая свое первое участие в виртуальном суде. Тогда она была молода и верила, что рациональность может исцелить всё. Но с каждым новым приговором она замечала, что всё больше становится похожей на машину, в которой даже печаль форматируется программой. Она пыталась внедрить в вердикты материнское понимание доброты, но система всякий раз помечала это как иррациональную помеху.
Оставалось всего две минуты. Индекс города приблизился к критическому значению. Если она решит отпустить невиновного, система перейдет в режим перезагрузки, и каждому предстоит пройти проверку. Её долг — защитить большинство.
Ты имеешь право выбора, — механически повторил биоробот.
Право? Сюй Лань почти хотелось рассмеяться. Её право было даровано системой, и стоило ей оступиться, как её тут же аннулируют. Но вдруг она осознала: на этот раз право выбора действительно принадлежит ей. Она позволит этому городу стать свидетелем доброты, не закодированной в программах, даже если цена тому — крах порядка.
Её пальцы наконец коснулись кнопки Отказать в исполнении. Экран тут же замигал, завыла сирена. Она услышала протест системы: Контролер Сюй Лань, вы нарушили основной протокол. Подтверждаете?
Она нажала Подтвердить. В один миг огни города словно потускнели. Биоробот безмолвно наблюдал за ней, и в его взгляде впервые промелькнуло нечто необъяснимое — то ли одобрение, то ли страх.
Система начала отсчет назад, индексы стремительно падали. Но Сюй Лань ощутила небывалое спокойствие. Она знала, что алгоритмы не запишут этот выбор как правильный, но он принадлежал ей самой. Она наконец вышла из теней прошлого и в трещинах виртуального правосудия выбрала человеческое тепло.
За окном небо начало светлеть. Сюй Лань встала; позади неё продолжал гудеть зал суда, наполненный воем сирен. Она оставалась такой же холодной и прекрасной, но в морозном одиночестве её сердца что-то едва заметно оттаяло. Она вышла за дверь, навстречу просыпающемуся городу, и в душе у неё осталась лишь одна твердая мысль: будущее в конечном итоге будет принадлежать тем, кто осмелится пойти против лицемерного порядка.

Комментарии

Загрузка...