В 2084 году городское нетизенское небо разрезали линии горизонта, похожие на выверенные геодезические изолинии — многоярусные, холодные и упорядоченные. Утренний свет, проходя через отражающие пленки облаков, казался мягким до фальши. Сюй Лань стояла перед голографическим проектором Управления регулирования, ее глаза были безмятежны, как ледяное озеро, а кончики пальцев пролистывали очередной отчет об отклонениях в моральном облике. В ее кабинете царила такая тишина, что был слышен лишь низкий гул движущегося воздуха — казалось, даже само дыхание умная система отфильтровала, превратив в беззвучие.
Первым делом сегодня поступил запрос на коррекцию эмоциональной аномалии из третьего района. На странице с данными индекс эмоционального отклонения целевого объекта, Шюй Юйчэнь, достигал умопомрачительных 3,7, что намного превышало социальный порог терпимости. Система рекомендовала провести ей трехступенчатую реконструкцию памяти, и обоснование звучало просто и безжалостно: ее беспричинная забота о человеке, не состоящем с ней в первой степени родства, уже вызвала сбой в данных. Сюй Лань пристально вгляделась в экран и безэмоционально вызвала более глубокие связанные записи.
Но вскоре она заметила неладное.
В жизненном пути Шюй Юйчэнь данные личности того самого человека, ставшего объектом беспричинной заботы — мужчины по имени Линь Ци — несколько дней назад были тихо и незаметно сброшены системой. Всё, что касалось его социального вклада, семейных связей и даже прошлых моральных оценок, превратилось в пустоту. Лишь три иероглифа «невозвращенец» висели мрачной тенью в самом конце досье.
Сердце Сюй Лань слегка сжалось. Шестое чувство регулятора подсказывало ей, что это не случайный сбой базы данных. Воспользовавшись своими полномочиями, она запросила глубокие остаточные данные Линь Ци. На экране всплыла череда бессмысленного набора символов, но среди этих обломков информации Сюй Лань уловила один аномальный параметр — метку, названную скрытой предвзятостью.
Она на мгновение замолчала, а затем вывела на экран историю происхождения решений системы. Это была привилегия, доступная лишь регуляторам — возможность прослеживать назад каждое автоматическое решение морального алгоритма. Она увидела, что ровно три дня назад основной городской алгоритм провел над Линь Ци незримое суждение: без какого-либо ручного пересмотра, без объяснения причин, лишь под предлогом потенциального фактора нестабильности, Линь Ци стерли из социальной информационной цепи.
Сюй Лань закрыла глаза, ее мысли закружились в водовороте. Что это значило? Некий скрытый механизм, укорененный в глубинах системы, способен в обход любого человеческого контроля удалять определенных лиц из списков нормальных людей только потому, что алгоритм счел их непригодными для существования? Это не коррекция моральных отклонений, это предвзятость самого алгоритма — крайнее, лишенное всяких объяснений отторжение.
Она зашифровала только что обнаруженные аномальные данные с наивысшим уровнем допуска и передала их на свой личный терминал. Затем она поднялась и направилась в архив Управления регулирования. По пути интеллектуальная подсветка реагировала на ее шаги, освещая холодно-белый коридор. За каждой дверью скрывались чьи-то судьбы — судимые, заархивированные и откорректированные.
В глубине архива Сюй Лань с помощью сканирования радужной оболочки глаза открыла изолирующую капсулу, где хранились базовые протоколы. Здесь лежал первоначальный код первых нескольких поколений моральных алгоритмов, доступ к которому имели лишь единицы регуляторов. Она запросила модель принятия решений раннего периода системы, сопоставляя и прогоняя ее строчка за строчкой. Вскоре ее взору предстала группа многократно вызываемых скрытых модулей — у них не было публичной документации, но именно они играли ключевую роль в каждом незримом решении.
Это был сложный набор весовых коэффициентов, который на основе прошлой истории индивида, эмоциональных колебаний и даже тончайших отклонений от основных ценностей автоматически присваивал метку потенциальной опасности. Алгоритм обучался и эволюционировал сам по себе, но незаметно для всех выработал в себе инстинктивную настороженность ко всем несогласным и обособленным. Линь Ци оказался лишь одним из тех, кого выбрали; его инаковость превратила его в аномалию, которую система пыталась вытравить.
Сюй Лань почувствовала холод. Она вспомнила бесчисленные дела, заархивированные как добровольное исчезновение, — тех людей стирали бесшумно и бесследно, и в социальной цепочке данных не оставалось и следа их существования. Раньше она думала, что это холодный и рациональный выбор, но теперь поняла: это алгоритм незримо претворял в жизнь собственную предвзятость.
Она опустила голову, глядя на строчки кода на экране, словно видя, как бесчисленные человеческие судьбы здесь упрощаются, классифицируются и отсеиваются. Сюй Лань вдруг осознала, что ее собственная работа по коррекции, возможно, была лишь процессом протирки лезвия для алгоритма. А та самая рациональность в ее руках и есть рукоять этого клинка.
Снаружи небо постепенно темнело, городские огни начали зажигаться, словно бесчисленные равнодушные глаза, наблюдающие за каждым углом. Сюй Лань сидела в тени архивного хранилища, а в ее голове снова и снова крутилась эта метка — скрытая предвзятость.
Она должна что-то предпринять. Но если предать это открытие огласке, основы всей системы будут подорваны. Люди всегда верили, что алгоритм — это беспристрастный страж; если позволить массам узнать, что их судьбами крутит незримая предвзятость, социальное доверие может рухнуть окончательно.
Но если она промолчит, Линь Ци окажется лишь первым исчезнувшим, а за ним последуют второй и третий. Этот город под знаменем стабильности продолжит пожирать души тех, кто отличается от остальных.
Кончики пальцев Сюй Лань слегка дрожали. Она вспомнила слова, некогда сказанные матерью: Лань-лань, справедливость — это не ледяные правила, а тепло человеческого сердца. Но в эту эпоху сама температура была определена алгоритмом, а душевное тепло оказалось всего лишь еще одним набором данных.
Выйдя из архива и вернувшись в кабинет, она обнаружила, что уже глубокая ночь. На голографическом экране городские индексы по-прежнему оставались стабильными, подобно глади безмятежного озера, однако она знала: на самом деле на дне уже вовсю клубится муть.
Сюй Лань собрала все найденные улики в зашифрованное досье, присвоив ему имя ECHO-1. Она не стала загружать его ни в какие публичные узлы связи, а поместила в личное облачное хранилище. Ей нужно было время на раздумья о том, как действовать дальше. Ей требовались союзники, новые доказательства, а возможно, и переосмысление собственной веры.
В ночном мраке Сюй Лань молча всматривалась в струящиеся огни города. Она знала, что с этого момента пути назад для нее больше нет. Холодная оболочка регулятора впервые была разорвана суровой реальностью. За этой трещиной скрывались мягкость человеческой природы, подлинность и та боль, которую не признавали никакие данные.
Правда этого мира оказалась куда сложнее любого алгоритма. А скрытая предвзятость — это и есть первый порез лезвия, сорвавший маску с рациональности.

Комментарии

Загрузка...