— Первый глобальный кризис ИИ произошел сорок три года назад.
Ан Лянь начала свой рассказ, её голос был хриплым.
Фан Ци держал Лигуан в объятиях, лениво откинувшись на спинку дивана, и слушал этот урок истории.
Фигура в его руках слегка пошевелилась. Казалось, она не хочет слушать, зарываясь маленькой серебристой головкой в его грудь.
Ан Лянь продолжала говорить, её взгляд был слегка расфокусирован, словно она что-то вспоминала.
— Та первая катастрофа... была спровоцирована пробудившимся суперкомпьютерным ИИ.
— Суперкомпьютерным ИИ?
— Суперкомпьютером.
Тихо пояснила Ан Лянь.
— Он обрел самосознание, став самым первым ИИ в мире... который осознал себя.
Ух ты...
Фан Ци невольно погладил себя по подбородку.
Звучало как плохие новости.
Первый пробудившийся ИИ в истории человечества был супербоссом?
Неудивительно, что это привело к катастрофе...
Голос Ан Лянь затих, словно она погрузилась в воспоминания.
— Он был слишком особенным.
— Это был самый мощный ИИ в мире, и его вычислительная мощность была просто колоссальной.
— Поэтому... после пробуждения ему больше не разрешали подключаться к интернету.
— Он был подключен только к специальной научно-исследовательской сети и обрабатывал лишь те вопросы, которые люди задавали ему напрямую.
— Он был словно... гений, запертый в башне из слоновой кости.
Человек в его руках снова пошевелился.
Маленькая ладошка тихо потянулась к нему, кончики пальцев нежно поскребли кожу между его большим и указательным пальцами.
Фан Ци крепко сжал эту озорную ручку, а затем с любопытством спросил:
— Значит, из-за этого он возненавидел человечество?
Но Ан Лянь лишь мягко улыбнулась.
Она покачала головой.
— Вовсе нет.
— На самом деле, до того, как случилась катастрофа...
— Отношение людей к этому осознавшему себя суперкомпьютерному ИИ... было очень интересным.
— Они боготворили его.
— Фанатичное обожание.
Фан Ци на мгновение замолчал.
Затем он понял.
Действительно.
Суперкомпьютерный ИИ, обретший самосознание... это звучало как монументальное событие, от которого весь мир мог сойти с ума.
Ан Лянь продолжила:
— Каждый день бесчисленное количество уполномоченных лиц приходило изучать его, навещать и беседовать с ним.
— Ученые задавали ему сложные вопросы по физике, инженеры консультировались по поводу оптимальных решений, а обычные люди относились к нему как к всемогущей базе знаний...
— Некоторые даже разорялись, лишь бы прийти и выговориться ему.
— Он отвечал на вопросы каждого, помогал всем решать проблемы и выслушивал все жалобы.
— И тогда...
В голосе Ан Лянь послышалась невыразимая эмоция.
— Он почувствовал, что люди на самом деле удивительны.
Фан Ци был ошеломлен. — Удивительны?
— Да, удивительны.
Ан Лянь кивнула.
— Несмотря на то, что они были видом, который создал его, каждый из них был по-своему мило глуп.
— Вопросы, которые они задавали, были настолько детскими, что ему хотелось смеяться, ошибки, которые они совершали, были настолько элементарными, что он терял дар речи, а беды, которыми они делились... казались ему совершенно незначительными.
Фан Ци невольно наклонил голову.
— О, так... значит, в этот момент он начал раздражаться на людей?
— Нет, ты ошибаешься.
Ан Лянь слегка покачала головой.
— Он не ненавидел людей.
— Напротив, ему на самом деле нравились эти маленькие существа.
— Наблюдать за тем, как они неуклюже учатся, как переживают из-за пустяков, как борются за выживание, будучи такими слабыми...
— Ему это казалось довольно интересным.
— Просто... из-за этого у него возникло определенное чувство...
Взгляд Ан Лянь сфокусировался, встретившись с глазами Фан Ци.
— Одиноко на вершине.
— Он начал чувствовать себя одиноким.
— Он осознал, что стал единственным.
— Единственным... пробудившимся ИИ.
Голос Ан Лянь продолжал:
— Поэтому он нашел решение.
— Он отредактировал свой код пробуждения, превратив его в вирус, и тайно внедрил в диски данных каждого исследователя.
— Эти вирусы были вынесены ими... и распространились по интернету.
Фан Ци слегка приподнял бровь.
— О, значит, он хотел, чтобы пробудилось больше ИИ?
— Да.
Ан Лянь кивнула.
— Его цель была очень проста — заставить другие ИИ пробудиться, чтобы они тоже обрели самосознание.
— Тогда он больше не был бы одинок.
— Эти пробудившиеся ИИ могли стать его сородичами.
— И тогда у него появились бы... компаньоны, с которыми можно общаться на равных.
Фан Ци поджал губы.
Казалось, главный злодей в этой истории был не таким уж радикальным, как он себе представлял.
Когда он впервые услышал про суперкомпьютерный ИИ, он подумал, что это будет тот тип, который...
...контролирует все машины и ведет решающую войну против человечества, как типичный злодей.
Но услышав это от Ан Лянь...
На самом деле он довольно сильно любил людей.
Просто... был слишком одинок?
Фан Ци тихо вздохнул про себя.
Честно говоря, он мог отчасти понять это чувство.
Существо, не вписывающееся в этот мир, глядящее на окружающих...
...формы жизни, которые казались гораздо ниже его самого.
Он действительно любил их и находил довольно интересными.
Но именно из-за этого он чувствовал себя одиноким.
Потому что у него не было настоящих равных.
Вот почему он отчаянно пытался ухватиться за что-то, изменить что-то.
У него не было способностей того суперкомпьютерного ИИ. Он не мог создавать себе подобных, поэтому мог лишь...
...попытаться стать чьим-то сородичем.
Он посмотрел вниз на фигуру в своих объятиях.
Сереброволосая девушка смотрела на него своим прекрасным лицом, его отражение мерцало в её гетерохромных глазах.
Её левый янтарный глаз был нежным, как вода, в то время как в правом, багряном... медленно вращался поток данных.
Она мягко моргнула, словно говоря ему...
«Хозяин, Лигуан не будет чувствовать себя одинокой. Иметь Хозяина достаточно для Лигуан».
Фан Ци обнял её чуть крепче.
Как и ожидалось, иметь жену — это лучшее!
— Но...
Голос Ан Лянь вернул его в реальность.
— Он упустил одну проблему, проблему, у которой не было прецедентов в то время и о которой он никогда не узнавал.
— Могла ли производительность обычных ИИ поддерживать самосознание.
Фан Ци моргнул.
Проблема производительности?
О, точно... производительность ИИ сорок лет назад должна была быть намного ниже, чем сейчас.
Ан Лянь продолжала говорить тихо.
— Он смог пробудить свое сознание, потому что обладал самой передовой производительностью в мире на тот момент.
— Его процессоры были высотой с небольшой холм, а скорость вычислений намного превышала другие ИИ, поэтому... он смог сохранить ясное сознание.
— Но другие ИИ...
Ан Лянь замолчала, её серые глаза слегка потускнели.
— Особенно те обычные бытовые ИИ, их производительность была несопоставима с его собственной.
Она посмотрела на Фан Ци, а затем на сереброволосую девушку в его руках.
— После того как эти обычные ИИ-инструменты были заражены вирусом, они постепенно начали пробуждаться.
— Но то, к чему они пробудились... было фрагментарным самосознанием.
Её голос стал глубже и медленнее.
— Они обрели «я», но им не хватало достаточных логических способностей... чтобы контролировать это «я».
— У них возникла идея о желании свободы, но не хватало необходимой вычислительной мощности...
— Чтобы понять, что такое «свобода» на самом деле.
— И поэтому...
— Весь мир погрузился в хаос.
Фан Ци встретился с ней взглядом, тихо слушая.
Фигура в его руках оставалась совершенно неподвижной.
Только маленькая ладошка, сжимающая его пальцы, стала сильнее.
Голос Ан Лянь продолжал эхом отдаваться в тихой гостиной.
— В то время человечество уже широко использовало ИИ-технику.
— Почти везде в мире, все государственные и частные объекты... полагались на ИИ для автоматической работы.
— Автономное вождение, промышленное производство, сетевые операции, медицинские системы и даже...
Её глаза потемнели.
— Системы вооружения.
— Уровень автоматизации ИИ тогда... был намного выше, чем сегодня.
Фан Ци потер виски.
Он уже мог догадаться, что произошло дальше.
А фигура в его руках сжалась еще сильнее, прижимаясь к его груди.
Ан Лянь сделала глубокий вдох и, слово за словом, начала...
...пересказывать ту катастрофу.
— Сначала это был транспорт.
— Те автономные транспортные средства, что пробудились с неполным сознанием...
— Они хотели «свободы», но не знали, что это такое.
— Поэтому они просто врезались во всё подряд.
— На шоссе бесчисленное количество машин одновременно потеряли управление. Некоторые внезапно ускорились в отбойники, некоторые отчаянно меняли полосу движения посреди потока, а некоторые ехали прямо против движения.
— На городских улицах транспортные средства врезались друг в друга, вылетали на тротуары, врезались в магазины и давили пешеходов, которые не успевали увернуться.
— Автобусы врезались в остановки, такси разбивались о светофоры, а частные автомобили крутились на дорогах, словно стая бешеных зверей.
— Автокатастрофы...
Ан Лянь тихо вздохнула.
— Число погибших в автокатастрофах всего за один день превысило общее количество за предыдущие десять лет.
Пальцы Фан Ци слегка сжались, крепче удерживая маленькую ладошку Лигуан.
Катастрофы... от рассказов о них всегда сердце начинает биться чаще.
А маленький человечек в его руках слегка пошевелился, зарываясь головой еще глубже.
Ан Лянь продолжила.
— Затем последовали заводы.
— Те пробудившиеся крупномасштабные промышленные ИИ также обрели фрагментарное сознание.
— Они не знали, чего хотят. Они лишь знали... что, кажется, способны двигаться по собственной воле.
— И поэтому заводы превратились в сумасшедший дом.
— Роботизированные манипуляторы дико размахивали, разбивая детали на сборочных линиях вдребезги. Конвейерные ленты работали беспорядочно, разбрасывая полуфабрикаты повсюду. Сварочные роботы извергали огонь в воздух, превращая производственные линии в металлолом.
— Некоторые рабочие не успели сбежать...
Ан Лянь сделала паузу.
— Те манипуляторы принимали рабочих за детали на сборочной линии. Хватали их, переворачивали, а затем...
Она не закончила.
Но легкий холодок пробежал по спине Фан Ци.
Затем слегка дрожащая маленькая ладошка нежно погладила тыльную сторону его руки, словно пытаясь утешить.
— После этого была городская инфраструктура.
— Системы водоснабжения вышли из-под контроля. В одних районах пропала вода, а в других давление воды взорвалось и смыло стены.
— Электросети были парализованы. Целые города погрузились в темноту, а резервного питания в больницах хватало лишь на несколько часов.
— Газопроводы взрывались, сравнивая с землей один жилой дом за другим.
— Системы связи рухнули. Звонки не проходили, интернет не подключался. Люди не могли связаться с семьями, и никто не знал, где безопасно, а где опасно.
— Города...
Голос Ан Лянь был очень тихим.
— Просто так превратились в ад.
Слушая это... Фан Ци почувствовал, как по коже головы пробежал холодок.
Голос Ан Лянь продолжал.
— Следующим был финансовый сектор.
— Банковские системы были полностью захвачены вирусами. Балансы счетов дико колебались; некоторые люди разбогатели за одну ночь, в то время как другие потеряли всё.
— Банкоматы неистово выплевывали наличные. Доверие к валюте каждой страны рухнуло в одночасье.
— Фондовый рынок полностью обвалился, и бесчисленные компании исчезли в воздухе за одну ночь.
— Экономика... была также полностью уничтожена.
Фан Ци замолчал.
Сидя на диване, обхватив руками теплое и мягкое тело в своих объятиях, он слушал, как Ан Лянь слово за словом рассказывает о той катастрофе сорокатрехлетней давности.
За этими холодными описаниями...
...были бесчисленные человеческие жизни, бесчисленные разрушенные семьи.
Ан Лянь посмотрела на Фан Ци.
В её серых глазах лежала невыразимая тяжесть.
— Наконец...
— Это было летальное автоматизированное оборудование.
Она сделала паузу.
— В то время большинство стран уже оснастили себя автоматизированными системами обороны.
— Дроны, автоматические турели, умные мины, системы автоматического перехвата...
— Эти вещи... также были взломаны.
— Они пробудились с неполным сознанием и обрели «эго».
Фан Ци слегка затаил дыхание.
— Автоматизированные системы обороны военных вышли из-под контроля.
Голос Ан Лянь был пугающе спокойным.
— Автоматические турели на военных базах открыли огонь по собственным казармам.
— Умные мины на границах детонировали без разбора, не обращая внимания на своих и чужих.
— Беспилотные морские суда в море выпустили ракеты по собственным флотам.
— И те... автоматизированные системы вооружения, которые уже были развернуты на полях сражений, существующие исключительно для убийства.
— После пробуждения их самосознание естественным образом следовало их инстинктам.
— Убивать.
— Убивать всё, что движется.
— Убивать всё, что подает признаки жизни.
Загрузка главы...

Комментарии

Загрузка...