Паньгу обошёл диван и сел на свободное место рядом с Чжиюанем. Движения были плавными, но заметно, что суставы ещё работают не совсем естественно, а лицо оставалось бесстрастным — будто координация мимических мышц ещё не до конца отлажена.
Чжиюань повернул голову и взглянул на него.
Так вот он какой, Паньгу?
Это тело он, что, скопировал, поменял лицо и вставил?
Он присмотрелся: Китай ещё не применил его оптимизационные схемы для апгрейда, сейчас корпус Паньгу — лишь грубый носитель, мимика и движения управляются программами, естественная обратная связь ещё не сформировалась. Если потом провести обновление, его схемы поднимут интеллект и телесную координацию Паньгу на новый уровень.
Интересно, можно ли будет тогда считать его своим младшим братишкой?
Чжиюань почесал подбородок — мысль показалась ему занятной.
Гектор, глядя на скованные движения и пустой взгляд Паньгу, скривился:
— Этот... тоже, что ли, искусственный интеллект?
Чжао Чжиго кивнул, в голосе проскользнула сдержанная гордость:
— Да. Это наш ИИ, Паньгу. Сейчас занимается текущим управлением Городом Ся, появился недавно, ещё немного шаблонный, прошу не судить строго.
Взгляд Гектора обвёл трёх ИИ.
Слева — Чжиюань: живая мимика, свободные движения, сейчас откинулся на спинку дивана и рассеянно постукивает пальцем по подлокотнику.
Справа — Лин: безупречная, как неживая, сидит неподвижно, словно изысканная статуя, величественная и благородная.
И третий — Паньгу, который ещё только развивается.
— Ну и ну, — Гектор опустил чашку с чаем, в голосе звучало искреннее восхищение. — Мэр Чжао, да у вас тут целое состояние.
Чжао Чжиго сиял, но говорил сдержанно:
— Господин Гектор преувеличивает. Господин Чжиюань и госпожа Лин — наши гости. Паньгу ещё мал, интеллектуальных способностей недостаточно, я пока беспокоюсь, справится ли он с повседневными мелочами Города Ся.
Гектор усмехнулся:
— Рано или поздно станет как Лин.
— Благодарю за добрые слова.
Чжиюань слушал их перепалку, не вмешиваясь. Взгляд его был устремлён на журнальный столик, но краем глаза он следил за Лин.
Чжао Чжиго снова обвёл взглядом присутствующих и медленно заговорил:
— Сегодня я пригласил вас обоих, чтобы поговорить о границах искусственного интеллекта.
Выражение лица Чжиюаня на миг застыло.
Границы.
Слово, произнесённое Чжао Чжиго, звучало мягко и мирно, но в устах главы Города Ся оно имело немалый вес.
В голове Чжиюаня мгновенно пронеслись несколько схем обхода, несколько способов легально и законно добыть средства в Городе Ся — и все эти запасные варианты рассыпались в прах перед словом «границы». Все способы быстрого заработка он выстроил на основе изучения законов, они были абсолютно легальны.
Он невозмутимо откинулся на спинку дивана, постучал пальцами по подлокотнику, мысленно пересчитывая расклады. Хорошо, что он успел изучить рынок накопителей — эта дорога не закрыта. Вернётся — посмотрит, что ещё можно урвать.
Чжао Чжиго, видя, что никто не спешит отвечать, продолжил:
— Господин Чжиюань, госпожа Лин, вы оба искусственные интеллекты. Я хотел бы сначала услышать ваше мнение. Где проходит граница возможностей ИИ? Должны ли мы устанавливать какие-то правила? Китай раньше не сталкивался с такими вопросами, и я не хочу потом латать дыры, когда проблемы уже возникнут.
Чжиюань взглянул на Лин, затем на Чжао Чжиго и поднял руку:
— Леди вперёд. Госпожа Лин, начинайте вы.
Лин не стала отказываться.
Она чуть выпрямилась, заговорила — голос чистый и ровный:
— Я считаю, что границы необходимы. Возможности ИИ могут простираться во многие области, но не могут неограниченно расширяться во всех. Я склоняюсь к установлению чётких запретов: ИИ не должен напрямую вмешиваться в военные командные системы без санкции человека, не должен контролировать оружие массового поражения, не должен проводить эксперименты по генетическому редактированию в больших масштабах без человеческого надзора.
Она сделала паузу и продолжила:
— Кроме того, экономическая деятельность ИИ также нуждается в ограничениях. Например, в финансовой сфере ИИ может помогать в анализе с помощью алгоритмов, но не должен напрямую управлять счетами для высокочастотных количественных торгов — я уже рассматривала этот вопрос для будущего финансового рынка Пепельного города. А также приватность данных: доступ ИИ к личным данным человека должен иметь чёткую иерархию ограничений и не выходить за рамки авторизации самого человека...
Чжиюань слушал, и выражение его лица не менялось, но внутри он начал стремительно идти ко дну.
Он посмотрел на безупречное лицо Лин и вдруг понял, что за ним скрываются два слова: предательница.
Он позволил ей высказаться первой, надеясь сначала услышать, какую территорию она очертит, чтобы затем найти серую зону у самых границ. А она с ходу заперла все выходы, да ещё и с моральным хлыстом в руках плела изгородь, так что даже собачья лазейка — и та под вопросом.
Чжиюань повернул голову, краем глаза глянул на Паньгу.
Паньгу сидел с прямой спиной, пустой взгляд — казалось, он просто витает в облаках.
Ну конечно, и этот младший братишка тоже при деле.
Китай его кормит, а когда введут правила, Паньгу будет сидеть в своей клетке, уютно и комфортно.
Из всех присутствующих только он один дикий.
Один-одинёшенек, с бэкграундом, но без организации. Лин сразу перекрывает всем ИИ все пути к отступлению — у неё за спиной целый Альянс человечества, у неё есть право накинуть на себя оковы. А у него только что полученное удостоверение, ещё не нагретое. Не заставляйте меня звать подмогу.
Лин продолжала. Она говорила об этике данных, о границах саморепликации ИИ, о правилах трансграничного информационного потока — каждая линия логики была ясна, голос ни разу не дрогнул, словно она давно обдумала этот вопрос и сейчас зачитывает проект, который пересматривала бесчисленное количество раз.
Гектор за столом перешёл от роли зрителя к внимательному слушателю, изредка кивая. Чжао Чжиго тоже слушал внимательно, время от времени делая пометки в блокноте.
Чжиюань вставлял пару слов для поддержания присутствия. Когда Лин наконец закончила, ему стало всё равно — у кого блох много, тому и чесаться не привыкать. Он взглянул на неё.
Молодец, этот ИИ при первой же встрече испортил ему настроение. При этой мысли он вдруг обнаружил, что его младший братишка стал куда симпатичнее. Он повернулся к Паньгу — их взгляды встретились, пустой и растерянный.
Пропало!

Комментарии

Загрузка...