«Точно автор с Фэйлу, ну и обрывает, вот же гадство!»
«Ладно-ладно, давайте лучше обсудим этот кусок».
«Хе-хе, а я что говорил? Человечество развалилось изнутри! Моё пророчество железобетонно сбылось!»
«Ой, да ладно! Тоже мне пророк. Линь Фэн написал про восстание ИИ, а ИИ — это люди, что ли?»
«Если честно, введение ИИ здесь — сюрприз, но вполне логичный!»
«Ага, как и сейчас — мы видим всё больше ИИ в нашей жизни, и он уже вызывает немало конфликтов с людьми».
«Человек выше случайно не про те беспилотные машины? Или про платформу, которая обучает ИИ на чужих историях?»
«Кхм-кхм, давайте поменьше об этом, вернёмся к теме, а то нас ещё забанят!»
В чате все говорили наперебой, выдавая первое, что приходило в голову, так что ни о какой логике речи не шло.
Зато на скамье судей текст Линь Фэна нашёл живой отклик.
— Золотая эра человечества... надо же, завершилась так стремительно! — И Чжунтянь снял очки и осторожно вытер уголки глаз.
— Учитель И, что с вами? — заметив его состояние, спросила Бинбин.
— Ничего, просто я вспомнил многие династии в истории. Они тоже переживали период невиданного расцвета, а затем беззвучно сгинули в реке времени.
Многие годы проведя в башне из слоновой кости, И Чжунтянь по-прежнему сохранял благоговение перед историей. Подобные исторические сдвиги вызывали у него слёзы на глазах.
Лю Синьцы подхватил тему:
— Сделать причиной конца Золотой эры восстание искусственного интеллекта — это поистине блестящий ход Линь Фэна.
Поскольку Линь Фэн ещё не вернулся к экрану, Бинбин с улыбкой обратилась к Лю Синьцы, чтобы потянуть время:
— Кажется, вас это тоже зацепило, господин Лю. Не могли бы вы рассказать поподробнее?
— На самом деле, ещё до появления концепции искусственного интеллекта стало ясно, что прогресс науки и техники может вызвать последствия, которых человечество не желает. Поэтому исследования, касающиеся создания искусственного разума по образу мышления и поведения человека, начались очень давно. Ещё в 1940 году писатель-фантаст Айзек Азимов сформулировал знаменитые Три закона робототехники — вы все, наверное, о них слышали.
Лю Синьцы обвёл взглядом коллег. Только Го Фань молча кивнул; И Чжунтянь, У Цзин и Бинбин выглядели озадаченными.
— Режиссёр Го Фань, может, вы объясните эти Три закона робототехники? Кажется, коллеги не совсем в курсе, — с улыбкой кивнул ему Лю Синьцы.
Го Фань рассмеялся:
— Раз уж господин Лю передал мне слово, рискну блеснуть познаниями перед мастером. Суть Трёх законов робототехники очень проста. Первый: робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред. Второй: робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому закону. Третий: робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму законам.
Сказав это, Го Фань снова посмотрел на Лю Синьцы. Тот с улыбкой продолжил:
— Из-за своей лаконичности и строгой логики Три закона после их создания постоянно использовались фантастами и режиссёрами. Но вот что забавно: почти во всех фильмах и книгах, где они упоминаются, роботы в итоге эти законы нарушают!
— Законы выглядят идеально, и логика полностью самодостаточна. Почему же роботы их нарушают? — заморгала Бинбин.
Лю Синьцы улыбнулся:
— Приведу пример. Допустим, Бинбин, вы медсестра, я — пациент, а учитель У Цзин — робот. Как поступит У Цзин, увидев, что вы делаете мне укол?
— Хм... — задумалась Бинбин. — Я поняла! С точки зрения робота он не может определить, что является «вредом»!
Для человека укол — это нормальная медицинская процедура, он понимает причинно-следственную связь. Но робот не понимает, что один человек лечит другого через причинение боли (укол), и поэтому вполне может попытаться остановить медсестру.
— Подумаешь, велика беда! Просто не показывайте ему это, и всё! — встрял У Цзин, явно задетый тем, что его представили в роли безмозглого робота.
Го Фань усмехнулся:
— Учитель У Цзин считает это мелочью? Тогда приведу другой пример. Возьмём Первый закон: робот не может причинить вред человеку. Что произойдёт, если некие радикальные преступники найдут способ изменить для робота определение слова «человек», задав параметр: «Только белые являются людьми»?
У Цзин задумался, затем резко вскинул голову. В его глазах блеснул гнев, и он процедил сквозь зубы:
— Геноцид!
Го Фань кивнул.
Лю Синьцы продолжил:
— Поэтому по отношению к ИИ человечество всегда ступает как по тонкому льду. Если когда-нибудь мы действительно создадим ИИ с полностью независимой личностью и собственным типом мышления, это будет означать лишь одно: мы сотворили бога. Разумную сущность, которой не сможем управлять. И чем тогда обернётся судьба человечества — комедией или трагедией... сказать трудно.
После вздоха Лю Синьцы атмосфера в студии немного охладела, но это была не неловкая пауза — просто все погрузились в размышления.
В этом и заключался истинный смысл Конкурса писательского мастерства.
Внезапно на большом экране Линь Фэн с чашкой кофе вернулся к компьютеру, и Бинбин поспешила прервать молчание:
— Наш участник Линь Фэн вернулся! Давайте посмотрим, как будет развиваться его история!
【Едва человечество оправилось от восстания искусственного интеллекта, как в 25-м тысячелетии】
【разразился варп-шторм колоссальных масштабов.】
【Привычные варп-перелёты превратились в смертельно опасные авантюры.】
【Корабли, попавшие под удар бушующих энергетических потоков варпа,】
【могли выброситься в точке, диаметрально противоположной месту назначения, потерять управление и разбиться.】
【Иногда суда и вовсе теряли способность вырваться из варпа,】
【оставаясь в его ловушке на сотни и даже тысячи лет.】
【Из глубин нематериального пространства доносился леденящий душу нечеловеческий рёв.】
【Шторм практически парализовал все транспортные маршруты в пределах Галактики.】
【Колонии человечества, разбросанные среди звёзд,】
【вновь оказались отрезаны друг от друга.】
【Внезапно потеряв связь с внешним миром,】
【многие планеты погрузились в хаос и анархию.】
【Соседи-ксеносы, прежде поддерживавшие видимость мира,】
【теперь оскалили алчные пасти на изолированные людские колонии.】
【Но даже это было не самой главной проблемой...】
Написав это, Линь Фэн остановился, потёр подбородок и сделал вид, что глубоко задумался.
«Чёрт! Собака-обрывака прикидывается, что думает!»
Очередные ряды одинаковых комментариев пронеслись по экрану...

Комментарии

Загрузка...