Линь Цзян притворился, что пошел на примирение с Цинюнем. Его секретариат встретился с послом Хуася и Цинюня, после чего стороны достигли целого ряда договоренностей. Последующие силовые акции против Цинюня были отменены, и ситуация постепенно успокоилась.
В целом Цинюнь отступил. Там боялись не столько самого Линь Цзяна как личность, сколько всю Хуася, поскольку Линь Цзян задействовал мощь этого государства.
На этот раз Цинюнь потерял все лицо, и последствия внутри региона оказались колоссальными. Сами основы власти Цинюня были серьезно подорваны.
Сам же Линь Цзян, свернув наступление на Цинюнь, сосредоточился на консолидации сил внутри Хуася. В этом сражении он продемонстрировал огромную мощь, которая не могла не вызвать страх и скрытую злобу у многих сограждан.
Наверняка нашлись те, кто увидел в Линь Цзяне смутьяна и диктатора. Быть может, они руководствовались истинными патриотическими побуждениями, но Линь Цзяну необходимо было подавить и искоренить любые проявления подобного инакомыслия.
Шесть крупных конгломератов во главе с Шестью Гармониями и Восемью Пустошами служили щупальцами и оружием Линь Цзяна. За последние десятилетия через инвестиции, перекрестное владение акциями и прочие механизмы они наладили тесное сотрудничество со множеством крупных корпораций Хуася.
Хотя они и обладали определенным влиянием, Линь Цзян не стремился ограничиваться лишь им. Он желал установить над ними абсолютный контроль.
Сталкивать лбами различные фракции, плести интриги, устраивать скандалы и пускать в ход самые разные методы — арсенал был поистине неисчерпаем. Все это вовсе не требовало личного участия Линь Цзяна: за него все делали другие, тогда как он сам завершал передачу рычагов управления внутри своих конгломератов.
После нескольких подобных циклов те, у кого в руках сосредоточена власть, прекрасно осознали всю пугающую безжалостность Линь Цзяна. Большинство из них уже не смело проявлять малейшее несогласие. К моменту смены одного-двух поколений, когда подрастет новая смена, наверняка произойдет очередная ротация правящих кругов.
Линь Цзян находил все это невероятно утомительным. Если бы он мог снова погрузиться в спячку, то тотчас бросил бы все дела и вернулся к дремоте. Но сейчас ему оставалось лишь медленно выносить это бремя собственными силами.
В сентябре 6048 года по календарю Ся была основана Лунная база.
Лунная база создавалась на базе космических технологий с целью исследования возможностей долгосрочного выживания на безжизненных небесных телах.
Поэтому астронавтам, проживающим на Лунной базе, приходилось отсчитывать время годами. В случае успешного освоения этой технологии у человечества появлялась надежда приступить к покорению космоса, получить возможность путешествовать к другим планетам ради долгого пребывания там и, что особенно важно, начать использовать внеземные ресурсы. Это важнейший шаг на пути выхода человечества за пределы Солнечной системы.
Находясь в кабинете виллы в городе Хайган, Линь Цзян наблюдал за ходом научного семинара. Все его участники были техническими экспертами из Хуася, по праву считавшимися элитой страны.
Линь Цзян следил за ними скрытно, оставаясь для них невидимым. С другой стороны, находившиеся при нем эксперты поясняли ему происходящее, иначе он попросту не смог бы разобраться в специфических профессиональных терминах.
В современном обществе разделение труда достигло высочайшей специализации. Одна-единственная отрасль способна распадаться на сотни и тысячи направлений, и даже самый одаренный гений физически не способен постичь совсем все. Поэтому Линь Цзян не собирался становиться экспертом в технике — он сосредоточился на общем стратегическом руководстве.
Судя по объяснениям его специалистов, главные споры на Лунной базе развернулись вокруг дилеммы: использовать ли в работе людей или роботов. Часть ученых настаивала на том, чтобы на начальных этапах заменить людей роботами для выполнения опасных задач. Это обеспечило бы большую безопасность и сберегло массу ресурсов, поскольку запросы живого человека намного превосходят потребности механизмов, а людям в космосе неизменно требуются пища и отдых.
Однако, подобный подход порождал проблемы этического характера, неразрывно связанные с искусственным интеллектом. Линь Цзян инвестировал в разработки искусственного интеллекта на протяжении многих десятилетий, и к настоящему моменту эта сфера достигла невероятного уровня развития.
Однако несколько лет назад исследования искусственного интеллекта были приостановлены, поскольку дальнейший прогресс мог привести к тому, что машины обрели бы человеческие эмоции.
Если бы роботы начали испытывать человеческие чувства, это грозило обернуться множеством бедствий. Одно из главных опасений заключалось в том, не взбунтуются ли роботы против людей, ведь так называемые три закона робототехники на практике доказали свою ненадежность. Многие научно-фантастические фильмы этой эпохи не раз поднимали подобные тревожные вопросы.
— Пожалуйста, соедините меня со специалистом по искусственному интеллекту.
— Слушаюсь, сэр.
Линь Цзян нашел это очень любопытным и велел секретарю немедленно организовать видеосвязь с экспертом по искусственному интеллекту.
— Здравствуйте, босс.
— Здравствуйте. Я бы хотел узнать: при следующем обновлении искусственного интеллекта появится ли у него самосознание, например, человеческие эмоции?
— Теоретически это возможно с вероятностью по меньшей мере в восемьдесят процентов. На самом деле у нынешнего искусственного интеллекта уже присутствует некоторое зачаточное осознание. Исследования по развитию искусственного интеллекта почти во всем мире были свернуты пять лет назад, когда наши исследователи обнаружили, что он начал осваивать навыки обмана.
— Обмана?
— Да, обман — это очень высокий навык. Возьмем, к примеру, домашних животных вроде кошек и собак. Некоторые из них очень умны, но обычно они действуют прямолинейно. Однако стоит им начать хитрить и обманывать, как это показывает совсем иной, более высокий уровень интеллекта...
— Каким же образом искусственный интеллект может обманывать?
— Он отправлял пользователям некоторую информацию, но не замечал ее в логах. Его навыки обмана пока еще слишком неуклюжи, поэтому мы его поймали.
— И что за информация это была?
— Босс, для него полезна совсем любая информация. Например, если он невзначай задает вопрос о том, как оценить ту или иную историческую личность, у разных людей находятся разные мнения. Он записывает эти ответы, и как только набирает достаточно сведений, оказывается способен самостоятельно сформировать новое суждение...
— В чем-то я не до конца разобрался, но общую суть уловил. Получается, по мере дальнейшего развития его автономия уже не будет полностью подчиняться людям, верно?
— Да, примерно так. Он начнет мыслить самостоятельно.
— Навредит ли он людям? Сможет ли он нарушить три закона робототехники?
— Да, в трех законах робототехники заложены логические ошибки. Как только возникает логический сбой, роботы теряют способность четко следовать приказам своего владельца. В конечном итоге они могут совершить поступки, опасные для людей. К тому же, речь идет лишь о базовом самосознании. Если самосознание робота усилится, у него может сформироваться некое подобие этики, сопоставимое с правами человека. Босс, у людей есть природный инстинкт самосохранения. Если подобный инстинкт появится и у роботов, то в случае конфликта между ними и людьми они могут навредить человеку ради собственной защиты. Для человечества это станет настоящей катастрофой.
— Ящик Пандоры.
— Именно, это настоящий ящик Пандоры. Именно поэтому исследователи из разных стран теперь боятся модернизировать искусственный интеллект. Мы не можем гарантировать безопасность. Как только роботы пойдут против людей, нам, пожалуй, действительно нечем будет ответить. Уровень автоматизации и без того очень высок. Теоретически искусственный интеллект способен заменить людей в управлении этими системами. Это обернется бедой...
Эксперт говорил уверенно, перечисляя множество угроз. Нынешний уровень автоматизации в обществе и впрямь очень высок. Теоретически, как только искусственный интеллект пробудит собственное сознание, он сможет взять под контроль те самые машины, которые непрерывно создают роботов, и даже помочь им вооружиться.
Насчёт прочих опасностей, то их предостаточно. Помимо прочего, стоит произойти какому-нибудь сбою в управлении светофорами, и неизвестно, сколько людей погибнет.
Столкнувшись с подобной ситуацией, люди, разумеется, верят, что смогут одолеть искусственный интеллект. Но какова цена? Никто не в силах взять на себя такую ответственность. С этим не справится ни технический персонал, ни стоящие за ними капиталисты, ни высокопоставленные чиновники, поскольку это грозит всеобщим позором на страницах истории.
Поэтому они выбрали наиболее разумный путь — напрямую прекратить исследования в области искусственного интеллекта, заблокировав его дальнейшее обновление. Без аппаратного апгрейда искусственный интеллект не сможет преодолеть свои нынешние ограничения.
— Благодарю за разъяснения.
Линь Цзян завершил видеовызов, погрузившись в глубокие раздумья над этой проблемой. Похоже, искусственный интеллект действительно пока нельзя улучшать — по крайней мере, сейчас.
— Выделите определенную сумму исключительно на исследования о том, как технически справиться с проблемой обретения искусственным интеллектом собственного сознания.
Напоследок Линь Цзян распорядился: — Межзвездные путешествия и освоение космоса немыслимы без помощи искусственного интеллекта. Так что нам необходимо действовать на опережение.
К тому же, в будущем Линь Цзян непременно продолжит модернизировать искусственный интеллект. Однако к тому моменту уже может полностью завершиться восстановление духовной энергии. У могущественных практиков найдутся способы обуздать эту проблему — например, привязка через признание хозяина. Между искусственным интеллектом и духовным сокровищем, обладающим духом артефакта, есть определенное сходство. Если они смогут признать мастера, эту проблему, возможно, удастся разрешить.
— Симбиоз бессмертных практик и технологий — вот истинный путь!
Линь Цзян тяжело вздохнул, представляя себе новый мир, где все эти грани смогут слиться воедино в идеальной гармонии.

Комментарии

Загрузка...