Ли Дун вежливо отложил палочки для еды.
— Председатель Цю, здравствуйте. Я студент профессора Гао, Ли Дун.
Цю Минли на миг опешила.
А затем с приятным удивлением спросила.
— Так вы и есть тот самый Ли Дун?
— Тот Ли Дун, что создал алгоритм понижения размерности?
— Боже мой, вы такой молодой!
Едва прозвучали слова «алгоритм понижения размерности», как остальные сидевшие за столом, до которых только сейчас дошло, о ком речь, тут же уставились на Ли Дуна.
Под прицелом стольких глаз Ли Дун почувствовал себя не совсем уютно.
— Вы мне льстите, председатель Цю. Я всего лишь студент.
— Так, побаловался немного.
Сидевший рядом директор Ли весело расхохотался.
— Побаловался? Если это называется «побаловался», то мы тут вообще впустую штаны просиживаем!
За столом прокатилась волна доброго смеха.
Когда он утих, Цю Минли заговорила первой.
— Ли Дун, мне правда хотелось бы услышать твоё мнение.
— Ты же слышал, о чём мы только что спорили — вычислительные мощности, данные... вся эта рутина.
— Как думаешь, есть у нас способ сократить отставание?
Честно говоря, всем присутствующим действительно хотелось послушать юношу. Ведь они даже не представляли, куда в итоге ушли разработки алгоритма Ли Дуна, а само это неведение говорило о многом.
Поэтому фигура Ли Дуна вызывала у них особый интерес.
Ли Дун помедлил несколько секунд.
Откровенно говоря, никакой готовой стройной теории у него не было.
Он просто...
Он просто вспомнил Сяохай от «Ньютона».
Эта штука, как ни крути, совсем не выглядела созданной на базе привычных больших языковых моделей.
Подбирая слова, он заговорил не торопясь.
— Никаких глубоких профессиональных выкладок у меня нет.
— Лишь один дилетантский вопрос... Надеюсь, вы не станете смеяться.
Собравшиеся за столом улыбнулись и заверили, что не будут.
Только после этого Ли Дун продолжил.
— Почему... искусственный интеллект обязательно должен развиваться по нынешнему пути?
— Я имею в виду... почему бы не сделать его устройство ближе к принципам работы человеческого мозга?
— смотрите: в человеческом мозге более восьмидесяти миллиардов нейронов, а потребляет он всего около двадцати ватт в день.
— При этом он видит, слышит, мыслит, учится, распознаёт лицо меньше чем за секунду и способен освоить язык за пару лет.
— А наши самые передовые большие модели сейчас...
—...сжигают десятки миллионов киловатт-часов энергии на один прогон обучения, а для единичного вывода приходится задействовать целый серверный зал видеокарт.
— А в некоторых задачах они всё ещё не так хороши, как трёхлетний ребёнок.
— В чём же разница?
— Думаю, дело не в вычислительной мощности, а в... основном подходе.
Честно говоря, Ли Дун не слишком хорошо разбирался в области ИИ, поэтому просто высказывал свои мысли.
За столом никто не сказал ни звука.
Все просто молча слушали.
Ли Дун на мгновение замолчал, прежде чем продолжить.
— Когда я недавно просматривал кое-какую литературу, я наткнулся на область, называемую спайковыми нейронными сетями.
— Идея в том, чтобы вместо использования текущих функций активации с непрерывным значением имитировать то, как нейроны срабатывают в человеческом мозге.
— У них всего два состояния: срабатывание и несрабатывание. Большую часть времени они бездействуют, посылая импульс только тогда, когда сигнал накапливается до определённого порога.
— Теоретически, энергоэффективность такого типа сети должна быть на порядки выше, чем у текущих ИНС.
— Есть ещё более радикальный подход, называемый нейроморфными вычислениями, который идёт так далеко, что создаёт сам чип, имитируя структуру нейронов.
— И проект «Тру-Норт» от «Ай-Би-Эм», и процессор «Лойхи» от «Интела» — все это попытки двигаться в данном направлении.
— Я просто подумал...
— Неужели когда-нибудь мы сумеем решать подобные задачи не с помощью десяти тысяч ускорителей А100, а на базе одного-единственного нейроморфного чипа?
Когда Ли Дун закончил говорить, за столом воцарилась тишина.
Дело было не в том, что все были ошеломлены, а скорее в том, что у каждого мелькнула одна и та же мысль.
«А, так он просто ещё один мечтатель».
Первым отреагировал президент Ли.
Улыбка на его лице была немного сложной, но было видно, что он искренне хотел поделиться с Ли Дуном некоторыми соображениями.
— Ли Дун.
— Твоя идея, на самом деле, не нова в академических кругах.
— Она не только не нова, но, можно сказать, очень стара.
— Её выдвинули ещё в 1980-х годах.
Ли Дун кивнул.
Президент Ли продолжил.
— Но почему этот путь не получил развития за все эти годы?
— Потому что это слишком сложно.
Он поставил стакан и развёл руками.
— Наше понимание самого человеческого мозга далеко не так обширно, как представляют себе обыватели.
— На сегодняшний день единственный коннектом во всём мире, который был полностью картирован...
— ...принадлежит свободноживущей нематоде «С. элеганс».
— В ней всего триста два нейрона.
— Только картирование связей между этими тремястами двумя нейронами заняло у учёных целых тридцать лет.
— Часть коннектома плодовых мушек была завершена всего пару лет назад. У мыши около семидесяти миллионов нейронов в мозге, и мы даже близко не картировали их все.
— Человеческий мозг? Восемьдесят миллиардов нейронов, причём каждый нейрон связан в среднем с десятью тысячами синапсов.
— Нам еще очень и очень далеко до полного понимания этого.
Президент Ли посмотрел на Ли Дуна и продолжил.
— Даже если бы мы полностью постигли устройство мозга, у нас нет способа действенно воспроизвести его на кремниевых чипах.
— Нейроны человеческого мозга и наши чипы...
...работают на основе двух совершенно разных логических систем.
— Если попытаться запустить симуляцию импульсной нейронной сети на графическом процессоре, ее эффективность окажется даже ниже, чем у обычной искусственной нейронной сети.
— Именно поэтому, несмотря на столько лет шумихи вокруг импульсных нейросетей, ни одна крупная ИИ-компания так и не вложилась в них по-настоящему.
— Масштаб задач, с которыми они способны справиться сейчас, сильно уступает традиционным ИНС.
Президент Ли вздохнул и продолжил.
— К тому же у нас нет отработанного метода обучения.
— Почему искусственные нейросети добились столь стремительного прогресса за последнее десятилетие? Благодаря методу обратного распространения ошибки.
— Обратное распространение математически невероятно действенно.
— Но разве человеческий мозг использует его? Нет.
— Так как же обучать импульсную нейросеть? На данный момент в академической среде нет общепринятого метода, который работал бы так же хорошо, как обратное распространение.
— Многие команды пытаются, но пока преуспел никто.
Президент Ли опустил руки и взял стакан.
— Так что, Ли Дун.
— Теоретически твое направление, конечно, верно.
— В долгосрочной перспективе нейроморфные вычисления — это почти наверняка будущее.
— Но...
Он сделал особый акцент на этом слове.
— В обозримом будущем — лет через пять-десять — единственным путем, который можно реально воплотить, сделать прибыльным и позволить ИИ Хуася догнать мировую элиту, остается нынешний: подход на базе трансформеров.
— И вовсе не потому, что он лучший.
— А потому, что он самый прагматичный.
Когда президент Ли закончил, остальные сидящие за столом согласно закивали.
Очевидно, в индустрии это было устоявшимся мнением.
Ли Дун не сказал ни слова.
Но внутренний голос яростно спорил с услышанным.
«Невозможно?»
«Я своими глазами «видел», как кто-то это создал».
«Это был Сяохай Ньютона».
«Раз кто-то смог сделать это тогда...»
«...значит, этот путь жизнеспособен».
«Что до текущих трудностей...»
«Понимание работы мозга, коренная логика железа, методы обучения...»
«Все это можно преодолеть. Шаг за шагом».

Комментарии

Загрузка...