Чэнь Линь увидел радостный блеск в глазах Паня Сы. Он собрался с мыслями и неспешно заговорил.
— Доктор Пань, должен вас кое о чём предупредить.
— Алгоритм, который я вывел на математической конференции, был опубликован в открытом доступе.
Тон Чэнь Линя был спокойным, но слова прозвучали чётко.
— К тому же, я намерен оформить его в полноценную научную статью и опубликовать в журнале «Джей-Эй-Эм-Эс».
— Я не намерен использовать патенты или какие-либо другие способы, чтобы ограничивать использование этого алгоритма.
Услышав это, Пань Сы слегка опешил.
Чэнь Линь продолжил.
— Судя по тому, что я вижу в сети последние несколько дней, команды разработчиков ИИ по всему миру — будь то гиганты вроде «Клоуз-Эй-Ай» и «Догги» или лаборатории при различных университетах — все пытаются внедрить этот алгоритм в свои текущие конвейеры обучения моделей.
— Так что, — Чэнь Линь пожал плечами, — когда дело дойдёт до применения этого алгоритма, наша новая команда вряд ли окажется первой.
После этих слов воодушевление на лице Паня Сы немного угасло.
Он поправил очки и задумчиво кивнул.
— Понимаю, президент Чэнь.
— Вы правы. Если алгоритм находится в открытом доступе, такая стартап-команда, как наша, точно не сможет тягаться с крупными компаниями в скорости реализации.
Заметив разочарованное выражение на лице Паня Сы, Чэнь Линь тут же сменил тон.
— Но, доктор Пань, вам не о чем беспокоиться.
Его голос звучал уверенно.
— Я в самое ближайшее время приступлю к новым математическим исследованиям, чтобы разработать ещё более совершенные алгоритмы искусственного интеллекта.
— Когда придёт время, мы сможем использовать эти новейшие прорывы для обучения нашей собственной модели.
При этих словах глаза Паня Сы снова загорелись.
— Президент Чэнь, вы хотите сказать... Вы собираетесь продолжить исследования в области алгоритмов ИИ?
— Именно так, — кивнул Чэнь Линь. — Математические исследования всегда были моей сильной стороной.
— Раз уж мы собираемся создать большую модель ИИ, я непременно обеспечу всю возможную поддержку на алгоритмическом уровне.
Услышав это, Пань Сы пришёл в полный восторг.
— Это просто потрясающе!
Он с силой хлопнул себя по бедру.
— Президент Чэнь, если вы сможете постоянно выдавать новые алгоритмы, то у нашего проекта будет огромное преимущество!
— Вы должны понимать: чего сейчас больше всего не хватает индустрии, так это талантливых людей, способных внедрять инновации на математическом уровне.
— Большинство ИИ-компаний занимаются лишь оптимизацией в плане инженерии и внедрения. Почти никто не способен по-настоящему совершить прорыв в механизме внимания на теоретическом уровне.
По мере того как Пань Сы говорил, его тон становился предельно серьёзным.
— Если вы сможете это сделать, президент Чэнь, тогда я в деле!
Услышав это, Чэнь Линь едва заметно улыбнулся.
— Тогда насчёт компенсации, полагаю, вам всё ясно, доктор Пань?
— Да, — кивнул Пань Сы. — Сто тысяч в месяц после вычета налогов. Меня это устраивает.
— Однако, — он сделал паузу и добавил, — я рассчитываю на опционы компании.
— Наконец, если этот проект действительно выгорит, капитализация компании неизбежно взлетит до небес.
— Я тоже хочу получить свой кусочек пирога.
Чэнь Линя эта просьба не удивила.
Человек вроде Паня Сы, вернувшийся из-за границы специалист, работавший в крупной иностранной компании, разумеется, прекрасно разбирался в том, как работают системы долевого участия.
— По рукам, — легко согласился Чэнь Линь. — Детали по конкретному проценту опционов обсудим позже.
— Но одну вещь я должен прояснить заранее: у опционов будет период вестинга, и они будут привязаны к контрольным точкам проекта.
Чэнь Линь уже обсудил этот момент с Хуан Ии. Было приемлемо предлагать долевое участие ведущим техническим экспертам, готовым присоединиться к «Яньхай», при условии, что Чэнь Линь сможет выкупить акции по рыночной цене когда они будут реализованы.
Для Чэнь Линя доля в компании была очень важна. Наконец, [Маленький финансовый планировщик] мог напрямую учитывать её как личный актив.
Услышав это, Пань Сы тут же расплылся в улыбке.
— Разумеется. Я понимаю.
Они обсудили ещё несколько деталей и наконец завершили приготовления к его приёму в компанию.
Пань Сы сообщил, что самое раннее, когда он сможет официально приступить к работе, — это следующий понедельник.
Проводив Паня Сы, Чэнь Линь вернулся за свой стол и облегчённо выдохнул.
«Бай Цянь и Пань Сы — два первоклассных технических эксперта — теперь в команде!»
«Теперь пора официально дать старт ИИ-проекту».
...
Однако вскоре Чэнь Линь обнаружил, что всё пойдёт не так гладко, как он себе представлял.
«Понедельник, 10 ноября».
В конференц-зале компании «Яньхай» Чэнь Линь, Бай Цянь и Пань Сы впервые собрались вместе.
Конференц-зал был невелик. В центре стоял длинный прямоугольный стол, окружённый дюжиной стульев.
В тот момент Чэнь Линь сидел во главе стола, а Бай Цянь и Пань Сы — по обе стороны от него.
Сунь Юй, Хуан Ии, Юньцин и Шэнь Янь сидели чуть поодаль, наблюдая за ходом совещания.
Чэнь Линь обвёл взглядом комнату и заговорил первым.
— Я собрал всех вас сегодня, чтобы обсудить техническую дорожную карту нашего грядущего ИИ-проекта.
— Доктор Бай, доктор Пань, вы оба эксперты в этой области, поэтому я хотел бы услышать ваши мнения.
Бай Цянь и Пань Сы переглянулись и почти одновременно сказали.
— Я начну...
Сказав это, они оба одновременно замолчали.
Атмосфера мгновенно стала немного неловкой.
Видя это, Чэнь Линь улыбнулся и сгладил ситуацию.
— Почему бы вам не начать, доктор Бай?
Бай Цянь кивнул, поправил очки и прочистил горло.
— Тогда перейду сразу к делу.
Он достал из рюкзака планшет, открыл файл с презентацией и вывел его на большой экран в конференц-зале.
— Я считаю, что если мы собираемся создать совсем новую большую модель ИИ, первое, что мы должны сделать, — это внедрить инновации в архитектуру.
На экране появилась сложная схема архитектуры.
Бай Цянь указал на несколько модулей на схеме и начал подробно объяснять.
— Нынешняя популярная архитектура «Трансформер», несмотря на свои преимущества в параллельных вычислениях и способности улавливать долгосрочные зависимости, обладает очень низкой эффективностью использования параметров.
— К тому же, механизм самовнимания в «Трансформере» имеет вычислительную сложность порядка «О» от «эн» в квадрате, из-за чего вычислительные затраты растут экспоненциально при обработке длинных текстов.
— Поэтому, — тон Бай Цяня стал невероятно твёрдым, — мы должны разработать совсем новую архитектуру, чтобы решить эти проблемы.
Он переключил слайд презентации, который был заполнен множеством математических формул и архитектурных схем.
— Последние несколько лет я занимался исследованием нового типа архитектуры нейронных сетей, основанной на механизме динамической разреженной активации.
— Проще говоря, это позволяет модели во время вывода не задействовать все свои параметры. Вместо этого она динамически выбирает, какие части задействовать в зависимости от входных этих.
— Так можно в несколько раз повысить вычислительную эффективность, а также значительно увеличить возможности модели.
Бай Цянь говорил с огромным увлечением, излучая ауру настоящего учёного.
Однако лицо Паня Сы, сидевшего напротив, становилось всё более странным.
Как только Бай Цянь наконец закончил, Пань Сы тут же взял слово.
— Доктор Бай, при всём моём уважении.
Его тон был вежливым, но смысл слов — вовсе нет.
— Я слишком много видел подобного в академической среде.
— Каждый год бесчисленное количество статей заявляют о создании какой-то «революционной» новой архитектуры.
— Но что происходит в итоге?
Пань Сы развёл руками, и на лице появилась насмешливая улыбка.
— Подавляющее большинство из них работают только на игрушечных моделях в лаборатории. Их невозможно применить к реальному обучению крупномасштабных моделей.
— Почему?
Он не стал дожидаться ответа Бай Цяня и продолжил сам.
— Потому что эти так называемые «новые архитектуры» часто отлично смотрятся в теории, но с точки зрения инженерии и реализации они либо нестабильны при обучении, либо слишком медленны при выводе, либо предъявляют чрезмерно высокие требования к аппаратному обеспечению.
— Короче говоря, они попросту непрактичны!

Комментарии

Загрузка...