— Ради экономии.
— Сотни миллионов в кармане.
— Так что ходить вокруг да около меня не стану.
— Что до Северного направления, двери для тебя открыты в любое время.
— В Институте искусственного интеллекта ты волен сам выбирать себе должность, исследовательское направление и команду. Да и оклад назначишь себе сам.
— Забудь про рыночные мерки. Какую сумму назовешь, такую я и утвержу.
Гао Вэнь сидел рядом и, казалось, вовсе не слушал разговор, задумчиво вертя в пальцах чайную пиалу.
Ли Дун снова мысленно вздохнул.
— Что за манера у этих генеральных директоров?
— Вечно искушать людей пачками денег.
— Не боятся ведь, что я замахнусь на десяток миллиардов?
Впрочем, мыслям ворчать это не мешало, а лицо Ли Дуна сохраняло полное спокойствие.
— Президент Ли, вы слишком высоко меня цените.
— Но, положа руку на сердце, я бы предпочел пока сосредоточиться на учебе.
— Меня куда больше привлекает чистая наука. А коммерциализация, разработка продуктов, создание приложений... Я трезво оцениваю свои силы и знаю, что это не моё.
Улыбка на лице президента Ли не дрогнула.
И всё же в глубине его глаз на мгновение мелькнуло разочарование.
Он провел в деловом мире больше двадцати лет и, разумеется, с полуслова уловил истинный подтекст слов Ли Дуна.
— Этот юноша и впрямь равнодушен к деньгам.
Хуасюань:???
Или, возможно...
— В мыслях у этого парня кроется нечто гораздо большее, чем деньги.
Президент Ли выдержал короткую паузу.
Затем он махнул рукой и с улыбкой бросил.
— Ладно, не буду давить.
— Просто жаль, когда пропадает такой талант.
— Если надумаешь, звони в любой момент.
Только тогда Гао Вэнь неторопливо вмешался в разговор.
— Хватит вам, президент Ли, зариться на наш драгоценный росток.
— Академик Тянь Ган бдит. Надумаете переманивать — старик Тянь на следующий же день оборвет мне телефон.
Президент Ли вскинул руки в шутливом испуге.
— И в мыслях не было, помилуйте. Он человек академика Тяня, куда мне до него тянуться?
Трое переглянулись и улыбнулись.
Напряжение за столом мгновенно рассеялось.
Ровно в половине седьмого банкет вступил в свои права.
Через боковую дверь вошли официанты, катя перед собой сервировочные тележки.
В просторном зале накрыли всего два стола, и за главным расположились Ли Дун, Гао Вэнь вместе с президентом Ли.
По соседству заняли места другие влиятельные гости.
Среди них выделялись вице-президент Ли Юнь и директор какого-то стартапа по разработке чипов — они тоже сидели за центральным столом.
Стоило официантам удалиться, как беседа плавно перекинулась с погоды и свежих директив на «эту штуку».
— Эту штуку.
Именно так — молчаливо и без лишних имен — все присутствующие называли ГПТ-3.5.
Тон задала вице-президент Ли Юнь ИИ по имени Цю Минли.
Слегка покачивая бокал с вином, она негромко заговорила.
— На прошлой неделе наша команда провела закрытое тестирование.
— Общие вопросы по культуре и истории Китая, английское чтение, генерация кода, математические рассуждения и саммаризация длинных текстов. По двадцать заданий на каждое из пяти направлений.
Она вздохнула.
— Она выиграла по всем пяти пунктам.
За столом повисла тишина.
Президент Ли нахмурился и отложил палочки.
— С большим отрывом?
Цю Минли самокритично усмехнулась.
— Точных баллов называть не буду, но разрыв... оказался нешуточным.
— Особенно в задачах на многошаговую логику. Наша модель начинает откровенно нести чушь уже на третьем шаге.
— А та продолжает выстраивать рассуждение шаг за шагом, без единого сбоя.
— Ей можно подкинуть сложнейшую финальную задачку с государственного экзамена, и пусть даже в конце она оступится в расчетах, само направление мысли будет верным.
— Ошибается искренне и добросовестно, а не так, что с первого взгляда видно: машина просто сочиняет на ходу.
— Вот этого качества нашим моделям сейчас не хватает сильнее всего.
Мужчина в очках отложил столовые приборы и негромко заговорил.
— Президент Цю, у меня давно вертится на языке один вопрос.
— Каков же главный водораздел между ГПТ-3 и ГПТ-3.5?
— Вовне все только и говорят про РЛХФ, словно вся соль кроется исключительно в этой системе обратной связи.
— Но меня не покидает ощущение, что всё гораздо сложнее.
Цю Минли улыбнулась.
— Вы попали прямо в яблочко.
— Сам термин РЛХФ в последнее время оброс избыточной шумихой.
Она слегка чертнула кончиком палочки по скатерти.
— Подлинный качественный скачок от ГПТ-3 к ГПТ-3.5 произошел вовсе не благодаря РЛХФ.
— Всё дело в коде.
Кто-то за столом изумленно выдохнул.
— В коде?
Цю Минли кивнула.
— Между делом специалисты ОпенАИ провернули скрытый маневр.
— Поверх базовой ГПТ-3 они накатили еще один огромный раунд предварительного обучения на программном коде. Внутри компании этот этап именуют код-давинчи-002.
— Они собрали с ГитХаб весь доступный качественный код, смешали его с массивами текстов, где естественный язык переплетается с инструкциями, и свалили всё в один котел.
— И после той тренировки аналитические способности модели необъяснимым образом взлетели до небес.
— Дело даже не в том, что она научилась писать код. Ей можно скормить математическую задачу, многоступенчатую логику или сложную аргументацию — и она внезапно начинает мыслить.
— В индустрии это явление окрестили «цепочкой рассуждений», порожденной кодом.
— Программный код невероятно строг. Пропустишь хоть одну точку с запятой — и программа не запустится.
— Переварив гигантские пласты кода, модель под воздействием этих железных тисков выработала интуитивное чутье на пошаговый анализ, недостижимое ни для какого иного массива данных.
Цю Минли прервалась, чтобы сделать глоток вина.
— Уже поверх этого фундамента они прикрутили тонкую настройку инструкций, а сверху наложили РЛХФ. Только так на свет и появился ЧатГПТ.
— Но отвечая на вопрос о корне прорыва — рискну высказать личное предположение: решающий скачок произошел именно на стадии претренировки на коде.
— А реальная задача, которую решает РЛХФ, — заставить эту умную, но дикую нейросеть беспрекословно следовать командам человека.
— Она настраивает поведение, а не прокачивает интеллект.
Мужчина в очках задумчиво кивнул.
Цю Минли продолжила.
— Разумеется, весь этот контур РЛХФ тоже задача не из легких.
— Чтобы догнать их в этом плане, нам придется выстраивать школу разметчиков с чистого листа. Только на то, чтобы нащупать темп, уйдет от полугода до года.
За столом снова воцарилась тишина.
Президент Ли приподнял бокал и легонько качнул его.
— позвольте и мне добавить пару слов.
— Вы же знаете, над нашей Вэнь Синь мы начали трудиться вовсе не в этом году.
— ЭРНИ 3.0 Титан вышел в свет еще два года назад, в нем заложено 260 миллиардов параметров. На традиционных китайских бенчмарках мы держали удар наравне с ГПТ-3.
— И если говорить исключительно о понимании китайского языка, наша база более чем надежна.
Ли Дун до этого молчал, но слушал очень внимательно.
Президент Ли продолжил.
— Но когда появилась версия 3.5, у меня внутри всё оборвалось.
— И дело вовсе не в том, что ее китайский лучше нашего — честно говоря, в родной речи она нам по-прежнему уступает.
— Главный удар крылся в другом... она играет по совершенно иным правилам.
— Раньше, с прошлым поколением больших моделей, состязание сводилось к тому, насколько точно ты улавливаешь смысл фразы, безошибочно ли классифицируешь объекты и заполняешь пропуски.
— Здесь же всё упирается в то, способна ли нейросеть поддержать живую человеческую беседу и прямо по ходу дела решить задачу или набросать кусок кода.
— И вот этот навык лежит в совершенно иной плоскости.
— К нему невозможно прийти путем естественного развития нашей прежней архитектуры.
— Последние два месяца мы в компании пашем день и ночь, пытаясь выпустить новую версию.
— Думаю, скоро на слуху появится ее официальное кодовое имя. На этот раз наша планка — уровень 3.5.
— Но давайте смотреть правде в глаза.
— Наш первенец неизбежно будет отставать от 3.5.
— И это отставание не сократить за месяц-другой.
Атмосфера на мгновение сгустилась, но тут Цю Минли перевела взгляд на Ли Дуна и с улыбкой сказала.
— Этот молодой человек до этих пор не сказал ни слова.
— К тому же, боюсь, мы еще не знакомы.

Комментарии

Загрузка...