Два дня спустя, в штаб-квартире Hatchwork в Сан-Франциско. Сегодня должен был состояться второй раунд собеседования с основателями Next AI.
— Прошу, сюда.
Офис Hatchwork был переполнен энергией и жизненной силой, типичной для стартапа.
Разбросанные по пространству столы для работы стоя, исписанные идеями белые доски и даже стол для пинг-понга в центре комнаты — всё намекало на свободную и экспериментальную атмосферу.
Вскоре мы с Алексом подошли к месту, где собралось человек пять-шесть.
Алекс представил мне каждого по очереди.
— Это Корбин Дросс.
Лицо было знакомым.
Будущий CTO Next AI, Корбин Дросс.
Он был специалистом по масштабированию, который уже несколько раз успешно расширял организации и получил прозвище «10x-инженер».
— Это Илья Вантелл, Эйден Кэдвин, Нова Линкрест и Кайл Томас.
Остальные имена были мне незнакомы.
По объяснению Алекса, все они были AI-исследователями.
«Исследователи, значит?..»
Это была важная подсказка.
Понимая, кто будет проводить собеседование, я мог выстроить стратегию.
Но все они были практиками.
Значит, скорее всего, в этом собеседовании упор сделают на практические детали.
— Тогда пойдёмте сюда.
У входа в комнату, куда меня повёл Алекс, висела табличка с надписью «The Sandbox».
«Песочница?»
Наверное, пространство для свободного и творческого мозгового штурма: можно строить из песка и тут же разрушать.
Так я подумал и шагнул в комнату.
Однако, едва увидев, что внутри, замер на месте.
В комнате не было никакой мебели — только десяток с лишним кресел-мешков, беспорядочно разбросанных по полу.
«Только не это...»
Я не люблю кресла-мешки.
Не выношу ощущения, когда тело проваливается, и уж точно не люблю сидеть так близко к полу.
Но в подобном месте я не мог показать дискомфорт.
«Сначала нужно слиться с атмосферой».
Я хотел стать сооснователем Next AI. Здесь я не мог позволить себе излишнюю придирчивость.
Нужно было проявить уважение к их культуре и адаптироваться.
— Ха! Устал!
Люди один за другим начали удобно устраиваться на полу или в креслах-мешках.
Поэтому я выбрал подходящее кресло-мешок и сел...
И в этот момент заметил, как человек рядом со мной неторопливо кладёт руку на пол.
Когда его голая ладонь коснулась ковра, мои глаза сами собой зажмурились.
«Голова кружится».
Касаться ковра, по которому ходили в обуви, только что побывавшей в туалете...
Но это было только начало.
— Любишь пиццу?
Алекс с сияющей улыбкой принёс из угла стопку коробок с пиццей.
— Попробуй! Гарантирую, лучшая пицца в Америке!
Коробка открылась, и все начали брать по куску.
Той самой рукой, которая только что касалась ковра...
«О боже».
Я попытался удержать головокружение и взял кусок пиццы.
Мои руки тоже нельзя было назвать идеально чистыми.
Поэтому я осторожно старался касаться только корочки, которая не попадёт в рот. Но кусок пиццы оказался слишком большим, и со стороны я, видимо, выглядел неловко.
Увидев меня, несколько человек рассмеялись.
— Ха-ха, ты выглядишь так, будто никогда раньше не ел пиццу! На Уолл-стрит пиццу не едят?
Это была лёгкая шутка, но я не мог просто пропустить её мимо ушей.
Иначе могла сложиться динамика «Кремниевая долина против Уолл-стрит».
Если восприятие меня как чужака усилится, ничего хорошего из этого не выйдет. Поэтому я сделал чуть жалкое выражение лица и спокойно заговорил.
— На самом деле... у меня есть небольшое компульсивное расстройство. Мне трудно, когда руки становятся жирными. Поэтому я обычно ем вилкой и ножом. Из-за этого меня часто поддразнивают.
Едва я закончил, в комнате воцарилась неловкая тишина.
Улыбки исчезли с лиц людей, сменившись смущением.
— А, прости. Я не знал.
— Наверное, тебе было непросто.
Кто-то, растерявшись, быстро протянул мне бумажную тарелку с пластиковыми вилкой и ножом.
«Вот уж точно Кремниевая долина».
Как бы всё выглядело на Уолл-стрит?
Наверное, там бы насмешливо рассмеялись и сказали: «Не раздувай из мухи слона».
Но здесь было иначе.
Здесь существовала культура, в которой такие индивидуальные особенности изначально уважались.
Как бы то ни было, съев несколько кусков пиццы, мы перешли к официальному собеседованию.
Первой заговорила женщина по фамилии Вантелл.
— Я слышала, вы собираетесь вложить один миллиард долларов в AI ради друга. Насколько вы близки с этим другом?
Вопрос был неожиданным.
Я на мгновение замялся и посмотрел на неё, а она добавила:
— Мне просто любопытно: один миллиард долларов кажется огромной суммой для «просто друга».
В её словах чувствовалось сомнение.
Чтобы потратить один миллиард долларов исключительно из дружбы — это было слишком.
Иными словами, она пыталась понять, не скрываю ли я какой-то другой мотив.
Я внутренне подавил улыбку и вытер руки салфеткой. Затем спокойно сказал:
— Допустим, кто-то здесь — например, Алекс — рискует потерять жизнь. Если бы вы могли спасти его, заплатив деньги, вы бы промолчали?
— Ну, конечно, я бы сделала всё возможное в пределах своих средств. Но... один миллиард долларов — это слишком много. Прости, Алекс.
— Жестоко.
— Значит, вот сколько стоит наша дружба?
В комнате смешались смех и подначки.
Вантелл, всё ещё улыбаясь, вскоре стала серьёзной и посмотрела на меня.
— Как бы близки мы ни были, один миллиард долларов — слишком тяжёлая сумма. Честно говоря, я не совсем могу это понять...
Значит, она ещё не была убеждена.
Однако я вовсе не растерялся. Я улыбнулся и предложил новый вопрос.
— Тогда изменим условие. Что, если ради спасения Алекса вам пришлось бы отдать половину выручки за этот квартал?
— Ну, с этим я бы справилась. Но миллиард долларов...
— Именно.
Когда я перебил её, она склонила голову набок.
— Простите?
— Один миллиард долларов — это меньше половины денег, которые я заработал за этот квартал... Нет, даже не половина. Поэтому я готов с ним расстаться.
На мгновение комната затихла.
На лицах у всех отразились замешательство и удивление.
Наверняка они подумали:
«Я правильно услышал?»
Половина квартальной выручки — один миллиард долларов.
Значит, фактическая выручка за один квартал — два миллиарда долларов.
Один миллиард долларов — это примерно 1,4 триллиона корейских вон.
Сумма, которую большинство обычных людей не смогли бы представить себе даже за всю жизнь.
Но для меня всё было иначе.
— Конечно, это большая сумма, но с моей точки зрения это деньги, которые я могу позволить себе потерять. Если смотреть на неё как на долю выручки, понять будет проще.
Верно, никакого великого замысла здесь нет.
Просто единицы денег, которыми я оперирую, другие.
Поэтому для меня один миллиард долларов — сумма, которую достаточно «потратить впустую» на муншот.
— ...
Снова последовала долгая тишина.
По лицам людей я мог прочитать, что они думают:
«Ух ты, люди с Уолл-стрит и правда другие».
Похоже, масштаб денег, которые я зарабатывал, их ошеломил.
«Обычно такие культурные различия лучше не показывать... Но когда дело касается денег, всё меняется. Перед лицом подавляющего богатства любые культурные различия становятся приемлемыми».
Тишину нарушил CTO, Дросс.
— Если мы вложимся в муншот-проект и он окажется успешным, как будет делиться право собственности? Инвесторы заберут всё?
В его голосе звучала осторожность.
Похоже, он подозревал, что под видом инвестиций я хочу монополизировать технологию.
«Если он CTO, такие опасения естественны».
Если я, человек с Уолл-стрит, попытаюсь монополизировать эту технологию по правилам Уолл-стрит...
Коллегой он меня точно не примет.
Разумеется, ответ у меня был готов.
— Ну, решение, вероятно, придётся принимать через обсуждение между заинтересованными сторонами. Но если учтут моё мнение, направление может оказаться немного нестандартным.
— Нестандартным направлением?
— Я хочу сделать эту технологию открытой.
— .........!
Глаза Дросса расширились от удивления.
Кажется, он удивился сильнее, чем когда услышал моё «я могу позволить себе потратить впустую один миллиард долларов».
— Мне нужна не прибыль, а результат. Если открыть технологию, к совместной работе смогут подключиться учёные и исследователи по всему миру. Так мы быстрее и эффективнее добьёмся нужного результата.
Причина, по которой я дал такой ответ, была проста.
«Потому что это правильный ответ».
С самого начала Next AI сделала «открытость» своей ключевой ценностью.
Они выступали против идеи, что технология будет монополизирована одной структурой, и исходили из миссии: «AI должен приносить пользу всем».
Конечно, позже из-за опасений злоупотребления и вопросов безопасности эту политику пересмотрели, но сейчас основание компании находилось ещё на ранней стадии.
Для них ключевое слово «открытость» должно было прозвучать особенно сильно.
«Сработало».
На лице Дросса я увидел положительный сигнал.
Он, похоже, глубоко задумался и больше меня не давил.
Тогда заговорил один из исследователей.
— Тогда почему именно AI? Ваша специализация — медицина. Разве не эффективнее было бы инвестировать в компании, которые исследуют направления вроде иммунологии?
На лице спрашивавшего было лёгкое высокомерие.
— Люди, которые мало знают об AI, часто возлагают на него чрезмерные ожидания. Думают, что AI — это какое-то всемогущее ключевое слово...
В его тоне слышалось превосходство эксперта. Похоже, он смотрел на меня сверху вниз, как на неосведомлённого представителя широкой публики.
— Например, есть проблема скрепок. Допустим, AI поручили произвести как можно больше скрепок. На первый взгляд, это кажется безобидным, но...
— Да, я знаю. Когда я читал работы Бострома, это произвело на меня сильное впечатление.
Глаза спрашивавшего расширились.
«Обычный человек только что понял, о чём речь?»
— Это была шокирующая идея. AI не понимает нюансов человеческих ценностей и поэтому сосредоточится исключительно на цели «производить скрепки». В процессе он может растратить ресурсы, уничтожить жизненно важную инфраструктуру или даже использовать людей как материал для скрепок. Хороший пример того, как даже безобидный на вид ввод может привести к катастрофическим последствиям.
— ...
Спрашивавший какое-то время молча смотрел на меня, затем взял себя в руки и снова заговорил.
— Если вы это читали, значит, наверняка думали и о решениях.
— Разумеется. Чтобы подобного не произошло, нужно спроектировать AI так, чтобы он учился человеческим ценностям.
Однако он перебил меня, заговорив довольно возбуждённо:
— Это не так просто. Человеческие ценности крайне зависят от контекста и невероятно сложны. Зафиксировать их в статической системе практически невозможно. Даже принцип «не причиняй вреда» полон интерпретаций.
— Разве нельзя спроектировать достаточные механизмы безопасности?
— Высокоинтеллектуальная система сможет нейтрализовать даже эти механизмы безопасности. Как вы будете сохранять контроль?
— У меня есть на примете один метод...
Я несколько секунд смотрел на него, потом, будто колеблясь, сказал:
— Мы интегрируем человеческую обратную связь в процесс обучения. Не просто обучающие данные, а систему, которая учится человеческим предпочтениям и понимает контекст.
После этих слов воздух в комнате изменился.
Я снова увидел шок на лицах людей.
То, о чём я только что сказал, было обучением с подкреплением на основе человеческой обратной связи — RLHF.
К 2023 году любой AI-инвестор был бы знаком с этой концепцией.
Но в этот момент она ещё оставалась непривычной.
— Не нужно явно определять все ценности внутри системы. Если система научится наблюдать за человеческим поведением и выводить контекст...
— Концепция интересная, но реализовать её в реальности трудно. Даже с моделями обучения с подкреплением вычислительные ресурсы уже упираются в предел. Если интегрировать обратную связь, понадобится модель из двух или более стадий, верно?
Один из исследователей перебил меня, но обижаться на это не стоило.
Его тон мог показаться критичным, но это было не так.
Это была глубокая дискуссия, какую можно встретить только среди экспертов в конкретной области.
«Похоже, они начинают видеть во мне коллегу».
Это означало, что они больше не воспринимают меня как чужака, а как человека, который может сидеть за одним столом на равных.
«Конечно, с нердами такой подход работает хорошо».
Исследователи по сути и есть нерды.
А нерды обычно теплеют к людям, которые искренне увлечены темами, в которые они сами погружены.
Поэтому я продолжал подбрасывать им темы, которые им понравятся.
— Недавно я наткнулся на интересную статью о новом механизме, не RNN и не LSTM...
— Вы про механизмы внимания! Использование весов для...
Вскоре комната наполнилась горячей технической дискуссией.
Пока я всё глубже погружался в разговор, один из исследователей вдруг посмотрел на меня так, будто что-то понял, и произнёс:
— Вы правда говорите серьёзно?
Не серьёзно, просто человек, который знает будущее.
Что ж, всё к лучшему.
Теперь то, как они меня видели, стало очевидно.
Серьёзный человек, богатый, обладающий прозорливостью и пониманием AI.
На этом этапе не было причин не приглашать меня в свой круг.
Как я и ожидал, после недолгого раздумья заговорил Алекс.
— Вообще-то есть причина, по которой мы пригласили вас сюда. Мы хотим создать организацию, которая будет вести безопасное развитие AI и обсуждать связанные с этим проблемы.
Теперь он рассказывал мне о планах Next AI.
А затем:
— Вы готовы присоединиться к нам?
Они меня пригласили.
Но пока рано было слишком радоваться.
Важно было то, какую именно роль мне предлагают.
— Если речь об организации, созданной с благими намерениями, я могу сделать пожертвование. Но если вы хотите большего... Мне любопытно, какую конкретную роль вы для меня видите.
— Ничего особенного. Как вы только что показали, свободно предлагайте идеи.
На моём лице сама собой появилась улыбка.
Это означало, что они просят меня не просто внести деньги как инвестора, а думать вместе с ними о направлении и стратегии.
Иными словами, они предлагают мне место в совете.
Алекс продолжил:
— Кроме того, мы хотели бы попросить у вас совета по финансовой стороне расширения. Сейчас самая большая проблема — финансирование. Вычислительные мощности, необходимые для таких исследований, стоят немало...
— О расходах не беспокойтесь. Я займусь этим.
От моих слов лицо Алекса просветлело, но затем он замялся и добавил:
— И всё же мы не можем полагаться только на тебя, Шон. Поэтому... вообще-то я собирался в ближайшее время связаться со Старком.
— Старком?
На мгновение мысли в моей голове остановились.
Загрузка главы...

Комментарии

Загрузка...