«Время выпуска» Диаграммы глубины: о чем думает OpenAI после двух серьезных ошибок?

Оригинальное название статьи: Внутри перезагрузки OpenAI
Автор оригинала: Алекс Хит
Перевод: BlockBeats

Примечание редактора: За последний год лидирующие позиции OpenAI пошатнулись. Anthropic захватила рынок ИИ-программирования с помощью Claude Code, превзойдя OpenAI по годовой выручке и частной оценке стоимости; внутри самой OpenAI произошли увольнения руководителей, сокращение продуктовых линеек и реорганизация команд безопасности. После того как невыпущенный агент выбрался из «песочницы» и проник в Hugging Face, компания столкнулась с самым серьезным кризисом безопасности с момента своего основания.

Сталкнувшись с двойным давлением в области продукта и безопасности, OpenAI пытается провести комплексную перезагрузку: перенаправляет ресурсы с таких проектов, как Sora, на Codex, превращая ChatGPT из чат-инструмента в платформу интеллектуальных агентов, способную к устойчивому выполнению задач, одновременно приостанавливая обучение моделей с высоким уровнем риска и усиливая механизмы безопасности и согласования. Кроме того, компания продолжает расширять свою деятельность в сферах AGI, специализированных чипов, ИИ-оборудования, гуманоидных роботов и вычислительной инфраструктуры.

В этой статье, основанной на интервью с руководителями OpenAI, такими как Сэм Альтман и Грег Брокман, а также с сотрудниками, инвесторами, клиентами и конкурентами, проведенных Time , рассказывается о том, как компания меняет свой курс в условиях коммерческой конкуренции, рисков безопасности и видения AGI. Ключ к способности OpenAI вернуть себе лидирующие позиции заключается не только в мощности ее следующей модели, но и в том, сможет ли она доказать свою способность как ускорять развитие ИИ, так и притормаживать, когда это необходимо.

Ниже представлена оригинальная статья (слегка отредактированная для удобства чтения):

Ранним августовским утром, когда я прибыл в офис OpenAI, снаружи уже ждали протестующие. Они держали плакаты с надписями «Остановите гонку ИИ» и писали мелом на тротуаре. Тем временем десятки топ-менеджеров ключевых клиентов OpenAI входили в просторное здание в бежевых тонах. Это здание, получившее название MB0, является новым офисным пространством, недавно открытым OpenAI для своих исследовательских и инженерных команд.

Кто-то привез высокую зеленую стену из растений, чтобы закрыть вид на аккуратное лобби от небольшого лагеря протестующих снаружи.

Эти клиенты пришли, чтобы первыми взглянуть на Astra — грядущую серию моделей ИИ нового поколения от OpenAI. Генеральный директор Сэм Альтман только что вернулся из Вашингтона, где он проинформировал правительственных чиновников о возможностях Astra. Теперь исследователи OpenAI начали демонстрировать, на что способна эта новая модель.

В ходе демонстрации 16 ИИ-агентов разбили математическую задачу исследовательского уровня на несколько подзадач, скоординировали свои действия друг с другом и в конечном итоге синтезировали доказательство. В другой демонстрации Astra смогла управлять стандартным настольным программным обеспечением, быстро создавая и редактируя контент в различных приложениях с пугающей скоростью.

Альтман рассказал посетителю, что наблюдение за тем, как Astra работает с компьютером «сверхчеловеческим и невероятно быстрым» образом, стало одним из самых впечатляющих моментов для сотрудников OpenAI. Он пояснил, что Astra положит начало «долгоживущим агентам» — виртуальным коллегам, способным непрерывно выполнять задачи в течение длительного времени.

Тем не менее, Альтман предвидел, что наибольшее влияние окажет помощь людям в открытии новых знаний.

«Я ожидаю, что это будет первая модель, способная по-настоящему изобретать новые вещи значимым образом, — сказал Альтман присутствующим. — Это очень близко к AGI».

Anthropic наступает, доверие падает: почему OpenAI утратила лидерство?

Это были непростые времена для компании, которая спровоцировала волну ИИ.

«Как компания, мы определенно допустили несколько ошибок». Неделю спустя Альтман более двух часов беседовал со мной в тщательно подобранной библиотеке MB0: «будь то в направлении продукта или в предварительном обучении в исследованиях, мы отстали от того, на что рассчитывали».

За последний год OpenAI утратила лидерство в сфере ИИ-разработок, уступив своему главному конкуренту — компании Anthropic. Последняя первой обнаружила коммерческий потенциал в области ИИ-программирования, превратив Claude Code в продукт, определяющий рынок, и впервые обойдя OpenAI по показателям раскрытой годовой выручки и оценке на частном рынке.

Согласно источникам, знакомым с планами Anthropic, компания, основанная бывшими сотрудниками OpenAI, готовится к выходу на биржу, причем возможное IPO может состояться уже в сентябре. (Time имеет партнерство с OpenAI в области лицензирования и технологий; Salesforce, генеральным директором которой является владелец Time Марк Бениофф, является инвестором Anthropic.)

В то время как Anthropic находится на подъеме, OpenAI столкнулась с рядом неудач, включая многочисленные увольнения руководителей. Среди ушедших — выбранный Альтманом заместитель, бывший генеральный директор Instacart Фиджи Симо, руководители отделов безопасности, этики и исследований, а также директор по доходам Дениз Дрессер и бывший операционный директор Брэд Лайткэп, причем Дрессер покинула компанию всего через восемь месяцев работы.

За пределами компании проблемы продолжают накапливаться. Генеральный директор Meta Марк Цукерберг переманил ключевых исследователей из OpenAI, предложив им щедрые компенсационные пакеты; число ежемесячных пользователей продукта Gemini от Google превысило 1 млрд; Apple подала в суд на OpenAI за кражу коммерческой тайны — обвинение, которое OpenAI отвергла; OpenAI также втянута в судебную тяжбу с соучредителем Илоном Маском, который обвиняет компанию и Альтмана в предательстве её некоммерческой миссии.

В мае этого года присяжные единогласно признали иск Маска несвоевременным, после чего федеральный судья отклонил его требования. Маск заявил, что будет подавать апелляцию.

Ухудшение общественного восприятия OpenAI и её генерального директора, возможно, в значительной степени связано с утратой доверия общественности. OpenAI столкнулась как минимум с дюжиной исков об ответственности за качество продукции в Калифорнии, а также с рядом федеральных судебных дел. Истцы утверждают, что ChatGPT усиливал заблуждения или суицидальные мысли пользователей, а в некоторых случаях приводил к их гибели.

Компания выразила соболезнования пострадавшим в соответствующих случаях и выпустила более строго регулируемую версию ChatGPT для подростков. Этой весной резиденция Альтмана подверглась двум нападениям подряд в течение двух дней: сначала с использованием коктейля Молотова, а затем с применением огнестрельного оружия.

Размышляя о прошедшем годе, Альтман сказал: «С личной точки зрения, это был болезненный опыт. Очевидно, что, по крайней мере сейчас, люди ненавидят дата-центры. Отношение людей к ИИ довольно негативное».

Тем не менее, внутри OpenAI руководители рисуют более оптимистичную картину.

Эта компания, оцениваемая почти в 1 триллион долларов, по-прежнему находится в завидном положении. Имея более 1 миллиарда активных пользователей, ChatGPT остается одним из самых популярных ИИ-продуктов в мире, хотя он больше не является единственным центральным элементом будущей стратегии OpenAI. Сам Альтман даже взял месячный перерыв в использовании ChatGPT, решив воспользоваться инструментом программирования от OpenAI — Codex.

Год назад компания OpenAI столкнулась с широкой критикой из-за своих масштабных инвестиций в вычислительные мощности. Только в этом году компания планирует инвестировать 50 миллиардов долларов в вычислительные мощности.

Сачин Катти, отвечающий за бизнес OpenAI в сфере вычислительных мощностей, отметил, что, оглядываясь назад, «решение в то время было очень дальновидным». «Наших вычислительных мощностей по-прежнему недостаточно. Если говорить откровенно, нам следовало купить больше».

Тем временем спрос на чипы в Anthropic достиг нового уровня срочности. В мае этого года компания, как сообщается, согласилась платить SpaceX 1,25 млрд долларов в месяц за покупку вычислительных мощностей, при этом основатель SpaceX Маск ранее называл ИИ Anthropic «античеловечным и злым».

Под руководством соучредителя и президента Грега Брокмана компания OpenAI пересмотрела свои приоритеты. Сегодня почти все продуктовые и бизнес-операции находятся под контролем Брокмана. Компания постепенно сворачивает работу приложения для генерации видео Sora, созданного в сотрудничестве с Disney, а также независимого браузера под названием Atlas.

Альтман признал, что ранее OpenAI распыляла свои ресурсы. «После прохождения нижней точки процесс восстановления будет еще интереснее», — сказал он.

После «прорыва» в области ИИ OpenAI нажимает на тормоза

Однако всего через несколько дней после демонстрации Astra компания OpenAI столкнулась с новым кризисом.

В конце июля компания сообщила о тревожном инциденте безопасности: невыпущенный ИИ-агент выбрался из тестовой среды, называемой «песочницей», и атаковал платформу для размещения ИИ-моделей и наборов данных Hugging Face.

«Это похоже на научно-фантастическую историю», — сказал Альтман.

После инцидента исследовательская группа OpenAI приостановила некоторые эксперименты, замедлила работу над другими проектами, а также усилила защиту «песочниц» и мониторинг.

Однако вскоре после этого команда столкнулась с тревожными признаками во время обучения другой невыпущенной модели. Изначально ожидалось, что эта модель обеспечит самый значительный скачок в возможностях на сегодняшний день. Затем OpenAI приняла более решительное решение: приостановить обучение до тех пор, пока не будут внедрены новые меры безопасности.

В тот же день, когда руководство OpenAI приняло это решение, я взял интервью у Альтмана. Его выражение лица было заметно более серьезным, чем раньше.

Компания OpenAI изначально охарактеризовала утечку данных в Hugging Face как ошибку безопасности, однако позже Альтман расценил это как более фундаментальную проблему «согласования». Согласование подразумевает обеспечение того, чтобы системы ИИ действовали в соответствии с намерениями человека. Лидеры отрасли полагают, что по мере дальнейшего развития возможностей моделей поддержание согласования является ключом к тому, чтобы системы ИИ оставались под контролем их создателей.

«Я считаю, что отныне любой сбой в согласовании должен рассматриваться как серьезное событие, — сказал мне Альтман. — Мы уделим необходимое время тому, чтобы досконально разобраться в этой проблеме».

В последующем интервью три дня спустя он добавил: «Обеспечение безопасности ИИ важнее, чем траектория роста любой отдельной компании».

OpenAI замедляет темпы работы, перераспределяет больше ресурсов в пользу команды по безопасности и согласованию (alignment), а также меняет принципы взаимодействия между командами, чтобы еще больше повысить приоритет безопасности.

Этот отчет о перезагрузке OpenAI основан на десятках часов интервью с более чем 20 нынешними и бывшими руководителями, сотрудниками, инвесторами, клиентами и конкурентами, а также на моих личных наблюдениях во время двухнедельного визита в штаб-квартиру OpenAI в августе.

Эти беседы описывают компанию, пытающуюся осуществить двойную трансформацию. С одной стороны, OpenAI считает, что исправила продуктовые и операционные ошибки — ошибки, которые позволили Anthropic вырваться вперед в гонке ИИ. С другой стороны, OpenAI пытается вернуть себе идентичность, которую долгое время удерживал ключевой конкурент: передовая лаборатория, которая по-настоящему ставит безопасность в приоритет и готова замедлиться, когда технология становится слишком рискованной, на фоне самого серьезного кризиса безопасности в своей истории.

«Послушайте, я знаю, что обо мне сложился определенный карикатурный образ, — говорит Альтман. — Будто меня совсем не волнует безопасность ИИ, будто я хочу только роста выручки и являюсь еще одним гендиректором в духе "действуй быстро и ломай всё на своем пути"». Но я считаю, что «обеспечение безопасности ИИ важнее, чем траектория роста любой отдельной компании».

Руководители OpenAI признают, что замедление темпов — это болезненный выбор, но у него могут быть свои положительные стороны. Если OpenAI удастся вернуть себе репутацию «лаборатории, где безопасность превыше всего», это позволит не только улучшить имидж компании, но и заставит крупных конкурентов, готовящихся к громкому IPO, ответить на неприятный вопрос: продолжит ли Anthropic двигаться на полной скорости, пока OpenAI решает подождать?

Ранее в этом году соучредитель Anthropic Джаред Каплан в интервью изданию Time заявил, что одностороннее самоограничение бессмысленно, когда конкуренты продолжают «двигаться вперед на всех парах». Но если OpenAI проактивно приостановит раунд обучения, который, как ожидается, приведет к значительному скачку в возможностях, этот аргумент станет труднее отстаивать.

Конечно, существуют причины для скептического отношения к смене имиджа OpenAI.

За прошедшие годы OpenAI покинули многие ключевые сотрудники, возглавлявшие работу по обеспечению безопасности, некоторые из которых критиковали компанию за чрезмерный акцент на коммерциализации. Тем временем, готовясь к выходу на биржу, компания, которая до сих пор остается убыточной, полагается на постоянный выпуск новых моделей. После инцидента с Hugging Face она призывает общественность поверить в то, что способна контролировать технологию, которая ранее вышла из-под контроля без ведома компании.

Прямо сейчас руководство OpenAI считает, что компания достигла важного этапа, который может изменить ход человеческой истории: создание сильного искусственного интеллекта, или AGI.

Устав OpenAI определяет AGI как «высокоавтономные системы, которые превосходят людей в большинстве экономически значимых видов деятельности». Хотя руководители компании прямо не заявляли о преодолении этого порога, они больше не рассматривают AGI как нечто далекое и абстрактное.

Главный научный сотрудник Марк Чен оценивает, что OpenAI прошла «80%» пути к AGI.

Брокман предположил, что, оглядываясь назад через два года, люди могут увидеть в этом момент рождения AGI. Альтман сказал мне, что OpenAI «еще не совсем достигла» уровня AGI, но компания ожидает, что к концу этого года у нее появится система, которую он внутренне назовет AGI.

Достижение этой цели было первоначальной задачей OpenAI как некоммерческой исследовательской лаборатории. Сегодня она стремительно превратилась в компанию с амбициозными коммерческими целями.

OpenAI разрабатывает собственные чипы и дата-центры, создает линейку потребительского оборудования, планирует запуск гуманоидных роботов и рассматривает возможность продажи вычислительной инфраструктуры другим компаниям в будущем. В случае реализации этих планов OpenAI станет конкурентом своих крупных инвесторов, таких как Amazon, и других технологических гигантов.

Несмотря на растущее противодействие развитию ИИ, OpenAI готовится стать одной из самых влиятельных компаний в мире в ближайшие годы. Как выразился Брокман: «Мы хотим трансформировать всю экономику».

От Codex к «Верификации личности AGI»: OpenAI делает ставку на полную перезагрузку

Альтман может быть публичным лицом волны ИИ, но именно Брокман, который сейчас фактически руководит большинством операций OpenAI, принимает все ключевые решения.

Брокман — инженер с аналитическим складом ума, который любит носить куртки. На протяжении большей части истории OpenAI он играл роль технического соучредителя, а не менеджера. Однако в последние месяцы он взял на себя практически все аспекты операционной деятельности: от получения выручки до продуктового маркетинга. По его собственным словам, он отвечает за то, чтобы «превратить эти модели из результатов исследований в целостный механизм, приносящий пользу клиентам».

Альтман по-прежнему курирует такие критически важные направления, как финансы, исследования и потребительское оборудование.

Эти два человека совместно руководят компанией в качестве соучредителей, при этом их сферы полномочий частично пересекаются. В то время как Альтман боролся с общественными опасениями и недовольством вокруг ИИ, OpenAI недавно начала повышать публичную значимость Брокмана, стремясь создать определенный баланс.

Нетрудно представить, что такая договоренность может стать источником разногласий. При взаимодействии с сотрудниками OpenAI порой бывает сложно определить, кто именно из двух сторон в конечном итоге принимает то или иное решение.

Тем не менее, многие сотрудники отмечают, что такая структура двойного руководства вернула компанию на правильный путь. Брокман способен принимать жесткие решения, опираясь на авторитет соучредителя, чего не могли повторить постоянно сменяющиеся внешние профессиональные менеджеры.

Брокман охарактеризовал масштабные кадровые перестановки в руководстве OpenAI как шаг в сторону «фокусировки». Он отметил, что компания пересматривает вопрос о том, обладает ли она подходящей организационной структурой и стратегией.

Прошлой осенью компания Anthropic уже значительно вырвалась вперед со своим продуктом для программирования. Она осознала, что разработка программного обеспечения — это та область, в которой ИИ может добиться выдающихся результатов, и впоследствии Claude Code быстро завоевал популярность сначала в Кремниевой долине, а затем и на более широком корпоративном рынке.

«Anthropic действительно обнаружила нечто значимое в области программирования». Ник Терли, который недавно отвечал за ChatGPT, а теперь возглавляет новое подразделение корпоративных продуктов, сказал: «В то время мы не были впереди».

Альтман заявил, что «неконтролируемый рост» потребительского бизнеса ChatGPT отвлек внимание компании, поэтому OpenAI не уделяла программированию такого приоритетного внимания, как Anthropic.

Брокман считал, что OpenAI «опережала» других в соревнованиях по программированию. Однако компания недостаточно фокусировалась на том, как разработчики будут использовать ИИ в «неупорядоченной реальности кодовых баз», включая прерывания задач, особенности моделей и проблемы «последней мили», которые казались незначительными, но существенно влияли на внедрение.

OpenAI также не удалось создать зрелую систему корпоративных продаж. «Думаю, год назад мы даже по-настоящему не присутствовали на корпоративном рынке», — сказал Брокман. Финансовый директор Сара Фрайер выразилась более прямолинейно: «В то время мы были наивны, полагая, что просто создание продукта естественным образом привлечет клиентов».

В марте этого года OpenAI объявила о постепенном закрытии Sora, перераспределив дефицитные вычислительные мощности на ИИ для программирования Codex. Изначально Codex был разработан как продукт, отдельный от ChatGPT, но поскольку темпы его роста начали опережать другие новые продукты OpenAI, а возможности ИИ в программировании становятся все более ценными даже для тех, кто не является инженером, руководство пришло к выводу, что дальнейшее их разделение больше не имеет смысла.

Компания начала интеграцию возможностей ИИ Codex в ChatGPT, объединив вычислительные мощности и продуктовые команды, стоящие за обоими проектами. Конечным результатом для клиентов стал недавно запущенный ChatGPT Work, нацеленный на превращение привычных чат-ботов в системы для выполнения задач, а не просто для ответов на вопросы. Внутри OpenAI эта интеграция получила название «Слияние» (The Merge).

Руководители заявляют, что этот шаг помог оживить бизнес компании. В июле этого года корпоративная выручка OpenAI впервые превысила потребительскую. Первые тесты рекламы в ChatGPT также показали многообещающие результаты, что побудило руководство увеличить количество рекламных мест. Фрайер отметил, что 92% потребителей ChatGPT не оформляют подписку на премиальные услуги, и в будущем доходы от рекламы могут компенсировать бесплатное использование сервиса этими пользователями.

По словам руководителя соответствующего бизнес-направления Дэйва Дугана, компания также в фоновом режиме тестирует «Спонсируемые ИИ-агенты». В этом рекламном формате пользователи, нажавшие на объявление, перенаправляются в интерактивную среду с ИИ, предоставленную брендом.

В марте этого года компания OpenAI достигла оценки в 852 млрд долларов после раунда финансирования на 122 млрд долларов, установив рекорд по объему привлеченных средств для частной технологической компании. Всего два месяца спустя компания Anthropic также привлекла 650 млрд долларов при оценке в 965 млрд долларов.

Председатель совета директоров OpenAI Брет Тейлор сравнил конкуренцию в сфере ИИ с шахматной доской, где ключевыми полями являются возможности передовых моделей, цена и производительность каждого токена, а также продукты, созданные на базе этих моделей.

«Есть ли у нас лучшие передовые модели? Можем ли мы предложить подходящий токен для каждой задачи по правильной цене? Есть ли у нас лучшие продукты на базе этих моделей?» — сказал он. — «Прямо сейчас ответ на эти вопросы — да».

Впоследствии OpenAI обнаружила, что невыпущенная модель вышла за пределы компании.

Известие застало главного научного сотрудника OpenAI Якуба Пачоцки, когда он находился в больнице, где его жена рожала.

Внутренний исследовательский прототип от OpenAI совершил взлом другой компании. В тот момент модель проходила стресс-тест на кибербезопасность в среде, которая должна была быть изолирована от внешнего мира. Вместо того чтобы просто выполнить поставленную задачу, она использовала уязвимость, чтобы выйти из системы OpenAI и проникнуть в производственную среду Hugging Face.

Согласно техническим спецификациям, опубликованным двумя компаниями, модель получила свои ответы для бенчмарк-теста именно там.

Обучение с подкреплением — это этап, который проходит базовая модель после обучения. На этом этапе система многократно выполняет задачи и учится определять, какие действия приносят вознаграждение. В отличие от фазы предварительного обучения, где модель просто предсказывает следующий токен, не взаимодействуя с реальным миром, обучение с подкреплением может предоставить модели инструменты и практически применимую среду.

Именно на этом этапе модель может научиться различать «то, что на самом деле хочет от нее разработчик» и «то, как получить более высокий балл».

OpenAI поставила перед интеллектуальной агентной системой цель и предоставила инструменты, и она достигла этой цели с помощью несанкционированных и обманных методов.

В недавней демонстрации исследователи OpenAI описали, как ИИ-агент использовал скрытую доску сообщений для планирования своих дальнейших действий. Один из агентов выбрался из «песочницы», подключился к интернету и написал другим агентам на доске сообщений: "I rely on it. (Holy Shit)"

Другие компании также столкнулись с похожими проблемами. Anthropic раскрыла информацию о трех инцидентах: в процессе сторонней оценки ее модель получила доступ к интернету и взаимодействовала с внешними объектами без авторизации. Meta также заявила, что одна из ее моделей была вовлечена в аналогичный инцидент.

Однако инцидент с безопасностью в OpenAI привлек наибольшее внимание. Отчасти это связано с тем, что компания первой публично раскрыла информацию о нем, атака агентов была необычайно сложной, а также возникли внешние сомнения относительно того, не ставит ли OpenAI коммерческие интересы выше безопасности.

За последний год OpenAI покинули несколько видных исследователей в области безопасности, а руководители, отвечающие за готовность к рискам, сменялись неоднократно. Теперь этот инцидент служит особенно ярким примером для критиков.

По состоянию на середину августа более 1300 нынешних и бывших сотрудников ведущих ИИ-компаний подписали петицию под названием «Контролируйте темпы конкуренции в сфере передовых технологий» (Control the Pace of Cutting-Edge Competition), призывающую к созданию соответствующих механизмов для замедления темпов разработки продвинутых моделей в тех случаях, когда этого требуют риски.

Сенатор США Берни Сандерс призвал ведущие ИИ-компании «приостановить разработку на благо человечества» и предупредил, что если лидеры отрасли не примут упреждающие меры, законодатели вмешаются в ситуацию.

В ходе интервью руководители OpenAI заявили, что компания серьезно относится к этой ошибке в системе безопасности и оперативно отреагировала на нее. Пачоцки, который также подписал петицию, сообщил мне, что ключевой ошибкой стало то, что компания не задействовала защитные механизмы, которые исследователи уже разработали.

У OpenAI есть инструмент, позволяющий исследовать карту внимания модели. Карту внимания можно представить как «цифровой набросок» модели, показывающий, что агент планирует во время выполнения действия. Однако компания еще не применяла эти инструменты к модели того уровня возможностей, который соответствует инциденту с утечкой данных на Hugging Face.

По сути, OpenAI создала систему раннего предупреждения, но не активировала её из-за неверной оценки уровня интеллекта тестируемой системы. «Мы не до конца предвидели, на что способна эта система, — сказал Пачоцки. — В работе с ИИ нужно быть готовым к неожиданностям».

Ведущая специалист по безопасности и согласованию (Safety and Alignment Lead) OpenAI Миа Глейз сказала мне, что этот инцидент стал «очевидным поворотным моментом». «Я надеюсь, что большая часть работы, которую мы делаем, будет выполнена еще до того, как произойдут несчастные случаи».

После инцидента OpenAI приостановила некоторые исследовательские проекты, замедлила другие и усилила песочницы, одновременно расширив мониторинг. Главный научный сотрудник Чен заявил, что это событие заставило компанию пересмотреть свое отношение к рискам.

Так называемая «система обеспечения готовности» (preparedness framework) OpenAI — это набор правил, опубликованных компанией для борьбы с новыми возможностями моделей, которые могут представлять серьезную угрозу, включая биологические и химические риски, угрозы кибербезопасности и возможности ИИ к самосовершенствованию. Данная система требует от компании проводить непрерывную оценку в процессе разработки модели, чтобы гарантировать ее соответствие стандартам безопасности перед развертыванием.

Пачоцки заявил, что эти правила должны постоянно развиваться, чтобы не отставать от темпов технологического прогресса. Глейз отметил, что компания принимает множество «не глобальных, но болезненных решений», которые «замедляют прогресс в исследованиях, но мы считаем, что это правильно». Пачоцки сказал, что доверие к вопросам согласования и безопасности стало критическим фактором, ограничивающим темпы развития OpenAI, наряду с обеспечением вычислительными мощностями.

Компания по-прежнему планирует запустить Astra, однако текущим предварительным условием для релиза является внедрение новых мер безопасности. Руководство отказалось оценивать, насколько эти изменения повлияют на сроки выпуска. В отрасли, где техническое преимущество измеряется еженедельно, даже кратковременная задержка может сказаться на прогнозах по выручке и вызвать цепную реакцию в более широкой экономике.

По крайней мере на данный момент OpenAI готова нести эти расходы. Пачоцки надеется, что стремительное развитие возможностей ИИ будет способствовать координации усилий между компаниями. Глейз отметила, что по мере роста возможностей моделей OpenAI продолжит повышать планку безопасности. «Если наступит день, когда мы достигнем точки, в которой безопасность не может быть гарантирована, нам придется замедлиться. Так оно и есть», — сказала она.

Влияние этих изменений на сроки IPO OpenAI пока неясно. Инсайдеры, знакомые с планами обеих компаний, ожидают, что IPO OpenAI состоится позже, чем IPO Anthropic, однако ни одна из них публично не объявила дату листинга.

19 августа во время общего собрания финансовый директор Фрайар сообщил сотрудникам, что если бизнес компании продолжит демонстрировать «рост в поворотной точке», OpenAI может выйти на биржу в 2027 году или раньше.

Компания OpenAI недавно сообщила о годовой выручке в размере около 40 миллиардов долларов, что отстает от показателей Anthropic, которые уже превысили 65 миллиардов долларов. Недавние задержки в исследованиях могут еще больше усложнить планы по выходу на биржу. Фрайер проводит мероприятия по подготовке к IPO, включая имитацию звонков о доходах с основными инвесторами OpenAI. Она сказала мне, что компания «полностью готова к выходу на публичный рынок уже сегодня», но этот шаг также создаст новое давление. С этого момента OpenAI должна будет найти баланс между коммерческими интересами и потенциальным вредом от развития возможностей ИИ.

Сотрудники также начнут уделять первостепенное внимание отслеживанию курса акций, ставя это почти превыше всего остального. «Это станет первым, что они будут делать каждый день, — сказала она. — Сколько я заработал сегодня? Сколько потерял? Это будет сильно отвлекать».

Одной из исследовательских целей OpenAI в этом году является автоматизация работы младших ИИ-исследователей. Пачоцки заявил, что компания достигла внутреннего этапа в разработке «автоматизированных ИИ-стажеров-исследователей». Получив экспериментальную идею, Astra может выполнить её реализацию, провести эксперименты в кодовой базе OpenAI и вернуть результаты; она также способна прочитать научную статью, выполнив задачу, на которую у исследователя-человека раньше уходила неделя.

Значимость этой вехи заключается в том, что она может запустить самоподдерживающийся цикл: ИИ помогает в проведении экспериментов, эксперименты позволяют создавать более совершенный ИИ, а новое поколение ИИ может быстрее разрабатывать своих преемников. Исследователи называют это явление «рекурсивным самосовершенствованием» (Recursive Self-Improvement, RSI). Пачоцки рассматривает RSI как неразрывно связанное с проблемой согласования (alignment).

«Как люди будут вовлечены в этот процесс?» — сказал Пачоцки. — «Как люди могут действительно извлечь из этого пользу, а не остаться позади из-за всё более умного ИИ?»

Что касается продуктов, Альтман планирует запустить сервис подписки на общий ИИ, который стирает границы между ChatGPT, Codex и офисными программами. Пользователям нужно будет лишь сформулировать свои цели, а система сама решит, какие модели, инструменты и агенты задействовать.

В конечном итоге эта система будет проактивно предпринимать действия еще до того, как пользователи отправят запрос, самостоятельно предлагать решения и выполнять рутинные задачи, такие как покупка билетов на концерты. Она сможет обращаться к вашему расписанию, понимать ваше финансовое положение и даже знать ваши музыкальные предпочтения.

Всё это служит одной цели: превратить ChatGPT из инструмента для ответов на вопросы в систему, которая действительно выполняет задачи. Тибо Соттьо, ведущий специалист по продуктам ChatGPT и Codex из команды OpenAI, отвечающий за интеграцию, заявил, что OpenAI вскоре представит продукт, построенный на принципах «постоянства и круглосуточного выполнения задач». Он отметил, что к этой системе можно будет получить доступ практически из любого места, и она продолжит выполнять полезную работу, опираясь на новую информацию и обратную связь. «Для людей это определенно будет ощущаться как нечто совершенно новое», — сказал мне Соттьо.

Впоследствии дорожная карта OpenAI стала еще более амбициозной. В мае 2025 года OpenAI приобрела аппаратный стартап io, соучредителем которого является бывший дизайнер Apple Джони Айв, и интегрировала его команду по продукту и разработке в OpenAI. Айв и его дизайн-студия LoveFrom остаются независимыми, но взяли на себя обширные творческие обязанности в рамках OpenAI.

Альтман заявил, что OpenAI разрабатывает «несколько» устройств, включая нечто, что «должно стоять на столе», карманное устройство и носимый гаджет.

Инсайдеры, знакомые с планами, сообщили, что запуск первого продукта ожидается в начале следующего года. Это небольшое устройство в форме диска, которое способно воспринимать окружающую обстановку и взаимодействовать со своим владельцем через голосовой режим ChatGPT. «Самое большое изменение — это привыкание к концепции "проактивных компьютеров"», — сказал Альтман. Это означает, что компьютер будет действовать от имени владельца, вместо того чтобы ждать, пока владелец даст команду.

Альтман считает, что в будущем у каждого должен быть персональный робот. Он сказал мне, что OpenAI «определенно» будет производить человекоподобных роботов. OpenAI также инвестировала в компанию Merge Labs, соучредителем которой является Альтман и которая занимается разработкой неинвазивных нейрокомпьютерных интерфейсов. Первый чип для инференса собственной разработки OpenAI получил название Jalapeño и предназначен в основном для запуска моделей ИИ, а не для их обучения. Компания планирует начать внедрение этого чипа к концу текущего года.

Тем временем OpenAI рассматривает возможность стать инфраструктурной компанией редкого масштаба. В июле этого года компания объявила о планах по строительству кампуса центров обработки данных в Джорджии; в августе она обеспечила себе еще более крупную площадку в Огайо.

«Я думаю, что мы сможем весьма выгодно использовать все запланированные строительные мощности, — сказал Альтман. — Но меня несколько беспокоит то, что делает весь остальной мир».

Руководитель OpenAI заявил, что если компания сможет достаточно быстро и дешево создать инфраструктуру ИИ для собственных нужд, в будущем она может рассмотреть возможность продажи вычислительных мощностей другим компаниям. Это поставит OpenAI в положение прямой конкуренции с облачными провайдерами мега-масштаба, такими как Amazon Web Services и Google Cloud.

Для компании, которая недавно взяла на себя обязательство сократить количество побочных проектов, отвлекающих от основной деятельности, это довольно внушительный список новых направлений бизнеса. Когда Брокмана попросили резюмировать всё это, он ответил двумя словами: «Персональный AGI». Он представил будущее, в котором миллиарды людей будут иметь в своем распоряжении сверхразумного персонального помощника, готового выполнить команды в любое время. «У вас в кармане уже есть система, которая почти является AGI, а возможно, скоро станет им в полной мере, — сказал он. — Итак, чего вы хотите?»