OpenAI распустила команду по обеспечению согласованности миссии, которая сосредоточена на разработке «безопасного» и «надежного» ИИ

Лукас Ропек

Чет, 12 февраля 2026 г., 6:57 по местному времени +9 3 мин чтения

Сам Альтман, генеральный директор OpenAI Inc., выступает на Station F во время AI Action Summit в Париже, Франция, во вторник, 11 февраля 2025 года. Франция планирует объявить о совокупных инвестициях в размере 109 миллиардов евро в проекты искусственного интеллекта в стране в ближайшие годы, заявил президент Эмманюэль Макрон накануне двухдневного саммита AI Action. Фото: Натан Лайн/Bloomberg через Getty Images | Источник изображения: Натан Лайн/Bloomberg / Getty Images

OpenAI распустила команду, которая занималась — как сама компания описывает — обеспечением того, чтобы её системы ИИ были «безопасными, надежными и постоянно соответствовали человеческим ценностям». В то же время, бывшему руководителю команды была предоставлена новая роль в качестве «главного футуриста» компании.

OpenAI подтвердило TechCrunch, что участники команды теперь назначены на другие должности. Об этом впервые сообщил Platformer.

Распущенная команда, которая, судя по всему, была сформирована в сентябре 2024 года, являлась внутренним подразделением стартапа, посвященным работе над согласованностью. Это широкая область интересов в индустрии, которая стремится обеспечить соответствие действий ИИ интересам человека.

«Мы хотим, чтобы эти системы постоянно следовали человеческим намерениям в сложных реальных сценариях и условиях противодействия, избегали катастрофического поведения и оставались управляемыми, проверяемыми и соответствующими человеческим ценностям», — говорится в сообщении блога OpenAI по исследованию согласованности.

Объявление о вакансии в OpenAI для команды по согласованности описывает её как занимающуюся исследованием ИИ, которое сосредоточено на «разработке методов, позволяющих ИИ надежно следовать человеческим намерениям в широком диапазоне сценариев, включая противодействующие или высокорискованные ситуации».

В блоге, опубликованном в среду, Джош Ачиям, бывший руководитель команды по согласованности OpenAI, объяснил свою новую роль как главного футуриста компании. «Моя цель — поддерживать миссию OpenAI — обеспечить, чтобы искусственный общий интеллект приносил пользу всему человечеству — изучая, как мир изменится в ответ на ИИ, AGI и дальше», — написал Ачиям.

Ачиям отметил, что в своей новой роли он будет сотрудничать с Джейсоном Пруэтом, физиком из технического штата OpenAI.

Представитель OpenAI заявил, что остальная часть команды по согласованности — группа из шести или семи человек — впоследствии была перераспределена в разные части компании. Он не мог сказать точно, куда именно были назначены участники команды, но отметил, что они занимаются похожей работой в новых ролях. Также неясно, будет ли у Ачияма новая команда в рамках его роли «футуриста».

Представитель объяснил распуск команды обычными реорганизациями, которые происходят в быстро развивающейся компании.

Ранее у OpenAI была так называемая «суперкоманда по согласованности», сформированная в 2023 году для изучения долгосрочных экзистенциальных угроз, связанных с ИИ, но эта команда была распущена в 2024 году.

Личный сайт Ачияма по-прежнему указывает его как руководителя Mission Alignment в OpenAI и описывает его как заинтересованного в обеспечении того, чтобы «долгосрочное будущее человечества было хорошим». Его профиль в LinkedIn показывает, что он занимал должность руководителя Mission Alignment с сентября 2024 года.

Terms and Privacy Policy

Privacy Dashboard

Подробнее