OpenAI解散了使命对齐团队,该团队专注于“安全”和“可信赖”的人工智能开发

OpenAI解散了专注于“安全”和“可信赖”人工智能开发的使命对齐团队

Lucas Ropek

2026年2月12日星期四 上午6:57(GMT+9) 3分钟阅读

OpenAI Inc.首席执行官山姆·奥特曼在2025年2月11日星期二于法国巴黎的Station F参加AI行动峰会时发言。法国总统埃马纽埃尔·马克龙在为期两天的AI行动峰会前夕表示,未来几年内,法国将由企业、基金和其他来源在人工智能项目上投资总额达1090亿欧元。摄影:Nathan Laine/Bloomberg 通过Getty Images | 图片来源:Nathan Laine/Bloomberg / Getty Images

OpenAI已解散一个专注于——正如公司所描述的——确保其AI系统“安全、可信赖,并始终符合人类价值观”的团队。与此同时,该团队的前负责人已被赋予公司“首席未来主义者”的新角色。

OpenAI向TechCrunch确认,团队成员现已被分配到其他岗位。此消息最早由Platformer报道。

被解散的团队,似乎成立于2024年9月,是该创业公司的内部专责对齐的部门。这是行业内一个广泛关注的领域,旨在确保AI的行为符合人类利益。

“我们希望这些系统在复杂的、真实世界的场景和对抗条件下,始终遵循人类意图,避免灾难性行为,并保持可控、可审计且与人类价值观一致,”OpenAI的对齐研究博客中发表的一篇文章如此宣称。

OpenAI的对齐团队招聘信息描述该团队致力于“开发方法,使AI能够在包括对抗性或高风险场景在内的各种情况下,稳健地遵循人类意图。”

在周三发布的一篇博客中,前OpenAI对齐团队负责人乔什·阿奇姆(Josh Achiam)解释了他作为公司“首席未来主义者”的新角色。“我的目标是支持OpenAI的使命——确保人工通用智能惠及全人类——通过研究世界如何因AI、AGI及更远的未来而变化,”阿奇姆写道。

阿奇姆指出,在新角色中,他将与OpenAI技术团队的物理学家杰森·普鲁特(Jason Pruet)合作。

OpenAI的一位发言人表示,剩余的对齐团队——大约六七人——已被重新分配到公司不同的部门。发言人未能具体说明团队成员的去向,但表示他们在新岗位上从事类似的工作。也不清楚阿奇姆是否会作为“未来主义者”角色组建新团队。

发言人将团队解散归因于快节奏公司内部常见的例行重组。

OpenAI此前曾有一个名为“超级对齐团队”的部门——成立于2023年,专注于研究AI带来的长期生存威胁——但该团队在2024年被解散。

阿奇姆的个人网站仍列出他为OpenAI的使命对齐负责人,并描述他关注确保“人类的长远未来是美好的”。他的LinkedIn资料显示,他自2024年9月起担任使命对齐负责人。

条款与隐私政策

隐私控制面板

更多信息

查看原文
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 评论
  • 转发
  • 分享
评论
0/400
暂无评论
交易,随时随地
qrCode
扫码下载 Gate App
社群列表
简体中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)