埃隆·马斯克起诉案让OpenAI安全记录接受严格审查

5月7日，美国加州奥克兰联邦法院就埃隆·马斯克起诉OpenAI一案举行听证会。马斯克指控OpenAI从非营利研究机构转变为大型营利公司，违背了创始人最初“造福人类”的承诺。听证会焦点直指OpenAI的安全治理是否被商业化进程削弱。

前OpenAI AGI准备团队成员、2024年离职的Rosie Campbell出庭作证。她表示，2021年加入时公司高度研究导向，团队经常讨论AGI与安全问题。但随后公司逐渐转向产品驱动，AGI准备团队和超级对齐团队先后被解散。她承认构建AGI需要巨额资金，但强调若缺乏可靠安全措施就推进超级智能模型，与公司最初使命不符。

Campbell举例指出，微软曾在GPT-4模型尚未通过OpenAI部署安全委员会（DSB）评估前，就将其部署到印度Bing搜索。这一事件虽未造成重大风险，却暴露出流程漏洞。她强调，随着模型能力增强，必须建立并严格执行安全先例。

另一位前董事会成员Tasha McCauley也出庭，回忆2023年董事会短暂解雇Sam Altman事件。她指出，Altman曾向董事会隐瞒信息、误导成员，甚至在关键决策（如公开发布ChatGPT）前未充分沟通，导致非营利董事会难以有效监督营利子公司。专家证人David Schizer进一步强调，安全流程必须得到切实执行，而非仅停留在口头承诺。

OpenAI辩称其安全框架公开透明，并从Anthropic聘请了新负责人。但听证会凸显了前沿AI实验室在商业化与安全之间的深刻张力，也引发外界对加强政府监管的讨论。

评论

0 条

登录后才可以发表评论。

立即登录

暂无评论，快来抢沙发。