马斯克在 OpenAI 审判中唯一 AI 专家证人担忧 AGI 军备竞赛

在埃隆·马斯克试图阻止 OpenAI 将其 AI 业务转为营利性公司的诉讼中，其唯一一位直接就 AI 技术作证的专家表达了对 AGI（通用人工智能）军备竞赛的担忧。

周一，斯坦福大学伯克利分校计算机科学教授 Stuart Russell 出庭作证。他是马斯克一方唯一一位直接针对 AI 技术本身发言的专家证人，主要任务是向陪审团和法官 Yvonne Gonzalez Rogers 提供 AI 背景知识，并说明这项技术存在值得担忧的风险。

Russell 曾在 2023 年 3 月签署公开信，呼吁暂停 AI 研究六个月。有趣的是，马斯克当时也签署了同一封信，尽管他随后成立了自家营利性 AI 实验室 xAI。

Russell 向法庭指出，AI 发展存在多种风险，包括网络安全威胁、目标对齐问题，以及在开发 AGI 过程中“赢家通吃”的特性。他强调，追求 AGI 与确保安全之间存在内在张力。

不过，Russell 关于 AI 可能带来存在性风险的更大担忧并未在公开庭审中充分展开——OpenAI 律师提出异议后，法官限制了相关证词内容。但 Russell 长期以来一直批评全球前沿 AI 实验室为抢先达成 AGI 而形成的军备竞赛态势，并呼吁政府加强对该领域的监管。

OpenAI 律师在交叉质询中重点确认，Russell 并未直接评估 OpenAI 的公司结构或具体安全政策。

从更广视角看，此案的核心争议在于企业逐利与 AI 安全之间的关系。OpenAI 的几乎每一位创始人此前都曾强烈警告 AI 风险，同时强调其益处，并试图以最快速度推进开发，同时策划由自己掌控的营利性 AI 企业。

外界观察到，OpenAI 成立后很快意识到，要取得成功就需要大量算力投入，而这些资金只能来自营利性投资者。创始团队对 AGI 落入单一组织手中的担忧，最终促使他们寻求资本，这反而撕裂了团队，也制造了我们今天看到的军备竞赛，并将各方带到这场诉讼中。

类似动态已扩展至国家层面。美国参议员 Bernie Sanders 推动立法暂停数据中心建设，其理由与马斯克、Sam Altman、Geoffrey Hinton 等人的 AI 担忧相呼应。但数据创新中心（Center for Data Innovation）的 Hodan Omaar 对此提出异议，认为 Sanders 只引用了他们的担忧，却忽略了他们的希望。她向 TechCrunch 表示：“公众没有理由只采信科技亿万富翁言论中对自己论点有利的部分，而忽视其他内容。”

目前，双方都在要求法庭有选择地采信 Altman 和 Musk 的部分观点，同时忽略对其法律立场不利的部分。

评论

0 条

登录后才可以发表评论。

立即登录

暂无评论，快来抢沙发。