特朗普政府突然重视AI安全测试

本周，特朗普政府宣布与谷歌DeepMind、微软和xAI达成协议，要求这些公司在发布前沿AI模型前后接受政府的安全测试。此前，特朗普一直反对拜登政府时期的AI安全政策，认为自愿安全测试是过度监管，阻碍了创新。上任后，他还将美国AI安全研究所更名为“AI标准与创新中心”（CAISI），去掉了“安全”一词，以表达对拜登政策的不满。然而，随着Anthropic公司宣布其最新模型Claude Mythos因潜在风险暂不发布，特朗普政府突然对AI安全问题表现出关注。据《财富》报道，白宫国家经济委员会主任凯文·哈塞特表示，特朗普可能很快会签署行政命令，要求在发布先进AI系统前进行政府测试。CAISI在声明中表示，与谷歌、微软和xAI签署的自愿协议“延续”了拜登政府的政策。CAISI主任克里斯·法尔在庆祝新合作时并未提及Mythos，但表示这些“扩大行业合作”将帮助CAISI在关键时刻推进其工作。法尔称：“独立、严谨的测量科学对于理解前沿AI及其国家安全影响至关重要。”截至目前，CAISI已完成了约40项评估，其中包括尚未发布的前沿模型。在测试过程中，CAISI经常能够接触到“减少或移除安全措施”的模型，这使他们能够更深入地了解这些模型的潜在风险。

评论

0 条

登录后才可以发表评论。

立即登录

暂无评论，快来抢沙发。