布鲁斯·施奈尔警示Anthropic Mythos AI潜在危险，网络安全风险引发关注

安全专家布鲁斯·施奈尔对Anthropic Mythos AI在网络安全领域的能力表达警示。Mythos类模型能够辅助发现漏洞、分析攻击路径和提升安全研究效率，但同样可能被不当使用，成为自动化攻击、漏洞利用或恶意网络行动的工具。AI安全模型的能力越强，对使用边界、发布机制和访问控制的要求也越高。

这类争议体现了AI网络安全工具的双重属性：在防御者手中，它可以帮助开源项目和企业更快发现风险，降低软件漏洞造成的实际损害；但在攻击者手中，同样的能力可能被用于大规模扫描、自动化攻击和更复杂的渗透行动。因此，模型能力评估、红队测试、使用权限分级和审计机制，将成为此类工具能否安全落地的关键。

未来AI安全治理不能只停留在原则层面，而需要对高能力模型建立更细致的发布规范。尤其是涉及网络安全、代码执行、自动化代理和系统访问能力的模型，应当在开放创新与风险控制之间保持可验证的平衡。

评论

0 条

登录后才可以发表评论。

立即登录

暂无评论，快来抢沙发。