太强不敢公开！Anthropic：新模型风险过高

iWeekly

人工智能初创公司Anthropic当地时间7日表示，公司尚未发布的名为“Claude Mythos”的新人工智能模型已证明在发现软件漏洞方面表现极为出色。这款模型具备找出数千个在常用应用程序中存在但尚未有补丁或修复措施的漏洞的能力。值得注意的是，Anthropic公司方面声称，他们并未训练“Claude Mythos”具备这些能力，它们是代码推理和自主性改进的结果。Anthropic公司进一步表示，这一模型的功能过于强大，存在巨大风险，因此不会开放给公众使用。目前，这家总部位于旧金山的人工智能初创公司正在与网络安全专家合作，以加强抵御黑客攻击的能力，并暂缓大规模推广“Claude Mythos”模型。

人工智能模型能力的大幅提升引发了广泛担忧。许多人担心黑客可能会利用这些工具来破解密码或破解旨在保障数据安全的加密技术。据Anthropic公司称，“Claude Mythos”模型所发现的漏洞中，最古老的已有27年历史。而且在被人工智能模型检测出来之前，这些漏洞的开发者显然都没有注意到它们的存在。Anthropic公司在一篇文章中指出，这些强大的模型如果未能得到安全使用，将对经济、公共安全和国家安全造成非常严重的后果。出于谨慎考虑，“Claude Mythos”模型目前仅对网络安全公司和部分科技公司开放。Anthropic公司也因此启动了一项名为“玻璃翼计划”的项目，与苹果、谷歌和微软等大型公司一起，合作将“Claude Mythos”的能力用于防御目的。

点击顶图观看完整视频

iWeekly独家稿件，未经许可，请勿转载