1. 主页 > 社会焦点

Anthropic否认倡导禁止开源模型:不具备危险能力的模型是公共产品

被卷入开源争论的AI(人工智能)初创公司Anthropic作出澄清,称从未倡导禁止此类模型。

当地时间7月27日,Anthropic的CEO达里奥·阿莫代伊(DarioAmodei)在公司官网上发布文章称,Anthropic“从未倡导或支持过禁止开放权重模型”。他写道:“不具备危险能力的开放权重模型是一种公共产品:除了运行它们所需的算力之外,使用者无需支付任何费用,而且它们能为企业、开发者和研究人员创造巨大的价值。”

近日,围绕开源与闭源模型的安全性争论愈演愈烈。7月中旬,中国大模型企业月之暗面发布旗下新一代模型KimiK3,参数规模达2.8万亿,这也是目前全球参数最大的开源模型,凭借其性能引发硅谷轰动。

而在不久之后,全球最大的AI开源社区HuggingFace在官网披露了一起安全事故,攻击者是一个完全自主的AI智能体系统。HuggingFace团队在本地基础设施部署中国开源模型GLM-5.2,完成了整个取证分析流程。数天之后,美国大模型巨头OpenAI承认自己是“罪魁祸首”。

此次模型失控事件,再度引发大众对于AI监管的担忧和反思。硅谷开始争论不休,一方认为强大的开源模型会带来更多的潜在风险,一方则认为闭源模型更加危险。

就在3天前,AI芯片龙头英伟达CEO黄仁勋在X(原推特)上首次发布推文,并附上一封包含众多科技巨头签名的公开信,为开源展开全面辩护,阐述开源模型的重要性。

这封联合公开信的标题为《开放权重与美国在AI领域的领导地位》,主张应鼓励开源AI的发展,得到了20多家企业和机构的共同签署。美国三大闭源前沿AI实验室OpenAI、Anthropic和谷歌的名字则没有出现在这封信上。

一向推崇闭源安全的Anthropic就此被推上风口浪尖。作为回应,阿莫代伊表示,自己赞同上述公开信中的大部分观点:“开放权重拓宽了参与AI经济的渠道,增强了市场竞争(至少在部分应用场景下如此),并给予了客户更大的自主控制权。关于蒸馏行为的隐患,应当通过专门的法律和商业框架来解决。”

不过,阿莫代伊也指出,自己并不认同公开信中的某些主张,例如“开放权重模型必然有助于更容易地开发安全防护”或“广泛的技术获取必然对防御方比对攻击方更有利”,“事实极有可能恰恰相反”。

此外,27日当天,英伟达宣布公司和微软、SpaceX、Linux基金会、Adobe、西门子(Siemens)等30多家科技行业领军者组成联盟,共同成立“开放安全AI联盟”(OpenSecureAIAlliance),旨在构建并分发用于AI安全与保障的开源工具。OpenAI、Anthropic和谷歌也缺席了这份名单。

本文内容由互联网用户自发贡献,该文观点仅代表作者本人。如发现本站有涉嫌抄袭侵权/违法违规的内容,请发送邮件至 203304862@qq.com

本文链接:https://jinnalai.com/jiaodian/845313.html

联系我们

在线咨询:点击这里给我发消息

微信号:

工作日:9:30-18:30,节假日休息