7月17日,月之暗面发布新一代KimiK3,参数规模达2.8万亿,为目前全球参数最大的开源模型。消息传出后,美股盘前纳斯达克100指数期货一度跌逾1.8%,英伟达等AI龙头普遍走低,市场重现“DeepSeek时刻”。
月之暗面公布的信息显示,KimiK3模型原生支持图像输入和100万Token上下文,采用KimiDeltaAttention(KDA)、注意力残差(AttentionResiduals)以及高度稀疏的混合专家架构,处理每个Token时仅从896个专家中有效激活16个,以提高算力利用效率。
月之暗面称,相关架构和数据训练方法使其整体扩展效率较KimiK2提高约2.5倍,并补充道KimiK3在内部评估中,端到端知识工作能力领先GPT-5.5和ClaudeOpus4.8。
7月18日,马斯克再次发表评论称,“我们的2万亿参数模型将在下周完成初始训练,有可能超越Kimi。”

Kimi则回应称,“@ElonMusk欢迎加入「2万亿+」俱乐部”

据每日经济新闻报道,目前,KimiK3的完整模型权重尚未发布,月之暗面表示将于今年7月27日前发布。更多技术细节将随技术报告一并公布。
本文内容由互联网用户自发贡献,该文观点仅代表作者本人。如发现本站有涉嫌抄袭侵权/违法违规的内容,请发送邮件至 203304862@qq.com
本文链接:https://jinnalai.com/jiaodian/843355.html
