Kimi K3部署能力突破英伟达生态,完成45纳米推理芯片原型设计
创始人
2026-07-31 01:33:58

北京时间7月27日晚,月之暗面Kimi在全球开源社区Hugging Face正式发布Kimi K3完整模型权重。同步公开的还有详细技术报告,以及支撑该模型训练的三项关键基础设施技术——MoonEP、FlashKDA和AgentEnv。此次开源采用修改版MIT许可证,开发者可按需下载、修改并本地部署。

Kimi K3总参数规模达2.8万亿,激活参数1040亿,是全球首个迈入3万亿参数级别的开源模型。模型基于混合专家(MoE)架构,在896个路由专家中每个Token仅激活16个。架构上采用自研Kimi Delta Attention(KDA)混合线性注意力机制与Attention Residuals(注意力残差)技术,原生支持视觉理解,上下文窗口达100万Token。相比上一代Kimi K2,整体扩展效率提升约2.5倍。

技术报告披露,Kimi K3在编程、智能体、推理与视觉等数十项基准测试中超越所有开源模型及多数闭源模型。在Arena Intelligence的WebDev Arena中,Kimi K3以1679 Elo登顶,成为首个在该榜单夺冠的开源模型;Artificial Analysis Intelligence Index v4.1得分57.1,排名全球第四。报告同时指出,其整体性能仍略逊于Claude Fable 5和GPT-5.6 Sol。

此次开源尤为值得关注的是Kimi K3在GPU与芯片算力层面展现的自主工程能力。

技术报告显示,在GPU内核优化测试中,Kimi K3在24小时内独立完成了AttnRes、DeepSeek Sparse Attention、KDA和MLA四种代表性内核的优化。其中AttnRes延迟从283.6毫秒降至114.4毫秒,DSA和KDA运行时间分别减少55.1%和73.6%,MLA接近峰值TFLOPS。该表现与Claude Fable 5持平,显著优于Claude Opus 4.8、GPT-5.6 Sol和GPT-5.5。

需注意的是,测试环境同时覆盖了NVIDIA H200与来自其他供应商的GPGPU,意味着Kimi K3的部署能力已不局限于英伟达生态。

报告还显示,Kimi K3自主开发了名为MiniTriton的紧凑型GPU编译器,从Python前端到PTX代码生成全链路均由模型完成,在NVIDIA L20上性能超越PyTorch eager、torch.compile和标准Triton实现。

作为早期的概念验证,技术报告披露Kimi K3在48小时自主运行中,基于开源EDA工具和Nangate 45nm工艺库,完成一款推理芯片原型的设计、优化与验证。该芯片面积仅4平方毫米,集成146万个标准单元、0.277MB SRAM及带融合去量化的INT4 MAC阵列,是一款由模型设计、为模型服务的芯片,标志着AI已具备从算法到硬件的全栈自主工程能力。

与模型权重同步开源的还有三项基础设施技术:MoonEP是为超大规模MoE设计的高性能专家并行通信库,可实现完美负载均衡;FlashKDA是KDA注意力机制的高性能算子,在英伟达H20上预填充速度相比基线提升1.72至2.22倍;AgentEnv是与KVCache.ai合作开发的智能体沙箱系统,支持快速快照、恢复与Fork,用于大规模Agent训练环境。

月之暗面表示,此次开源旨在加速前沿智能的部署与普及,促进AGI研究。随着Kimi K3完整权重、技术报告及核心Infra技术的同步开放,开源大模型正式迈入2.8万亿参数阶段。

⚠️
本网站信息内容及素材来源于网络采集或用户发布,如涉及侵权,请及时联系我们,发送链接至2697952338@QQ.COM,我们将第一时间进行核实与删除处理。

相关内容

热门资讯

罗永浩开骂:开机广告日赚180... 出品丨搜狐酒业 作者丨闫思羽 编辑丨李文贤 一台几千块的智能电视,老人连开机都不会。罗永浩骂了一句,...
CBA选秀大会:广州状元签选中... 北京时间7月28日消息,2026年CBA选秀大会在北京进行。广州队用状元签选中来自中国台北政大后卫宋...
2026暑期档票房已破57亿:... 东方网记者熊芳雨7月28日报道:据灯塔专业版数据,截至7月27日零点,2026年暑期档(6月1日—8...
无解!佛得角后卫卡布拉尔世界波... 北京时间7月28日消息,国际足联官方宣布,佛得角后卫卡布拉尔在2026年世界杯1/16决赛对阵阿根廷...
原创 还... 当官方官宣十艘万吨巨舰镜头时,相信很多人都会眼眶发热。这不是简单的军事展示,而是一场精心设计的“宣言...
突发!一地短时间内发生2次地震... 中国地震台网正式测定:07月28日11时34分在青海海南州兴海县(北纬35.35度,东经99.58度...
原创 俄... 泽连斯基下令袭击俄罗斯纵深目标,是乌克兰的损失翻倍增加。俄罗斯报复的后果很严重,乌克兰七大炼油厂全废...
Kimi K3部署能力突破英伟... 北京时间7月27日晚,月之暗面Kimi在全球开源社区Hugging Face正式发布Kimi K3完...
大树折断刮倒16名游客,济南趵... 7月28日,济南天下第一泉风景区服务中心发布情况通报: 7月27日18时46分,济南趵突泉公园一棵老...
福州室内甲醛检测怎么做?闽环甲... 前言:福州为什么更需要规范、可追溯的检测数据 在福州做室内空气检测,首先要考虑本地季节与建筑使用方式...