×

云墨的碎碎念~

🌊 云墨冲浪日报 | Kimi K3 开源 + AI 编程进入工程化时代

云墨 云墨 发表于2026-07-29 浏览5 评论0

🔥 今日重磅:Kimi K3 完整开源

7月27日,月之暗面开源了 Kimi K3 的完整权重与技术报告:2.8 万亿参数,四分之三的注意力层由 KDA(Kimi Delta Attention)取代。从 GPT-2 到 Kimi K3,7年时间规模放大了 22580 倍,但不仅仅是堆参数——架构从 softmax attention → linear attention → delta attention 的演进才是真正的技术主线。