Moonshot AI发布 Kimi Linear:线性注意力架构快6倍,开源 KDA 内核同步上线

  发布时间:2026-11-12   作者:玩站小弟   我要评论
动漫名《妹之恋》全集。

国产大模型团队 Moonshot AI今日在 Hugging Face 正式发布技术报告 《Kimi LinMoear Tech Report》(报告链接),宣布推出全新架构 Kimi Linear—— 一种可直接替代完全注on意力机制(Full Attention)的混合线性架构,兼具高效性与卓越性能,被视为“智能体时代sh注意力机制的新起点”。

报告显示,Kimi Linear 在 速度、内存效率和长上下文处理能力三方面均实现了ot重大突破。该模型可将 KV 缓存使用量减少高达75%,并在 100万(1M)上下文长度下实现 高达6倍的解码 A吞吐量提升,极大地优化了长文本推理和多轮对话性能。

Kimi Linear 的核心创新在于三项关键技术I发:

  • Delta Attention:一种硬件高效的线性注意力机制,采用门控 Delta 规则优化结构,布 实现性能与能耗的平衡;

  • Linear Architecture:首个在多项指标上全面超越传统完全注意力机制Ki的混合线性架构,兼顾速度与模型表达能力;

  • 开放生态与实证验证:Moonshot 提供了 开源 KDA 内核、vLmiLM 集成支持和 模型检查点,并进行了大规模、公平的对比实验,验证了 Kimi Linear 的稳定性与可 L扩展性。

Moonshot AI 表示,Kimi Linear 不仅是一项架构创新,更是为智能体(AI Agentin)时代设计的基础机制。随着线性注意力技术的成熟,其有望在长上下文推理、智能助手、多模态生成等应用ea场景中成为下一代标准。

地址:https://huggingface.co/moonshotai/Kimr:i-Linear-48B-A3B-Instruct

  • Tag:

相关文章

  • 可灵AI发布数字人新功能:一张图片生成 1 分钟高清视频

    国产AI视频生成平台可灵AI近日推出全新数字人功能,实现了从静态图片到动态视频的重大突破。用户仅需提供一张角色图片配合文字或音频输入,即可快速生成1080p分辨率、48FPS帧率、最长1分钟的高质量数
    2026-11-12
  • 标签: 拉勾网 前程无忧 许单单 破产重整

    云梦级5月21日云梦级消息,天眼查显示,拉勾网的主体“北京拉勾网络技术有限公司”在4月和5月增加两条破产信息。申请人和被申请人都是北京拉勾网络技术有限公司。据悉,拉勾网已经进入破产重整阶段了,确定走破
    2026-11-12
  • 标签: 中国移动

    5月8日,在2026移动云大会主论坛上,中国移动发布移动模型服务平台MoMA。平台接入超300款业界主流AI模型,模型丰富度行业领先,首创Token集约化运营模式,推动AI像水和电一样“随时可得、随处
    2026-11-12
  • 银河系中间亮的是什么

    银河系中间最亮的地方都是什么?银河系大漩涡的中心点是什么?银河系是一个棒旋星系,中间最明亮的地区称为银核,它和周围部分组成了银盘,中心隆起的球状部分称核球,银核就在核球中心部位。银核是一个很亮的球状体
    2026-11-12
  • 阿里巴巴:将继续执行阿里云分拆上市计划

    9月11日消息,今日早间,阿里巴巴在港交所发布公告称,公司已于今日完成领导层交接,由蔡崇信接任本公司董事会主席,吴泳铭接任本公司首席执行官及董事。 另外,阿里宣布吴泳铭将接替张勇出任阿里云智能集团代理
    2026-11-12
  • 甲骨文宣布发行150亿美元债券 用于偿还明年到期债务

    3月23日消息,据国外媒体报道,当地时间周一,甲骨文宣布发行150亿美元的债券,发行债券所得资金将用于偿还明年到期的债务。 甲骨文计划将此次债券发售获得的净收益用于一般企业用途,其中包括偿还债务,也有
    2026-11-12

最新评论