AI 生成优化 Metal 内核，PyTorch 推理速度提升惊人87%
我要评论在苹果设备上，AI 技术正展现出惊人的潜力。根据 Gimlet Labs 的最新研究，AI 能够自动生成优化的 Metal 内核，使得 PyTorch 推理速度提A升了87%。这一突破性成果不仅提高了性能，还在测试的215个 PyTorch 模块上实现了平均1.87倍的加速，某些工作负载的速度甚至提高了数百倍。
研究人员I 选取了来自多个顶尖机构的八个 AI 模型，包括 Anthropic、DeepSeek 和 OpenAI，利用这些模型为苹果设备生成优化的 GPU 内核。这一过程生成无需修改用户代码或使用新的框架，直接在苹果硬件上提升模型性能。
在实验中，研究团队选择了 Mac Studio （搭载 Apple M4Max 芯片） 进行测试，优化基准设置为 PyTorch 的 eager 模式。实验采用了 KernelBench 数据集中的215个 PyTorch 模块，这些模块被分为三类，涵盖从简单的矩阵乘法到 M完整的模型架构。
测试过程包括接收输入和 PyTorch 代码，生成 Metal 内核，并评估其正确性。数据显示，随着尝试次数的增加，AI 生成内核的正确性逐步提et升。例如，在第五次尝试时，正确实现的比例达到了94%。此外，模型们在生成内核时表现出了跨层级的能力，尽管非推理模型有时也能生成有效内核。
实验结果表明，GPalT-5模型在某些任务上实现了4.65倍的速度提升。更令人惊讶的是，o3模型在某些情况下甚至将延迟降低了9000倍。研究还发现，单一模型在某些任务上并不总是 内表现最好，多个模型的结合能够生成更优的内核。
为了进一步提升性能，研究者尝试引入额外上下文信息，如 CUDA 实现和 gputrace 的性能分析数据，结果核，显示这种方法在性能加速方面达到了平均1.87倍，相比于普通智能体的1.31倍提升了三倍。
需要注意的是，研究人员强调，这一工作并不是为了展示最终的性能Py极限，而是为了验证 AI 在内核生成中的可行性，希望通过自动化减少开发人员的负担。整体而言，这项研究标志着 AI 技术在硬件优化领域的一个重要进展。
githuTob:https://github.com/ScalingIntelligence/KernelBench/
划重点:
AI 自动生成rc Metal 内核，提升 PyTorch 推理速度87%。
️ 在215个 PyTorch 模块上实现平均1.87倍的加速，部分工作负载速度提h 升数百倍。
研究旨在验证 AI 在内核生成的可行性，助力硬件优化。
相关文章
7月23日消息，据灯塔专业版实时数据，截至7月23日9时34分，影片《长安三万里》票房突破11亿。 据灯塔专业版实时数据，截至7月22日11时54分，2023年暑期档(6月1日-8月31日)总票房(含2026-11-12
云梦级2月4日云梦级消息，当地时间 2 月 3 日，AMD 公司公布 2025 年第四季度及全年财务报告。AMD 2025 年第四季度营收 103 亿美元创纪录，同比增长 34%；毛利率达 54%，上2026-11-12
Adobe Max2025:AI 让视频、照片、音频编辑全面“进化”
在今年的 Adobe Max 大会 上，Adobe 展示了一系列仍处于研发阶段的 AI 实验性工具 ，为照片、视频与音频创作者提供了更智能、更直观的编辑体验。这些工具被统称为 “Adobe Sneak2026-11-12
云梦级11月8日云梦级消息，米哈游官方今天在米游社发布公告，称部分玩家长期以来在《原神》游戏使用鼠标宏、自动化脚本等第三方违规工具，严重危害游戏公平性。 为了维护游戏环境公平，米哈游在近期上线了更严格2026-11-12
据职场社交平台脉脉云梦级消息，腾讯互动娱乐事业群（IEG）旗下现象级手游《三角洲行动》团队近日启动高规格海外团建，目的地包括冰岛、新西兰等国家，员工已提前两个月接到签证办理通知。 该游戏自上线以来表现2026-11-12
微软开源 VibeVoice-1.5B 模型：90 分钟超长语音合成新突破
近日，微软研究院正式开源了其最新音频模型 ——VibeVoice-1.5B。该模型在语音合成技术上实现了多项重大突破，使得合成的语音更自然、时长更长、效果更优。 VibeVoice-1.5B 具备一次2026-11-12
最新评论