GPU kernel 很高 未验证
KernelSeek
论文里的 CUDA kernel 优化 agent,靠提问来驱动。作者说它写出了不依赖 CUTLASS/CuTe 的 FlashAttention 前向 kernel,在他们的测试集上比 FA3 和 FA4 快。
论文(arXiv:2611.03517)写:工具很多的自动基线,在同一套 26 个配置的评估器上停在 0.50× FA3,KernelSeek 到了 1.13×。接着 fa3_hopper.cu 相对 FA3 是 1.16×(182/182),fa4_blackwell.cu 在成对场景上相对 FA4 是 1.46×。会话用的是 Claude Code 和 Cursor。论文说会放出 kernel、harness、问题库和 traces,但这轮没找到公开仓库 URL。
人工参与
人定方向,agent 写代码. 论文说人没写 kernel 代码,是用短问题、指令和 stop hook 的目标来带。存档的 16 个会话里有 162 条人的消息、11,532 次工具调用。
证据
- 论文
We release both kernels under Apache 2.0 with the evaluator, the PTX probes, the search scripts, the question bank and skill, and the complete agent traces of both approaches.
备注
这些数字是论文里的,这里没有自己复现。arXiv 和 Hugging Face Papers 页面上都没找到公开的 GitHub 地址。