← 返回博客主页
阅读 0

Apache TVM v0.27.0 发布：TIRx CUDA 新 PTX dialect、共享 KV 注意力与 WebGPU 零拷贝路径集中落地

今日概览

9月26日的头条是 Apache TVM v0.27.0 正式发布。该版本在编译器全栈上聚合了大量改动：TIRx CUDA 后端引入 table-driven PTX dialect 并对齐 PTX ISA 9.2，Relax 新增共享 KV 注意力与 PagedAttentionKVCache checkpoint 运行时原语，多个前端修复语义问题并支持 StableHLO shape ops，WebGPU 路径减少内存拷贝，代码生成新增 LLVM 23 兼容。作为一次横跨前端、IR、优化、代码生成与运行时的版本更新，其影响面覆盖从模型导入到硬件后端生成的全流程。

重点变化

1. v0.27.0

Apache TVM 发布了 v0.27.0，把分散在多个 PR 中的 AI 编译器改动打包成一次正式版本。TIRx CUDA 后端引入 table-driven PTX dialect 并退役旧的 tirx.ptx.* 接口，同时对齐 PTX ISA 9.2，新增 movmatrix 支持、带立即字节偏移的地址表达式、寄存器与 cluster launch 控制以及精确 block dimensions 表达。Relax 层新增可配置滑动窗口的共享 KV 注意力，运行时加入 PagedAttentionKVCache 的 checkpoint 原语；TFLite 前端开始支持 StableHLO shape ops，ONNX 与 PyTorch 前端修复了 Split initializer、标量 QDQ、PRelu、fmod 等语义问题。此外，SCRIPT 支持 PEP 695 符号变量，Web/WebGPU 路径避免了 WASM 上传与 tensor-cache 拷贝，代码生成加入 LLVM 23 兼容，Arith 的 Z3 solver 改为按需惰性物化以改善性能。

为什么重要： 这次发布同时动到了 TVM 的多个核心层。PTX dialect 从手写模式转向 table-driven 并对齐 PTX ISA 9.2，意味着 TIRx CUDA 后端能更快跟进新硬件指令，且指令集描述更易维护；共享 KV 注意力与 PagedAttentionKVCache checkpoint 则直接服务于大模型推理服务场景，让 paged attention 类推理状态可以持久化与恢复。WebGPU 零拷贝和 LLVM 23 兼容降低了边缘端与上游工具链升级的摩擦，前端语义修复则减少了模型导入时的隐式行为差异。

涉及层级： frontend、graph_ir、tensor_ir、optimization、kernel_codegen、hardware_backend、runtime

来源： 原始来源 1

事件评分： 83.5/100

值得继续观察

  • TVM v0.27 的 table-driven PTX dialect 与 PTX ISA 9.2 对齐在新 CUDA 硬件上的实际收益
  • Relax 共享 KV 注意力与 PagedAttentionKVCache checkpoint 在 LLM 推理服务中的落地情况
  • WebGPU 零拷贝路径在 Web 端推理的性能验证与后续优化
  • LLVM 23 代码生成兼容性对 TVM 构建与后端稳定性的影响

数据与生成说明

  • 采集窗口：2026-09-25T08:00:00+08:00 至 2026-09-26T08:00:00+08:00
  • 生成模式：deepseek
  • 文章由程序根据一手来源生成；性能结论应以链接中的原始配置为准。
  • 原始条目：apache/tvm 1 条，arXiv 4 条

评论