本文目录与来源 1 节
文章要点
- CertiK 与哥伦比亚大学研究人员检查 GPU 核心程序,为速度优化与正确性提供新的检验方式。
GPU 程序不只要快,也要算得对
AI 模型的回答背后,有大量在 GPU 上反复执行的小程序。它们拆分计算、搬移数据,并尽量让硬件保持忙碌;程序顺利运行结束,却不代表每次结果都符合预期。如果错误没有让系统当场停止,后续训练或推理可能继续使用错误结果。
PANews 报道,CertiK 与哥伦比亚大学研究人员提出 TensorLean,尝试以形式化验证检查实际使用的 AI GPU 核心程序。团队称,研究涵盖 149 个编译后的核心程序实例,其中 83 个被证明符合对应的 Lean 规范;另在六个程序库中发现 38 个正确性问题。这些数字是研究团队对其实验范围的描述,并不代表所有 GPU 程序都已完成验证。
受检范围包含 DeepSeek 的 DeepGEMM 与 FlashAttention。据报道,38 个问题中有两个来自 DeepGEMM、23 个来自 FlashAttention。问题总数跨越六个程序库,不能直接理解为单一产品所有版本中的漏洞数量。
一般测试通常选择输入并观察输出,能发现测试案例遇到的错误;形式化验证则先写清程序应满足的条件,再尝试证明符合条件的执行都满足规范。两者回答的问题不同:测试依赖案例,证明则依赖规范与假设是否准确。
难点在于,实际使用的 GPU 程序为了速度会重排数据、同时搬运与计算,并使用较低精度的数值格式。这些做法能提高吞吐量,也让同步、数据布局与数值误差更难检查。研究团队表示,TensorLean 直接处理编译生成的 PTX 表示,并在指定条件与误差容忍范围内检查计算结果。
CertiK 的技术说明指出,相关证明以 Lean 建立并可由机器检查。对开发团队而言,这提供了可重复的流程:先定义运算与适用条件,修改或优化实现,再检查新版本是否仍符合要求。如果输入条件或允许误差改变,原有规范也必须调整。
发现问题也不等于修补工作已经完成。研究人员需要定位错误、修改程序,再重新确认修改后的版本满足规范。如果新版本更换运算方式或输入范围,先前建立的证明可能不再适用,团队仍需重新检查。这也说明验证应跟随软件更新,而非只在某次发布前做一次。
这种保证有清楚边界。证明通过,意味着在指定假设下,受检程序符合所写规范;它不会自动证明规范完整、整个模型没有错误,也不保证所有硬件配置都在范围内。因此,理解检查了哪些版本、输入和数值容忍度,和看到「通过验证」同样重要。
研究方提出一个假设:如果一次训练消耗价值一亿美元的算力,因错误重做其中 1% 意味着约一百万美元的额外计算成本。这是说明成本规模的情境,并非已经发生的损失。TensorLean 的价值仍要看更多程序、实际维护成本和后续研究如何检验。
资料来源与延伸阅读
(2)
核对数据时,请一并确认来源日期、统计期间与适用条件;部分链接会持续更新。
本文为信息与教育用途,不构成投资建议。加密资产可能大幅波动,请独立核实。



