写CUDA到底难在哪?
- 作者:admin
- 发表时间:2025-06-20 09:00:17
对GPU进行性能优化时,cudagraph是绕不开的话题。
不仅是GPU,大部分的xpu都会提供类似graph mode的优化,相比于每次分别由CPU进行kernel launch的eager mode,graph mode通常都会有较大性能提升,然而也经常容易出现各种各样的奇怪问题。
NVIDIA有一个简单的 博客 介绍,其中只使用了stream capture的形式来构造cudagraph,而且本质上就是多个kernel前后提交,根本无法展示cudagraph的复杂性。
本文尝试从底层原理出发,根据文档 和 …。
最新文章
-
为什么Rust的包管理器Cargo这么好用?
-
核武器最小当量能做到多少?
-
谷歌云服务宕机导致 OpenAI、Shopify 等服务中断,此次宕机的具体技术原因是什么?
-
SpaceX 星舰 36 号火箭静态点火测试爆炸,爆炸的原因是什么?会对星舰发展产生什么影响?
-
国产手机AI「好用」的背后,是技术差距还是文化差异?
-
如何看待南京景枫中心把男厕改成女厕,并宣传「此处仅有女卫生间、家庭卫生间及无障碍卫生间」?
-
以前很多人家里都有家庭***,为什么现在几乎看不到了?
-
中国军队有多强,在世界能排第几?
-
如何看待南京景枫中心把男厕改成女厕,并宣传「此处仅有女卫生间、家庭卫生间及无障碍卫生间」?
-
中年女人的最大悲哀是什么?