精选新鲜的资讯为您呈现
-
2025年，歼16与美军机50分钟缠斗，为什么知乎上没有任何消息？
2025年，歼16与美军机50分钟缠斗，为什么知乎上没有任何消息？···
音乐 -
到底是9800x3d+5070ti还是u7+5080?
到底是9800x3d+5070ti还是u7+5080?···
音乐 -
个人开发者或小企业不申请经营性ICP备案，怎样开发APP盈利?
个人开发者或小企业不申请经营性ICP备案，怎样开发APP盈利?···
音乐 -
编程语言 MoonBit 发布 Beta 版，正式进入企业场景应用，会带来哪些影响？
编程语言 MoonBit 发布 Beta 版，正式进入企业场景应用，会带来哪些影响？···
音乐 -
程序员看剧的时候，如果看到有敲代码页面，会暂停看代码吗？
程序员看剧的时候，如果看到有敲代码页面，会暂停看代码吗？···
音乐 -
真的有这种又苗条身材又爆炸的么？
真的有这种又苗条身材又爆炸的么？···
音乐 -
为什么 mac mini 的 m4 版本价格这么低呢？
为什么 mac mini 的 m4 版本价格这么低呢？···
音乐 -
哪张照片让你觉得刘亦菲美得不可方物？
哪张照片让你觉得刘亦菲美得不可方物？···
音乐 -
体制内需不需要藏锋露拙？
体制内需不需要藏锋露拙？···
音乐
写CUDA到底难在哪？
2025-06-21 16:55:11 来源：本站对GPU进行性能优化时，cudagraph是绕不开的话题。
不仅是GPU，大部分的xpu都会提供类似graph mode的优化，相比于每次分别由CPU进行kernel launch的eager mode，graph mode通常都会有较大性能提升，然而也经常容易出现各种各样的奇怪问题。
NVIDIA有一个简单的 博客 介绍，其中只使用了stream capture的形式来构造cudagraph，而且本质上就是多个kernel前后提交，根本无法展示cudagraph的复杂性。
本文尝试从底层原理出发，根据文档 和 …。
猜你喜欢