Cuda nvidia smi是如何工作的？

允许nvidia smi获取硬件级详细信息的内部操作是什么？即使某些进程已经在GPU设备上运行，该工具也会执行，并获取进程的利用率详细信息、名称和id等。是否可以在用户级别开发此类工具？NVML是如何关联的？

Nvidia smi是一个薄薄的包装。您可以在中包含的SDK的帮助下使用NVML编码

使用nvidia smi可以完成的所有操作都可以直接从C库NVML查询。如果您需要在某种应用程序中查询这些数据，那么使用NVML编写数据比解析nvidia smi stdout更好（而且可能更容易）

---

NVML库也有和绑定。因此，您可以使用比C更高级的编程语言。

因此，不可能使用nvidia smi查询任何未通过NVML提供的内容？NVML不提供对SM级别详细信息的任何访问。所以我想用其他方式和司机交流。是否可以使用nvidia smi或其他工具？nvidia提供了更多的库。NVML用于在高层管理GPU（例如，系统管理员工具）。看来你对分析更感兴趣。看看than。命令行评测、nvprof和visual profiler是否使用相同的CUPTI？有了这些，我就可以在执行结束时得到分析结果。而且它们是特定于应用程序的。应用程序的评测可以通过在源代码中添加CUPTI API来完成（如在事件采样示例中使用线程），或者在执行过程中，nvvp或nvprof命令与可执行文件关联。[续..]这意味着CUPTI用于应用程序评测。我想要一些像nvidia smi这样的工具，它只提供设备的状态。CUPTI为活动的_循环、活动的_扭曲等提供API，但它们是否可以在应用程序外部用于检查SM的瞬时状态？我是一个初学者，如果我在某个地方错了，对不起。我从来没有用过丘比特。最简单的方法就是尝试一下。AFAIK nvprof在下面使用CUPTI，因此这些实用程序的功能很好地体现了CUPTI API中的可用功能。