获取cuda上下文上的内存使用情况

有没有一种方法可以让我获得cuda上下文内存使用情况，而不必使用cudaMemGetInfo，它只报告设备的全局信息？或者至少有一种方法可以确定当前应用程序占用了多少内存？

这似乎是不可能的。但是，检索每个进程的内存使用率仍然是一个不错的选择。正如Robert指出的，每个进程的内存使用量可以通过使用，特别是通过使用

NVMLDeviceGetComputerunningProcesss

函数来检索。

这似乎是不可能的。但是，检索每个进程的内存使用率仍然是一个不错的选择。正如Robert所指出的，每个进程的内存使用量可以通过使用

nvmlDeviceGetComputeRunningProcesses

函数来检索。

简言之：nvidia smi为特斯拉和Quadro GPU提供此信息（每个进程的内存使用量）。这意味着应该可以使用NVML检索它。简言之：nvidia smi为特斯拉和Quadro GPU提供此信息（每个进程的内存使用）。这意味着应该可以使用NVML.Wait检索它，但您询问的是每个上下文，而不是每个进程内存。也许你应该修改你的问题？谢谢@einpoklum，我刚刚编辑了我的答案（不是问题）。等等，但是你问的是每个上下文，不是每个进程的内存。也许你应该修改你的问题？谢谢@einpoklum，我刚刚编辑了我的答案（不是问题）。