C# 考虑托管堆大小及其所有对象

C# 考虑托管堆大小及其所有对象,c#,.net-4.0,garbage-collection,windbg,sos,C#,.net 4.0,Garbage Collection,Windbg,Sos,我正在调查我的应用程序的高内存消耗问题。记忆一直在上升,我想知道所有的记忆是在哪里消耗的。我有一个大约3GB大小的转储文件 这是我们的输出!dumpheap-stat命令。整个列表很长,但我只想向您展示最大的项目,如byte[](195MB)、IdentifierChangedEventHandler(120MB)、strings(119MB)。在接近3GB的情况下,这一切加起来并不算什么 000007fe94169ff0 101326 7295472 System.Linq.En

我正在调查我的应用程序的高内存消耗问题。记忆一直在上升,我想知道所有的记忆是在哪里消耗的。我有一个大约3GB大小的转储文件

这是我们的输出!dumpheap-stat命令。整个列表很长,但我只想向您展示最大的项目,如byte[](195MB)、IdentifierChangedEventHandler(120MB)、strings(119MB)。在接近3GB的情况下,这一切加起来并不算什么

000007fe94169ff0   101326      7295472 System.Linq.Enumerable+WhereListIterator`1[[CommonServices.WindowsEvent.EventIDExpression+RangeExpressionCollection+RangeExpression, CommonServices]]
000007fe94237f08        1      7786800 System.Collections.Generic.Dictionary`2+Entry[[System.Int32, mscorlib],[OrderingServices.LocalCache, OrderingServices]][]
000007fef1afc3a8   202112      8084480 System.Collections.Generic.List`1[[System.Guid, mscorlib]]
000007fef1ac24c0   204144      9798912 System.Collections.ArrayList+ArrayListEnumeratorSimple
000007fef1accc50   313792     10041344 System.Guid
000007fef1ad14a0   314054     10049728 System.Security.SecureString
000007fef1ac7790   131954     11403930 System.Char[]
000007feed2f93b8     2063     11898472 System.Data.RBTree`1+Node[[System.Data.DataRow, System.Data]][]
000007fef1a87890   316978     12679120 System.Security.SafeBSTRHandle
000007fef1acc590   350337     14013480 System.Collections.ArrayList
000007fe936bdcd0   202083     14549976 OrderingServices.LocalCache
000007fe942db718   202083     16166640 System.Collections.Generic.Dictionary`2[[System.Guid, mscorlib],[System.Collections.Generic.HashSet`1[[System.Int32, mscorlib]], System.Core]]
000007feed2f5910   248683     23873568 System.Data.DataRow
000007fef1aca708   317533     25402640 System.Collections.Hashtable
000007fe942dbf60   202021     32610456 System.Collections.Generic.Dictionary`2+Entry[[System.Guid, mscorlib],[System.Collections.Generic.HashSet`1[[System.Int32, mscorlib]], System.Core]][]
000007fef1ac3838   319558     32975376 System.Collections.Hashtable+bucket[]
000007fef1a74458   307557     35724224 System.Object[]
000007feef6cc770   631242     38621784 System.Collections.Generic.HashSet`1+Slot[[System.Int32, mscorlib]][]
000007feef6cb860   631242     40399488 System.Collections.Generic.HashSet`1[[System.Int32, mscorlib]]
000007fef1ac9258   937270     48016624 System.Int32[]
000007fef1ac6508   879690    119968068 System.String
000007fef1aca690   176907    196509678 System.Byte[]
00000000002ae930   139663    520724414      Free
Total 14024120 objects
Fragmented blocks larger than 0.5 MB:
            Addr     Size      Followed by
000000008e84f490    1.6MB 000000008e9f08b8 Microsoft.Win32.SafeHandles.SafeTokenHandle
00000001878e1ca8    0.7MB 000000018798ffd8 Microsoft.Win32.SafeHandles.SafeTokenHandle
0000000187ac1070    0.7MB 0000000187b76138 System.Threading.ReaderWriterLock
0000000187d39d88    1.5MB 0000000187ec2788 System.Threading.ReaderWriterLock
0000000187f7bfe0    0.9MB 000000018805ce90 System.Threading.ReaderWriterLock
0000000188ad1b30    0.5MB 0000000188b5a190 System.Net.ListenerAsyncResult
000000018909ef98    1.0MB 00000001891a9e90 System.Net.Sockets.Socket
0000000189377440    0.6MB 0000000189417088 Microsoft.Win32.SafeHandles.SafeTokenHandle
000000018a07e428    0.7MB 000000018a1382a0 System.Threading.ExecutionContext
000000018a599610    1.2MB 000000018a6d4b50 Microsoft.Win32.SafeHandles.SafeTokenHandle
000000018bad8b30    0.7MB 000000018bb87b00 Microsoft.Win32.SafeHandles.SafeTokenHandle
000000018bb88778    1.1MB 000000018bcac050 System.Threading.ReaderWriterLock
000000018bcac618    1.3MB 000000018bdee998 Microsoft.Win32.SafeHandles.SafeTokenHandle
000000018ed68b78    1.0MB 000000018ee6c290 System.Threading.ReaderWriterLock
000000018eec5b70    0.9MB 000000018efb37a8 System.Threading.ReaderWriterLock
000000018f351930    0.7MB 000000018f40edb0 Microsoft.Win32.SafeHandles.SafeTokenHandle
000000018f469d00    0.6MB 000000018f509360 System.Net.ListenerAsyncResult
000000018f5508d8    2.8MB 000000018f824ad8 Microsoft.Win32.SafeHandles.SafeTokenHandle
000000018f917610    2.2MB 000000018fb41790 Microsoft.Win32.SafeHandles.SafeTokenHandle
000000028985e148    0.6MB 00000002898f72e0 System.Security.SafeBSTRHandle
0000000289901008    0.8MB 00000002899c3138 System.Security.SafeBSTRHandle
000000028a1e7378    0.7MB 000000028a295dd8 System.Net.ListenerAsyncResult
000000028a56a8b8    1.3MB 000000028a6c23c8 System.Threading.ReaderWriterLock
000000028a8c0a28    0.9MB 000000028a9b2b88 MonitoringServices.PerformanceCounter.PerformanceCounterDataPoint
000000028b1b80c8    0.9MB 000000028b2a6a30 System.Data.SqlClient.SNIPacket
000000028d37d7c0    0.6MB 000000028d4220f0 System.Transactions.SafeIUnknown
000000028d5f05c8    1.6MB 000000028d789b20 System.Net.ListenerAsyncResult
000000028d78ac08    2.4MB 000000028d9e7e58 System.Transactions.SafeIUnknown
000000028d9ec618    0.7MB 000000028da95c88 System.Threading.ReaderWriterLock
000000028daa5f58    1.2MB 000000028dbe2af8 System.Threading.ReaderWriterLock
000000028dbe3b00    0.7MB 000000028dc98aa0 System.Threading.ReaderWriterLock
000000028dc99aa8    1.6MB 000000028de30e40 System.String
0000000385644a88    0.7MB 00000003856eee30 Microsoft.Win32.SafeHandles.SafeWaitHandle
00000003868ecbc0    0.7MB 00000003869a18a8 System.Byte[]
00000003878d0330    0.5MB 0000000387950678 System.Threading.ReaderWriterLock
0000000387951680    1.2MB 0000000387a84b18 Microsoft.Win32.SafeHandles.SafeTokenHandle
0000000387e137d0    1.8MB 0000000387fdbb50 System.Security.SafeBSTRHandle
0000000388175388    1.5MB 00000003882ed100 System.Threading.ReaderWriterLock
00000003882ee108    0.8MB 00000003883b5b10 System.String
00000003883c5c20    0.9MB 00000003884aa8d8 System.Byte[]
00000003891fa318    1.7MB 00000003893a3e30 Microsoft.Win32.SafeHandles.SafeTokenHandle
0000000389cafe00    0.7MB 0000000389d61ff0 System.Byte[]
000000038a036238    1.0MB 000000038a135428 System.Net.ListenerAsyncResult
这是我们的输出!地址-摘要。堆使用情况摘要显示1.1GB,尽管我不知道这是否都是托管堆

0:000> !address -summary
--- Usage Summary ---------------- RgnCount ----------- Total Size -------- %ofBusy %ofTotal
Free                                    525      7fa`04208000 (   7.977 Tb)           99.71%
<unknown>                               917        5`8f56a000 (  22.240 Gb)  92.92%    0.27%
Heap                                    204        0`4b5af000 (   1.177 Gb)   4.92%    0.01%
Image                                  2327        0`12fc5000 ( 303.770 Mb)   1.24%    0.00%
Stack                                   701        0`0df80000 ( 223.500 Mb)   0.91%    0.00%
TEB                                     229        0`001ca000 (   1.789 Mb)   0.01%    0.00%
Other                                    19        0`001bf000 (   1.746 Mb)   0.01%    0.00%
PEB                                       1        0`00001000 (   4.000 kb)   0.00%    0.00%

--- Type Summary (for busy) ------ RgnCount ----------- Total Size -------- %ofBusy %ofTotal
MEM_PRIVATE                            1717        5`e6543000 (  23.599 Gb)  98.59%    0.29%
MEM_IMAGE                              2627        0`140dc000 ( 320.859 Mb)   1.31%    0.00%
MEM_MAPPED                               54        0`017c9000 (  23.785 Mb)   0.10%    0.00%

--- State Summary ---------------- RgnCount ----------- Total Size -------- %ofBusy %ofTotal
MEM_FREE                                525      7fa`04208000 (   7.977 Tb)           99.71%
MEM_RESERVE                             736        5`2ba70000 (  20.682 Gb)  86.41%    0.25%
MEM_COMMIT                             3662        0`d0378000 (   3.253 Gb)  13.59%    0.04%

--- Protect Summary (for commit) - RgnCount ----------- Total Size -------- %ofBusy %ofTotal
PAGE_READWRITE                         1590        0`babd4000 (   2.918 Gb)  12.19%    0.04%
PAGE_EXECUTE_READ                       260        0`0f1ba000 ( 241.727 Mb)   0.99%    0.00%
PAGE_READONLY                           756        0`0376d000 (  55.426 Mb)   0.23%    0.00%
PAGE_WRITECOPY                          561        0`01f24000 (  31.141 Mb)   0.13%    0.00%
PAGE_EXECUTE_READWRITE                  180        0`008bd000 (   8.738 Mb)   0.04%    0.00%
PAGE_READWRITE|PAGE_GUARD               229        0`0043f000 (   4.246 Mb)   0.02%    0.00%
PAGE_EXECUTE_WRITECOPY                   85        0`0025a000 (   2.352 Mb)   0.01%    0.00%
PAGE_EXECUTE                              1        0`00003000 (  12.000 kb)   0.00%    0.00%

--- Largest Region by Usage ----------- Base Address -------- Region Size ----------
Free                                      5`ffff0000      7f8`93260000 (   7.971 Tb)
<unknown>                                 3`92f8f000        0`ed061000 (   3.703 Gb)
Heap                                      0`19010000        0`00fd0000 (  15.813 Mb)
Image                                   7fe`edfb9000        0`01368000 (  19.406 Mb)
Stack                                     0`0b8d0000        0`000fc000 (1008.000 kb)
TEB                                     7ff`ffbd4000        0`00002000 (   8.000 kb)
Other                                     0`008a0000        0`00181000 (   1.504 Mb)
PEB                                     7ff`fffdf000        0`00001000 (   4.000 kb)
我有两个问题。
1.是否存在获取中列出的所有对象大小之和的方法!dumpheap-stat命令。

2.是否存在验证GC堆大小是否与来自的所有对象的总大小匹配的方法!dumpheap-stat,这样我就可以确保我的所有对象都被记录了

1-不,但你可以接近!sosex.dumpgen 0-统计!sosex.dumpgen 1-统计!sosex.dumpgen 2-统计和!sosex.dumpgen 3-stat(这是LOH)。这些命令中的每一个都将为您提供每一代中所有对象的总大小

2-我现在手头没有调试器,但我认为如果你把所有的段大小加起来!eeheap-gc,您应该接近所有对象的总大小!dumpgen还提供了生成的总大小(段大小),因此应该与您看到的内容相匹配!eeheap-gc也是


看起来有大量堆碎片,如520724414字节的空闲对象所示。这通常是由大量异步I/O造成的。

首先,
地址-摘要
仅显示由CreateHeap()函数创建的堆,而不是.NET。NET使用自己的堆,并在输出中显示为

接下来,您忘记添加大小为520MB的“空闲”对象。这些是.NET堆中.NET对象在较早的时候被放置的位置,但随后被垃圾收集。这些可用空间可能会也可能不会在以后返还给操作系统。在执行该命令时,.NET内存管理器正在使用它,但该管理器认为它是空闲的。从操作系统的角度来看,该内存仍在使用中(保留或提交,但不是空闲的)

第三,我认为这是一个错误:GC堆的总大小是1650848280,是1.6GB,而不是160GB。否则它将与22 GB的
编号相矛盾

但是有一个问题是开放的:如果
是22 GB,但是.NET只管理1.6 GB,其余的由直接调用
VirtualAlloc()
的其他组件使用。这很不寻常,因为
VirtualAlloc()
的粒度非常粗糙,所以没有人使用它。只要您知道如何使用这些大内存块,就可能有一个用例

关于你的问题:见@SteveJohnson的答案。我不确认内存碎片是由大量异步I/O造成的这一观察结果。这可能是一个原因,但也有其他原因,例如固定对象(通常与一些本机内容结合使用)。不要忘记区分小对象堆碎片和大对象堆碎片

更新:

据我所知,您无法从转储中找出谁分配了虚拟内存。您可以通过在VirtualAlloc()上设置断点并将调用堆栈打印到输出文件中,然后检查不同的调用堆栈来实现。我在实践中从未这样做过,但以下应该是一个起点:

.logopen virtualalloc.log
bp Kernel32!VirtualAlloc ".echo ANALYZE>;k;.echo <ANALYZE;g"
bp Kernel32!VirtualAllocEx ".echo ANALYZE>;k;.echo <ANALYZE;g"
g
.logopen virtualalloc.log

bp内核32!VirtualAlloc.echo ANALYZE>;k;.echo和filter for VirtualAlloc。您可以在System Services/Memory Management/Virtual Memory/Kernel32.dll中找到VirtualAlloc和VirtualAllocEx。不幸的是,文件格式未打开,因此无法使用工具分析结果。

是否为非托管资源调用Dispose()方法(或者,在using语句中确定它们的范围)?Windbg不能很好地替代一个像样的.NET内存分析器。但是,嘿,120 MB的事件处理程序,请不要再看了。与WMI相关的是,死锁终结器线程是标准的解释。谢谢Hans。我如何进一步调查它。syncblk没有显示任何正在等待其他线程的线程。我意识到ge的可用对象数量很多,但只有在LOH中才会出现问题。我正在尝试调查这一部分。您能否提供任何关于异步I/O会对碎片产生多大影响的链接。我没有链接,但在我调试过的大多数堆碎片情况下,罪魁祸首是异步I/O。当您传递一个字节[]在异步I/O方法中,在将缓冲区传递到系统之前必须将其固定。异步I/O不是堆碎片的唯一原因,但正如我所说,这是我的经验中经常遇到的问题。谢谢。你说得对,它是1.6GB,我已经进行了更正。因此,如果22GB是托管堆,而GCs只占用其中的1.6GB,那么如何才能解决我找到了哪些对象构成了剩余的~20GB?@PaulSnow:并不是说有对象。基本上,这只是一块内存(字节[]),任何请求它的人都可以随心所欲地使用它。我已经更新了我的答案,以便在实时会话中调试它。
.logopen virtualalloc.log
bp Kernel32!VirtualAlloc ".echo ANALYZE>;k;.echo <ANALYZE;g"
bp Kernel32!VirtualAllocEx ".echo ANALYZE>;k;.echo <ANALYZE;g"
g