Java 如何测量线程堆栈深度?

Java 如何测量线程堆栈深度?,java,multithreading,profiling,Java,Multithreading,Profiling,我有一个32位的Java服务,它存在可伸缩性问题:由于用户数量高,我们的内存会因为线程数量过多而耗尽。从长远来看,我计划切换到64位,并降低每用户线程数的比率。在短期内,我想减少堆栈大小(-Xss,-XX:ThreadStackSize)以获得更多的空间。但这是有风险的,因为如果我把它做得太小,我会得到StackOverflowers错误 我如何测量应用程序的平均和最大堆栈大小,以指导我选择最佳-Xss值?我对两种可能的方法感兴趣: 在集成测试期间测量正在运行的JVM。哪些分析工具将报告最大堆栈

我有一个32位的Java服务,它存在可伸缩性问题:由于用户数量高,我们的内存会因为线程数量过多而耗尽。从长远来看,我计划切换到64位,并降低每用户线程数的比率。在短期内,我想减少堆栈大小(-Xss,-XX:ThreadStackSize)以获得更多的空间。但这是有风险的,因为如果我把它做得太小,我会得到StackOverflowers错误

我如何测量应用程序的平均和最大堆栈大小,以指导我选择最佳-Xss值?我对两种可能的方法感兴趣:

  • 在集成测试期间测量正在运行的JVM。哪些分析工具将报告最大堆栈深度
  • 对应用程序进行静态分析,寻找深层调用层次结构。依赖注入中的反射使得这不太可能起作用
  • 更新:我知道解决这个问题的长期正确方法。请关注我提出的问题:如何测量堆栈深度


    更新2:我得到了一个关于JProfiler的相关问题的好答案:(我根据JProfiler的社区支持建议发布了单独的问题)

    我会在测试环境中减少
    -Xss
    设置,直到您看到问题。然后增加一些头部空间

    减少堆大小将为应用程序提供更多的线程堆栈空间


    仅仅切换到64位操作系统可以为应用程序提供更多的内存,因为大多数32位操作系统只允许每个应用程序使用大约1.5 GB的内存,但是64位操作系统上的32位应用程序最多可以使用3-3.5 GB的内存,具体取决于操作系统。

    Java VM中没有现成可用的工具来查询以字节为单位的堆栈深度。但是你可以到达那里。以下是一些要点:

    • 异常包含堆栈帧数组,它提供了调用的方法

    • 对于每个方法,都可以在
      .class
      文件中找到。此属性包含字段
      max\u stack
      中每个方法的帧大小

    因此,您需要的是一个编译
    HashMap
    的工具,其中包含方法名+文件名+行号作为键,值
    max\u堆栈作为值。创建一个可丢弃的
    ,使用
    getStackTrace()
    从中获取堆栈帧,然后迭代
    StackTraceElement
    s

    注:

    操作数堆栈上的每个条目都可以保存任何Java虚拟机类型的值,包括long或double类型的值


    因此,每个堆栈条目可能是64位,因此您需要将
    max_stack
    乘以8以获得字节。

    您可以通过一个方面了解堆栈深度,该方面可以编织到您的代码中(load time weaver允许通知除系统类加载程序外的所有加载代码)。方面将围绕所有执行的代码工作,并且能够注意到何时调用方法以及何时返回。您可以使用它来捕获大部分堆栈使用情况(您将错过从系统类加载器加载的任何内容,例如java.*)。虽然并不完美,但它避免了在采样点更改代码以收集StackTraceElement[],还可以让您进入可能没有编写的非jdk代码

    例如(aspectj):

    速度非常慢,并且有自己的内存问题,但是可以获得所需的堆栈信息

    然后,可以对堆栈跟踪中的每个方法使用max_堆栈和max_局部变量来计算该方法的帧大小(请参见)。基于此,我认为这应该是(max_stack+max_locals)*4字节,表示方法的最大帧大小(long/double占用操作数堆栈/局部变量上的两个条目,并计入max_stack和max_locals)

    如果调用堆栈中没有那么多,您可以轻松地javap感兴趣的类并查看帧值。类似的东西为您提供了一些简单的工具,可以在更大范围内使用它们

    一旦计算出这个值,就需要估计JDK类在最大堆栈点可能被调用的额外堆栈帧,并将其添加到堆栈大小中。它可能并不完美,但它应该为-Xss调优提供一个良好的起点,而不必绕过JVM/JDK

    另一个注意事项:我不知道JIT/OSR对帧大小或堆栈要求有什么影响,所以请注意,在冷JVM和热JVM上进行-Xss调优可能会产生不同的影响

    EDIT有几个小时的停机时间,并采用了另一种方法。这是一个java代理,它将检测方法以跟踪最大堆栈帧大小和堆栈深度。这将能够为大多数jdk类以及其他代码和库提供工具,从而提供比aspect weaver更好的结果。您需要asm v4才能正常工作。这更多的是为了好玩,所以将此文件归档在plinkingjava下是为了好玩,而不是为了利润

    首先,制作一些东西来跟踪堆栈帧的大小和深度:

    package phil.agent;
    
    public class MaxStackLog {
    
        private static ThreadLocal<Integer> curStackSize = 
            new ThreadLocal<Integer> () {
            @Override
            protected Integer initialValue () {
                return 0;
            }
        };
    
        private static ThreadLocal<Integer> curStackDepth = 
            new ThreadLocal<Integer> () {
            @Override
            protected Integer initialValue () {
                return 0;
            }
        };
    
        private static ThreadLocal<Boolean> ascending = 
            new ThreadLocal<Boolean> () {
            @Override
            protected Boolean initialValue () {
                return true;
            }
        };
    
        private static ConcurrentHashMap<Long, Integer> maxSizes = 
            new ConcurrentHashMap<Long, Integer> ();
        private static ConcurrentHashMap<Long, Integer> maxDepth = 
            new ConcurrentHashMap<Long, Integer> ();
    
        private MaxStackLog () { }
    
        public static void enter ( int frameSize ) {
            ascending.set ( true );
            curStackSize.set ( curStackSize.get () + frameSize );
            curStackDepth.set ( curStackDepth.get () + 1 );
        }
    
        public static void exit ( int frameSize ) {
            int cur = curStackSize.get ();
            int curDepth = curStackDepth.get ();
            if ( ascending.get () ) {
                long id = Thread.currentThread ().getId ();
                Integer max = maxSizes.get ( id );
                if ( max == null || cur > max ) {
                    maxSizes.put ( id, cur );
                }
                max = maxDepth.get ( id );
                if ( max == null || curDepth > max ) {
                    maxDepth.put ( id, curDepth );
                }
            }
            ascending.set ( false );
            curStackSize.set ( cur - frameSize );
            curStackDepth.set ( curDepth - 1 );
        }
    
        public static void dumpMax () {
            int max = 0;
            for ( int i : maxSizes.values () ) {
                max = Math.max ( i, max );
            }
            System.out.println ( "Max stack frame size accummulated: " + max );
            max = 0;
            for ( int i : maxDepth.values () ) {
                max = Math.max ( i, max );
            }
            System.out.println ( "Max stack depth: " + max );
        }
    }
    
    最后,将以下内容添加到要插入指令的程序的java命令行中:

    -javaagent:path/to/Agent.jar
    
    您还需要将asm-all-4.0.jar与Agent.jar放在同一目录中(或者更改清单中的引导类路径以引用该位置)

    示例输出可能是:

    Max stack frame size accummulated: 44140
    Max stack depth: 1004
    
    这一切都有点粗糙,但对我来说是可行的


    注意:堆栈帧大小不是总堆栈大小(仍然不知道如何获得该大小)。实际上,线程堆栈有各种开销。我发现我通常需要报告的堆栈最大帧大小的2到3倍作为-Xss值。哦,并且在添加到你的堆栈大小要求时,一定要在没有代理加载的情况下进行-XSS调优。

    你应该考虑切换到异步模式。系统中的线程数超过CPU核数没有任何意义。@VladLazarenko-同意。正如我所说,我
    package phil.agent;
    
    public class Agent {
    
        public static void premain ( String agentArguments, Instrumentation ins ) {
            try {
                ins.appendToBootstrapClassLoaderSearch ( 
                    new JarFile ( 
                        new File ( "path/to/Agent.jar" ) ) );
            } catch ( IOException e ) {
                e.printStackTrace ();
            }
            ins.addTransformer ( new Transformer (), true );
            Class<?>[] classes = ins.getAllLoadedClasses ();
            int len = classes.length;
            for ( int i = 0; i < len; i++ ) {
                Class<?> clazz = classes[i];
                String name = clazz != null ? clazz.getCanonicalName () : null;
                try {
                    if ( name != null && !clazz.isArray () && !clazz.isPrimitive ()
                            && !clazz.isInterface () 
                            && !name.equals ( "java.lang.Long" )
                            && !name.equals ( "java.lang.Boolean" )
                            && !name.equals ( "java.lang.Integer" )
                            && !name.equals ( "java.lang.Double" ) 
                            && !name.equals ( "java.lang.Float" )
                            && !name.equals ( "java.lang.Number" ) 
                            && !name.equals ( "java.lang.Class" )
                            && !name.equals ( "java.lang.Byte" ) 
                            && !name.equals ( "java.lang.Void" )
                            && !name.equals ( "java.lang.Short" ) 
                            && !name.equals ( "java.lang.System" )
                            && !name.equals ( "java.lang.Runtime" )
                            && !name.equals ( "java.lang.Compiler" )
                            && !name.equals ( "java.lang.StackTraceElement" )
                            && !name.startsWith ( "java.lang.ThreadLocal" )
                            && !name.startsWith ( "sun." ) 
                            && !name.startsWith ( "java.security." )
                            && !name.startsWith ( "java.lang.ref." )
                            && !name.startsWith ( "java.lang.ClassLoader" )
                            && !name.startsWith ( "java.util.concurrent.atomic" )
                            && !name.startsWith ( "java.util.concurrent.ConcurrentHashMap" )
                            && !name.startsWith ( "java.util.concurrent.locks." )
                            && !name.startsWith ( "phil.agent." ) ) {
                        ins.retransformClasses ( clazz );
                    }
                } catch ( Throwable e ) {
                    System.err.println ( "Cant modify: " + name );
                }
            }
    
            Runtime.getRuntime ().addShutdownHook ( new Thread () {
                @Override
                public void run () {
                    MaxStackLog.dumpMax ();
                }
            } );
        }
    }
    
    public class Transformer implements ClassFileTransformer {
    
        @Override
        public byte[] transform ( ClassLoader loader, 
            String className, Class<?> classBeingRedefined,
                ProtectionDomain protectionDomain, byte[] classfileBuffer )
                throws IllegalClassFormatException {
    
            if ( className.startsWith ( "phil/agent" ) ) {
                return classfileBuffer;
            }
    
            byte[] result = classfileBuffer;
            ClassReader reader = new ClassReader ( classfileBuffer );
            MaxStackClassVisitor maxCv = new MaxStackClassVisitor ( null );
            reader.accept ( maxCv, ClassReader.SKIP_DEBUG );
    
            ClassWriter writer = new ClassWriter ( ClassWriter.COMPUTE_FRAMES );
            ClassVisitor visitor = 
                new CallStackClassVisitor ( writer, maxCv.frameMap, className );
            reader.accept ( visitor, ClassReader.SKIP_DEBUG );
            result = writer.toByteArray ();
            return result;
        }
    }
    
    public class MaxStackClassVisitor extends ClassVisitor {
    
        Map<String, Integer> frameMap = new HashMap<String, Integer> ();
    
        public MaxStackClassVisitor ( ClassVisitor v ) {
            super ( Opcodes.ASM4, v );
        }
    
        @Override
        public MethodVisitor visitMethod ( int access, String name, 
            String desc, String signature,
                String[] exceptions ) {
            return new MaxStackMethodVisitor ( 
                super.visitMethod ( access, name, desc, signature, exceptions ), 
                this, ( access + name + desc + signature ) );
        }
    }
    
    public class MaxStackMethodVisitor extends MethodVisitor {
    
        final MaxStackClassVisitor cv;
        final String name;
    
        public MaxStackMethodVisitor ( MethodVisitor mv, 
            MaxStackClassVisitor cv, String name ) {
            super ( Opcodes.ASM4, mv );
            this.cv = cv;
            this.name = name;
        }
    
        @Override
        public void visitMaxs ( int maxStack, int maxLocals ) {
            cv.frameMap.put ( name, ( maxStack + maxLocals ) * 4 );
            super.visitMaxs ( maxStack, maxLocals );
        }
    }
    
    public class CallStackClassVisitor extends ClassVisitor {
    
        final Map<String, Integer> frameSizes;
        final String className;
    
        public CallStackClassVisitor ( ClassVisitor v, 
            Map<String, Integer> frameSizes, String className ) {
            super ( Opcodes.ASM4, v );
            this.frameSizes = frameSizes;
            this.className = className;
        }
    
        @Override
        public MethodVisitor visitMethod ( int access, String name, 
            String desc, String signature, String[] exceptions ) {
            MethodVisitor m = super.visitMethod ( access, name, desc, 
                                 signature, exceptions );
            return new CallStackMethodVisitor ( m, 
                     frameSizes.get ( access + name + desc + signature ) );
        }
    }
    
    public class CallStackMethodVisitor extends MethodVisitor {
    
        final int size;
    
        public CallStackMethodVisitor ( MethodVisitor mv, int size ) {
            super ( Opcodes.ASM4, mv );
            this.size = size;
        }
    
        @Override
        public void visitCode () {
            visitIntInsn ( Opcodes.SIPUSH, size );
            visitMethodInsn ( Opcodes.INVOKESTATIC, "phil/agent/MaxStackLog",
                    "enter", "(I)V" );
            super.visitCode ();
        }
    
        @Override
        public void visitInsn ( int inst ) {
            switch ( inst ) {
                case Opcodes.ARETURN:
                case Opcodes.DRETURN:
                case Opcodes.FRETURN:
                case Opcodes.IRETURN:
                case Opcodes.LRETURN:
                case Opcodes.RETURN:
                case Opcodes.ATHROW:
                    visitIntInsn ( Opcodes.SIPUSH, size );
                    visitMethodInsn ( Opcodes.INVOKESTATIC,
                            "phil/agent/MaxStackLog", "exit", "(I)V" );
                    break;
                default:
                    break;
            }
    
            super.visitInsn ( inst );
        }
    }
    
    Manifest-Version: 1.0
    Premain-Class: phil.agent.Agent
    Boot-Class-Path: asm-all-4.0.jar
    Can-Retransform-Classes: true
    
    -javaagent:path/to/Agent.jar
    
    Max stack frame size accummulated: 44140
    Max stack depth: 1004