Java 为什么虚拟线程(只在短时间内休眠)会提高另一个线程的性能?

Java 为什么虚拟线程(只在短时间内休眠)会提高另一个线程的性能?,java,multithreading,Java,Multithreading,我们使用的是ScheduledExecutorService.scheduleAtFixedRate每100毫秒执行一次I/O任务(实际的I/O操作是由第三方库执行的,我们不知道里面到底发生了什么。) 有时,跟上100毫秒的间隔会出现一些问题,我们会退回到500毫秒。由于是I/O,我们并不感到惊讶,但我们观察到一种奇怪的行为: 如果一个特定的线程运行,我们将匹配100毫秒。 如果这个线程没有运行,我们将返回到500毫秒 特定线程的运行方法如下所示: while(active){ try {

我们使用的是
ScheduledExecutorService.scheduleAtFixedRate
每100毫秒执行一次I/O任务(实际的I/O操作是由第三方库执行的,我们不知道里面到底发生了什么。)

有时,跟上100毫秒的间隔会出现一些问题,我们会退回到500毫秒。由于是I/O,我们并不感到惊讶,但我们观察到一种奇怪的行为:

如果一个特定的线程运行,我们将匹配100毫秒。 如果这个线程没有运行,我们将返回到500毫秒

特定线程的运行方法如下所示:

while(active){
  try {
    Thread.sleep(delay);
  } catch (InterruptedException e) {
    Thread.currentThread().interrupt();
    break;
  }
//some more stuff
}
基本上,当我们使用5毫秒这样的短延迟时,我们可以在库中获得更好的性能。当我们使用更长的延迟(如1000毫秒)时,性能会显著降低

由于我们无法重现该问题(Java8、Windows10),因此它似乎也是特定于平台的

我们所知道的是,肯定是short sleep()调用导致了改进,因为我们可以通过运行一个虚拟线程来修复这个问题,只需在短时间内休眠

任何解释都有助于理解正在发生的事情:-)

——编辑

更有趣的是:如果我们只为短睡眠时间间隔添加了两个线程,而不是一个线程,那么会增加一点性能。没有第一个线程那么重要,但仍然有20%左右

——编辑2

我们可以观察行为的系统: 英特尔原子E3845 视窗10

我们无法复制的系统: 英特尔i7-5820K 视窗10


我们无法查找源代码,但库似乎运行单线程(未创建新线程)并创建套接字连接。

这可能是多线程可见性问题(如果不知道涉及的源/库,很难说)

该示例基于线程中的代码

执行以下代码将导致线程
t
的无限执行

public class Test extends Thread {

    boolean keepRunning = true;

    public static void main(String[] args) throws InterruptedException {
        Test t = new Test();
        t.start();
        Thread.sleep(1000);
        t.keepRunning = false;
        System.out.println(System.currentTimeMillis() + ": keepRunning is false");
    }

    public void run() {
        int i = 0;
        while (keepRunning) {
            i++;
        }
        System.out.println("iterations: " + i);
    }
}
原因是线程
t
保持其自身的
keepRunning
本地状态,并且从未获得更新的状态

如果将
运行
方法修改为

public void run() {
    int i = 0;
    while (keepRunning) {
        i++;
        System.out.println(i);
    }
    System.out.println("iterations: " + i);
}
例如,它以

...
111955
111956
iterations: 111956
1582797899956: keepRunning is false
问:这个额外的
println
语句如何改变行为? A:
System.out
是一个
PrintStream
,而
println
方法实现如下

public void println(boolean x) {
    synchronized (this) {
        print(x);
        newLine();
    }
}
synchronized
块导致线程本地状态和主内存之间的同步

当您使用
线程时,也会出现类似的效果。请改用sleep(delay)

public void run() {
    int i = 0;
    while (keepRunning) {
        i++;
        try {
            Thread.sleep(5);
        } catch(InterruptedException e) {
            System.out.println("interrupted");
            Thread.currentThread().interrupt();
        }
    }
    System.out.println("iterations: " + i);
}
示例输出

1582798987660: keepRunning is false
iterations: 197
iterations: 1726941412
1582799612746: keepRunning is false
您可以尝试用
System.out.println()
语句替换
Thread.sleep(delay)
,看看这是否会产生类似的效果。那么它很可能与上面的例子有关

  • 有关SO的相关问题的链接集
  • 关于
  • 有关Java内存模型的更多信息,请参见
edit强制执行线程
t
获取更新状态变量
keepRunning
可以声明为
volatile

公共类测试扩展了线程{

volatile boolean keepRunning = true;

public static void main(String[] args) throws InterruptedException {
    Test t = new Test();
    t.start();
    Thread.sleep(1000);
    t.keepRunning = false;
    System.out.println(System.currentTimeMillis() + ": keepRunning is false");
}

public void run() {
    int i = 0;
    while (keepRunning) {
        i++;
    }
    System.out.println("iterations: " + i);
}
}

示例输出

1582798987660: keepRunning is false
iterations: 197
iterations: 1726941412
1582799612746: keepRunning is false

如果您正在使用Spring框架,那么最好尽快切换到或。例如,使用Thread.sleep有很多缺点-像IOException、OutOfMemory、线程同步等异常。谢谢你的文章。它写道“Thread.sleep()与线程调度程序交互”,也许这种“更活跃”的交互会导致线程调度程序优先处理我的其他线程?但这是一个非常模糊的假设。如果你使用舒尔,你要将线程停止到非常小的间隔,比如说几微秒,你最好用它来代替睡眠,睡眠在大多数情况下是不好的选择(除非你不使用某些硬件,并且你需要这种睡眠来处理众所周知的硬件延迟)您能进入第三方库的代码,检查它是否为IO维护了线程池吗?如果是这样,并且如果它的大小或特征与应用程序的现有线程数有某种关联,那么这可能与行为上的差异有关。短休眠可能会阻止CPU切换到低功耗状态,而i7在切换到低功耗之前具有更高的阈值。另一种猜测是,进程调度器通常被设计成将程序分为两个调度桶:交互式程序(短时间片,低延迟,优化用于快速响应UI或网络生成的事件)和批处理程序(大时间片,高延迟,优化用于进行大量计算)。