极客时间已完结课程限时免费阅读

18 | 如何设置线程池大小?

18 | 如何设置线程池大小?-极客时间

18 | 如何设置线程池大小?

讲述:李良

时长11:06大小10.16M

你好,我是刘超。
还记得我在 16 讲中说过“线程池的线程数量设置过多会导致线程竞争激烈”吗?今天再补一句,如果线程数量设置过少的话,还会导致系统无法充分利用计算机资源。那么如何设置才不会影响系统性能呢?
其实线程池的设置是有方法的,不是凭借简单的估算来决定的。今天我们就来看看究竟有哪些计算方法可以复用,线程池中各个参数之间又存在怎样的关系。

线程池原理

开始优化之前,我们先来看看线程池的实现原理,有助于你更好地理解后面的内容。
在 HotSpot VM 的线程模型中,Java 线程被一对一映射为内核线程。Java 在使用线程执行程序时,需要创建一个内核线程;当该 Java 线程被终止时,这个内核线程也会被回收。因此 Java 线程的创建与销毁将会消耗一定的计算机资源,从而增加系统的性能开销。
除此之外,大量创建线程同样会给系统带来性能问题,因为内存和 CPU 资源都将被线程抢占,如果处理不当,就会发生内存溢出、CPU 使用率超负荷等问题。
为了解决上述两类问题,Java 提供了线程池概念,对于频繁创建线程的业务场景,线程池可以创建固定的线程数量,并且在操作系统底层,轻量级进程将会把这些线程映射到内核。
线程池可以提高线程复用,又可以固定最大线程使用量,防止无限制地创建线程。当程序提交一个任务需要一个线程时,会去线程池中查找是否有空闲的线程,若有,则直接使用线程池中的线程工作,若没有,会去判断当前已创建的线程数量是否超过最大线程数量,如未超过,则创建新线程,如已超过,则进行排队等待或者直接抛出异常。

线程池框架 Executor

Java 最开始提供了 ThreadPool 实现了线程池,为了更好地实现用户级的线程调度,更有效地帮助开发人员进行多线程开发,Java 提供了一套 Executor 框架。
这个框架中包括了 ScheduledThreadPoolExecutor 和 ThreadPoolExecutor 两个核心线程池。前者是用来定时执行任务,后者是用来执行被提交的任务。鉴于这两个线程池的核心原理是一样的,下面我们就重点看看 ThreadPoolExecutor 类是如何实现线程池的。
Executors 实现了以下四种类型的 ThreadPoolExecutor:
Executors 利用工厂模式实现的四种线程池,我们在使用的时候需要结合生产环境下的实际场景。不过我不太推荐使用它们,因为选择使用 Executors 提供的工厂类,将会忽略很多线程池的参数设置,工厂类一旦选择设置默认参数,就很容易导致无法调优参数设置,从而产生性能问题或者资源浪费。
这里我建议你使用 ThreadPoolExecutor 自我定制一套线程池。进入四种工厂类后,我们可以发现除了 newScheduledThreadPool 类,其它类均使用了 ThreadPoolExecutor 类进行实现,你可以通过以下代码简单看下该方法:
public ThreadPoolExecutor(int corePoolSize,//线程池的核心线程数量
int maximumPoolSize,//线程池的最大线程数
long keepAliveTime,//当线程数大于核心线程数时,多余的空闲线程存活的最长时间
TimeUnit unit,//时间单位
BlockingQueue<Runnable> workQueue,//任务队列,用来储存等待执行任务的队列
ThreadFactory threadFactory,//线程工厂,用来创建线程,一般默认即可
RejectedExecutionHandler handler) //拒绝策略,当提交的任务过多而不能及时处理时,我们可以定制策略来处理任务
我们还可以通过下面这张图来了解下线程池中各个参数的相互关系:
通过上图,我们发现线程池有两个线程数的设置,一个为核心线程数,一个为最大线程数。在创建完线程池之后,默认情况下,线程池中并没有任何线程,等到有任务来才创建线程去执行任务。
但有一种情况排除在外,就是调用 prestartAllCoreThreads() 或者 prestartCoreThread() 方法的话,可以提前创建等于核心线程数的线程数量,这种方式被称为预热,在抢购系统中就经常被用到。
当创建的线程数等于 corePoolSize 时,提交的任务会被加入到设置的阻塞队列中。当队列满了,会创建线程执行任务,直到线程池中的数量等于 maximumPoolSize。
当线程数量已经等于 maximumPoolSize 时, 新提交的任务无法加入到等待队列,也无法创建非核心线程直接执行,我们又没有为线程池设置拒绝策略,这时线程池就会抛出 RejectedExecutionException 异常,即线程池拒绝接受这个任务。
当线程池中创建的线程数量超过设置的 corePoolSize,在某些线程处理完任务后,如果等待 keepAliveTime 时间后仍然没有新的任务分配给它,那么这个线程将会被回收。线程池回收线程时,会对所谓的“核心线程”和“非核心线程”一视同仁,直到线程池中线程的数量等于设置的 corePoolSize 参数,回收过程才会停止。
即使是 corePoolSize 线程,在一些非核心业务的线程池中,如果长时间地占用线程数量,也可能会影响到核心业务的线程池,这个时候就需要把没有分配任务的线程回收掉。
我们可以通过 allowCoreThreadTimeOut 设置项要求线程池:将包括“核心线程”在内的,没有任务分配的所有线程,在等待 keepAliveTime 时间后全部回收掉。
我们可以通过下面这张图来了解下线程池的线程分配流程:

计算线程数量

了解完线程池的实现原理和框架,我们就可以动手实践优化线程池的设置了。
我们知道,环境具有多变性,设置一个绝对精准的线程数其实是不大可能的,但我们可以通过一些实际操作因素来计算出一个合理的线程数,避免由于线程池设置不合理而导致的性能问题。下面我们就来看看具体的计算方法。
一般多线程执行的任务类型可以分为 CPU 密集型和 I/O 密集型,根据不同的任务类型,我们计算线程数的方法也不一样。
CPU 密集型任务:这种任务消耗的主要是 CPU 资源,可以将线程数设置为 N(CPU 核心数)+1,比 CPU 核心数多出来的一个线程是为了防止线程偶发的缺页中断,或者其它原因导致的任务暂停而带来的影响。一旦任务暂停,CPU 就会处于空闲状态,而在这种情况下多出来的一个线程就可以充分利用 CPU 的空闲时间。
下面我们用一个例子来验证下这个方法的可行性,通过观察 CPU 密集型任务在不同线程数下的性能情况就可以得出结果,你可以点击Github下载到本地运行测试:
public class CPUTypeTest implements Runnable {
//整体执行时间,包括在队列中等待的时间
List<Long> wholeTimeList;
//真正执行时间
List<Long> runTimeList;
private long initStartTime = 0;
/**
* 构造函数
* @param runTimeList
* @param wholeTimeList
*/
public CPUTypeTest(List<Long> runTimeList, List<Long> wholeTimeList) {
initStartTime = System.currentTimeMillis();
this.runTimeList = runTimeList;
this.wholeTimeList = wholeTimeList;
}
/**
* 判断素数
* @param number
* @return
*/
public boolean isPrime(final int number) {
if (number <= 1)
return false;
for (int i = 2; i <= Math.sqrt(number); i++) {
if (number % i == 0)
return false;
}
return true;
}
/**
* 計算素数
* @param number
* @return
*/
public int countPrimes(final int lower, final int upper) {
int total = 0;
for (int i = lower; i <= upper; i++) {
if (isPrime(i))
total++;
}
return total;
}
public void run() {
long start = System.currentTimeMillis();
countPrimes(1, 1000000);
long end = System.currentTimeMillis();
long wholeTime = end - initStartTime;
long runTime = end - start;
wholeTimeList.add(wholeTime);
runTimeList.add(runTime);
System.out.println("单个线程花费时间:" + (end - start));
}
}
测试代码在 4 核 intel i5 CPU 机器上的运行时间变化如下:
综上可知:当线程数量太小,同一时间大量请求将被阻塞在线程队列中排队等待执行线程,此时 CPU 没有得到充分利用;当线程数量太大,被创建的执行线程同时在争取 CPU 资源,又会导致大量的上下文切换,从而增加线程的执行时间,影响了整体执行效率。通过测试可知,4~6 个线程数是最合适的。
I/O 密集型任务:这种任务应用起来,系统会用大部分的时间来处理 I/O 交互,而线程在处理 I/O 的时间段内不会占用 CPU 来处理,这时就可以将 CPU 交出给其它线程使用。因此在 I/O 密集型任务的应用中,我们可以多配置一些线程,具体的计算方法是 2N。
这里我们还是通过一个例子来验证下这个公式是否可以标准化:
public class IOTypeTest implements Runnable {
//整体执行时间,包括在队列中等待的时间
Vector<Long> wholeTimeList;
//真正执行时间
Vector<Long> runTimeList;
private long initStartTime = 0;
/**
* 构造函数
* @param runTimeList
* @param wholeTimeList
*/
public IOTypeTest(Vector<Long> runTimeList, Vector<Long> wholeTimeList) {
initStartTime = System.currentTimeMillis();
this.runTimeList = runTimeList;
this.wholeTimeList = wholeTimeList;
}
/**
*IO操作
* @param number
* @return
* @throws IOException
*/
public void readAndWrite() throws IOException {
File sourceFile = new File("D:/test.txt");
//创建输入流
BufferedReader input = new BufferedReader(new FileReader(sourceFile));
//读取源文件,写入到新的文件
String line = null;
while((line = input.readLine()) != null){
//System.out.println(line);
}
//关闭输入输出流
input.close();
}
public void run() {
long start = System.currentTimeMillis();
try {
readAndWrite();
} catch (IOException e) {
// TODO Auto-generated catch block
e.printStackTrace();
}
long end = System.currentTimeMillis();
long wholeTime = end - initStartTime;
long runTime = end - start;
wholeTimeList.add(wholeTime);
runTimeList.add(runTime);
System.out.println("单个线程花费时间:" + (end - start));
}
}
备注:由于测试代码读取 2MB 大小的文件,涉及到大内存,所以在运行之前,我们需要调整 JVM 的堆内存空间:-Xms4g -Xmx4g,避免发生频繁的 FullGC,影响测试结果。
通过测试结果,我们可以看到每个线程所花费的时间。当线程数量在 8 时,线程平均执行时间是最佳的,这个线程数量和我们的计算公式所得的结果就差不多。
看完以上两种情况下的线程计算方法,你可能还想说,在平常的应用场景中,我们常常遇不到这两种极端情况,那么碰上一些常规的业务操作,比如,通过一个线程池实现向用户定时推送消息的业务,我们又该如何设置线程池的数量呢?
此时我们可以参考以下公式来计算线程数:
线程数=N(CPU核数)*(1+WT(线程等待时间)/ST(线程时间运行时间))
我们可以通过 JDK 自带的工具 VisualVM 来查看 WT/ST 比例,以下例子是基于运行纯 CPU 运算的例子,我们可以看到:
WT(线程等待时间)= 36788ms [线程运行总时间] - 36788ms[ST(线程时间运行时间)]= 0
线程数=N(CPU核数)*(1+ 0 [WT(线程等待时间)]/36788ms[ST(线程时间运行时间)])= N(CPU核数)
这跟我们之前通过 CPU 密集型的计算公式 N+1 所得出的结果差不多。
综合来看,我们可以根据自己的业务场景,从“N+1”和“2N”两个公式中选出一个适合的,计算出一个大概的线程数量,之后通过实际压测,逐渐往“增大线程数量”和“减小线程数量”这两个方向调整,然后观察整体的处理时间变化,最终确定一个具体的线程数量。

总结

今天我们主要学习了线程池的实现原理,Java 线程的创建和消耗会给系统带来性能开销,因此 Java 提供了线程池来复用线程,提高程序的并发效率。
Java 通过用户线程与内核线程结合的 1:1 线程模型来实现,Java 将线程的调度和管理设置在了用户态,提供了一套 Executor 框架来帮助开发人员提高效率。Executor 框架不仅包括了线程池的管理,还提供了线程工厂、队列以及拒绝策略等,可以说 Executor 框架为并发编程提供了一个完善的架构体系。
在不同的业务场景以及不同配置的部署机器中,线程池的线程数量设置是不一样的。其设置不宜过大,也不宜过小,要根据具体情况,计算出一个大概的数值,再通过实际的性能测试,计算出一个合理的线程数量。
我们要提高线程池的处理能力,一定要先保证一个合理的线程数量,也就是保证 CPU 处理线程的最大化。在此前提下,我们再增大线程池队列,通过队列将来不及处理的线程缓存起来。在设置缓存队列时,我们要尽量使用一个有界队列,以防因队列过大而导致的内存溢出问题。

思考题

在程序中,除了并行段代码,还有串行段代码。那么当程序同时存在串行和并行操作时,优化并行操作是不是优化系统的关键呢?
期待在留言区看到你的见解。也欢迎你点击“请朋友读”,把今天的内容分享给身边的朋友,邀请他一起讨论。
分享给需要的人,Ta购买本课程,你将得18
生成海报并分享

赞 13

提建议

上一篇
17 | 并发容器的使用:识别不同场景下最优容器
下一篇
19 | 如何用协程来优化多线程业务?
unpreview
 写留言

精选留言(62)

  • 你好旅行者
    2019-06-30
    老师好!关于线程池我有一个问题一直不明白,在线程池达到了核心线程数,等待队列没满的这段时间,新的任务会被加入到等待队列。而当等待队列满了之后,最大线程数没满的这段时间,线程池会为新的任务直接创建线程。那岂不是说,我后来的任务反而比先到的任务更早被分配到线程的资源?这是不是有点不太合理呢?

    作者回复: 对的,如果队列满了,就会新增线程来执行任务,如果已经是最大线程数量,则会执行拒绝策略。 这里不应该说不合理,而是不公平。可以深入源码查看具体的实现。

    共 8 条评论
    34
  • 明翼
    2019-07-02
    老师早点发这个课就好了,先回答问题:程序的总体时间是由所有部分加起来时间决定的,串行如果很慢就会严重影响性能,优化是从性能最差的地方开始的。 请教问题: 1)按照老师的图,如果线程没超过核心线程,就创建,超过则加入到队列,队列满又没达到最大线程则创建非核心线程,那么创建好的线程是直接执行最近来的任务那,还是从队列的头部取一个执行。 2)第二个问题,如果线程池的线程数的在核心线程数量之内,A线程执行刚执行完任务,这时候来了个新来的任务a,那么这个A线程继续执行这个新来任务a,还是其他线程执行这个线程那,这里面有什么分配策略
    展开

    作者回复: 1、如果队列满了,这个现成的任务会创建非核心线程,也就是不会先运行队列中的任务。 2、新来的任务a会通过创建新的线程来运行,只要线程数量小于核心线程数,新来的任务都会通过创建新的线程来运行。直到等于核心线程数,任务将会放到阻塞队列中,通过循环拿到阻塞队列中的任务执行。

    17
  • 飞翔
    2019-06-30
    话说N+1和2N 是指的核心线程数嘛? 那队列和最大线程数怎么设置呀

    作者回复: 在一些非核心业务,我们可以将核心线程数设置小一些,最大线程数量设置为计算线程数量。在一些核心业务中,两者可以设置一样。阻塞队列可以根据具体业务场景设置,如果线程处理业务非常迅速,我们可以考虑将阻塞队列设置大一些,处理的请求吞吐量会大些;如果线程处理业务非常耗时,阻塞队列设置小些,防止请求在阻塞队列中等待过长时间而导致请求已超时。

    15
  • 阿杜
    2019-12-17
    线程池核心线程数的设置多少不仅仅依赖cpu核数和执行时间,还有线程执行的资源,比如调用的db,db连接数有限,线程数太多就可能打满db连接。

    作者回复: 赞,做性能压测的时候会经常遇到这种情况,当某条SQL比较耗时的时候,如果线程数设置过大,就会出现不能打开DB连接的异常。

    共 3 条评论
    15
  • nico
    2019-06-29
    老师,请教个问题,生产环境有些应用是混部的,即一个虚拟机上跑很多个java程序,这个时候估算一个程序中的线程池的线程数,是不是就不合理了?这个要怎么估算合理的线程池配置?还有就是即使是单实例部署,cpu资源是机器内共用的,不可能只分配给java线程,这个要怎么考虑?

    作者回复: 我们先考虑单个环境,再去调优复杂环境。大多情况下,重要的服务会单独部署,尽量减少重要业务的相互影响。如果是核心业务冗余在了一个服务上,建议拆分之后分别部署。 非核心业务,很多业务处理可能是在不同时间点,彼此相互不影响,所以不用过多考虑混合部署服务的情况。

    共 2 条评论
    12
  • K
    2019-07-27
    老师好,我也是看了下边同学的评论,又学到了很多知识。我有一个地方不理解,线程如果读文件的时候,这个线程可能处于wait的状态,然后cpu就可以被其他线程拿到使用了。那为什么看到有同学说:“io操作不占用cpu计算,但是io线程依旧不会让渡cpu资源的(执行时间片)”。麻烦老师解答一下,谢谢老师。

    作者回复: 这里理解是有误差的,目前很多服务器的IO操作都是交给DMA去完成,所以这里是让出CPU资源的。

    8
  • Jxin
    2019-07-01
    1.能理解io操作不占用cpu计算,但是io线程依旧不会让渡cpu资源的(执行时间片)。所以io线程池独立和调整io线程数只是因为它耗时不确定,一般耗时较长的特性。 2.综上所述,那么线程池线程数基本就20-30的样子(而且这个值怎么感觉是多个线程池的线程总数呢)。那么tomcat线程池默认好像200条吧,dubbo线程池我们设置1000条线程,这是否就不合理了?(线程这块太水,麻烦老师解惑下)

    作者回复: 我们一般会调整tomcat的线程数量的,线上环境的tomcat线程数量我们一般是在16核CPU的环境下为20左右。如果有万级的并发过来,100以及1000的线程数量,可能会有问题。

    共 5 条评论
    8
  • 许童童
    2019-06-29
    优化并行操作是不是优化系统的关键呢? 可以参考阿姆达尔定律 S=1/(1-a+a/n) 总之,优化并行操作带来的收益是有上限的。

    作者回复: 赞,Amdahl's定律指出优化串行是优化系统性能的关键,我们应该从算法入手,减少程序中串行的部分,而不是增加线程数来提高系统的并发处理能力。

    共 2 条评论
    8
  • Liam
    2019-06-29
    请教老师一个问题: 对于应用而言,可能有多种类型的任务要执行,我们是分别创建不同的线程池还是创建一个统一的线程池来控制资源的使用呢? 1 如果用一个统一的线程池,担心io任务占有太多线程导致其他任务没有足够的线程消费 2 如果用多个线程池,这个资源怎么管理,会不会导致整个应用的线程数量过多,引起太多上下文切换从而导致开销过大
    展开

    作者回复: 分别创建。 如果过分彼此相互影响,建议拆开服务,分别部署。

    7
  • 承香墨影
    2019-10-09
    只有在 workQueue 满了之后才会创建新的线程,直到线程数到达 maximumPoolSize 值。所以这里的等待队列无法使用无界队列就会导致永远都用不上 maximumPoolSize。当我们自己指定 ThreadPoolExecutor 参数的时候,需要注意不要使用无界队列,或者使用无界队列让 corePoolSize 和 maximumPoolSize 保持一致也可以。 参考:newFixedThreadPool 的创建过程。

    作者回复: 赞

    6
  • QQ怪
    2019-06-29
    老师,我想问下生产环境情况下很少碰到单个java进程在一台主机中运行,大部分肯定是多个进程同时运行,不如docker技术,都是共享同一套硬件,那这套计算方程式是不是不适用了?

    作者回复: 适用的,多个进程大部分时间不一定是重合运行的。但具体情况需要具体定,所以最终还是以压测调出来的线程数为准。

    共 2 条评论
    6
  • 这就是编程
    2020-03-11
    看了,这个文章,发现用的阻塞队列,为什么要把任务加到队列后再去创建线程,为什么当没有达到最大线程可以直接创建。上网找了下,发现Tomcat中有一个StandardThreadExecutor线程池,该线程池execute执行策略是优先扩充线程到maximumPoolSize,再offer到queue,如果满了就reject。
    5
  • 再续啸傲
    2019-07-09
    老师,我在本地测试的时候,随着核心线程数的增加,表现出线程平均执行时间增长很快,但是线程整体实行时间却一直在下降。这是否说明任务在等待队列的等待时间要远大于线程之间上下文切换所花费的时间? 如果要将tomcat线程数设置成两位数,是否对服务TPS有较大影响。当万级请求进来的时候正常请求被阻塞,导致前端页面显示请求超时?

    作者回复: 是的,根据当前机器的CPU数量和执行的具体业务来定,如果是纯CPU执行的任务,一般是跟CPU数量的核心线程数量会最大效率利用CPU,而如果是I/O型业务,本身处理I/O的时间是不占用CPU的,可以适当将核心线程数调大一些。如果核心线程数远远大于CPU的核数,整体执行时间也会增加。 Tomcat线程数需要根据自己的业务和机器的环境来定,正常业务一般比机器的CPU核数大一些即可。当万级并发请求时,如果是不保持长连接的情况下,可以适当调大acceptCount参数。当然,业务处理时间过长,在大并发量出现,由于tomcat无法及时处理,会导致504或其他错误。

    5
  • 月迷津渡
    2019-08-28
    当创建的线程数等于 corePoolSize 时,提交的任务会被加入到设置的阻塞队列中,当队列满了,会创建线程执行任务,直到线程池中的数量等于 maximumPoolSize。 这句话颠覆我原来认知了。。难道不是要达到maxPoolSize再进队列么。。如果按上面这么说如果队列不满,就不会创建新线程执行它?就是我永远霸占了coreSize的线程处理,然后队列里有一个待处理,永远执行不了?求教

    作者回复: 按照源码来说,是先判断工作线程是否小于corePoolSize ,如果是,则直接获取线程执行代码,否则,是先进入阻塞队列中。 按照源码看,如果核心线程被占用了,队列中的请求会一直处于等待状态。 建议阅读源码和手动实践一下。

    共 2 条评论
    3
  • Jerry
    2019-07-29
    老师,请教一下,在我的业务环境下一个24 core的node上,一个java进程有一万多个线程,其中有220个是runnable的,其他要么处于BLOCKED 要么处于parking/waiting状态,这种情况应该怎么优化? 始终处于parking/waiting状态的thread是不会参与调度的,不影响调度效率,这样理解对吗? 3 java.lang.Thread.State: BLOCKED (on object monitor) 220 java.lang.Thread.State: RUNNABLE 45 java.lang.Thread.State: TIMED_WAITING (on object monitor) 6412 java.lang.Thread.State: TIMED_WAITING (parking) 200 java.lang.Thread.State: TIMED_WAITING (sleeping) 4 java.lang.Thread.State: WAITING (on object monitor) 5292 java.lang.Thread.State: WAITING (parking)
    展开

    作者回复: 处于等待状态的线程不会争夺CPU资源,但会占用其他系统资源。建议减少创建线程数量。

    3
  • WL
    2019-06-29
    有三个问题请教一下老师: 1. 守护线程也会映射到CPU的线程吗, 我还是没太理解在计算线程数量的时候为啥不考虑守护线程呢, 是因为守护线程运行状态是要么一直运行, 要么一直等待这样不会变化的情况所以不考虑吗? 为啥守护线程的状态一直不变化呢, 它们不会出让CPU吗? 2. 文章中讲的主要是核心线程的数量如何配置, 最大线程数量和阻塞队列长度应该如何确定, 是随便配一下就行影响不大吗, 还是也有什么指导原则? 3. 想问一下老师在visualVM中的线程查看的视窗中线程状态等待, 休眠, 驻留, 监视这几个状态都是啥意思, 是啥情况下会变成这几个状态.
    展开

    作者回复: 1、守护线程也是JVM创建的线程,这块我没有具体看到源码。我们一般不会使用守护线程处理业务,我们这里讨论的是处理业务的线程数量。 2、在一些非核心业务,我们可以将核心线程数设置小一些,最大线程数量设置为计算线程数量。在一些核心业务中,两者可以设置一样。阻塞队列可以根据具体业务场景设置,如果线程处理业务非常迅速,我们可以考虑将阻塞队列设置大一些,处理的请求吞吐量会大些;如果线程处理业务非常耗时,阻塞队列设置小些,防止请求在阻塞队列中等待过长时间而导致请求已超时。 3、休眠对应的sleep操作,等待对应的wait,驻留对应的线程池里的空闲线程,监视对应的synchronized阻塞

    3
  • 姜涛
    2020-04-13
    接口之间的http调用是IO密集型任务嘛?如果一个服务既有IO密集型任务也有CPU密集型任务,是不是线程池需要分别设置线程池大小?

    作者回复: 如果共用线程池,如果是IO密集型任务多一些,则可以按照IO密集型任务来设置,如果是CPU密集型任务多一些,可以取中间值。 做好线程隔离,则分别使用不同的线程池,可以分别设置线程数量。

    2
  • 17702158422
    2019-06-30
    老师请问下一般服务器下所有进程的线程至少100多个了,包括JAVA应用下也不止线程池的线程,还有垃圾回收线程,TOMCAT内置线程等等,这些线程都跑在几个核上,他们也存在上下文切换呀,改如何计算自定义线程池的数量呢

    作者回复: 以上计算线程池大小都是基于一个比较理想状态下计算的。你说的这些线上环境只是一个微小的影响因素,实际在运行时,同时与线程池竞争资源的线程不会对这个公式造成非常大的影响。这些线程对CPU的使用率一般不会超过20%,系统负载也在1.0以下。 如果线上环境已经对线程池的大小产生了干扰,也就是说同时存在多线程池同时运行,且竞争CPU资源非常激烈,这个时候应该模拟线上环境,通过性能测试来调优线程池的线程数量。

    2
  • 听雨
    2019-06-29
    老师,程序很快就跑完了,visualvm还没打开程序呢,我看你的图监视的是已终止的程序,那怎么显示已终止程序的信息的呢

    作者回复: 用过debug模式,在main函数第一条语句设置一个断点,进入断点后,再去VisualVM操作CPU采样,之后再运行程序。

    共 2 条评论
    2
  • 张学磊
    2019-06-29
    老师,线程池流程图提交任务后的第一个节点应该是线程数是否大于核心线程数,如果是再判断队列是否已满,否则直接创建新线程。 思考题,个人觉得线性执行的代码会成为影响性能的关键,应尽量减少执行时间,比如减少锁持有时间,这样才能达到最大程度的并发。

    作者回复: 感谢学磊童鞋的提醒,已修正。 答案正确!

    2