关于并发框架 Java原生线程池原理及Guava与之的补充

使用JAVA中成型的框架来帮助我们开发并发应用即可以节省构建项目的时间,也可以提高应用的性能 。
Java对象实例的锁一共有四种状态:无锁,偏向锁,轻量锁和重量锁 。原始脱离框架的并发应用大部分都需要手动完成加锁释放,最直接的就是使用synchronized和volatile关键字对某个对象或者代码块加锁从而限制每次访问的次数,从对象之间的竞争也可以实现到对象之间的协作 。但是这样手动实现出来的应用不仅耗费时间而且性能表现往往又有待提升 。顺带一提,之前写过一篇文章介绍我基于Qt和linux实现的一个多线程下载器(到这里不需要更多了解这个下载器,请直接继续阅读),就拿这个下载器做一次反例:
首先,一个下载器最愚蠢的问题之一就是把下载线程的个数交由给用户去配置 。比如一个用户会认为负责下载的线程个数是越多越好,干脆配置了50个线程去下载一份任务,那么这个下载器的性能表现甚至会不如一个单进程的下载程序 。最直接的原因就是JVM花费了很多计算资源在线程之间的上下文切换上面,对于一个并发的应用:如果是CPU密集型的任务,那么良好的线程个数是实际CPU处理器的个数的1倍;如果是I/O密集型的任务,那么良好的线程个数是实际CPU处理器个数的1.5倍到2倍(具体记不清这句话是出于哪里了,但还是可信的) 。不恰当的执行线程个数会给线程抖动,CPU抖动等隐患埋下伏笔 。如果,重新开发那么我一定会使用这种线程池的方法使用生产者和消费者的关系模式,异步处理HTTP传输过来的报文 。
其次,由于HTTP报文的接受等待的时间可能需要等待很久,然而处理报文解析格式等等消耗的计算资源是相当较小的 。同步地处理这两件事情必然会使下载进程在一段时间内空转或者阻塞,这样处理也是非常不合理的 。如果重新开发,一定要解耦HTTP报文的接收和HTTP报文的解析,这里尽管也可以使用线程池去进行处理,显而易见由于这样去做的性能提升其实是很小的,所以没有必要去实现,单线程也可以快速完成报文的解析 。
Okay,回到主题,总而言之是线程之间的上下文切换导致了性能的降低 。那么具体应该怎么样去做才可以减少上下文的切换呢?
1. 无锁并发编程
多线程竞争锁时,会引起上下文切换,所以多线程处理数据时,可以用一些办法来避免使用锁,如将数据的ID按照Hash算法取模分段,不同的线程去处理不同段的数据 。
2. CAS算法
Java的Atomic包内使用CAS算法来更新数据,而不需要加锁(但是线程的空转还是存在) 。
3. 使用最少线程
避免创建不需要的线程,比如任务很少,但是创建很多线程来处理,这样会造成大量线程都处于等待状态 。
4. 协程
在单线程里实现多任务的调度,并在单线程里维持多个任务间的切换 。
总的来说使用Java线程池会带来以下3个好处:
1. 降低资源消耗: 通过重复利用已创建的线程降低线程创建和销毁造成的消耗 。
2. 提高响应速度: 当任务到达时,任务可以不需要等到线程创建就能立即执行 。
3. 提高线程的可管理性: 线程是稀缺资源,如果无限制的创建 。不仅仅会降低系统的稳定性,使用线程池可以统一分配,调优和监控 。但是要做到合理的利用线程池 。必须对于其实现原理了如指掌 。
线程池的实现原理如下图所示:

关于并发框架 Java原生线程池原理及Guava与之的补充

文章插图
 
Executor框架的两级调度模型:
在HotSpot VM线程模型中,Java线程被一对一的映射为本地操作系统线程,Java线程启动时会创建一个本地操作系统线程,当该Java线程终止时,这个操作系统也会被回收 。操作系统会调度并将它们分配给可用的CPU 。
在上层,Java多线程程序通常把应用分解为若干个任务,然后把用户级的调度器(Executor框架)将这些映射为固定数量的线程;在底层,操作系统内核将这些线程映射到硬件处理器上 。这种两级调度模型实质是一种工作单元和执行机制的解偶 。
Fork/Join框架的递归调度模型:
要提高应用程序在多核处理器上的执行效率,只能想办法提高应用程序的本身的并行能力 。常规的做法就是使用多线程,让更多的任务同时处理,或者让一部分操作异步执行,这种简单的多线程处理方式在处理器核心数比较少的情况下能够有效地利用处理资源,因为在处理器核心比较少的情况下,让不多的几个任务并行执行即可 。但是当处理器核心数发展很大的数目,上百上千的时候,这种按任务的并发处理方法也不能充分利用处理资源,因为一般的应用程序没有那么多的并发处理任务(服务器程序是个例外) 。所以,只能考虑把一个任务拆分为多个单元,每个单元分别得执行最后合并每个单元的结果 。一个任务的并行拆分,一种方法就是寄希望于硬件平台或者操作系统,但是目前这个领域还没有很好的结果 。另一种方案就是还是只有依靠应用程序本身对任务经行拆封执行 。


推荐阅读