1.1上下文切换

即使是单核处理器也可以支持多线程执行代码,CPU通过给每个线程分配CPU时间片来实现这个机制。

这是时间片是CPU分配给各个线程的时间,因为时间片非常短,所以CPU通过不停地切换线程执行,使得我们感觉上是多个线程同时执行,时间片一般是几十毫秒。

CPU通过时间片分配算法来循环执行任务,当前任务执行一个时间片后会切换到下一个任务。但是切换之前会保存上一个任务的状态,以便于下次切换回这个任务时,可以再次加载这个任务的状态,所以任务从保存到再次加载的过程就是一次上下文切换。

1.2测试上下文切换次数和时长

·使用Lmbench3可以测量上下文切换的时长。

·使用vmstat(Linux)可以测试上下文切换的次数。

1.3减少上下文切换

减少上下文切换的方法有无锁并发编程,CAS算法,使用最少线程和使用协程

·无锁并发编程。 多线程竞争锁时,会引起上下文的切换,所以多线程处理数据的时候,可以用一些方法来避免使用锁,如将数据的ID按照Hash算法取模分段,不同线程处理不同段的数据。

·CAS算法 。 Java的Atomic包使用CAS算法来更新数据,而不需要加锁。

·使用最少线程。 避免创建不需要的线程, 比如任务很少,但是创建了很多线程来处理,这样会造成大量的线程处于等待状态。

·协程。 在单线程实现多任务的调度,并在单线程里维持多个任务间的切换。`

 

 

 

2.1死锁

避免死锁的几个常见方法。

·避免一个线程同时获取多个锁。

·避免一个线程在锁内同时占有多个资源,尽量保证每个锁只占用一个资源。

·尝试使用定时锁,使用lock.tryLock(timeout)来替代使用内部所机制

·对于数据库锁,加锁和解锁必须在一个数据库连接里,负责会出现解锁失败的情况。

3.资源限制

3.1什么是资源限制

资源限制是指在进行并发编程时,程序的执行速度受限于计算机硬件资源或者软件资源。例如,服务器的带宽只有2Mb/s,某个资源的下载速度是1Mb/s,系统启动10个线程下载资源,下载速度不会变为10Mb/s,所以在进行并发编程时,要考虑这些资源的限制,硬件资源限制有带宽的上下传速度,硬盘读写速度和CPU的处理速度,软件资源限制有数据库的连接数,Socket的连接数等。

3.2资源限制引发的问题

在并发编程中,将代码执行速度加快的原则是将代码串行执行的部分变成并发执行,但是如果将某段串行代码并发执行,因为受限于资源,仍然在串行执行,这时候程序不仅不会加快速度,反而更慢,因为增加了上下文切换和资源调度的时间。

3.3如何解决资源限制的问题

对于硬件资源限制,可以考虑使用集群并行执行程序,既然单机的资源有限制,那么就让程序在多机上去运行,比如使用ODPS、Hadoop或者自己搭建服务器集群,不同的机器处理不同的数据。可以通过“数据ID%机器数”,集权得到有个机器编号,然后由对应编号的机器处理这笔数据。

对于软件资源限制,可以考虑使用资源池将资源服用,比如使用连接池将数据库和Socket连接复用,或者在调用对方webservice接口获取数据时,只建立一个连接。

3.4在资源限制情况下进行并发编程

如何在资源限制的情况下,让程序执行得更快呢? 方法就是,根据不同的资源限制调整程序的并发度,比如下载文件程序依赖于两个资源,带宽 和硬盘读写速度。有数据库操作时涉及数据库连接数,如果SQL语句执行非常快,而线程的数量比数据库连接数大很多,则某些线程会被阻塞,等待数据库连接。

 

总结:对于Java开发,多使用JDK并发包提供的并发容器和工具类来解决并发问题,因为这些类已经通过了充分的测试和优化。