1.ScheduledThreadPoolExecutor
整体结构剖析。
1.1类图介绍
根据上面类图图可以看到Executor其实是一个工具类,里面提供了好多静态方法,根据用户选择返回不同的线程池实例。可以看到ScheduledThreadPoolExecutor
继承了 ThreadPoolExecutor
并实现 ScheduledExecutorService
接口。线程池队列是 DelayedWorkQueue
,和 DelayedQueue
类似是一个延迟队列。
ScheduledFutureTask
是具有返回值的任务,继承自 FutureTask,FutureTask 内部有个变量 state 用来表示任务的状态,一开始状态为 NEW,所有状态为:
private static final int NEW = 0;//初始状态
private static final int COMPLETING = 1;//执行中状态
private static final int NORMAL = 2;//正常运行结束状态
private static final int EXCEPTIONAL = 3;//运行中异常
private static final int CANCELLED = 4;//任务被取消
private static final int INTERRUPTING = 5;//任务正在被中断
private static final int INTERRUPTED = 6;//任务已经被中断
FutureTask可能的任务状态转换路径如下所示:
NEW -> COMPLETING -> NORMAL //初始状态->执行中->正常结束
NEW -> COMPLETING -> EXCEPTIONAL//初始状态->执行中->执行异常
NEW -> CANCELLED//初始状态->任务取消
NEW -> INTERRUPTING -> INTERRUPTED//初始状态->被中断中->被中断
其实ScheduledFutureTask
内部还有个变量 period 用来表示任务的类型,其任务类型如下:
- period=0,说明当前任务是一次性的,执行完毕后就退出了。
- period 为负数,说明当前任务为 fixed-delay 任务,是定时可重复执行任务。
- period 为整数,说明当前任务为 fixed-rate 任务,是定时可重复执行任务。
接下来我们可以看到ScheduledThreadPoolExecutor
的造函数如下
//使用改造后的Delayqueue.
public ScheduledThreadPoolExecutor(int corePoolSize) {
//调用父类ThreadPoolExecutor的构造函数
super(corePoolSize, Integer.MAX_VALUE, 0, TimeUnit.NANOSECONDS,
new DelayedWorkQueue());
}
public ThreadPoolExecutor(int corePoolSize,
int maximumPoolSize,
long keepAliveTime,
TimeUnit unit,
BlockingQueue<Runnable> workQueue) {
this(corePoolSize, maximumPoolSize, keepAliveTime, unit, workQueue,
Executors.defaultThreadFactory(), defaultHandler);
}
根据上面代码可以看到线程池队列是 DelayedWorkQueue
2、原理分析
我们主要看三个重要的函数,如下所示:
schedule(Runnable command, long delay,TimeUnit unit)
scheduleWithFixedDelay(Runnable command,long initialDelay,long delay,TimeUnit unit)
scheduleAtFixedRate(Runnable command,long initialDelay,long period,TimeUnit unit)
2.1、schedule(Runnable command, long delay,TimeUnit unit)
方法
该方法作用是提交一个延迟执行的任务,任务从提交时间算起延迟 unit 单位的 delay 时间后开始执行,提交的任务不是周期性任务,任务只会执行一次,代码如下:
public ScheduledFuture<?> schedule(Runnable command,
long delay,
TimeUnit unit) {
//(1)参数校验
if (command == null || unit == null)
throw new NullPointerException();
//(2)任务转换
RunnableScheduledFuture<?> t = decorateTask(command,
new ScheduledFutureTask<Void>(command, null,
triggerTime(delay, unit)));
//(3)添加任务到延迟队列
delayedExecute(t);
return t;
}
可以看到上面代码所示,代码(1)参数校验,如果 command 或者 unit 为 null,抛出 NPE 异常。
代码(2)装饰任务,把提交的 command 任务转换为 ScheduledFutureTask
,ScheduledFutureTask
是具体放入到延迟队列里面的东西,由于是延迟任务,所以 ScheduledFutureTask
实现了 long getDelay(TimeUnit unit)
和 int compareTo(Delayed other)
方法,triggerTime 方法转换延迟时间为绝对时间,也就是把当前时间的纳秒数加上延迟的纳秒数后的 long 型值。
接下来我们需要看 ScheduledFutureTask
的构造函数,如下所示:
ScheduledFutureTask(Runnable r, V result, long ns) {
//调用父类FutureTask的构造函数
super(r, result);
this.time = ns;
this.period = 0;//period为0,说明为一次性任务
this.sequenceNumber = sequencer.getAndIncrement();
}
根据构造函数可以看到内部首先调用了父类 FutureTask 的构造函数,父类 FutureTask 的构造函数代码如下:
//通过适配器把runnable转换为callable
public FutureTask(Runnable runnable, V result) {
this.callable = Executors.callable(runnable, result);
this.state = NEW; //设置当前任务状态为NEW
}
根据上面代码可以看到FutureTask 中任务又被转换为了 Callable 类型后,保存到了变量 this.callable 里面,并设置 FutureTask 的任务状态为 NEW。
然后 ScheduledFutureTask
构造函数内部设置 time 为上面说的绝对时间,需要注意这里 period 的值为 0,这说明当前任务为一次性任务,不是定时反复执行任务。
其中 long getDelay(TimeUnit unit)
方法代码如下,用来获取当前任务还有多少时间就过期了,代码如下所示:
//元素过期算法,装饰后时间-当前时间,就是即将过期剩余时间
public long getDelay(TimeUnit unit) {
return unit.convert(time - now(), NANOSECONDS);
}
接下来接着看compareTo(Delayed other)
方法,代码如下:
public int compareTo(Delayed other) {
if (other == this) // compare zero ONLY if same object
return 0;
if (other instanceof ScheduledFutureTask) {
ScheduledFutureTask<?> x = (ScheduledFutureTask<?>)other;
long diff = time - x.time;
if (diff < 0)
return -1;
else if (diff > 0)
return 1;
else if (sequenceNumber < x.sequenceNumber)
return -1;
else
return 1;
}
long d = (getDelay(TimeUnit.NANOSECONDS) -
other.getDelay(TimeUnit.NANOSECONDS));
return (d == 0) ? 0 : ((d < 0) ? -1 : 1);
}
根据上面代码的执行逻辑,可以看到compareTo 作用是加入元素到延迟队列后,内部建立或者调整堆时候会使用该元素的 compareTo 方法与队列里面其他元素进行比较,让最快要过期的元素放到队首。所以无论什么时候向队列里面添加元素,队首的的元素都是最即将过期的元素。
接下来接着看代码(3)添加任务到延迟队列,delayedExecute 的代码如下:
private void delayedExecute(RunnableScheduledFuture<?> task) {
//(4)如果线程池关闭了,则执行线程池拒绝策略
if (isShutdown())
reject(task);
else {
//(5)添加任务到延迟队列
super.getQueue().add(task);
//(6)再次检查线程池状态
if (isShutdown() &&
!canRunInCurrentRunState(task.isPeriodic()) &&
remove(task))
task.cancel(false);
else
//(7)确保至少一个线程在处理任务
ensurePrestart();
}
}
可以看到代码(4)首先判断当前线程池是否已经关闭了,如果已经关闭则执行线程池的拒绝策略(如果不知道线程池的拒绝策略可以看前一篇线程池的介绍。)
否者执行代码(5)添加任务到延迟队列。添加完毕后还要重新检查线程池是否被关闭了,如果已经关闭则从延迟队列里面删除刚才添加的任务,但是有可能线程池线程已经从任务队列里面移除了该任务,也就是该任务已经在执行了,所以还需要调用任务的 cancle 方法取消任务。
如果代码(6)判断结果为 false,则会执行代码(7)确保至少有一个线程在处理任务,即使核心线程数 corePoolSize 被设置为 0.
ensurePrestart 代码如下:
void ensurePrestart() {
int wc = workerCountOf(ctl.get());
//增加核心线程数
if (wc < corePoolSize)
addWorker(null, true);
//如果初始化corePoolSize==0,则也添加一个线程。
else if (wc == 0)
addWorker(null, false);
}
}
如上代码首先首先获取线程池中线程个数,如果线程个数小于核心线程数则新增一个线程,否者如果当前线程数为 0 则新增一个线程。
通过上面代码我们分析了如何添加任务到延迟队列,下面我们看线程池里面的线程如何获取并执行任务的,从前面讲解的 ThreadPoolExecutor
我们知道具体执行任务的线程是 Worker 线程,Worker 线程里面调用具体任务的 run 方法进行执行,由于这里任务是 ScheduledFutureTask
,所以我们下面看看 ScheduledFutureTask
的 run 方法。代码如下:
public void run() {
//(8)是否只执行一次
boolean periodic = isPeriodic();
//(9)取消任务
if (!canRunInCurrentRunState(periodic))
cancel(false);
//(10)只执行一次,调用schdule时候
else if (!periodic)
ScheduledFutureTask.super.run();
//(11)定时执行
else if (ScheduledFutureTask.super.runAndReset()) {
//(11.1)设置time=time+period
setNextRunTime();
//(11.2)重新加入该任务到delay队列
reExecutePeriodic(outerTask);
}
}
可以看到代码(8)isPeriodic 的作用是判断当前任务是一次性任务还是可重复执行的任务,isPeriodic 的代码如下:
public boolean isPeriodic() {
return period != 0;
}
可知内部是通过 period 的值来判断,由于转换任务创建 ScheduledFutureTask 时候传递的 period 为 0 ,所以这里 isPeriodic 返回 false。
代码(9)判断当前任务是否应该被取消,canRunInCurrentRunState 的代码如下:
boolean canRunInCurrentRunState(boolean periodic) {
return isRunningOrShutdown(periodic ?
continueExistingPeriodicTasksAfterShutdown :
executeExistingDelayedTasksAfterShutdown);
}
这里传递的 periodic 为 false,所以 isRunningOrShutdown
的参数为 executeExistingDelayedTasksAfterShutdown
,executeExistingDelayedTasksAfterShutdown
默认是 true 标示当其它线程调用了 shutdown 命令关闭了线程池后,当前任务还是要执行,否者如果为 false,标示当前任务要被取消。
由于 periodic 为 false,所以执行代码(10)调用父类 FutureTask 的 run 方法具体执行任务,FutureTask 的 run 方法代码如下:
public void run() {
//(12)
if (state != NEW ||
!UNSAFE.compareAndSwapObject(this, runnerOffset,
null, Thread.currentThread()))
return;
//(13)
try {
Callable<V> c = callable;
if (c != null && state == NEW) {
V result;
boolean ran;
try {
result = c.call();
ran = true;
} catch (Throwable ex) {
result = null;
ran = false;
//(13.1)
setException(ex);
}
//(13.2)
if (ran)
set(result);
}
} finally {
...省略
}
}
可以看到代码(12)如果任务状态不是 NEW 则直接返回,或者如果当前任务状态为NEW但是使用 CAS 设置当然任务的持有者为当前线程失败则直接返回。代码(13)具体调用 callable 的 call 方法执行任务,这里在调用前又判断了任务的状态是否为 NEW 是为了避免在执行代码(12)后其他线程修改了任务的状态(比如取消了该任务)。
如果任务执行成功则执行代码(13.2)修改任务状态,set 方法代码如下:
protected void set(V v) {
//如果当前任务状态为NEW,则设置为COMPLETING
if (UNSAFE.compareAndSwapInt(this, stateOffset, NEW, COMPLETING)) {
outcome = v;
//设置当前任务终状为NORMAL,也就是任务正常结束
UNSAFE.putOrderedInt(this, stateOffset, NORMAL); // final state
finishCompletion();
}
}
如上代码首先 CAS 设置当前任务状态从 NEW 转换到 COMPLETING,这里多个线程调用时候只有一个线程会成功,成功的线程在通过 UNSAFE.putOrderedInt
设置任务的状态为正常结束状态,这里没有用 CAS 是因为同一个任务只可能有一个线程可以运行到这里,这里使用 putOrderedInt
比使用 CAS 函数或者 putLongVolatile
效率要高,并且这里的场景不要求其它线程马上对设置的状态值可见。
这里思考个问题,这里什么时候多个线程会同时执行 CAS 设置任务状态从态从 NEW 到 COMPLETING?其实当同一个 comand 被多次提交到线程池时候就会存在这样的情况,由于同一个任务共享一个状态值 state。
如果任务执行失败,则执行代码(13.1),setException 的代码如下,可见与 set 函数类似,代码如下:
protected void setException(Throwable t) {
//如果当前任务状态为NEW,则设置为COMPLETING
if (UNSAFE.compareAndSwapInt(this, stateOffset, NEW, COMPLETING)) {
outcome = t;
//设置当前任务终态为EXCEPTIONAL,也就是任务非正常结束
UNSAFE.putOrderedInt(this, stateOffset, EXCEPTIONAL);
finishCompletion();
}
}
到这里代码(10)逻辑执行完毕,一次性任务也就执行完毕了,
下面会讲到如果任务是可重复执行的,则不会执行步骤(10)而是执行代码(11)。
2.2 scheduleWithFixedDelay(Runnable command,long initialDelay,long delay,TimeUnit unit)方法
当任务执行完毕后,延迟固定间隔时间后再次运行(fixed-delay 任务):其中 initialDelay 说明提交任务后延迟多少时间开始执行任务 command,delay 表示当任务执行完毕后延长多少时间后再次运行 command 任务,unit 是 initialDelay 和 delay 的时间单位。任务会一直重复运行直到任务运行时候抛出了异常或者取消了任务,或者关闭了线程池。scheduleWithFixedDelay
的代码如下:
public ScheduledFuture<?> scheduleWithFixedDelay(Runnable command,
long initialDelay,
long delay,
TimeUnit unit) {
//(14)参数校验
if (command == null || unit == null)
throw new NullPointerException();
if (delay <= 0)
throw new IllegalArgumentException();
//(15)任务转换,注意这里是period=-delay<0
ScheduledFutureTask<Void> sft =
new ScheduledFutureTask<Void>(command,
null, triggerTime(initialDelay, unit),
unit.toNanos(-delay));
RunnableScheduledFuture<Void> t = decorateTask(command, sft);
sft.outerTask = t;
//(16)添加任务到队列
delayedExecute(t);
return t;
}
如上代码(14)进行参数校验,校验失败则抛出异常,代码(15)转换 command 任务为 ScheduledFutureTask
,这里需要注意的是这里传递给 ScheduledFutureTask
的 period 变量的值为 -delay,period < 0 这个说明该任务为可重复执行的任务。然后代码(16)添加任务到延迟队列后返回。
任务添加到延迟队列后线程池线程会从队列里面获取任务,然后调用 ScheduledFutureTask
的 run 方法执行,由于这里 period<0 所以 isPeriodic 返回 true,所以执行代码(11),runAndReset 的代码如下:
protected boolean runAndReset() {
//(17)
if (state != NEW ||
!UNSAFE.compareAndSwapObject(this, runnerOffset,
null, Thread.currentThread()))
return false;
//(18)
boolean ran = false;
int s = state;
try {
Callable<V> c = callable;
if (c != null && s == NEW) {
try {
c.call(); // don't set result
ran = true;
} catch (Throwable ex) {
setException(ex);
}
}
} finally {
...
}
return ran && s == NEW;//(19)
}
该代码和 FutureTask 的 run 类似,只是任务正常执行完毕后不会设置任务的状态,这样做是为了让任务成为可重复执行的任务,这里多了代码(19)如果当前任务正常执行完毕并且任务状态为 NEW 则返回 true 否者返回 false。
如果返回了 true 则执行代码(11.1)setNextRunTime
方法设置该任务下一次的执行时间,setNextRunTime
的代码如下:
private void setNextRunTime() {
long p = period;
if (p > 0)//fixed-rate类型任务
time += p;
else//fixed-delay类型任务
time = triggerTime(-p);
}
如上代码这里 p < 0 说明当前任务为 fixed-delay
类型任务,然后设置 time 为当前时间加上 -p
的时间,也就是延迟 -p
时间后在次执行。
总结:本节介绍的 fixed-delay
类型的任务的执行实现原理如下,当添加一个任务到延迟队列后,等 initialDelay 时间后,任务就会过期,过期的任务就会被从队列移除,并执行,执行完毕后,会重新设置任务的延迟时间,然后在把任务放入延迟队列实现的,依次往复。需要注意的是如果一个任务在执行某一个次时候抛出了异常,那么这个任务就结束了,但是不影响其它任务的执行。
2.3、scheduleAtFixedRate(Runnable command,long initialDelay,long period,TimeUnit unit)方法
相对起始时间点固定频率调用指定的任务(fixed-rate 任务):当提交任务到线程池后延迟 initialDelay 个时间单位为 unit 的时间后开始执行任务 comand ,然后 initialDelay + period
时间点再次执行,然后在 initialDelay + 2 * period
时间点再次执行,依次往复,直到抛出异常或者调用了任务的 cancel 方法取消了任务在结束或者关闭了线程池。
scheduleAtFixedRate
的原理与 scheduleWithFixedDelay
类似,下面我们讲下不同点,首先调用 scheduleAtFixedRate
时候代码如下:
public ScheduledFuture<?> scheduleAtFixedRate(Runnable command,
long initialDelay,
long period,
TimeUnit unit) {
...
//装饰任务类,注意period=period>0,不是负的
ScheduledFutureTask<Void> sft =
new ScheduledFutureTask<Void>(command,
null,
triggerTime(initialDelay, unit),
unit.toNanos(period));
...
return t;
}
如上代码 fixed-rate
类型的任务在转换 command
任务为 ScheduledFutureTask
的时候设置的 period=period
不在是 -period
。
所以当前任务执行完毕后,调用 setNextRunTime
设置任务下次执行的时间时候执行的是 time += p
而不在是 time = triggerTime(-p);
。
总结:相对于 fixed-delay
任务来说,fixed-rate
方式执行规则为时间为 initdelday + n*period;
时候启动任务,但是如果当前任务还没有执行完,下一次要执行任务的时间到了,不会并发执行,下次要执行的任务会延迟执行,要等到当前任务执行完毕后在执行一个任务。
3、总结
ScheduledThreadPoolExecutor
的实现原理,其内部使用的 DelayQueue
来存放具体任务,其中任务分为三种,其中一次性执行任务执行完毕就结束了,fixed-delay
任务保证同一个任务多次执行之间间隔固定时间,fixed-rate
任务保证任务执行按照固定的频率执行,其中任务类型使用 period
的值来区分。