- 利用调度模块schedule实现定时任务
- 利用任务框架APScheduler实现定时任务
Job 作业
Trigger 触发器
Executor 执行器
Jobstore 作业存储
Event 事件
调度器
APScheduler中的重要概念
Scheduler的工作流程
- 使用分布式消息系统Celery实现定时任务
- 使用数据流工具Apache Airflow实现定时任务
Airflow 产生的背景
Airflow 核心概念
Airflow 的架构
Python 相关问题可解答
Python 相关外包需求可发布
Python 相关招聘需求可发布
一、利用while True: + sleep()实现定时任务
位于 time 模块中的 sleep(secs) 函数，可以实现令当前执行的线程暂停 secs 秒后再继续执行。所谓暂停，即令当前线程进入阻塞状态，当达到 sleep() 函数规定的时间后，再由阻塞状态转为就绪状态，等待 CPU 调度。
基于这样的特性我们可以通过while死循环+sleep()的方式实现简单的定时任务。
代码示例：
主要缺点：
- 只能设定间隔，不能指定具体的时间，比如每天早上8:00
- sleep 是一个阻塞函数，也就是说 sleep 这一段时间，程序什么也不能操作。
二、 使用Timeloop库运行定时任务
Timeloop是一个库，可用于运行多周期任务。这是一个简单的库，它使用decorator模式在线程中运行标记函数。
示例代码：
三、利用threading.Timer实现定时任务
threading 模块中的 Timer 是一个非阻塞函数，比 sleep 稍好一点，timer最基本理解就是定时器，我们可以启动多个定时任务，这些定时器任务是异步执行，所以不存在等待顺序执行问题。
Timer(interval, function, args=[ ], kwargs={ })
- interval: 指定的时间
- function: 要执行的方法
- args/kwargs: 方法的参数
代码示例：
备注：Timer只能执行一次，这里需要循环调用，否则只能执行一次
四、利用内置模块sched实现定时任务
sched模块实现了一个通用事件调度器，在调度器类使用一个延迟函数等待特定的时间，执行任务。同时支持多线程应用程序，在每个任务执行后会立刻调用延时函数，以确保其他线程也能执行。
class sched.scheduler(timefunc, delayfunc)这个类定义了调度事件的通用接口，它需要外部传入两个参数，timefunc是一个没有参数的返回时间类型数字的函数(常用使用的如time模块里面的time)，delayfunc应该是一个需要一个参数来调用、与timefunc的输出兼容、并且作用为延迟多个时间单位的函数(常用的如time模块的sleep)。
代码示例：
scheduler对象主要方法:
- enter(delay, priority, action, argument)，安排一个事件来延迟delay个时间单位。
- -cancel(event)：从队列中删除事件。如果事件不是当前队列中的事件，则该方法将跑出一个ValueError。
- -run()：运行所有预定的事件。这个函数将等待(使用传递给构造函数的delayfunc()函数)，然后执行事件，直到不再有预定的事件。
个人点评：比threading.Timer更好，不需要循环调用。
五、利用调度模块schedule实现定时任务
schedule是一个第三方轻量级的任务调度模块，可以按照秒，分，小时，日期或者自定义事件执行时间。schedule允许用户使用简单、人性化的语法以预定的时间间隔定期运行Python函数(或其它可调用函数)。
先来看代码，是不是不看文档就能明白什么意思？
装饰器：通过 @repeat() 装饰静态方法
传递参数：
装饰器同样能传递参数：
取消任务：
运行一次任务：
根据标签检索任务：
根据标签取消任务：
运行任务到某时间：
马上运行所有任务（主要用于测试）：
并行运行：使用 Python 内置队列实现：
六、利用任务框架APScheduler实现定时任务
APScheduler（advanceded python scheduler）基于Quartz的一个Python定时任务框架，实现了Quartz的所有功能，使用起来十分方便。提供了基于日期、固定时间间隔以及crontab类型的任务，并且可以持久化任务。基于这些功能，我们可以很方便的实现一个Python定时任务系统。
它有以下三个特点：
- 类似于 Liunx Cron 的调度程序(可选的开始/结束时间)
- 基于时间间隔的执行调度(周期性调度，可选的开始/结束时间)
- 一次性执行任务(在设定的日期/时间运行一次任务)
APScheduler有四种组成部分：
- 触发器(trigger) 包含调度逻辑，每一个作业有它自己的触发器，用于决定接下来哪一个作业会运行。除了他们自己初始配置意外，触发器完全是无状态的。
- 作业存储(job store) 存储被调度的作业，默认的作业存储是简单地把作业保存在内存中，其他的作业存储是将作业保存在数据库中。一个作业的数据讲在保存在持久化作业存储时被序列化，并在加载时被反序列化。调度器不能分享同一个作业存储。
- 执行器(executor) 处理作业的运行，他们通常通过在作业中提交制定的可调用对象到一个线程或者进城池来进行。当作业完成时，执行器将会通知调度器。
- 调度器(scheduler) 是其他的组成部分。你通常在应用只有一个调度器，应用的开发者通常不会直接处理作业存储、调度器和触发器，相反，调度器提供了处理这些的合适的接口。配置作业存储和执行器可以在调度器中完成，例如添加、修改和移除作业。通过配置executor、jobstore、trigger，使用线程池(ThreadPoolExecutor默认值20)或进程池(ProcessPoolExecutor 默认值5)并且默认最多3个(max_instances)任务实例同时运行，实现对job的增删改查等调度控制
示例代码：
APScheduler中的重要概念
Job 作业
Job作为APScheduler最小执行单位。创建Job时指定执行的函数，函数中所需参数，Job执行时的一些设置信息。
构建说明：
- id：指定作业的唯一ID name：指定作业的名字
- trigger：apscheduler定义的触发器，用于确定Job的执行时间，根据设置的 trigger规则，计算得到下次执行此job的时间，满足时将会执行；
- executor：apscheduler定义的执行器，job创建时设置执行器的名字，根据字符串你名字到scheduler获取到执行此job的执行器，执行job指定的函数；
- max_instances：执行此job的最大实例数，executor执行job时，根据job的id来计算执行次数，根据设置的最大实例数来确定是否可执行；
- next_run_time：Job下次的执行时间，创建Job时可以指定一个时间[datetime],不指定的话则默认根据trigger获取触发时间；
- misfire_grace_time：Job的延迟执行时间，例如Job的计划执行时间是21:00:00，但因服务重启或其他原因导致21:00:31才执行，如果设置此key为40,则该job会继续执行，否则将会丢弃此job
- coalesce：Job是否合并执行，是一个bool值。例如scheduler停止20s后重启启动，而job的触发器设置为5s执行一次，因此此job错过了4个执行时间，如果设置为是，则会合并到一次执行，否则会逐个执行
- func：Job执行的函数
- args：Job执行函数需要的位置参数
- kwargs：Job执行函数需要的关键字参数
Trigger 触发器
Trigger绑定到Job，在scheduler调度筛选Job时，根据触发器的规则计算出Job的触发时间，然后与当前时间比较确定此Job是否会被执行，总之就是根据trigger规则计算出下一个执行时间。
目前APScheduler支持触发器：
- 指定时间的DateTrigger
- 指定间隔时间的IntervalTrigger
- 像Linux的crontab一样的CronTrigger
触发器参数：date
date定时，作业只执行一次。
- run_date (datetime|str) – the date/time to run the job at
- timezone(datetime.tzinfo|str) – time zone for run_date if it doesn’t have one
already
触发器参数：interval
interval间隔调度
- weeks (int) – 间隔几周
- days (int) – 间隔几天
- hours (int) – 间隔几小时
- minutes(int) – 间隔几分钟
- seconds (int) – 间隔多少秒
- start_date (datetime|str) – 开始日期
- end_date (datetime|str) – 结束日期
- timezone (datetime.tzinfo|str) – 时区
触发器参数：cron
cron调度
- (int|str) 表示参数既可以是int类型，也可以是str类型
- (datetime | str)表示参数既可以是datetime类型，也可以是str类型
- year (int|str) – 4-digit year-（表示四位数的年份，如2008年）
- month (int|str) – month (1-12) -（表示取值范围为1-12月）
- day (int|str) – day of the (1-31) -（表示取值范围为1-31日）
- week (int|str) – ISOweek (1-53) -（格里历2006年12月31日可以写成2006年-W52-7（扩展形式）或2006W527（紧凑形式））
- day_of_week (int|str) – number or name of weekday (0-6 or
mon,tue,wed,thu,fri,sat,sun) – （表示一周中的第几天，既可以用0-6表示也可以用其英语缩写表示）
- hour (int|str) – hour (0-23) – （表示取值范围为0-23时）
