python nameko fastapi 处理异步离线任务

转载

云端小梦 2024-11-02 19:36:44

文章标签 python 异步多线程线程 HTTP 文章分类 Python 后端开发

18 Python 异步IO

By Kevin Song

18-01 协程
18-02 asyncio
18-03 async/await
18-04 aiohttp

CPU运行快，IO设备龟速，导致：

同步IO：IO设备慢慢读写，CPU等待

多进程/多线程：提升效率，但是不能无限增加线程，切换线程开销大，效率低

异步IO：IO设备慢慢读写，CPU不等待，直接执行其他代码。IO返回结果时，通知CPU处理

传统读写文件：无法实现异步IO

do_some_code()
f = open('/path/to/file', 'r')
r = f.read() # <== 线程停在此处等待IO操作结果
# IO操作完成后线程才能继续执行:
do_some_code(r)

消息循环：实现异步IO

loop = get_event_loop()
while True:
    event = loop.get_event()
    process_event(event)

消息循环中，主线程不断地重复“读取消息-处理消息”这一过程

停止响应

GUI程序使用消息模型：键盘、鼠标等消息都被发送到GUI程序的消息队列中，然后由GUI程序的主线程处理。GUI线程在一个消息处理的过程中遇到问题导致一次消息处理时间过长，整个GUI程序停止响应了，敲键盘、点鼠标都没有反应

消息模型

代码中遇到IO操作
代码发出IO请求，

不等待IO结果
直接结束本轮消息处理
进入下一轮消息处理过程

IO操作完成后，CPU收到IO完成消息，直接获取IO操作结果

异步IO优点：一个线程就可以同时处理多个IO请求，不用切换线程，IO密集型的应用程序，使用异步IO将大大提升系统的多任务处理能力

18-01 协程（Coroutine）

定义：执行过程中，在子程序内部可中断，然后转而执行别的子程序，在适当的时候再返回来接着执行

def A():
    print('1')
    print('2')
    print('3')

def B():
    print('x')
    print('y')
    print('z')

协程执行，在执行A的过程中，可以随时中断，去执行B，B也可能在执行过程中中断再去执行A：

1
2
x
y
3
z

有点像多线程，不同的是协程是一个线程执行，优点

极高的执行效率：子程序切换不是线程切换，没有线程切换的开销
不需要多线程的锁机制，只有一个线程，不存在同时写变量冲突

发挥多核最大性能：多进程+协程（充分利用多核，又充分发挥协程的高效率）

generator实现协程

示例：协程实现生产者-消费者模型

生产者生产消息后，直接通过yield跳转到消费者开始执行，待消费者执行完毕后，切换回生产者继续生产，效率极高：

def consumer():
    r = ''
    while True:
        n = yield r
        if not n:
            return
        print('[CONSUMER] Consuming %s...' % n)
        r = '200 OK'

def produce(c):
    c.send(None)
    n = 0
    while n < 5:
        n = n + 1
        print('[PRODUCER] Producing %s...' % n)
        r = c.send(n)
        print('[PRODUCER] Consumer return: %s' % r)
    c.close()

c = consumer()
produce(c)

执行结果：

[PRODUCER] Producing 1...
[CONSUMER] Consuming 1...
[PRODUCER] Consumer return: 200 OK
[PRODUCER] Producing 2...
[CONSUMER] Consuming 2...
[PRODUCER] Consumer return: 200 OK
[PRODUCER] Producing 3...
[CONSUMER] Consuming 3...
[PRODUCER] Consumer return: 200 OK
[PRODUCER] Producing 4...
[CONSUMER] Consuming 4...
[PRODUCER] Consumer return: 200 OK
[PRODUCER] Producing 5...
[CONSUMER] Consuming 5...
[PRODUCER] Consumer return: 200 OK

consumer函数是一个generator，把一个consumer传入produce后：

首先调用c.send(None)启动生成器
然后，一旦生产了东西，通过c.send(n)切换到consumer执行
consumer通过yield拿到消息，处理，又通过yield把结果传回
produce拿到consumer处理的结果，继续生产下一条消息
produce决定不生产了，通过c.close()关闭consumer，整个过程结束

整个流程无锁，由一个线程执行，produce和consumer协作完成任务，所以称为“协程”，而非线程的抢占式多任务

18-02 asyncio

内置异步IO支持库

import asyncio

@asyncio.coroutine
def hello():
    print("Hello world!")
    # 异步调用asyncio.sleep(1):
    r = yield from asyncio.sleep(1)
    print("Hello again!")

# 获取EventLoop:
loop = asyncio.get_event_loop()
# 执行coroutine
loop.run_until_complete(hello())
loop.close()

@asyncio.coroutine把一个generator标记为coroutine类型
然后把这个coroutine扔到EventLoop中执行

运行流程

hello()首先打印出Hello world!
yield from语法可以让我们方便地调用另一个generator
asyncio.sleep()也是一个coroutine，所以线程不会等待asyncio.sleep()，而是直接中断并执行下一个消息循环
当耗时1秒的IO操作asyncio.sleep()返回时，线程就可以从yield from拿到返回值（此处是None），然后接着执行下一行语句

用Task封装两个coroutine：

import threading
import asyncio

@asyncio.coroutine
def hello():
    print('Hello world! (%s)' % threading.currentThread())
    yield from asyncio.sleep(1)
    print('Hello again! (%s)' % threading.currentThread())

loop = asyncio.get_event_loop()
tasks = [hello(), hello()]
loop.run_until_complete(asyncio.wait(tasks))
loop.close()

观察执行过程：

Hello world! (<_MainThread(MainThread, started 140735195337472)>)
Hello world! (<_MainThread(MainThread, started 140735195337472)>)
(暂停约1秒)
Hello again! (<_MainThread(MainThread, started 140735195337472)>)
Hello again! (<_MainThread(MainThread, started 140735195337472)>)

两个coroutine是由同一个线程并发执行的

如果把asyncio.sleep()换成真正的IO操作，则多个coroutine就可以由一个线程并发执行

用asyncio的异步网络连接来获取sina、sohu和163的网站首页：

import asyncio

@asyncio.coroutine
def wget(host):
    print('wget %s...' % host)
    connect = asyncio.open_connection(host, 80)
    reader, writer = yield from connect
    header = 'GET / HTTP/1.0\r\nHost: %s\r\n\r\n' % host
    writer.write(header.encode('utf-8'))
    yield from writer.drain()
    while True:
        line = yield from reader.readline()
        if line == b'\r\n':
            break
        print('%s header > %s' % (host, line.decode('utf-8').rstrip()))
    # Ignore the body, close the socket
    writer.close()

loop = asyncio.get_event_loop()
tasks = [wget(host) for host in ['www.sina.com.cn', 'www.sohu.com', 'www.163.com']]
loop.run_until_complete(asyncio.wait(tasks))
loop.close()

执行结果如下：

wget www.sohu.com...
wget www.sina.com.cn...
wget www.163.com...
(等待一段时间)
(打印出sohu的header)
www.sohu.com header > HTTP/1.1 200 OK
www.sohu.com header > Content-Type: text/html
...
(打印出sina的header)
www.sina.com.cn header > HTTP/1.1 200 OK
www.sina.com.cn header > Date: Wed, 20 May 2015 04:56:33 GMT
...
(打印出163的header)
www.163.com header > HTTP/1.0 302 Moved Temporarily
www.163.com header > Server: Cdn Cache Server V2.0
...

18-03 async/await

用asyncio提供的@asyncio.coroutine可以把一个generator标记为coroutine类型，然后在coroutine内部用yield from调用另一个coroutine实现异步操作

为了简化并更好地标识异步IO，从Python 3.5开始引入了新的语法async和await，可以让coroutine的代码更简洁易读

两步简单的替换：
- 把@asyncio.coroutine替换为async
- 把yield from替换为await

原代码：

@asyncio.coroutine
def hello():
    print("Hello world!")
    r = yield from asyncio.sleep(1)
    print("Hello again!")

用新语法重新编写如下：

async def hello():
    print("Hello world!")
    r = await asyncio.sleep(1)
    print("Hello again!")

18-04 aiohttp

asyncio可以实现单线程并发IO操作

用在客户端，威力不大
用在服务端，血妈爆炸

HTTP连接（IO操作），所以可以用单线程+coroutine实现多用户的高并发支持

aiohttp

asyncio实现了TCP、UDP、SSL等协议
aiohttp是基于asyncio实现的HTTP框架

安装aiohttp：

pip install aiohttp

编写一个HTTP服务器，分别处理以下URL：

\/ - 首页返回b\’\

Index\

’
\/hello/{name} - 根据URL参数返回文本hello, %s!

代码如下：

import asyncio

from aiohttp import web

async def index(request):
    await asyncio.sleep(0.5)
    return web.Response(body=b'<h1>Index</h1>')

async def hello(request):
    await asyncio.sleep(0.5)
    text = '<h1>hello, %s!</h1>' % request.match_info['name']
    return web.Response(body=text.encode('utf-8'))

async def init(loop):
    app = web.Application(loop=loop)
    app.router.add_route('GET', '/', index)
    app.router.add_route('GET', '/hello/{name}', hello)
    srv = await loop.create_server(app.make_handler(), '127.0.0.1', 8000)
    print('Server started at http://127.0.0.1:8000...')
    return srv

loop = asyncio.get_event_loop()
loop.run_until_complete(init(loop))
loop.run_forever()

注意：aiohttp的初始化函数init()也是一个coroutine，loop.create_server()则利用asyncio创建TCP服务

本文章为转载内容，我们尊重原作者对文章享有的著作权。如有内容错误或侵权问题，欢迎原作者联系我们进行内容更正或删除文章。