当前位置 博文首页 > python 常用的异步框架汇总整理

    python 常用的异步框架汇总整理

    作者:火腿蛋炒饭 时间:2021-08-08 18:19

    目录
    • 正文开始
    • 1. Tornado
    • 2. Aiohttp
    • 3.Sanic
    • 4. FastAPI
    • 5. Ruia
    • 总结
    • 参考资料

    正文开始

    asyncio 是 Python 3.4版本引入的标准库,直接内置了对异步IO的支持。

    asyncio 在单线程内部维护了 EventLoop 队列,然后把需要执行异步IO的任务添加到 EventLoop 队列中,至于任务的完成通过类似回调的逻辑是实现后续的任务。如果你有 JavaScript的基础那么理解python的 asyncio 很简单,关键字、语法以及实现的原理都极其类似。

    import asyncio
    
    async def main():
        print('Hello ...')
        await asyncio.sleep(1)
        print('... World!')
    
    # Python 3.7+
    asyncio.run(main())
    

    1. Tornado

    Tornado 是一个Python web框架和异步网络库,起初由 FriendFeed 开发. 通过使用非阻塞网络I/O, Tornado可以支撑上万级的连接,处理 长连接, WebSockets ,和其他需要与每个用户保持长久连接的应用。

    下面贴上官方 demo :

    import tornado.ioloop
    import tornado.web
    
    class MainHandler(tornado.web.RequestHandler):
        def get(self):
            self.write("Hello, world")
    
    def make_app():
        return tornado.web.Application([
            (r"/", MainHandler),
        ])
    
    if __name__ == "__main__":
        app = make_app()
        app.listen(8888)
        tornado.ioloop.IOLoop.current().start()
    

    2. Aiohttp

    一个基于 asyncio 异步的web框架,支持 websocket,不需要写回掉的代码、有着丰富的生态、中间价等、开箱即用的服务端与客户端。

    下面贴上官方 demo :

    # 客服端代码
    import aiohttp
    import asyncio
    
    async def main():
    
        async with aiohttp.ClientSession() as session:
            async with session.get('http://python.org') as response:
    
                print("Status:", response.status)
                print("Content-type:", response.headers['content-type'])
    
                html = await response.text()
                print("Body:", html[:15], "...")
    
    loop = asyncio.get_event_loop()
    loop.run_until_complete(main())
    
    # 服务端代码
    from aiohttp import web
    
    async def handle(request):
        name = request.match_info.get('name', "Anonymous")
        text = "Hello, " + name
        return web.Response(text=text)
    
    async def wshandle(request):
        ws = web.WebSocketResponse()
        await ws.prepare(request)
    
        async for msg in ws:
            if msg.type == web.WSMsgType.text:
                await ws.send_str("Hello, {}".format(msg.data))
            elif msg.type == web.WSMsgType.binary:
                await ws.send_bytes(msg.data)
            elif msg.type == web.WSMsgType.close:
                break
    
        return ws
    
    
    app = web.Application()
    app.add_routes([web.get('/', handle),
                    web.get('/echo', wshandle),
                    web.get('/{name}', handle)])
    
    if __name__ == '__main__':
        web.run_app(app)
    

    aiohttp的生态:

    • aiohttp-session 为 aiohttp 服务提供 sessions支持,同时支持数据持久化数据库。
    • aiohttp-debugtoolbar 为 aiohttp 提供调试的工具(记录 asyncio 异常的堆栈信息)。
    • aiohttp-security 为aiohttp提供认证以及权限相关的插件。
    • aiohttp-devtools aiohttp开发工具,提供开发环境的部署、静态资源的代理。
    • aiohttp-cors CORS 跨域认证支持。
    • aiohttp-sse 服务端事件的支持(一种服务端推送消息的服务)。
    • pytest-aiohttp pytest 测试框架的支持。
    • aiohttp-mako Mako 服务端模板渲染的支持。
    • aiohttp-jinja2 Jinja2 服务端模板渲染的支持(大名鼎鼎的flask的渲染引擎)。
    • aiozipkin 分布式系统中对服务追踪,为微服务中延时问题提供数据支持。

    aiohttp数据库支持:

    aiopg PostgreSQL异步支持。
    aiomysql MySql 异步支持。
    aioredis Redis 异步支持。
    asyncpg 另外一个对 PostgreSQL 异步支持,比 aiopg 效率高,但是 api 不通用。

    3.Sanic

    Sanic 是一个 Python 3.7+ 的基于 asyncio 的 web 服务器和web框架,目标是提供一种简单的方法来启动和运行一个易于构建、扩展和终极性能HTTP服务器,是一个比较类似 falsk 的异步web框架。

    To provide a simple way to get up and running a highly performant HTTP server that is easy to build, to expand, and ultimately to scale.

    官方demo:

    from sanic import Sanic
    from sanic.response import json
    
    app = Sanic("My Hello, world app")
    
    @app.route('/')
    async def test(request):
        return json({'hello': 'world'})
    
    if __name__ == '__main__':
        app.run()
    

    4. FastAPI

    FastAPI 是一个用于构建API的高性能web框架,基于Python3.6+并支持标准的 Python 类型提示。同时是最快的 Python web框架之一,可与 NodeJS 和 Go 比肩(主要归功于 Starlette 和 Pydantic)。

    from typing import Optional
    
    from fastapi import FastAPI
    
    app = FastAPI()
    
    
    @app.get("/")
    def read_root():
        return {"Hello": "World"}
    
    
    @app.get("/items/{item_id}")
    def read_item(item_id: int, q: Optional[str] = None):
        return {"item_id": item_id, "q": q}
    
    # 启动 uvicorn main:app --reload
    # pip install uvicorn[standard]
    
    

    5. Ruia

    一个基于asyncio和aiohttp的异步爬虫框架,目标在于让开发者编写爬虫尽可能地方便快速。国人开发中文文档的支持,方便快速的构建爬虫项目,自定义HTML解析工具,快速获取页面数据。

    官方demo:

    import asyncio
    
    from ruia import Item, TextField, AttrField
    
    
    class HackerNewsItem(Item):
        target_item = TextField(css_select='tr.athing')
        title = TextField(css_select='a.storylink')
        url = AttrField(css_select='a.storylink', attr='href')
    
    
    async def test_item():
        url = 'https://news.ycombinator.com/news?p=1'
        async for item in HackerNewsItem.get_items(url=url):
            print('{}: {}'.format(item.title, item.url))
    
    
    if __name__ == '__main__':
        # Python 3.7 Required.
        asyncio.run(test_item()) 
    
        # For Python 3.6
        # loop = asyncio.get_event_loop()
        # loop.run_until_complete(test_item())
    

    总结

    随着 python 社区对异步支持的愈发友好,异步框架的生态也愈发完善。Tornado 是我第一个接触到的一步框架,现如今伴随着最快 python web 框架之争,Tornado也渐渐跌落神坛。但是至于谁是最快的并不重要,重要的是生态,避免重复造轮子才是重要的。

    PS:

    1. 我记得之前了解 Sanic 的时候它还是基于 aiohttp 开发的 web 框架,现如今已经重构了大部分代码,核心组件也都自己实现。
    2. tornado 虽然语法过时了,但是应该是最成熟、最早以及文档最多的一个异步框架。
    3. 之前用tornado的时候还需要造关于异步操作的轮子,现如今生态日趋完善。

    最后如果你想使用异步的框架,那么记得所有的IO操作均需要异步操作实现,否则会大大影响性能。 (比如第三方的短信服务不能直接使用同步代码的sdk )

    参考资料

    Aiohttp docs

    Sanic 中文

    Uvloop

    Tornado 中文

    jsjbwy
    下一篇:没有了