文章插图
你是否听到人们说过,异步 Python 代码比“普通(或同步)Python 代码更快?果真是那样吗?
“同步”和“异步”是什么意思?Web 应用程序通常要处理许多请求,这些请求在很短的时间段内来自不同的客户端 。为避免处理延迟,必须考虑并行处理多个请求,这通常称为“并发” 。
在本文中,我将继续使用 Web 应用程序作为例子,但是要记住还有其它类型的应用程序也从并发完成多个任务中获益,因此这个讨论并不仅仅是针对 Web 应用程序的 。
术语“同步”和“异步”指的是编写并发应用程序的两种方式 。所谓的“同步”服务器使用底层操作系统支持的线程和进程来实现这种并发性 。下面是同步部署的一个示意图:
文章插图
在这种情况下,我们有 5 台客户端,都向应用程序发送请求 。这个应用程序的访问入口是一个 Web 服务器,通过将服务分配给一个服务器 worker 池来充当负载均衡器,这些 worker 可以实现为进程、线程或者两者的结合 。这些 worker 执行负载均衡器分配给他们的请求 。你使用 Web 应用程序框架(例如 Flask 或 Django)编写的应用程序逻辑运行在这些 worker 中 。
这种类型的方案对于有多个 CPU 的服务器比较好,因为你可以将 worker 的数量设置为 CPU 的数量,这样你就能均衡地利用你的处理器核心,而单个 Python 进程由于全局解释器锁(GIL)的限制无法实现这一点 。
在缺点方面,上面的示意图也清楚展示了这种方案的主要局限 。我们有 5 个客户端,却只有 4 个 worker 。如果这 5 个客户端在同一时间都发送请求,那么负载均衡器会将某一个客户端之外的所有请求发送到 worker 池,而剩下的请求不得不保留在一个队列中,等待有 worker 变得可用 。因此,五分之四的请求会立即响应,而剩下的五分之一需要等一会儿 。服务器优化的一个关键就在于选择适当数量的 worker 来防止或最小化给定预期负载的请求阻塞 。
一个异步服务器的配置很难画,但是我会尽力而为:
文章插图
这种类型的服务器运行在单个进程中,通过循环控制 。这个循环是一个非常有效率的任务管理器和调度器,创建任务来执行由客户端发送的请求 。与长期存在的服务器 worker 不同,异步任务是由循环创建,用来处理某个特定的请求,当那个请求完成时,该任务也会被销毁 。任何时候,一台异步服务器都会有上百或上千个活跃的任务,它们都在循环的管理下执行自己的工作 。
你可能想知道异步任务之间的并行是如何实现的 。这就是有趣的部分,因为一个异步应用程序通过唯一的协同多任务处理来实现这点 。这意味着什么?当一个任务需要等待一个外部事件(例如,一个数据库服务器的响应)时,不会像一个同步的 worker 那样等待,而是会告诉循环它需要等待什么,然后将控制权返回给它 。循环就能够在这个任务被数据库阻塞的时候发现另外一个准备就绪的任务 。最终,数据库将发送一个响应,而那时循环会认为第一个的任务已经准备好再次运行,并将尽快恢复它 。
异步任务暂停和恢复执行的这种能力可能在抽象上很难理解 。为了帮助你应用到你已经知道的东西,可以考虑在 Python 中使用await或yield关键字这一方法来实现,但你之后会发现这并不是唯一实现异步任务的方法 。
一个异步应用程序完全运行在单个进程或线程中,这可以说是令人吃惊的 。当然,这种类型的并发需要遵循一些规则,因此你不能让一个任务占用 CPU 太长时间,否则,剩余的任务会被阻塞 。为了异步执行,所有的任务需要定时主动暂停并将控制权返还给循环 。为了从异步方式获益,一个应用程序需要有经常被 I/O 阻塞的任务,并且没有太多 CPU 工作 。Web 应用程序通常非常适合,特别是当它们需要处理大量客户端请求时 。
在使用一个异步服务器时,为了最大化多 CPU 的利用率,通常需要创建一个混合方案,增加一个负载均衡器并在每个 CPU 上运行一个异步服务器,如下图所示:
文章插图
Python 中实现异步的 2 种方法我敢肯定,你知道要在 Python 中写一个异步应用程序,你可以使用 asyncio package,这个包是在协程的基础上实现了所有异步应用程序都需要的暂停和恢复特性 。其中yield关键字,以及更新的async和await都是asyncio构建异步能力的基础 。
推荐阅读
- 明朝时,腊八粥是皇帝在腊八节赏赐群臣的神圣食物 腊八粥与明朝皇帝谁有关
- 荷香茯砖茶的功效,茯砖茶的新茶与陈茶究竟哪个好
- 苦茶叶的功效与作用,苦荞茶的功效与作用
- 黑茶与普洱迷你配,普洱熟茶与黑茶的区别
- 喝菊花茶副作用,菊花茶的功效与副作用
- 生茶与熟茶功效,生茶和熟茶哪个减肥效果好
- 好茶有四个尺度,霍山黄达茶的鉴别与采购介绍
- 慈禧与光绪怎么死的 慈禧与光绪皇帝谁先死的
- 红茶姜水的功效与作用,黄芪红茶的功效与作用怎么样
- 梨花茶的功效与作用,详谈关于芍药花茶基本的功效与作用