Python协程详解[python头条资讯]

python

通常在Python中我们进行并发编程一般都是使用多线程或者多进程来实现的,对于计算型任务由于GIL的存在我们通常使用多进程来实现,而对于IO型任务我们可以通过线程调度来让线程在执行IO任务时让出GIL,从而实现表面上的并发。其实对于IO型任务我们还有一种选择就是协程,协程是运行在单线程当中的"并发",协程相比多线程一大优势就是省去了多线程之间的切换开销,获得了更大的运行效率。

协程,又称微线程,纤程,英文名Coroutine。协程的作用是在执行函数A时可以随时中断去执行函数B,然后中断函数B继续执行函数A(可以自由切换)。但这一过程并不是函数调用,这一整个过程看似像多线程,然而协程只有一个线程执行。

那协程有什么优势呢?

执行效率极高,因为子程序切换(函数)不是线程切换,由程序自身控制,没有切换线程的开销。所以与多线程相比,线程的数量越多,协程性能的优势越明显。

不需要多线程的锁机制,因为只有一个线程,也不存在同时写变量冲突,在控制共享资源时也不需要加锁,因此执行效率高很多。

协程可以处理IO密集型程序的效率问题,但是处理CPU密集型不是它的长处,如要充分发挥CPU利用率可以结合多进程+协程。

Python中的协程经历了很长的一段发展历程。其大概经历了如下三个阶段:

最初的生成器变形yield/send

引入@asyncio.coroutine和yield from

引入async/await关键字

上述是协程概念和优势的一些简介,感觉会比较抽象,Python2.x对协程的支持比较有限,生成器yield实现了一部分但不完全,gevent模块倒是有比较好的实现;Python3.4加入了asyncio模块,在Python3.5中又提供了async/await语法层面的支持,Python3.6中asyncio模块更加完善和稳定。接下来我们围绕这些内容详细阐述一下。

Python2.x协程

python2.x实现协程的方式有:

yield + send

gevent (见后续章节)

yield + send(利用生成器实现协程)

我们通过“生产者-消费者”模型来看一下协程的应用,生产者生产消息后,直接通过yield跳转到消费者开始执行,待消费者执行完毕后,切换回生产者继续生产。

#-*- coding:utf8 -*-

def consumer():

    r = ''

    while True:

    n = yield r

    if not n:

        return

    print('[CONSUMER]Consuming %s...' % n)

    r = '200 OK'

def producer(c):

    # 启动生成器

    c.send(None)

    n = 0

    while n < 5:

    n = n + 1

    print('[PRODUCER]Producing %s...' % n)

    r = c.send(n)

    print('[PRODUCER]Consumer return: %s' % r)

    c.close()

if __name__ == '__main__':

    c = consumer()

    producer(c)

复制代码send(msg)与next()的区别在于send可以传递参数给yield表达式,这时传递的参数会作为yield表达式的值,而yield的参数是返回给调用者的值。换句话说,就是send可以强行修改上一个yield表达式的值。比如函数中有一个yield赋值a = yield 5,第一次迭代到这里会返回5,a还没有赋值。第二次迭代时,使用send(10),那么就是强行修改yield 5表达式的值为10,本来是5的,结果a = 10。send(msg)与next()都有返回值,它们的返回值是当前迭代遇到yield时,yield后面表达式的值,其实就是当前迭代中yield后面的参数。第一次调用send时必须是send(None),否则会报错,之所以为None是因为这时候还没有一个yield表达式可以用来赋值。上述例子运行之后输出结果如下:

[PRODUCER]Producing 1...

[CONSUMER]Consuming 1...

[PRODUCER]Consumer return: 200 OK

[PRODUCER]Producing 2...

[CONSUMER]Consuming 2...

[PRODUCER]Consumer return: 200 OK

[PRODUCER]Producing 3...

[CONSUMER]Consuming 3...

[PRODUCER]Consumer return: 200 OK

[PRODUCER]Producing 4...

[CONSUMER]Consuming 4...

[PRODUCER]Consumer return: 200 OK

[PRODUCER]Producing 5...

[CONSUMER]Consuming 5...

[PRODUCER]Consumer return: 200 OK

Python3.x协程

除了Python2.x中协程的实现方式,Python3.x还提供了如下方式实现协程:

asyncio + yield from (python3.4+)

asyncio + async/await (python3.5+)

Python3.4以后引入了asyncio模块,可以很好的支持协程。

asyncio + yield from

asyncio是Python3.4版本引入的标准库,直接内置了对异步IO的支持。asyncio的异步操作,需要在coroutine中通过yield from完成。看如下代码(需要在Python3.4以后版本使用):

#-*- coding:utf8 -*-

import asyncio

@asyncio.coroutine

def test(i):

    print('test_1', i)

    r = yield from asyncio.sleep(1)

    print('test_2', i)

if __name__ == '__main__':

    loop = asyncio.get_event_loop()

    tasks = [test(i) for i in range(3)]

    loop.run_until_complete(asyncio.wait(tasks))

    loop.close()

@asyncio.coroutine把一个generator标记为coroutine类型,然后就把这个coroutine扔到EventLoop中执行。test()会首先打印出test_1,然后yield from语法可以让我们方便地调用另一个generator。由于asyncio.sleep()也是一个coroutine,所以线程不会等待asyncio.sleep(),而是直接中断并执行下一个消息循环。当asyncio.sleep()返回时,线程就可以从yield from拿到返回值(此处是None),然后接着执行下一行语句。把asyncio.sleep(1)看成是一个耗时1秒的IO操作,在此期间主线程并未等待,而是去执行EventLoop中其他可以执行的coroutine了,因此可以实现并发执行。

asyncio + async/await

为了简化并更好地标识异步IO,从Python3.5开始引入了新的语法async和await,可以让coroutine的代码更简洁易读。请注意,async和await是coroutine的新语法,使用新语法只需要做两步简单的替换:

把@asyncio.coroutine替换为async

把yield from替换为await

看如下代码(在Python3.5以上版本使用):

#-*- coding:utf8 -*-

import asyncio

async def test(i):

    print('test_1', i)

    await asyncio.sleep(1)

    print('test_2', i)

    

if __name__ == '__main__':

    loop = asyncio.get_event_loop()

    tasks = [test(i) for i in range(3)]

    loop.run_until_complete(asyncio.wait(tasks))

    loop.close()

运行结果与之前一致。与前一节相比,这里只是把yield from换成了await,@asyncio.coroutine换成了async,其余不变。

Gevent

Gevent是一个基于Greenlet实现的网络库,通过greenlet实现协程。基本思想是一个greenlet就认为是一个协程,当一个greenlet遇到IO操作的时候,比如访问网络,就会自动切换到其他的greenlet,等到IO操作完成,再在适当的时候切换回来继续执行。由于IO操作非常耗时,经常使程序处于等待状态,有了gevent为我们自动切换协程,就保证总有greenlet在运行,而不是等待IO操作。

Greenlet是作为一个C扩展模块,它封装了libevent事件循环的API,可以让开发者在不改变编程习惯的同时,用同步的方式写异步IO的代码。

#-*- coding:utf8 -*-

import gevent

def test(n):

    for i in range(n):

        print(gevent.getcurrent(), i)

if __name__ == '__main__':

    g1 = gevent.spawn(test, 3)

    g2 = gevent.spawn(test, 3)

    g3 = gevent.spawn(test, 3)

    

    g1.join()

    g2.join()

    g3.join()

运行结果:

<Greenlet at 0x10a6eea60: test(3)> 0

<Greenlet at 0x10a6eea60: test(3)> 1

<Greenlet at 0x10a6eea60: test(3)> 2

<Greenlet at 0x10a6eed58: test(3)> 0

<Greenlet at 0x10a6eed58: test(3)> 1

<Greenlet at 0x10a6eed58: test(3)> 2

<Greenlet at 0x10a6eedf0: test(3)> 0

<Greenlet at 0x10a6eedf0: test(3)> 1

<Greenlet at 0x10a6eedf0: test(3)> 2

复制代码可以看到3个greenlet是依次运行而不是交替运行。要让greenlet交替运行,可以通过gevent.sleep()交出控制权:

def test(n):

    for i in range(n):

        print(gevent.getcurrent(), i)

        gevent.sleep(1)

运行结果:

<Greenlet at 0x10382da60: test(3)> 0

<Greenlet at 0x10382dd58: test(3)> 0

<Greenlet at 0x10382ddf0: test(3)> 0

<Greenlet at 0x10382da60: test(3)> 1

<Greenlet at 0x10382dd58: test(3)> 1

<Greenlet at 0x10382ddf0: test(3)> 1

<Greenlet at 0x10382da60: test(3)> 2

<Greenlet at 0x10382dd58: test(3)> 2

<Greenlet at 0x10382ddf0: test(3)> 2

当然在实际的代码里,我们不会用gevent.sleep()去切换协程,而是在执行到IO操作时gevent会自动完成,所以gevent需要将Python自带的一些标准库的运行方式由阻塞式调用变为协作式运行。这一过程在启动时通过monkey patch完成:

#-*- coding:utf8 -*-

from gevent import monkey; monkey.patch_all()

from urllib import request

import gevent

def test(url):

    print('Get: %s' % url)

    response = request.urlopen(url)

    content = response.read().decode('utf8')

    print('%d bytes received from %s.' % (len(content), url))

    

if __name__ == '__main__':

    gevent.joinall([

    gevent.spawn(test, 'http://httpbin.org/ip'),

    gevent.spawn(test, 'http://httpbin.org/uuid'),

    gevent.spawn(test, 'http://httpbin.org/user-agent')

    ])

运行结果:

Get: http://httpbin.org/ip

Get: http://httpbin.org/uuid

Get: http://httpbin.org/user-agent

53 bytes received from http://httpbin.org/uuid.

40 bytes received from http://httpbin.org/user-agent.

31 bytes received from http://httpbin.org/ip.

从结果看,3个网络操作是并发执行的,而且结束顺序不同,但只有一个线程。

总结

至此Python中的协程就介绍完毕了,示例程序中都是以sleep代表异步IO的,在实际项目中可以使用协程异步的读写网络、读写文件、渲染界面等,而在等待协程完成的同时,CPU还可以进行其他的计算,协程的作用正在于此。那么协程和多线程的差异在哪里呢?多线程的切换需要靠操作系统来完成,当线程越来越多时切换的成本会很高,而协程是在一个线程内切换的,切换过程由我们自己控制,因此开销小很多,这就是协程和多线程的根本差异。

以上是 Python协程详解[python头条资讯] 的全部内容, 来源链接: utcz.com/z/527328.html

回到顶部