前言

在學(xué)習(xí)協(xié)程的時候，會有一個疑問，使用協(xié)程語法進行異步請求時，比如async + requests，會有用嗎？

其實細想一下就知道，由于requests庫是用同步的方式寫的，因此async + requests是肯定沒用的。

但是本著實踐出真知的思想，順便復(fù)習(xí)鞏固一下多線程、async、aiohttp的寫法，還是手動來驗證一下。

為了規(guī)避網(wǎng)絡(luò)波動等影響，在本地用Flask搭建一個簡易的服務(wù)器用于測試。

先放結(jié)論：

• threading + requests 能夠并發(fā)請求
• async + requests 不能并發(fā)請求
• async + aiohttp 能并發(fā)請求

因此在進行爬蟲的時候，要想加快效率，要么使用threading + requests ，要么就使用async + aiohttp

初始環(huán)境準(zhǔn)備

安裝測試所需要的庫

pip install flask
pip install requets
pip install aiohttp

在任意路徑創(chuàng)建一個文件夾（文件夾名隨意），例如./async_test

在該文件夾下創(chuàng)建一個空的py文件app.py用于后續(xù)搭建測試用后端。

再創(chuàng)建3個py文件分別對應(yīng)3個實驗，創(chuàng)建完畢后文件目錄結(jié)構(gòu)如下（此時的py文件都是空的）

|- async_test
? |- app.py
? |- 1_threading_requests.py
? |- 2_async_requests.py
? |- 3_async_aiohttp.py

搭建測試用的后端

讓每次請求的時候先沉睡2秒，再返回結(jié)果，以此來模擬網(wǎng)絡(luò)延遲。

在app.py文件中添加如下代碼

## app.py ##
from flask import Flask
import time
app = Flask(__name__)
@app.route("/")
def index():
    time.sleep(2)
    return "Hello World!"
if __name__ == '__main__':
    app.run()

在./async_test目錄下運行

python app.py

?* Serving Flask app "app" (lazy loading)
?* Environment: production
? ?WARNING: This is a development server. Do not use it in a production deployment.
? ?Use a production WSGI server instead.
?* Debug mode: off
?* Running on http://127.0.0.1:5000/ (Press CTRL+C to quit)

訪問 http://127.0.0.1:5000/ 延遲2秒后會看到Hello World!

完成這一步就搭建好了測試用后端

1.threading requests

在1_threading_requests.py文件中添加如下代碼

## 1_threading_requests.py ##
import time
import threading
import requests
def get(i):
    print(time.strftime('%X'), 'start', i)
    resp = requests.get('http://127.0.0.1:5000/')
    print(time.strftime('%X'), 'end', i)
start = time.perf_counter()
for i in range(4):
    threading.Thread(target=get, args=(i,)).start()
print(f'total {time.perf_counter() - start:.2f}s ')

在./async_test目錄下運行

python 1_threading_requests.py

09:23:19 start 0
09:23:19 start 1
09:23:19 start 2
09:23:19 start 3
09:23:21 end 2
09:23:21 end 0
09:23:21 end 3
09:23:21 end 1

發(fā)現(xiàn)使用多線程的寫法是能夠并發(fā)請求的。

2.async requests

在2_async_requests.py文件中添加如下代碼

## 2_async_requests.py ##
import time
import asyncio
import requests
async def get(i):
    print(time.strftime('%X'), 'start', i)
    resp = requests.get('http://127.0.0.1:5000/')
    print(time.strftime('%X'), 'end', i)
async def main():
    for i in range(4):
        asyncio.create_task(get(i))
asyncio.run(main())

在./async_test目錄下運行

python 2_async_requests.py

09:27:11 start 0
09:27:13 end 0
09:27:13 start 1
09:27:15 end 1
09:27:15 start 2
09:27:17 end 2
09:27:17 start 3
09:27:19 end 3

發(fā)現(xiàn)async+requests的寫法，代碼是順序執(zhí)行的，異步并沒有起到效果

于是將get(i)函數(shù)用aiohttp重寫

3.async aiohttp

在3_async_aiohttp.py文件中添加如下代碼

## 3_async_aiohttp.py ##
import time
import asyncio
import aiohttp
import requests
async def get(i):
    print(time.strftime('%X'), 'start', i)
    async with aiohttp.ClientSession() as session:
        async with session.get('http://127.0.0.1:5000/') as response:
            html = await response.text()
    print(time.strftime('%X'), 'end', i)
async def main():
    tasks = [asyncio.create_task(get(i)) for i in range(4)]
    await asyncio.gather(*tasks)
asyncio.run(main())

在./async_test目錄下運行

python 3_async_aiohttp.py

09:37:43 start 0
09:37:43 start 1
09:37:43 start 2
09:37:43 start 3
09:37:45 end 0
09:37:45 end 2
09:37:45 end 3
09:37:45 end 1

發(fā)現(xiàn)代碼成功異步執(zhí)行了，總耗時只有兩秒

說明python的協(xié)程語法需要配合異步python庫才會生效。