網(wǎng)站首頁(yè) 編程語(yǔ)言 正文
由于python多線(xiàn)程無(wú)法發(fā)揮多核的作用,因此當(dāng)計(jì)算量很大的時(shí)候就需要考慮多進(jìn)程。
只不過(guò)多進(jìn)程比較麻煩一些,進(jìn)程中通信向來(lái)是一件麻煩事。
python提供了multiprocessing 模塊,應(yīng)該會(huì)提供不少便利
假設(shè)我們做量化交易需要運(yùn)行一個(gè)算法,針對(duì)一只票每運(yùn)行一次需要30秒,運(yùn)行完成將結(jié)果作為一個(gè)因子交給另一個(gè)計(jì)算模塊運(yùn)行,最后將計(jì)算結(jié)果統(tǒng)計(jì)出來(lái)。如果只運(yùn)行一只票問(wèn)題不大,大不了等一下就好,同時(shí)運(yùn)行10票的話(huà)就很有必然考慮多進(jìn)程以加快速度。
pro_queue為生產(chǎn)進(jìn)程的數(shù)據(jù)隊(duì)列,生產(chǎn)進(jìn)程完成生產(chǎn)后將自己相關(guān)數(shù)據(jù)裝產(chǎn)pro_queue中
calc_queue為計(jì)算進(jìn)程的數(shù)據(jù)隊(duì)列,計(jì)算進(jìn)程先將生產(chǎn)進(jìn)程的數(shù)據(jù)通過(guò)參數(shù)傳遞的方式獲取到,然后進(jìn)行計(jì)算,并將計(jì)算結(jié)果存入calc_queue中
主進(jìn)程在最后不斷獲取計(jì)算進(jìn)程的計(jì)算結(jié)果,并將其累加,最終獲取到一個(gè)總的計(jì)算結(jié)果
生產(chǎn)進(jìn)程:
def func_a(i, p: queues):
print(F"第{i}個(gè)生產(chǎn)進(jìn)程: 進(jìn)程號(hào):{os.getpid()},開(kāi)始...")
time.sleep(random.randint(1, 5))
result = random.randint(50, 100)
print(F"第{i}個(gè)生產(chǎn)進(jìn)程: 完成。生產(chǎn)結(jié)果[{result}]。")
p.put((i, os.getpid(), result))
計(jì)算進(jìn)程:
def func_b(i, data, q: queues):
print(F"第{i}個(gè)計(jì)算進(jìn)程: 進(jìn)程號(hào):{os.getpid()}, 數(shù)據(jù)源{data[0]}:{data[1]}:{data[2]},開(kāi)始...")
time.sleep(random.randint(1, 3))
result = data[2] * 100
print(F"第{i}個(gè)計(jì)算進(jìn)程: 完成。計(jì)算結(jié)果【{result}】")
q.put(result)
程序一開(kāi)始先將生產(chǎn)進(jìn)程啟動(dòng)起來(lái):其中process_num表示同時(shí)啟動(dòng)多少個(gè)生產(chǎn)進(jìn)程
for i in range(process_num):
p = Process(target=func_a, args=(i, pro_queue,))
p.start()
然后不停等待生產(chǎn)進(jìn)程的結(jié)果,每等到一個(gè)結(jié)果就啟動(dòng)一個(gè)計(jì)算進(jìn)程
for i in range(process_num):
data = pro_queue.get()
p = Process(target=func_b, args=(i, data, calc_queue))
p.start()
最后就是等待計(jì)算進(jìn)程的計(jì)算結(jié)果
s = 0
for i in range(process_num):
s += calc_queue.get()
print(F"所有計(jì)算完成,總結(jié)果:{s}")
補(bǔ)上程序一開(kāi)始的兩個(gè)隊(duì)列的申明:
import multiprocessing
import time
from multiprocessing import Process
from multiprocessing import queues
import random
import os
pro_queue = queues.Queue(ctx=multiprocessing)
calc_queue = queues.Queue(ctx=multiprocessing)
process_num = 5
原文鏈接:https://blog.csdn.net/luhouxiang/article/details/124275271
相關(guān)推薦
- 2022-03-30 jupyter?notebook使用argparse傳入list參數(shù)_python
- 2022-06-08 FreeRTOS實(shí)時(shí)操作系統(tǒng)的內(nèi)存管理分析_操作系統(tǒng)
- 2022-07-30 Git操作相關(guān)問(wèn)題(pull/push/clone/)
- 2022-05-13 e engine “node“ is incompatible with this module.
- 2022-12-23 swift指針及內(nèi)存管理內(nèi)存綁定實(shí)例詳解_Swift
- 2022-01-05 webpack——Loader示例:打包c(diǎn)ss文件
- 2022-10-02 Go語(yǔ)言快速入門(mén)指針Map使用示例教程_Golang
- 2024-01-14 npm install時(shí) cannot read properties of null的問(wèn)題
- 最近更新
-
- window11 系統(tǒng)安裝 yarn
- 超詳細(xì)win安裝深度學(xué)習(xí)環(huán)境2025年最新版(
- Linux 中運(yùn)行的top命令 怎么退出?
- MySQL 中decimal 的用法? 存儲(chǔ)小
- get 、set 、toString 方法的使
- @Resource和 @Autowired注解
- Java基礎(chǔ)操作-- 運(yùn)算符,流程控制 Flo
- 1. Int 和Integer 的區(qū)別,Jav
- spring @retryable不生效的一種
- Spring Security之認(rèn)證信息的處理
- Spring Security之認(rèn)證過(guò)濾器
- Spring Security概述快速入門(mén)
- Spring Security之配置體系
- 【SpringBoot】SpringCache
- Spring Security之基于方法配置權(quán)
- redisson分布式鎖中waittime的設(shè)
- maven:解決release錯(cuò)誤:Artif
- restTemplate使用總結(jié)
- Spring Security之安全異常處理
- MybatisPlus優(yōu)雅實(shí)現(xiàn)加密?
- Spring ioc容器與Bean的生命周期。
- 【探索SpringCloud】服務(wù)發(fā)現(xiàn)-Nac
- Spring Security之基于HttpR
- Redis 底層數(shù)據(jù)結(jié)構(gòu)-簡(jiǎn)單動(dòng)態(tài)字符串(SD
- arthas操作spring被代理目標(biāo)對(duì)象命令
- Spring中的單例模式應(yīng)用詳解
- 聊聊消息隊(duì)列,發(fā)送消息的4種方式
- bootspring第三方資源配置管理
- GIT同步修改后的遠(yuǎn)程分支