網站首頁 編程語言 正文
如果你寫一個 bug 管理系統,用了這個 PeriodLimit 你就可以限制每個測試人員每天只能給你提一個 bug。工作是不是就輕松很多了?:P
如今微服務架構大行其道本質原因是因為要降低系統的整體復雜度,將系統風險均攤到子系統從而最大化保證系統的穩定性,通過領域劃分拆成不同的子系統后各個子系統能獨立的開發、測試、發布,研發節奏和效率能明顯提高。
但同時也帶來了問題,比如:調用鏈路過長,部署架構復雜度提升,各種中間件需要支持分布式場景。為了確保微服務的正常運行,服務治理就不可或缺了,通常包括:限流,降級,熔斷。
其中限流指的是針對接口調用頻率進行限制,以免超出承載上限拖垮系統。比如:
- 電商秒殺場景
- API 針對不同商戶限流
常用的限流算法有:
- 固定時間窗口限流
- 滑動時間窗口限流
- 漏桶限流
- 令牌桶限流
本文主要講解固定時間窗口限流算法,主要的使用場景比如:
- 每個手機號每天只能發5條驗證碼短信
- 每個用戶每小時只能連續嘗試3次密碼
- 每個會員每天只能領3次福利
工作原理
從某個時間點開始每次請求過來請求數+1,同時判斷當前時間窗口內請求數是否超過限制,超過限制則拒絕該請求,然后下個時間窗口開始時計數器清零等待請求。
優缺點
優點
實現簡單高效,特別適合用來限制比如一個用戶一天只能發10篇文章、只能發送5次短信驗證碼、只能嘗試登錄5次等場景,實際業務中此類場景非常多見。
缺點
固定時間窗口限流的缺點在于無法處理臨界區請求突發場景。
假設每 1s 限流 100 次請求,用戶在中間 500ms 時開始 1s 內發起 200 次請求,此時 200 次請求是可以全部通過的。這就和我們預期 1s 限流 100 次不合了,根源在于限流的細粒度太粗。
go-zero 代碼實現
core/limit/periodlimit.go
go-zero 中使用 redis 過期時間來模擬固定時間窗口。
redis lua 腳本:
-- KYES[1]:限流器key -- ARGV[1]:qos,單位時間內最多請求次數 -- ARGV[2]:單位限流窗口時間 -- 請求最大次數,等于p.quota local limit = tonumber(ARGV[1]) -- 窗口即一個單位限流周期,這里用過期模擬窗口效果,等于p.permit local window = tonumber(ARGV[2]) -- 請求次數+1,獲取請求總數 local current = redis.call("INCRBY",KYES[1],1) -- 如果是第一次請求,則設置過期時間并返回 成功 if current == 1 then redis.call("expire",KYES[1],window) return 1 -- 如果當前請求數量小于limit則返回 成功 elseif current < limit then return 1 -- 如果當前請求數量==limit則返回 最后一次請求 elseif current == limit then return 2 -- 請求數量>limit則返回 失敗 else return 0 end
固定時間窗口限流器定義
type ( ? // PeriodOption defines the method to customize a PeriodLimit. ? // go中常見的option參數模式 ? // 如果參數非常多,推薦使用此模式來設置參數 ? PeriodOption func(l *PeriodLimit) ? // A PeriodLimit is used to limit requests during a period of time. ? // 固定時間窗口限流器 ? PeriodLimit struct { ? ? // 窗口大小,單位s ? ? period ? ? int ? ? // 請求上限 ? ? quota ? ? ?int ? ? // 存儲 ? ? limitStore *redis.Redis ? ? // key前綴 ? ? keyPrefix ?string ? ? // 線性限流,開啟此選項后可以實現周期性的限流 ? ? // 比如quota=5時,quota實際值可能會是5.4.3.2.1呈現出周期性變化 ? ? align ? ? ?bool ? } )
注意一下 align 參數,align=true 時請求上限將會呈現周期性的變化。
比如quota=5時實際quota可能是5.4.3.2.1呈現出周期性變化
限流邏輯
其實限流邏輯在上面的 lua 腳本實現了,需要注意的是返回值
- 0:表示錯誤,比如可能是 redis 故障、過載
- 1:允許
- 2:允許但是當前窗口內已到達上限,如果是跑批業務的話此時可以休眠 sleep 一下等待下個窗口(作者考慮的非常細致)
- 3:拒絕
// Take requests a permit, it returns the permit state. // 執行限流 // 注意一下返回值: // 0:表示錯誤,比如可能是redis故障、過載 // 1:允許 // 2:允許但是當前窗口內已到達上限 // 3:拒絕 func (h *PeriodLimit) Take(key string) (int, error) { ? // 執行lua腳本 ? resp, err := h.limitStore.Eval(periodScript, []string{h.keyPrefix + key}, []string{ ? ? strconv.Itoa(h.quota), ? ? strconv.Itoa(h.calcExpireSeconds()), ? }) ?? ? if err != nil { ? ? return Unknown, err ? } ? code, ok := resp.(int64) ? if !ok { ? ? return Unknown, ErrUnknownCode ? } ? switch code { ? case internalOverQuota: ? ? return OverQuota, nil ? case internalAllowed: ? ? return Allowed, nil ? case internalHitQuota: ? ? return HitQuota, nil ? default: ? ? return Unknown, ErrUnknownCode ? } }
這個固定窗口限流可能用來限制比如一個用戶一天只能發送5次驗證碼短信,此時我們就需要跟中國時區對應(GMT+8),并且其實限流時間應該從零點開始,此時我們需要額外對齊(設置 align 為 true)。
// 計算過期時間也就是窗口時間大小 // 如果align==true // 線性限流,開啟此選項后可以實現周期性的限流 // 比如quota=5時,quota實際值可能會是5.4.3.2.1呈現出周期性變化 func (h *PeriodLimit) calcExpireSeconds() int { ? if h.align { ? ? now := time.Now() ? ? _, offset := now.Zone() ? ? unix := now.Unix() + int64(offset) ? ? return h.period - int(unix%int64(h.period)) ? } ? return h.period }
項目地址
原文鏈接:https://juejin.cn/post/7051406419823689765
相關推薦
- 2022-04-19 Windows中Python上傳文件到Liunx下的fastdfs
- 2022-10-22 BroadcastReceiver靜態注冊案例詳解_Android
- 2022-02-12 Xpath中text()方法獲取列表為空問題解決方法
- 2022-10-24 Django使用Redis進行緩存詳細步驟_Redis
- 2022-11-28 詳解Rust中的變量與常量_Rust語言
- 2022-06-01 Python寫一個字符串數字后綴部分的遞增函數_python
- 2023-04-24 Tensor?和?NumPy?相互轉換的實現_python
- 2022-09-09 C語言中回調函數和qsort函數的用法詳解_C 語言
- 最近更新
-
- window11 系統安裝 yarn
- 超詳細win安裝深度學習環境2025年最新版(
- Linux 中運行的top命令 怎么退出?
- MySQL 中decimal 的用法? 存儲小
- get 、set 、toString 方法的使
- @Resource和 @Autowired注解
- Java基礎操作-- 運算符,流程控制 Flo
- 1. Int 和Integer 的區別,Jav
- spring @retryable不生效的一種
- Spring Security之認證信息的處理
- Spring Security之認證過濾器
- Spring Security概述快速入門
- Spring Security之配置體系
- 【SpringBoot】SpringCache
- Spring Security之基于方法配置權
- redisson分布式鎖中waittime的設
- maven:解決release錯誤:Artif
- restTemplate使用總結
- Spring Security之安全異常處理
- MybatisPlus優雅實現加密?
- Spring ioc容器與Bean的生命周期。
- 【探索SpringCloud】服務發現-Nac
- Spring Security之基于HttpR
- Redis 底層數據結構-簡單動態字符串(SD
- arthas操作spring被代理目標對象命令
- Spring中的單例模式應用詳解
- 聊聊消息隊列,發送消息的4種方式
- bootspring第三方資源配置管理
- GIT同步修改后的遠程分支