網站首頁 編程語言 正文
前因后果
之前我們的服務,在上線的時候發現有一些大Key的使用不是很規范,特別是沒有設置過期時間,因此導致redis中內存的數據越來越多,目前Redis節點的內存已經快撐不住了。所以根據緩存鍵的規則去批量刪除這些數據,比較常見的就是按前綴去刪除。
現在由于不得以為的原因要刪除這幾百個Key-Value的數據,這個時候我們肯定就要把緩存鍵全部刪除掉。一般情況下在Redis中是可以很容易去實現的。但是如果在不阻塞業務的前提下,并且以高效的方式進行清理內存數據。就需要好好想想辦法了。
批量刪除redis數據方法
利用的是Linux的xargs命令
我們可以通過redis-cli的模式,進行訪問之后登錄到了Redis-Server服務,由于是必須要使用Linux的xargs命令,所以必須要連帶指令在Linux環境,而不能提前通過redis-cli進行登錄到redis-server服務。否則會報錯說??xargs?
?無效。
redis-cli -h [ip] -p [port ] -a [password] keys "prefix*" | xargs redis-cli -h 127.0.0.1 -p 6379 -a '123' del
上面的指令主要由三部分連接組成:
- redis-cli -h [ip] -p [port ] -a [password]:主要需要用于登錄到redis-cli的只處理操作。
- keys "prefix*":隨后主要是通過redis-cli的命令進行 keys指令進行匹配某前綴相關的數據集合。
- | xargs redis-cli -h [ip] -p [port ] -a [password] del:主要是通過管道符進行連接,之后再進行連接redis-server服務,之后進行將之前的參數傳入到xargs之后,作為del的參數進行執行刪除操作。
xargs指令
xargs:是一條Unix和類Unix操作系統的常用命令;它的作用是將參數列表轉換成小塊分段傳遞給其他命令,以避免參數列表過長的問題。可單獨使用,也可使用管道符、重定位符等與其他命令配合使用。
xargs [ -p ] [ -t] [ -e[ EOFString ] ] [ -EEOFString ] [ -i[ ReplaceString ] ] [ -IReplaceString ] [ -l [ Number ] ] [ -L Number ] [ -n Number [ -x ] ] [ -s Size ] [ Command [ Argument ... ] ]
命令格式
xargs:一般是和管道一起使用。
somecommand |xargs -item command
參數:
- -a file 從文件中讀入作為 stdin
- -e flag ,注意有的時候可能會是-E,flag必須是一個以空格分隔的標志,當xargs分析到含有flag這個標志的時候就停止。
- -p 當每次執行一個argument的時候詢問一次用戶。
- -n num 后面加次數,表示命令在執行的時候一次用的argument的個數,默認是用所有的。
- -t 表示先打印命令,然后再執行。
- -i 或者是-I,這得看linux支持了,將xargs的每項名稱,一般是一行一行賦值給 {},可以用 {} 代替。
- -r no-run-if-empty 當xargs的輸入為空的時候則停止xargs,不用再去執行了。
- -s num 命令行的最大字符數,指的是 xargs 后面那個命令的最大命令行字符數。
- -L num 從標準輸入一次讀取 num 行送給 command 命令。
- -l 同 -L。
- -d delim 分隔符,默認的xargs分隔符是回車,argument的分隔符是空格,這里修改的是xargs的分隔符。
- -x exit的意思,主要是配合-s使用。。
- -P 修改最大的進程數,默認是1,為0時候為as many as it can ,這個例子我沒有想到,應該平時都用不到的吧。
使用Lua腳本刪除百萬/千萬級的key
如果以上xargs方法刪除不了的,或者執行xargs命令報錯的。那么可以使用lua腳本,redis有內置的lua解釋器。在lua腳本中使用scan掃描key,并依次刪除,當刪除數量達到1萬時,腳本直接返回,完成本次調用,如果刪除的key數量大于0,就循環調用腳本進行刪除。
Warning: a NUL character occurred in the input. It cannot be passed through in the argument list. Did you mean to use the --null option?
Lua腳本是什么?
Lua是一種輕量小巧的腳本語言,用標準C語言編寫并以源代碼形式開放, 其設計目的是為了嵌入應用程序中,從而為應用程序提供靈活的擴展和定制功能。其設計目的是為了嵌入應用程序中,從而為應用程序提供靈活的擴展和定制功能。
Lua腳本的指令格式
有興趣的小伙伴,可以參考:???http://redis.cn/commands/eval.html??
EVAL script numkeys key [key …] arg [arg …]
- script:待執行的腳本文件
- numkeys:key的個數
Lua腳本執行參數
- ?
?[key …]?
?:對應的key,可以是一個,可以是多個 - ?
?[arg …]?
?:與key對應的值,可以是一個,可以是多個
Lua獲取傳參數據
Lua的下表索引是從1開始的,key的獲取方式,KEYS[下標索引],如KEYS[1],取第一個值,值的獲取,ARGV[1]
示例
eval “return {KEYS[1],KEYS[2],ARGV[1],ARGV[2]}” 2 key1 key2 first second
Lua腳本的案例(keys)
- 獲取傳入的需要批量刪除的key的前綴
- 記住 lua的下標索引是從1開始 不是0 不是0 不是0
local key = KEYS[1] if( key ~= nil) then --這里通過keys查詢出所有符合條件的數據 local dataList = redis.call('keys',KEYS[1]) --判斷是否找到數據 if(dataList ~= nil) then --循環刪除 for i=1,#dataList,1 do redis.call('del',dataList[i]) end --返回刪除的行數 return #dataList else return 0 end else return 0 end
推薦使用scan獲取數據刪除,我們知道redis是一個單線程的,當我們庫里面存在大量數據的時候,使用keys * 的方式匹配數據的時候,可能需要好幾秒才能處理完,那么在這個幾秒的時間里是處于線程阻塞的,其他所有的redis操作都是處于等待狀態,這樣對系統的可用性是有影響的,因此,這里使用scan的方式匹配數據。
scan介紹
SCAN cursor [MATCH pattern] [COUNT count]
SCAN 命令是一個基于游標的迭代器(cursor based iterator): SCAN 命令每次被調用之后, 都會向用戶返回一個新的游標, 用戶在下次迭代時需要使用這個新游標作為 SCAN 命
令的游標參數, 以此來延續之前的迭代過程。
Lua腳本的案例(scan)
local limitSize = tonumber(ARGV[1]) -- 最多刪除多少個key local batchSize = limitSize -- scan一次最多掃描多少個key if (batchSize > 10000) then -- 一次掃描不能超過1w條 batchSize = 10000 end local function scan(key) local cursor = 0 local keynum = 0 repeat local res = redis.call("scan", cursor, "match", key, 'COUNT', batchSize) if (res ~= nil and #res >= 0) then redis.replicate_commands() cursor = tonumber(res[1]) local ks = res[2] local size = #ks for i=1,size,1 do redis.call("del", tostring(ks[i])) keynum = keynum + 1 if (keynum >= limitSize) then -- 已經刪除了指定數量的key, 返回 return keynum end end end until (cursor <= 0) return keynum end local total = scan(KEYS[1]) return total
當 SCAN 命令的游標參數被設置為 0 時, 服務器將開始一次新的迭代, 而當服務器向用戶返回值為 0 的游標時, 表示迭代已結束。
通俗點理解就是,基于游標的迭代器redis會慢慢一次次的將數據返回回來,從而防止線程阻塞。
此外還有一個小貼士就是可以使用UNLINK刪除,區別于del的是這個是異步執行的,這條指令要版本大于4.0.0 小于4.0.0就使用del
redis.call("UNLINK",key)
原文鏈接:https://blog.51cto.com/alex4dream/6021101
相關推薦
- 2022-07-27 PostgreSQL出現死鎖該如何解決_PostgreSQL
- 2022-05-25 ASP.NET?MVC+EF實現異步增刪改查_實用技巧
- 2022-06-11 Python開發桌面小程序功能_python
- 2024-01-30 關閉idea時出現waiting for process detach解決辦法
- 2022-08-17 create-react-app常用自定義配置教程示例_React
- 2022-07-25 C#中Linq的入門教程_C#教程
- 2022-03-20 Android實現桌面快捷方式實例代碼_Android
- 2022-11-16 Python操作csv文件之csv.writer()和csv.DictWriter()方法的基本使用
- 最近更新
-
- window11 系統安裝 yarn
- 超詳細win安裝深度學習環境2025年最新版(
- Linux 中運行的top命令 怎么退出?
- MySQL 中decimal 的用法? 存儲小
- get 、set 、toString 方法的使
- @Resource和 @Autowired注解
- Java基礎操作-- 運算符,流程控制 Flo
- 1. Int 和Integer 的區別,Jav
- spring @retryable不生效的一種
- Spring Security之認證信息的處理
- Spring Security之認證過濾器
- Spring Security概述快速入門
- Spring Security之配置體系
- 【SpringBoot】SpringCache
- Spring Security之基于方法配置權
- redisson分布式鎖中waittime的設
- maven:解決release錯誤:Artif
- restTemplate使用總結
- Spring Security之安全異常處理
- MybatisPlus優雅實現加密?
- Spring ioc容器與Bean的生命周期。
- 【探索SpringCloud】服務發現-Nac
- Spring Security之基于HttpR
- Redis 底層數據結構-簡單動態字符串(SD
- arthas操作spring被代理目標對象命令
- Spring中的單例模式應用詳解
- 聊聊消息隊列,發送消息的4種方式
- bootspring第三方資源配置管理
- GIT同步修改后的遠程分支