日本免费高清视频-国产福利视频导航-黄色在线播放国产-天天操天天操天天操天天操|www.shdianci.com

學無先后,達者為師

網站首頁 編程語言 正文

使用Redis緩存時高效的批量刪除的幾種方案_Redis

作者:洛神灬殤 ? 更新時間: 2023-03-20 編程語言

前因后果

之前我們的服務,在上線的時候發現有一些大Key的使用不是很規范,特別是沒有設置過期時間,因此導致redis中內存的數據越來越多,目前Redis節點的內存已經快撐不住了。所以根據緩存鍵的規則去批量刪除這些數據,比較常見的就是按前綴去刪除。

現在由于不得以為的原因要刪除這幾百個Key-Value的數據,這個時候我們肯定就要把緩存鍵全部刪除掉。一般情況下在Redis中是可以很容易去實現的。但是如果在不阻塞業務的前提下,并且以高效的方式進行清理內存數據。就需要好好想想辦法了。

批量刪除redis數據方法

利用的是Linux的xargs命令

我們可以通過redis-cli的模式,進行訪問之后登錄到了Redis-Server服務,由于是必須要使用Linux的xargs命令,所以必須要連帶指令在Linux環境,而不能提前通過redis-cli進行登錄到redis-server服務。否則會報錯說??xargs??無效。

redis-cli -h [ip] -p [port ] -a [password] keys "prefix*" | xargs redis-cli -h 127.0.0.1 -p 6379 -a '123' del

上面的指令主要由三部分連接組成:

  • redis-cli -h [ip] -p [port ] -a [password]:主要需要用于登錄到redis-cli的只處理操作。
  • keys "prefix*":隨后主要是通過redis-cli的命令進行 keys指令進行匹配某前綴相關的數據集合。
  • | xargs redis-cli -h [ip] -p [port ] -a [password] del:主要是通過管道符進行連接,之后再進行連接redis-server服務,之后進行將之前的參數傳入到xargs之后,作為del的參數進行執行刪除操作。

xargs指令

xargs:是一條Unix和類Unix操作系統的常用命令;它的作用是將參數列表轉換成小塊分段傳遞給其他命令,以避免參數列表過長的問題。可單獨使用,也可使用管道符、重定位符等與其他命令配合使用。

xargs [ -p ] [ -t] [ -e[ EOFString ] ] [ -EEOFString ] [ -i[ ReplaceString ] ] [ -IReplaceString ] [ -l [ Number ] ] [ -L Number ] [ -n Number [ -x ] ] [ -s Size ] [ Command [ Argument ... ] ]

命令格式

xargs:一般是和管道一起使用。

somecommand |xargs -item command

參數:

  • -a file 從文件中讀入作為 stdin
  • -e flag ,注意有的時候可能會是-E,flag必須是一個以空格分隔的標志,當xargs分析到含有flag這個標志的時候就停止。
  • -p 當每次執行一個argument的時候詢問一次用戶。
  • -n num 后面加次數,表示命令在執行的時候一次用的argument的個數,默認是用所有的。
  • -t 表示先打印命令,然后再執行。
  • -i 或者是-I,這得看linux支持了,將xargs的每項名稱,一般是一行一行賦值給 {},可以用 {} 代替。
  • -r no-run-if-empty 當xargs的輸入為空的時候則停止xargs,不用再去執行了。
  • -s num 命令行的最大字符數,指的是 xargs 后面那個命令的最大命令行字符數。
  • -L num 從標準輸入一次讀取 num 行送給 command 命令。
  • -l 同 -L。
  • -d delim 分隔符,默認的xargs分隔符是回車,argument的分隔符是空格,這里修改的是xargs的分隔符。
  • -x exit的意思,主要是配合-s使用。。
  • -P 修改最大的進程數,默認是1,為0時候為as many as it can ,這個例子我沒有想到,應該平時都用不到的吧。

使用Lua腳本刪除百萬/千萬級的key

如果以上xargs方法刪除不了的,或者執行xargs命令報錯的。那么可以使用lua腳本,redis有內置的lua解釋器。在lua腳本中使用scan掃描key,并依次刪除,當刪除數量達到1萬時,腳本直接返回,完成本次調用,如果刪除的key數量大于0,就循環調用腳本進行刪除。

Warning: a NUL character occurred in the input. It cannot be passed through in the argument list. Did you mean to use the --null option?

Lua腳本是什么?

Lua是一種輕量小巧的腳本語言,用標準C語言編寫并以源代碼形式開放, 其設計目的是為了嵌入應用程序中,從而為應用程序提供靈活的擴展和定制功能。其設計目的是為了嵌入應用程序中,從而為應用程序提供靈活的擴展和定制功能。

Lua腳本的指令格式

有興趣的小伙伴,可以參考:???http://redis.cn/commands/eval.html??

EVAL script numkeys key [key …] arg [arg …]
  • script:待執行的腳本文件
  • numkeys:key的個數

Lua腳本執行參數

  • ??[key …]??:對應的key,可以是一個,可以是多個
  • ??[arg …]??:與key對應的值,可以是一個,可以是多個

Lua獲取傳參數據

Lua的下表索引是從1開始的,key的獲取方式,KEYS[下標索引],如KEYS[1],取第一個值,值的獲取,ARGV[1]

示例

eval “return {KEYS[1],KEYS[2],ARGV[1],ARGV[2]}” 2 key1 key2 first second

Lua腳本的案例(keys)

  • 獲取傳入的需要批量刪除的key的前綴
  • 記住 lua的下標索引是從1開始 不是0 不是0 不是0
local key = KEYS[1]
if( key ~= nil) then
--這里通過keys查詢出所有符合條件的數據
local dataList = redis.call('keys',KEYS[1])
--判斷是否找到數據
if(dataList ~= nil) then
--循環刪除
for i=1,#dataList,1 do
redis.call('del',dataList[i])
end
--返回刪除的行數
return #dataList
else
return 0
end
else
return 0
end

推薦使用scan獲取數據刪除,我們知道redis是一個單線程的,當我們庫里面存在大量數據的時候,使用keys * 的方式匹配數據的時候,可能需要好幾秒才能處理完,那么在這個幾秒的時間里是處于線程阻塞的,其他所有的redis操作都是處于等待狀態,這樣對系統的可用性是有影響的,因此,這里使用scan的方式匹配數據。

scan介紹

SCAN cursor [MATCH pattern] [COUNT count]

SCAN 命令是一個基于游標的迭代器(cursor based iterator): SCAN 命令每次被調用之后, 都會向用戶返回一個新的游標, 用戶在下次迭代時需要使用這個新游標作為 SCAN 命
令的游標參數, 以此來延續之前的迭代過程。

Lua腳本的案例(scan)

local limitSize = tonumber(ARGV[1]) -- 最多刪除多少個key
local batchSize = limitSize -- scan一次最多掃描多少個key
if (batchSize > 10000) then -- 一次掃描不能超過1w條
batchSize = 10000
end
local function scan(key)
local cursor = 0
local keynum = 0
repeat
local res = redis.call("scan", cursor, "match", key, 'COUNT', batchSize)
if (res ~= nil and #res >= 0) then
redis.replicate_commands()
cursor = tonumber(res[1])
local ks = res[2]
local size = #ks
for i=1,size,1 do
redis.call("del", tostring(ks[i]))
keynum = keynum + 1
if (keynum >= limitSize) then -- 已經刪除了指定數量的key, 返回
return keynum
end
end
end
until (cursor <= 0)
return keynum
end
local total = scan(KEYS[1])
return total

當 SCAN 命令的游標參數被設置為 0 時, 服務器將開始一次新的迭代, 而當服務器向用戶返回值為 0 的游標時, 表示迭代已結束。

通俗點理解就是,基于游標的迭代器redis會慢慢一次次的將數據返回回來,從而防止線程阻塞。

此外還有一個小貼士就是可以使用UNLINK刪除,區別于del的是這個是異步執行的,這條指令要版本大于4.0.0 小于4.0.0就使用del

redis.call("UNLINK",key)

原文鏈接:https://blog.51cto.com/alex4dream/6021101

欄目分類
最近更新