一区二区三区在线-一区二区三区亚洲视频-一区二区三区亚洲-一区二区三区午夜-一区二区三区四区在线视频-一区二区三区四区在线免费观看

服務器之家:專注于服務器技術及軟件下載分享
分類導航

Mysql|Sql Server|Oracle|Redis|MongoDB|PostgreSQL|Sqlite|DB2|mariadb|Access|數據庫技術|

服務器之家 - 數據庫 - Redis - redis的bigkey掃描腳本深入介紹

redis的bigkey掃描腳本深入介紹

2019-11-15 16:19mantu Redis

這篇文章主要給大家介紹了關于redis的bigkey掃描腳本的相關資料,文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友們下面隨著小編來一起學習學習吧

前言

眾所周知,redis里面的大key存在是非常危險的一件事情。因為最近的工作轉移到中間件相關的工作,因此關注了一下bigkey的掃描方法。首先介紹一下阿里云提供的掃描腳本:

具體可見:https://yq.aliyun.com/articles/117042?t=t1

我對這個腳本進行了一個壓力測試,在redis的內存為15G,key的數量為2KW,ops為40K到80K之間,在這種情況下,阿里云的腳本完全不能跑成功(估計跑出來的時間以天為單位),主要原因是每確認一個key的情況,就需要與redis交互多次。因此,我對它的腳本進行了改造,加入了pipeline和debug object方法,腳本如下:

?
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
import sys
import redis
 
 
def find_big_key_normal(db_host, db_port, db_password, db_num):
 client = redis.StrictRedis(host=db_host, port=db_port, password=db_password, db=db_num)
 i=0
 temp = client.scan(cursor=i,count=1000)
 j =0
 while temp[0]>0 :
 i=temp[0]
 j=j+len(temp[1])
 try:
  r = client.pipeline(transaction=False)
  for k in temp[1]:
  r.debug_object(k)
  tempA = r.execute()
  x = 0
  for key in tempA:
  length = key.get("serializedlength")
  ##type = key.get("encoding")
  if length > 10240 :
   type = client.type(temp[1][x])
   print temp[1][x], type,length
  x=x+1
 except :
  print "a execption come"
 temp = client.scan(cursor=i,count=1000)
 
 
if __name__ == '__main__':
 if len(sys.argv) != 4:
  print 'Usage: python ', sys.argv[0], ' host port password '
  exit(1)
 db_host = sys.argv[1]
 db_port = sys.argv[2]
 db_password = sys.argv[3]
 r = redis.StrictRedis(host=db_host, port=int(db_port), password=db_password)
 nodecount = 1
 keyspace_info = r.info("keyspace")
 for db in keyspace_info:
 print 'check ', db, ' ', keyspace_info[db]
 find_big_key_normal(db_host, db_port, db_password, db.replace("db", ""))

我對上面的腳本同樣進行了一個壓力測試,在redis的內存為15G,key的數量為2KW,ops為40K到80K之間,在這種情況下:

腳本10分鐘跑完,完全可用。

說明:阿里云的腳本是支持cluster的,我這個腳本是只支持單機的,大家有興趣的可以自己去更改。

總結

以上就是這篇文章的全部內容了,希望本文的內容對大家的學習或者工作具有一定的參考學習價值,如果有疑問大家可以留言交流,謝謝大家對服務器之家的支持。原文鏈接:https://www.cnblogs.com/mantu/p/9249683.html

延伸 · 閱讀

精彩推薦
  • Redis詳解Redis復制原理

    詳解Redis復制原理

    與大多數db一樣,Redis也提供了復制機制,以滿足故障恢復和負載均衡等需求。復制也是Redis高可用的基礎,哨兵和集群都是建立在復制基礎上實現高可用的...

    李留廣10222021-08-09
  • Redisredis實現排行榜功能

    redis實現排行榜功能

    排行榜在很多地方都能使用到,redis的zset可以很方便地用來實現排行榜功能,本文就來簡單的介紹一下如何使用,具有一定的參考價值,感興趣的小伙伴們...

    乘月歸5022021-08-05
  • RedisRedis的配置、啟動、操作和關閉方法

    Redis的配置、啟動、操作和關閉方法

    今天小編就為大家分享一篇Redis的配置、啟動、操作和關閉方法,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧 ...

    大道化簡5312019-11-14
  • RedisRedis全量復制與部分復制示例詳解

    Redis全量復制與部分復制示例詳解

    這篇文章主要給大家介紹了關于Redis全量復制與部分復制的相關資料,文中通過示例代碼介紹的非常詳細,對大家學習或者使用Redis爬蟲具有一定的參考學習...

    豆子先生5052019-11-27
  • RedisRedis如何實現數據庫讀寫分離詳解

    Redis如何實現數據庫讀寫分離詳解

    Redis的主從架構,能幫助我們實現讀多,寫少的情況,下面這篇文章主要給大家介紹了關于Redis如何實現數據庫讀寫分離的相關資料,文中通過示例代碼介紹...

    羅兵漂流記6092019-11-11
  • Redisredis中如何使用lua腳本讓你的靈活性提高5個逼格詳解

    redis中如何使用lua腳本讓你的靈活性提高5個逼格詳解

    這篇文章主要給大家介紹了關于redis中如何使用lua腳本讓你的靈活性提高5個逼格的相關資料,文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具...

    一線碼農5812019-11-18
  • Redisredis 交集、并集、差集的具體使用

    redis 交集、并集、差集的具體使用

    這篇文章主要介紹了redis 交集、并集、差集的具體使用,文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友...

    xiaojin21cen10152021-07-27
  • RedisRedis 事務知識點相關總結

    Redis 事務知識點相關總結

    這篇文章主要介紹了Redis 事務相關總結,幫助大家更好的理解和學習使用Redis,感興趣的朋友可以了解下...

    AsiaYe8232021-07-28
主站蜘蛛池模板: 日韩成本大片35分钟免费播放 | 四虎影院永久网站 | 欧美成人免费观看国产 | 国产精品亚洲一区二区久久 | www.在线观看视频 | 操一操影院| dasd-698黑人在线播放 | 亚洲第一区二区快射影院 | 国产精品亚欧美一区二区三区 | 91免费在线播放 | 欧美视频精品一区二区三区 | 啊啊啊好大在线观看 | 国产精品猎奇系列在线观看 | 毛片手机在线视频免费观看 | caoporn超碰最新地址进入 | 亚洲国产一区二区三区a毛片 | 国产成人精品一区二区阿娇陈冠希 | 亚洲国产精品自在自线观看 | yw在线观看成人免费 | 第一次出血videos | 欧美日韩亚洲国内综合网俺 | 全黄h全肉细节文在线观看 全彩成人18h漫画 | 午夜欧美精品久久久久久久 | 四虎永久在线精品国产 | 美女伊人网 | 日产中文乱码卡一卡二 | 久草热8精品视频在线观看 久草草在线视视频 | 欧美成人精品福利网站 | 美女胸又大又黄又www小说 | 亚洲国产高清一区二区三区 | 精品免费tv久久久久久久 | 91精品啪在线观看国产91九色 | 亚洲AV久久无码精品蜜桃 | 嗯啊视频在线观看 | 久久精品亚洲热综合一本 | 男人操美女视频 | 国产区成人综合色在线 | 506070老熟肥妇bbwxx视频 500第一精品 | 久久久久久久久女黄 | 40岁女人三级全黄 | 97午夜视频 |