一区二区三区在线-一区二区三区亚洲视频-一区二区三区亚洲-一区二区三区午夜-一区二区三区四区在线视频-一区二区三区四区在线免费观看

服務器之家:專注于服務器技術及軟件下載分享
分類導航

Mysql|Sql Server|Oracle|Redis|MongoDB|PostgreSQL|Sqlite|DB2|mariadb|Access|數據庫技術|

服務器之家 - 數據庫 - Redis - redis的hGetAll函數的性能問題(記Redis那坑人的HGETALL)

redis的hGetAll函數的性能問題(記Redis那坑人的HGETALL)

2019-10-27 16:52mdxy-dxy Redis

這篇文章主要介紹了redis的hGetAll函數的性能問題,需要的朋友可以參考下

在沒關注這個函數之前,一直用的Memcache的數據存儲方式,但是自從更換了redis之后,對于一個hash的數據存與取 對于Memcache方便甚多,但是問題來了,一個hash的列表如果量不大的情況,用hGetAll函數幾乎看不出問題,一旦這個列表超過50或者更多時,此時用hGetAll函數便能很直觀的看到性能問題,這里就不作數據分析了。

Redis是單線程的!當它處理一個請求時其他的請求只能等著。通常請求都會很快處理完,但是當我們使用HGETALL的時候,必須遍歷每個字段來獲取數據,這期間消耗的CPU資源和字段數成正比,如果還用了PIPELINING,無疑更是雪上加霜。

 

復制代碼代碼如下:

PERFORMANCE = CPUs / OPERATIONs

 

也就是說,此場景下為了提升性能,要么增加運算過程中的CPU數量;要么降低運算過程中的操作數量。在為了繼續使用hash結構的數據,又要解決此問題,比較方便的方法就是將hash以序列化字符串存儲,取的時候先取出反序列化的數據,再用hGet(key,array(hash..))。

例如:

 

復制代碼代碼如下:

....
$arrKey = array('dbfba184bef630526a75f2cd073a6098','dbfba184bef630526a75f2cd0dswet98')
$strKey = 'test';
$obj->hGet($strKey,$arrKey);

 

把原本的hGetAll操作簡化為hGet,也就是說,不再需要遍歷hash中的每一個字段,因此即便不能讓多個CPU參與運算,但是卻大幅降低了操作數量,所以性能的提升仍然是顯著的;當然劣勢也很明顯,和所有的冗余方式一樣,此方案浪費了大量的內存。

有人會問,這樣雖然沒有了遍歷字段的過程,但是卻增加了反序列化的過程,而反序列化的成本往往也是很高的,難道這樣也能提升性能?問題的關鍵在于開始我們遍歷字段的操作是在一個cpu上完成的,后來反序列化的操作,不管是什么語言,都可以通過多進程或多線程來保證是在多個cpu上完成的,所以性能總體上是提升的。

另外,很多人直覺是通過運行redis多實例來解決問題。確實,這樣可以增加運算過程中的CPU數量,有助于提升性能,但是需要注意的是,hGetAll和PIPELINING往往會讓運算過程中的操作數量呈幾何級爆炸式增長,相比之下,我們能增加的redis多實例數量簡直就是杯水車薪,所以本例中這種方法不能徹底解決問題。

記Redis那坑人的HGETALL

世上本沒有坑,摔的人多了,也便成了坑。

早就聽人說過Redis的HGETALL是個坑,可我偏偏不信邪:不管什么坑,一定要自己踩上去跺兩腳才肯罷休。說好聽點這是不到黃河心不死,說難聽點就是不見棺材不落淚。

開始程序運行的非常穩定,穩定到我想送所有說HGETALL是個坑的人一個字:呸!此時的我就像溫水里的青蛙一樣忘記了危險的存在,時間就這樣一天一天的過去,突然有一天需求變了,我不得不把HASH數據的內容從十幾個字段擴展到一百多個字段,同時使用了Pipelining一次性獲取上百個HGETALL的結果。于是我掉坑里了:服務器宕機。

為什么會這樣?Redis是單線程的!當它處理一個請求時其他的請求只能等著。通常請求都會很快處理完,但是當我們使用HGETALL的時候,必須遍歷每個字段來獲取數據,這期間消耗的CPU資源和字段數成正比,如果還用了PIPELINING,無疑更是雪上加霜。

如何解決這個問題?請容許我煞有其事的給出一個公式:

 

復制代碼代碼如下:

PERFORMANCE = CPUs / OPERATIONs

 

也就是說,此場景下為了提升性能,要么增加運算過程中的CPU數量;要么降低運算過程中的操作數量。具體來說,我大致想到了以下幾種方法:

借助Memcached

Redis存儲方式不做任何改變,額外的,我們借助Memcached實現一套緩存,里面存儲原本需要在Redis里HGETALL的HASH,當然,由于Memcached里存儲的都是字符串,所以當我們存儲HASH的時候,實際上存儲的是HASH序列化后的字符串,查詢的時候再反序列化即可,通常Memcached客戶端驅動可以透明實現序列化和反序列化的過程。此方案的優勢在于因為Memcached支持多線程,所以可以讓更多的CPU參與運算,同時由于不用再遍歷每一個字段,所以相應的操作會減少;當然劣勢也不少,因為引入了一個新的緩存層,所以浪費了內存,增加了復雜性,另外,有時候即便我們只需要獲取少數幾個字段的數據,也不得不先查詢完整的數據,然后再篩選,這無疑浪費了帶寬。當然這種情況下我們可以直接查詢Redis,但是無疑又提升了一些復雜性。

順便說一句,Memcached支持Multiget,可以實現類似Pipelining的效果,但你要格外小心這里面有關Memcached的坑,也就是Mulitiget無底洞問題。

序列化字段冗余

Redis在存儲HASH的時候,多保存一個名為「all」的字段,其內容是原HASH數據的序列化,實際查詢的時候,只要HGET這個冗余字段后再反序列化即可。此方案的優勢在于通過序列化字段冗余,我們把原本的HGETALL操作簡化為HGET,也就是說,不再需要遍歷HASH中的每一個字段,因此即便不能讓多個CPU參與運算,但是卻大幅降低了操作數量,所以性能的提升仍然是顯著的;當然劣勢也很明顯,和所有的冗余方式一樣,此方案浪費了大量的內存。

有人會問,這樣雖然沒有了遍歷字段的過程,但是卻增加了反序列化的過程,而反序列化的成本往往也是很高的,難道這樣也能提升性能?問題的關鍵在于開始我們遍歷字段的操作是在一個CPU上完成的,后來反序列化的操作,不管是什么語言,都可以通過多進程或多線程來保證是在多個CPU上完成的,所以性能總體上是提升的。

另外,很多人直覺是通過運行Redis多實例來解決問題。確實,這樣可以增加運算過程中的CPU數量,有助于提升性能,但是需要注意的是,HGETALL和PIPELINING往往會讓運算過程中的操作數量呈幾何級爆炸式增長,相比之下,我們能增加的Redis多實例數量簡直就是杯水車薪,所以本例中這種方法不能徹底解決問題。

坑,就是用來踩的。不用怕掉進去,當然前提是你能自己爬出來!

延伸 · 閱讀

精彩推薦
  • RedisRedis全量復制與部分復制示例詳解

    Redis全量復制與部分復制示例詳解

    這篇文章主要給大家介紹了關于Redis全量復制與部分復制的相關資料,文中通過示例代碼介紹的非常詳細,對大家學習或者使用Redis爬蟲具有一定的參考學習...

    豆子先生5052019-11-27
  • Redis詳解Redis復制原理

    詳解Redis復制原理

    與大多數db一樣,Redis也提供了復制機制,以滿足故障恢復和負載均衡等需求。復制也是Redis高可用的基礎,哨兵和集群都是建立在復制基礎上實現高可用的...

    李留廣10222021-08-09
  • RedisRedis如何實現數據庫讀寫分離詳解

    Redis如何實現數據庫讀寫分離詳解

    Redis的主從架構,能幫助我們實現讀多,寫少的情況,下面這篇文章主要給大家介紹了關于Redis如何實現數據庫讀寫分離的相關資料,文中通過示例代碼介紹...

    羅兵漂流記6092019-11-11
  • RedisRedis的配置、啟動、操作和關閉方法

    Redis的配置、啟動、操作和關閉方法

    今天小編就為大家分享一篇Redis的配置、啟動、操作和關閉方法,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧 ...

    大道化簡5312019-11-14
  • Redisredis實現排行榜功能

    redis實現排行榜功能

    排行榜在很多地方都能使用到,redis的zset可以很方便地用來實現排行榜功能,本文就來簡單的介紹一下如何使用,具有一定的參考價值,感興趣的小伙伴們...

    乘月歸5022021-08-05
  • RedisRedis 事務知識點相關總結

    Redis 事務知識點相關總結

    這篇文章主要介紹了Redis 事務相關總結,幫助大家更好的理解和學習使用Redis,感興趣的朋友可以了解下...

    AsiaYe8232021-07-28
  • Redisredis中如何使用lua腳本讓你的靈活性提高5個逼格詳解

    redis中如何使用lua腳本讓你的靈活性提高5個逼格詳解

    這篇文章主要給大家介紹了關于redis中如何使用lua腳本讓你的靈活性提高5個逼格的相關資料,文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具...

    一線碼農5812019-11-18
  • Redisredis 交集、并集、差集的具體使用

    redis 交集、并集、差集的具體使用

    這篇文章主要介紹了redis 交集、并集、差集的具體使用,文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友...

    xiaojin21cen10152021-07-27
主站蜘蛛池模板: 四虎影视在线观看永久地址 | 成人精品在线 | a级动漫| 欧美视频精品一区二区三区 | 亚洲 另类 欧美 变态屎尿 | 亚洲免费视频播放 | 无限资源在线观看完整版免费下载 | videosxxxx老女人| 国产99久久九九精品免费 | 天天干天天操天天碰 | 4虎影院在线观看 | 高清色黄毛片一级毛片 | 欧美cosplay极品video | 欧美性理论片在线观看片免费 | 女人pp被扒开流水了 | 欧美一级片免费 | 国产精品99久久免费观看 | 激情三级做爰在线观看激情 | 波多野结衣中文字幕在线 | 成人男女啪啪免费观看网站 | 黄色wwwwww | 亚洲精品专区 | 欧美亚洲国产精品久久久 | 欧美在线视频7777kkkk | 色戒完整版 | 波多在线| 国产精品福利在线观看秒播 | 91制片厂果冻传媒杨柳作品 | 东北美女野外bbwbbw免费 | 911亚洲精品国内自产 | 国产永久免费爽视频在线 | 天堂在线中文无弹窗全文阅读 | 亚洲视频第一页 | 亚洲网站在线 | 91porny紧身翘臀 | 9久热久爱免费精品视频在线观看 | 2021国产精品成人免费视频 | 久久久久久久国产精品视频 | 娇妻与老头绿文小说系列 | 青春草视频免费观看 | 男女发生性关系视频 |