一区二区三区在线-一区二区三区亚洲视频-一区二区三区亚洲-一区二区三区午夜-一区二区三区四区在线视频-一区二区三区四区在线免费观看

腳本之家,腳本語言編程技術及教程分享平臺!
分類導航

Python|VBS|Ruby|Lua|perl|VBA|Golang|PowerShell|Erlang|autoit|Dos|bat|

服務器之家 - 腳本之家 - Golang - golang配制高性能sql.DB的使用

golang配制高性能sql.DB的使用

2022-01-22 16:22Go語言由淺入深 Golang

本文主要講述SetMaxOpenConns(), SetMaxIdleConns() 和 SetConnMaxLifetime()方法, 您可以使用它們來配置sql.DB的行為并改變其性能,感興趣的可以了解一下

有很多教程是關于Go的sql.DB類型和如何使用它來執行SQL數據庫查詢的。但大多數內容都沒有講述SetMaxOpenConns(), SetMaxIdleConns() 和 SetConnMaxLifetime()方法, 您可以使用它們來配置sql.DB的行為并改變其性能。

在本文我將詳細解釋這些設置的作用,并說明它們所能產生的(積極和消極)影響。

開放和空閑連接

一個sql.DB對象就是一個數據庫連接池,它包含“正在用”和“空閑的”連接。一個正在用的連接指的是,你正用它來執行數據庫任務,例如執行SQL語句或行查詢。當任務完成連接就是空閑的。

當您創建sql.DB執行數據庫任務時,它將首先檢查連接池中是否有可用的空閑連接。如果有可用的連接,那么Go將重用現有連接,并在執行任務期間將其標記為正在使用。如果池中沒有空閑連接,而您需要一個空閑連接,那么Go將創建一個新的連接。

SetMaxOpenConns方法

默認情況下,在同一時間打開連接的數量是沒有限制(包含使用中+空閑)。但你可以通過SetMaxOpenConns()方法實現自定義限制,如下所示:

?
1
2
3
4
5
6
7
8
9
// 初始化一個新的連接池
db, err := sql.Open("postgres", "postgres://user:pass@localhost/db")
if err != nil {
    log.Fatal(err)
}
 
// 設置當前最大開放連接數(包括空閑和正在使用的)為5。
// 如果設置為0代表連接數沒有限制,默認是沒有限制數量的。
db.SetMaxOpenConns(5)

在這個示例代碼中,連接池現在有5個并發打開的連接數。如果所有5個連接都已經被標記為正在使用,并且需要另一個新的連接,那么應用程序將被迫等待,直到5個連接中的一個被釋放并變為空閑。

為了說明更改MaxOpenConns的影響,我運行了一個基準測試,將最大打開連接數設置為1、2、5、10和無限。基準測試在PostgreSQL數據庫上執行并行的INSERT語句,您可以在這里找到代碼。測試結果:

BenchmarkMaxOpenConns1-8                 500       3129633 ns/op         478 B/op         10 allocs/op
BenchmarkMaxOpenConns2-8                1000       2181641 ns/op         470 B/op         10 allocs/op
BenchmarkMaxOpenConns5-8                2000        859654 ns/op         493 B/op         10 allocs/op
BenchmarkMaxOpenConns10-8               2000        545394 ns/op         510 B/op         10 allocs/op
BenchmarkMaxOpenConnsUnlimited-8        2000        531030 ns/op         479 B/op          9 allocs/op
PASS

對于這個基準測試,我們可以看到,允許打開的連接越多,在數據庫上執行INSERT操作所花費的時間就越少(打開的連接數為1時,執行速度3129633ns/op,而無限連接:531030ns/op——大約快了6倍)。這是因為允許打開的連接越多,可以并發執行的數據庫查詢就越多。

SetMaxIdleConns方法

默認情況下,sql.DB允許連接池中最多保留2個空閑連接。你可以通過SetMaxIdleConns()方法改變它,如下所示:

?
1
2
3
4
5
6
7
8
//  初始化一個新的連接池
db, err := sql.Open("postgres", "postgres://user:pass@localhost/db")
if err != nil {
    log.Fatal(err)
}
 
// 設置最大空閑連接數為5。 將此值設置為小于或等于0將意味著不保留空閑連接。
db.SetMaxIdleConns(5)

從理論上講,允許池中有更多的空閑連接將提高性能,因為這樣就不太可能從頭開始建立新連接——因此有助于提升數據庫性能。

讓我們來看看相同的基準測試,最大空閑連接設置為none, 1,2,5和10:

BenchmarkMaxIdleConnsNone-8          300       4567245 ns/op       58174 B/op        625 allocs/op
BenchmarkMaxIdleConns1-8            2000        568765 ns/op        2596 B/op         32 allocs/op
BenchmarkMaxIdleConns2-8            2000        529359 ns/op         596 B/op         11 allocs/op
BenchmarkMaxIdleConns5-8            2000        506207 ns/op         451 B/op          9 allocs/op
BenchmarkMaxIdleConns10-8           2000        501639 ns/op         450 B/op          9 allocs/op
PASS

當MaxIdleConns設置為none時,必須為每個INSERT從頭創建一個新的連接,我們可以從基準測試中看到,平均運行時和內存使用量相對較高。

只允許保留和重用一個空閑連接對基準測試影響特別明顯——它將平均運行時間減少了大約8倍,內存使用量減少了大約20倍。繼續增加空閑連接池的大小會使性能變得更好,盡管改進并不明顯。

那么,您應該維護一個大的空閑連接池嗎?答案取決于應用程序。重要的是要意識到保持空閑連接是有代價的—它占用了可以用于應用程序和數據庫的內存。

還有一種可能是,如果一個連接空閑時間太長,那么它可能會變得不可用。例如,MySQL的wait_timeout設置將自動關閉任何8小時(默認)內未使用的連接。

當發生這種情況時,sql.DB會優雅地處理它。壞連接將自動重試兩次,然后放棄,此時Go將該連接從連接池中刪除,并創建一個新的連接。因此,將MaxIdleConns設置得太大可能會導致連接變得不可用,與空閑連接池更小(使用更頻繁的連接更少)相比,會占有更多的資源。所以,如果你很可能很快就會再次使用,你只需保持一個空閑的連接。

最后要指出的是,MaxIdleConns應該總是小于或等于MaxOpenConns。Go強制執行此操作,并在必要時自動減少MaxIdleConns。

SetConnMaxLifetime方法

現在讓我們看看SetConnMaxLifetime()方法,它設置連接可重用的最大時間長度。如果您的SQL數據庫也實現了最大連接生命周期,或者—例如—您希望方便地在負載均衡器后交換數據庫,那么這將非常有用。
你可以這樣使用它:

?
1
2
3
4
5
6
7
8
// 初始化一個新的連接池
db, err := sql.Open("postgres", "postgres://user:pass@localhost/db")
if err != nil {
    log.Fatal(err)
}
 
// 將連接的最大生存期設置為1小時。將其設置為0意味著沒有最大生存期,連接將永遠可重用(這是默認行為)
db.SetConnMaxLifetime(time.Hour)

在這個例子中,所有的連接都將在創建后1小時“過期”,并且在過期后無法重用。但注意:

  • 這并不能保證連接將在池中存在整整一個小時;很有可能,由于某些原因,連接變得不可用,并在此之前自動關閉。
  • 一個連接在創建后一個多小時仍然可以被使用——它只是在這個時間之后不能被重用。
  • 這不是空閑超時。連接將在第一次創建后1小時過期——而不是在最后一次空閑后1小時。
  • 每隔一秒自動運行一次清理操作,從連接池中刪除“過期”的連接。

從理論上講,ConnMaxLifetime越短,連接過期的頻率就越高——因此,需要從頭創建連接的頻率就越高。為了說明這一點,我運行了將ConnMaxLifetime設置為100ms、200ms、500ms、1000ms和無限(永遠重用)的基準測試,默認設置為無限打開連接和2個空閑連接。這些時間段顯然比您在大多數應用程序中使用的時間要短得多,但它們有助于很好地說明行為。

BenchmarkConnMaxLifetime100-8               2000        637902 ns/op        2770 B/op         34 allocs/op
BenchmarkConnMaxLifetime200-8               2000        576053 ns/op        1612 B/op         21 allocs/op
BenchmarkConnMaxLifetime500-8               2000        558297 ns/op         913 B/op         14 allocs/op
BenchmarkConnMaxLifetime1000-8              2000        543601 ns/op         740 B/op         12 allocs/op
BenchmarkConnMaxLifetimeUnlimited-8         3000        532789 ns/op         412 B/op          9 allocs/op
PASS

在這些特定的基準測試中,我們可以看到,與無限生存期相比,在100ms生存期時內存使用量增加了3倍以上,而且每個INSERT的平均運行時也稍微長一些。

如果您在代碼中設置了ConnMaxLifetime,那么一定要記住連接將過期(隨后重新創建)的頻率。例如,如果您總共有100個連接,而ConnMaxLifetime為1分鐘,那么您的應用程序可能每秒鐘殺死和重新創建1.67個連接(平均值)。您不希望這個頻率太大,最終會阻礙性能,而不是提高性能。

連接數量超出

最后,如果不說明超過數據庫連接數量的硬限制將會發生什么,那么本文就不完整了。 為了說明這一點,我將修改postgresql.conf文件,這樣總共只允許5個連接(默認是100個)…

?
1
max_connections = 5

然后在無限連接的情況下重新運行基準測試……

BenchmarkMaxOpenConnsUnlimited-8    --- FAIL: BenchmarkMaxOpenConnsUnlimited-8
    main_test.go:14: pq: sorry, too many clients already
    main_test.go:14: pq: sorry, too many clients already
    main_test.go:14: pq: sorry, too many clients already
FAIL

一旦達到5個連接的硬限制,數據庫驅動程序(pq)立即返回一個太多客戶端連接的錯誤消息,而無法完成INSERT。為了防止這個錯誤,我們需要將sql.DB中打開連接的最大總數(正在使用的+空閑的)設置為低于5。像這樣:

?
1
2
3
4
5
6
7
8
// 初始化一個新的連接池
db, err := sql.Open("postgres", "postgres://user:pass@localhost/db")
if err != nil {
    log.Fatal(err)
}
 
// 將打開的連接數(正在使用的連接+空閑的連接)設置為最大總數3。
 db.SetMaxOpenConns (3)

現在,sql.DB在任何時候最多只能創建3個連接,基準測試運行時應該不會出現任何錯誤。但是這樣做需要注意:當達到開放連接數限制,并且所有連接都在使用時,應用程序需要執行的任何新的數據庫任務都將被迫等待,直到連接標記為空閑。例如,在web應用程序的上下文中,用戶的HTTP請求看起來會“掛起”,甚至在等待數據庫任務運行時可能會超時。

為了減輕這種情況,你應該始終在一個上下文中傳遞。在調用數據庫時,啟用上下文的方法(如ExecContext()),使用固定的、快速的超時上下文對象。

總結

1、根據經驗,應該顯式設置MaxOpenConns值。這應該小于數據庫和基礎設施對連接數量的硬性限制。
2、一般來說,更高的MaxOpenConns和MaxIdleConns值將帶來更好的性能。但你應該注意到效果是遞減的,連接池空閑連接太多(連接沒有被重用,最終會變壞)實際上會導致性能下降。
3、為了降低上面第2點帶來的風險,您可能需要設置一個相對較短的ConnMaxLifetime。但你也不希望它太短,導致連接被殺死或不必要地頻繁重建。
4、MaxIdleConns應該總是小于或等于MaxOpenConns。
對于中小型web應用程序,我通常使用以下設置作為起點,然后根據實際吞吐量水平的負載測試結果進行優化。

?
1
2
3
db.SetMaxOpenConns(25)
db.SetMaxIdleConns(25)
db.SetConnMaxLifetime(5*time.Minute)

到此這篇關于golang配制高性能sql.DB的使用的文章就介紹到這了,更多相關golang配制高性能sql.DB內容請搜索服務器之家以前的文章或繼續瀏覽下面的相關文章希望大家以后多多支持服務器之家!

原文鏈接:https://www.jianshu.com/p/13542f6e15fa

延伸 · 閱讀

精彩推薦
  • Golanggo日志系統logrus顯示文件和行號的操作

    go日志系統logrus顯示文件和行號的操作

    這篇文章主要介紹了go日志系統logrus顯示文件和行號的操作,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧...

    SmallQinYan12302021-02-02
  • Golanggolang如何使用struct的tag屬性的詳細介紹

    golang如何使用struct的tag屬性的詳細介紹

    這篇文章主要介紹了golang如何使用struct的tag屬性的詳細介紹,從例子說起,小編覺得挺不錯的,現在分享給大家,也給大家做個參考。一起跟隨小編過來看...

    Go語言中文網11352020-05-21
  • Golanggolang json.Marshal 特殊html字符被轉義的解決方法

    golang json.Marshal 特殊html字符被轉義的解決方法

    今天小編就為大家分享一篇golang json.Marshal 特殊html字符被轉義的解決方法,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧 ...

    李浩的life12792020-05-27
  • Golanggo語言制作端口掃描器

    go語言制作端口掃描器

    本文給大家分享的是使用go語言編寫的TCP端口掃描器,可以選擇IP范圍,掃描的端口,以及多線程,有需要的小伙伴可以參考下。 ...

    腳本之家3642020-04-25
  • GolangGolang通脈之數據類型詳情

    Golang通脈之數據類型詳情

    這篇文章主要介紹了Golang通脈之數據類型,在編程語言中標識符就是定義的具有某種意義的詞,比如變量名、常量名、函數名等等,Go語言中標識符允許由...

    4272021-11-24
  • Golanggolang的httpserver優雅重啟方法詳解

    golang的httpserver優雅重啟方法詳解

    這篇文章主要給大家介紹了關于golang的httpserver優雅重啟的相關資料,文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,...

    helight2992020-05-14
  • Golanggolang 通過ssh代理連接mysql的操作

    golang 通過ssh代理連接mysql的操作

    這篇文章主要介紹了golang 通過ssh代理連接mysql的操作,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧...

    a165861639710342021-03-08
  • GolangGolang中Bit數組的實現方式

    Golang中Bit數組的實現方式

    這篇文章主要介紹了Golang中Bit數組的實現方式,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧...

    天易獨尊11682021-06-09
主站蜘蛛池模板: 国产日韩精品一区二区在线观看 | 久久成人亚洲 | 92在线视频| nxgx欧美 | xxxx成人| 国内精品久久久久影院中国 | 国产成人亚洲精品91专区手机 | 国产成人永久免费视 | 欧美久草在线 | 国产精品福利短视在线播放频 | 日韩一区二区中文字幕 | 色就色综合 | 国模一区二区三区视频一 | 免费看一级 | 亚洲欧美专区 | 大陆黄色片 | ffyybb免费福利视频 | 2015小明台湾永久区域免费 | 久久免费看少妇高潮A片特爽 | 久久嫩草影院网站 | 高跟丝袜hdvideossex | 特黄特级毛片免费视 | 奇米色88欧美一区二区 | 青青视频国产依人在线 | 日韩精品一区二区三区视频 | 美女被灌浣肠失禁视频 | a级亚洲片精品久久久久久久 | 国产精品香蕉在线观看不卡 | 国产在线成人精品 | 国产亚洲综合成人91精品 | 日韩免费高清完整版 | 亚洲精品在线网址 | 午夜欧美精品久久久久久久 | 丰满肥臀风间由美357在线 | 男人女人插 | 色哟哟在线资源 | 2019午夜福合集高清完整版 | 成人尤物 | 青青艹视频在线 | 1919gogo女厕盗摄 | 美女被灌浣肠失禁视频 |