golang go-sql-drive mysql连接池的实现

tinymeercat 发布于2年前 阅读1954次
0 条评论

golang内部自带了连接池功能,刚开始接触golang的时候不了解这个,还自己搞了一个 sql.Open的对象管理池,真的非常囧啊。

sql.Open函数实际上是返回一个连接池对象,不是单个连接。在open的时候并没有去连接数据库,只有在执行query、exce方法的时候才会去实际连接数据库。在一个应用中同样的库连接只需要保存一个sql.Open之后的db对象就可以了,不需要多次open。

因为普通程序执行完毕之后资源就会被释放掉,所以这里尝试使用web服务进行演示。

开启web服务

首页先启动一个web服务监听9090端口,比较简单不多做说明。

1
2
3
4
5
6
7
func startHttpServer() {
     http.HandleFunc( "/pool" , pool)
     err := http.ListenAndServe( ":9090" , nil)
     if err != nil {
         log.Fatal( "ListenAndServe: " , err)
     }
}

db对象初始化

声明一个全局的db对象,并进行初始化。

1
2
3
4
5
6
7
8
var db *sql.DB
 
func init() {
     db, _ = sql.Open( "mysql" "root:@tcp(127.0.0.1:3306)/test?charset=utf8" )
     db.SetMaxOpenConns( 2000 )
     db.SetMaxIdleConns( 1000 )
     db.Ping()
}

连接池的实现关键在于SetMaxOpenConns和SetMaxIdleConns,其中:

SetMaxOpenConns用于设置最大打开的连接数,默认值为0表示不限制。
SetMaxIdleConns用于设置闲置的连接数。

设置最大的连接数,可以避免并发太高导致连接mysql出现too many connections的错误。设置闲置的连接数则当开启的一个连接使用完成后可以放在池里等候下一次使用。

请求方法

上面开启http请求设置了请求/pool地址的执行方法

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
func pool(w http.ResponseWriter, r *http.Request) {
     rows, err := db.Query( "SELECT * FROM user limit 1" )
     defer rows.Close()
     checkErr(err)
 
     columns, _ := rows.Columns()
     scanArgs := make([] interface {}, len(columns))
     values := make([] interface {}, len(columns))
     for j :=  range values {
         scanArgs[j] = &values[j]
     }
 
     record := make( map [string]string)
     for rows.Next() {
         //将行数据保存到record字典
         err = rows.Scan(scanArgs...)
         for i, col :=  range values {
             if col != nil {
                 record[columns[i]] = string(col.([]byte))
             }
         }
     }
 
     fmt.Println(record)
     fmt.Fprintln(w,  "finish" )
}
 
func checkErr(err error) {
     if err != nil {
         fmt.Println(err)
         panic(err)
     }
}

pool方法就是从user表中查出一条记录然后存放到map中,最后输出finish。代码到这里就算完了非常简单,下面来测试一下。首先启动http服务,然后使用ab进行并发测试访问:

$ ab -c 100 -n 1000 'http://localhost:9090/pool'

在数据库中通过show processlist查看连接进程:

golang数据库连接池

golang数据库连接池

可以看到有100来个进程。

因为避免了重复创建连接,所以使用连接池可以很明显的提高性能。有兴趣的童靴可以去掉连接池代码自己测试一下。完整代码如下:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
//数据库连接池测试
package main
 
import (
     "database/sql"
     "fmt"
     "github.com/go-sql-driver/mysql"
     "log"
     "net/http"
)
 
var db *sql.DB
 
func init() {
     db, _ = sql.Open( "mysql" "root:@tcp(127.0.0.1:3306)/test?charset=utf8" )
     db.SetMaxOpenConns( 2000 )
     db.SetMaxIdleConns( 1000 )
     db.Ping()
}
 
func main() {
     startHttpServer()
}
 
func startHttpServer() {
     http.HandleFunc( "/pool" , pool)
     err := http.ListenAndServe( ":9090" , nil)
     if err != nil {
         log.Fatal( "ListenAndServe: " , err)
     }
}
 
func pool(w http.ResponseWriter, r *http.Request) {
     rows, err := db.Query( "SELECT * FROM user limit 1" )
     defer rows.Close()
     checkErr(err)
 
     columns, _ := rows.Columns()
     scanArgs := make([] interface {}, len(columns))
     values := make([] interface {}, len(columns))
     for j :=  range values {
         scanArgs[j] = &values[j]
     }
 
     record := make( map [string]string)
     for rows.Next() {
         //将行数据保存到record字典
         err = rows.Scan(scanArgs...)
         for i, col :=  range values {
             if col != nil {
                 record[columns[i]] = string(col.([]byte))
             }
         }
     }
 
     fmt.Println(record)
     fmt.Fprintln(w,  "finish" )
}
 
func checkErr(err error) {
     if err != nil {
         fmt.Println(err)
         panic(err)
     }
}

小结

golang这边实现的连接池只提供了SetMaxOpenConns和SetMaxIdleConns方法进行连接池方面的配置。在使用的过程中有一个问题就是数据库本身对连接有一个超时时间的设置,如果超时时间到了数据库会单方面断掉连接,此时再用连接池内的连接进行访问就会出错。

packets.go:32: unexpected EOF
packets.go:118: write tcp 192.168.3.90:3306: broken pipe

上面都是错误都是go-sql-drive本身的输出,有的时候还会出现bad connection的错误。多请求几次后连接池会重新打开新连接这时候就没有问题了。关于这个问题自己有初步的解决方法,但是感觉不太完美,下次再放上来。



需要 登录 后回复方可回复, 如果你还没有账号你可以 注册 一个帐号。