Go Web服务器的流程管理
我是一位来自Web应用程序和服务开发领域的新Go程序员。不好意思,这是一个关于derp的问题,但是我一直在寻找答案没有发现任何问题。另外,这是边界服务器故障区域,但是由于我对API
/编程接口更感兴趣,所以我在这里问。
我已经使用net/http
软件包的内置Web服务器编写了一个小型go程序。我已经准备好将其部署到生产环境,但是在Go的Web服务器的模型流程以及部署方式方面我还不清楚。
具体来说-
在我习惯的环境(PHP,Ruby,Python)中,我们的应用程序前面有一个Web服务器(Apache,Nginx等),我们将这些Web服务器配置为使用一定数量的工作进程/线程,并配置每个线程应处理多少个单独的HTTP(S)连接。
我还没有找到有关Go的Web服务器如何处理此信息的信息,也没有找到有关如何为Go Web服务器缩放/规划规模的实用信息。
即-如果我有一个运行的简单程序,准备处理HTTP请求
func main() { http.HandleFunc("/", processRequest)
http.ListenAndServe(":8000", nil)
}
HandleFunc
一次尝试处理多少个连接?还是在连接打开时开始阻塞,并且仅在连接关闭后才服务下一个连接?
还是我不应该为此担心而将所有事情都塞进去呢?但是,如果这样做,如何防止系统因太多执行线程而陷入困境?
我基本上是想
- 了解Go Web服务器的处理模式
- 找到go的内置功能来进行调整,和/或其他正在使用的标准软件包
就像我说的,我很新,所以如果我完全错过了这个计划,请告诉我!
回答:
调整/配置HTTP服务器
实现HTTP服务器的类型为http.Server
。如果您不创建http.Server
自己,例如因为调用http.ListenAndServe()
函数,那么http.Server
将为您创建一个幕后花絮:
func ListenAndServe(addr string, handler Handler) error { server := &Server{Addr: addr, Handler: handler}
return server.ListenAndServe()
}
因此,如果您想周/自定义HTTP服务器,请自己创建一个并自己调用其Server.ListenAndServe()
方法。http.Server
是一个结构,其零值为有效配置。查看其文档,其中包含哪些字段,以及可以进行哪些调整/配置。
HTTP服务器的“进程管理”记录在Server.Serve()
:
服务在侦听器l上接受传入的连接,
。服务goroutine读取请求,然后调用srv.Handler对其进行回复。服务始终返回非零错误。
因此,每个传入的HTTP请求都在其新的goroutine中进行处理,这意味着它们可以同时得到服务。不幸的是,API没有记录任何进入和更改其工作方式的方法。
并查看当前的实现(Go
1.6.2),也没有未记录的方法来实现。server.go
,目前第2107-2139行:
2107 func (srv *Server) Serve(l net.Listener) error {2108 defer l.Close()
2109 if fn := testHookServerServe; fn != nil {
2110 fn(srv, l)
2111 }
2112 var tempDelay time.Duration // how long to sleep on accept failure
2113 if err := srv.setupHTTP2(); err != nil {
2114 return err
2115 }
2116 for {
2117 rw, e := l.Accept()
2118 if e != nil {
2119 if ne, ok := e.(net.Error); ok && ne.Temporary() {
2120 if tempDelay == 0 {
2121 tempDelay = 5 * time.Millisecond
2122 } else {
2123 tempDelay *= 2
2124 }
2125 if max := 1 * time.Second; tempDelay > max {
2126 tempDelay = max
2127 }
2128 srv.logf("http: Accept error: %v; retrying in %v", e, tempDelay)
2129 time.Sleep(tempDelay)
2130 continue
2131 }
2132 return e
2133 }
2134 tempDelay = 0
2135 c := srv.newConn(rw)
2136 c.setState(c.rwc, StateNew) // before Serve can return
2137 go c.serve()
2138 }
2139 }
如您在第2137行中所见,该连接是在新的goroutine上 无条件 提供的,因此您无能为力。
限制“工人” goroutines
如果您想限制为请求提供服务的goroutine的数量,您仍然可以这样做。
您可以将它们限制在多个级别。有关限制听众级别的信息,请参见Darigaaz的答案。要限制处理程序级别,请继续阅读。
例如,您可以在每个http.Handler
或处理程序函数(http.HandlerFunc
)中插入代码,仅当并发请求服务goroutine的数量小于指定的限制时,该代码才会继续执行。
这种限制同步代码有很多构造。一个示例可能是:创建一个容量为您所需限制的缓冲通道。每个处理程序应首先在此通道上发送一个值,然后再进行工作。当处理程序返回时,它必须从通道接收一个值:因此最好在延迟函数中完成(不要忘记“清理”自身)。
如果缓冲区已满,则尝试在通道上发送的新请求将被阻止:等待直到请求完成其工作。
请注意,您不必将此限制代码注入所有处理程序,您可以使用“中间件”模式,使用新的处理程序类型包装您的处理程序,执行此限制同步工作,并在中间调用包装的处理程序它的。
在处理程序中进行限制(相对于在侦听器中进行限制)的优势在于,在处理程序中我们知道处理程序的作用,因此我们可以进行 选择性
限制(例如,我们可以选择限制某些请求,例如数据库操作,而不是限制限制其他人,例如提供静态资源),或者我们可以根据需要任意创建 多个不同的限制组
(例如,将并发数据库请求限制为10个最大值,将静态请求限制为100个最大值,将繁重的计算请求限制为3个最大值)等。我们也可以轻松实现各种限制,例如已登录/付费用户的无限制(或上限),以及匿名/非付费用户的低限制。
还要注意,您甚至可以在一个位置进行速率限制,而无需使用中间件。创建一个“主处理程序”,并将其传递给http.ListenAndServe()
(或Server.ListenAndServe()
)。在此主处理程序中进行速率限制(例如,使用如上所述的缓冲通道),然后简单地将调用转发给http.ServeMux
您正在使用的对象。
这是一个简单的示例,它使用包()http.ListenAndServe()
的默认多路复用器进行演示。它将并发请求限制为2:http``http.DefaultServeMux
func fooHandler(w http.ResponseWriter, r *http.Request) { log.Println("Foo called...")
time.Sleep(3 * time.Second)
w.Write([]byte("I'm Foo"))
log.Println("Foo ended.")
}
func barHandler(w http.ResponseWriter, r *http.Request) {
log.Println("Bar called...")
time.Sleep(3 * time.Second)
w.Write([]byte("I'm Bar"))
log.Println("Bar ended.")
}
var ch = make(chan struct{}, 2) // 2 concurrent requests
func mainHandler(w http.ResponseWriter, r *http.Request) {
ch <- struct{}{}
defer func() {
<-ch
}()
http.DefaultServeMux.ServeHTTP(w, r)
}
func main() {
http.HandleFunc("/foo", fooHandler)
http.HandleFunc("/bar", barHandler)
panic(http.ListenAndServe(":8080", http.HandlerFunc(mainHandler)))
}
部署方式
用Go编写的Web应用程序不需要外部服务器来控制流程,因为Go Web服务器本身可以同时处理请求。
因此,您可以按原样启动以Go语言编写的Web服务器:Go Web服务器已准备好投入生产。
当然,您可以根据需要将其他服务器用于其他任务(例如HTTPS处理,身份验证/授权,路由,多个服务器之间的负载平衡)。
以上是 Go Web服务器的流程管理 的全部内容, 来源链接: utcz.com/qa/403385.html