Tengine对nginx upstream模块增加的特性
Tengine是淘宝在Nginx基础之上的二次开发版，Tengine完全兼容Nginx，因此可以参照Nginx的方式来配置Tengine。但Tengine提供了很多比较实用的特性，以及性能的优化。比如针对upstream模块，Tengine再次开发的一些小模块，下面说明一下。具体其他特性可以看Tengine官方。
一、后端长连接超时功能
ngx_http_upstream_keepalive_module模块增加nginx后端长连接的超时支持:
|
1 2 3 4 5 |
upstream backend { server 127.0.0.1:8080; keepalive 32; keepalive_timeout 30s; #设置后端连接的最大idle时间为30s } |
1）keepalive_timeout
|
1 2 3 |
Syntax: keepalive_timeout time Default: - Context: upstream |
该指令设置后端长连接的最大空闲超时时间，参数的时间单位可以是s（秒），ms（毫秒），m（分钟）。默认时间单位是秒。
二、健康检查模块功能
ngx_http_upstream_check_module，该模块可以为Tengine提供主动式后端服务器健康检查的功能。该模块在Tengine-1.4.0版本以前没有默认开启，它可以在配置编译选项的时候开启：./configure –with-http_upstream_check_module。
1）check
|
1 2 3 |
Syntax: check interval=milliseconds [fall=count] [rise=count] [timeout=milliseconds] [default_down=true|false] [type=tcp|http|ssl_hello|mysql|ajp] [port=check_port] Default: interval=30000 fall=5 rise=2 timeout=1000 default_down=true type=tcp Context: upstream |
该指令可以打开后端服务器的健康检查功能，指令后面的参数意义是：
interval：向后端发送的健康检查包的间隔。
fall(fall_count)：如果连续失败次数达到fall_count，服务器就被认为是down。
rise(rise_count)：如果连续成功次数达到rise_count，服务器就被认为是up。
timeout：后端健康请求的超时时间。
default_down：设定初始时服务器的状态，如果是true，就说明默认是down的，如果是false，就是up的。默认值是true，也就是一开始服务器认为是不可用，要等健康检查包达到一定成功次数以后才会被认为是健康的。
type：健康检查包的类型，现在支持以下多种类型
tcp：简单的tcp连接，如果连接成功，就说明后端正常。
ssl_hello：发送一个初始的SSL hello包并接受服务器的SSL hello包。
http：发送HTTP请求，通过后端的回复包的状态来判断后端是否存活。
mysql：向mysql服务器连接，通过接收服务器的greeting包来判断后端是否存活。
ajp：向后端发送AJP协议的Cping包，通过接收Cpong包来判断后端是否存活。
port：指定后端服务器的检查端口。你可以指定不同于真实服务的后端服务器的端口，比如后端提供的是443端口的应用，你可以去检查80端口的状态来判断后端健康状况。默认是0，表示跟后端server提供真实服务的端口一样。该选项出现于Tengine-1.4.0。
2）check_keepalive_requests
|
1 2 3 |
Syntax: check_keepalive_requests request_num Default: 1 Context: upstream |
该指令可以配置一个连接发送的请求数，其默认值为1，表示Tengine完成1次请求后即关闭连接。
3）check_http_send
|
1 2 3 |
Syntax: check_http_send http_packet Default: "GET / HTTP/1.0" Context: upstream |
该指令可以配置http健康检查包发送的请求内容。为了减少传输数据量，推荐采用”HEAD”方法。当采用长连接进行健康检查时，需在该指令中添加keep-alive请求头，如：”HEAD / HTTP/1.1\r\nConnection: keep-alive\r\n\r\n”。 同时，在采用”GET”方法的情况下，请求uri的size不宜过大，确保可以在1个interval内传输完成，否则会被健康检查模块视为后端服务器或网络异常。
4）check_http_expect_alive
|
1 2 3 |
Syntax: check_http_expect_alive [ http_2xx | http_3xx | http_4xx | http_5xx ] Default: http_2xx | http_3xx Context: upstream |
该指令指定HTTP回复的成功状态，默认认为2XX和3XX的状态是健康的。
5）check_shm_size
|
1 2 3 |
Syntax: check_shm_size size Default: 1M Context: http |
所有的后端服务器健康检查状态都存于共享内存中，该指令可以设置共享内存的大小。默认是1M，如果你有1千台以上的服务器并在配置的时候出现了错误，就可能需要扩大该内存的大小。
6）check_status
|
1 2 3 |
Syntax: check_status [html|csv|json] Default: check_status html Context: location |
显示服务器的健康状态页面。该指令需要在http块中配置。在Tengine-1.4.0以后，你可以配置显示页面的格式。支持的格式有: html、csv、 json。默认类型是html。你也可以通过请求的参数来指定格式，假设‘/status’是你状态页面的URL， format参数改变页面的格式，比如：
|
1 2 3 |
/status?format=html /status?format=csv /status?format=json |
同时你也可以通过status参数来获取相同服务器状态的列表，比如：
|
1 2 |
/status?format=html&status=down /status?format=csv&status=up |
下面是一个HTML状态页面的例子（server number是后端服务器的数量，generation是Nginx reload的次数。Index是服务器的索引，Upstream是在配置中upstream的名称，Name是服务器IP，Status是服务器的状态，Rise是服务器连续检查成功的次数，Fall是连续检查失败的次数，Check type是检查的方式，Check port是后端专门为健康检查设置的端口）：
下面是csv格式页面的例子：
|
1 |
0,backend,106.187.48.116:80,up,46,0,http,80 |
下面是json格式页面的例子：
|
1 2 3 4 5 6 7 |
{"servers": { "total": 1, "generation": 3, "server": [ {"index": 0, "upstream": "backend", "name": "106.187.48.116:80", "status": "up", "rise": 58, "fall": 0, "type": "http", "port": 80} ] }} |
增强版upstream使用示例：
|
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 |
http { upstream cluster1 { # simple round-robin server 192.168.0.1:80; server 192.168.0.2:80; check interval=3000 rise=2 fall=5 timeout=1000 type=http; check_http_send "HEAD / HTTP/1.0"; check_http_expect_alive http_2xx http_3xx; } upstream cluster2 { # simple round-robin server 192.168.0.3:80; server 192.168.0.4:80; check interval=3000 rise=2 fall=5 timeout=1000 type=http; check_keepalive_requests 100; check_http_send "HEAD / HTTP/1.1 Connection: keep-alive"; check_http_expect_alive http_2xx http_3xx; } server { listen 80; location /1 { proxy_pass http://cluster1; } location /2 { proxy_pass http://cluster2; } location /status { check_status; access_log off; allow SOME.IP.ADD.RESS; deny all; } } } |
三、Upstream域名解析模块功能
ngx_http_upstream_dynamic_module，此模块提供了在运行时动态解析upstream中server域名的功能，用的不多。
dynamic_resolve
|
1 2 3 |
Syntax: dynamic_resolve [fallback=stale|next|shutdown] [fail_timeout=time] Default: - Context: upstream. |
指定在某个upstream中启用动态域名解析功能，fallback参数指定了当域名无法解析时采取的动作：
- stale, 使用tengine启动的时候获取的旧地址
- next, 选择upstream中的下一个server
- shutdown, 结束当前请求
fail_timeout参数指定了将DNS服务当做无法使用的时间，也就是当某次DNS请求失败后，假定后续多长的时间内DNS服务依然不可用，以减少对无效DNS的查询。
|
1 2 3 4 5 |
upstream backend { dynamic_resolve fallback=stale fail_timeout=30s; server a.com; server b.com; } |
四、limit upstream tries功能
limit upstream retries，限制每个请求对后端服务器访问的最大尝试次数，支持proxy、memcached、fastcgi、scgi和uwsgi模块。 可以使用下面的指令开启访问次数进行限制。
|
1 2 3 4 5 6 7 8 9 10 11 12 13 14 |
# 限制fastcgi代理的后端尝试次数 fastcgi_upstream_tries num # 限制proxy代理的后端尝试次数 proxy_upstream_tries num # 限制memcached代理的后端尝试次数 memcached_upstream_tries num # 限制scgi代理的后端尝试次数 scgi_upstream_tries num # 限制uwsgi代理的后端尝试次数 uwsgi_upstream_tries num |
