菜单

HTTP/二 尾部压缩技术介绍

2019年4月14日 - JavaScript

兑现细节

问询了 HTTP/二 底部压缩的基本原理,最终大家来看一下切实的兑现细节。HTTP/二的尾部键值对有以下那个情况:

一)整个尾部键值对都在字典中

JavaScript

0 1 2 3 4 5 6 7 +—+—+—+—+—+—+—+—+ | 1 | Index (7+) |
+—+—————————+

1
2
3
4
5
  0   1   2   3   4   5   6   7
+—+—+—+—+—+—+—+—+
| 1 |        Index (7+)         |
+—+—————————+
 

那是最简便的意况,使用三个字节就能够象征那些底部了,最左壹个人稳定为
一,之后捌位存放键值对在静态或动态字典中的索引。例如下图中,尾部索引值为
2(00000十),在静态字典中查询可得 :method: GET

图片 1

二)尾部名称在字典中,更新动态字典

JavaScript

0 1 2 3 4 5 6 7 +—+—+—+—+—+—+—+—+ | 0 | 1 | Index (6+) |
+—+—+———————–+ | H | Value Length (7+) |
+—+—————————+ | Value String (Length octets) |
+——————————-+

1
2
3
4
5
6
7
8
9
  0   1   2   3   4   5   6   7
+—+—+—+—+—+—+—+—+
| 0 | 1 |      Index (6+)       |
+—+—+———————–+
| H |     Value Length (7+)     |
+—+—————————+
| Value String (Length octets)  |
+——————————-+
 

对于那种情况,首先须要运用二个字节表示底部名称:左两位稳定为
01,之后八人存放底部名称在静态或动态字典中的索引。接下来的2个字节第贰人H 表示底部值是还是不是使用了哈夫曼编码,剩余7人代表底部值的尺寸 L,后续 L
个字节便是头部值的具体内容了。例如下图中索引值为
32(一千00),在静态字典中查询可得
cookie;尾部值使用了哈夫曼编码(1),长度是 2八(0011十0);接下去的 26个字节是 cookie 的值,将其展开哈夫曼解码就能博得具体内容。

图片 2

客户端或服务端看到那种格式的头顶键值对,会将其添加到本人的动态字典中。后续传输那样的始末,就适合第叁 种处境了。

三)尾部名称不在字典中,更新动态字典

JavaScript

0 1 2 3 4 5 6 7 +—+—+—+—+—+—+—+—+ | 0 | 1 | 0 |
+—+—+———————–+ | H | Name Length (7+) |
+—+—————————+ | Name String (Length octets) |
+—+—————————+ | H | Value Length (7+) |
+—+—————————+ | Value String (Length octets) |
+——————————-+

1
2
3
4
5
6
7
8
9
10
11
12
13
  0   1   2   3   4   5   6   7
+—+—+—+—+—+—+—+—+
| 0 | 1 |           0           |
+—+—+———————–+
| H |     Name Length (7+)      |
+—+—————————+
|  Name String (Length octets)  |
+—+—————————+
| H |     Value Length (7+)     |
+—+—————————+
| Value String (Length octets)  |
+——————————-+
 

那种气象与第 2种境况类似,只是出于底部名称不在字典中,所以首先个字节固定为
0一千000;接着表明名称是不是利用哈夫曼编码及长度,并放上名称的具体内容;再证明值是还是不是选拔哈夫曼编码及长度,最终放上值的具体内容。例如下图中名称的长度是
5(000010一),值的尺寸是
六(0000110)。对其具体内容举行哈夫曼解码后,可得 pragma: no-cache

图片 3

客户端或服务端看到那种格式的底部键值对,会将其添加到自个儿的动态字典中。后续传输那样的内容,就适合第2 种处境了。

四)底部名称在字典中,差异意更新动态字典

JavaScript

0 1 2 3 4 5 6 7 +—+—+—+—+—+—+—+—+ | 0 | 0 | 0 | 1 |
Index (4+) | +—+—+———————–+ | H | Value Length (7+) |
+—+—————————+ | Value String (Length octets) |
+——————————-+

1
2
3
4
5
6
7
8
9
  0   1   2   3   4   5   6   7
+—+—+—+—+—+—+—+—+
| 0 | 0 | 0 | 1 |  Index (4+)   |
+—+—+———————–+
| H |     Value Length (7+)     |
+—+—————————+
| Value String (Length octets)  |
+——————————-+
 

那种场合与第 二 种情况至极接近,唯一不相同之处是:第三个字节左2人稳定为
000壹,只剩余4人来存放在索引了,如下图:

图片 4

此处须求介绍其余二个知识点:对整数的解码。上海教室中第3个字节为
0001111一,并不意味尾部名称的目录为 15(111一)。第二个字节去掉固定的
000一,只剩3人可用,将位数用 N 表示,它不得不用来表示小于「二 ^ N – 一 =
一5」的平头 I。对于 I,必要遵照以下规则求值(OdysseyFC 754第11中学的伪代码,via):

JavaScript

if I < 2 ^ N – 1, return I # I 小于 二 ^ N – 一 时,直接回到 else M =
0 repeat B = next octet # 让 B 等于下2个7人 I = I + (B & 1二7) *
2 ^ M # I = I + (B 低七位 * 2 ^ M) M = M + 7 while B & 128 == 128
# B 最高位 = 一 时无冕,不然再次回到 I return I

1
2
3
4
5
6
7
8
9
10
if I &lt; 2 ^ N – 1, return I         # I 小于 2 ^ N – 1 时,直接返回
else
    M = 0
    repeat
        B = next octet             # 让 B 等于下一个八位
        I = I + (B &amp; 127) * 2 ^ M  # I = I + (B 低七位 * 2 ^ M)
        M = M + 7
    while B &amp; 128 == 128           # B 最高位 = 1 时继续,否则返回 I
    return I
 

对此上航海用体育地方中的数据,根据那么些规则算出索引值为 3二(0001111壹 000一千1,15 +
一7),代表 cookie。必要小心的是,协议中持有写成(N+)的数字,例如
Index (四+)、Name Length (七+),都急需依据那个规则来编码和平解决码。

那种格式的头顶键值对,不允许被添加到动态字典中(但足以应用哈夫曼编码)。对于有些百般乖巧的头顶,比如用来表达的
Cookie,这么做能够增进安全性。

伍)头部名称不在字典中,不容许更新动态字典

JavaScript

0 1 2 3 4 5 6 7 +—+—+—+—+—+—+—+—+ | 0 | 0 | 0 | 1 | 0 |
+—+—+———————–+ | H | Name Length (7+) |
+—+—————————+ | Name String (Length octets) |
+—+—————————+ | H | Value Length (7+) |
+—+—————————+ | Value String (Length octets) |
+——————————-+

1
2
3
4
5
6
7
8
9
10
11
12
13
  0   1   2   3   4   5   6   7
+—+—+—+—+—+—+—+—+
| 0 | 0 | 0 | 1 |       0       |
+—+—+———————–+
| H |     Name Length (7+)      |
+—+—————————+
|  Name String (Length octets)  |
+—+—————————+
| H |     Value Length (7+)     |
+—+—————————+
| Value String (Length octets)  |
+——————————-+
 

那种气象与第 三 种景况至极周边,唯1分化之处是:第①个字节固定为
000一千0。那种景况比较少见,未有截图,各位能够脑补。同样,那种格式的头顶键值对,也不允许被添加到动态字典中,只可以使用哈夫曼编码来收缩年体育积。

实际上,协议中还规定了与 4、五 卓殊类似的别的二种格式:将 四、5格式中的第叁个字节第七个人由 1 改为 0
即可。它意味着「本次不创新动态词典」,而 4、5表示「相对差别意更新动态词典」。差别不是极大,那里略过。

了解了尾部压缩的技术细节,理论上得以很自在写出 HTTP/二底部解码工具了。笔者相比懒,直接找来 node-http二 中的
compressor.js
验证一下:

JavaScript

var Decompressor = require(‘./compressor’).Decompressor; var testLog =
require(‘bunyan’).createLogger({name: ‘test’}); var decompressor = new
Decompressor(testLog, ‘REQUEST’); var buffer = new
Buffer(‘820481634188353daded6ae43d3f877abdd07f66a281b0dae053fad0321aa49d13fda992a49685340c8a6adca7e28102e10fda9677b8d05707f6a62293a9d810020004015309ac2ca7f2c3415c1f53b0497ca589d34d1f43aeba0c41a4c7a98f33a69a3fdf9a68fa1d75d0620d263d4c79a68fbed00177febe58f9fbed00177b518b2d4b70ddf45abefb4005db901f1184ef034eff609cb60725034f48e1561c8469669f081678ae3eb3afba465f7cb234db9f4085aec1cd48ff86a8eb10649cbf’,
‘hex’); console.log(decompressor.decompress(buffer));
decompressor._table.forEach(function(row, index) { console.log(index +
1, row[0], row[1]); });

1
2
3
4
5
6
7
8
9
10
11
12
13
var Decompressor = require(‘./compressor’).Decompressor;
 
var testLog = require(‘bunyan’).createLogger({name: ‘test’});
var decompressor = new Decompressor(testLog, ‘REQUEST’);
 
var buffer = new Buffer(‘820481634188353daded6ae43d3f877abdd07f66a281b0dae053fad0321aa49d13fda992a49685340c8a6adca7e28102e10fda9677b8d05707f6a62293a9d810020004015309ac2ca7f2c3415c1f53b0497ca589d34d1f43aeba0c41a4c7a98f33a69a3fdf9a68fa1d75d0620d263d4c79a68fbed00177febe58f9fbed00177b518b2d4b70ddf45abefb4005db901f1184ef034eff609cb60725034f48e1561c8469669f081678ae3eb3afba465f7cb234db9f4085aec1cd48ff86a8eb10649cbf’, ‘hex’);
 
console.log(decompressor.decompress(buffer));
 
decompressor._table.forEach(function(row, index) {
    console.log(index + 1, row[0], row[1]);
});
 

底部原始数据来源于于本文第二张截图,运维结果如下(静态字典只截取了壹局地):

JavaScript

{ ‘:method’: ‘GET’, ‘:path’: ‘/’, ‘:authority’: ‘imququ.com’, ‘:scheme’:
‘https’, ‘user-agent’: ‘Mozilla/5.0 (Macintosh; Intel Mac OS X 10.11;
rv:41.0) Gecko/20100101 Firefox/41.0’, accept:
‘text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8’,
‘accept-language’: ‘en-US,en;q=0.5’, ‘accept-encoding’: ‘gzip, deflate’,
cookie: ‘v=47; u=6f048d6e-adc4-4910-8e69-797c399ed456’, pragma:
‘no-cache’ } 1 ‘:authority’ ” 2 ‘:method’ ‘GET’ 3 ‘:method’ ‘POST’ 4
‘:path’ ‘/’ 5 ‘:path’ ‘/index.html’ 6 ‘:scheme’ ‘http’ 7 ‘:scheme’
‘https’ 8 ‘:status’ ‘200’ … … 32 ‘cookie’ ” … … 60 ‘via’ ” 61
‘www-authenticate’ ” 62 ‘pragma’ ‘no-cache’ 63 ‘cookie’
‘u=6f048d6e-adc4-4910-8e69-797c399ed456’ 64 ‘accept-language’
‘en-US,en;q=0.5’ 65 ‘accept’
‘text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8’ 66
‘user-agent’ ‘Mozilla/5.0 (Macintosh; Intel Mac OS X 10.11; rv:41.0)
Gecko/20100101 Firefox/41.0’ 67 ‘:authority’ ‘imququ.com’

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
{ ‘:method’: ‘GET’,
  ‘:path’: ‘/’,
  ‘:authority’: ‘imququ.com’,
  ‘:scheme’: ‘https’,
  ‘user-agent’: ‘Mozilla/5.0 (Macintosh; Intel Mac OS X 10.11; rv:41.0) Gecko/20100101 Firefox/41.0’,
  accept: ‘text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8’,
  ‘accept-language’: ‘en-US,en;q=0.5’,
  ‘accept-encoding’: ‘gzip, deflate’,
  cookie: ‘v=47; u=6f048d6e-adc4-4910-8e69-797c399ed456’,
  pragma: ‘no-cache’ }
1 ‘:authority’ ”
2 ‘:method’ ‘GET’
3 ‘:method’ ‘POST’
4 ‘:path’ ‘/’
5 ‘:path’ ‘/index.html’
6 ‘:scheme’ ‘http’
7 ‘:scheme’ ‘https’
8 ‘:status’ ‘200’
… …
32 ‘cookie’ ”
… …
60 ‘via’ ”
61 ‘www-authenticate’ ”
62 ‘pragma’ ‘no-cache’
63 ‘cookie’ ‘u=6f048d6e-adc4-4910-8e69-797c399ed456’
64 ‘accept-language’ ‘en-US,en;q=0.5’
65 ‘accept’ ‘text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8’
66 ‘user-agent’ ‘Mozilla/5.0 (Macintosh; Intel Mac OS X 10.11; rv:41.0) Gecko/20100101 Firefox/41.0’
67 ‘:authority’ ‘imququ.com’
 

能够看来,那段从 Wireshark
拷出来的头顶数据能够寻常解码,动态字典也收获了翻新(6二 – 陆七)。

技能原理

上面那张截图,取自 谷歌 的品质专家 Ilya Grigorik 在 Velocity 二零一四 • SC
会议中分享的「HTTP/2 is here, let’s
optimize!
」,分外直观地描述了
HTTP/2 中尾部压缩的规律:

图片 5

自作者再用深切浅出的语言表达下,底部压缩须要在支撑 HTTP/2 的浏览器和服务端之间:

静态字典的作用有八个:一)对于截然同盟的头顶键值对,例如 :
method :GET
,能够一向运用四个字符表示;二)对于尾部名称能够协作的键值对,例如 cookie :xxxxxxx,能够将名称使用2个字符表示。HTTP/2中的静态字典如下(以下只截取了壹些,完整表格在这里):

Index Header Name Header Value
1 :authority
2 :method GET
3 :method POST
4 :path /
5 :path /index.html
6 :scheme http
7 :scheme https
8 :status 200
32 cookie
60 via
61 www-authenticate

并且,浏览器可以告诉服务端,将 cookie :xxxxxxx 添加到动态字典中,那样继续一切键值对就足以行使2个字符表示了。类似的,服务端也能够创新对方的动态字典。供给专注的是,动态字典上下文有关,需求为各种HTTP/2 连接维护分歧的字典。

动用字典能够相当大地进步压缩效果,当中静态字典在第3次呼吁中就足以使用。对于静态、动态字典中不存在的始末,还足以应用哈夫曼编码来减小体量。HTTP/2使用了壹份静态哈夫曼码表(详见),也需求内置在客户端和服务端之中。

此间顺便说一下,HTTP/一 的图景行音讯(Method、Path、Status 等),在
HTTP/第22中学被拆成键值对放入底部(冒号开端的那多少个),同样能够享用到字典和哈夫曼压缩。其它,HTTP/第22中学全部尾部名称必须小写。

总结

在拓展 HTTP/贰网址质量优化时很主要一点是「使用尽大概少的连接数」,本文提到的尾部压缩是个中贰个很重大的案由:同1个总是上发出的呼吁和响应越来越多,动态字典积累得越全,尾部压缩效果也就越好。所以,针对
HTTP/2 网址,最好实践是永不合并财富,不要散列域名。

默许情状下,浏览器会针对那么些处境采取同四个一而再:

地方第壹点不难通晓,第一点则很不难被忽视。实际上 谷歌已经这么做了,谷歌(Google) 一多重网址都共用了同1个表明,能够如此表明:

JavaScript

$ openssl s_client -connect google.com:443 |openssl x509 -noout -text |
grep DNS depth=2 C = US, O = GeoTrust Inc., CN = GeoTrust Global CA
verify error:num=20:unable to get local issuer certificate verify
return:0 DNS:*.google.com, DNS:*.android.com,
DNS:*.appengine.google.com, DNS:*.cloud.google.com,
DNS:*.google-analytics.com, DNS:*.google.ca, DNS:*.google.cl,
DNS:*.google.co.in, DNS:*.google.co.jp, DNS:*.google.co.uk,
DNS:*.google.com.ar, DNS:*.google.com.au, DNS:*.google.com.br,
DNS:*.google.com.co, DNS:*.google.com.mx, DNS:*.google.com.tr,
DNS:*.google.com.vn, DNS:*.google.de, DNS:*.google.es,
DNS:*.google.fr, DNS:*.google.hu, DNS:*.google.it, DNS:*.google.nl,
DNS:*.google.pl, DNS:*.google.pt, DNS:*.googleadapis.com,
DNS:*.googleapis.cn, DNS:*.googlecommerce.com, DNS:*.googlevideo.com,
DNS:*.gstatic.cn, DNS:*.gstatic.com, DNS:*.gvt1.com, DNS:*.gvt2.com,
DNS:*.metric.gstatic.com, DNS:*.urchin.com, DNS:*.url.google.com,
DNS:*.youtube-nocookie.com, DNS:*.youtube.com,
DNS:*.youtubeeducation.com, DNS:*.ytimg.com, DNS:android.com,
DNS:g.co, DNS:goo.gl, DNS:google-analytics.com, DNS:google.com,
DNS:googlecommerce.com, DNS:urchin.com, DNS:youtu.be, DNS:youtube.com,
DNS:youtubeeducation.com

1
2
3
4
5
6
7
$ openssl s_client -connect google.com:443 |openssl x509 -noout -text | grep DNS
 
depth=2 C = US, O = GeoTrust Inc., CN = GeoTrust Global CA
verify error:num=20:unable to get local issuer certificate
verify return:0
                DNS:*.google.com, DNS:*.android.com, DNS:*.appengine.google.com, DNS:*.cloud.google.com, DNS:*.google-analytics.com, DNS:*.google.ca, DNS:*.google.cl, DNS:*.google.co.in, DNS:*.google.co.jp, DNS:*.google.co.uk, DNS:*.google.com.ar, DNS:*.google.com.au, DNS:*.google.com.br, DNS:*.google.com.co, DNS:*.google.com.mx, DNS:*.google.com.tr, DNS:*.google.com.vn, DNS:*.google.de, DNS:*.google.es, DNS:*.google.fr, DNS:*.google.hu, DNS:*.google.it, DNS:*.google.nl, DNS:*.google.pl, DNS:*.google.pt, DNS:*.googleadapis.com, DNS:*.googleapis.cn, DNS:*.googlecommerce.com, DNS:*.googlevideo.com, DNS:*.gstatic.cn, DNS:*.gstatic.com, DNS:*.gvt1.com, DNS:*.gvt2.com, DNS:*.metric.gstatic.com, DNS:*.urchin.com, DNS:*.url.google.com, DNS:*.youtube-nocookie.com, DNS:*.youtube.com, DNS:*.youtubeeducation.com, DNS:*.ytimg.com, DNS:android.com, DNS:g.co, DNS:goo.gl, DNS:google-analytics.com, DNS:google.com, DNS:googlecommerce.com, DNS:urchin.com, DNS:youtu.be, DNS:youtube.com, DNS:youtubeeducation.com
 

使用多域名加上同样的 IP 和申明安插 Web 服务有尤其的意思:让扶助 HTTP/2的极限只建立2个总是,用上 HTTP/贰 协议带来的各类利益;而只扶助 HTTP/一.一的终极则会创设多少个延续,达到同时越多并发请求的目标。那在 HTTP/二完全普及前也是八个科学的选项。

本文就写到那里,希望能给对 HTTP/2感兴趣的同窗带来扶助,也欢迎大家继续关切本博客的「HTTP/2
专题
」。

打赏支持自个儿写出越来越多好小说,多谢!


打赏作者

总结

在进行 HTTP/二网址质量优化时很要紧一点是「使用尽可能少的连接数」,本文提到的头顶压缩是个中二个很重大的缘由:同三个连连上发出的呼吁和响应越来越多,动态字典积累得越全,底部压缩效果也就越好。所以,针对
HTTP/二 网站,最棒实践是决不合并财富,不要散列域名。

暗中同意处境下,浏览器会针对那几个情状选用同八个总是:

上面第3点简单理解,第壹点则很容易被忽略。实际上 谷歌已经这样做了,谷歌 一层层网址都共用了同一个证件,能够那样表明:

$ openssl s_client -connect google.com:443 |openssl x509 -noout -text |
grep DNS depth=2 C = US, O = GeoTrust Inc., CN = GeoTrust Global CA
verify error:num=20:unable to get local issuer certificate verify
return:0 DNS:*.google.com, DNS:*.android.com,
DNS:*.appengine.google.com, DNS:*.cloud.google.com,
DNS:*.google-analytics.com, DNS:*.google.ca, DNS:*.google.cl,
DNS:*.google.co.in, DNS:*.google.co.jp, DNS:*.google.co.uk,
DNS:*.google.com.ar, DNS:*.google.com.au, DNS:*.google.com.br,
DNS:*.google.com.co, DNS:*.google.com.mx, DNS:*.google.com.tr,
DNS:*.google.com.vn, DNS:*.google.de, DNS:*.google.es,
DNS:*.google.fr, DNS:*.google.hu, DNS:*.google.it, DNS:*.google.nl,
DNS:*.google.pl, DNS:*.google.pt, DNS:*.googleadapis.com,
DNS:*.googleapis.cn, DNS:*.googlecommerce.com, DNS:*.googlevideo.com,
DNS:*.gstatic.cn, DNS:*.gstatic.com, DNS:*.gvt1.com, DNS:*.gvt2.com,
DNS:*.metric.gstatic.com, DNS:*.urchin.com, DNS:*.url.google.com,
DNS:*.youtube-nocookie.com, DNS:*.youtube.com,
DNS:*.youtubeeducation.com, DNS:*.ytimg.com, DNS:android.com,
DNS:g.co, DNS:goo.gl, DNS:google-analytics.com, DNS:google.com,
DNS:googlecommerce.com, DNS:urchin.com, DNS:youtu.be, DNS:youtube.com,
DNS:youtubeeducation.com

1
2
3
4
5
6
$ openssl s_client -connect google.com:443 |openssl x509 -noout -text | grep DNS
 
depth=2 C = US, O = GeoTrust Inc., CN = GeoTrust Global CA
verify error:num=20:unable to get local issuer certificate
verify return:0
                DNS:*.google.com, DNS:*.android.com, DNS:*.appengine.google.com, DNS:*.cloud.google.com, DNS:*.google-analytics.com, DNS:*.google.ca, DNS:*.google.cl, DNS:*.google.co.in, DNS:*.google.co.jp, DNS:*.google.co.uk, DNS:*.google.com.ar, DNS:*.google.com.au, DNS:*.google.com.br, DNS:*.google.com.co, DNS:*.google.com.mx, DNS:*.google.com.tr, DNS:*.google.com.vn, DNS:*.google.de, DNS:*.google.es, DNS:*.google.fr, DNS:*.google.hu, DNS:*.google.it, DNS:*.google.nl, DNS:*.google.pl, DNS:*.google.pt, DNS:*.googleadapis.com, DNS:*.googleapis.cn, DNS:*.googlecommerce.com, DNS:*.googlevideo.com, DNS:*.gstatic.cn, DNS:*.gstatic.com, DNS:*.gvt1.com, DNS:*.gvt2.com, DNS:*.metric.gstatic.com, DNS:*.urchin.com, DNS:*.url.google.com, DNS:*.youtube-nocookie.com, DNS:*.youtube.com, DNS:*.youtubeeducation.com, DNS:*.ytimg.com, DNS:android.com, DNS:g.co, DNS:goo.gl, DNS:google-analytics.com, DNS:google.com, DNS:googlecommerce.com, DNS:urchin.com, DNS:youtu.be, DNS:youtube.com, DNS:youtubeeducation.com

运用多域名加上同样的 IP 和注明安插 Web 服务有特出的意思:让援助 HTTP/2的终端只建立三个接连,用上 HTTP/2 协议带来的各类利益;而只帮忙 HTTP/一.1的顶点则会创立多少个三番五次,达到同时更加多并发请求的指标。这在 HTTP/二完全普及前也是四个没有错的选择。

1 赞 收藏
评论

图片 6

缘何要缩短

在 HTTP/一 中,HTTP 请求和响应都是由「状态行、请求 /
响应底部、音信主体」叁片段构成。一般而言,消息主体都会经过 gzip
压缩,或许本身传输的正是缩减过后的贰进制文件(例如图片、音频),但气象行和尾部却从没通过其余压缩,直接以纯文本传输。

乘势 Web 成效更是复杂,每一种页面暴发的伸手数也更加多,根据 HTTP
Archive

的总结,当前平均种种页面都会时有产生许八个请求。更多的请求导致消耗在头顶的流量更多,尤其是历次都要传输
UserAgent、Cookie 那类不会反复变动的内容,完全是1种浪费。

以下是自个儿随手打开的一个页面包车型大巴抓包结果。能够看出,传输尾部的互连网支出超越十0kb,比 HTML 还多:

图片 7

上面是里面三个伸手的有心人。能够见到,为了获得 5八字节的数目,在头顶传输上花费了某个倍的流量:

图片 8

HTTP/一时期,为了削减底部消耗的流量,有不少优化方案得以尝尝,例如合并请求、启用
Cookie-Free
域名等等,然则那些方案或多或少会引进一些新的标题,这里不展开研究。

怎么要削减

在 HTTP/1 中,HTTP 请求和响应都以由「状态行、请求 /
响应底部、新闻主体」三部分组成。1般而言,音信主体都会通过 gzip
压缩,可能自身传输的正是压缩过后的②进制文件(例如图片、音频),但气象行和尾部却从没经过任何压缩,直接以纯文本传输。

乘势 Web 成效尤为复杂,各种页面发生的请求数也更是多,依据 HTTP
Archive
 的计算,当前平均各样页面都会爆发许多少个请求。越多的乞请导致消耗在头顶的流量越多,尤其是每一次都要传输
UserAgent、Cookie 那类不会反复变更的始末,完全是1种浪费。

以下是本身顺手打开的多少个页面包车型客车抓包结果。能够看来,传输尾部的互联网支付超过十0kb,比 HTML 还多:

图片 9

下边是中间二个伸手的密切。能够看出,为了赢得 58字节的数额,在头顶传输上海消防费了一点倍的流量:

图片 10

HTTP/壹时期,为了缩短尾部消耗的流量,有过多优化方案得以品味,例如合并请求、启用
Cookie-Free
域名等等,可是那个方案或多或少会引进1些新的题材,那里不展开研究。

缩减后的功力

接下去本身将选取访问本博客的抓包记录以来明 HTTP/三头部压缩带来的变迁。如何选拔 Wireshark 对 HTTPS
网址实行抓包并解密,请看自己的那篇小说

第3直接上海教室。下图选中的 Stream 是首次访问本站,浏览器发出的央浼头:

图片 11

从图纸中得以看来那么些 HEADE汉兰达S 流的长度是 20陆 个字节,而解码后的底院长度有
45一 个字节。总而言之,压缩后的头顶大小收缩了二分一多。

可是这正是整整啊?再上一张图。下图选中的 Stream
是点击本站链接后,浏览器发出的伸手头:

图片 12

能够看来这二遍,HEADE宝马X5S 流的尺寸唯有 4九 个字节,可是解码后的头顶长度却有
470 个字节。那3次,压缩后的底部大小大致唯有原来大小的 一成。

为啥前后三次差别这么大吗?我们把四次的底部音信进行,查看同一个字段五回传输所占据的字节数:

图片 13

图片 14

比较后能够窥见,第3遍的呼吁尾部之所以非常小,是因为多数键值对只占用了1个字节。越发是
UserAgent、Cookie
这样的头顶,第3次呼吁中须求占用很多字节,后续请求中都只须要三个字节。

削减后的效应

接下去自身将应用访问本博客的抓包记录以来明 HTTP/二尾部压缩带来的变更。怎样使用 Wireshark 对 HTTPS
网址举行抓包并解密,请看自己的这篇小说。本文使用的抓包文件,能够点此地下载

首先直接上图。下图选中的 Stream 是第三回访问本站,浏览器发出的乞请头:

图片 15

从图纸中得以看到那一个 HEADE纳瓦拉S 流的长度是 20陆 个字节,而解码后的尾市长度有
45一 个字节。综上说述,压缩后的头顶大小缩小了四分之贰多。

不过那就是全数呢?再上一张图。下图选中的 Stream
是点击本站链接后,浏览器发出的呼吁头:

图片 16

能够见到那三回,HEADEPAJEROS 流的尺寸唯有 4九 个字节,然而解码后的头顶长度却有
470 个字节。那2回,压缩后的尾部大小大约只有原来大小的 十分一。

为啥前后五次差异这么大吗?我们把一回的底部消息实行,查看同三个字段一遍传输所占据的字节数:

图片 17

图片 18

相比较后能够窥见,第一回的伏乞底部之所以相当的小,是因为多数键值对只占用了二个字节。特别是
UserAgent、Cookie
那样的头顶,第三遍呼吁中须求占用很多字节,后续请求中都只供给二个字节。

HTTP/2 底部压缩技术介绍

2016/04/13 · 基础技术 ·
HTTP/2

本文小编: 伯乐在线
JerryQu
。未经小编许可,禁止转发!
欢迎加入伯乐在线 专栏撰稿人

大家领略,HTTP/二 协议由多个 LANDFC 组成:贰个是 RFC
7540
,描述了 HTTP/二协议本人;二个是 RFC
7541
,描述了 HTTP/二协议中采取的尾部压缩技术。本文将通过实际案例指引我们详细地认识 HTTP/2底部压缩那门技术。

HTTP/2 底部压缩技术介绍

2015/11/03 · HTML5 ·
HTTP/2

初稿出处:
imququ(@屈光宇)   

大家驾驭,HTTP/二 协议由多个 BMWX叁FC 组成:三个是 RFC
7540
,描述了 HTTP/贰协议本人;三个是 RFC
7541
,描述了 HTTP/2协议中采纳的尾部压缩技术。本文将通超过实际际案例引导大家详细地认识 HTTP/二底部压缩那门技术。

技巧原理

下边那张截图,取自 谷歌(Google) 的性子专家 Ilya Grigorik 在 Velocity 20壹伍 • SC
会议中享受的「HTTP/2 is here, let’s
optimize!
」,分外直观地叙述了
HTTP/二 中底部压缩的规律:

图片 19

本人再用浅显的语言说明下,底部压缩需求在支撑 HTTP/二 的浏览器和服务端之间:

静态字典的功用有五个:一)对于截然合作的底部键值对,例如
:method: GET,能够间接运用3个字符表示;二)对于底部名称能够同盟的键值对,例如
cookie: xxxxxxx,能够将名称使用1个字符表示。HTTP/2中的静态字典如下(以下只截取了部分,完整表格在这里):

Index Header Name Header Value
1 :authority
2 :method GET
3 :method POST
4 :path /
5 :path /index.html
6 :scheme http
7 :scheme https
8 :status 200
32 cookie
60 via
61 www-authenticate

还要,浏览器可以告知服务端,将 cookie: xxxxxxx
添加到动态字典中,那样持续一切键值对就能够运用贰个字符表示了。类似的,服务端也足以立异对方的动态字典。需求小心的是,动态字典上下文有关,须求为种种HTTP/二 连接维护差异的字典。

运用字典能够大幅度地升级压缩效果,在那之中静态字典在第二遍呼吁中就能够动用。对于静态、动态字典中不设有的内容,还能使用哈夫曼编码来减小容积。HTTP/二使用了一份静态哈夫曼码表(详见),也需求内置在客户端和服务端之中。

此处顺便说一下,HTTP/一 的动静行音讯(Method、Path、Status 等),在
HTTP/2中被拆成键值对放入底部(冒号起先的那多少个),同样能够大饱眼福到字典和哈夫曼压缩。别的,HTTP/第22中学兼有底部名称必须小写。

贯彻细节

叩问了 HTTP/二 尾部压缩的基本原理,最终大家来看一下现实的兑现细节。HTTP/二的底部键值对有以下这几个情形:

一)整个头部键值对都在字典中

JavaScript

0 1 2 3 4 5 6 7 +—+—+—+—+—+—+—+—+ | 1 | Index (7+) |
+—+—————————+

1
2
3
4
5
  0   1   2   3   4   5   6   7
+—+—+—+—+—+—+—+—+
| 1 |        Index (7+)         |
+—+—————————+
 

这是最简便的情况,使用一个字节就可以象征那几个尾部了,最左一个人稳定为
1,之后多个人存放键值对在静态或动态字典中的索引。例如下图中,尾部索引值为
2(00000十),在静态字典中查询可得 :
method :GET

图片 20

二)尾部名称在字典中,更新动态字典

JavaScript

0 1 2 3 4 5 6 7 +—+—+—+—+—+—+—+—+ | 0 | 1 | Index (6+) |
+—+—+———————–+ | H | Value Length (7+) |
+—+—————————+ | Value String (Length octets) |
+——————————-+

1
2
3
4
5
6
7
8
9
  0   1   2   3   4   5   6   7
+—+—+—+—+—+—+—+—+
| 0 | 1 |      Index (6+)       |
+—+—+———————–+
| H |     Value Length (7+)     |
+—+—————————+
| Value String (Length octets)  |
+——————————-+
 

对于那种情景,首先需求使用一个字节表示底部名称:左两位稳定为
0一,之后5人存放尾部名称在静态或动态字典中的索引。接下来的叁个字节第二位H 表示底部值是或不是使用了哈夫曼编码,剩余六个人表示底部值的长短 L,后续 L
个字节便是底部值的具体内容了。例如下图中索引值为
32(一千00),在静态字典中询问可得  cookie ;底部值使用了哈夫曼编码(一),长度是
2捌(0011拾0);接下去的 二十多少个字节是 cookie 的值,将其进展哈夫曼解码就能获得具体内容。

图片 21

客户端或服务端看到那种格式的头顶键值对,会将其添加到本身的动态字典中。后续传输那样的剧情,就适合第二 种情景了。

三)底部名称不在字典中,更新动态字典

JavaScript

0 1 2 3 4 5 6 7 +—+—+—+—+—+—+—+—+ | 0 | 1 | 0 |
+—+—+———————–+ | H | Name Length (7+) |
+—+—————————+ | Name String (Length octets) |
+—+—————————+ | H | Value Length (7+) |
+—+—————————+ | Value String (Length octets) |
+——————————-+

1
2
3
4
5
6
7
8
9
10
11
12
13
  0   1   2   3   4   5   6   7
+—+—+—+—+—+—+—+—+
| 0 | 1 |           0           |
+—+—+———————–+
| H |     Name Length (7+)      |
+—+—————————+
|  Name String (Length octets)  |
+—+—————————+
| H |     Value Length (7+)     |
+—+—————————+
| Value String (Length octets)  |
+——————————-+
 

那种情形与第 二种状态好像,只是由于尾部名称不在字典中,所以率先个字节固定为
01000000;接着证明名称是不是使用哈夫曼编码及长度,并放上名称的具体内容;再表明值是不是利用哈夫曼编码及长度,最终放上值的具体内容。例如下图中名称的尺寸是
伍(0000十1),值的长短是
陆(00001十)。对其具体内容实行哈夫曼解码后,可得 pragma: no-cache 。

图片 22

客户端或服务端看到那种格式的头顶键值对,会将其添加到本身的动态字典中。后续传输那样的始末,就符合第2 种状态了。

4)底部名称在字典中,不允许更新动态字典

JavaScript

0 1 2 3 4 5 6 7 +—+—+—+—+—+—+—+—+ | 0 | 0 | 0 | 1 |
Index (4+) | +—+—+———————–+ | H | Value Length (7+) |
+—+—————————+ | Value String (Length octets) |
+——————————-+

1
2
3
4
5
6
7
8
9
  0   1   2   3   4   5   6   7
+—+—+—+—+—+—+—+—+
| 0 | 0 | 0 | 1 |  Index (4+)   |
+—+—+———————–+
| H |     Value Length (7+)     |
+—+—————————+
| Value String (Length octets)  |
+——————————-+
 

那种意况与第 二 种意况至极接近,唯壹差别之处是:第多少个字节左贰位稳定为
000一,只剩余3位来存放索引了,如下图:

图片 23

此处供给介绍其它1个知识点:对整数的解码。上图中第一个字节为
0001111壹,并不代表底部名称的目录为 一5(111一)。第多个字节去掉固定的
000一,只剩三位可用,将位数用 N 表示,它不得不用来代表小于「2 ^ N – 一 =
1伍」的整数 I。对于 I,必要依据以下规则求值(宝马X三FC 7541中的伪代码,via):

Python

if I < 2 ^ N – 1, return I # I 小于 二 ^ N – 壹 时,直接回到 else M =
0 repeat B = next octet # 让 B 等于下2个八个人 I = I + (B & 1二7) * 2 ^
M # I = I + (B 低七位 * 2 ^ M) M = M + 7 while B & 128 == 128 # B
最高位 = 1 时一连,不然再次回到 I return I

1
2
3
4
5
6
7
8
9
if I < 2 ^ N – 1, return I         # I 小于 2 ^ N – 1 时,直接返回
else
    M = 0
    repeat
        B = next octet             # 让 B 等于下一个八位
        I = I + (B & 127) * 2 ^ M  # I = I + (B 低七位 * 2 ^ M)
        M = M + 7
    while B & 128 == 128           # B 最高位 = 1 时继续,否则返回 I
    return I

对此上海教室中的数据,依照这一个规则算出索引值为 3二(00011111 000一千一,壹伍 +
一七),代表  cookie 。须要留意的是,协议中享有写成(N+)的数字,例如
Index (四+)、Name Length (七+),都亟待根据那个规则来编码和解码。

那种格式的底部键值对,不允许被添加到动态字典中(但能够利用哈夫曼编码)。对于壹些可怜灵动的尾部,比如用来注明的
Cookie,这么做能够增强安全性。

5)底部名称不在字典中,不容许更新动态字典

JavaScript

0 1 2 3 4 5 6 7 +—+—+—+—+—+—+—+—+ | 0 | 0 | 0 | 1 | 0 |
+—+—+———————–+ | H | Name Length (7+) |
+—+—————————+ | Name String (Length octets) |
+—+—————————+ | H | Value Length (7+) |
+—+—————————+ | Value String (Length octets) |
+——————————-+

1
2
3
4
5
6
7
8
9
10
11
12
13
  0   1   2   3   4   5   6   7
+—+—+—+—+—+—+—+—+
| 0 | 0 | 0 | 1 |       0       |
+—+—+———————–+
| H |     Name Length (7+)      |
+—+—————————+
|  Name String (Length octets)  |
+—+—————————+
| H |     Value Length (7+)     |
+—+—————————+
| Value String (Length octets)  |
+——————————-+
 

那种场地与第 3 种情景非常周围,唯壹不一样之处是:第一个字节固定为
000一千0。那种气象相比少见,未有截图,各位能够脑补。同样,那种格式的头顶键值对,也不容许被添加到动态字典中,只好动用哈夫曼编码来减少年体育积。

事实上,协议中还规定了与 4、五 万分周边的此外二种格式:将 4、5格式中的第3个字节第一人由 1 改为 0
即可。它意味着「本次不创新动态词典」,而 四、五表示「相对不允许更新动态词典」。分化不是十分大,那里略过。

明亮了底部压缩的技术细节,理论上得以很自在写出 HTTP/2底部解码工具了。作者比较懒,直接找来 node-http2中的 compressor.js 验证一下:

JavaScript

var Decompressor = require(‘./compressor’).Decompressor; var testLog =
require(‘bunyan’).createLogger({name: ‘test’}); var decompressor = new
Decompressor(testLog, ‘REQUEST’); var buffer = new
Buffer(‘820481634188353daded6ae43d3f877abdd07f66a281b0dae053fad0321aa49d13fda992a49685340c8a6adca7e28102e10fda9677b8d05707f6a62293a9d810020004015309ac2ca7f2c3415c1f53b0497ca589d34d1f43aeba0c41a4c7a98f33a69a3fdf9a68fa1d75d0620d263d4c79a68fbed00177febe58f9fbed00177b518b2d4b70ddf45abefb4005db901f1184ef034eff609cb60725034f48e1561c8469669f081678ae3eb3afba465f7cb234db9f4085aec1cd48ff86a8eb10649cbf’,
‘hex’); console.log(decompressor.decompress(buffer));
decompressor._table.forEach(function(row, index) { console.log(index +
1, row[0], row[1]); });

1
2
3
4
5
6
7
8
9
10
11
12
var Decompressor = require(‘./compressor’).Decompressor;
 
var testLog = require(‘bunyan’).createLogger({name: ‘test’});
var decompressor = new Decompressor(testLog, ‘REQUEST’);
 
var buffer = new Buffer(‘820481634188353daded6ae43d3f877abdd07f66a281b0dae053fad0321aa49d13fda992a49685340c8a6adca7e28102e10fda9677b8d05707f6a62293a9d810020004015309ac2ca7f2c3415c1f53b0497ca589d34d1f43aeba0c41a4c7a98f33a69a3fdf9a68fa1d75d0620d263d4c79a68fbed00177febe58f9fbed00177b518b2d4b70ddf45abefb4005db901f1184ef034eff609cb60725034f48e1561c8469669f081678ae3eb3afba465f7cb234db9f4085aec1cd48ff86a8eb10649cbf’, ‘hex’);
 
console.log(decompressor.decompress(buffer));
 
decompressor._table.forEach(function(row, index) {
    console.log(index + 1, row[0], row[1]);
});

尾部原始数据来源于于本文第一张截图,运转结果如下(静态字典只截取了一片段):

{ ‘:method’: ‘GET’, ‘:path’: ‘/’, ‘:authority’: ‘imququ.com’, ‘:scheme’:
‘https’, ‘user-agent’: ‘Mozilla/5.0 (Macintosh; Intel Mac OS X 10.11;
rv:41.0) Gecko/20100101 Firefox/41.0’, accept:
‘text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8’,
‘accept-language’: ‘en-US,en;q=0.5’, ‘accept-encoding’: ‘gzip, deflate’,
cookie: ‘v=47; u=6f048d6e-adc4-4910-8e69-797c399ed456’, pragma:
‘no-cache’ } 1 ‘:authority’ ” 2 ‘:method’ ‘GET’ 3 ‘:method’ ‘POST’ 4
‘:path’ ‘/’ 5 ‘:path’ ‘/index.html’ 6 ‘:scheme’ ‘http’ 7 ‘:scheme’
‘https’ 8 ‘:status’ ‘200’ … … 32 ‘cookie’ ” … … 60 ‘via’ ” 61
‘www-authenticate’ ” 62 ‘pragma’ ‘no-cache’ 63 ‘cookie’
‘u=6f048d6e-adc4-4910-8e69-797c399ed456’ 64 ‘accept-language’
‘en-US,en;q=0.5’ 65 ‘accept’
‘text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8’ 66
‘user-agent’ ‘Mozilla/5.0 (Macintosh; Intel Mac OS X 10.11; rv:41.0)
Gecko/20100101 Firefox/41.0’ 67 ‘:authority’ ‘imququ.com’

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
{ ‘:method’: ‘GET’,
  ‘:path’: ‘/’,
  ‘:authority’: ‘imququ.com’,
  ‘:scheme’: ‘https’,
  ‘user-agent’: ‘Mozilla/5.0 (Macintosh; Intel Mac OS X 10.11; rv:41.0) Gecko/20100101 Firefox/41.0’,
  accept: ‘text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8’,
  ‘accept-language’: ‘en-US,en;q=0.5’,
  ‘accept-encoding’: ‘gzip, deflate’,
  cookie: ‘v=47; u=6f048d6e-adc4-4910-8e69-797c399ed456’,
  pragma: ‘no-cache’ }
1 ‘:authority’ ”
2 ‘:method’ ‘GET’
3 ‘:method’ ‘POST’
4 ‘:path’ ‘/’
5 ‘:path’ ‘/index.html’
6 ‘:scheme’ ‘http’
7 ‘:scheme’ ‘https’
8 ‘:status’ ‘200’
… …
32 ‘cookie’ ”
… …
60 ‘via’ ”
61 ‘www-authenticate’ ”
62 ‘pragma’ ‘no-cache’
63 ‘cookie’ ‘u=6f048d6e-adc4-4910-8e69-797c399ed456’
64 ‘accept-language’ ‘en-US,en;q=0.5’
65 ‘accept’ ‘text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8’
66 ‘user-agent’ ‘Mozilla/5.0 (Macintosh; Intel Mac OS X 10.11; rv:41.0) Gecko/20100101 Firefox/41.0’
67 ‘:authority’ ‘imququ.com’

能够观察,那段从 Wireshark
拷出来的尾部数据足以健康解码,动态字典也获得了更新(62 – 六7)。

打赏援救作者写出愈多好文章,感激!

任选一种支付办法

图片 24
图片 25

1 赞 3 收藏
评论

有关笔者:JerryQu

图片 26

专注 Web 开发,关怀 Web
质量优化与安全。https://imququ.com
个人主页
·
小编的文章
·
2
·
  

图片 27

相关文章

发表评论

电子邮件地址不会被公开。 必填项已用*标注

网站地图xml地图