前言
通常如果一样东西需要编码,说明这样东西并不适合传输。原因多种多样,如Size过大,包含隐私数据。对于URL来说,之所以要进行编码,是因为URL中有些字符会引起歧义。
为何会引起歧义
- 例如,URL参数字符串中使用
key=value
键值对这样的形式来传参,键值对之间以&
符号分隔,如/s?q=abc&ie=utf-8
。 - 如果你的
value
字符串中包含了=
或者&
,那么势必会造成接收Url的服务器解析错误,因此必须将引起歧义的&
和=
符号进行转义,也就是对其进行编码。
URL的编码格式采用的是
ASCII码
,而不是Unicode
,这也就是说你不能在URL中包含任何非ASCII字符,例如中文
。
否则如果客户端浏览器和服务端浏览器支持的字符集不同
的情况下,中文
可能会造成问题。
URL的编码原则
URL编码的原则就是
使用安全的字符
(没有特殊用途或者特殊意义的可打印字符)去表示那些不安全的字符。
预备知识
URI是统一资源标识的意思,通常我们所说的URL只是URI
的一种。典型URL的格式如上面所示。下面提到的URL编码
,实际上应该指的是URI编码
。
哪些字符需要编码
RFC3986
文档规定,URL中只允许包含英文字母(a-zA-Z)
、数字(0-9)
、-_.~4
个特殊字符以及所有保留字符
。
RFC3986
文档对URL的编解码问题做出了详细的建议,指出了哪些字符需要被编码才不会引起Url语义的转变,以及对为什么这些字符需要编码做出了相应的解释。
-
US-ASCII字符集
中没有对应的可打印字符:URL中只允许使用可打印字符
。 -
US-ASCII码
中的10-7F字节
全都表示控制字符,这些字符都不能直接出现在URL中。 - 同时,对于
80-FF字节(ISO-8859-1
),由于已经超出了US-ACII定义的字节范围,因此也不可以放在URL中。
保留字符
- URL可以划分成若干个组件,
协议
、主机
、路径
等。 - 有一些字符
(:/?#[]@)
是用作分隔不同组件
的。
例如:
冒号
用于分隔协议和主机,/
用于分隔主机和路径,?
用于分隔路径和查询参数,等等。
- 还有一些字符
(!$&'()*+,;=)
用于在每个组件中起到分隔作用的,
如
=
用于表示查询参数中的键值对
,&符号
用于分隔查询多个键值对
;当组件中的普通数据包含这些特殊字符时,需要对其进行编码
。
- RFC3986中指定了以下字符为保留字符:
! * ' ( ) ; : @ & = + $ , / ? # [ ]
不安全字符
还有一些字符,当他们直接放在Url中的时候,可能会引起解析程序的歧义。这些字符被视为不安全字符
,原因有很多。
- 空格
URL在传输的过程,或者用户在排版的过程,或者文本处理程序在处理URL的过程,都有可能引入无关紧要的空格,或者将那些有意义的空格给去掉。
- 引号以及<>
引号和尖括号通常用于在普通文本中起到分隔Url的作用
- ** #**
通常用于表示书签或者锚点
- %
百分号
本身用作对不安全字符进行编码时使用的特殊字符,因此本身需要编码
- {}|^[]`~
某一些网关或者传输代理会篡改这些字符
注意事项
需要注意的是,对于URL
中的合法字符
,编码和不编码是等价的。
但是对于上面提到的这些字符,如果不经过编码
,那么它们有可能会造成Url语义的不同
。
因此对于URL而言,只有普通英文字符
和数字
,特殊字符$-_.+!*'()
还有保留字符
,才能出现在未经编码的URL之中。其他字符均需要经过编码之后才能出现在URL中。
但是由于历史原因,目前尚存在一些不标准的编码实现。例如对于符号,虽然RFC3986文档规定,对于波浪符号,不需要进行Url编码,但是还是有很多老的网关或者传输代理会。
如何对Url中的非法字符进行编码
URL编码
通常也被称为百分号编码
(Url Encoding,also known as percent-encoding)。
是因为它的编码方式非常简单,使用
%百分号
加上两位的字符
(0123456789ABCDEF)代表一个字节的十六进制形式。
URL编码
默认使用的字符集
是US-ASCII
。
例如
a
在US-ASCII
码中对应的字节是0x61
,那么URL编码之后得到的就是%61
.
我们在地址栏上输入http://g.cn/search?q=%61%62%63
,实际上就等同于在google上搜索abc
了。
又如@符号
在ASCII字符集
中对应的字节为0x40
,经过Url编码
之后得到的是%40
。
- 对于非ASCII字符,需要使用ASCII字符集的
超集进行编码
得到相应的字节;然后对每个字节
执行百分号编码
。 - 对于
Unicode字符
,RFC文档
建议使用utf-8
对其进行编码
得到相应的字节,然后对每个字节执行百分号编码
。
如
"中文"
使用UTF-8字符集
得到的字节为0xE4 0xB8 0xAD 0xE6 0x96 0x87
,
经过Url编码
之后得到"%E4%B8%AD%E6%96%87
"
- 如果某个字节对应着
ASCII字符集
中的某个非保留字符
,则此字节无需使用百分号
表示。
例如
"URL编码"
,使用UTF-8编码
得到的字节是0x55 0x72 0x6C 0xE7 0xBC 0x96 0xE7 0xA0 0x81
,由于前三个字节对应着ASCII中
的非保留字符"Url",因此这三个字节可以用非保留字符"Url"表示。
最终的Url编码可以简化成"Url%E7%BC%96%E7%A0%81"
,
当然,如果你用"%55%72%6C%E7%BC%96%E7%A0%81"
也是可以的。