亲宝软件园·资讯

展开

JavaScript开发中需要搞懂的字符编码总结

jimojianghu 人气:0

字符集和字符编码

字符集就是字符的集合,如常见的 ASCII字符集,GB2312字符集,Unicode字符集等。这些不同字符集之间最大的区别是所包含的字符数量的不同。

字符编码则代表字符集的实际编码规则,是用于计算机解析字符的,如 GB2312,GBK,UTF-8 等。字符编码的本质就是如何使用二进制字节来表示字符的问题。

字符集和编码是一对多的关系,同一字符集可能有多种字符编码,如Unicode字符集就有 UTF-8,UTF-16 等。

在前端开发中,Javascript程序是使用Unicode字符集,Javascript源码文本通常是基于UTF-8编码。
但JS代码中的字符串类型是UTF-16编码的,这也是为什么会碰到api接口返回字符串在前端出现乱码,因为多数后台服务都使用utf-8编码,前后编码方式不一致。

说起字符集的发展历程,可以总结为一句话:几乎都是对ASCII字符集的扩展。

ASCII

我们知道,计算机是使用二进制来处理信息的。
其中,每一个二进制位(bit)有 0和1 两种状态。一个字节(byte)则有8个二进制位,可以有256种状态。

而ASCII就是基于拉丁字母、主要用于显示英文的一种单字节字符集,它的编码和字符是一一对应的,因为它就是使用一个字节8个二进制位来表示,不会超过256个字符。

标准的ASCII字符总计有128个字符(2^7),其中前面32个控制字符,后面96个是可打印字符,包括常用的大小写字母数字标点符号等。因为只占用了一个字节的后7位,那字节的最高位一般设置为0。

'a'.charCodeAt() // 97
'A'.charCodeAt() // 65
'9'.charCodeAt() // 57
'.'.charCodeAt() // 46

如上,每个字符会对应一个编码(使用数字标识),总共会从0-128。完整的ASCII码表,网上很容易找到。

通过ASCII码表,我们发现,小写字母并没有和大写字母挨着排序?
这是为了方便大小写之间的转换, A 排在 65(64 + 1) 位,而 a 排在 97(64 + 32 + 1) 位。

65 ^ 32 = 97
// A ^ 32 = a

字符集的发展历史

ASCII是几乎所有字符集的基础。

标准的ASCII码最多只能标识128个字符,欧美国家可以很好的使用,但其他国家的字符变多,自然就不够用了。

这个时候,最高位就开始被惦记上,通过扩展ASCII码的最高位,又能满足用于特殊符号的一些国家的需求,这种就是扩展ASCII码。

但是亚非拉更多非拉丁语系的国家,字符成千上万,只能使用新的方式。

如中文,就又进行了扩展,小于127的字符的意义与标准ASCII码相同,当需要标识汉字时,使用2个字节,每个字节都大于127。这种多字节字符集即GB2312,后续因为不断的扩展,如繁体字和各种符号,甚至少数民族的语言符号等等,又使用了包括GBK等不同字符集。

因此,很多国家都制定了自己的编码字符集,基本都是在ASCII的基础上进行的。

各字符集虽然都能够兼容标准ASCII码,但在使用交流上的不便是显而易见的,乱码也是随处可见。为了解决这种各自为战的问题,Unicode字符集就诞生了。

Unicode

Unicode是国际组织制定的,用于收纳世界上所有文字和符号的字符集方案。

前128个字符同ASCII一样,进行扩充后,使用数字0-0x10FFFF来映射这些字符,最多可以有1114112个字符。目前仍然只使用了其中的一小部分。
Unicode一般使用两个字节来表示一个字符。

码点

字符平面

码元

编码方式码元编码后字节数
UTF-88位1-4字节
UTF-1616位2字节或者4字节
UTF-3232位4字节

另外,为什么总看到使用十六进制数据来表示如码点等各种数据呢?

因为,两位的十六进制正好等于一个字节8位,0xff = 0b11111111。

UTF-8

UTF-8是一种可变长度的字符编码方式。目前是使用 1 到 4 个字节来编码字符。

是互联网时代应用最广的一种编码方式,前端接触的相对最多。

需要注意的是:汉字一般占3个字节,表情符号一般占4个字节。

UTF-8的编码规则:

这里规定的都是前缀,对于字符的码点,需要进行截取后依次放入除前缀外的其他位,所以UTF-8又被称为前缀码。

格式如下表:

字节数码点位数码点范围编码方式
17U+0000~U+007F0×××××××
211U+0080~U+07FF110××××× 10××××××
316U+0800~U+FFFF1110×××× 10×××××× 10××××××
421U+10000~U+10FFFF11110××× 10×××××× 10×××××× 10××××××

通过上表的编码规则,我们就可以进行各种转换了。

下面我们以一个中文字符的编码转换为例,如汉字 '好':

'好'的Unicode码点:'好'.codePointAt() \\ 22909,结果是22909

22909在UTF-8的3字节数的编码区间 U+0800 (2048) ~ U+FFFF (65535)

22909的二进制值:101100101111101,有15位

而3字节数的编码需要16位,前面补0,根据表中规则分成3组:0101 100101 111101

依次填入对应的前缀:11100101 10100101 10111101,得到3个字节

将得到的三个字节转成十六进制数据:E5 A5 BD,所以汉字 '好' 的UTF-8就是:E5 A5 BD

我们使用 encodeURI 进行验证————encodeURI函数支持将中文进行 UTF-8 编码:

encodeURI('好') // '%E5%A5%BD'

去除百分号,结果正好一致。

UTF-16

UTF-16的编码方式:基本平面的字符占用 2 个字节(U+0000到U+FFFF),辅助平面的字符占用 4 个字节(U+010000到U+10FFFF)。
也就是说,UTF-16的编码长度要么是2个字节要么是4个字节。当为2字节时,则实际上是与Unicode相同。

并且还有个原则,在Unicode基本多语言平面内,从U+D800到U+DFFF之间的码点区间是不对应字符的。而UTF-16需要利用这块码位来对辅助平面的字符进行编码。

它的具体规则:

码点小于U+FFFF,基本字符,不需处理,直接使用,占两个字节。

否则,拆分成两个码元,四个字节,cp表示码点:

低位——((cp - 65536) / 1024) + 0xD800,值范围是 0xD800~0xDBFF;

高位——((cp - 65536) % 1024) + 0xDC00,值范围是 0xDC00~0xDFFF。

看下面的示例:

1.汉字 '好','好'.codePointAt() // 22909,码点小于U+FFFF,直接进行十六进制转换:579D。

2.表情符号 '

加载全部内容

相关教程
猜你喜欢
用户评论