摘要：概念是一种针对的可变长度字符编码，又称万国码。通过上面的介绍我们可以知道，是一种非常通用的可变长字符编码方式。概念是字符编码五层次模型的第三层字符编码表，也称为的一种实现方式。
概述
本文通过介绍Unicode编码以及对应的两种编码方式UTF-8和UTF-16，让读者能够了解关于字符串编码的相关知识，同时能够弄清楚Unicode和UTF-8和UTF-16之间的关系。
本文的主要内容为：
Unicode编码，包含Unicode编码基础知识以及与UTF-8和UTF-16这两种编码方式的关系
UTF-8编码，包含基础概念和Unicode编码转换到UTF-8编码方式
UTF-16编码，包含基础概念和Unicode编码转换到UTF-16编码方式
JavaScript中string与DOMString
本文作为utfx.js源码解析的基础知识储备文章，通过了解UTF-8和UTF-16这两种编码方式，读者能够理解使用JavaScript进行编码转换的原理。
如果想了解编码转换的使用场景，可以阅读我之前的博客WebSocket系列之JavaScript字符串如何与二进制数据间进行互相转换。
如果想了解utfx.js相关的源码内容，可以关注我的后续文章。
Unicode编码 概念Unicode（统一码、万国码、单一码）是计算机科学领域里的一项业界标准,包括字符集、编码方案等。Unicode 是为了解决传统的字符编码方案的局限而产生的，它为每种语言中的每个字符设定了统一并且唯一的二进制编码，以满足跨语言、跨平台进行文本转换、处理的要求。1990年开始研发，1994年正式公布。
通常Unicode编码是通过2 Byte来表示一个字符的，如U+A12B，2 Byte的二进制表示方法结果就是1010(A)0001(1) 0010(2)1011(B)。
简单介绍完了Unicode，我们来看下UTF-8和UTF-16。需要注意的是：UTF是Unicode TransferFormat的缩写，UTF-8和UTF-16都是把Unicode码转换成程序数据的一种编码方式。
UTF-8 概念UTF-8（8-bit Unicode Transformation Format）是一种针对Unicode的可变长度字符编码，又称万国码。由Ken Thompson于1992年创建。现在已经标准化为RFC 3629。UTF-8用1到6个字节编码Unicode字符。用在网页上可以统一页面显示中文简体繁体及其它语言（如英文，日文，韩文）。
通过上面的介绍我们可以知道，UTF-8是一种非常通用的可变长字符编码方式。
首先，我们来介绍下什么叫做可变长编码？可变长编码就是指在针对某个字符进行编码时，他的表示长度是不固定的。像UTF-8里面，ASCII所表示的字符集就是用1 Byte来表示，而大部分汉字则是用3 Byte来表示。
相较于Unicode统一使用2 Byte来表示字符，在遇到大部分字符都可以用1 Byte表示时，能够节省许多存储空间。但是，如果遇到需要用超过2 Byte来表示的字符，那么UTF-8的编码方式则会消耗更多的存储空间。
表示方式通过上面的介绍我们可以知道，不同的Unicode码在UTF-8中占用了不同的存储空间。下面我们就通过一个表格来看下将Unicode字符转换为UTF-8编码方式的具体步骤。其中的?表示转换成UTF-8编码后，Unicode码占用的二进制位置。
| Unicode码范围 | UTF-8编码方式 |
|---|---|
| U+0000~U+007F | 0???????? |
| U+0080~U+07FF | 110????? 10?????? |
| U+0800~U+FFFF | 1110???? 10?????? 10?????? |
| U+10000~U+10FFFF | 11110??? 10?????? 10?????? 10?????? |
当我们得到Unicode码后，我们先根据上面的这个表判断其所处的范围，然后将Unicode码转换为二进制表示，从后往前截取UTF-8编码中所留为之长度，从前往后依次填入对应位置，所即可得到UTF-8的编码。我们举两个例子来看下：
U+0020，这个字符的小于0000 007F，所以只需要用1 Byte来进行编码。U+0020的二进制表示为0000(0)0000(0) 0010(2)0000(0)，那么从后往前截取7位得到010 0000，放入UTF-8编码方式中，得到的结果为00101111，转换为十六进制得到2F。因此存储在内存中的的顺序就是2F。
U+A12B，这个字符大于0000 0800，小于0000 FFFF，因此需要用3 Byte来进行编码。U+A12B的二进制表示为1010(A)0001(1) 0010(2)1011(B)。，那么从后往前截取16位得到10100001 00101011（Unicode码本身），放入UTF-8编码中，得到的结果为11101010 10000100 10101011，转换十六进制得到EA84AB。因此，存储在内存中的顺序就是EA 84 AB。
通过上面的例子，我相信大家对UTF-8的编码有了一个深入的理解。下面，让我们来看下另一种编码方式——UTF-16。
UTF-16 概念UTF-16是Unicode字符编码五层次模型的第三层：字符编码表（Character Encoding Form，也称为 "storage format"）的一种实现方式。即把Unicode字符集的抽象码位映射为16位长的整数（即码元， 长度为2 Byte）的序列，用于数据存储或传递。Unicode字符的码位，需要1个或者2个16位长的码元来表示，因此这是一个变长表示。
引用维基百科中对于UTF-16编码的解释我们可以知道，UTF-16最少也会用2 Byte来表示一个字符，因此没有办法兼容ASCII编码（ASCII编码使用1 Byte来进行存储）。
表示方式在UTF-16中，我们将Unicode分为了两个范围，分别通过不同的方式进行存储。具体表示见下图。
| Unicode范围 | UTF-16编码方式 |
|---|---|
| U+000~U+FFFF | 2 Byte存储，编码后等于Unicode值 |
| U+10000~U+10FFFF | 4 Byte存储，现将Unicode值减去（0x10000），得到20bit长的值。再将Unicode分为高10位和低10位。UTF-16编码的高位是2 Byte，高10位Unicode范围为0-0x3FF，将Unicode值加上0XD800，得到高位代理（或称为前导代理，存储高位）；低位也是2 Byte，低十位Unicode范围一样为0~0x3FF，将Unicode值加上0xDC00,得到低位代理（或称为后尾代理，存储低位） |
根据上面的转换方式，我们就能够将Unicode码根据UTF-16的编码方式进行转换。下面我们仍然通过两个例子来看下：
U+0020，这个值的范围在第一部分，即经过UTF-16编码后，结果仍然为U+0020，在内存中的顺序为00 20。
U+12345, 这个值的范围在第二部分，因此需要先减去0x10000，得到0x02345，拆分成高10位00 0000 1000和低10位11 0100 0101。根据上面规则加上特定值后，高位代理值为D808，低位代理值为DF45，最终内存中的顺序为D8 08 DF 45。
JavaScript中的string与DOMString在JavaScript中，所有的string类型（或者被称为DOMString）都是使用UTF-16编码的。
因此，当我们需要转换成二进制与后端进行通信时，需要注意相关的编码方式。
总结本文通过对Unicode编码和UTF-8和UTF-16两种编码方式进行介绍，让大家了解Unicode编码以及相关的两种程序数据编码方式。
本文是作为utfx.js源码分析的基础知识储备文章，在稍后的时间将会给大家带来相关内容的后续文章——utfx.js源码解析，让大家能够了解在JavaScript中如何进行相关的编码转换。
文章版权归作者所有，未经允许请勿转载,若此文章存在违规行为，您可以联系管理员删除。
转载请注明本文地址：https://www.ucloud.cn/yun/94165.html
摘要：编码转换为编码下面让我们来看下如何将编码的数据转换为编码的数据。该方法是将码进行编码转换，从而得到编码的数据。 概述 当你在前端需要通过二进制数据与服务端进行通信时，你可能会遇到二进制数据的编码问题。大部分服务端的字符串编码类型都为UTF-8，而JavaScript中字符串编码类型是UTF-16，因此，你需要一个能够将字符串在两种编码方式间进行转换的方法。 本文通过对utfx.js这个...
摘要：本文大部分内容转自阮一峰前辈的文章，更新了部分内容并加入了部分自己的理解。字符串处理函数新增了几个专门处理字节码点的函数。参考链接阮一峰与详解辅助平面入门 本文大部分内容转自 阮一峰前辈的文章，更新了部分内容并加入了部分自己的理解。 Unicode是什么？ Unicode源于一个很简单的想法：将全世界所有的字符包含在一个集合里，计算机只要支持这一个字符集，就能显示所有的字符，再也不会有...
摘要：下文件名长度限制出现场景在迭代中有一个需求是将文件名修改为所有班级的名称集合，出现的班级过多导致的文件名过长在下无法创建文件和文件夹的情况解决方式经过查证，中文件名最长为字符，文件路径最大长度为字符。这是被编码方案决定的，通过来指定。 Linux下文件名长度限制 出现场景：在迭代中有一个需求是将pdf文件名修改为所有班级的名称集合，出现的班级过多导致的文件名过长在linux下无法创建文...
摘要：其他编码的可以参考，，的选择不考虑随机访问，，查找第个字符时间复杂度随机访问，只用之内的字符，，时间复杂度随机访问，超过了，详解编码 1.字符集vs字符编码，编码&解码 Character----->code point----->bytes 前两者字符集的关系，可以统称为codepoint；从codepoint到在计算机上的存储形式，称为编码，反过来称为解码； 字符集：单个符号（ch...
阅读 1465·2023-04-26 01:28
阅读 3293·2021-11-22 13:53
阅读 1398·2021-09-04 16:40
阅读 3172·2019-08-30 15:55
阅读 2649·2019-08-30 15:54
阅读 2472·2019-08-30 13:47
阅读 3316·2019-08-30 11:27
阅读 1132·2019-08-29 13:21
