字元編碼

維基百科,自由的百科全書
(已重新導向自 字符集)
前往: 導覽搜尋

字元編碼英語Character encoding)、字集碼是把字符集中的字元編碼為指定集合中某一物件(例如:位元模式、自然數序列8位元組或者電脈衝),以便文字電腦中儲存和透過通訊網路的傳遞。常見的例子包括將拉丁字母表編碼成摩斯電碼ASCII。其中,ASCII將字母、數位和其它符號編號,並用7位元二進制來表示這個整數。通常會額外使用一個擴充的位元,以便於以1個位元組的方式儲存。

在電腦技術發展的早期,如ASCII(1963年)和EBCDIC(1964年)這樣的字符集逐漸成為標準。但這些字符集的局限很快就變得明顯,於是人們開發了許多方法來擴充功能它們。對於支援包括東亞CJK字元家族在內的寫作系統的要求能支援更大量的字元,並且需要一種系統而不是臨時的方法實作這些字元的編碼。

簡單字符集[編輯]

按照慣例,人們認為字符集和字元編碼是同義詞,因為使用同樣的標準來定義提供什麼字元並且這些字元如何編碼到一系列的代碼單元(通常一個字元一個單元)。由於歷史的原因,MIME和使用這種編碼的系統使用術語字符集來表示用於將一組字元編碼成一系列八位位元組資料的整個系統。

現代編碼模型[編輯]

統一碼通用字符集所構成的現代字元編碼模型則沒有跟從簡單字符集的觀點。它們將字元編碼的概念分為:有哪些字元、它們的編號、這些編號如何編碼成一系列的「碼元」(有限大小的數位)以及最後這些單元如何組成八位位元組流。區分這些概念的核心思想是建立一個能夠用不同方法來編碼的一個通用字符集。為了正確地表示這個模型需要更多比「字符集」和「字元編碼」更為精確的術語表示。在Unicode Technical Report (UTR) #17中,現代編碼模型分為5個層次,所用的術語列在下面:

  1. 抽象字元表(Abstract character repertoire)是一個系統支援的所有抽象字元的集合。字元表可以是封閉的,即除非建立一個新的標準(ASCII和多數ISO/IEC 8859系列都是這樣的例子),否則不允許添加新的符號,;字元表也可以是開放的,即允許添加新的符號(統一碼和一定程度上代碼頁是這方面的例子)。特定字元表中的字元反映了如何將書寫系統分解成線性訊息單元的決定。例如拉丁、希臘和斯拉夫字母表分為字母、數位、變音符號、標點和如空格這樣的一些少數特殊字元,它們都能按照一種簡單的線性序列排列(儘管對它們的處理需要另外的規則,如帶有變音符號的字母這樣的特定序列如何解釋——但這不屬於字元表的範疇)。為了方便起見,這樣的字元表可以包括預先編號字母和變音符號的組合。其它的書寫系統,如阿拉伯語和希伯萊語,由於要適應雙向文字和在不同情形下按照不同方式交叉在一起的字形,就使用更為複雜的符號表表示。
  2. 編碼字符集(CCS:Coded Character Set)是將字符集C中每個字元對映到1個坐標(整數值對:x, y)或者表示為1個非負整數N。字符集及碼位對映稱為編碼字符集。例如,在一個給定的字元表中,表示大寫拉丁字母「A」的字元被賦予整數65、字元「B」是66,如此繼續下去。多個編碼字符集可以表示同樣的字元表,例如ISO-8859-1和IBM的內碼表037和內碼表500含蓋同樣的字元表但是將字元對映為不同的整數。由此產生了編碼空間(encoding space)的概念:簡單說就是包含所有字元的表的維度。可以用一對整數來描述,例如:GB 2012的漢字編碼空間是94 x 94。可以用一個整數來描述,例如:ISO-8859-1的編碼空間是256。也可以用字元的儲存單元尺寸來描述,例如:ISO-8859-1是一個8位元的編碼空間。編碼空間還可以用其子集來表述,如行、列、面(plane)等。編碼空間中的一個位置(position)稱為碼位(code point)。一個字元所佔用的碼位稱為碼位值(code point value)。1個編碼字符集就是把抽象字元對映為碼位值。
  3. 字元編碼表(CEF:Character Encoding Form),也稱為"storage format",是將編碼字符集的非負整數值(即抽象的碼位)轉換成有限位元長度的整型值(稱為碼元code units)的序列。這對於定長編碼來說是個到自身的對映(null mapping),但對於變長編碼來說,該對映比較複雜,把一些碼位對映到一個碼元,把另外一些碼位對映到由多個碼元組成的序列。例如,使用16位元長的儲存單元保存數位訊息,系統每個單元只能夠直接表示從0到65,535的數值,但是如果使用多個16位元單元就能夠表示更大的整數。這就是CEF的作用,它可以把Unicode從0到140萬的碼空間範圍的每個碼位對映到單個或多個在0到65,5356範圍內的碼值。最簡單的字元編碼表就是單純地選擇足夠大的單位,以保證編碼字符集中的所有數值能夠直接編碼(一個碼位對應一個碼值)。這對於能夠用使用八位元組來表示的編碼字符集(如多數傳統的非CJK的字符集編碼)是合理的,對於能夠使用十六位元來表示的編碼字符集(如早期版本的Unicode)來說也足夠合理。但是,隨著編碼字符集的大小增加(例如,現在的Unicode的字符集至少需要21位才能全部表示),這種直接表示法變得越來越沒有效率,並且很難讓現有電腦系統適應更大的碼值。因此,許多使用新近版本Unicode的系統,或者將Unicode碼位對應為可變長度的8位元位元組序列的UTF-8,或者將碼位對應為可變長度的16位元序列的UTF-16
  4. 字元編碼方案(CES:Character Encoding Scheme),也稱作"serialization format"。將定長的整型值(即碼元)對映到8位元位元組序列,以便編碼後的資料的檔案儲存或網路傳輸。在使用Unicode的場合,使用一個簡單的字元來指定位元組順序是大端序或者小端序(但對於UTF-8來說並不需要專門指明位元組序)。然而,有些複雜的字元編碼機制(如ISO/IEC 2022)使用控制字元轉義序列在幾種編碼字符集或者用於減小每個單元所用位元組數的壓縮機制(如SCSUBOCUPunycode)之間切換。
  5. 傳輸編碼語法(transfer encoding syntax),用於處理上一層次的字元編碼方案提供的位元組序列。一般其功能包括兩種:一是把位元組序列的值對映到一套更受限制的值域內,以滿足傳輸環境的限制,例如Email傳輸時Base64或者quoted-printable,都是把8位元的位元組編碼為7位長的資料;另一是壓縮位元組序列的值,如LZW或者行程長度編碼等無失真壓縮技術。

高層機制(higher level protocol)提供了額外訊息,用於選擇Unicode字元的特定變種,如XML屬性xml:lang

字元對映(character map)在Unicode中保持了其傳統意義:從字元序列到編碼後的位元組序列的對映,包括了上述的CCS, CEF, CES層次。

字符集、內碼表,與字元對映[編輯]

術語字元編碼(character encoding),字元對映(character map),字符集(character set)或者內碼表,在歷史上往往是同義概念,即字元表(repertoire)中的字元如何編碼為碼元的流(stream of code units)–通常每個字元對應單個碼元。

碼元(Code Unit,也稱「代碼單元」)是指一個已編碼的文字中具有最短的位元組合的單元。對於UTF-8來說,碼元是8位元長;對於UTF-16來說,碼元是16位元長;對於UTF-32來說,碼元是32位元長[1]。碼值(Code Value)是過時的用法。

內碼表通常意味著面向位元組的編碼,但強調是一套用於不能語言的編碼方案的集合.著名的如"Windows"內碼表系列,"IBM"/"DOS"內碼表系列.

IBM的字元資料表示體系(Character Data Representation Architecture - CDRA)與編碼字符集識別元(coded character set identifiers - CCSIDs) 常常把charset, character set, code page, or CHARMAP等類似意義的術語混用.

Unix或Linux不使用內碼表概念,它們用charmap,比locales具有更廣泛的含義.

與上文的編碼字符集(Coded Character Set - CCS)不同,字元編碼(character encoding)是從抽象字元到代碼字(code word)的對映. HTTP(與MIME)的用法中,字符集(character set)與字元編碼同義,但與CCS不是一個意思.

字元編碼(不全)[編輯]

西歐標準[編輯]

  • ISO-8859-1
  • ISO-8859-5
  • ISO-8859-6
  • ISO-8859-7
  • ISO-8859-11
  • ISO-8859-15
  • ISO/IEC 646

DOS字符集(又稱IBM內碼表[編輯]

Windows字符集[編輯]

亞洲字符集[編輯]

中國大陸[編輯]

港澳台[編輯]

日本[編輯]

朝鮮半島[編輯]

越南[編輯]

印度[編輯]

Unicode[編輯]

字元轉換工具[編輯]

由於有很多種字元編碼方法被使用,從一種字元編碼轉換到另一種,需要一些工具。

跨平台

  • 網頁瀏覽器–大多數現代的網頁瀏覽器都具有此功能。一般是在選單"檢視"(View)/"字元編碼"(Character Encoding)
  • iconv –程式與編程API,用於字元編碼轉換
  • convert_encoding.py –基於Python的轉換工具.[2]
  • decodeh.py –用於啟發性猜測編碼方案的演算法與模組.[3]
  • International Components for Unicode –一套C語言Java語言的開源庫,由IBM提供,用於Unicode等多語言編碼的轉換、實作.
  • chardetMozilla的編碼自動檢測代碼的Python語言實作.
  • 新版本的Unix命令File做字元編碼的檢測.(cygwinmac都有此命令)

Linux:

  • recode – [4]
  • utrac – 將整個檔案內容從一種字元編碼轉換到另外一種[5]
  • cstocs –
  • convmv –轉換檔案名.[6]
  • enca –分析編碼模式.[7]

Microsoft Windows:

  • Encoding.Convert – .NET API[8]
  • MultiByteToWideChar/WideCharToMultiByte – Windows API[9]
  • cscvt –轉換工具[10]
  • enca –分析編碼方法[11]

參見[編輯]

參考文獻[編輯]

外部連線[編輯]