読み込み中...

文字集合

フリー百科事典『ウィキペディア(Wikipedia)』より

文字集合(もじしゅうごう、:character set)とは、文字を重複なく集めたものである。文字セットという場合もある。

例えば、「全てのアルファベット」(a, b, c, ..., z, A, B, C, ..., Z)というのもひとつの文字集合であるし、

「全てのひらがな」(あ, い, う, ..., ん)というのもまた、ひとつの文字集合である。

コンピュータにおける文字集合

コンピュータ上で文字を扱う場合、文字ごとに符号化表現を割り当てるため、どの文字を扱うかということを決めなければならない。このため文字集合の定義が必要となる。

レパートリ

コンピュータで扱う文字の集合をレパートリという。標準規格によって用語に違いがあり次のように定義されている。

抽象文字レパートリ
 符号化の対象となる概念上の文字の非順序集合
レパートリ
 符号化文字集合で表現する文字の指定された集合
レパートリ
 符号化文字集合の一つ以上のビット組合わせによって表現される、規定された文字の集合。
  • IBMの文字データ表現体系
文字セット
 コード化表現を前提としない、文字の定義済みセット。

符号化文字集合

コンピュータで扱う文字集合内の各文字には一意の符号 (一般的に非負整数) が割り当てられているのが通常であり、この文字集合内の各文字と符号との関連付けを符号化文字集合と言う。実際にコンピュータ上で使われている符号化文字集合には、例えばJIS X 0201, JIS X 0208, ISO/IEC 10646(UCS-2, UCS-4)等がある。

標準や規格によって用語に違いがあり次のように定義されている。

  • Unicode
符号化文字集合
 概念上の文字の集合から非負整数の集合への写像として規定される。この整数の範囲は連続である必要はない。Unicode標準においてUnicodeスカラー値 の概念は非連続な非負整数として明示的に定義される。符号化文字集合が概念上の文字から整数への写像であれば、ある概念上の文字は符号化文字集合で規定されることになる。
  • IABモデル(RFC2130)
符号化文字集合
 符号化文字集合は概念上の文字の集合から整数の集合への写像である。
  • ISO/IEC 10646 (JIS X 0221)
符号化文字集合
 文字集合及びその集合の文字と符号化表現との間の関係を規定するあいまいさのない規則の集合。
  • JIS X 0201, JIS X 0208, JIS X 0213
符号化文字集合
 文字集合を定め、かつその集合内の文字とビット組合わせとを1対1に関連付ける、あいまいでない規則の集合。
  • IBMの文字データ表現体系
コード・ページ
 それぞれのグラフィック文字セットごと、またはグラフィック文字セットの集まりに対する、コード・ポイント の指定。一つのコード・ページの中で、コード・ポイントには特定の意味を一つだけ持たせることができる。

符号化文字集合と文字符号化方式

符号化文字集合を定義した段階では、単に使用可能な文字と符号(Unicodeスカラー値、符号位置、区点位置、コード・ポイントなど)が関連付けられただけの状態であり、コンピュータ上でどのようなバイト列として取り扱うかは定義されない。 この「符号」からバイト列に変換する方法は、文字符号化方式という別の概念として定義される(Shift_JISUTF-8等)。

ただし、JIS X 0201, JIS X 0208, JIS X 0213等における符号化文字集合では、文字とビット組合わせをの関連付けを行っているので、Unicode等と異なり文字符号化方式の概念は明確ではない。

ある文字集合に含まれる文字を用いて記述した同一の文字列であっても、使用する文字符号化方式が異なれば、異なるバイト列となる。また、異なる文字符号化方式の文字列データであっても、基となる文字集合が同一であれば、文字の欠落無く相互変換が可能である。基となる文字集合が異なっていても、変換元の文字集合が、変換後の文字集合の部分集合であれば、欠落は発生しない。ただし、部分集合であっても、符号化文字集合における文字の符号の並びが異なる場合もあり、そのような場合は巨大な変換表が必要となる(例えば、JIS X 0208はUCS-2の部分集合であるが、符号の並びは全く異なる)。ただし、近年のOSでは、標準的な機能として変換表を持っていることも多く(WindowsのMultiByteToWideChar API、UNIXlibiconv等)、アプリケーションが独自に変換表を持つ必要はあまりない。逆に、部分集合の関係にない文字集合へ変換した場合、欠落する文字が発生し、中黒点等で置き換えられたり、不適切なプログラムであれば文字化け等が発生する(ただし、同様の現象は、フォントが原因の場合もあり、文字集合の変換が原因とは即時には判断できない)。

文字符号化方式を適用する際に、複数の文字集合を組み合わせたり、文字集合の一部をベンダーが独自に置き換えることもあり、互換性問題の原因となりやすい。例えば、WindowsMacintoshで作成されたShift_JIS文書では、それぞれ基となる文字集合にベンダーが独自の修正を加えているため、完全な互換性は無い(例えば丸付き数字と括弧付き曜日など)。他にも、文字集合の微妙な差異により問題が起きやすい例は、「~」と「?」、「\」と「?」などである。

ISO/IEC 2022 (JIS X 0202), JIS X 0201, JIS X 0208, JIS X 0213等の定義では『符号化文字集合』と『符号』とは同義であり、交代可能な用語とされるが、UnicodeやIABモデルの定義は異なる。このため、『文字コード』と『符号化文字集合』の解釈が混同されることがある。

また、文字集合の似た用語としてMIME等で利用されるIANAcharsetがあるが、charsetは符号化文字集合と文字符号化方式を合わせた概念であり、名称と実態が一致していない。

関連用語

外部リンク

  • UTR#17:(Unicodeの文字符号化モデル)
  • RFC2130:
  • Character(IBMの文字データ表現体系(CDRA)リファレンス)
  • IBM(IBMの文字セット登録簿)
  • IBM(IBMのコード・ページ登録簿)
 読み込み中...

ブログレシピコミュニティお小遣いふくびき壁紙写真

Copyright(C)2008 GMO Media, Inc. All Rights Reserved.