ニューラルネットワークによる多義語の概念形成過程のモデル化

点击翻译按钮获取中文摘要

単語と微小特徴の関連には4種類がある。第一は単語間の関係で、二つの単語が同一文中に出現する頻度、すなわち同時性の関係を表す。これは多数の文例からたとえばコバリアンス学習により求められる。第二は単語から微小特徴への写像関係である。この写像が一対多となり出力自乗誤差が大であれば多義語が存在することが分かる。第三は微小特徴から単語への写像関係である。同義語が存在すると同一微小特徴群に対して複数の単語が対応するためこの写像が一対多となり、その学習が不完全となる。第四は微小特徴間の関係で、二つの微小特徴が同一単語の特徴である頻度、すなわち同時性の関係を表す。これら諸関係の興奮性・抑制性の相互作用により、与えられた単語と微小特徴群の中で、適切な微小特徴群が活性化することが多義性の解消に相当している。ここでは26単語、25微小特徴からなるデータを用いて、“bat"と“chicken"という二個の多義語を含む例を取り上げた。この例では確かに単語から微小特徴への写像の出力自乗誤差が大きい。また微小特徴から単語への写像関係を忘却付き構造学習により学習することにより誤差逆伝播学習の結果と比較してはるかに単純な構造が得られる。また微小特徴間の同時出現関係をコバリアンス学習により求め、関連する微小特徴間の同時性が小さいことが判明した。相関学習を用いた場合、微小特徴が共に存在しないことに起因する大きな相関が不自然である。このような明白に意味の異なる多義語の場合だけでなく、一つの単語に微妙に異なる複数の微小特徴群が対応する場合も、ほぼ同じ方法により多義的意味構造を求めることが可能と考えられる。また同義語に関しても、微小特徴から単語への写像上で、多義語とほぼ同様の取扱いが可能であると考えられる。