Extending knowledge graph structures through deep text understanding

点击翻译按钮获取中文摘要

Wikipediaなどの知識蓄積型コンテンツからは構造的データが知識グラフとして抽出され，検索結果の分類や種々の知識処理に活用されている．知識グラフを充実させるためには，Wikipediaやツィート，文書から新たな知識を抽出して知識グラフを拡張することが必要であり，そのためにはウェブコンテンツの構造情報やテキスト情報を統合的に分析する必要がある．本研究では，(1)少量の訓練データのもとでの多ラベル文書分類タスク, (2)学習済み言語モデルを活用したキーフレーズ抽出・生成,(3)知識グラフの構造的拡張の３つのテーマについて，テキストおよびグラフ構造の深層分析に基づく新たな情報抽出手法を開発するのが目的である．本年度は，(1)については，訓練データを全く与えない，つまりzero-shotでありかつラベル名のテキストのみと，ラベルのない文書集合のみが与えられているという厳しい条件であるclass name only classificationという問題に取り組んだ．ここでは多クラス分類問題について検討している．クラス名から連想される関連語を，prompt tuningと呼ばれる手法で予測し，これらの関連語を用いてラベルなし文書に疑似ラベルを与え，分類器をself trainingする手法により，従来手法を上回る精度を示すことができた．(2)のキーフレーズ抽出・生成は，訓練データなしの条件に対し，マスク言語モデルと生成型言語モデルの２つの手法を組み合わせた方法が有効であることを示した．(3)の知識グラフの構造的拡張は，Wikipediaのリストとカテゴリーがどのような意味的な型を持つ要素からなるかを判定する問題について，知識グラフの構造と言語モデルを組み合わせた手法の開発を行った．