テクストの数理的モデリングと、数理モデルを通したテクストらしさの解明への挑戦

点击翻译按钮获取中文摘要

昨年度に引き続き，ヒトがテクストを読む際の逐次的処理のモデルについて,自然言語処理分野の技術を活用して探求した．昨年度の研究では，工学的に用いられる大規模言語モデルとヒトの文処理の間に乖離を確認していた．今年度は，心理言語学分野の知見と紐付けながら，この乖離を埋める方法について調査した．本課題について一定の知見が得られており，おおむね順調に研究が進んでいる．当初の計画では，テクスト（複数の文からなる文章）レベルの処理について焦点を当てる予定であったが，その手前の段階として一文ごとの処理に着目した場合にも，ヒトと工学的モデルの間で乖離が生じることが分かった．これを踏まえ，今年度は文レベルの処理に重きをおいた研究となった．並行して文章レベルの処理についても，主題化や省略といった観点について，ヒトと言語モデルの振る舞いを対照させる分析を行ってきた．今年度の研究成果については国内最大規模の学会（自然言語処理学会第28回年次大会）で発表した．今後さらに国際学会への投稿も予定している．また，昨年度の研究成果について当該分野で最も権威ある国際学会（ACL2021）で発表を行った．これらの研究は，心理言語学的な視点からは，ヒトの言語処理の数理的モデルの解明と位置づけられる一方，工学的な視点からはブラックボックスな機械の言語処理の機序を，ヒトと照らし合わせて分析する営みとも捉えられる．工学的な言語処理モデルの分析に関連して，大規模言語モデルをホワイトボックス化する研究や，これらのモデルの説明性を向上させる研究にも共著者として関わった （TACL2021，EMNLP2021，自然言語処理学会第28回年次大会受賞）．