雑談対話システム実用化のための非道徳的発言の自動検出

点击翻译按钮获取中文摘要

本年度も昨年度に引き続き、入力文の道徳的な善悪性を判断するタスクについて研究を行った。具体的には、今まで提案してきた3つの手法の比較をより詳細に行い、その差異について明らかにした。またこれらの研究内容および、今までに提案してきた手法をまとめた。今までに提案してきた手法の1つ目は、web上のテキストデータおよび評価表現を用いるものである。この手法に対しエラー分析を行った結果、単語数が多い文章に対して推定を誤り易いということが分かった。これは単語数が多い文章の場合、共起頻度が正しく取得できないことが多いためである。2つ目は、1つ目の手法の対応言語を英語に拡張した手法である。具体的には、単語を高次元ベクトルで表現する分散表現を導入し、さらに述語項構造データベースによる連想情報を用いて道徳判断を行う。これらを用いることで、1つ目の手法の単語数が多い文章への正解率が向上することが分かった。この手法に対してもエラー分析を行った結果、文の意味を考慮して判断を行っているわけではないので、複雑な事例に対しての判断精度が低くなることが分かった。3つ目は、自然言語処理分野で培われてきた知識獲得技術を利用した手法である。この手法ではまず、評価表現、接続表現、公文情報などの言語的パターンを用い道徳に関する疑似ラベル付きデータを作成する。自動獲得されたデータは訓練データとして機械学習モデルの学習に用いられる。機械学習モデルには、ロジスティック回帰モデルや注意機構付きLSTM(Long short-term memory)を導入した深層学習モデルが用いられる。評価実験の結果、注意機構の導入により定性的なモデルの分析が可能であることを示した。先に述べた2つの手法と比較した結果、両手法よりも高い精度で判断が可能であることが分った。