Deep neural network model for anomic aphasia and the recovery process

(1)人の語連想の自己学習過程を模倣するニューラルネットワークとして，１語から５語を想起するネットワークと５語から１語を想起するネットワークを結合したself-supervised learningが可能な深層学習モデルの検討を行った．この構成はDeep Auto-Encoderと呼ばれる構造であるが，中間層で情報圧縮するのではなく，情報を拡張する点に特徴がある．そのため，評価関数は元の１語に戻ることに加え，中間層で出力される５語が元の１語を含まず，かつ，多様性に富んだ語となる必要があると考え，離散隔離分布を中心に様々な評価関数を検討した．また，全結合型に加え，Transformer型も検討した．実験では，教師あり学習データに『連想語頻度表』（300語）を，教師なしデータに出現頻度の高い約8000語を用いて半教師あり学習を行った．実験の結果，１語から５語の語連想では，上位５語中0.45語で人の連想に含まれる語を出力できた．一方で，５語から１語の連想の精度は低く，デコーダ側の改良が必要であることが明らかとなった．(2)これまでは公開されているBERTを用いてきたが，語連想タスクを想定したBERTの学習を試みた．これにより，１語から５語の語連想において，５語中0.41語で人の連想に含まれる語を出力できた(昨年度は0.38語)．一方で，５語から１語の語連想では各刺激語の貢献度であるシャープレイ値の改良版の検討を行うとともに，カテゴリー指定語の効果を確認した．また，語連想手法の評価を行うための語連想Webアプリの開発も行った（語想起の失語症教材としての利用も可能）．(3) 人が２つの単母音音声を聞いて同一の話者の発声であるかを判定する機構を模したDNNを単語音声に拡張した．その結果，0.3秒から1秒の単語発声で98%から99%の正解率を得た．

(1)人の語連想の自己学習過程を模倣するニューラルネットワークとして，１語から５語を想起するネットワークと５語から１語を想起するネットワークを結合したself-supervised learningが可能な深層学習モデルの検討を行った．この構成はDeep Auto-Encoderと呼ばれる構造であるが，中間層で情報圧縮するのではなく，情報を拡張する点に特徴がある．そのため，評価関数は元の１語に戻ることに加え，中間層で出力される５語が元の１語を含まず，かつ，多様性に富んだ語となる必要があると考え，離散隔離分布を中心に様々な評価関数を検討した．また，全結合型に加え，Transformer型も検討した．実験では，教師あり学習データに『連想語頻度表』（300語）を，教師なしデータに出現頻度の高い約8000語を用いて半教師あり学習を行った．実験の結果，１語から５語の語連想では，上位５語中0.45語で人の連想に含まれる語を出力できた．一方で，５語から１語の連想の精度は低く，デコーダ側の改良が必要であることが明らかとなった．(2)これまでは公開されているBERTを用いてきたが，語連想タスクを想定したBERTの学習を試みた．これにより，１語から５語の語連想において，５語中0.41語で人の連想に含まれる語を出力できた(昨年度は0.38語)．一方で，５語から１語の語連想では各刺激語の貢献度であるシャープレイ値の改良版の検討を行うとともに，カテゴリー指定語の効果を確認した．また，語連想手法の評価を行うための語連想Webアプリの開発も行った（語想起の失語症教材としての利用も可能）．(3) 人が２つの単母音音声を聞いて同一の話者の発声であるかを判定する機構を模したDNNを単語音声に拡張した．その結果，0.3秒から1秒の単語発声で98%から99%の正解率を得た．