意味表現学習の性能向上と病名推定への応用に関する研究

ニューラルネットワークは学習結果の解釈が困難なことや大規模学習データが必要なため、症例が少ない病名が多い退院サマリの病名推定への応用には課題があった。病名推定とは標準病名マスタのICD10コードを退院サマリに自動付与することである。研究代表者は、ニューラルネットワークの隠れノードを有限個で意味を代表する特徴単語で表現し、単語意味ベクトル辞書を単語と隠れノード間の重みの初期値に導入することにより、学習データが十分に与えられなくても精度が高く学習結果の解釈性を向上させる意味表現学習を提案した。単語意味ベクトル辞書は264種類の特徴単語と2万語の基本単語との関連性を記述した汎用的な辞書である。本研究の目的は、病名推定を対象に（１）単語意味ベクトル辞書の医療分野への対応、（２）深層学習との融合による解釈性のある病名推定の性能向上、（３）特徴単語空間での主訴分析のためのプラットフォーム化である。令和4年度の実績は（１）～（３）に対応する以下の3点である。１．特徴単語の選定条件を6文字未満の病名としたが、6文字以上の最上位概念3病名を追加し、病名T辞書末端の3病名を削除した。また病名T辞書の説明欄より症状を抽出した症状辞書より、出現頻度の高い35症状を特徴単語に追加した。内、7症状は264特徴単語と重複している。3病名、35症状の追加により、学習結果の解釈性は向上することを確認した。２．深層学習BERTの事前学習モデルを用いた病名推定との精度比較を行った。医療文書で事前学習を行ったBERTを用いて旧電子カルテでファインチューニングを行った結果、10ポイント以上F値が向上することを確認した。３．新電子カルテの上位20病名において重みが大きな8種類の特徴単語について、重みの降順で経過要約最大1000症例収集し、WordCloud、共起ネットワーク、サンバーストチャートによる分析を検証した。

ニューラルネットワークは学習結果の解釈が困難なことや大規模学習データが必要なため、症例が少ない病名が多い退院サマリの病名推定への応用には課題があった。病名推定とは標準病名マスタのICD10コードを退院サマリに自動付与することである。研究代表者は、ニューラルネットワークの隠れノードを有限個で意味を代表する特徴単語で表現し、単語意味ベクトル辞書を単語と隠れノード間の重みの初期値に導入することにより、学習データが十分に与えられなくても精度が高く学習結果の解釈性を向上させる意味表現学習を提案した。単語意味ベクトル辞書は264種類の特徴単語と2万語の基本単語との関連性を記述した汎用的な辞書である。本研究の目的は、病名推定を対象に（１）単語意味ベクトル辞書の医療分野への対応、（２）深層学習との融合による解釈性のある病名推定の性能向上、（３）特徴単語空間での主訴分析のためのプラットフォーム化である。令和4年度の実績は（１）～（３）に対応する以下の3点である。１．特徴単語の選定条件を6文字未満の病名としたが、6文字以上の最上位概念3病名を追加し、病名T辞書末端の3病名を削除した。また病名T辞書の説明欄より症状を抽出した症状辞書より、出現頻度の高い35症状を特徴単語に追加した。内、7症状は264特徴単語と重複している。3病名、35症状の追加により、学習結果の解釈性は向上することを確認した。２．深層学習BERTの事前学習モデルを用いた病名推定との精度比較を行った。医療文書で事前学習を行ったBERTを用いて旧電子カルテでファインチューニングを行った結果、10ポイント以上F値が向上することを確認した。３．新電子カルテの上位20病名において重みが大きな8種類の特徴単語について、重みの降順で経過要約最大1000症例収集し、WordCloud、共起ネットワーク、サンバーストチャートによる分析を検証した。