観測頻度に基づく相互情報量の保守的な推定法

点击翻译按钮获取中文摘要

2022年度は，相互情報量に対する保守的な推定法の定式化に取り組んだ．具体的には，確率分布の推定を介さずに相互情報量を直に求める“直接推定法”に変更を加え，保守的な推定法を実現することにした．直接推定法では推定量の導出過程で正則化が用いられ，推定値を保守的に見積もるために，正則化の作用を利用できる．一方で直接推定法は，連続空間上で定義される相互情報量のために提案されており，本研究で想定する離散空間上で定義される相互情報量の推定にそのまま適用できない．そこで，直接推定法で元々使用するガウス関数由来の基底関数を，離散空間で得られる要素の種類毎に定義される単純な基底関数へと変更し，離散空間上での適応を可能とした．加えて，ごく低頻度にしきい値を設け，それ以上の観測頻度から尤度比を保守的に見積もる方法の提案および評価を行った．さらに，本手法を尤度比の特殊な形式である条件付き確率の推定へと拡張し，組み合わせ爆発を伴う関係抽出タスクにて評価を行った．結果として，ごく低頻度の無視によるタスクの効率化，保守的な推定による有用性の両観点から一定の有効性を確認できた．本成果を査読なし国内会議，査読あり国際会議にて発表した．相互情報量は定義中に尤度比を含み，尤度比に関する定式化も直接推定法に基づいている．そこで，来年度に実施予定の研究計画「頻度にしきい値を設け，相互情報量を保守的に見積もる手法の提案」にこれらの成果を活用する予定である．