Development of Perturbation Robust and Interpretable Deep Learning Models and Evaluation of Their Interpretability
Development of Perturbation Robust and Interpretable Deep Learning Models and Evaluation of Their Interpretability
扰动鲁棒且可解释的深度学习模型的开发及其可解释性的评估
批准号：
21J14143
负责人：
北田 俊輔
金额：
$0.96万
依托单位：
依托单位国家：
日本
项目类别：
Grant-in-Aid for JSPS Fellows
财政年份：
2021
资助国家：
日本
项目状态：
已结题
起止时间：
2021-04-28 至 2023-03-31
中文摘要
翻译
本研究では、解釈性の高い予測の根拠を提示可能な深層学習モデルの予測精度向上を目的とし、以下2項目に焦点を当てて研究を行う: (1) 摂動に頑健で解釈可能な深層学習モデルの確立、(2) 予測の解釈手法が提示する根拠に対する評価指標の確立。2022年度は後者について研究を実施した。学習済みモデルの注意の重みに対して、これまで解釈性の評価に使われてこなかった既存の指標や、人手のアノテーションを利用した新たな指標を元に、予測根拠に対する評価指標の確立を模索した。このとき、解答根拠が人手によって付与された既存のオープンデータセットの利用のほか、クラウドソーシングの利用を検討した。深層学習モデルが提示する根拠に対して、勾配とアノテーション一致率や認知心理学的アプローチを参考に、その妥当性について検証した。さらに近年頻繁に利用されている既存手法や提案手法によって学習された注意の重みが、人間の解釈と近いものであるかを調査した。
英文摘要
本研究では、解釈性の高い予測の根拠を提示可能な深層学習モデルの予測精度向上を目的とし、以下2項目に焦点を当てて研究を行う: (1) 摂動に頑健で解釈可能な深層学習モデルの確立、(2) 予測の解釈手法が提示する根拠に対する評価指標の確立。2022年度は後者について研究を実施した。学習済みモデルの注意の重みに対して、これまで解釈性の評価に使われてこなかった既存の指標や、人手のアノテーションを利用した新たな指標を元に、予測根拠に対する評価指標の確立を模索した。このとき、解答根拠が人手によって付与された既存のオープンデータセットの利用のほか、クラウドソーシングの利用を検討した。深層学習モデルが提示する根拠に対して、勾配とアノテーション一致率や認知心理学的アプローチを参考に、その妥当性について検証した。さらに近年頻繁に利用されている既存手法や提案手法によって学習された注意の重みが、人間の解釈と近いものであるかを調査した。
期刊论文(13)
专著(0)
科研奖励(0)
会议论文
登录
查看更多内容
DOI：
10.1007/s10489-022-04301-w
发表时间：
2021-04
期刊：
Applied Intelligence
影响因子：
5.3
作者：
[Shunsuke Kitada;H. Iyatomi]
通讯作者：
Shunsuke Kitada;H. Iyatomi
DOI：
10.1145/3511808.3557599
发表时间：
2022-08
期刊：
Proceedings of the 31st ACM International Conference on Information & Knowledge Management
影响因子：
--
作者：
[Tsubasa Nakagawa;Shunsuke Kitada;H. Iyatomi]
通讯作者：
Tsubasa Nakagawa;Shunsuke Kitada;H. Iyatomi
ViT-CLT: パッチ分割した文字画像から偏旁冠脚を考慮した文書分類
ViT-CLT：考虑块分割字符图像偏振的文档分类
ViT-CLT：考虑块分割字符图像偏振的文档分类
DOI：
--
发表时间：
2022
期刊：
影响因子：
--
作者：
[津嶋祐介, 青木匠, 北田俊輔, 彌冨仁]
通讯作者：
彌冨仁
DOI：
10.1109/honet56683.2022.10019010
发表时间：
2022-11
期刊：
2022 IEEE 19th International Conference on Smart Communities: Improving Quality of Life Using ICT, IoT and AI (HONET)
影响因子：
--
作者：
[Kazuya Ohata;Shunsuke Kitada;H. Iyatomi]
通讯作者：
Kazuya Ohata;Shunsuke Kitada;H. Iyatomi
Majority or Minority: 固有表現抽出におけるデータの不均衡性に着目した損失関数の提案
多数或少数：针对命名实体提取中数据不平衡的损失函数的提案
多数或少数：针对命名实体提取中数据不平衡的损失函数的提案
DOI：
--
发表时间：
2023
期刊：
影响因子：
--
作者：
[根本 颯汰, 北田 俊輔, 彌冨 仁]
通讯作者：
彌冨 仁
共 13 条
海外基金