权益分类	功能权益	普通用户	{{item.name}}会员
{{category.name}}	{{benefitItem.name}}

Development of Perturbation Robust and Interpretable Deep Learning Models and Evaluation of Their Interpretability

扰动鲁棒且可解释的深度学习模型的开发及其可解释性的评估

基本信息

批准号：
21J14143
负责人：
北田俊輔
金额：
$ 0.96万
依托单位：
Hosei University
依托单位国家：
日本
项目类别：
Grant-in-Aid for JSPS Fellows
财政年份：
2021
资助国家：
日本
起止时间：
2021-04-28 至 2023-03-31
项目状态：
已结题

项目摘要

本研究では、解釈性の高い予測の根拠を提示可能な深層学習モデルの予測精度向上を目的とし、以下2項目に焦点を当てて研究を行う: (1) 摂動に頑健で解釈可能な深層学習モデルの確立、(2) 予測の解釈手法が提示する根拠に対する評価指標の確立。2022年度は後者について研究を実施した。学習済みモデルの注意の重みに対して、これまで解釈性の評価に使われてこなかった既存の指標や、人手のアノテーションを利用した新たな指標を元に、予測根拠に対する評価指標の確立を模索した。このとき、解答根拠が人手によって付与された既存のオープンデータセットの利用のほか、クラウドソーシングの利用を検討した。深層学習モデルが提示する根拠に対して、勾配とアノテーション一致率や認知心理学的アプローチを参考に、その妥当性について検証した。さらに近年頻繁に利用されている既存手法や提案手法によって学習された注意の重みが、人間の解釈と近いものであるかを調査した。

This study focuses on the following two items: (1) establishment of the root cause of the high predictive accuracy of the predictive solution, and (2) establishment of the evaluation index of the root cause of the predictive solution. In 2022, the research on the latter was carried out. The importance of learning and evaluation of learning The solution is to solve the problem of human resources utilization and to solve the problem of human resources utilization. Deep learning: the root cause of the problem, the consistency of the problem, the reference of cognitive psychology, and the appropriateness of the problem In recent years, we have frequently used existing methods and proposal methods to study and investigate the importance of attention, understanding of the world and the present.

项目成果

期刊论文数量（13）

专著数量（0）

科研奖励数量（0）

会议论文数量（0）

专利数量（0）

Making attention mechanisms more robust and interpretable with virtual adversarial training

DOI：
10.1007/s10489-022-04301-w
发表时间：
2021-04
期刊：
Applied Intelligence
影响因子：
5.3
作者：
Shunsuke Kitada;H. Iyatomi
通讯作者：
Shunsuke Kitada;H. Iyatomi

Expressions Causing Differences in Emotion Recognition in Social Networking Service Documents

DOI：
10.1145/3511808.3557599
发表时间：
2022-08
期刊：
Proceedings of the 31st ACM International Conference on Information & Knowledge Management
影响因子：
0
作者：
Tsubasa Nakagawa;Shunsuke Kitada;H. Iyatomi
通讯作者：
Tsubasa Nakagawa;Shunsuke Kitada;H. Iyatomi

ViT-CLT: パッチ分割した文字画像から偏旁冠脚を考慮した文書分類

ViT-CLT：考虑块分割字符图像偏振的文档分类

DOI：
发表时间：
2022
期刊：
影响因子：
0
作者：
津嶋祐介;青木匠;北田俊輔;彌冨仁
通讯作者：
彌冨仁

Feedback is Needed for Retakes: An Explainable Poor Image Notification Framework for the Visually Impaired

DOI：
10.1109/honet56683.2022.10019010
发表时间：
2022-11
期刊：
2022 IEEE 19th International Conference on Smart Communities: Improving Quality of Life Using ICT, IoT and AI (HONET)
影响因子：
0
作者：
Kazuya Ohata;Shunsuke Kitada;H. Iyatomi
通讯作者：
Kazuya Ohata;Shunsuke Kitada;H. Iyatomi

Majority or Minority: 固有表現抽出におけるデータの不均衡性に着目した損失関数の提案

多数或少数：针对命名实体提取中数据不平衡的损失函数的提案