权益分类	功能权益	普通用户	{{item.name}}会员
{{category.name}}	{{benefitItem.name}}

A Study on Statistical Interpretation Methods for Machine Learning Results Using Shapley Values

使用 Shapley 值对机器学习结果进行统计解释方法的研究

基本信息

批准号：
20K11938
负责人：
野原康伸
金额：
$ 2.66万
依托单位：
Kumamoto University
依托单位国家：
日本
项目类别：
Grant-in-Aid for Scientific Research (C)
财政年份：
2020
资助国家：
日本
起止时间：
2020-04-01 至 2024-03-31
项目状态：
已结题

项目摘要

近年、深層学習をはじめとする機械学習技術が注目され導入が進められつつあるが、なぜそのような結果が得られたかの説明・解釈性が強く求められている。本研究では、予測器の入力と出力の関係に注目してブラックボックス的な機械学習結果を解釈する手法を開発する。開発手法では、経済学の分野で用いられている「複数人が協同した場合の利益の公平分配方法であるシャプレー値」を応用することで、数千にもおよぶ各説明変数が出力に及ぼす影響を線形和の形で適切に分離し、線形モデル等を前提として構築されている仮説検定や信頼区間といった統計学的な解釈手法をブラックボックスモデルに適用できるようにすることを目的とする。本年度は、説明変数間に相関がある場合において、シャプレー値による機械学習結果の解釈がどのように変わるかの検討を実施した。まず、シャプレー値によって機械学習モデルをどれだけ正確に解釈できたかという説明性を定量的に評価する手法を提案した。続いて、シャプレー値の定義に立ち戻って、説明変数に相関がある場合における貢献度の定量化を実施した。この結果、相関があっても、機械学習モデルの説明性は低下しないが、説明変数の貢献を正しく分配できないことを定量的に示した。そして、説明変数同士の相関がない場合においては、各説明変数のシャプレー値の分散(標準偏差)が大きい順に、説明変数を選択していくことで、使用できる説明変数の数が制限された場合における説明性を最大化できることを証明した。これまで各変数の重要性を表す指標としてシャプレー値の絶対値の和が広く用いられてきたが、理論的な裏付けはなかった。変数重要度としてシャプレー値の分散を用いることで、説明性を最大化できるという理論的な裏付けを示せた。

In recent years, deep learning has attracted much attention and machine learning technology has been introduced and introduced.るが、なぜそのような Result がget られたかのExplanation・solved 釈性がstrongくquest められている. This study focuses on the relationship between the input force and the output force of the predictor and the results of mechanical learning and the method of solving the problem. A method of fair distribution of benefits in situations where a plurality of people collaborate and collaborate.であるシャプレー値」を応用することで、千にもおよぶ Each explains the value, output, and influence line The shape and shape are appropriate, the separation is the same, the linear shape is the same as the premise and the structure is the same as the interval of the letter.ったStatistical analysis method is applicable to the purpose of とする. This year's は、Explain the number of relevant occasions があるにおいて、シャプレー値によるMechanical learning resultsの解釈がどのように変わるかの検问を実Shiした.まず、シャプレー値によってMechanical learningモデルをどれだけcorrectにThe explanation of the problem is the explanation of the quantitative method and the proposal of the method.続いて、シャプレーつのDefinitionに立ち戻って、Explanation valueにrelatedがあるoccasionにおけるContribution degreeのquantificationを実事した.このResults, Correlation があっても, Mechanical learning モデルの Explainability is low しないが, Explanatory value のContribution をpositive しくDistribution できないことをQuantitative に Show した.そして、Explanation of the correlation of the same number of values がないoccasionにおいては、Each explanation of the value of the value のシャプレー値のdispersion (standard deviation)が大きい顺に、Explanation変数を选択していくことで、UseできるExplanation of the value of the valueのnumがlimitされたoccasionにおけるExplanatoryをMaximizeできることをproveした.これまでImportance table of each value すすINDICATOR夤の和が広く用いられてきたが, theoretical な里发けはなかった. Numerical importance and dispersion are used, and explanatory maximization and maximization are used in the theory of dispersion and dispersion.

项目成果

期刊论文数量（16）

专著数量（0）

科研奖励数量（0）

会议论文数量（0）

专利数量（0）

患者状態把握を目的とした機械学習と共起有向グラフによる診療プロセス解析

使用机器学习和共现有向图进行医疗流程分析以了解患者状况

DOI：
发表时间：
2021
期刊：
医療情報学
影响因子：
0
作者：
山下貴範;若田好史;中熊英貴;野原康伸;岡田美保子;中島直樹;副島秀久
通讯作者：
副島秀久

Developing a Learning Health System for Delirium using XAI

使用 XAI 开发 Deliium 学习健康系统

DOI：
发表时间：
2022
期刊：
影响因子：
0
作者：
Koutarou Matsumoto;Yasunobu Nohara;Mikako Sakaguchi;Yohei Takayama;Hidehisa Soejima and Naoki Nakashima
通讯作者：
Hidehisa Soejima and Naoki Nakashima

交互作用を考慮したSHAPによる機械学習モデルの解釈

考虑交互作用，使用 SHAP 解释机器学习模型

DOI：
发表时间：
2022
期刊：
影响因子：
0
作者：
野原康伸;井口登與志;野尻千夏;中島直樹
通讯作者：
中島直樹

Predictors of Intracerebral Hematoma Enlargement Using Brain CT Images in Emergency Medical Care

在紧急医疗护理中使用脑部 CT 图像预测脑内血肿扩大

DOI：
发表时间：
2021
期刊：
影响因子：
0
作者：
Kazunori Oka;Takumi Hirahara;Yasunobu Nohara;Sozo Inoue;Koichi Arimura;Syoji Kobashi and Koji Iihara
通讯作者：
Syoji Kobashi and Koji Iihara

Stroke Prognostic Scores and Data-Driven Prediction of Clinical Outcomes After Acute Ischemic Stroke