解釈可能な予測モデル獲得のための離散最適化に基づく効率良い学習アルゴリズムの研究

基于离散优化的高效学习算法研究以获得可解释的预测模型

• 批准号: 20J20654
• 负责人: 金森 憲太朗
• 金额: $ 1.6万
• 依托单位: Hokkaido University
• 依托单位国家: 日本
• 项目类别: Grant-in-Aid for JSPS Fellows
• 财政年份: 2020
• 资助国家: 日本
• 起止时间: 2020-04-24 至 2023-03-31
• 项目状态: 已结题
• 来源: https://kaken.nii.ac.jp/en/grant/KAKENHI-PROJECT-20J20654/
• 关键词: 解釈可能性; 説明可能性; 混合整数線形計画法; 反実仮想説明法; 決定木; Rashomon効果; 公平性

本研究では，機械学習の解釈可能性を実現するために，予測精度の向上以外を目的とした非標準的な機械学習問題の新たな定式化に取り組む．このような機械学習問題に対して，整数計画法をはじめとする離散最適化手法に基づく効率良いアルゴリズムを開発することを目標としている.当該年度では，前年度に引き続き，局所的な説明手法の一つである「反実仮想説明法（Counterfactual Explanation, CE）」に着目して研究を行った．CEは，機械学習モデルから望ましい予測結果を得るための特徴量の変更方法（アクション）を提示する説明手法である．当該年度では，これまでの研究成果を統合あるいは拡張することで，より実用的なCEの新しいフレームワークの開発に取り組んだ．主な研究成果として，抽出されるアクションを入力空間全体について大域的に要約するCEの新しいフレームワークを開発した．具体的には，解釈可能な機械学習モデルの一つである決定木に着目し，決定木を用いて適切なアクションを予測する「反実仮想説明木（Counterfactual Explanation Tree, CET）」を新たに導入した．また，実用上高速な離散最適化手法である確率的局所探索に整数計画法を組合せることで，CETを学習する効率良いアルゴリズムを提案した．この成果をまとめた論文は，機械学習分野の最難関会議の一つである国際会議AISTATS2022に採択（採択率 29.2%）された.CE以外の成果としては，解釈可能な機械学習分野で近年重要視されているRashomon効果の分析方法の研究に取り組み，共著論文が機械学習分野の国際会議MLDM2022に採択（採択率 33%）された.最後に，これまでに行った整数計画法に基づく解釈可能な機械学習に関する研究成果をまとめ，学位論文（博士）を執筆し，在学期間を短縮して博士の学位を取得した．

This study で は, mechanical learning の を 釈 possibility be presently す る た め に, to measure precision の up outside を purpose と し た non-standard な machine learning problems の new た な demean に む り group. こ の よ う な machine learning problems に し seaborne て, integer planning law を は じ め と す る discrete optimization technique に base づ く sharper rate good い ア ル ゴ リ ズ ム を open 発 す る こ と を target と し て い る. When the annual で は, before the annual に き 続 き, bureau な illustrates a gimmick の つ で あ る "be 仮 want to explain method (Counterfactual Explanation, CE)" に with mesh し を line っ て research た. CE は, rote learning モ デ ル か ら hope ま し い to the result of measuring を る た め の, 徴 quantity の - more method (ア ク シ ョ ン) を prompt す る show gimmick で あ る. When the annual で は, こ れ ま で の integration research を あ る い は company, zhang す る こ と で, よ り be な CE の new し い フ レ ー ム ワ ー ク の open 発 に group take り ん だ. Main な research と し て, drew さ れ る ア ク シ ョ ン を space into force all に つ い て large domain に offer す る CE の new し い フ レ ー ム ワ ー ク を open 発 し た. Specific に は solution 釈 may な rote learning モ デ ル の a つ で あ に the mesh し る decided to wood, with wooden を い て appropriate な ア ク シ ョ ン を be す る "be 仮 want to explain wood (Counterfactual Explanation Tree, CET)" を new た に import し た. ま た, discrete optimization technique be used high-speed な で あ る probabilistic bureau explore に integer planning law を combination せ る こ と で, CET を learning す る sharper rate good い ア ル ゴ リ ズ ム を proposal し た. こ の results を ま と め た は paper, mechanical learning eset の the hardest の masato meeting a つ で あ る international conference AISTATS2022 に mining 択 (択 rate 29.2%) さ れ た. CE outside の results と し て は, Solution may 釈 な rote learning eset で recent important visual さ れ て い る Rashomon unseen の analytical methods の に み り group, a total of the thesis が rote learning eset の international conference MLDM2022 に mining 択 (択 rate 33%) さ れ た. Line last に こ れ ま で に っ た に integer planning base づ 釈 く solution may な rote learning に masato す る research を ま と め, dissertation (Dr) を penned し, shortening during learning を し て の Dr Degree を obtained し た.

项目成果

混合整数線形計画法に基づく実現可能性を考慮した反事実的説明法

基于混合整数线性规划考虑可行性的反事实解释方法

• 发表时间: 2020
• 作者: 金森 憲太朗;高木 拓也;小林 健;有村 博紀
• 通讯作者: 有村 博紀

望む結果までの手順を導くことができる「説明可能なAI」を世界で初めて開発：富士通

富士通开发出世界上第一个“可解释的人工智能”，可以指导实现预期结果的步骤

Distribution-Aware Counterfactual Explanation by Mixed-Integer Linear Optimization

通过混合整数线性优化进行分布感知反事实解释

• DOI: 10.1527/tjsai.36-6_c-l44
• 发表时间: 2021
• 期刊: Transactions of the Japanese Society for Artificial Intelligence
• 作者: Kanamori Kentaro;Takagi Takuya;Kobayashi Ken;Arimura Hiroki
• 通讯作者: Arimura Hiroki

Ordered Counterfactual Explanation by Mixed-Integer Linear Optimization

通过混合整数线性优化进行有序反事实解释

• 发表时间: 2020
• 期刊: 35th Conference on Aritificial Intelligence (AAAI 2021)
• 作者: Kentaro Kanamori;Takuya Takagi;Ken Kobayashi;Yuichi Ike;Kento Uemura;Hiroki Arimura
• 通讯作者: Hiroki Arimura

整数計画法に基づく説明可能な機械学習へのアプローチ

一种基于整数规划的可解释机器学习方法

• 发表时间: 2021
• 作者: 林宏樹;安藤和也;金森憲太朗
• 通讯作者: 金森憲太朗