权益分类	功能权益	普通用户	{{item.name}}会员
{{category.name}}	{{benefitItem.name}}

情報幾何学を用いた有本アルゴリズム及びインフォマックスの高速化

使用信息几何加速 Arimoto 算法和 Infomax

基本信息

批准号：
20J21396
负责人：
豊田祥史
金额：
$ 1.6万
依托单位：
The Graduate University for Advanced Studies
依托单位国家：
日本
项目类别：
Grant-in-Aid for JSPS Fellows
财政年份：
2020
资助国家：
日本
起止时间：
2020-04-24 至 2023-03-31
项目状态：
已结题

项目摘要

本研究では, Infomax的な観点から, 現在のAI分野重要課題である分布外汎化問題を解決することを試みていた. 深層学習は従来法を凌駕するデータからの学習を可能にした一方で, 学習時とは異なる分布から発生したデータに対しては正しい推論ができないことが指摘されており, この問題は分布外汎化問題と呼ばれている. 昨年度までは, この分布外汎化問題への既存手法のボトルネックのなっていた高いアノテーションコストを削減するための方法論を提案し, 数値的に有効性を実証していた. 昨年の実績を踏まえ, 本年度は, 1. 昨年度の提案手法である, 低アノテーション分布外汎化法の理論保証, 2. 既存の分布外汎化手法の理論保証の二点の研究を行なった. 上記二点の研究の詳細および得られた結果は以下である.1. 昨年度行なった低アノテーション分布外汎化法の理論的な有効性を検証した. その結果, アノテーションコストの下げ方に一定の条件がある場合, 昨年の提案手法は理論上も高い性能を誇る手法であることを示した.2. 昨年の提案手法に留まらず, いままでの分布外汎化問題への既存手法は, 応用上の有効性に反し, 理論上の性能は非常に限定的な状況下でしか示されていなかった. 研究1の理論解析で開発した理論的なテクニックを援用し, 既存法の理論的有効性も同様に証明できる可能性を検討し, 代表的な既存手法であるInvariant RIsk Minimization(IRM)という方法の理論解析を行った. その結果, IRMが, 非常に広範なデータに対し高い性能が誇ることを理論的に証明した.昨年度の結果に研究1を加えた結果は, 機械学習世界最難関国際会議NeurIPSの本会議に採択された. 研究2は, 論文執筆を完了し, 投稿にむけた細かい微調整を施している段階である.

In this study, the key points of Infomax, an important problem in AI, is to solve the problem of externalization of distribution. It is very important to learn that there is a problem that the students may have a problem with each other. During the course of the study, the students may have a problem with each other. During the course of the study, the students may have a problem with the distribution of the students. In the last year, the existing method of distribution externalization of the problem has been discussed. Last year, last year, this year, 1. Last year, the method of proposal was discussed, and the theory and protection of the method of externalization of distribution was discussed. The existing theory of "distribution externalization" protects the two-point study. The results of the previous two-point study show that the results are as follows. 1. In the past year, the theory of distribution externalization has been discussed in this paper. The results show that the conditions must be in line with each other. In the theory of the proposal last year, the performance of the proposal is very high. 2. Last year, the modus operandi of the proposal remained in place, and the distribution of the distribution of the problem was an existing one. In theory, the "performance" was very limited. In theory, the "performance" was very limited. Study 1 the theoretical analysis of the theoretical analysis of the basic theory is based on the theoretical analysis of the existing theoretical theory. the existence of the existing theoretical theory is the same as that of the existing theoretical theory. the representative of the existing theory is the theoretical analysis of the Invariant RIsk Minimization (IRM) method. The result of the experiment, IRM, is very important. This is very important to improve the performance of the theory. The results of yesterday's study 1 plus the results of the NeurIPS International Conference on Mechanics, the most important international conference in the world. At the end of the second year of the study, after the completion of the thesis, the submission was completed.