機械学習理論における特異空間の幾何学的構造とその応用

机器学习理论中奇异空间的几何结构及其应用

基本信息

  • 批准号:
    18K11479
  • 负责人:
  • 金额:
    $ 2.66万
  • 依托单位:
  • 依托单位国家:
    日本
  • 项目类别:
    Grant-in-Aid for Scientific Research (C)
  • 财政年份:
    2018
  • 资助国家:
    日本
  • 起止时间:
    2018-04-01 至 2024-03-31
  • 项目状态:
    已结题

项目摘要

ニューラルネットワークや混合正規分布などの階層型学習モデルは特異モデルと呼ばれ,フィッシャー情報量が退化するなど,従来の古典的方法では解析できないことが知られている.近年,これらの特異モデルに関して,代数幾何学分野と結びついた理論研究が行われ,ベイズ推測における汎化誤差や自由エネルギーの挙動などが明らかになってきている.特異モデルに関する自由エネルギーの主要項は,特異点解消を用いて,平均対数誤差関数の正規交差関数を求めることによって得ることができる.論文「正規交差関数の平均場近似における自由エネルギーについて」PRMU2022-127,IBISML2022-134(2023-03)では,特異点解消後の正規交差関数の場合の平均場近似について考察した.平均場近似は,ベイズ法における事後分布の近似方法として広く用いられている.一般には,平均場近似した場合の自由エネルギーは,元の自由エネルギーと異なる挙動をもつ.この論文では,正規交差関数の場合の自由エネルギーと平均場近似の自由エネルギーについて考察し,学習係数から決まる項は同じオーダーになることを証明した.また,多重線形ニューラルネットワークの学習係数について考察した.三層の場合には,すでに得られているが,更に多層へと拡張した.この結果は,現在,国際論文誌に単著で投稿中である.多重線形ニューラルネットワークの真の分布のランクが任意である場合についても考察し,学習係数とその位数の理論値を導出した.これらの結果は,階層型の学習モデルが優れている理由の一つであると思われる.
The classical method of learning is to analyze the mixture of normal distribution and hierarchical learning, and to analyze the mixture of normal distribution and hierarchical learning. In recent years, the theory of algebraic geometry has been studied in detail, and the generalization error and free error of algebraic geometry have been studied. The main term of the free range of the special point is different from that of the special point solution, and the normal cross correlation of the average pair error is obtained. Paper "Mean field approximation of normal cross difference correlation after elimination of outliers" PRMU2022-127,IBISML2022-134(2023-03). Mean Field Approximation Method for Posteriori Distribution In general, the average field approximates the free range of motion in the case of free range of motion. In this paper, we prove that the learning coefficient is the same as the term in the case of normal cross correlation. Multi-linear shape, multi-linear shape, multi-linear shape, Three layers of paper. The result is that, now, international papers are published. The theoretical value of the number of digits of the learning coefficient is derived from the investigation of the true distribution of multiple linear shapes in arbitrary cases. The result of this is that hierarchical learning is a good reason for thinking.

项目成果

期刊论文数量(11)
专著数量(0)
科研奖励数量(0)
会议论文数量(0)
专利数量(0)
Learning coefficients and information criteria
学习系数和信息标准
正規交差関数の平均場近似における自由エネルギーについて
关于法向交函数的平均场近似中的自由能
  • DOI:
  • 发表时间:
    2023
  • 期刊:
  • 影响因子:
    0
  • 作者:
    Maaki Sakai;Yoshiko Hanada;Yukiko Orito;Muneki Yasuda and Tomoyuki Obuchi;Kuniyasu Shimizu;青柳美輝
  • 通讯作者:
    青柳美輝
学習係数の解析による特異ベイズ情報量基準の改良
通过分析学习系数改进奇异贝叶斯信息准则
  • DOI:
  • 发表时间:
    2018
  • 期刊:
  • 影响因子:
    0
  • 作者:
    Hiroaki Uchida;Yuya Oishi;Toshimichi Saito;鈴木沙也加 椎名颯太 青柳美輝
  • 通讯作者:
    鈴木沙也加 椎名颯太 青柳美輝
深層線形ニューラルネットワークの学習係数について
关于深度线性神经网络的学习系数
  • DOI:
  • 发表时间:
    2022
  • 期刊:
  • 影响因子:
    0
  • 作者:
    折登由希子;花田良子;伊藤龍二,青柳美輝,芦沢成海,塚本雄基,梶大介
  • 通讯作者:
    伊藤龍二,青柳美輝,芦沢成海,塚本雄基,梶大介
一次元混合正規分布の学習係数について
关于一维混合正态分布的学习系数
  • DOI:
  • 发表时间:
    2021
  • 期刊:
  • 影响因子:
    0
  • 作者:
    渡辺元気,伊藤龍二,青柳美輝
  • 通讯作者:
    渡辺元気,伊藤龍二,青柳美輝
{{ item.title }}
{{ item.translation_title }}
  • DOI:
    {{ item.doi }}
  • 发表时间:
    {{ item.publish_year }}
  • 期刊:
  • 影响因子:
    {{ item.factor }}
  • 作者:
    {{ item.authors }}
  • 通讯作者:
    {{ item.author }}

数据更新时间:{{ journalArticles.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ monograph.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ sciAawards.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ conferencePapers.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ patent.updateTime }}

青柳 美輝其他文献

Algorithm with Newton Diagram for Analyzing Stochastic Complexity (特集:学習理論)
使用牛顿图分析随机复杂性的算法(专题:学习理论)
  • DOI:
  • 发表时间:
    2004
  • 期刊:
  • 影响因子:
    0
  • 作者:
    山崎 啓介;青柳 美輝;渡邊 澄夫
  • 通讯作者:
    渡邊 澄夫

青柳 美輝的其他文献

{{ item.title }}
{{ item.translation_title }}
  • DOI:
    {{ item.doi }}
  • 发表时间:
    {{ item.publish_year }}
  • 期刊:
  • 影响因子:
    {{ item.factor }}
  • 作者:
    {{ item.authors }}
  • 通讯作者:
    {{ item.author }}

{{ truncateString('青柳 美輝', 18)}}的其他基金

代数幾何学の特異点論による機械学習理論の解析およびその応用
利用代数几何奇点理论分析机器学习理论及其应用
  • 批准号:
    24K15114
  • 财政年份:
    2024
  • 资助金额:
    $ 2.66万
  • 项目类别:
    Grant-in-Aid for Scientific Research (C)
学習理論における特異性とその代数幾何学的性質およびその応用
学习理论中的奇异性、代数几何性质及其应用
  • 批准号:
    16700218
  • 财政年份:
    2004
  • 资助金额:
    $ 2.66万
  • 项目类别:
    Grant-in-Aid for Young Scientists (B)

相似海外基金

特異点理論の情報幾何学への応用探究~《特異モデルの情報幾何学》の創設
探索奇点理论在信息几何中的应用——创建“奇异模型的信息几何”
  • 批准号:
    22KJ0052
  • 财政年份:
    2023
  • 资助金额:
    $ 2.66万
  • 项目类别:
    Grant-in-Aid for JSPS Fellows
特異モデルの対称性に基づく学習予測精度の解明
基于奇异模型对称性的学习预测精度阐明
  • 批准号:
    03J03544
  • 财政年份:
    2003
  • 资助金额:
    $ 2.66万
  • 项目类别:
    Grant-in-Aid for JSPS Fellows
{{ showInfoDetail.title }}

作者:{{ showInfoDetail.author }}

知道了