Study of Knowledge Transfer between Linear Models and Deep Neural Networks
线性模型与深度神经网络之间的知识转移研究
基本信息
- 批准号:21J11146
- 负责人:
- 金额:$ 0.96万
- 依托单位:
- 依托单位国家:日本
- 项目类别:Grant-in-Aid for JSPS Fellows
- 财政年份:2021
- 资助国家:日本
- 起止时间:2021-04-28 至 2023-03-31
- 项目状态:已结题
- 来源:
- 关键词:
项目摘要
当該研究課題について2022年度においては、目的とする古典数理モデルから深層学習モデルへの知識転移理論に関して、前年度に行った種々のモデル間の類似点や関連性についての考察から、具体的な知識転移手法の構築、およびそれらを説明する理論の精緻化を行った。具体的な知識転移手法の構築の取組みとしては、特徴抽出部と識別部の組み合わせで、構成される実問題の解決に付する大規模深層学習モデルの汎化性能を向上させる知識転移アルゴリズムの開発に成功した。これは前年度まで明らかになった次元削減に用いられる古典・深層学習モデル、分類問題に用いられる古典・深層学習モデル間についての関連性とそれぞれに対して提案した知識転移手法を組み合わせることで、実用的なアルゴリズムへの昇華に繋がった成果である。また、これらの深層学習モデルの性能を向上させる知識転移手法の構築の取組みを通じて得られた成果を元に、医用画像解析およびバイオ分野におけるAI技術の利活用について広く考察を行った。また理論的な取組みとしては、前年度までに得られた機械学習モデル間の知識転移という概念を定式化するための、代数学と幾何学に基づく数理モデル間の相互作用の記述の枠組みをより精緻化し、統計的機械学習一般に対する新たな代数的視点を与える理論へと発展させた。これは機械学習において広く援用される多様体仮説を代数学的に解釈した上で、具体的な知識転移手法をその上に展開することで理論的支持としたものである。本理論的取組みに対して、情報処理学会よりコンピュータサイエンス領域奨励賞の表彰を受けた。
When the project is to be studied in the year 2022, the purpose is to learn more about classical mathematics and physics, to learn more about the transfer of knowledge, to learn about the transfer of knowledge, to learn more about the transfer of knowledge in the past year, and to do some research in the previous year, such as point-to-point connection experiments, specific knowledge transfer techniques, knowledge transfer techniques, and so on. Specific knowledge transfer techniques are used to select groups, and special extraction departments are organized to solve problems in order to improve the performance of large-scale in-depth knowledge transfer. In the previous year, we learned that in the previous year, we did not know how to use classical deep learning and classified questions. We proposed that knowledge transfer techniques should be used in order to improve the results of knowledge transfer in China. In-depth study of performance, knowledge transfer techniques, knowledge transfer techniques, knowledge transfer techniques In the previous year, we have obtained the knowledge transfer of mechanical science, the concept of mathematics, mathematics, In the course of mechanical science, we can use the solution of multi-body algebra and the specific knowledge transfer techniques to support the theory of knowledge transfer. The composition of this theory is to encourage recognition in the field of recognition and recognition.
项目成果
期刊论文数量(10)
专著数量(0)
科研奖励数量(0)
会议论文数量(0)
专利数量(0)
Multi-task Learning with Consistent Prediction for Efficient Breast Ultrasound Tumor Detection
- DOI:10.1109/bibm55620.2022.9995444
- 发表时间:2022-12
- 期刊:
- 影响因子:0
- 作者:Kaiwen Yang;Aiga Suzuki;Jiaxing Ye;H. Nosato;Ayumi Izumori;H. Sakanashi
- 通讯作者:Kaiwen Yang;Aiga Suzuki;Jiaxing Ye;H. Nosato;Ayumi Izumori;H. Sakanashi
Initialization Method of Batch Uniformization Auto Encoder by Principal Component Analysis
基于主成分分析的批量均匀化自动编码器初始化方法
- DOI:10.1109/ssci50451.2021.9660064
- 发表时间:2021
- 期刊:
- 影响因子:0
- 作者:Shogo Takaoka; Takuya Kitamura; Aiga Suzuki; Masahiro Murakawa
- 通讯作者:Shogo Takaoka; Takuya Kitamura; Aiga Suzuki; Masahiro Murakawa
多様体仮説に基づく統計的機械学習の圏論的定式化
基于流形假设的统计机器学习的范畴论表述
- DOI:
- 发表时间:2022
- 期刊:
- 影响因子:0
- 作者:Zi Lang Goo;Nobuto Yoshinari;Takumi Konno;鈴木 藍雅,坂無 英徳
- 通讯作者:鈴木 藍雅,坂無 英徳
{{
item.title }}
{{ item.translation_title }}
- DOI:
{{ item.doi }} - 发表时间:
{{ item.publish_year }} - 期刊:
- 影响因子:{{ item.factor }}
- 作者:
{{ item.authors }} - 通讯作者:
{{ item.author }}
数据更新时间:{{ journalArticles.updateTime }}
{{ item.title }}
- 作者:
{{ item.author }}
数据更新时间:{{ monograph.updateTime }}
{{ item.title }}
- 作者:
{{ item.author }}
数据更新时间:{{ sciAawards.updateTime }}
{{ item.title }}
- 作者:
{{ item.author }}
数据更新时间:{{ conferencePapers.updateTime }}
{{ item.title }}
- 作者:
{{ item.author }}
数据更新时间:{{ patent.updateTime }}
鈴木 藍雅其他文献
鈴木 藍雅的其他文献
{{
item.title }}
{{ item.translation_title }}
- DOI:
{{ item.doi }} - 发表时间:
{{ item.publish_year }} - 期刊:
- 影响因子:{{ item.factor }}
- 作者:
{{ item.authors }} - 通讯作者:
{{ item.author }}
相似海外基金
データ駆動パラメータが統計的機械学習に与える影響の高次漸近特性の理論的解明と応用
数据驱动参数对统计机器学习影响的高阶渐近性质的理论阐明和应用
- 批准号:
23K25502 - 财政年份:2024
- 资助金额:
$ 0.96万 - 项目类别:
Grant-in-Aid for Scientific Research (B)
ナビゲーション機能を有する量子統計的機械学習理論の実現とその実践
具有导航功能的量子统计机器学习理论的实现及其实现
- 批准号:
23K24912 - 财政年份:2024
- 资助金额:
$ 0.96万 - 项目类别:
Grant-in-Aid for Scientific Research (B)
集団遺伝学における統計的機械学習と感染症疫学への応用
群体遗传学中的统计机器学习及其在传染病流行病学中的应用
- 批准号:
23K21692 - 财政年份:2024
- 资助金额:
$ 0.96万 - 项目类别:
Grant-in-Aid for Scientific Research (B)
データ駆動パラメータが統計的機械学習に与える影響の高次漸近特性の理論的解明と応用
数据驱动参数对统计机器学习影响的高阶渐近性质的理论阐明和应用
- 批准号:
23H00805 - 财政年份:2023
- 资助金额:
$ 0.96万 - 项目类别:
Grant-in-Aid for Scientific Research (B)
談話表示理論と統計的機械学習に基づく因果関係認識の理論と実装
基于话语显示理论和统计机器学习的因果关系识别理论与实现
- 批准号:
15J11737 - 财政年份:2015
- 资助金额:
$ 0.96万 - 项目类别:
Grant-in-Aid for JSPS Fellows
統計的機械学習に基づいた多目的最適化による超冗長ロボットの運動生成
基于统计机器学习的多目标优化超冗余机器人运动生成
- 批准号:
14J02946 - 财政年份:2014
- 资助金额:
$ 0.96万 - 项目类别:
Grant-in-Aid for JSPS Fellows
統計的機械学習を用いた歴史的資料の校訂の自動化に関する研究と自動校訂ツールの開発
利用统计机器学习的历史资料自动编辑研究及自动编辑工具开发
- 批准号:
13J09935 - 财政年份:2013
- 资助金额:
$ 0.96万 - 项目类别:
Grant-in-Aid for JSPS Fellows
統計的機械学習理論を用いるシステムの信頼性評価法とその応用に関する研究
基于统计机器学习理论的系统可靠性评估方法及其应用研究
- 批准号:
16710116 - 财政年份:2004
- 资助金额:
$ 0.96万 - 项目类别:
Grant-in-Aid for Young Scientists (B)