最適輸送理論のための最適化手法と機械学習への応用

最佳运输理论的优化方法及其在机器学习中的应用

• 批准号: 22K12175
• 负责人: 笠井 裕之
• 金额: $ 2.75万
• 依托单位: Waseda University
• 依托单位国家: 日本
• 项目类别: Grant-in-Aid for Scientific Research (C)
• 财政年份: 2022
• 资助国家: 日本
• 起止时间: 2022-04-01 至 2025-03-31
• 项目状态: 未结题
• 来源: https://kaken.nii.ac.jp/grant/KAKENHI-PROJECT-22K12175/
• 关键词: 最適輸送理論; 緩和最適輸送問題; 非構造データ; メッセージ・パッシング; グラフ分類; 機械学習; 最適化; 最適輸送

機械学習に代表される高知能データ処理技術を利用したシステムの社会実装が精力的に進められている．そのような中，大規模・高次元データを効率良く処理可能な高知能データ処理技術への期待は高い．ここで，データ間距離の定義や距離を用いた機械学習モデルの構築手法，またそれらの計算方法である最適化手法については従前の手法にとらわれない挑戦的な考え方や手法の確立が必要である．本応募では，近年，機械学習の分野で着目されている最適輸送理論に着目し，その最適化手法と機械学習への応用について研究する．本年度は，まず，質量保存制約の緩和最適輸送問題における高速最適化手法について，一部の制約を緩和した半緩和最適輸送問題について検討した．具体的には，エントロピー正則化が存在する場合についてブロック座標Frank-Wolfeアルゴリズムに基づく最適化手法を提案した．具体的には，半緩和問題の変数ブロックを直接利用し，要求誤差最適性に対する反復計算量を，次元/半緩和正則化係数/要求誤差にのみに依存した形で導出した．さらに，(ii)フェンシェル線形化双対ギャップがラグランジュ双対ギャップと一致することを明らかにした．一方，エントロピー正則化が存在する場合の半緩和最適輸送問題についてアルゴリズム構築および理論的収束証明を与えた．次に，非構造データの一つであるグラフ構造を対象として，最適輸送距離による非構造データのデータ表現について検討し，グラフノードのマッチングと最適輸送の類似性に着目し最適輸送の概念を導入した部分構造間距離の検討を行った．特に，メッセージ・パッシング手法で得られた特徴量について木編集距離を用いてノード間距離を定義し，またその効率的な計算方法を提案した．最後に，グラフ分類精度向上に関する数値実験結果を得た．

Mechanical engineering represents the use of advanced knowledge and technology to make use of the energy of social equipment. In large-scale high-dimensional mechanical engineering, it is possible that high-level knowledge and technology is expected to be high, and the distance distance is defined by the use of mechanical engineering techniques. In recent years, there has been a wide range of mechanical science and technology. In recent years, the mechanical science has focused on the most important transport theory, the most advanced mechanical science, and the most advanced mechanical science. The volume saving system and the most efficient transport system, the system and the most efficient system, the system and the system, the system Semi-linear and problem data are used directly, requiring that the difference is the most accurate, the inverse calculation, the dimension

项目成果

Auto-weighted Sequential Wasserstein Distance and Application to Sequence Matching

• DOI: 10.23919/eusipco55093.2022.9909780
• 发表时间: 2022-08
• 期刊: 2022 30th European Signal Processing Conference (EUSIPCO)
• 作者: Mitsuhiko Horie;Hiroyuki Kasai

Wasserstein Graph Distance based on L1-Approximated Tree Edit Distance between Weisfeiler-Lehman Subtrees

• DOI: 10.48550/arxiv.2207.04216
• 发表时间: 2022-07
• 期刊: ArXiv
• 作者: Zhongxi Fang;Jianming Huang;Xun Su;Hiroyuki Kasai

Block-coordinate Frank-Wolfe algorithm and convergence analysis for semi-relaxed OT problem

半松弛OT问题的块坐标Frank-Wolfe算法及收敛性分析

• DOI: 10.1109/icassp43922.2022.9746032
• 发表时间: 2021
• 期刊: IEEE International Conference on Acoustics, Speech and Signal Processing (ICASSP)
• 作者: Takumi Fukunaga and Hiroyuki Kasai