特徴空間の構造の解明とパターン認識に適したカーネルの開発

阐明特征空间的结构并开发适合模式识别的内核

• 批准号: 17656130
• 负责人: 阿部 重夫
• 金额: $ 2.05万
• 依托单位: Kobe University
• 依托单位国家: 日本
• 项目类别: Grant-in-Aid for Exploratory Research
• 财政年份: 2005
• 资助国家: 日本
• 起止时间: 2005 至 2007
• 项目状态: 已结题
• 来源: https://kaken.nii.ac.jp/en/grant/KAKENHI-PROJECT-17656130/
• 关键词: パターン認識; サポートベクトルマシン; 特徴空間; 標本特徴空間; カーネル; マハラノビスカーネル

特徴空間は無限次元となりうるが,これに等価な標本特徴空間は最大でも教師データ数の次元の空間になる.この特徴を使って前年度に最小自乗サポートベクトルマシン(LS SVM)のスパース化を実現する方式を開発したが,今年度はさらにスパース化の研究を進め,以下の結論を得た.(1)前年度開発したスパースLS SVMは標本特徴空間で主問題を解いていたが,標本特徴空間で双対問題を解く方式を開発し,両者の違いを数値的安定性および学習速度の観点から解析し,双対問題で解くと数値的不安定が生じることを明らかにした.(2)スパースLS SVMを関数近似に拡張した.すなわちカーネルマトリックスをコレスキー分解する際に0判定を緩めることにより,一次独立になるデータ数を制限して縮小標本空間を作成する.さらにこの空間内で関数近似器を学習することによりスパースLS SVR(Support Vector Regressor)を実現した.(2)スパースLS SVMではコレースキー分解により,特徴空間を縮小していたが,これでは分離に必要なデータを削除する可能性がある.このために標本特徴空間でDiscriminant Analysisを行うことにより分離に必要なデータを選択する方式を開発した.これにより,コレスキー分解で求めたスパースLS SVMよりさらにスパース性を向上することができた.(3)通常のSVMを縮小標本特徴空間で双対問題で学習する方式を開発した.これにより,分離が難しい問題で通常のSVMよりさらにスパース性が向上することを確認した.

The special space is an infinite dimension, the maximum number of teachers in the special space is the maximum number of specimens.のdimensional space space. LS SVM)のスパース化を実成するWAYを开発したが,this year’s annual program The research on chemical transformation has progressed, and the following conclusions have been obtained. (1) LS developed in the previous year SVM solves the main problem of the specimen special space and solves the dual problem of the specimen special space. The solution is the solution of the double problem of the specimen special space. The nature of the learning speed and the analysis of the points, the solution of the double problem and the instability of the numerical values ​​are born. (2) スパースLS SVM is a close number approximation.スをコレスキーbreakdownするinteriorに0judgmentをeasingめることにより, once Independent number limit, reduce specimen space, create number approximator in space, learn LS SVR(Support Vector Regressor)を実appearsした.(2)スパースLS SVM decomposition is necessary, the special space is reduced, and separation is necessaryなデータをThe possibility of removing the するがある.このためにSpecimen special spaceでDiscriminant Analysisを行うことによりSeparation Necessaryなデータを选択するHow to open the 発した. SVM is the best way to solve the problem of reducing the characteristic space of the specimen and studying the double problem.るWAYを开発した.これにより, separationがdifficultyしいISSUEでusuallyのSVMよりさらにスパース性がUPすることをconfirmationした.

项目成果

Implementing Multi-class Classifiers by One-class Classification Methods

• DOI: 10.1109/ijcnn.2006.246699
• 发表时间: 2006-10
• 期刊: The 2006 IEEE International Joint Conference on Neural Network Proceedings
• 作者: Tao Ban;S. Abe

Fast Training of Linear Programming Support Vector Machines Using Decomposition Techniques

使用分解技术快速训练线性规划支持向量机

• 发表时间: 2006
• 期刊: Proc. Second IAPR TC3 Workshop on Artificial Neural Networks in Pattern Recognition (ANNPR 2006)
• 作者: 三村和;飛岡良明;森川博之;青山友紀;V.R.Romanovskii;V.R.Romanovskii;V.R.Romanovskii;V.R.Romanovskii;V.R.Romanovskii;V.R.Romanovskii;V.R.Romanovskii;K.Takahashi;渡辺和雄;Akon Higuchi;Shigeo Abe;Shigeo Abe;Shigeo Abe;Shinya Katagiri;Tao Ban;Yuya Kamada;Yusuke Torii
• 通讯作者: Yusuke Torii

Optimizing Mahalanobis Kernels for Pattern Classification, In Pattern Recognition: Theory and Application

模式识别中优化 Mahalanobis 核以进行模式分类：理论与应用

• 发表时间: 2008
• 作者: 三村和;飛岡良明;森川博之;青山友紀;V.R.Romanovskii;V.R.Romanovskii;V.R.Romanovskii;V.R.Romanovskii;V.R.Romanovskii;V.R.Romanovskii;V.R.Romanovskii;K.Takahashi;渡辺和雄;Akon Higuchi;Shigeo Abe;Shigeo Abe;Shigeo Abe;Shinya Katagiri;Tao Ban;Yuya Kamada;Yusuke Torii;Masamichi Ashihara;Shigeo Abe;Shigeo Abe;Kazuki Iwamura;Shigeo Abe;Shigeo Abe
• 通讯作者: Shigeo Abe

Incremental training of support vector machines using hyperspheres

• DOI: 10.1016/j.patrec.2006.02.016
• 发表时间: 2006-10
• 期刊: Pattern Recognit. Lett.
• 作者: Shinya Katagiri;S. Abe

Feature Selection Based on Kernel Discriminant Analysis

基于核判别分析的特征选择

• 发表时间: 2006
• 期刊: Proc. International Conference on Artificial Neural Networks (ICANN 2006) 2
• 作者: 三村和;飛岡良明;森川博之;青山友紀;V.R.Romanovskii;V.R.Romanovskii;V.R.Romanovskii;V.R.Romanovskii;V.R.Romanovskii;V.R.Romanovskii;V.R.Romanovskii;K.Takahashi;渡辺和雄;Akon Higuchi;Shigeo Abe;Shigeo Abe;Shigeo Abe;Shinya Katagiri;Tao Ban;Yuya Kamada;Yusuke Torii;Masamichi Ashihara
• 通讯作者: Masamichi Ashihara