权益分类	功能权益	普通用户	{{item.name}}会员
{{category.name}}	{{benefitItem.name}}

データストリーム環境におけるオンライン学習アルゴリズムの研究

数据流环境下在线学习算法研究

基本信息

批准号：
11J03668
负责人：
松島慎
金额：
$ 0.83万
依托单位：
The University of Tokyo
依托单位国家：
日本
项目类别：
Grant-in-Aid for JSPS Fellows
财政年份：
2011
资助国家：
日本
起止时间：
2011 至 2012
项目状态：
已结题

项目摘要

実用的な機械学習をRAM容量を超える数10GB単位のデータに対して適用する場合はメモリスワップにより効率が著しく低下する問題があった。そこで我々は特にサポートベクターマシン(SVM)の機械学習において、現在汎用的に利用可能なマルチコアプロセッサおよびメモリ階層構造の特長を利用し、RAM容量を超えるデータを用いたSVM学習を高速に行うアルゴリズム、StreamSVMを提案した。提案アルゴリズムはDual Cached Loopsという提案スキームの上で動作する。Dual Cached Loopsは2つのスレッドが非同期的に動作する。Reading threadとよばれるスレッドはハードディスク(HDD)に連続アクセスし、繰り返しデータをHDDからRAMへ読み込む。一方のTraining ThreadとよばれるスレッドはRAMに転送されたデータにのみアクセスするため、HDDからの読み込みのオーバーヘッドを被ることなく、かつ途中で停止することなくデータアクセスが可能である。RAMへのアクセスはHDDからの読み込みに比べ高速であるため、Readingthreadが一度データを読み込む間に何回もデータにアクセスすることが可能であり、高速なパラメータ更新が可能となる。評価実験により、提案手法は既存手法に比べて非常に高速に学習が可能であることを確認した。さらに、この提案スキームを用いて他の機械学習の問題であるロジスティック回帰やサポートベクター回帰に対するアルゴリズムを開発した。また、複数のモデルを同時に学習する手法も開発することができた。これによってストリームデータをHDDに記憶させながら、それらを無駄にすることなく、またオンライン学習アルゴリズムの効率の良さを保ちながらバッチ学習を行うことができる。このアルゴリズムおよび方法論によって、当初の目的であったデータストリーム環境における制限を克服しながら今までの方法と匹敵する高い精度を達成することが可能になったと言える。

The memory capacity of the machine is over 10GB, and the memory rate is low. In this paper, we propose a new method for machine learning of SVM (Support Vector Machine), which is widely used to make use of the advantages of hierarchical structure, RAM capacity and SVM learning. The proposal is for Dual Cached Loops. Dual Cached Loops is not synchronized. Reading thread: read thread A Training Thread may be sent to RAM, HDD, or stopped in the middle of the road. RAM access to HDD is possible at high speed, Readingthread is possible. The evaluation method is faster than the existing method, so it is possible to confirm it. In this paper, the author proposes to use the machine learning problem to solve the problem. The number of people who are interested in learning This is a good way to keep track of HDD memory and learning. The goal is to overcome the constraints of this methodology and achieve high accuracy.