論理指向ニューラルネットワークを利用したパターン認識システムのハードウェア実装

使用面向逻辑的神经网络的模式识别系统的硬件实现

• 批准号: 12780239
• 负责人: 神尾 武司
• 金额: $ 1.15万
• 依托单位: Hiroshima City University
• 依托单位国家: 日本
• 项目类别: Grant-in-Aid for Encouragement of Young Scientists (A)
• 财政年份: 2000
• 资助国家: 日本
• 起止时间: 2000 至 2001
• 项目状态: 已结题
• 来源: https://kaken.nii.ac.jp/en/grant/KAKENHI-PROJECT-12780239/
• 关键词: 論理指向ニューラルネットワーク; 多層パーセプトロン; スパース結合ニューラルネットワーク; ハイブリッドシステム; 連想メモリ; パターン認識; バックプロパゲーション法; 量子化荷重; 多しきい値関数; 判定レベル; VHDL

今年度の研究計画に従って、論理指向ニューラルネットワーク(LOGO-NN)をVHDLによって設計し、FPGA上へのハードウェア実装を試みた。その作業過程を通じて、比較的簡単なパターン認識に対しては高性能なLOGO-NNを低コストでハードウェア化できることが確認された。しかし、問題の難易度が高くなるにつれて、LOGO-NNに必要となるデータビット数とニューロン数は増加し、十分なコスト削減が難しいことも確認された。そこで、この問題を回避するために、LOGO-NNと連想メモリを併用したパターン認識システムを新たに考案した。連想メモリは入力パターンを修復する能力があるため、低コスト化によってLOGO-NN単体の性能がある程度低くなったとしても、システム全体で高いパターン認識率を維持できることは明らかであり、さらに、それをシミュレーションによって確認することができた。また、連想メモリは多層パーセプトロン(MLP)とスパース結合ニューラルネットワーク(SINN)を組み合わせて構成した。ここで、MLP部はLOGO-NNによって実現することで低コスト化を図った。一方、SINN部はハードウェア化が容易なモデルとして知られるセルラーニューラルネットワーク(CNN)を基に構成した。したがって、連想メモリ自体の低コスト化も十分に達成することができた。このように今年度の研究では、LOGO-NNと連想記憶MLP-SINNを組み合わせることによって、本研究の目的であるLOGO-NNを利用した高性能なパターン認識システムが低いハードウェアコストで実現されることを示すことができた。今後の課題は、このパターン認識システムをLSI上に実装することで、より大規模な問題に対応できるようにすることなどが挙げられる。

Our の research projects に 従 っ て, logical point to ニ ュ ー ラ ル ネ ッ ト ワ ー ク (LOGO - NN) を VHDL に よ っ て し design, FPGA へ の ハ ー ド ウ ェ ア be loaded を try み た. そ の process を tong じ て, comparison of Jane 単 な パ タ ー ン know に し seaborne て は high-performance な LOGO - NN を low コ ス ト で ハ ー ド ウ ェ ア change で き る こ と が confirm さ れ た. し か し, degree of difficulty problem の が high く な る に つ れ て, LOGO - NN に necessary と な る デ ー タ ビ ッ ト number と ニ ュ ー ロ ン は raised plus し, very な コ ス ト が difficult cuts し い こ と も confirm さ れ た. そ こ で, こ の problem を avoid す る た め に, LOGO - NN と even think メ モ リ を and し た パ タ ー ン know シ ス テ ム を new た に test case し た. Even want to メ モ リ は パ into force タ ー ン を repair す る ability が あ る た め, low コ ス ト change に よ っ て LOGO - NN 単 body の performance が あ low degree of る く な っ た と し て も, シ ス テ ム all で high い パ タ ー ン know rate を maintain で き る こ と は Ming ら か で あ り, さ ら に, そ れ を シ ミ ュ レ ー シ ョ ン に よ っ て confirm す る こ と が で Youdaoplaceholder0 た. ま た, even want to メ モ リ は multilayer パ ー セ プ ト ロ ン (MLP) と ス パ ー ス combining ニ ュ ー ラ ル ネ ッ ト ワ ー ク (SINN) を group み close わ せ て constitute し た. The LOGO of the MLP department is った, NNによって actual appearance する とで とで low コスト を figure った. Side, SINN は ハ ー ド ウ ェ ア change が easy な モ デ ル と し て know ら れ る セ ル ラ ー ニ ュ ー ラ ル ネ ッ ト ワ ー ク (CNN) を に constitute し た. Youdaoplaceholder0 たがって, by continuously thinking that the メモリ self is <s:1> low コスト and <s:1> is very に, the する する とがで とがで た た た た is achieved. こ の よ う に our の research で は, LOGO - NN と even think MLP memory - SINN を group み close わ せ る こ と に よ っ て purpose, this study の で あ る LOGO - NN を using し た high-performance な パ タ ー ン know シ ス テ ム が low い ハ ー ド ウ ェ ア コ ス ト で be presently さ れ る こ と を shown す こ と が で き た. Future は の subject, こ の パ タ ー ン know シ ス テ ム を on LSI に be loaded す る こ と で, よ り large な problems に 応 seaborne で き る よ う に す る こ と な ど が 挙 げ ら れ る.

项目成果

神尾武司: "3値荷重MLPとSINNから構成されるハイブリッド連想記憶システム"電子情報通信学会技術研究報告. NC2000-134. 47-54 (2001)

Takeshi Kamio：“由三元加权MLP和SINN组成的混合联想记忆系统”IEICE NC2000-134（2001）。

神尾武司: "再帰的多層パーセプトロンとスパース結合ニューラルネットワークによる自己連想記憶システム"電子情報通信学会技術研究報告. (to appear). (2002)

Takeshi Kamio：“基于递归多层感知器和稀疏连接神经网络的自联想记忆系统”IEICE 技术报告（待发表）。

神尾武司: "量子化荷重と多しきい値ニューロンで構成される論理指向ニューラルネットワークのためのバックプロパゲーション学習法"電子情報通信学会 第13回回路とシステム軽井沢ワークショップ論文集. 309-314 (2000)

Takeshi Kamio：“由量化权重和多阈值神经元组成的面向逻辑的神经网络的反向传播学习方法”IEICE第13届电路与系统轻井泽研讨会论文集（309-314）。

Takesh Kamio: "Backpropagation Algorithm for LOGic Oriented Neural Networks"Proc.IEEE-INNS-ENNS/IJCNN2000. 2. 123-128 (2000)

Takesh Kamio：“面向逻辑的神经网络的反向传播算法”Proc.IEEE-INNS-ENNS/IJCNN2000。

Takeshi Kamio: "Auto-Associative Memories Composed of Multilayer Perceptrons and Sparsely Interconnected Neural Networks"Proceedings of the ITC-CSCC 2001. 2. 1276-1279 (2001)

Takeshi Kamio：“由多层感知器和稀疏互连神经网络组成的自动联想存储器”ITC-CSCC 会议记录 2001. 2. 1276-1279 (2001)