余事象確率分布に基づく未学習クラス推定ニューラルネットと異常値の知的構造把握

基于事后概率分布和异常值智能结构理解的未学习类别估计神经网络

• 批准号: 18J23462
• 负责人: 迎田 隆幸
• 金额: $ 1.79万
• 依托单位: Yokohama National University
• 依托单位国家: 日本
• 项目类别: Grant-in-Aid for JSPS Fellows
• 财政年份: 2018
• 资助国家: 日本
• 起止时间: 2018-04-25 至 2021-03-31
• 项目状态: 已结题
• 来源: https://kaken.nii.ac.jp/grant/KAKENHI-PROJECT-18J23462/
• 关键词: 異常検知; 確率ニューラルネット; 生体信号識別; 機械学習; 隠れマルコフモデル; 時系列データ

教師データが存在するパターン識別問題においては予め分類対象クラスの学習データやクラスの数を与えることで識別器の学習を実現するが，学習対象に含まれない未知のパターンが入力された場合には必ず既存のクラスに誤識別されるという課題が存在する．本研究の目的は学習クラスの分類を行う多クラス識別器と学習していないことを判断する異常検知器を統合した新たな識別器を提案し，検知された異常値の性質やクラスタ構造を明らかにする解析手法を確立することである．昨年度には学習時に想定しない“未学習クラス”を分類可能な未学習クラス推定確率ニューラルネットを提案し，その有効性を確認したが，学習の不安定さや未学習クラスに関する情報を得られないという課題も存在していた．そこで本年度は，提案法のネットワーク構造の改良，およびノンパラメトリックベイズ手法による未学習クラスの内部構造解析に取り組んだ．昨年度の確率ニューラルネットではネットワーク内部に内包される2種類の確率密度関数の統計的パラメータをネットワークの重み係数としてそれぞれを独立に最適化したが，統計的制約を十分考慮した学習を実現できなかった．本年度に提案した手法では重み係数の共通化を可能にする新たなネットワーク構造を提案することで，統計的制約を満たした学習や識別精度の安定化，ネットワークの内部構造の可視化までを実現した．また，異常値として未学習クラスに分類されたサンプル群に対して無限混合正規分布を適用し，未学習クラスの構造を確率モデルによって表現可能であることを確認し，得られたクラスタ構造を既存の提案ネットワークに追加したり，既存の学習クラスを削除したりする新たな適応的学習法を提案した．この方法論ではクラスの追加・削除を行う際に学習済みの重み係数を活用可能であり，人工データの分類実験では少ない学習回数でネットワークの重み係数を最適化できることを示した．

Teachers デ ー タ が exist す る パ タ ー ン identify problems に お い て は to め classified as ク seaborne ラ ス の learning デ ー タ や ク ラ ス の number を and え る こ と で recognizer の learning を be presently す る が, learning as seaborne に containing ま れ な い unknown の パ タ ー ン が さ into force れ た occasions に は will ず existing の ク ラ ス に mistakenly identified さ れ る と い う subject が exist す る. Study purpose の this study は ク ラ ス の classification line を う ク ラ ス recognizer と learning し て い な い こ と を judgment す る abnormal 検 を known device integration し た new た な recognizer を proposal し, 検 know さ れ た nature of abnormal numerical の や ク ラ ス タ tectonic を Ming ら か に す る parsing technique を establish す る こ と で あ る. Yesterday annual に は learning に scenarios し な い "not learn ク ラ ス" を classification can な not learning ク ラ ス presumption of probabilistic ニ ュ ー ラ ル ネ ッ ト を proposal し, そ の have sharper sex を confirm し た が, learning の unrest さ や not learning ク ラ ス に masato す る intelligence を ら れ な い と い う subject も exist し て い た. そ こ で は this year, the proposed method の ネ ッ ト ワ ー の ク structure improvement, お よ び ノ ン パ ラ メ ト リ ッ ク ベ イ ズ gimmick に よ る not learn ク ラ ス の internal structure に group take り ん だ. Yesterday's annual の probabilistic ニ ュ ー ラ ル ネ ッ ト で は ネ ッ ト ワ ー ク internal に insourcing さ れ る 2 kinds の number of probability density masato の statistics パ ラ メ ー タ を ネ ッ ト ワ ー ク の coefficient of heavy み と し て そ れ ぞ れ を independent に optimization し た が, the restriction of statistical を very consider し た learning を be presently で き な か っ た. This year に proposal し た gimmick で は coefficient of heavy み の altogether tonghua を may に す る new た な ネ ッ ト ワ ー ク structure proposed を す る こ と で, the restriction of statistical を against た し た learning や の stabilization accuracy, ネ ッ ト ワ ー ク の の internal structure visualization ま で を be presently し た. ま た, abnormal numerical と し て not learn ク ラ ス に classification さ れ た サ ン プ ル group に し seaborne て infinite を applicable し mixed normal distribution, and not learning ク ラ ス を の structure of probabilistic モ デ ル に よ っ て performance may で あ る こ と を confirm し, too ら れ た ク ラ ス タ tectonic を existing の proposal ネ ッ ト ワ ー ク に additional し た り, Existing <s:1> ラスを to eliminate た た する new たな suitable 応 learning method を proposal た た. こ の methodology で は ク ラ ス の, additional line pruned を う, interstate に learning 済 み の coefficient of heavy み を may use で あ り, artificial デ ー タ の classification be 験 で は less な い learning back several で ネ ッ ト ワ ー ク の optimal weight coefficient of み を で き る こ と を shown し た.

项目成果

A Novel Probabilistic Neural Network with Unlearned-class Detection Based on Normal and Complementary Gaussian Mixture Models

一种基于正态和互补高斯混合模型的具有未学习类别检测的新型概率神经网络

• DOI: 10.9746/sicetr.56.532
• 发表时间: 2020
• 期刊: Transactions of the Society of Instrument and Control Engineers
• 作者: MUKAEDA Takayuki;SHIMA Keisuke
• 通讯作者: SHIMA Keisuke

Development of an anomaly detection method with a novel hidden semi-Markov model incorporating unlearned states

使用包含未学习状态的新型隐藏半马尔可夫模型开发异常检测方法

• 发表时间: 2020
• 作者: Takayuki Mukaeda,Keisuke Shima;Saori Miyajima;Yuki Hashimoto;Takayuki Tanaka;Naomichi Tani;Hiroyuki Izumi
• 通讯作者: Hiroyuki Izumi

FPGA に実装を指向した近似GMMに基づく未学習クラス推定ニューラルネット

基于近似 GMM 的未训练类别估计神经网络旨在在 FPGA 上实现

• 发表时间: 2020
• 作者: MUKAEDA Takayuki;SHIMA Keisuke;小宮山 翼，迎田 隆幸，島 圭介;植草 秀明，迎田 隆幸，清水 武史，島 圭介
• 通讯作者: 植草 秀明，迎田 隆幸，清水 武史，島 圭介

混合余事象分布型ニューラルネットによるEMG制御システム

使用混合事件分布神经网络的肌电图控制系统

• 发表时间: 2020
• 作者: MUKAEDA Takayuki;SHIMA Keisuke;小宮山 翼，迎田 隆幸，島 圭介;植草 秀明，迎田 隆幸，清水 武史，島 圭介;島 圭介，小宮山 翼，迎田 隆幸
• 通讯作者: 島 圭介，小宮山 翼，迎田 隆幸

未学習動作を考慮した5指駆動型ロボットハンドのEMG制御

考虑未学习运动的五指驱动机器人手的肌电图控制

• 发表时间: 2021
• 作者: MUKAEDA Takayuki;SHIMA Keisuke;小宮山 翼，迎田 隆幸，島 圭介
• 通讯作者: 小宮山 翼，迎田 隆幸，島 圭介