深層学習モデルの分解と再構成による認識原理の解明と学習効率化

点击翻译按钮获取中文摘要

２０２２年度は、深層ニューラルネットワークの適合器について研究を実施した。近年の深層ニューラルネットワークは大規模化が進んでおり、音処理では、音声認識、話者認識、感情認識などといったそれぞれのタスクに対して、深層ニューラルネットワークの学習を個別におこなうことが非効率となりつつある。そこで、本年度の研究では、事前に学習された自己教師あり音表現モデルを固定して用い、そこに小さな適合器と呼ばれるニューラルネットワークを挿入することで、個別のタスクに適したモデルを得る手法を提案した。評価実験では、まず音声認識と話者照合タスクで提案手法の実装をおこない、従来のファインチューニング法と同程度の精度が、従来よりもより少ないパラメータ数（約８割の削減）で達成可能であることを実証した。この成果は、深層ニューラルネットワークを細かく分解し、再構築を可能とするための要素技術になると考えられるため、研究は順調に進められていると言える。また、複数の大規模モデルから１つの小規模モデルを得るための知識蒸留法についても検討をおこなっている。この部分に関してはまだ成果が得られていない。特に複数の大規模モデルを用いる場合、GPUメモリ不足や計算量（及び計算機使用量）が増大する問題があり、上記の適合器と組み合わせるなど、いくつか効率的な方針を検討中である。これらの実験は音声データをもとに実施しているが、様々なデータでの効果を検証するため、今後は画像データへの応用も視野に入れて研究を進める必要がある。