Task Fusion Learning in Deep Learning

本研究では，単一のNeural Networkに複数のタスクのための機能を同時に学習させ，学習した独立の機能の組み合わせ・重ね合わせによって，事前に学習した個別の単一機能とは異なる，新しい機能を実現し，Neural Networkがより人間の脳に近い汎用的な能力を持っていることを実証することを目的とする．また，複数機能の組み合わせによる実用的な応用についても検討することが当初の目的である．本年度は初年度であるため，その基礎的な研究として，Vision Transformerに対する連続学習に関する研究を行った．この研究では，1つのVision Transformerに複数の分類タスクを学習させるため，タスクに応じたごく少数のパラメータ(1タスクに付き全体の0.5%程度)を導入することで，各タスクにネットワークを適応させるように学習させることを可能とした．

本研究では，単一のNeural Networkに複数のタスクのための機能を同時に学習させ，学習した独立の機能の組み合わせ・重ね合わせによって，事前に学習した個別の単一機能とは異なる，新しい機能を実現し，Neural Networkがより人間の脳に近い汎用的な能力を持っていることを実証することを目的とする．また，複数機能の組み合わせによる実用的な応用についても検討することが当初の目的である．本年度は初年度であるため，その基礎的な研究として，Vision Transformerに対する連続学習に関する研究を行った．この研究では，1つのVision Transformerに複数の分類タスクを学習させるため，タスクに応じたごく少数のパラメータ(1タスクに付き全体の0.5%程度)を導入することで，各タスクにネットワークを適応させるように学習させることを可能とした．