Discovering New Knowledge by Combining Symbolic Logic and Deep Learning

点击翻译按钮获取中文摘要

本研究では新たな知識を発見できる人工知能(AI)を目指している．近年，タンパク質の構造を予測できるAIが発表されている．未知なタンパク質でもその性能の良さが示されており，現に多くの研究を支えている．しかし，大多数のタンパク質において性能が優れている反面，生物学者の間でも解けていない構造に関しては性能が落ちることがわかってきた．AIは人間がすでに発見してきたことに関しての汎化能力はあるが，(1)その本質となる構造に関わる科学のメカニズムは解明できていないため，新しい知識の発見が難しい．また，最近では高性能な生成AIと称してChatGPTが発表されてた．自然言語での会話を通し，多大な知識や優れた問題解決能力を示している．政府業務でもChatGPTを導入する動きが出ている．しかし，その(2)技術の限界や隠れたバイアスなどがはっきりしておらず，それゆえ，(3)事実無根なことを堂々と正解であるかのように回答する「幻覚」という現象も起きている．これら(1)，(2)および(3)の問題点は現代のAI技術がブラックボックスであることから起因している．本研究では，人間の理解できるよう説明するAIを開発することが目的である．今年度の成果としては，(A)安定的に重要な要素を取り上げる手法の開発と(B)分類タスクにて重要でない要素を排除できる手法の確立を行なったことである．(A)では海外の生物学研究者と研究協力を行い，深層学習でのランダム初期化による結果の不安定性をアンサンブルにより安定させ，さらに活性化関数を変更することで自明な遺伝子を抑え細胞分類においてさらに分析が必要であろう遺伝子を取り上げる手法を開発した．(B)では潜在的概念を導入し，分類器を線形に制限することで因果関係でないが相関関係にある要素を排除し，重要な概念のみで分類を行える手法を確立させた．