Multi-Layer In-Memory Computing and Its Application for GNNs

インメモリ計算という新しい計算技術を用いた計算機の構成法、及び、複雑分散化した計算資源の効率的な活用法に関する研究を行った。インメモリ計算はメモリの物理特性を利用してメモリ内で直接計算を行い、計算機システム上で支配的となっているデータ移動コストを削減する技術であるが、実装されるメモリによってその計算効率は大きく異なり、アプリケーションを効率的にマッピング及びスケジューリングする手法の探索には大きな余地が残っている。ヘテロジーニアスなメモリ内計算資源の活用のため、本研究では、まずどのようなアプリケーションが多層インメモリ計算の恩恵を受けうるかの調査を行った。そのうえで、メモリインテンシブ・計算インテンシブな要求の両方を持つグラフニューラルネットワーク（GNN）及びマルチプログラミングを想定した多層インメモリ計算アーキテクチャの検討した。また、主要となる疎行列積演算カーネルなどについて、どのようにメモリ上で計算を行ったら性能とコストの良いトレードオフが取れるか検討し、その方法を提案した。研究を進めるうえで、プログラムの入力データの特性によって計算タスクのメモリへの最適マッピングが大きく影響を受けることが明らかになり、コンパイル時に判明するプログラムの特性に加え、入力から素早く特徴を抽出することが求められることが判明した。検討をしているアプリケーションでは、入力が多種多様かつ予測困難であることから、機械学習を使ってオンザフライで入力から期待される性能を事前学習し、入力データのダイナミクスを考慮するスケジューリング手法を検討した。OSなどで一般的に使用されるスケジューリング手法では不十分であり、かつ最適解を求めるにはNP困難な問題を解く必要があるが、提案手法では軽量な機械学習を用いたヒューリスティックを用いることで、十分精度の高いスケジューリングの解を求められることを示した。

インメモリ計算という新しい計算技術を用いた計算機の構成法、及び、複雑分散化した計算資源の効率的な活用法に関する研究を行った。インメモリ計算はメモリの物理特性を利用してメモリ内で直接計算を行い、計算機システム上で支配的となっているデータ移動コストを削減する技術であるが、実装されるメモリによってその計算効率は大きく異なり、アプリケーションを効率的にマッピング及びスケジューリングする手法の探索には大きな余地が残っている。ヘテロジーニアスなメモリ内計算資源の活用のため、本研究では、まずどのようなアプリケーションが多層インメモリ計算の恩恵を受けうるかの調査を行った。そのうえで、メモリインテンシブ・計算インテンシブな要求の両方を持つグラフニューラルネットワーク（GNN）及びマルチプログラミングを想定した多層インメモリ計算アーキテクチャの検討した。また、主要となる疎行列積演算カーネルなどについて、どのようにメモリ上で計算を行ったら性能とコストの良いトレードオフが取れるか検討し、その方法を提案した。研究を進めるうえで、プログラムの入力データの特性によって計算タスクのメモリへの最適マッピングが大きく影響を受けることが明らかになり、コンパイル時に判明するプログラムの特性に加え、入力から素早く特徴を抽出することが求められることが判明した。検討をしているアプリケーションでは、入力が多種多様かつ予測困難であることから、機械学習を使ってオンザフライで入力から期待される性能を事前学習し、入力データのダイナミクスを考慮するスケジューリング手法を検討した。OSなどで一般的に使用されるスケジューリング手法では不十分であり、かつ最適解を求めるにはNP困難な問題を解く必要があるが、提案手法では軽量な機械学習を用いたヒューリスティックを用いることで、十分精度の高いスケジューリングの解を求められることを示した。