高性能計算技術とマイクロサービス化技術の融合に関する研究

今年度は，複数計算機で構成されたクラスタ環境におけるコンテナスケジューリンングに関する研究を実施した．汎用的なアプリケーションを対象とした研究（DRF，Tetris等）は過去に十分尽くされており，近年，深層機械学習や推論等の特定のアプリケーションに着目した研究（Gandiva，Tiresias，Themis，Pollux等）が実施され始めている．機械学習は近年再び大きく注目を集めており，その観点からも実施する意義がある．本研究では，まず手始めに深層機械学習の学習と推論のうち，より問題が簡単な推論ワークロードを対象とした研究から着手することにした．本研究では，NVIDIAの最新世代のGPUが有するハードウェアによるGPUの静的分割機能，マルチインスタンスGPU（MIG）を活用した研究を実施した．近年のGPUは非常に高い性能を有しており，単一のワークロードではGPUの性能を使い切れず，利用率が低下することも生じている．MIGはその要求に対応して，複数の利用者やワークロードにGPUを分割提供する機能であるが，分割の仕方にハードウェア上の大きな制約がある．組合せ最適化問題としては，その制約は好ましくない状況であり，GPUのMIGに対応したクラスタ環境における推論ワークロードの最適化手法を提案した．また，9大学及び2研究所が共同運用するデータ活用社会創成プラットフォームmdxとも連携し，上記の応用環境としてのコンテナ基盤の整備や研究環境としての実用上の問題点の洗い出しも進めている．具体的には，スパコンに近いハードウェア特性を活かした高性能Kubernetes環境を自動展開するk8s-configsの整備を継続的に進めている．現在，基本的な基盤環境としての整備はほぼ完了しており，JupyterHubやPostgreSQLといったよりアプリケーションに近い部分の自動展開を進めている．

今年度は，複数計算機で構成されたクラスタ環境におけるコンテナスケジューリンングに関する研究を実施した．汎用的なアプリケーションを対象とした研究（DRF，Tetris等）は過去に十分尽くされており，近年，深層機械学習や推論等の特定のアプリケーションに着目した研究（Gandiva，Tiresias，Themis，Pollux等）が実施され始めている．機械学習は近年再び大きく注目を集めており，その観点からも実施する意義がある．本研究では，まず手始めに深層機械学習の学習と推論のうち，より問題が簡単な推論ワークロードを対象とした研究から着手することにした．本研究では，NVIDIAの最新世代のGPUが有するハードウェアによるGPUの静的分割機能，マルチインスタンスGPU（MIG）を活用した研究を実施した．近年のGPUは非常に高い性能を有しており，単一のワークロードではGPUの性能を使い切れず，利用率が低下することも生じている．MIGはその要求に対応して，複数の利用者やワークロードにGPUを分割提供する機能であるが，分割の仕方にハードウェア上の大きな制約がある．組合せ最適化問題としては，その制約は好ましくない状況であり，GPUのMIGに対応したクラスタ環境における推論ワークロードの最適化手法を提案した．また，9大学及び2研究所が共同運用するデータ活用社会創成プラットフォームmdxとも連携し，上記の応用環境としてのコンテナ基盤の整備や研究環境としての実用上の問題点の洗い出しも進めている．具体的には，スパコンに近いハードウェア特性を活かした高性能Kubernetes環境を自動展開するk8s-configsの整備を継続的に進めている．現在，基本的な基盤環境としての整備はほぼ完了しており，JupyterHubやPostgreSQLといったよりアプリケーションに近い部分の自動展開を進めている．