权益分类	功能权益	普通用户	{{item.name}}会员
{{category.name}}	{{benefitItem.name}}

Communication Design for Fast and Accurate Decentralized Machine Learning over Wireless Networks

通过无线网络实现快速准确的分散式机器学习的通信设计

基本信息

批准号：
22K14255
负责人：
佐藤光哉
金额：
$ 3万
依托单位：
The University of Electro-Communications
依托单位国家：
日本
项目类别：
Grant-in-Aid for Early-Career Scientists
财政年份：
2022
资助国家：
日本
起止时间：
2022-04-01 至 2025-03-31
项目状态：
未结题

来源：
https://kaken.nii.ac.jp/en/grant/KAKENHI-PROJECT-22K14255/
关键词：
分散機械学習低遅延最適化無線通信機械学習

项目摘要

分散機械学習の低遅延化に向けた学習・通信設計に従事した。具体的に、空中計算を用いた分散ガウス過程回帰の低遅延化手法を提案した。分散ガウス過程回帰は、学習用データを複数端末上で分割処理することで、その演算量の大幅な削減を実現する方式である。低演算量である一方、通信コストが端末台数に依存するという問題があった。Product of Expertsに基づく分散ガウス過程回帰における計算結果が各端末の計算結果の和で表現出来る点に着目した空中計算の設計を行ない、通信コストが端末台数に依存しない分散ガウス過程回帰の確立に成功した。無線通信における回帰タスクの1つである電波マップ構築における空間内挿を対象に、本方式の精度を評価した。計算機シミュレーションにより、チャネル状態情報の内容や端末台数に応じてAirCompを伴わない分散ガウス過程回帰と比較して二乗平均平方根誤差 (RMSE: Root Mean Squared Error)特性が劣化するものの、長区間変動特性を正確に推定出来る場合と比較して十分高精度に内挿が実施できることを確認した。また、分散機械学習システムテストベッドのdocker実装を行った。学習機能をPythonおよびPyTorchにより記述可能である他、コンテナオーケストレーションによりネットワーク上の複数のLinux端末を連携できる。5台のNVIDIA Jetson Nanoを用いた実験により、画像分類タスクにおいて単一計算機上での計算機シミュレーション結果と同程度の学習精度が得られることを確認した。端末の変更や増量が簡易であり、今後の実機実験で活用する予定である。以上の取り組みに関する成果は、IEICE情報理論研究会およびスマート無線研究会にて招待講演の形で発表し、関連分野の研究者らへ広くアピールした。

Decentralized mechanical learning and low latency to learning·communication design Specific, aerial calculations are used to decentralize the process and reduce delay. Decentralization of the process loop, learning data, multiple terminal segmentation processing, and significant reduction in the amount of computation. The number of low computation, communication, and terminal dependencies Product of Experts is based on the number of distributed process loops. The sum of calculation results at each end is expressed. The design of aerial calculation depends on the number of distributed process loops. The success of distributed process loops is established. Wireless communication is the most important way to improve the accuracy of wireless communication. The content of the state information of the computer, the number of terminals, the number of terminals, the terminals, the number of terminals, the number of terminals, the terminals, the number of terminals, the terminals, Decentralized mechanical learning systems are designed to be implemented as dockers. Python and PyTorch can be used to describe multiple Linux terminals. 5 NVIDIA Jetson Nano applications, image classification, computer simulation results and the same degree of learning accuracy The end of the change is easy to use, and the future of the machine is predetermined. The results of the IEICE Information Theory Research Conference and the Wireless Research Conference were presented to the participants.