Secure Computing Platform in the AI Era

点击翻译按钮获取中文摘要

本年度は、予定通り、機械学習モデルから漏洩するプライバシーの保護を目的としたセキュアなモデルの集約法の高度化と、分散学習における悪意のある通信を遮断するプロトコルの設計に取り組んだ。機械学習の方法として、これまでと同様にフェデレーテッドラーニングに注目した。フェデレーテッドラーニングは、学習データがユーザーの端末から出ないため、プライバシー保護の観点で有利であるとされているが、モデルインバージョンなどによりモデルから漏洩するプライバシー情報の保護には課題が残る。これに対して、本課題では、モデルに対して乱数でマスクをしつつも、全ユーザーでマスクしたモデルを足し合わせることでマスクが秘密裏に消えるセキュアなモデル集約法で対応した。ただし、この方法は、各ユーザーが更新したマスク付きモデルを他のユーザーと交換するため、通信量が多いという課題が残っていた。これに対して、安全に集約する性質を満たしながら一部をサーバーによる集約に置き換えることで、安全性を担保しながら通信量を削減する手法を設計した。さらに、サーバーによる検証にはGPUの利用を可能にし、これにより、フェデレーテッドラーニングにおけるセキュアな集約のスケーラビリティーを向上させた。さらに、改変したモデルなど、悪意のあるモデルを検出する既存のプロトコルに対しても、この方法を適用することを可能にした。一方、分散学習を支える通信プロトコルについては、これまでに検討していた軽量な匿名通信プロトコルに加え、匿名性と責任追跡性を両立する手法を設計した。具体的には、ユーザーの匿名性を担保しながらも、過去に悪意のある通信をしたユーザーからの通信を遮断することを可能にするプロトコルを設計した。