Analyse formelle du flux d'information quantitative dans les systèmes d'intelligences artificielles

在人工智能系统中定量分析信息通量

• 批准号: RGPIN-2020-06736
• 负责人: Mullins, John
• 金额: $ 2.11万
• 依托单位: École Polytechnique de Montréal
• 依托单位国家: 加拿大
• 项目类别: Discovery Grants Program - Individual
• 财政年份: 2020
• 资助国家: 加拿大
• 起止时间: 2020-01-01 至 2021-12-31
• 项目状态: 已结题
• 来源: https://www.nserc-crsng.gc.ca/ase-oro/Details-Detailles_eng.asp?id=718454
• 关键词: Analyse; formelle; du; flux; information

La sécurité des systèmes d'intelligences artificielles (i.e. des systèmes qui interagissent avec leur environnement et qui peuvent inclure des intelligences artificielles) est devenue hautement critique. La communauté de l'apprentissage automatique reconnait en effet la nécessité d'expliquer et de certifier les algorithmes d'apprentissage et les réseaux de neurones et que pour ce faire, de nouvelles techniques sont nécessaires, particulièrement pour les applications où la sûreté de fonctionnement et la sécurité sont critiques. Ce projet se propose d'établir des méthodes formelles de calcul de mesures quantitatives de flux d'information dans ces systèmes. Il recouvrira aussi bien le développement de modèles de ces systèmes et de la spécification de la sécurité de l'information qu'ils doivent assurer que celui de méthodes aptes à assurer leur correction. Cette approche visera à quantifier la robustesse des systèmes d'intelligenses artificielles face aux attaques basées sur une analyse statistique capable d'inférer un secret à partir de ses observations. Le champ de recherche sur les modèles quantitatifs de flux d'information dans les systèmes ouverts (i.e. qui interagissent avec leur environnement) est maintenant bien établi mais à notre connaissance, aucune méthode n'a encore été proposée pour quantifier le flux d'information dans un réseau de neurones ou un système d'apprentissage. Ce projet vise donc, à court, moyen et long terme respectivement, à: 1. Décrire les modèles les plus pertinents pour les réseaux de neurones ou les systèmes d'apprentissages qui permettent de décrire leurs représentations internes car ces représentations peuvent révéler de l'information d'ensembles d'exemples données à l'apprentissage et de manière plus générale, qui permettent de décrire le flux d'information le long de la structure; 2. Exprimer les requis sécuritaires que doivent assurer les réseaux de neurones ou les systèmes d'apprentissage en termes de flux d'information dans leur modèle; établir des mesures formelles signifiantes de la quantité d'information transmise des données et paramètres secrets du modèle d'un système d'intelligences artificielles à son comportement observable ; et 3. Développer des algorithmes de calcul de ces mesures.

人工智能系统的安全（即，在环境中进行交互的系统，包括人工智能）是一种高级批判。学徒自动侦察的社区，是学徒算法和神经元研究的必要条件和证明者的效果，是新技术的必要条件，尤其是功能安全等应用程序的必要条件 安全儿子的批评。 该项目提出了系统中信息流量定量计算的方法。我们建议您使用系统模型的开发和信息安全规范来确保安全性的正确方法。这个方法是用量词来表示智能系统的鲁棒性，以分析统计数据，从而推断出观察结果的秘密。系统中的信息通量定量模型研究（即在环境中进行交互）最好的维护方法是重新认识信息通量的定量方法在神经元研究中 学徒制度。 Ce projet vise donc, à Court, moyen et long terme相应，à: 1. Décrire les modèles les plus pertinents pour les réseaux de Neurones ou les systèmes d'apprentissages qui permettent de décrire leurs representations internes car ces revésentations peuvent révéler de l'information合奏团 d'examples à l'apprentissage et de manière plus générale, qui permettent de décrire le flow d'information le long de lastruction; 2. 探索神经网络或学徒系统的安全必要条件；测量可观察到的人工智能系统模型的信息传输数量和秘密参数的标准；等 3. 测量计算算法开发人员。