Analyse formelle du flux d'information quantitative dans les systèmes d'intelligences artificielles

在人工智能系统中定量分析信息通量

• 批准号: RGPIN-2020-06736
• 负责人: Mullins, John
• 金额: $ 2.11万
• 依托单位: École Polytechnique de Montréal
• 依托单位国家: 加拿大
• 项目类别: Discovery Grants Program - Individual
• 财政年份: 2021
• 资助国家: 加拿大
• 起止时间: 2021-01-01 至 2022-12-31
• 项目状态: 已结题
• 来源: https://www.nserc-crsng.gc.ca/ase-oro/Details-Detailles_eng.asp?id=741402
• 关键词: Analyse; formelle; du; flux; information

La sécurité des systèmes d'intelligences artificielles (i.e. des systèmes qui interagissent avec leur environnement et qui peuvent inclure des intelligences artificielles) est devenue hautement critique. La communauté de l'apprentissage automatique reconnait en effet la nécessité d'expliquer et de certifier les algorithmes d'apprentissage et les réseaux de neurones et que pour ce faire, de nouvelles techniques sont nécessaires, particulièrement pour les applications où la sûreté de fonctionnement et la sécurité sont critiques. Ce projet se propose d'établir des méthodes formelles de calcul de mesures quantitatives de flux d'information dans ces systèmes. Il recouvrira aussi bien le développement de modèles de ces systèmes et de la spécification de la sécurité de l'information qu'ils doivent assurer que celui de méthodes aptes à assurer leur correction. Cette approche visera à quantifier la robustesse des systèmes d'intelligenses artificielles face aux attaques basées sur une analyse statistique capable d'inférer un secret à partir de ses observations. Le champ de recherche sur les modèles quantitatifs de flux d'information dans les systèmes ouverts (i.e. qui interagissent avec leur environnement) est maintenant bien établi mais à notre connaissance, aucune méthode n'a encore été proposée pour quantifier le flux d'information dans un réseau de neurones ou un système d'apprentissage. Ce projet vise donc, à court, moyen et long terme respectivement, à: 1. Décrire les modèles les plus pertinents pour les réseaux de neurones ou les systèmes d'apprentissages qui permettent de décrire leurs représentations internes car ces représentations peuvent révéler de l'information d'ensembles d'exemples données à l'apprentissage et de manière plus générale, qui permettent de décrire le flux d'information le long de la structure; 2. Exprimer les requis sécuritaires que doivent assurer les réseaux de neurones ou les systèmes d'apprentissage en termes de flux d'information dans leur modèle; Établir des mesures formelles signifiantes de la quantité d'information transmise des données et paramètres secrets du modèle d'un système d'intelligences artificielles à son comportement observable ; et 3. Développer des algorithmes de calcul de ces mesures.

人工智能系统的安全性（即人工智能系统之间的相互影响和相互影响）是一种批判。自动神经网络的共同体对神经网络和神经元算法的解释和验证的必要性以及新技术的必要性，特别是对功能和安全性的应用的必要性提出了批评。该项目提出了计算系统中信息通量定量测量的方法。Il recouvrira aussi bien le dépement de modèles de ces systèmes et de la specécification de la sécurité de l'information qu'ils doivent assurer que celui de methodes aptes à assurer correction. Cette approche visera à quantifier la robustesse des systèmes d'intelligenses artificielles face aux attaques basées sur une analysis statistique capable d'inférer un secret à partir de ses observations.研究外向系统中信息流的量化模型（即与神经元的交互作用）对我们的认识是有益的，但迈斯还没有提出一种方法来量化神经元网络或神经元系统中的信息流。 该项目将分别在法庭上和泰尔梅上进行。描述了神经元网络或神经系统的最佳相关模型，这些模型可用于描述神经元和神经元加一般神经元的信息集合的内部表示，以描述结构上的信息流; 2.探讨确保神经元网络或神经系统在脑内信息流动方面的安全要求;人工智能系统模型中有关数据和参数的信息传递量的重要形式的测量et 3. Décamper des algorithmes de calcul de ces mesures.