Analyse formelle du flux d'information quantitative dans les systèmes d'intelligences artificielles

人工智能系统的安全性（即人工智能系统之间的相互影响和相互影响）是一种批判。自动神经网络的共同体对神经网络和神经元算法的解释和验证的必要性以及新技术的必要性，特别是对功能和安全性的应用的必要性提出了批评。该项目提出了计算系统中信息通量定量测量的方法。Il recouvrira aussi bien le dépement de modèles de ces systèmes et de la specécification de la sécurité de l'information qu'ils doivent assurer que celui de methodes aptes à assurer correction. Cette approche visera à quantifier la robustesse des systèmes d'intelligenses artificielles face aux attaques basées sur une analysis statistique capable d'inférer un secret à partir de ses observations.研究外向系统中信息流的量化模型（即与神经元的交互作用）对我们的认识是有益的，但迈斯还没有提出一种方法来量化神经元网络或神经元系统中的信息流。 该项目将分别在法庭上和泰尔梅上进行。2.描述了神经元网络或神经系统的最佳相关模型，这些模型可用于描述神经元和神经元加一般神经元的信息集合的内部再现，从而可用于描述结构上的信息流;探讨确保神经元网络或人工智能系统在神经元模型中信息流动方面的安全要求;确定人工智能系统中可观测行为的传递信息量和参数的重要性;等3。这些测量值的计算算法。

La sécurité des systèmes d'intelligences artificielles (i.e. des systèmes qui interagissent avec leur environnement et qui peuvent inclure des intelligences artificielles) est devenue hautement critique. La communauté de l'apprentissage automatique reconnait en effet la nécessité d'expliquer et de certifier les algorithmes d'apprentissage et les réseaux de neurones et que pour ce faire, de nouvelles techniques sont nécessaires, particulièrement pour les applications où la sûreté de fonctionnement et la sécurité sont critiques. Ce projet se propose d'établir des méthodes formelles de calcul de mesures quantitatives de flux d'information dans ces systèmes. Il recouvrira aussi bien le développement de modèles de ces systèmes et de la spécification de la sécurité de l'information qu'ils doivent assurer que celui de méthodes aptes à assurer leur correction. Cette approche visera à quantifier la robustesse des systèmes d'intelligenses artificielles face aux attaques basées sur une analyse statistique capable d'inférer un secret à partir de ses observations. Le champ de recherche sur les modèles quantitatifs de flux d'information dans les systèmes ouverts (i.e. qui interagissent avec leur environnement) est maintenant bien établi mais à notre connaissance, aucune méthode n'a encore été proposée pour quantifier le flux d'information dans un réseau de neurones ou un système d'apprentissage. Ce projet vise donc, à court, moyen et long terme respectivement, à: 1. Décrire les modèles les plus pertinents pour les réseaux de neurones ou les systèmes d'apprentissages qui permettent de décrire leurs représentations internes car ces représentations peuvent révéler de l'information d'ensembles d'exemples données à l'apprentissage et de manière plus générale, qui permettent de décrire le flux d'information le long de la structure; 2. Exprimer les requis sécuritaires que doivent assurer les réseaux de neurones ou les systèmes d'apprentissage en termes de flux d'information dans leur modèle; Établir des mesures formelles signifiantes de la quantité d'information transmise des données et paramètres secrets du modèle d'un système d'intelligences artificielles à son comportement observable ; et 3. Développer des algorithmes de calcul de ces mesures.