Analyse formelle du flux d'information quantitative dans les systèmes d'intelligences artificielles

在人工智能系统中定量分析信息通量

• 批准号: RGPIN-2020-06736
• 负责人: Mullins, John
• 金额: $ 2.11万
• 依托单位: École Polytechnique de Montréal
• 依托单位国家: 加拿大
• 项目类别: Discovery Grants Program - Individual
• 财政年份: 2021
• 资助国家: 加拿大
• 起止时间: 2021-01-01 至 2022-12-31
• 项目状态: 已结题
• 来源: https://www.nserc-crsng.gc.ca/ase-oro/Details-Detailles_eng.asp?id=741402
• 关键词: Analyse; formelle; du; flux; information

La sécurité des systèmes d'intelligences artificielles (i.e. des systèmes qui interagissent avec leur environnement et qui peuvent inclure des intelligences artificielles) est devenue hautement critique. La communauté de l'apprentissage automatique reconnait en effet la nécessité d'expliquer et de certifier les algorithmes d'apprentissage et les réseaux de neurones et que pour ce faire, de nouvelles techniques sont nécessaires, particulièrement pour les applications où la sûreté de fonctionnement et la sécurité sont critiques. Ce projet se propose d'établir des méthodes formelles de calcul de mesures quantitatives de flux d'information dans ces systèmes. Il recouvrira aussi bien le développement de modèles de ces systèmes et de la spécification de la sécurité de l'information qu'ils doivent assurer que celui de méthodes aptes à assurer leur correction. Cette approche visera à quantifier la robustesse des systèmes d'intelligenses artificielles face aux attaques basées sur une analyse statistique capable d'inférer un secret à partir de ses observations. Le champ de recherche sur les modèles quantitatifs de flux d'information dans les systèmes ouverts (i.e. qui interagissent avec leur environnement) est maintenant bien établi mais à notre connaissance, aucune méthode n'a encore été proposée pour quantifier le flux d'information dans un réseau de neurones ou un système d'apprentissage. Ce projet vise donc, à court, moyen et long terme respectivement, à: 1. Décrire les modèles les plus pertinents pour les réseaux de neurones ou les systèmes d'apprentissages qui permettent de décrire leurs représentations internes car ces représentations peuvent révéler de l'information d'ensembles d'exemples données à l'apprentissage et de manière plus générale, qui permettent de décrire le flux d'information le long de la structure; 2. Exprimer les requis sécuritaires que doivent assurer les réseaux de neurones ou les systèmes d'apprentissage en termes de flux d'information dans leur modèle; Établir des mesures formelles signifiantes de la quantité d'information transmise des données et paramètres secrets du modèle d'un système d'intelligences artificielles à son comportement observable ; et 3. Développer des algorithmes de calcul de ces mesures.

《智能人工系统》(即《智能人工干预环境与环境与人工智能系统》)是对人类智能系统的批判。L教授对自动侦察的应用进行了解释，并对算法进行了验证，提出了适用于S的新技术和新技术以及S的批评。CE项目提出了量化流量和系统信息量的方法。从S和L的保险公司获得的信息表明，保险人的意见是正确的。这是一种量化的方法，用于分析有能力的统计数据和秘密的部分观察数据。Le Champ de recherche sur les Modèles Quantiffes de Flux d‘Information dans les Systèmes Ou un Système d’Apprentisage.法院、媒体和长期的项目，分别是：1.模型和相关的工具为神经元的系统和结构提供了相关的信息；2.实习生对系统的信息需求是：L的系统和系统的信息集成的例子是L的应用和系统的信息流量模型；[dw][晓雨-0920交稿][晓雨-0920交稿][晓雨-0920交稿][晓雨-0920交稿]可观察到的信息传递和参数的秘密；等3.计算和计算的算法。