Analyse formelle du flux d'information quantitative dans les systèmes d'intelligences artificielles

在人工智能系统中定量分析信息通量

• 批准号: RGPIN-2020-06736
• 负责人: Mullins, John
• 金额: $ 2.11万
• 依托单位: École Polytechnique de Montréal
• 依托单位国家: 加拿大
• 项目类别: Discovery Grants Program - Individual
• 财政年份: 2021
• 资助国家: 加拿大
• 起止时间: 2021-01-01 至 2022-12-31
• 项目状态: 已结题
• 来源: https://www.nserc-crsng.gc.ca/ase-oro/Details-Detailles_eng.asp?id=741402
• 关键词: Analyse; formelle; du; flux; information

La sécurité des systèmes d'intelligences artificielles (i.e. des systèmes qui interagissent avec leur environnement et qui peuvent inclure des intelligences artificielles) est devenue hautement critique. La communauté de l'apprentissage automatique reconnait en effet la nécessité d'expliquer et de certifier les algorithmes d'apprentissage et les réseaux de neurones et que pour ce faire, de nouvelles techniques sont nécessaires, particulièrement pour les applications où la sûreté de fonctionnement et la sécurité sont critiques. Ce projet se propose d'établir des méthodes formelles de calcul de mesures quantitatives de flux d'information dans ces systèmes. Il recouvrira aussi bien le développement de modèles de ces systèmes et de la spécification de la sécurité de l'information qu'ils doivent assurer que celui de méthodes aptes à assurer leur correction. Cette approche visera à quantifier la robustesse des systèmes d'intelligenses artificielles face aux attaques basées sur une analyse statistique capable d'inférer un secret à partir de ses observations. Le champ de recherche sur les modèles quantitatifs de flux d'information dans les systèmes ouverts (i.e. qui interagissent avec leur environnement) est maintenant bien établi mais à notre connaissance, aucune méthode n'a encore été proposée pour quantifier le flux d'information dans un réseau de neurones ou un système d'apprentissage. Ce projet vise donc, à court, moyen et long terme respectivement, à: 1. Décrire les modèles les plus pertinents pour les réseaux de neurones ou les systèmes d'apprentissages qui permettent de décrire leurs représentations internes car ces représentations peuvent révéler de l'information d'ensembles d'exemples données à l'apprentissage et de manière plus générale, qui permettent de décrire le flux d'information le long de la structure; 2. Exprimer les requis sécuritaires que doivent assurer les réseaux de neurones ou les systèmes d'apprentissage en termes de flux d'information dans leur modèle; Établir des mesures formelles signifiantes de la quantité d'information transmise des données et paramètres secrets du modèle d'un système d'intelligences artificielles à son comportement observable ; et 3. Développer des algorithmes de calcul de ces mesures.

人工智能系统（即人工智能系统）与环境（包括人工智能系统）之间的相互作用（即人工智能系统与环境之间的相互作用）是设备管理批判。例如，“communautise de l'学徒自动侦察”，“效果”，“交换器”，“证明器”，“算法”，“学徒自动侦察”，“神经元”，“公平”，“新技术”，“交换器”，特别是“应用程序”，“交换器”，“交换器”，“功能”，“交换器”，“批评”。该项目提出了一种“可变汇率制”、“可变汇率制”、“计算方式”、“计量方式”、“信息流量”和“汇率制”。我将在下列情况中重新考虑：<s:1>数据系统<e:1>和<s:1>数据交换系统<e:1>的<s:1>数据交换系统和<s:1>数据交换系统的<s:1>数据交换系统和<s:1>数据交换系统的<s:1>数据交换系统和<s:1>数据交换系统的<s:1>数据交换系统。该方法采用visera量化器和鲁棒性来描述系统智能人工智能面临的攻击，例如，通过分析统计能力来描述系统智能人工智能面临的攻击。“信息流动和系统<e:1>之间的信息流动的研究”（即，在不同的信息环境之间的相互作用）是“维持一个可变的信息流动和系统<e:1>之间的信息流动”，“确定一个可变的信息流动和系统<e:1>之间的信息流动”，“确定一个可变的信息流动和一个可变的信息流动”。二、项目分别为：唐、唐、唐、唐、唐、唐、唐、唐、唐、唐。描写les模型+相关预见倒les reseaux de神经元或者les系统d 'apprentissages演示de描写他们预见表示实习汽车ces表示peuvent狂欢者d 'ensembles d举例的信息的数据一个l 'apprentissage et de方法加上兴业银行,演示de描写le通量d预见信息勒长de la结构;2。“经验”要求“经验者”要求“经验者”保证“经验者”不需要“经验者”，“经验者”不需要“经验者”，“经验者”不需要“经验者”，“经验者”不需要“经验者”。Établir关于信息传输的计量公式和重要计量公式；关于信息传输的计量公式和参数；关于信息传输的计量公式和参数；关于信息传输的计量公式和参数；关于信息传输的计量公式；等3。dsamuveloper设计了计算测量值的算法。