Vers la vérification et certification d'algorithmes d'intelligence artificielle

Nous voulons décurper des outils d'analyze formels pour la certification d'agorithmes d'automatique（Machine Learning en Anglais），et autres algorithmes d'intelligence artificielle.它是一个有着非常强大的保证的认证机构，它允许在人工智能的使用者评价系统中设定条件。 Le premier axe de recherche sera l'analyze des algorithmes d'intelligence artificielle une fois questions.在分析人工智能技术对预测者的影响时，困难之一是确定杜兰特对预测或预测的应用效果。Il est equalement important d'arriver à décrire son comportement en termes de données abstraites et de variables abstraites.我们建议对模拟器（随机）领域的预测进行分析，并证明世界上有代表性，这是航空航天领域的一个案例。在这种情况下，这些预测将通过模拟汽车电池的données进入并使用汽车电池-这将使données réelles接近。这种情况对于验证形式来说是非常重要的，因为一个认证系统可能会发生（或不会）错误，并且在访问该领域的模拟器时会发生错误，而使用认证系统则可以使用一个用于验证算法的模型，该模型与该模型进行比较。 该程序的第二轴是对嵌入式系统的算法进行分析，一直在使用形式化的方法进行优化，以确保严格性。对深层神经元网络的研究和进展很多，但迈斯对这些功能系统的作用机制的理论认识不足。Un réseau de neurones es is un transformatization de distributions de probabilités，et nos travaux pourront éclairer autrement le domaine.在过去的20年里，我的合作者和我都在努力分析概率系统。我们将获得该领域LICS会议的时间测试奖。Nous proposons d'utiliser ces techniques sur différents systèmes d'intelligence artificielle，dont les processes de decision markoviens et les réseaux de neurones profonds.这里的相关概念包括：系统等价性概念、两个系统相似或不相似的度量方法、系统概率近似技术和无限大的不确定性集合。

Nous voulons développer des outils d'analyse formels pour la certification d'agorithmes d'apprentissage automatique (Machine Learning en Anglais), et autres algorithmes d'intelligence artificielle. Il s'agit ici de certifier avec des garanties très fortes, qui pourront permettre d'établir les conditions dans lesquelles des systèmes critiques pourraient utiliser des intelligences artificielles. Le premier axe de recherche sera l'analyse des algorithmes d'intelligence artificielle une fois entrainés. Une difficulté dans l'analyse d'un prédicteur entraîné par des techniques d'intelligence artificielle est de spécifier l'effet des entrées qu'on lui donne durant l'apprentissage ou pendant son utilisation. Il est également important d'arriver à décrire son comportement en termes de données abstraites et de variables abstraites. Nous proposons d'analyser des prédicteurs dans des domaines où des simulateurs (stochastiques) puissants et certifiés d'être représentatifs du monde réel sont disponibles, ce qui est le cas par exemple en aéoronautique. Dans ces situations, les prédicteurs sont à la fois entraînés et utilisés avec des données du simulateur car celles-ci sont très proches des données réelles. Cette situation est intéressante pour la vérification formelle car comme un système certifié fait très peu (ou pas) d'erreur et comme on a accès dans ce domaine à des simulateurs de grande capacité, on pourra utiliser le système certifié comme un modèle de la spécification et tenter de vérifier l'algorithme d'apprentissage en le comparant à ce modèle. Le deuxième axe du programme sera une analyse des algorithmes d'apprentissage pendant leur entraînement, toujours dans l'optique d'utiliser les méthodes formelles, donc de créer des garanties rigoureuses. Il y a beaucoup de recherche et d'avancées sur les réseaux de neurones profonds, par exemple, mais peu de compréhension théorique sur la façon dont ces systèmes fonctionnent. Un réseau de neurones est un transformateurs de distributions de probabilités, et nos travaux pourront éclairer autrement le domaine. Dans les 20 dernières années, mes collaborateurs et moi avons travaillé dans l'analyse des systèmes probabilistes. Nous avons obtenu un prix Test-of-time de la prestigieuse conférence LICS dans ce domaine. Nous proposons d'utiliser ces techniques sur différents systèmes d'intelligence artificielle, dont les processus de décision markoviens et les réseaux de neurones profonds. Les notions pertinentes ici, sont : notions d'équivalence de systèmes, métriques qui mesurent à quel point deux systèmes sont similaires ou non, techniques d'approximations des systèmes probabilistes ayant un ensemble infini non dénombrable d'états.