DEEL DEpendable & Explainable Learning

将机器学习（ML）应用于具有高性能和安全性标准的航空航天工业的复杂问题，需要使技术强大，可理解，保证隐私，从而得到当局的认证。DEEL项目是法国ITS Saint exupsamry、加拿大IVADO和CRIAQ之间国际合作的结果，旨在通过几个行业参与者和加拿大几所大学之间的多学科合作，向使用机器学习技术解决加拿大航空航天工业的各种问题迈出第一步，每年有十几名研究人员和20多名研究生和高素质的专业人员。第一个主题涉及鲁棒性，包括开发即使在设计期间未观察到的极端情况下仍然有效的ML方法。为了完成这项工作，我们依赖于度量决策不确定性的方法、管理上下文变化的方法，以及对攻击具有鲁棒性的方法。第二个主题涉及可解释性，并涉及开发向专家（设计师，工作人员）提供解释的方法，以使系统的决策或建议易于理解。本主题中使用的方法基于学习模型的透明度概念和给定决策的可解释性概念。第三个主题涉及设计隐私，涉及开发方法，确保用于设计ML模型的数据保持机密，并且不能从系统的结果或操作中重建。本主题中使用的方法是基于数据中噪声的可控添加和加密数据的学习。这三个主题旨在提供技术来提高对机器学习系统结果的信任并实现可认证性。第四个主题的目标是开发ML可认证技术。我们建议使用软件工程的方法和最佳实践，例如测试和形式化方法，来发现如何使它们适应机器学习。#(cr)#(lf)L‘application de L’学徒自动解决问题的复杂问题，L 'industrie as宇航，qui可能的标准，性能，性能标准，技术，健壮的，可压缩的，保证的，私人生活的，可变的，可证明的，权威的。项目（DEEL），法国圣埃克萨普的国际合作中心，加拿大的国际合作中心，加拿大的国际合作中心（ivado），加拿大的国际合作中心（CRIAQ），加拿大的国际合作中心(学徒自动化中心，工业和宇航中心，加拿大的多学科合作中心，工业和宇航中心，加拿大的重组中心，工业和宇航中心，加拿大的重组中心，毕业生和专业人员的合作中心，加拿大的毕业生和专业人员的培训中心，合格的年度培训中心。勒总理主题贩卖de la robustesse et consiste开发剩下的des方法efficaces meme在极端非观察吊坠l 'apprentissage des情况。À效应、度量、不确定性、决策、问题、环境变化以及攻击的鲁棒性。第二个主题贩卖de l 'interpretabilite et consiste开发方法,des专家fournissent des论述,他们倒permettre理解欧莱斯莱斯决策委员会du和。这些数据表明，这些数据是透明的，透明的，可解释的。这些数据表明，这些数据表明，这些数据表明，这些数据表明，这些数据表明，这些数据表明，这些数据表明，这些数据表明，这些数据表明，这些数据表明，“三个<s:1> <s:1> <s:1> <s:1> <s:1> <s:1>交换体<e:1>”的概念与“<s:1> <s:1>交换体系统”的概念一致，即“<s:1>交换体系统”的概念与“<s:1>交换体系统”的概念一致；“<s:1>交换体系统”的概念与“<s:1>交换体系统”的概念一致；在使用的过程中，使用的过程中，使用的过程中使用的过程中，使用的过程中使用的过程中，使用的过程中使用的过程中使用的过程中。这三种情况下，不能将目标设定为“自动交换系统”，也不能将目标设定为“自动交换系统”，也不能将目标设定为“自动交换系统”。我的目标是确定的

The application of machine learning (ML) to the complex problems of the aerospace industry, which has high standards of performance and security, needs to make the techniques robust, comprehensible, guaranteeing privacy and thus certifiable by the authorities. The DEEL project, as a result of an international collaboration between ITS Saint Exupéry in France, IVADO and CRIAQ in Canada, aims to take a first step towards the use of machine learning techniques for various problems of the Canadian aerospace industry through a multidisciplinary collaboration between several industry players and several Canadian universities with more than a dozen researchers and more than twenty graduate students and highly qualified professionals annually.The first theme deals with robustness and consists of developing ML methods that remain effective even in extreme situations not observed during design. To do this work, we rely on methods for measuring decision uncertainty, managing context changes, and methods that are robust to attack. The second theme deals with interpretability and involves developing methods that provide explanations to experts (designer, crew) to make the decisions or advice of the system understandable. The methods used in this theme are based on the notion of transparency of the learned model and on the notion of explicability of a given decision.The third theme deals with privacy by design and involves developing methods that ensure that the data used to design the ML model remains confidential and cannot be rebuilt from the results or operation of the system. The methods used in this theme are based on the controlled addition of noise in data and learning on encrypted data.These three themes aim to provide techniques to improve trust in the results of ML systems and to enable certifiability. The objective of this fourth theme is to develop ML certifiability techniques. We propose using methods and best practices of software engineering, such as tests and formal methods, to discover how to adapt them to ML.#(cr)#(lf)L'application de l'apprentissage automatique aux problèmes complexes de l'industrie aérospatiale, qui possède de hauts standards de performance et de sécurité, nécessite de rendre les techniques robustes, compréhensibles, garantes de la vie privée et ainsi, certifiables par les autorités. Le projet DEEL, issue d'une collaboration internationale entre l'ITS Saint Exupéry en France, l'IVADO et le CRIAQ au Canada, vise à faire un premier pas vers l'utilisation de l'apprentissage automatique par l'industrie aérospatiale canadienne via une collaboration multidisciplinaire entre plusieurs acteurs industriels et plusieurs universités canadiennes regroupant plus d'une dizaine de chercheurs et plus d'une vingtaine d'étudiants gradués et professionnels hautement qualifiés annuellement. Le premier thème traite de la robustesse et consiste à développer des méthodes qui restent efficaces même dans des situations extrêmes non observées pendant l'apprentissage. À cet effet, nous utilisons des mesures de l'incertitude des décisions, la gestion des changements de contextes et la robustesse aux attaques. Le deuxième thème traite de l'interprétabilité et consiste à développer des méthodes qui fournissent des explications à des experts pour leur permettre de comprendre les décisions ou les conseils du système. Les méthodes utilisées dans ce thème se basent sur la transparence du modèle et l'explicabilité d'une décision donnée. Le troisième thème traite de la vie privée par conception et consiste à développer des méthodes qui garantissent la confidentialité des données utilisées lors de l'apprentissage et lors de l'utilisation des résultats. Les méthodes utilisées dans ce thème se basent sur l'ajout contrôlé de bruit et l'utilisation de données chiffrées. Ces trois thèmes ont pour objectif d'améliorer la confiance dans les résultats des systèmes d'apprentissage automatique et de permettre la certificabilité. L'objectif de ce qua