Methods and tools for the development of explainable embedded artificial neural networks for autonomous transportation

人工智能的最新进展，尤其是深度学习，在某些应用中，机器可以帮助人类做出决策。此外，在解释深度神经网络（DNN）的决策中，这些决策的难度并不像“黑机器人”那样大，因为它们是人类难以理解的算法的现实依据，而这些决策本身就具有人类的合理性。这些应用程序批评说，DNN的先进技术的自动传输理论是正确的，它不能解释我们的决策，迈斯只能证明正确的决策在正确的情况下是正确的。双神经元网络（BNN）允许一种易消化的消化系统。此外，布尔性质（真实或虚假）事实上是解释行为和证明形式理论的某些属性的良好候选人。本文提出研究人工神经网络（ANN），特别是BNN的构建过程，以及Zetane在Thales开发的人工神经网络/BNN模块中的相互作用机制。Le projet couvrira trois axes principaux：i）proposer un ANN modulaire pour la segmentation de la scène ferroviaire ; ii）proposer des implémentations de faible puissance pour l'extraction de caractéristiques binaires et le BNN en tant que tel pour l'informatique embarquée; et iii）proposer des methodes et des outils pour decomposition un ANN/BNN explicable et certifiable.该项目对加拿大/魁北克省保持人工智能的领导地位以及在Au Canada和l 'échelle mondiale的运输系统中发挥作用至关重要。该项目为培养一名博士后、三名Au博士生、六名在加拿大Au需求量较大的IA领域的管理和新阶段的学生做出了贡献。

Les avancées récentes en intelligence artificielle, en particulier l'apprentissage profond, montrent que, pour certaines applications, la machine est meilleure que les humains pour prendre des décisions. Néanmoins, de telles décisions sont difficiles à expliquer car les réseaux de neurones profonds (DNN) sont toujours perçus comme des "boîtes noires" qui réalisent des algorithmes difficilement compréhensibles par les humains car ils sont assez lointains du raisonnement humain. Certaines applications critiques telles que le transport autonome pourraient théoriquement bénéficier de ces avancées récentes de DNN si on pouvait non seulement expliquer leurs décisions mais également certifier que la bonne décision est prise dans les bonnes circonstances. Les réseaux de neurones binaires (BNN) permettent une mise en oeuvre à faible consommation. De plus, leur nature booléenne (vrai ou faux) fait que ce sont de bons candidats pour expliquer leur comportement et prouver certaines propriétés avec des théorèmes formels. Le présent projet propose d'étudier le processus d'apprentissage des réseaux de neurones artificiels (ANN), en particulier les BNNs, avec des outils interactifs développés récemment par Zetane afin de développer des réseaux ANNs/BNNs modulaires de faible puissance pouvant être utilisés dans les capteurs (caméra / radar / lidar) développés par Thales pour les trains autonomes. Le projet couvrira trois axes principaux : i) proposer un ANN modulaire pour la segmentation de la scène ferroviaire ; ii) proposer des implémentations de faible puissance pour l'extraction de caractéristiques binaires et le BNN en tant que tel pour l'informatique embarquée; et iii) proposer des méthodes et des outils pour construire un ANN/BNN explicable et certifiable. Ce projet est important pour le Canada/Québec afin de maintenir son leadership en intelligence artificielle et son rôle actif dans les systèmes de transport de demain au Canada et à l'échelle mondiale. Ce projet contribuera à la formation d'un chercheur postdoctoral, trois étudiants au doctorat, six étudiants à la maitrise et neuf stagiaires dans un domaine (IA) qui est en forte demande au Canada.