Methods and tools for the development of explainable embedded artificial neural networks for autonomous transportation

点击翻译按钮获取中文摘要

Les avancées récentes en intelligence artificielle, en particulier l'apprentissage profond, montrent que, pour certaines applications, la machine est meilleure que les humains pour prendre des décisions. Néanmoins, de telles décisions sont difficiles à expliquer car les réseaux de neurones profonds (DNN) sont toujours perçus comme des "boîtes noires" qui réalisent des algorithmes difficilement compréhensibles par les humains car ils sont assez lointains du raisonnement humain. Certaines applications critiques telles que le transport autonome pourraient théoriquement bénéficier de ces avancées récentes de DNN si on pouvait non seulement expliquer leurs décisions mais également certifier que la bonne décision est prise dans les bonnes circonstances. Les réseaux de neurones binaires (BNN) permettent une mise en oeuvre à faible consommation. De plus, leur nature booléenne (vrai ou faux) fait que ce sont de bons candidats pour expliquer leur comportement et prouver certaines propriétés avec des théorèmes formels. Le présent projet propose d'étudier le processus d'apprentissage des réseaux de neurones artificiels (ANN), en particulier les BNNs, avec des outils interactifs développés récemment par Zetane afin de développer des réseaux ANNs/BNNs modulaires de faible puissance pouvant être utilisés dans les capteurs (caméra / radar / lidar) développés par Thales pour les trains autonomes. Le projet couvrira trois axes principaux : i) proposer un ANN modulaire pour la segmentation de la scène ferroviaire ; ii) proposer des implémentations de faible puissance pour l'extraction de caractéristiques binaires et le BNN en tant que tel pour l'informatique embarquée; et iii) proposer des méthodes et des outils pour construire un ANN/BNN explicable et certifiable. Ce projet est important pour le Canada/Québec afin de maintenir son leadership en intelligence artificielle et son rôle actif dans les systèmes de transport de demain au Canada et à l'échelle mondiale. Ce projet contribuera à la formation d'un chercheur postdoctoral, trois étudiants au doctorat, six étudiants à la maitrise et neuf stagiaires dans un domaine (IA) qui est en forte demande au Canada.