Du réseau de neurones au circuit logique et réciproquement : le meilleur des deux mondes

点击翻译按钮获取中文摘要

Au cours des dernières années, les performances des réseaux de neurones artificiels (RNA) se sont grandement améliorées, notamment grâce aux réseaux de neurones profonds (RNP). On peut même penser que le monde est à l'aube d'une révolution majeure : après avoir remplacé les compétences mécaniques de l'être humain par des machines, ce sont maintenant ses compétences intellectuelles que l'être humain veut déléguer à des machines. Toutefois, les réseaux de neurones nécessitent énormément de calculs, de mémoire, et consomment beaucoup d'énergie électrique, ce qui est un obstacle majeur à leur déploiement dans les systèmes autonomes. De plus, de nombreuses questions scientifiques restent ouvertes, au point que présentement, concevoir une application dans le domaine de l'intelligence artificielle (IA) relève presqu'autant de l'Art que de la Science. Alors que la plupart des RNA utilisent des paramètres en virgule flottante ou en virgule fixe, nous avons montré que, sous certaines conditions, des paramètres purement binaires permettent d'atteindre des résultats similaires. Le programme de recherche proposé vise à augmenter la compréhension que nous avons des RNP binaires (RNPB) à la lumière de la science existante en matière de synthèse de circuits logiques combinatoires (CLC). Il se fonde notamment sur les observations suivantes : (1) Tout RNA peut s'implanter au moyen d'un CLC. (2) Toute fonction logique peut s'implanter au moyen d'un RNA. (3) Les RNA et les fonctions logiques peuvent tous deux s'implanter au moyen de deux couches successives mais les systèmes les plus efficaces en utilisent généralement beaucoup plus. Les fruits de ce programme de recherche seront une meilleure connaissance et une meilleure compréhension des RNPB et des CLC ainsi que des manières efficientes de les implanter. Bien qu'il ait déjà été démontré que les FPGA (Field Programmable Gate Array) sont efficients pour implanter des RNP, nous prévoyons qu'ils le seront davantage encore pour les RNPB, qui sont intrinsèquement plus proches de la structure des FPGA. Il en résultera des implantations plus rapides, moins énergivores et qui demanderont moins de mémoire. En termes de retombées, au-delà des aspects purement scientifiques, les enjeux sont d'ordre économique (coût des circuits et coût de l'énergie pour les faire fonctionner, notamment dans les centres de données), technique (puissance des algorithmes que l'on peut implanter sur une puce et réduction des temps de calcul), social (une implantation efficace permettra une démocratisation de l'IA dans les dispositifs portables, les transports, la médecine ) et même environnemental (réduction de la consommation d'énergie et réutilisation des mêmes circuits pour diverses tâches). Le Canada bénéficiera grandement de ces recherches qui l'aideront à maintenir son rôle de chef de file dans le domaine de l'IA, en particulier à Montréal, pôle de compétitivité de l'IA.