STAGE Étude des visualisations de réseaux de neurones pour la traduction automatique neuronale

Contexte du stage

Ce stage est proposé dans le cadre d’un projet financé par le Réseau Francilien des Sciences Informatiques. Ce projet a pour objectif de mieux comprendre le fonctionnement des réseaux de neurones au cœur des systèmes de traduction automatique neuronale. Associant deux laboratoires d’informatique et deux laboratoires de linguistique, ce projet propose une approche originale reposant sur l’utilisation de connaissances en traductologie pour analyser de manière qualitative les effets de structures linguistiques et des représentations neuronales sur la qualité des traductions prédites et expliquer, dans une certaine mesure, le « raisonnement » permettant d’obtenir celles-ci.
Ce stage vise à expérimenter des techniques de visualisation des différents niveaux d’activation comme celles mises en œuvre par [Montavon et al., 2018] pour la classification d’images. En s’appuyant sur des outils comme seq2seq-Vis [Strobelt et al. 2018] ou NeuroX [Dalvi et al. 2019], nous essayerons, en comparant les activations des neurones en fonction des propriétés linguistiques des énoncés a traduire, de comprendre comment s’effectue la division du travail dans la traduction neuronale et de dresser une cartographie de l’activation des réseaux de neurones en fonction des propriétés linguistiques et des types de tâches.

Objectifs du stage
L’objectif de ce stage est tout d’abord pratique et consiste à l’implémentation d’un système d visualisation pour la traduction neuronale . Le stage a aussi des retombées technologiques dans le domaine de la visualisation des réseaux de neurones.

Méthodologie
À partir d’outils tels que NeuroX, appliqués aux différentes architectures transformers proposées par OpenNMT [Klein et al, 2015] nous cartographierons les activations des neurones lorsque les systèmes de TA traduisent les énoncés spécifiques établis à partir de critères linguistiques précis (Isabelle et al, 2017). Des expériences d’ablation et de manipulation de neurones [Dalvi et al, 2019] nous permettront d’identifier les différents phénomènes capturés par les différentes parties du réseau.
On cherchera en particulier à obtenir des corrélations entre les différents types d’activation des neurones et les propriétés textuelles des énoncés à traduire.