Analyse de la r\'egulation de la longueur dans un syst\`eme neuronal de compression de phrase : une \'etude du mod\`ele LenInit (Investigating Length Regulation in a Sentence Compression Neural System : a Study on the LenInit Model)

Abstract

La simplification de phrase vise \`a r\'eduire la complexit\'e d'une phrase tout en retenant son sens initial et sa grammaticalit\'e. En pratique, il est souvent attendu que la phrase produite soit plus courte que la phrase d'origine, et les mod\`eles qui int\`egrent un contr\^ole explicite de la longueur de sortie rev\^etent un int\'er\^et particulier. Dans la continuit\'e de la litt\'erature d\'edi\'ee \`a la compr\'ehension du comportement des syst\`emes neuronaux, nous examinons dans cet article les m\'ecanismes de r\'egulation de longueur d'un encodeur-d\'ecodeur RNN appliqu\'e \`a la compression de phrase, en \'etudiant sp\'ecifiquement le cas du mod\`ele LenInit. Notre analyse met en \'evidence la coexistence de deux influences distinctes au cours du d\'ecodage : celle du contr\^ole explicite de la longueur, et celle du mod\`ele de langue du d\'ecodeur.

Tasks

Reproductions