Des R\'eseaux de Neurones avec M\'ecanisme d'Attention pour la Compr\'ehension de la Parole (Exploring the use of Attention-Based Recurrent Neural Networks For Spoken Language Understanding )

Abstract

L'\'etude porte sur l'apport d'un r\'eseau de neurones r\'ecurrent (Recurrent Neural Network RNN) bidirectionnel encodeur/d\'ecodeur avec m\'ecanisme d'attention pour une t\^ache de compr\'ehension de la parole. Les premi\`eres exp\'eriences faites sur le corpus ATIS confirment la qualit\'e du syst\`eme RNN \'etat de l'art utilis\'e pour cet article, en comparant les r\'esultats obtenus \`a ceux r\'ecemment publi\'es dans la litt\'erature. Des exp\'eriences suppl\'ementaires montrent que les RNNs avec m\'ecanisme d'attention obtiennent de meilleures performances que les RNNs r\'ecemment propos\'es pour la t\^ache d'\'etiquetage en concepts s\'emantiques. Sur le corpus MEDIA, un corpus francais \'etat de l'art pour la compr\'ehension d\'edi\'e \`a la r\'eservation d'h\^otel et aux informations touristiques, les exp\'eriences montrent qu'un RNN bidirectionnel atteint une f-mesure de 79,51 tandis que le m\^eme syst\`eme int\'egrant le m\'ecanisme d'attention permet d'atteindre une f-mesure de 80,27.

Tasks

Reproductions