Similarit\'e s\'emantique entre phrases : apprentissage par transfert interlingue (Semantic Sentence Similarity : Multilingual Transfer Learning)

Abstract

Dans cet article, nous d\'ecrivons une approche exploratoire pour entra\^ ner des mod\`eles de langue et r\'esoudre des t\^aches d'appariement entre phrases issues de corpus en francais et relevant du domaine m\'edical. Nous montrons que, dans un contexte o\`u les donn\'ees d'entra\^ nement sont en nombre restreint, il peut \^etre int\'eressant d'op\'erer un apprentissage par transfert, d'une langue dont nous disposons de plus de ressources pour l'entra\^ nement, vers une langue cible moins dot\'ee de donn\'ees d'entra\^ nement (le francais dans notre cas). Les r\'esultats de nos exp\'erimentations montrent que les mod\`eles de langue multilingues sont capables de transf\'erer des repr\'esentations d'une langue \`a l'autre de facon efficace pour r\'esoudre des t\^aches de similarit\'e s\'emantique telles que celles propos\'ees dans le cadre de l'\'edition 2020 du D\'efi fouille de texte (DEFT).

Tasks

Reproductions