Accéder directement au contenu Accéder directement à la navigation
Communication dans un congrès

Analyse de la régulation de la longueur dans un système neuronal de compression de phrase : une étude du modèle LenInit

Résumé : La simplification de phrase vise à réduire la complexité d’une phrase tout en retenant son sens initial et sa grammaticalité. En pratique, il est souvent attendu que la phrase produite soit plus courte que la phrase d’origine, et les modèles qui intègrent un contrôle explicite de la longueur de sortie revêtent un intérêt particulier. Dans la continuité de la littérature dédiée à la compréhension du comportement des systèmes neuronaux, nous examinons dans cet article les mécanismes de régulation de longueur d’un encodeur-décodeur RNN appliqué à la compression de phrase, en étudiant spécifiquement le cas du modèle LenInit. Notre analyse met en évidence la coexistence de deux influences distinctes au cours du décodage : celle du contrôle explicite de la longueur, et celle du modèle de langue du décodeur.
Type de document :
Communication dans un congrès
Liste complète des métadonnées

Littérature citée [29 références]  Voir  Masquer  Télécharger

https://hal.archives-ouvertes.fr/hal-02786187
Contributeur : Sylvain Pogodalla <>
Soumis le : mardi 23 juin 2020 - 11:43:10
Dernière modification le : vendredi 9 octobre 2020 - 10:03:40

Fichier

184.pdf
Fichiers éditeurs autorisés sur une archive ouverte

Identifiants

  • HAL Id : hal-02786187, version 3

Citation

François Buet. Analyse de la régulation de la longueur dans un système neuronal de compression de phrase : une étude du modèle LenInit. 6e conférence conjointe Journées d'Études sur la Parole (JEP, 33e édition), Traitement Automatique des Langues Naturelles (TALN, 27e édition), Rencontre des Étudiants Chercheurs en Informatique pour le Traitement Automatique des Langues (RÉCITAL, 22e édition). Volume 3 : Rencontre des Étudiants Chercheurs en Informatique pour le TAL, Jun 2020, Nancy, France. pp.57-70. ⟨hal-02786187v3⟩

Partager

Métriques

Consultations de la notice

36

Téléchargements de fichiers

28