Extraction d'informations de messages aéronautiques (NOTAMs) avec des modèles de langue appris de façon auto-supervisée

Alexandre Arnold (1) , Fares Ernez (1) , Catherine Kobus (1) , Marion-Cécile Martin (1)

1 Airbus [France]

Avant un vol, les pilotes de ligne doivent lire une longue liste de messages appelés NOTAM (pour NOtice To AirMen) donnant des informations sur des aléas potentiels le long du vol. Ces messages suivent une grammaire particulière, contiennent beaucoup d’acronymes et un vocabulaire spécifique aéronautique. Dans cet article, un modèle de langue de type BERT est pré-entraîné sur un grand nombre de ces messages ; il est ensuite affiné sur trois tâches : l’estimation de criticité, la reconnaissance d’entités nommées et la traduction vers un langage structuré appelé Airlang. L’apprentissage auto-supervisé, permettant de tirer parti du vaste nombre de données non annotées, est particulièrement intéressant dans le domaine aéronautique, pour lequel les annotations sont très coûteuses car nécessitant une forte expertise. Nous montrons les résultats encourageants sur les trois tâches.

Mots clés: NOTAM; Apprentissage auto-supervisé; Classification; REN; Traduction.

Domaines: Informatique et langage [cs.CL]

Alexandre Arnold, Fares Ernez, Catherine Kobus, Marion-Cécile Martin. Extraction d'informations de messages aéronautiques (NOTAMs) avec des modèles de langue appris de façon auto-supervisée. Traitement Automatique des Langues Naturelles (TALN 2022), Jun 2022, Avignon, France. pp.335-344. ⟨hal-03701509⟩