Accéder directement au contenu Accéder directement à la navigation
Nouvelle interface
Communication dans un congrès

Latent Group Dropout for Multilingual and Multidomain Machine Translation

Minh Quang Pham 1, 2 Josep Crego 2 François Yvon 1 
1 TLP - Traitement du Langage Parlé
LIMSI - Laboratoire d'Informatique pour la Mécanique et les Sciences de l'Ingénieur
Abstract : Multidomain and multilingual machine translation often rely on parameter sharing strategies, where large portions of the network are meant to capture the commonalities of the tasks at hand, while smaller parts are reserved to model the peculiarities of a language or a domain. In adapter-based approaches, these strategies are hardcoded in the network architecture, independent of the similarities between tasks. In this work, we propose a new method to better take advantage of these similarities, using a latent-variable model. We also develop new techniques to train this model end-to-end and report experimental results showing that the learned patterns are both meaningful and yield improved translation performance without any increase of the model size.
Type de document :
Communication dans un congrès
Liste complète des métadonnées

https://hal.archives-ouvertes.fr/hal-03720395
Contributeur : François Yvon Connectez-vous pour contacter le contributeur
Soumis le : lundi 11 juillet 2022 - 23:34:52
Dernière modification le : mercredi 2 novembre 2022 - 16:02:04

Fichier

2022.findings-naacl.189.pdf
Fichiers éditeurs autorisés sur une archive ouverte

Identifiants

  • HAL Id : hal-03720395, version 1

Citation

Minh Quang Pham, Josep Crego, François Yvon. Latent Group Dropout for Multilingual and Multidomain Machine Translation. Findings of the ACL: NAACL 2022, Association for Computational Linguistics, Jul 2022, Seattle, United States. ⟨hal-03720395⟩

Partager

Métriques

Consultations de la notice

92

Téléchargements de fichiers

24