Dans Bases ; corpus et langage - UMR 6039
par Vanni, Laurent ; Corneli, Marco ; Mayaffre, Damon ; Precioso, Frédéric
Corpus
Résultat de OpenEdition : Journals
From text saliency to linguistic objects: learning linguistic interpretable markers with a multi-channels convolutional architecture
- Éditeur(s)
-
Date
- 2023-02-07T01:00:00Z
-
Notes
- De nombreux efforts sont actuellement déployés pour fournir des méthodes d'analyse et de compréhension des performances remarquables des réseaux neuronaux profonds pour des tâches telle que la classification d'images ou de textes. Ces méthodes sont principalement fondées sur la visualisation des imputs - ici, la matière textuelle - prises en compte par le réseau pour construire une décision. Cependant, ces techniques que l'on retrouve dans LIME, SHAP, Grad-CAM ou TDS, nécessitent un effort supplémentaire pour interpréter la visualisation. Dans cet article, nous proposons une nouvelle approche pour inspecter les couches cachées d'un réseau CNN ajusté afin d'extraire des objets linguistiques directement interprétables des textes. En particulier, nous détaillons une extension pondérée de la mesure Text Deconvolution Saliency (wTDS). Nous démontrons empiriquement l'efficacité de notre approche sur des corpus de deux langues différentes : anglais et français. Sur tous les jeux de données, wTDS encode automatiquement des objets linguistiques complexes ou motifs basés sur les co-occurrences et éventuellement sur l'analyse grammaticale et syntaxique.
-
Langues
- Anglais
- Sujet(s)
-
Droits
- info:eu-repo/semantics/openAccess .
- All rights reserved
- Résultat de :