Sparse Autoencoder (SAE).
En françaisauto-encodeur parcimonieuxAussi : auto-encodeur clairsemé
Outil d’interprétabilité qui décompose les activations d’un modèle en un grand nombre de concepts, dont très peu sont actifs à la fois.
Explication
Un même neurone participe à beaucoup d’idées sans rapport. L’auto-encodeur parcimonieux apprend à réécrire une activation comme la somme de quelques « traits » parmi des millions, chacun plus facile à interpréter : un lieu, un ton, une structure de code.
Exemple
Un trait qui s’active sur les textes évoquant un pont, quelle que soit la langue.
Limites
Les traits obtenus dépendent de la méthode et ne sont pas tous interprétables ; rien ne prouve qu’ils décrivent fidèlement le calcul du modèle.
Notions liées
Chaque ligne se lit comme une phrase : « Sparse Autoencoder fait partie de Interpretability ».
- fait partie deInterpretabilityinterprétabilité
- voir aussiResidual Streamflux résiduel
- voir aussiNeural Networkréseau neuronal
Sources
Vérification et historique
Sources vérifiées le .
- — Première publication — lot 4 : notions enseignées dans le cours, vocabulaire courant du métier et notions en veille.
Mise en ligne le