Text Embedding.
En françaisembedding de texteAussi : sentence embedding · embedding de phrase · embedding model · modèle d’embeddings
Vecteur unique qui représente le sens d’un texte entier, produit par un modèle spécialisé.
Valeurs clés
dimension : 384 à 3 072 selon le modèle · text-embedding-3-small : 1 536
Explication
Un modèle d’embeddings lit une phrase ou un passage et rend un seul vecteur. Deux textes de sens proche reçoivent des vecteurs proches, même si leurs mots diffèrent : on les compare par similarité cosinus. C’est la base de la recherche sémantique et du RAG. À ne pas confondre avec l’embedding d’un token, première couche d’un modèle de langage.
Exemple
Les vecteurs de « Comment réinitialiser mon mot de passe ? » et de « J’ai oublié mes identifiants » sont proches.
Limites
La proximité dépend du modèle, de la langue et du domaine ; elle ne prouve pas la pertinence. Les vecteurs de deux modèles différents ne sont pas comparables.
Notions liées
Chaque ligne se lit comme une phrase : « Text Embedding voir aussi Token Embedding ».
- voir aussiToken Embeddingembedding de token
- voir aussiCosine Similaritysimilarité cosinus
- voir aussiSemantic Searchrecherche sémantique
- voir aussiVector Databasebase de données vectorielle
- voir aussiBi-encoder / Cross-encoderbi-encodeur / cross-encodeur
Sources
Vérification et historique
Sources vérifiées le .
- — Première publication — lot 4 : notions enseignées dans le cours, vocabulaire courant du métier et notions en veille.
Mise en ligne le