Embedding
Aussi : plongement · plongement lexical · vecteur
Représentation d’un texte ou d’une image par une liste de nombres, construite pour que deux contenus de sens proche aient des listes proches.
Un modèle d’embedding lit un passage et renvoie un vecteur, une longue liste de nombres. Deux passages qui disent la même chose avec des mots différents obtiennent des vecteurs voisins ; deux passages qui partagent un mot mais pas le sujet, des vecteurs éloignés. On compare ces vecteurs par une mesure de distance, souvent la similarité cosinus.
C’est la base de la recherche vectorielle, donc d’une partie de la récupération dans les systèmes RAG. Deux limites à garder en tête. Un embedding résume : les détails exacts — une référence, un nom rare, un chiffre — s’y diluent, ce que la recherche lexicale compense. Et il représente le fragment tel qu’il a été découpé : un passage qui ne nomme pas son sujet reçoit un vecteur peu distinctif.