Données d’entraînement
Aussi : corpus d’entraînement · training data
Ensemble des textes, images ou autres contenus à partir desquels les paramètres d’un modèle ont été ajustés.
Pour un modèle de langage, ce corpus mêle en général des pages web collectées par des robots, des contenus sous licence et d’autres jeux de données. Les éditeurs n’en publient pas la liste. Ce qui s’y trouve en abondance et de façon concordante est bien restitué ; ce qui y est rare, contradictoire ou absent l’est mal.
Un site dispose de quelques réglages. Le robots.txt permet de refuser la collecte pour l’entraînement : le robot GPTBot chez OpenAI, la règle Google-Extended chez Google, qui n’a d’effet ni sur la présence ni sur le classement dans la recherche. Ces refus valent pour l’avenir et supposent que le robot les respecte. La décision est éditoriale et juridique autant que technique : refuser l’entraînement protège un contenu, et peut réduire la place de la marque dans ce que les modèles auront mémorisé.