Biais algorithmique
Aussi : biais
Écart systématique dans les résultats d’un système automatique, qui favorise ou défavorise certains groupes, sources ou points de vue.
Un modèle reproduit les déséquilibres de ses données : ce qui y est surreprésenté — une langue, un pays, une catégorie de sources — pèse davantage dans ses sorties. S’y ajoutent les choix de conception : ce que l’on optimise, ce que l’on filtre, ce que les évaluateurs humains ont préféré. Le biais n’est pas une panne ; c’est une propriété à mesurer.
En recherche générative, la forme à surveiller est le biais de source : quelles catégories de sites une surface cite-t-elle sur votre sujet — encyclopédies, forums, médias, sites de marque ? La réponse varie d’une surface à l’autre et se relève sur un corpus de prompts. Autre point à contrôler : la langue des sources citées en réponse à une question posée en français. Un écart constaté décrit la surface à une date donnée ; il n’en dit pas la cause.