Focus de la lettre 49

On a déjà parlé ici de la (non-)neutralité des modèles : chacun porte et relaie des choix et des valeurs, des visions et des biais propres. Cette semaine, plusieurs lectures le montrent chacune à leur manière.

Anthropic va interdire dans sa politique d’usage la violence gratuite envers ses modèles. Cela interroge d’abord sur le fait que cette pratique existe, et surtout qu’elle soit suffisamment répandue pour qu’Anthropic veuille l’inclure dans ses règles. On y lit aussi une certaine conception de ce que l’utilisateur peut ou doit faire avec la machine.
Une étude relayée par Data for Good compare les réponses de Claude, Gemini et ChatGPT à des symptômes médicaux identiques. Les trois modèles conseillent bien moins souvent à une jeune femme qu’à un homme d’aller aux urgences. Le biais ne se voit pas dans une réponse isolée : seule la comparaison le fait apparaître. Et il a des conséquences bien réelles, encore plus quand le conseil porte sur la santé.
OpenAI publie des centaines de résultats mathématiques, dont une partie seulement est vérifiée par des preuves formelles (le reste pouvant contenir “des erreurs”, a prévenu l’entreprise) : le vrai et le plausible cohabitent, et c’est au lecteur de les distinguer.
Arthur Mensch, de Mistral AI, ne voit pas dans le développement des IA un risque d’extinction de l’humanité, mais dans la concentration du secteur entre deux ou trois entreprises : outre l’intérêt évident pour Mistral à défendre sa place, si seuls quelques acteurs fournissent les modèles, leur vision du monde pourrait devenir majoritaire voire la nôtre par défaut.
Reste Ecosia, le moteur de recherche qui quitte Mistral, jugé en retard et peu souverain, pour des modèles ouverts, surtout chinois, hébergés par une plateforme européenne. Son fondateur annonce des coûts divisés par deux et des experts alertent sur le risque de censure. Quoi qu’on en pense, cette décision rappelle qu’un modèle se choisit, et se change.

Le prix entre aussi en jeu, et il n’est pas aussi neutre qu’il en a l’air. Un document de travail de l’OCDE, fondé sur des entretiens avec 25 organisations de 11 pays, décrit une « taxe de tokenisation » : les modèles découpent le texte en jetons, leur vocabulaire a été construit surtout à partir de l’anglais, langue qui utilise moins de jetons que d’autres, et un même texte coûte donc plus cher à traiter dans certaines langues.
Les organisations interrogées hors du monde anglophone décrivent aussi un retard des modèles sur le droit et les codes culturels. L’enquête est qualitative et illustrative, mais l’idée est lourde de sens : le prix du jeton n’est pas le même pour tout le monde, et la langue fait partie du coût. Choisir un modèle, c’est donc aussi accepter, ou non, de payer plus cher pour parler sa propre langue.

C’est là que le sujet devient politique. Opter pour un modèle, ce n’est pas seulement comparer ses performances ou son prix. C’est aussi choisir les valeurs, les mots, les priorités et les silences qui résultent des décisions de ses créateurs et de ses éditeurs. À force d’utiliser le même modèle par habitude, nous risquons de prendre sa vision du monde pour la nôtre.
Il ne s’agit pas pour autant de changer de modèle à chaque question, mais de choisir celui qui convient le mieux à la tâche et, lorsque c’est pertinent, de comparer plusieurs réponses. Changer de modèle, ou au moins en comparer plusieurs, devient alors plus qu’une option technique : c’est une manière de garder la main, de préserver une diversité de points de vue et notre esprit critique.

Pour s’y exercer, on peut bien sûr utiliser les chatbots qui proposent plusieurs modèles (on en trouve beaucoup dans la catégorie dédiée d’uneIAparjour). On pourra aussi tester les réponses dans “Voyage au pays du non-écrit” pour interroger les critères rendus invisibles.
Il existe aussi un outil public français dont on a déjà parlé plusieurs fois, Compar:IA, développé au sein du ministère de la Culture, qui permet de poser une question à deux modèles et de comparer leurs réponses. Il vise justement à sensibiliser au pluralisme des modèles, aux biais culturels et linguistiques et à leur impact environnemental, tout en permettant de constituer un corpus réutilisable dans de futurs outils en langue française.

Et si, cette semaine, nous posions la même question à plusieurs modèles pour comparer leurs valeurs et noter ce qui nous surprend ? Confronter leurs choix plutôt que de les intégrer peu à peu, c’est exercer notre pensée critique et interroger nos propres valeurs. Il s’agit, individuellement comme collectivement, de ne pas subir ces choix sans les questionner.

En écho :

• Lettre 2, « Derrière les modèles ouverts, une bataille géopolitique silencieuse » : modèles ouverts et enjeux de souveraineté, au cœur du choix d’Ecosia.
• Lettre 37, « Sait-on vraiment ce qu’on utilise ? » : Tokemon et les 30 modèles, pour identifier le modèle derrière chaque outil.
• Lettre 17, « Design Arena, terrain de jeu pour comparer les modèles d’IA » : comparer les modèles, ce que fait Compar:IA.