Un jour, un outil d'IA générative

Focus

Croire sur parole ?

Focus de la lettre 54

Quelle confiance on accorde quand on ouvre une application d’IA ? Cette semaine, plusieurs applications comptent sur notre confiance : un site officiel américain qui ne nomme pas son modèle et dont certaines réponses n’apparaissent plus, un assistant dont les données passent par quatre pays et qui entraîne ses modèles par défaut à partir de nos instructions, un opérateur qui promet de ne pas transmettre notre identité aux IA qu’il convoque.

Ask America répond aux démarches américaines à partir de sources officielles qu’il cite : c’est un gage de confiance. Mais ce gage vaut ce que valent les sources, et ici l’éditeur de l’assistant est aussi l’autorité sur laquelle portent les questions. Certaines réponses sur l’élection de 2020 ont disparu quand elles contredisaient Donald Trump (Fortune). Des sources, même officielles, ne rassurent complètement que si elles sont indépendantes de ceux qui proposent l’assistant ou si les choix de l’éditeur sont documentés.

Orange IAs propose quatre modèles, un sélecteur (choix automatique, IA au plus faible impact carbone ou choix manuel selon l’usage) et un bouton pour voir la réponse d’un autre modèle. C’est une vraie possibilité de comparer, mais elle ne vaut que si les modèles sont indépendants. Dans l’étude de ModelCompare relayée dans les lectures, sur une même question posée à 14 modèles, 35 des 41 réponses se rejoignent. Reste à croire la déclaration sur l’absence de transmission de l’identité des utilisateurs, et l’empreinte carbone affichée : je n’ai pas trouvé comment elle est calculée.

Dola, l’assistant de ByteDance, ne précise pas ses modèles de langage : nous ne savons pas d’où vient la réponse et nos données passent par quatre pays.
À nous de faire confiance, de nuancer ou de rejeter.

Cleanup.audio fait une promesse qui se contrôle : le fichier est traité dans le navigateur, sans envoi. Je suis allé regarder. Dans le journal réseau du navigateur, aucun envoi du fichier n’apparaît, et dans les deux modes proposés, un second passage aboutit même sans connexion : le navigateur n’a besoin du réseau qu’au premier passage. La page envoie en revanche des mesures d’audience et appelle un outil d’enregistrement de session, dont je ne vois pas le contenu. J’ai donc vérifié ce qui était facile à vérifier, le fichier, et pas ce que la page fait de nos usages. C’est l’effet réverbère : j’ai cherché là où il y avait de la lumière.

Cette confiance a aussi une géographie et une géopolitique. Dola vient de l’éditeur chinois de TikTok, Ask America du gouvernement américain, et l’Appel de Paris, signé par plus de quinze États, ne compte parmi ses signataires ni les États-Unis ni la Chine. La question de savoir à qui confier ses requêtes et ses données se pose aussi à l’échelle des États.

Les lectures de la semaine déplacent la question vers le politique. L’Appel de Paris engage des éditeurs à rendre publics les capacités et les risques connus de leurs modèles. Il prévoit aussi, « lorsque cela est approprié et proportionné au risque », une évaluation par des tiers indépendants, mais pas de sanction. Une déclaration de risques ne vaut que si quelqu’un peut la contester, et cette réserve laisse aux éditeurs une part d’appréciation. Le rapport « Protéger sans empêcher » recommande de laisser des experts examiner la boîte noire des systèmes. C’est une bonne piste, mais elle risque de déplacer la confiance sans la supprimer si on ne connaît pas les critères de choix de ces experts. Les banques, elles, n’ont pas attendu : les lectures partagées montrent qu’elles demandent des garanties avant de financer les centres de données. Quand l’enjeu est financier, on ne se contente pas d’une parole.

Reste la confiance qu’on accorde sans y penser, sans doute la plus courante. Selon le rapport remis à l’Élysée, 73 % des utilisateurs d’IA générative s’en servent pour chercher de l’information. Exercer sa pensée critique n’est pas qu’une affaire de bonne volonté : l’article d’Usabilis rappelle que des validations trop fréquentes réduisent la vigilance, et qu’à force de demander confirmation, on finit par cliquer sans lire. Faire confiance sans questionner est souvent la réaction normale à une information ou à un outil qui exige trop d’attention, ce qui fragilise le contrôle individuel.

Le degré de confiance dépend aussi de nous. Nos valeurs, individuelles et collectives, déplacent le curseur : selon notre vécu, nos engagements, notre rapport à un État ou à une entreprise. Deux personnes devant les mêmes faits ne le placent pas au même endroit, sans qu’une des deux ait forcément tort. Nos valeurs peuvent aussi nous tromper : on croit plus vite ce qui nous arrange et on soupçonne plus vite ce qu’on rejette déjà. Les nommer fait déjà partie de la vérification.

Demander ou rechercher des preuves ne doit néanmoins pas virer au soupçon de complot. Dire qu’on ne peut pas vérifier l’engagement d’Orange ou la destination des données de Dola ne revient pas à dire qu’Orange ment ou que Dola cache quelque chose : c’est seulement non vérifié. La pensée critique tolère cette incertitude et cherche ce qui permettrait de trancher, un audit, un contrôle indépendant ou une documentation. Le complotisme fait l’inverse : il lit l’absence de preuve comme une preuve. Vérifier utilement, c’est proportionner : ce qu’on croit dépend de l’enjeu, de l’intérêt de celui qui parle, de ses antécédents et de la possibilité qu’un tiers vérifie.

Je crois qu’on pourrait appliquer un critère simple, emprunté à l’article d’Usabilis sur les agents : exiger des preuves en proportion de ce qui ne se rattrape pas. Un fichier audio mal traité se refait. Des données envoyées ou une décision prise, non. Mais ce critère suppose de savoir ce qu’on risque, et c’est justement ce que ces outils disent le moins. À qui revient-il d’exiger qu’ils le disent ?

En écho :