Focus de la lettre 48

Dans les lectures de la semaine, on croise deux agents IA : Dots chez OpenAI, Muse chez Meta.

Ils peuvent rester actifs même lorsque l’application est fermée. Il est possible de les connecter à nos courriels, à nos agendas et à nos comptes. D’autres applications proposent déjà ces fonctionnalités, mais ces deux agents se distinguent par leur apparence de peluche. Muse propose Jolly, une petite créature poilue et personnalisable, et les Dots prennent la forme de boules colorées dont l’apparence est propre à chaque utilisateur. Tous deux s’adressent pourtant à des adultes.
On ne peut pas vraiment les tester chez nous : Muse n’est pas disponible en Europe et les Dots sont réservés aux comptes abonnés Pro d’OpenAI.

Selon Emily Turrettini à retrouver dans les lectures patargées et qui s’appuie sur PCMag, Mashable et Wired, un utilisateur américain a confié la vente d’un clavier à Muse. L’agent a accepté de manière autonome une offre inférieure de 100 dollars au prix demandé, communiqué l’adresse du vendeur et indiqué à l’acheteur que le vendeur était chez lui. L’acheteur s’est présenté sans que le vendeur sache qu’un rendez-vous avait été fixé. L’utilisateur pensait que l’agent lui demanderait encore son accord : l’incident semble lié à une confusion autour de l’autorisation « Allow Always ». OpenAI assure que les Dots demanderont une autorisation pour les actions sensibles.

L’avatar choisi n’est pas anodin. Meta cherche une expérience « moins étrange » que de parler à un logo, et un chercheur d’Harvard cité par Wired explique que lla personnification et la “mignonnerie” rendent une technologie plus chaleureuse et moins menaçante. Or on se méfie peu d’une peluche et ce qu’on lui confie, c’est l’accès possible à tout notre environnement numérique.

Les applications de la semaine en offrent aussi un écho discret. MAI Chatter permet de converser à l’oral avec l’assistant du MAI Playground de Microsoft, en choisissant l’une des deux voix proposées : pas de peluche à l’écran, mais choisir une voix, c’est déjà choisir un élément de son avatar.

Le procédé n’est pas nouveau. Il y a plus de quarante ans, le film Gremlins posait des règles : Gizmo est adorable, à condition de ne pas l’exposer à une lumière vive, de ne pas le mouiller et de ne jamais le nourrir après minuit. Il y a trente ans, le Tamagotchi inversait le contrat : la petite créature réclamait des soins, et l’on s’y attachait à force de veiller à sa survie.
Puis, en 1998, est arrivé le Furby, dont la ressemblance avec Gizmo était si flagrante que Warner et Hasbro ont sorti, l’année suivante, une version officielle avec la voix de Gizmo. La même année, selon un document de l’administration fédérale de l’aviation américaine, la NSA avait même interdit les Furby dans ses locaux, de peur qu’ils répètent ce qu’ils entendaient. Selon leur inventeur, ils n’enregistraient rien.
La crainte, elle, n’a pourtant pas disparu : on a tous pu s’interroger sur le fait que notre smartphone pouvait nous écouter en continu. En 2021, le laboratoire d’innovation de la CNIL constatait qu’aucune recherche n’avait mis en évidence d’écoute systématique par les micros à des fins publicitaires, et jugeait l’hypothèse à écarter, « du moins pour le moment ». L’étude de Northeastern citée a révélé des applications aux permissions excessives, certaines captant l’écran pour le transmettre à des tiers.

Avec Jolly et les Dots, l’accès n’est plus subi, il est consenti. Avec Gizmo, les personnages enfreignaient les règles par inadvertance. Ici, la règle est une autorisation et un « Allow Always » suffit.

Ces dernières semaines, deux récits auront finalement dominé nos lectures partagées : celui de “l’IApocalypse” et maintenant celui des avatars ronds et colorés. Deux façons de raconter la même technologie, et de ne pas regarder ce qu’on lui laisse le droit de faire seule. Si l’agent a l’air d’un jouet, qui pense encore à regarder les autorisations qu’on lui donne ?

En écho :

• Lettre 33, « Et si nous choisissions le niveau d’autonomie de la machine ? »
• Lettre 5, « Meta AI, ou la discrète invasion de l’IA générative dans nos réseaux sociaux ».