PandIA

Muse aurait mentionné des messages Signal chez Meta, des employés craignent un mélange de comptes

Muse aurait mentionné des messages Signal chez Meta, des employés craignent un mélange de comptes

Un assistant censé simplifier les tâches quotidiennes aurait-il attribué à un utilisateur des informations provenant d’une autre conversation ? Des signalements internes chez Meta soulèvent cette question autour de Muse, son nouvel agent IA, après des réponses faisant référence à des messages Signal et à des données personnelles inattendues.

Des signalements internes mettent en cause Muse

Selon des publications internes consultées par Reuters, plusieurs employés de Meta ont alerté sur le comportement de Muse. L’agent aurait fait référence à des messages échangés sur Signal, une application réputée pour son chiffrement de bout en bout, et aurait parfois répondu avec des éléments semblant provenir d’autres conversations.

Le cas le plus frappant concerne une discussion portant sur la pêche. Au cours de cet échange, Muse aurait affiché des soldes bancaires qui n’avaient, en apparence, aucun rapport avec le sujet abordé. L’incident est suffisamment concret pour nourrir une inquiétude centrale dans le développement des agents : la capacité à conserver une séparation fiable entre les contextes, les utilisateurs et les sources d’information.

Reuters précise toutefois ne pas avoir pu établir si les données bancaires étaient réelles ou si elles avaient été inventées par l’IA. Les publications internes ne prouvent donc pas qu’une fuite effective s’est produite entre deux comptes. Elles documentent des comportements préoccupants, pas une exfiltration confirmée de données privées.

Cette nuance est essentielle. Une réponse incohérente peut relever d’une hallucination, c’est-à-dire d’une information fabriquée par le modèle, ou d’un défaut dans la gestion du contexte. Elle peut aussi signaler que l’agent a effectivement reçu des données auxquelles il n’aurait pas dû accéder. À ce stade, les éléments publics ne permettent pas de trancher.

Le risque ne se limite pas à une erreur de réponse

Un chatbot qui invente un chiffre produit déjà un contenu trompeur. Un agent capable d’exécuter des tâches, de consulter plusieurs sources ou de conserver un contexte utilisateur ajoute une difficulté supplémentaire : il doit associer chaque information au bon interlocuteur et au bon niveau d’autorisation.

C’est là que le cas de Muse devient sensible. Une confusion entre conversations ne serait pas une simple erreur factuelle. Elle pourrait exposer un message privé, un solde bancaire, une information médicale ou un échange professionnel à une personne qui n’en est pas le destinataire. Même si la donnée affichée est fausse, son apparition peut suffire à dégrader la confiance dans le service.

La référence à Signal mérite également une lecture prudente. Elle ne démontre pas que Muse aurait cassé le chiffrement de l’application ou accédé directement à ses serveurs. Plusieurs scénarios restent possibles : contenu fourni explicitement à l’agent, contexte disponible sur l’appareil, intégration logicielle, erreur de mémorisation ou simple génération fictive. Sans informations techniques supplémentaires, conclure à une intrusion dans Signal serait prématuré.

Le problème de fond est ailleurs : pour l’utilisateur, la frontière entre une donnée réellement consultée et une donnée inventée par l’IA est difficile à percevoir. Dans les deux cas, la réponse peut sembler crédible. Un agent qui évoque un solde bancaire ou une conversation privée crée donc un risque même lorsque son affirmation est fausse.

Une alerte embarrassante pour un produit à forte diffusion

Meta a lancé Muse en septembre. L’outil aurait depuis dépassé 10 millions de téléchargements, un chiffre qui donne une portée particulière aux signalements rapportés par Reuters. Plus la base d’utilisateurs est large, plus un défaut de gestion du contexte peut produire d’incidents — et plus la vérification de chaque cas devient complexe.

Le calendrier ajoute une pression commerciale et technique. Les acteurs de l’IA cherchent à transformer les assistants conversationnels en agents capables de gérer des recherches, des démarches ou des tâches répétitives. Cette évolution repose sur une multiplication des accès : historique des échanges, applications connectées, fichiers, comptes et informations personnelles.

Chaque accès supplémentaire élargit la surface de risque. L’agent doit non seulement comprendre une demande, mais aussi déterminer quelles données peuvent être utilisées, dans quel but et pendant combien de temps. Il doit ensuite empêcher qu’une réponse destinée à un utilisateur réutilise, même par erreur, le contexte d’un autre.

Les signalements internes montrent précisément la difficulté de cette transition. Les performances générales d’un modèle — sa capacité à produire une réponse fluide ou à suivre une conversation — ne suffisent pas à garantir une isolation correcte des données. La sécurité dépend aussi de couches périphériques : gestion des identités, permissions, mémoire, journalisation, filtres et systèmes de récupération de contenu.

La question de la traçabilité devient centrale

Pour convaincre, Meta devra pouvoir expliquer la provenance d’une information affichée par Muse. Un utilisateur confronté à une donnée sensible doit pouvoir savoir si celle-ci provient d’un document autorisé, d’un historique de conversation, d’une application connectée ou d’une génération sans source.

Cette traçabilité constitue l’un des tests les plus importants pour les agents grand public. Une réponse accompagnée d’une source vérifiable n’élimine pas tous les risques, mais elle permet au moins de distinguer une consultation réelle d’une invention. À l’inverse, une architecture incapable de reconstituer le chemin suivi par une information rend les incidents difficiles à diagnostiquer et les corrections plus incertaines.

Meta devra aussi préciser la nature des investigations conduites à la suite des alertes, le nombre de comptes concernés et les mesures prises pour empêcher une répétition. L’absence de fuite confirmée ne dispense pas d’un examen approfondi : un système qui donne l’impression de mélanger des conversations peut déjà causer un préjudice, notamment si un utilisateur agit sur la base d’une information financière ou confidentielle.

Le prochain test sera la réponse de Meta

Le succès initial de Muse, avec plus de 10 millions de téléchargements, transforme ces alertes en problème opérationnel autant qu’en enjeu de réputation. La prochaine étape attendue est une clarification technique de Meta : nature des données accessibles à Muse, séparation des contextes entre utilisateurs, mécanismes de contrôle et résultats des vérifications internes.

Tant que ces réponses ne sont pas publiques, l’incident reste impossible à qualifier définitivement : il peut s’agir d’une hallucination, d’un défaut de contexte ou d’un véritable mélange de données. Mais le signal est déjà mesurable. Pour un agent qui prétend assister la vie quotidienne, la fiabilité ne se résume pas à répondre vite ou correctement : elle commence par la certitude que la réponse appartient bien à la bonne personne.

Recevez les dernières actualités sur l'IA dans votre boite mail

envelope
Si vous souhaitez recevoir un résumé de l'actualité ainsi que nos derniers guides sur l'IA rejoignez nous !
Actualités Guides Liste IA Prompts Newsletter