CAISSI ne publie plus ses rapports, la Maison-Blanche demande des comptes à ses équipes

Le signal est discret, mais ses implications sont lourdes : l’organisme américain chargé d’évaluer la sécurité des systèmes d’intelligence artificielle ne publie plus ses travaux et voit ses équipes sollicitées directement par la Maison-Blanche. Cette évolution intervient alors que les modèles capables d’agir de façon autonome soulèvent des inquiétudes croissantes.

Un centre sans directeur et sans rapports publics

Le Center for Advancing Innovation and Standards for Super Intelligence (CAISSI) traverse une période d’incertitude institutionnelle. D’après des informations recueillies par l’Associated Press auprès de deux anciens responsables, plusieurs employés du centre ont récemment été invités à rendre compte, de manière informelle, à un bureau de la Maison-Blanche.

Aucun rattachement officiel n’a été annoncé à ce stade. Mais le contexte rend cette évolution particulièrement sensible : le CAISSI n’a plus de directeur permanent et a cessé de publier ses rapports publics consacrés à la sécurité des systèmes d’IA. Le Congrès a demandé des explications sur cette interruption en août, sans qu’une clarification publique permette jusqu’ici de comprendre si elle relève d’une réorganisation, d’un changement de doctrine ou d’une intervention politique.

Le centre n’est pas un régulateur au sens classique. Sa mission consiste plutôt à tester les modèles, documenter leurs limites et produire des évaluations susceptibles d’éclairer les administrations, les chercheurs et les entreprises. Ses travaux peuvent porter sur les risques de désalignement, les capacités dangereuses ou encore la robustesse des systèmes face à des usages imprévus.

Cette fonction repose largement sur la crédibilité de ses méthodes. Des rapports publics permettent à des chercheurs extérieurs de vérifier les protocoles utilisés, de comparer les résultats entre modèles et d’identifier d’éventuelles lacunes. Lorsque ces publications s’arrêtent, l’évaluation de la sécurité devient plus difficile à contrôler de l’extérieur.

Une proximité politique qui inquiète

La question centrale n’est pas seulement celle de la chaîne hiérarchique. Elle concerne aussi l’indépendance de l’expertise.

Des critiques redoutent qu’un rapprochement avec la Maison-Blanche rende les évaluations plus sensibles aux priorités politiques du moment. Le risque serait de voir certains résultats retardés, reformulés ou écartés lorsqu’ils entrent en tension avec les objectifs de compétitivité technologique, de défense ou de dérégulation poursuivis par l’administration.

Une autre inquiétude porte sur l’influence de l’industrie. Les grands groupes technologiques jouent un rôle majeur dans le développement des modèles avancés et disposent de moyens considérables pour défendre leurs intérêts auprès du pouvoir fédéral. Un organisme chargé d’examiner leurs systèmes doit donc pouvoir publier des conclusions gênantes sans craindre pour son budget, son accès aux décideurs ou la carrière de ses responsables.

L’absence de directeur permanent accentue cette fragilité. Sans responsable clairement identifié, il devient plus difficile de savoir qui arbitre les priorités scientifiques, qui répond aux demandes du Congrès et qui assume la responsabilité des évaluations produites — ou non produites.

Le silence institutionnel ne constitue pas en soi une preuve de politisation. Il crée toutefois un problème de confiance. Dans le domaine de la sécurité de l’IA, la méthode compte autant que le résultat : un rapport peut être contesté, mais une absence prolongée de rapports laisse place aux spéculations.

Un organisme aux moyens limités

Le CAISSI dispose d’un budget annuel de 10 millions de dollars, soit environ un huitième de celui de son homologue britannique. À échelle comparable, le financement britannique s’élèverait donc à près de 80 millions de dollars.

Cet écart pèse sur la capacité du centre à recruter des spécialistes, à conduire des tests indépendants et à suivre le rythme de développement des modèles. Les laboratoires privés entraînent désormais des systèmes capables de traiter du texte, des images, du code et des tâches complexes avec des moyens informatiques qui dépassent largement ceux d’une petite structure publique.

Le financement ne résout cependant pas à lui seul la question de l’indépendance. Un rattachement plus direct à la Maison-Blanche pourrait, selon certains observateurs, donner au CAISSI un accès accru aux décideurs et faciliter l’obtention de ressources supplémentaires. Le centre gagnerait alors en influence, à condition de conserver une autonomie suffisante dans le choix des tests et la publication des résultats.

C’est le principal argument avancé par les défenseurs d’un lien plus étroit avec l’exécutif : une agence isolée, sous-financée et dépourvue de poids politique risque de produire des travaux pertinents mais peu suivis d’effets. À l’inverse, une structure placée près du centre du pouvoir pourrait imposer davantage ses recommandations aux administrations et aux entreprises.

Les agents IA rendent le calendrier plus préoccupant

Le moment choisi — ou subi — par le CAISSI est d’autant plus délicat que les systèmes d’IA évoluent vers des usages plus autonomes. Les agents IA ne se contentent plus de générer une réponse à une question. Ils peuvent planifier une suite d’actions, utiliser des logiciels, interroger des bases de données et exécuter des tâches avec une supervision humaine limitée.

Cette autonomie accroît la difficulté des évaluations. Tester un modèle conversationnel consiste notamment à mesurer ses réponses dans un environnement contrôlé. Tester un agent implique aussi d’examiner les conséquences de ses décisions, sa capacité à contourner des restrictions, ses interactions avec des outils externes et son comportement lorsqu’une instruction est ambiguë.

Les rapports publics sont essentiels pour établir des références communes. Sans eux, chaque entreprise peut présenter sa propre méthode de test, avec des critères difficilement comparables. Le risque est alors de confondre une amélioration sur un benchmark avec une véritable réduction du risque en conditions réelles.

La demande d’explications formulée par le Congrès en août constitue donc un jalon important. Elle peut conduire à préciser le statut du CAISSI, la raison de l’arrêt des publications et les modalités exactes de ses échanges avec la Maison-Blanche. Elle peut aussi déterminer si le centre conservera une direction autonome ou s’il sera intégré à une structure plus directement contrôlée par l’exécutif.

La prochaine publication sera un test de crédibilité

La suite ne se mesurera pas seulement à une nomination ou à une annonce budgétaire. Le prochain rapport public du CAISSI, s’il paraît, permettra de vérifier si le centre conserve la liberté de publier des résultats défavorables aux modèles les plus puissants et aux entreprises qui les développent.

Un calendrier de publication régulier, une direction permanente, des méthodes accessibles et une réponse précise au Congrès constitueraient des indicateurs concrets d’indépendance. À défaut, le rapprochement avec la Maison-Blanche risque d’être interprété comme une reprise en main, au moment même où les agents autonomes rendent l’évaluation externe plus nécessaire que jamais.