Trump confie aux géants de l’IA le contrôle de leurs risques, sans aucune sanction

Les entreprises qui conçoivent les systèmes d’IA les plus puissants viennent d’accepter de surveiller elles-mêmes les risques qu’elles contribuent à créer. Réuni à la Maison-Blanche le 29 septembre 2026, Donald Trump a obtenu des principaux acteurs du secteur un engagement politique dépourvu de mécanisme de sanction.

Un pacte signé à la Maison-Blanche, mais sans contrainte juridique

Autour de la table figuraient les dirigeants d’OpenAI, d’Anthropic, de Google, de Meta, de Nvidia et de xAI. Tous ont signé un accord volontaire consacré à la sécurité de l’IA, présenté par l’administration Trump comme un cadre commun de contrôle des modèles avancés.

Le texte prévoit plusieurs niveaux de surveillance : des contrôles menés en interne, des audits réalisés par des organismes indépendants et un suivi par des comités rattachés aux conseils d’administration. Les entreprises s’engagent ainsi à examiner leurs pratiques, à évaluer les risques liés à leurs modèles et à rendre compte de leurs efforts de prévention.

Mais l’accord ne crée ni nouvelle autorité de contrôle, ni obligation légale, ni régime de pénalités. Une entreprise qui ne respecterait pas les engagements annoncés ne s’exposerait à aucune sanction prévue par le pacte lui-même.

Donald Trump a qualifié l’accord de « moralement contraignant ». Il a également annoncé la désignation, dans les jours suivants, d’un responsable chargé du suivi de cette initiative. Le rôle exact de cette personne, comme les moyens dont elle disposera, n’ont toutefois pas été détaillés.

Les créateurs des risques deviennent leurs propres contrôleurs

Le dispositif repose sur un principe simple : les acteurs qui développent les systèmes d’IA doivent mettre en place les procédures destinées à contrôler leurs propres produits. Cette logique n’est pas entièrement nouvelle. Les grandes entreprises technologiques disposent déjà d’équipes de sécurité, de comités d’éthique et de procédures de red teaming, qui consistent à chercher délibérément les failles d’un modèle avant sa commercialisation.

L’accord cherche à formaliser ces pratiques et à leur donner une dimension commune. La mention d’audits indépendants peut aussi répondre à une critique récurrente : les évaluations réalisées par les entreprises elles-mêmes manquent de transparence et peuvent être influencées par des objectifs commerciaux.

Le problème tient à la portée réelle de cette indépendance. Le texte ne précise pas, d’après les éléments rapportés par l’Associated Press, qui choisira les auditeurs, quelles méthodes ils devront appliquer, ni si leurs conclusions seront rendues publiques. Il ne fixe pas non plus de seuil commun permettant de déterminer à partir de quel niveau de risque une entreprise doit suspendre un déploiement ou prévenir les autorités.

Sans règles précises, un audit peut mesurer la sécurité d’un modèle, mais aussi devenir un exercice de conformité limité à la documentation et aux processus internes. La différence dépendra de la publication des résultats, de l’accès aux données techniques et de la capacité des évaluateurs à travailler sans pression commerciale.

Une promesse difficile à vérifier

L’absence de sanctions réduit la portée pratique de l’engagement. Une entreprise pourrait ne pas appliquer une recommandation d’audit, retarder la publication d’un rapport ou interpréter différemment les critères de sécurité, sans risquer de pénalité directement associée à l’accord.

La pression serait alors essentiellement réputationnelle. Les signataires pourraient être critiqués par les investisseurs, les clients ou le gouvernement, mais aucune procédure automatique ne semble prévue pour suspendre leurs activités, imposer une amende ou limiter l’accès à certains marchés.

Cette architecture place donc la crédibilité du pacte dans les mains des entreprises elles-mêmes. Elle suppose que la concurrence, la responsabilité publique des dirigeants et la surveillance des conseils d’administration suffiront à compenser l’absence de contrainte réglementaire.

Le calendrier fragilise la promesse de confiance

Le choix d’un engagement volontaire intervient alors que les entreprises du secteur ont récemment révélé plusieurs incidents de sécurité. Les détails de ces affaires ne sont pas tous intégrés au pacte, mais leur existence nourrit déjà les interrogations sur la capacité des groupes technologiques à détecter, signaler et corriger rapidement les défaillances de leurs systèmes.

Des experts cités par l’Associated Press ont jugé le texte vague et se sont interrogés sur la confiance accordée à l’autorégulation. Leur critique porte moins sur le principe d’audits externes que sur l’absence de règles permettant de vérifier leur qualité et d’imposer des suites en cas d’échec.

L’enjeu dépasse les erreurs ordinaires d’un logiciel. Les modèles génératifs peuvent produire des informations fausses, faciliter des fraudes, exposer des données sensibles ou être détournés à des fins de cyberattaque. Les modèles plus avancés soulèvent aussi des questions de contrôle, de sécurité informatique et d’usage militaire. Dans ces domaines, un engagement non contraignant peut difficilement remplacer une procédure claire de notification et de correction.

Une initiative politique plus qu’un dispositif de contrôle

Pour l’administration Trump, l’accord permet d’afficher un soutien à la sécurité de l’IA sans instaurer immédiatement une réglementation fédérale lourde. Le gouvernement obtient la signature des entreprises les plus visibles du secteur tout en préservant leur marge de manœuvre pour développer et commercialiser leurs modèles.

Pour les groupes concernés, le pacte offre également un cadre de discussion commun et peut contribuer à éviter des règles imposées de manière fragmentée par les États américains ou par des agences fédérales. Mais il comporte un risque : celui de transformer la sécurité de l’IA en promesse générale, difficile à comparer d’une entreprise à l’autre et impossible à faire respecter de manière uniforme.

La question centrale sera donc celle de la transparence. Les entreprises publieront-elles des résultats d’audit détaillés ? Les comités de conseil d’administration auront-ils accès aux incidents et aux évaluations techniques complètes ? Les recommandations pourront-elles conduire à suspendre un produit, malgré son intérêt commercial ?

Le prochain jalon annoncé est la nomination du responsable chargé du suivi, attendue dans les jours suivant la signature du 29 septembre 2026. Sa mission, son autorité et la publication d’un premier bilan permettront de mesurer la portée concrète du pacte. Sans indicateurs communs, rapports accessibles et conséquences en cas de manquement, l’accord restera surtout un engagement politique : les entreprises à l’origine des risques continueront d’en être les principales évaluatrices.