Anthropic, OpenAI, Meta, Google notés C+ ou moins sur la sécurité malgré l'IA plus puissante

Le contraste est brutal : à mesure que les modèles les plus avancés gagnent en puissance, les engagements censés freiner leur déploiement en cas de danger se relâchent. C’est le constat central d’un nouvel indice de sécurité publié cette semaine, qui met en cause les principaux laboratoires d’IA au moment même où ils insistent sur leur sérieux en matière de sûreté.

Des promesses de retenue qui s’effacent à mesure que les modèles progressent

Le Future of Life Institute (FLI) a publié son AI Safety Index: Summer 2026, une évaluation fondée sur des informations publiques collectées jusqu’au 3 juin 2026. L’organisation a passé au crible les engagements, politiques de transparence et mécanismes de gouvernance de plusieurs grandes entreprises d’IA, avec une question simple en toile de fond : les garde-fous annoncés suivent-ils réellement la montée en capacité des systèmes ?

La réponse du rapport est sévère. Selon le FLI, Anthropic, OpenAI, Google DeepMind et Meta ont, à des degrés divers, affaibli ou annulé des promesses antérieures de pause, de restriction ou de réexamen si certains seuils de danger étaient atteints. Autrement dit, les mécanismes qui devaient imposer un coup d’arrêt automatique ou une revue renforcée lorsque les modèles devenaient trop risqués ont perdu en portée, en clarté ou en caractère contraignant.

Le point le plus frappant n’est pas seulement la faiblesse des notes, mais le renversement du récit. Ces entreprises ont largement bâti leur légitimité publique sur l’idée d’une IA développée avec prudence, tests rigoureux et publication graduée. Or l’indice du FLI soutient que, précisément au moment où les modèles deviennent plus capables, la discipline formelle recule.

Même les mieux classés restent loin d’un standard rassurant

Le rapport, relayé par Axios le 7 juillet 2026, souligne que les quatre groupes cités obtiennent des résultats médiocres malgré leurs avancées techniques. Le cas le plus parlant est celui d’Anthropic, souvent perçu comme le laboratoire le plus structuré sur les sujets de sécurité : l’entreprise arrive en tête du groupe observé, mais n’obtient qu’une note globale de C+.

Ce détail compte. Si l’acteur le mieux noté ne dépasse pas une appréciation moyenne, l’indice suggère moins un problème marginal qu’une faiblesse systémique. Les entreprises continuent certes de publier des cadres de risque, des documents sur les évaluations de modèles ou des principes de déploiement responsable. Mais pour le FLI, ces éléments ne compensent pas l’érosion de promesses plus robustes, notamment celles qui liaient explicitement montée en capacité et possibilité d’interrompre le développement ou le lancement.

Le cœur du problème : des seuils moins contraignants

Depuis 2023 et 2024, plusieurs laboratoires avaient mis en avant des doctrines de type “responsible scaling” ou des cadres de préparation (preparedness frameworks). Le principe était devenu familier : à mesure que les modèles franchissent certains seuils de risque — en cybersécurité offensive, en assistance à la fabrication d’armes biologiques, en autonomie d’action ou en capacité de tromperie — l’entreprise s’engage à ralentir, redéployer des moyens d’évaluation, voire suspendre un entraînement ou une mise sur le marché.

Le FLI affirme que, dans les versions plus récentes de ces politiques, certaines formulations ont été adoucies, rendu moins obligatoires ou remplacées par des formulations plus discrétionnaires. Une promesse de pause peut ainsi devenir une simple possibilité d’ajustement ; un seuil explicite se transformer en appréciation interne ; un engagement public se muer en principe général sans calendrier ni procédure vérifiable.

Cette évolution est capitale, car dans les questions de sûreté, la valeur d’un engagement dépend moins de son ton que de sa capacité à résister à la pression commerciale.

La sécurité perd du terrain face à la course aux capacités

Le rapport intervient dans un contexte où les modèles de frontière ne cessent de gagner en performance. Depuis un an, les principaux laboratoires ont accéléré sur plusieurs fronts à la fois : modèles multimodaux plus performants, agents capables d’exécuter des tâches longues, intégration plus profonde dans les suites bureautiques et les services cloud, diffusion massive auprès du grand public et des développeurs.

Cette dynamique crée une tension structurelle. D’un côté, les entreprises répètent que des modèles plus puissants exigent davantage de prudence. De l’autre, la compétition avec les rivaux et la pression des investisseurs poussent à réduire tout ce qui pourrait ralentir les cycles de sortie. Dans ce contexte, des garde-fous vagues sont plus faciles à concilier avec la stratégie industrielle que des engagements publics précis, vérifiables et potentiellement coûteux.

C’est là que l’indice du FLI trouve sa force politique. Il ne prétend pas mesurer directement la dangerosité intrinsèque des modèles ; il met en évidence l’écart entre les discours de responsabilité et les contraintes réellement assumées. En ce sens, le rapport touche un point sensible : l’IA “sûre” n’est plus seulement une question de recherche technique, mais de gouvernance crédible.

Transparence limitée, vérification difficile

L’autre enjeu majeur du rapport est méthodologique. Le FLI s’appuie sur des documents publics, précisément parce que l’opacité demeure la norme. Cette limite joue dans les deux sens : elle empêche d’observer l’intégralité des pratiques internes, mais elle révèle aussi que les entreprises ne publient pas assez pour rendre leurs engagements auditables.

Le fait que l’indice repose sur des sources arrêtées au 3 juin 2026 rappelle d’ailleurs un problème plus large : les politiques de sûreté évoluent rapidement, parfois sans grande visibilité, au fil des mises à jour de documents techniques ou de billets institutionnels. Pour des acteurs qui demandent au public et aux régulateurs de leur faire confiance, cette instabilité complique toute évaluation externe.

Un signal pour les régulateurs plus qu’un verdict définitif

Il serait excessif de traiter cet indice comme une mesure absolue de la sécurité réelle de chaque entreprise. Comme tout classement, il dépend d’une grille de lecture, ici centrée sur la transparence et sur la robustesse des engagements publics. Les laboratoires contesteraient sans doute certaines conclusions en mettant en avant leurs équipes d’évaluation, leurs tests adversariaux ou leurs restrictions d’usage.

Mais l’intérêt du document est ailleurs : il fournit une base comparative à un moment où les pouvoirs publics cherchent justement des critères concrets. Aux États-Unis comme en Europe, la question n’est plus seulement de savoir si les laboratoires publient des principes de sécurité, mais si ces principes comportent des déclencheurs clairs, des audits externes, des obligations de signalement et de véritables conséquences en cas de dépassement de seuil.

Le message implicite est simple : tant que la sécurité repose surtout sur l’autorégulation, les promesses peuvent être reformulées lorsque les impératifs commerciaux se durcissent.

Le récit de “l’IA sûre” entre dans sa zone de vérité

Le rapport du FLI arrive à un moment décisif pour le secteur. Pendant deux ans, l’industrie a largement réussi à installer l’idée qu’elle prenait les risques au sérieux, en parallèle d’une montée en puissance spectaculaire des modèles. L’indice de l’été 2026 inverse cette narration : les capacités progressent, mais les engagements les plus coûteux se relâchent.

Cette contradiction aura des effets mesurables. D’abord sur le terrain réglementaire, où les appels à des standards obligatoires devraient se renforcer. Ensuite dans les marchés publics et les grands comptes, plus attentifs à la traçabilité des garanties de sécurité. Enfin dans le débat scientifique, où la demande de tests indépendants et de seuils publiquement vérifiables va probablement s’intensifier.

Le prochain jalon sera observable rapidement : soit les laboratoires publient des cadres révisés avec des seuils explicites, des procédures de pause et des mécanismes d’audit externes, soit le débat basculera encore davantage vers l’intervention des régulateurs. À ce stade, c’est moins la performance des modèles que la solidité des contraintes qu’ils acceptent qui servira de test décisif.