Gavin Newsom veut pouvoir couper les IA de pointe comme une infrastructure critique
Une IA de pointe pourrait bientôt devoir intégrer son propre bouton d’arrêt d’urgence. En Californie, Gavin Newsom veut examiner la possibilité de suspendre rapidement le fonctionnement des modèles les plus puissants, sur le modèle des procédures prévues pour certaines infrastructures critiques.
La Californie veut tester les limites du contrôle des IA avancées
Le 18 septembre 2026, le gouverneur californien a signé un décret demandant l’élaboration de propositions pour renforcer la surveillance indépendante des entreprises qui développent des modèles dits frontier. Le terme désigne les systèmes d’IA les plus avancés, capables de traiter des tâches complexes et susceptibles de produire des effets à grande échelle.
Le texte ne crée pas encore une obligation immédiatement applicable. Il charge toutefois les autorités compétentes d’étudier un dispositif qui pourrait imposer aux entreprises concernées de concevoir un mécanisme d’arrêt d’urgence — un kill switch — pour leurs modèles.
Son fonctionnement devrait être vérifié par une organisation indépendante. Cette exigence vise à éviter qu’une entreprise puisse simplement déclarer son système « désactivable » sans démontrer, par des tests externes, que l’arrêt fonctionne effectivement dans des conditions réelles.
L’initiative s’inscrit dans une inquiétude grandissante : les modèles les plus puissants sont développés et déployés à une vitesse supérieure à celle des mécanismes publics de contrôle. En cas de comportement dangereux, de compromission informatique ou d’usage détourné, les autorités cherchent donc à disposer d’un moyen d’intervention rapide, plutôt que de dépendre uniquement de la bonne volonté de l’opérateur.
Un bouton d’arrêt ne signifie pas forcément couper une IA partout
L’expression kill switch suggère un interrupteur unique capable de mettre instantanément un modèle hors service. Dans la pratique, le dispositif pourrait prendre plusieurs formes.
Il pourrait s’agir de suspendre les interfaces d’accès aux modèles, de révoquer des clés utilisées par des clients, d’interrompre les serveurs exécutant l’inférence — la phase durant laquelle le modèle produit une réponse — ou encore de couper certains déploiements identifiés comme risqués. Ces mécanismes ne sont pas équivalents : arrêter une API centralisée est plus simple que désactiver un modèle dont les poids ont été distribués à plusieurs partenaires ou installés sur des infrastructures distinctes.
Cette distinction sera déterminante. Une entreprise qui contrôle ses propres serveurs peut théoriquement interrompre l’accès à un modèle en quelques secondes. Mais si le système est intégré dans des produits tiers, répliqué dans plusieurs régions ou exécuté localement, la capacité d’arrêt devient plus fragmentée.
Le décret californien devra donc répondre à une question essentielle : le mécanisme doit-il empêcher toute utilisation du modèle, ou seulement permettre de stopper les déploiements contrôlés par son développeur ? La réponse conditionnera la portée réelle de la mesure.
Une vérification indépendante pour éviter le bouton décoratif
La proposition la plus sensible concerne la validation externe du dispositif. Sans audit indépendant, une procédure d’arrêt pourrait rester théorique : documentée dans les règles internes de l’entreprise, mais inutilisable lors d’un incident.
Une organisation indépendante pourrait examiner le périmètre couvert, tester les délais de réaction, vérifier l’existence de procédures d’escalade et contrôler la capacité de l’entreprise à empêcher une remise en service non autorisée. Elle pourrait également évaluer les dépendances techniques : accès aux centres de données, systèmes d’authentification, outils de supervision et partenaires chargés de l’hébergement.
Cette approche introduit une forme de séparation entre le développeur et l’évaluation de son propre dispositif de sécurité. Elle pose néanmoins des difficultés pratiques. Il faudra déterminer qui pourra exercer ce contrôle, selon quelles normes, avec quel niveau d’accès aux informations confidentielles et sous quelle responsabilité en cas d’échec.
La Californie devra aussi définir les modèles concernés. Un seuil fondé sur la puissance de calcul, le nombre d’utilisateurs, les capacités autonomes ou les risques potentiels pourrait produire des résultats très différents. Un périmètre trop étroit laisserait de côté des systèmes importants ; un périmètre trop large imposerait des contraintes lourdes à des acteurs moins exposés.
Washington laisse les États occuper le terrain
La décision de Gavin Newsom intervient alors que les États-Unis ne disposent toujours pas d’un cadre fédéral complet consacré aux risques des IA avancées. Cette absence laisse les États fédérés expérimenter leurs propres réponses, avec le risque de voir apparaître des obligations différentes selon le lieu d’implantation d’une entreprise ou de ses activités.
La Californie possède un poids particulier dans ce débat. Elle concentre une large partie des entreprises américaines de l’IA et peut transformer une règle locale en standard de fait pour l’ensemble du secteur. Pour éviter de maintenir plusieurs architectures de conformité, une entreprise pourrait choisir d’appliquer les exigences californiennes à une partie plus large de ses opérations.
Mais cette influence ne règle pas la question de la compétence. Un État peut encadrer les entreprises opérant sur son territoire et conditionner certains marchés ou autorisations à des exigences de sécurité. Il ne peut pas nécessairement désactiver à distance un modèle exploité depuis une autre juridiction ou empêcher une copie de continuer à fonctionner hors de son périmètre.
Le prochain test sera juridique autant que technique
Le décret du 18 septembre constitue donc davantage un point de départ qu’un interrupteur déjà installé. La prochaine étape consistera à transformer cette orientation politique en propositions précises : modèles concernés, procédures d’activation, rôle de l’organisation indépendante, sanctions en cas de non-conformité et articulation avec les autorités fédérales.
L’enjeu mesurable sera la capacité à démontrer qu’un modèle peut être stoppé dans un délai défini, y compris lorsqu’il est intégré à des services tiers ou soumis à une attaque informatique. Tant que ces tests ne seront pas publiés et vérifiables, le kill switch restera une promesse de gouvernance plutôt qu’un véritable dispositif de sécurité.
La Californie place ainsi une question autrefois réservée aux infrastructures énergétiques ou industrielles au cœur de la régulation de l’IA : qui détient le pouvoir d’arrêter un système avancé, dans quelles conditions et avec quelle preuve que l’arrêt est réellement possible ?
