Sam Altman juge certains dégâts acceptables pour garder l’IA accessible au public

Les bénéfices attendus de l’intelligence artificielle ne justifient pas seulement des investissements massifs. Pour Sam Altman, ils pourraient aussi rendre acceptables certains dommages. Dans un entretien accordé à la newsletter Decoded de POLITICO, le patron d’OpenAI assume une position qui place l’accès du public à l’IA au-dessus de l’exigence d’éviter tout risque.

« Certaines choses négatives » au nom du progrès

Sam Altman défend une idée simple, mais lourde de conséquences : une technologie appelée à produire des gains considérables pour la société ne peut pas être déployée sans provoquer d’effets indésirables. Les bénéfices de l’IA, estime-t-il, sont suffisamment importants pour qu’il faille accepter que « certaines choses négatives » arrivent.

La formulation ne renvoie pas à un risque théorique. Les systèmes d’IA générative produisent déjà des erreurs, des contenus trompeurs, des réponses dangereuses ou des décisions difficiles à contester. Le développement d’agents capables d’agir de manière plus autonome ajoute une nouvelle couche de risques : exécution d’actions non souhaitées, accès à des données sensibles, erreurs dans des tâches professionnelles ou propagation accélérée de fausses informations.

L’argument d’Altman consiste à mettre ces dommages en balance avec les gains potentiels : amélioration de la productivité, progrès scientifiques, soutien au diagnostic médical, accès élargi à l’éducation ou automatisation de tâches complexes. L’arbitrage n’est donc pas présenté comme une absence de précautions, mais comme le refus d’exiger un niveau de sécurité absolu avant tout déploiement à grande échelle.

Cette nuance est essentielle. Le dirigeant d’OpenAI ne détaille pas, dans les éléments rapportés de l’entretien, quels dommages seraient acceptables, pour quelles populations et selon quels mécanismes de réparation. Or c’est précisément là que se situe la difficulté politique : un risque limité pour un utilisateur averti peut devenir un préjudice majeur lorsqu’un système est utilisé par des millions de personnes, dans un contexte médical, administratif ou professionnel.

Un « grand écart » avec Anthropic

Altman oppose cette ligne à celle d’Anthropic, entreprise concurrente d’OpenAI qui a fait de la sécurité une composante centrale de son positionnement. Il décrit un « grand écart » entre les deux sociétés sur la régulation et la manière de gérer les risques liés à l’IA.

Anthropic défend depuis plusieurs années une approche plus prudente, fondée sur des politiques de montée en puissance et des garde-fous renforcés lorsque les capacités d’un modèle franchissent certains seuils. Son discours met davantage l’accent sur l’évaluation préalable, la limitation des usages à risque et la possibilité de retarder le déploiement d’un système si les mesures de contrôle sont jugées insuffisantes.

La différence ne se résume toutefois pas à une opposition entre une entreprise favorable à la sécurité et une autre qui la négligerait. OpenAI affirme également investir dans l’alignement, les évaluations et les dispositifs de contrôle. Le désaccord porte plutôt sur le niveau de risque jugé acceptable, la vitesse de mise à disposition des modèles et le rôle que doivent jouer les autorités publiques.

Derrière cette divergence apparaît aussi une différence de stratégie industrielle. OpenAI cherche à faire de ses outils une infrastructure largement utilisée, par le grand public comme par les entreprises. Anthropic s’est construit une image plus prudente, notamment auprès des organisations qui veulent limiter les risques liés à l’usage de modèles puissants. Les deux approches peuvent attirer des clients différents, mais elles produisent aussi des visions concurrentes de la régulation.

L’accès le plus large possible, malgré les risques

Sam Altman plaide par ailleurs pour que l’IA reste largement accessible au public. Cette position prolonge la stratégie d’OpenAI depuis le lancement de ChatGPT : mettre des capacités avancées entre les mains d’un nombre élevé d’utilisateurs, observer les usages et améliorer progressivement les systèmes.

Cette logique présente un avantage évident. Une technologie accessible peut bénéficier à des personnes qui ne disposent pas de moyens importants pour financer des logiciels spécialisés. Elle favorise aussi l’expérimentation, la concurrence et l’apparition d’usages imprévus. Les outils d’IA ne restent pas confinés aux laboratoires ou aux grandes entreprises.

Mais l’ouverture élargit mécaniquement la surface d’exposition. Plus un système est utilisé, plus les erreurs deviennent nombreuses en valeur absolue. Les utilisateurs ne disposent pas tous des mêmes compétences pour vérifier une réponse, identifier une manipulation ou comprendre les limites d’un modèle. Une large diffusion transforme donc des défauts ponctuels en problème collectif.

Le débat porte également sur la répartition des coûts. Les bénéfices peuvent être largement diffusés, tandis que les préjudices se concentrent sur certaines catégories : salariés exposés à l’automatisation, artistes confrontés à l’exploitation de leurs œuvres, personnes visées par des contenus synthétiques ou utilisateurs victimes de décisions erronées. Dire que la société doit « accepter » certains dégâts suppose de déterminer qui les supportera et qui en assumera la réparation.

Une déclaration sous pression réglementaire

La prise de position intervient alors que les entreprises de l’IA font face à une pression croissante sur la sécurité de leurs produits. Les autorités, les tribunaux et les organisations de la société civile examinent les pratiques du secteur : collecte de données, respect du droit d’auteur, protection des mineurs, fiabilité des réponses et responsabilité en cas de dommage.

Les agents amplifient cette inquiétude. Un chatbot qui fournit une information fausse pose déjà un problème. Un système capable de réserver un service, d’envoyer un message, de modifier un fichier ou d’exécuter une opération financière peut transformer une erreur de langage en conséquence concrète. La frontière entre assistance et action devient alors un enjeu de responsabilité juridique autant que technique.

Dans ce contexte, la phrase d’Altman peut être lue comme une tentative de fixer les termes du débat. Plutôt que de promettre une IA sans risque, OpenAI défend l’idée qu’un déploiement progressif permettra d’obtenir des bénéfices suffisamment importants pour compenser une partie des dommages. Le risque est qu’une telle logique soit interprétée comme un permis général d’expérimenter sur le public.

Le prochain jalon sera donc moins une nouvelle promesse de capacité qu’une réponse opérationnelle : quelles limites OpenAI acceptera-t-elle pour ses agents, quelles procédures d’indemnisation seront prévues et quels incidents entraîneront une suspension ou un retrait ? Tant que ces critères resteront flous, l’arbitrage défendu par Sam Altman restera asymétrique : les bénéfices sont quantifiés en productivité et en croissance, tandis que les dégâts sont renvoyés à une catégorie vague de « choses négatives ».