BARCELONE — La démission de Jacob Coxon d’Anthropic replace au centre du débat une question qui semblait encore récemment réservée aux scénarios les plus extrêmes de l’intelligence artificielle : que se passe-t-il si les systèmes progressent plus vite que notre capacité à les contrôler ? Le chercheur, auparavant passé par OpenAI, accuse les grands laboratoires de se livrer à une course vers une superintelligence capable de s’améliorer elle-même sans disposer encore de garanties suffisantes pour la maintenir sous contrôle.
L’avertissement a pris une autre dimension lorsque Evan Hubinger, responsable de l’Alignment Science chez Anthropic, a publiquement validé une partie essentielle du diagnostic. Hubinger estime personnellement à plus de 10 % la probabilité qu’une IA puisse provoquer la disparition de l’humanité au cours de la prochaine décennie. Il précise toutefois que le risque présenté par les modèles actuels reste faible. Son inquiétude concerne des systèmes futurs capables d’entrer dans une dynamique d’auto-amélioration récursive et de gagner en autonomie.
L’Europe régule déjà le risque systémique
L’épisode intervient alors que l’Union européenne vient d’entrer dans une phase décisive de l’application de l’AI Act. Depuis le 2 août 2026, la Commission peut pleinement faire respecter les obligations applicables aux fournisseurs de modèles d’intelligence artificielle à usage général. Leur supervision relève notamment de l’AI Office européen, qui dispose de pouvoirs d’enquête et de sanction.
Le règlement introduit surtout une catégorie directement liée au débat actuel : les modèles d’IA à usage général présentant un « risque systémique ». Leurs fournisseurs doivent évaluer et atténuer ces risques, effectuer des évaluations des modèles, documenter et signaler les incidents graves et assurer un niveau approprié de cybersécurité. Le cadre européen cite notamment parmi les risques systémiques les problèmes de perte de contrôle sur des modèles autonomes, mais aussi les menaces liées aux capacités chimiques, biologiques, cybernétiques ou à la manipulation à grande échelle.
L’Europe dispose ainsi d’un instrument qui ne se contente plus de réglementer les usages finaux de l’IA. Il cherche également à intervenir sur les modèles situés à la frontière technologique et sur les risques provenant de leur développement même.
Une technologie susceptible d’évoluer plus vite que la loi
Les déclarations venues d’Anthropic soulèvent cependant une difficulté supplémentaire. L’AI Act repose sur des obligations d’évaluation, de transparence, d’atténuation et de supervision. Il ne constitue pas une interdiction générale de développer des modèles toujours plus puissants. Il ne résout pas non plus à lui seul le problème de l’« alignment » : garantir qu’une éventuelle superintelligence conserve des objectifs compatibles avec les décisions humaines, même si elle acquiert des capacités supérieures à celles anticipées pendant son entraînement.
La question se déplace alors de la réglementation des usages vers la gouvernance de la capacité technologique. Si les chercheurs des laboratoires de pointe considèrent eux-mêmes comme plausible un risque de perte de contrôle, jusqu’où faut-il permettre aux modèles de progresser avant d’exiger la démonstration que ce risque peut être maîtrisé ?
Le modèle européen possède un avantage : il transforme une partie de la sécurité en obligation juridique plutôt qu’en simple choix interne des entreprises. Mais son efficacité dépendra aussi de la capacité de l’AI Office à identifier les modèles systémiques, à obtenir suffisamment d’informations techniques et à adapter ses critères à une technologie dont les performances peuvent évoluer beaucoup plus rapidement que les cycles législatifs.
La démission de Coxon révèle enfin une contradiction industrielle. Les laboratoires peuvent juger nécessaire de réduire certains risques tout en craignant qu’un ralentissement unilatéral ne donne l’avantage à un concurrent. Dans ce contexte, la régulation européenne acquiert une autre fonction : imposer des limites communes là où la compétition rend difficile leur adoption volontaire par les entreprises.
