BARCELONE \u2014 La d\u00e9mission de Jacob Coxon d\u2019Anthropic replace au centre du d\u00e9bat une question qui semblait encore r\u00e9cemment r\u00e9serv\u00e9e aux sc\u00e9narios les plus extr\u00eames de l\u2019intelligence artificielle : que se passe-t-il si les syst\u00e8mes progressent plus vite que notre capacit\u00e9 \u00e0 les contr\u00f4ler ? Le chercheur, auparavant pass\u00e9 par OpenAI, accuse les grands laboratoires de se livrer \u00e0 une course vers une superintelligence capable de s\u2019am\u00e9liorer elle-m\u00eame sans disposer encore de garanties suffisantes pour la maintenir sous contr\u00f4le.<\/p>\n
L\u2019avertissement a pris une autre dimension lorsque Evan Hubinger, responsable de l\u2019Alignment Science chez Anthropic, a publiquement valid\u00e9 une partie essentielle du diagnostic. Hubinger estime personnellement \u00e0 plus de 10 % la probabilit\u00e9 qu\u2019une IA puisse provoquer la disparition de l\u2019humanit\u00e9 au cours de la prochaine d\u00e9cennie. Il pr\u00e9cise toutefois que le risque pr\u00e9sent\u00e9 par les mod\u00e8les actuels reste faible. Son inqui\u00e9tude concerne des syst\u00e8mes futurs capables d\u2019entrer dans une dynamique d\u2019auto-am\u00e9lioration r\u00e9cursive et de gagner en autonomie.<\/p>\n
L\u2019\u00e9pisode intervient alors que l\u2019Union europ\u00e9enne vient d\u2019entrer dans une phase d\u00e9cisive de l\u2019application de l\u2019AI Act. Depuis le 2 ao\u00fbt 2026, la Commission peut pleinement faire respecter les obligations applicables aux fournisseurs de mod\u00e8les d\u2019intelligence artificielle \u00e0 usage g\u00e9n\u00e9ral. Leur supervision rel\u00e8ve notamment de l\u2019AI Office europ\u00e9en, qui dispose de pouvoirs d\u2019enqu\u00eate et de sanction.<\/p>\n
Le r\u00e8glement introduit surtout une cat\u00e9gorie directement li\u00e9e au d\u00e9bat actuel : les mod\u00e8les d\u2019IA \u00e0 usage g\u00e9n\u00e9ral pr\u00e9sentant un \u00ab risque syst\u00e9mique \u00bb. Leurs fournisseurs doivent \u00e9valuer et att\u00e9nuer ces risques, effectuer des \u00e9valuations des mod\u00e8les, documenter et signaler les incidents graves et assurer un niveau appropri\u00e9 de cybers\u00e9curit\u00e9. Le cadre europ\u00e9en cite notamment parmi les risques syst\u00e9miques les probl\u00e8mes de perte de contr\u00f4le sur des mod\u00e8les autonomes, mais aussi les menaces li\u00e9es aux capacit\u00e9s chimiques, biologiques, cybern\u00e9tiques ou \u00e0 la manipulation \u00e0 grande \u00e9chelle.<\/p>\n
L\u2019Europe dispose ainsi d\u2019un instrument qui ne se contente plus de r\u00e9glementer les usages finaux de l\u2019IA. Il cherche \u00e9galement \u00e0 intervenir sur les mod\u00e8les situ\u00e9s \u00e0 la fronti\u00e8re technologique et sur les risques provenant de leur d\u00e9veloppement m\u00eame.<\/p>\n
Les d\u00e9clarations venues d\u2019Anthropic soul\u00e8vent cependant une difficult\u00e9 suppl\u00e9mentaire. L\u2019AI Act repose sur des obligations d\u2019\u00e9valuation, de transparence, d\u2019att\u00e9nuation et de supervision. Il ne constitue pas une interdiction g\u00e9n\u00e9rale de d\u00e9velopper des mod\u00e8les toujours plus puissants. Il ne r\u00e9sout pas non plus \u00e0 lui seul le probl\u00e8me de l\u2019\u00ab alignment \u00bb : garantir qu\u2019une \u00e9ventuelle superintelligence conserve des objectifs compatibles avec les d\u00e9cisions humaines, m\u00eame si elle acquiert des capacit\u00e9s sup\u00e9rieures \u00e0 celles anticip\u00e9es pendant son entra\u00eenement.<\/p>\n
La question se d\u00e9place alors de la r\u00e9glementation des usages vers la gouvernance de la capacit\u00e9 technologique. Si les chercheurs des laboratoires de pointe consid\u00e8rent eux-m\u00eames comme plausible un risque de perte de contr\u00f4le, jusqu\u2019o\u00f9 faut-il permettre aux mod\u00e8les de progresser avant d\u2019exiger la d\u00e9monstration que ce risque peut \u00eatre ma\u00eetris\u00e9 ?<\/p>\n
Le mod\u00e8le europ\u00e9en poss\u00e8de un avantage : il transforme une partie de la s\u00e9curit\u00e9 en obligation juridique plut\u00f4t qu\u2019en simple choix interne des entreprises. Mais son efficacit\u00e9 d\u00e9pendra aussi de la capacit\u00e9 de l\u2019AI Office \u00e0 identifier les mod\u00e8les syst\u00e9miques, \u00e0 obtenir suffisamment d\u2019informations techniques et \u00e0 adapter ses crit\u00e8res \u00e0 une technologie dont les performances peuvent \u00e9voluer beaucoup plus rapidement que les cycles l\u00e9gislatifs.<\/p>\n
La d\u00e9mission de Coxon r\u00e9v\u00e8le enfin une contradiction industrielle. Les laboratoires peuvent juger n\u00e9cessaire de r\u00e9duire certains risques tout en craignant qu\u2019un ralentissement unilat\u00e9ral ne donne l\u2019avantage \u00e0 un concurrent. Dans ce contexte, la r\u00e9gulation europ\u00e9enne acquiert une autre fonction : imposer des limites communes l\u00e0 o\u00f9 la comp\u00e9tition rend difficile leur adoption volontaire par les entreprises.<\/p>\n","protected":false},"excerpt":{"rendered":"
La d\u00e9mission d\u2019un chercheur d\u2019Anthropic et les avertissements sur une future superintelligence relancent le d\u00e9bat sur la capacit\u00e9 de l\u2019AI Act europ\u00e9en \u00e0 encadrer les mod\u00e8les les plus avanc\u00e9s.<\/p>\n","protected":false},"author":2,"featured_media":9696,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"wprm-recipe-roundup-name":"","wprm-recipe-roundup-description":"","footnotes":""},"categories":[31,71],"tags":[196],"tmauthors":[57],"class_list":["post-9692","post","type-post","status-publish","format-standard","has-post-thumbnail","category-analisis","category-analyses","tag-anthropic"],"_links":{"self":[{"href":"https:\/\/www.olanext.eu\/fr\/wp-json\/wp\/v2\/posts\/9692","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.olanext.eu\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.olanext.eu\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.olanext.eu\/fr\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.olanext.eu\/fr\/wp-json\/wp\/v2\/comments?post=9692"}],"version-history":[{"count":1,"href":"https:\/\/www.olanext.eu\/fr\/wp-json\/wp\/v2\/posts\/9692\/revisions"}],"predecessor-version":[{"id":9698,"href":"https:\/\/www.olanext.eu\/fr\/wp-json\/wp\/v2\/posts\/9692\/revisions\/9698"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.olanext.eu\/fr\/wp-json\/wp\/v2\/media\/9696"}],"wp:attachment":[{"href":"https:\/\/www.olanext.eu\/fr\/wp-json\/wp\/v2\/media?parent=9692"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.olanext.eu\/fr\/wp-json\/wp\/v2\/categories?post=9692"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.olanext.eu\/fr\/wp-json\/wp\/v2\/tags?post=9692"},{"taxonomy":"tmauthors","embeddable":true,"href":"https:\/\/www.olanext.eu\/fr\/wp-json\/wp\/v2\/tmauthors?post=9692"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}