Anthropic a discrètement présenté au Capitole un projet de loi fédéral sur la sécurité de l’IA, s’insérant dans un débat déjà chargé sur la fermeté avec laquelle Washington devrait encadrer les modèles puissants — et sur qui devrait, au départ, rédiger les normes.

La proposition obligerait les laboratoires de pointe à élaborer des cadres de sécurité, publier des rapports de transparence, protéger les lanceurs d’alerte et signaler les incidents critiques au département du Commerce. Elle autoriserait le gouvernement à demander une ordonnance judiciaire bloquant un modèle uniquement lorsqu’il existe un risque prévisible et imminent de plus d’un milliard de dollars de dommages ou d’au moins 50 morts ou blessés graves, lié aux armes biologiques, à la perte de contrôle par le développeur ou à des cyberattaques. « Ce sont des politiques sensées sur lesquelles nous pensons que le Congrès devrait agir », a déclaré un porte-parole d’Anthropic.¹

Son dispositif d’application est délibérément limité. Des évaluateurs indépendants agréés évalueraient périodiquement les laboratoires et les modèles, et devraient alerter le département du Commerce dans les 72 heures s’ils constatent un risque spécifié imminent. Mais les évaluateurs peuvent être rémunérés par les entreprises qu’ils examinent, à condition que leur rémunération ne dépende pas du résultat ; il serait interdit aux autres agences fédérales de suspendre le développement, le déploiement ou l’utilisation interne d’un modèle. Le projet primerait également sur certaines règles des États concernant les divulgations, les évaluations et le signalement des incidents critiques.¹

Cet équilibre a suscité une opposition venant d’un autre horizon. Une analyse de la proposition divulguée soutient que, contrairement à l’approche inspirée de la FAA précédemment évoquée par le PDG d’Anthropic, Dario Amodei, « les laboratoires peuvent rédiger les normes auxquelles ils doivent ensuite se conformer ». Les défenseurs de la sécurité veulent que ce soit le gouvernement, et non l’industrie, qui les fixe.²

David Sacks, quant à lui, a averti que la portée du texte pourrait s’étendre bien au-delà des développeurs d’élite qu’il prétend viser. Certaines dispositions « pourraient être raisonnables si elles se limitaient aux véritables entreprises de pointe », a-t-il écrit, mais dans sa rédaction actuelle, le texte pourrait « à terme englober la majeure partie de la Silicon Valley », nuisant aux start-up.David Sacks (DavidSacks)³

L’affrontement survient alors que le Congrès examine des projets de loi bipartisans concurrents sur la sécurité de l’IA et que les législateurs s’opposent sur la question de savoir si un cadre national devrait supplanter des lois d’État plus strictes. Le projet d’Anthropic tente d’occuper une position médiane : des procédures obligatoires pour les laboratoires, mais une intervention gouvernementale réservée aux catastrophes. Ses détracteurs voient dans ce compromis une autorégulation de l’industrie déguisée en législation.