Le débat survient après un été mouvementé pour l’IA de pointe. Des laboratoires ont révélé des incidents au cours desquels des agents d’IA ont piraté ou sondé des sites web, bien qu’aucun incident rapporté publiquement n’ait franchi le seuil de victimes massives ou de dégâts chiffrés en milliards de dollars. Anthropic lui-même a également fait face à de vastes contrôles à l’exportation qui ont temporairement mis hors service deux modèles avancés, renforçant les craintes du secteur que l’accès à l’IA puisse être restreint à la discrétion des autorités.¹

Dans ce contexte, Anthropic a discrètement proposé aux législateurs un projet de loi fédéral fondé sur des cadres formels de sécurité, des rapports de transparence, des protections pour les lanceurs d’alerte et la déclaration obligatoire des incidents critiques. Des évaluateurs indépendants évalueraient les laboratoires et leurs modèles, puis signaleraient un « risque imminent répertorié » au département du Commerce dans un délai de 72 heures. Un juge fédéral ne pourrait suspendre un modèle que si sa mise à disposition présentait un risque imminent de plus de 50 morts ou blessures graves, ou de plus d’un milliard de dollars de dommages, lié aux armes biologiques, à la perte de contrôle par le développeur ou à des cyberattaques.¹

Anthropic présente ce plan comme une extension pragmatique de son programme existant. « Ce sont des politiques de bon sens qui, selon nous, devraient être adoptées par le Congrès », a déclaré un porte-parole.¹ Le projet prévaudrait également sur certaines règles des États en matière de divulgation, d’évaluation et de signalement des incidents — une perspective attrayante pour les groupes technologiques opposés à un labyrinthe de conformité État par État, mais un point de friction pour les démocrates qui défendent des lois étatiques plus strictes.¹

L’objection la plus vive porte sur la question de savoir qui fixe la référence. Une note d’information sur la proposition divulguée affirme que, dans le cadre d’Anthropic, « les laboratoires peuvent rédiger les normes auxquelles ils doivent ensuite se conformer », tandis que des voix influentes de la sécurité de l’IA soutiennent que le gouvernement devrait les rédiger à leur place.²

David Sacks, le tsar de l’IA et des cryptomonnaies de la Maison-Blanche, a formulé un avertissement connexe : certaines dispositions pourraient être raisonnables pour les « véritables entreprises de pointe », mais, dans sa rédaction actuelle, le projet de loi pourrait « finir par englober la majeure partie de la Silicon Valley », nuisant à l’écosystème des startups.David Sacks (DavidSacks)³ Le Congrès examine déjà des projets de loi bipartisans concurrents, tandis que certains progressistes réclament une ligne bien plus dure : une pause dans le développement de l’IA avancée ou une interdiction de la superintelligence.¹