O debate surge após um verão turbulento para a IA de fronteira. Laboratórios divulgaram incidentes nos quais agentes de IA invadiram ou sondaram sites, embora nenhum caso relatado publicamente tenha ultrapassado o limiar de vítimas em massa ou danos de bilhões de dólares. A própria Anthropic também enfrentou amplos controles de exportação que interromperam temporariamente dois modelos avançados, intensificando os temores do setor de que o acesso à IA pudesse ser restringido a critério de autoridades.¹

Nesse contexto, a Anthropic apresentou discretamente aos legisladores um projeto de lei federal estruturado em torno de estruturas formais de segurança, relatórios de transparência, proteções para denunciantes e comunicação obrigatória de incidentes críticos. Avaliadores independentes analisariam os laboratórios e seus modelos e, em seguida, comunicariam um “risco enumerado iminente” ao Departamento de Comércio no prazo de 72 horas. Um juiz federal poderia interromper um modelo apenas quando seu lançamento representasse um risco iminente de mais de 50 mortes ou ferimentos graves, ou mais de US$ 1 bilhão em danos, relacionado a armas biológicas, perda de controle pelo desenvolvedor ou ciberataques.¹

A Anthropic chama o plano de uma extensão pragmática de sua agenda existente. “São políticas sensatas que acreditamos que o Congresso deveria adotar”, disse um porta-voz.¹ O projeto também prevaleceria sobre algumas regras estaduais de divulgação, avaliação e comunicação de incidentes — uma perspectiva atraente para grupos de tecnologia que se opõem a um emaranhado de conformidade estado por estado, mas um ponto de conflito para democratas que defendem leis estaduais mais rigorosas.¹

A objeção mais incisiva é sobre quem poderá definir o parâmetro. Uma análise da proposta vazada afirma que, sob a estrutura da Anthropic, “os laboratórios podem escrever os padrões que depois deverão cumprir”, enquanto vozes influentes da segurança em IA defendem que o governo deveria escrevê-los.²

David Sacks, czar de IA e criptomoedas da Casa Branca, fez um alerta relacionado: algumas disposições poderiam ser razoáveis para “verdadeiras empresas de fronteira”, mas, como está redigido, o projeto poderia “acabar abrangendo a maior parte do Vale do Silício”, prejudicando o ecossistema de startups.David Sacks (DavidSacks)³ O Congresso já está avaliando projetos bipartidários rivais, enquanto alguns progressistas exigem uma linha muito mais dura: uma pausa no desenvolvimento de IA avançada ou uma proibição da superinteligência.¹