Anthropic ha presentato discretamente a Capitol Hill una bozza di legge federale sulla sicurezza dell'IA, inserendosi in un affollato dibattito su quanto aggressivamente Washington debba regolamentare i modelli potenti — e su chi debba innanzitutto scrivere gli standard.

La proposta richiederebbe ai laboratori di frontiera di creare quadri di sicurezza, pubblicare rapporti di trasparenza, proteggere gli informatori e segnalare gli incidenti critici al Dipartimento del Commercio. Consentirebbe al governo di chiedere un'ordinanza giudiziaria per bloccare un modello solo quando vi sia un rischio prevedibile e imminente di oltre 1 miliardo di dollari di danni o di almeno 50 morti o feriti gravi, collegato ad armi biologiche, alla perdita di controllo da parte dello sviluppatore o a cyberattacchi. «Sono politiche sensate su cui riteniamo che il Congresso debba agire», ha dichiarato un portavoce di Anthropic.¹

Il suo impianto di applicazione è deliberatamente ristretto. Valutatori indipendenti registrati esaminerebbero periodicamente i laboratori e i modelli e dovrebbero avvisare il Dipartimento del Commercio entro 72 ore se riscontrassero un rischio specificato imminente. Ma i valutatori possono essere retribuiti dalle aziende che esaminano, purché il pagamento non dipenda dal risultato; ad altre agenzie federali sarebbe vietato sospendere lo sviluppo, l'impiego o l'uso interno di un modello. La bozza annullerebbe inoltre alcune norme statali in materia di divulgazioni, valutazioni e segnalazione di incidenti critici.¹

Questo equilibrio ha suscitato opposizione da una prospettiva diversa. Un resoconto della proposta trapelata sostiene che, a differenza dell'approccio sul modello della FAA precedentemente invocato dall'amministratore delegato di Anthropic Dario Amodei, «i laboratori possono scrivere gli standard che devono poi rispettare». I sostenitori della sicurezza vogliono che sia il governo, non l'industria, a stabilirli.²

Nel frattempo, David Sacks ha avvertito che la portata del disegno di legge potrebbe estendersi ben oltre gli sviluppatori d'élite che afferma di prendere di mira. Alcune disposizioni «potrebbero essere ragionevoli se limitate alle vere aziende di frontiera», ha scritto, ma nella forma attuale potrebbe «finire per coinvolgere gran parte della Silicon Valley», danneggiando le startup.David Sacks (DavidSacks)³

Lo scontro arriva mentre il Congresso valuta disegni di legge bipartisan concorrenti sulla sicurezza dell'IA e i legislatori discutono se un quadro nazionale debba sostituire norme statali più rigorose. La bozza di Anthropic tenta di collocarsi nel mezzo: procedure obbligatorie per i laboratori, ma intervento del governo riservato alle catastrofi. I suoi critici considerano questa via di mezzo come autoregolamentazione dell'industria in veste legislativa.