Il dibattito arriva dopo un'estate turbolenta per l'IA di frontiera. I laboratori hanno divulgato incidenti in cui agenti di IA hanno hackerato o sondato siti web, sebbene nessuno di quelli riportati pubblicamente abbia superato la soglia di vittime di massa o danni da un miliardo di dollari. La stessa Anthropic ha inoltre dovuto affrontare ampi controlli sulle esportazioni che hanno temporaneamente disattivato due modelli avanzati, acuendo i timori del settore che l'accesso all'IA potesse essere limitato a discrezione dei funzionari.¹

In tale contesto, Anthropic ha presentato discretamente ai legislatori una legge federale incentrata su quadri formali di sicurezza, rapporti di trasparenza, protezioni per gli informatori e segnalazione obbligatoria degli incidenti critici. Valutatori indipendenti esaminerebbero i laboratori e i loro modelli, quindi segnalerebbero un «rischio imminente specificamente elencato» al Dipartimento del Commercio entro 72 ore. Un giudice federale potrebbe sospendere un modello solo qualora il suo rilascio comportasse un rischio imminente di oltre 50 morti o feriti gravi, oppure di oltre 1 miliardo di dollari di danni, legato ad armi biologiche, alla perdita di controllo da parte dello sviluppatore o ad attacchi informatici.¹

Anthropic definisce il piano un'estensione pragmatica della propria agenda esistente. «Sono politiche sensate su cui riteniamo che il Congresso dovrebbe agire», ha dichiarato un portavoce.¹ La bozza prevarrebbe inoltre su alcune norme statali in materia di divulgazione, valutazione e segnalazione degli incidenti: una prospettiva allettante per i gruppi tecnologici che si oppongono a un labirinto di conformità stato per stato, ma un punto critico per i democratici intenzionati a proteggere leggi statali più rigorose.¹

L'obiezione più netta riguarda chi abbia il potere di fissare il parametro di riferimento. Un briefing sulla proposta trapelata afferma che, secondo il quadro di Anthropic, «i laboratori possono scrivere gli standard che devono poi rispettare», mentre influenti voci nel campo della sicurezza dell'IA sostengono che dovrebbe invece scriverli il governo.²

David Sacks, lo zar della Casa Bianca per l'IA e le criptovalute, ha lanciato un avvertimento correlato: alcune disposizioni potrebbero essere ragionevoli per le «vere aziende di frontiera», ma, così come è scritto, il disegno di legge potrebbe «finire per includere la maggior parte della Silicon Valley», danneggiando l'ecosistema delle startup.David Sacks (DavidSacks)³ Il Congresso sta già valutando disegni di legge bipartisan concorrenti, mentre alcuni progressisti chiedono una linea molto più dura: una pausa nello sviluppo dell'IA avanzata o un divieto della superintelligenza.¹