Anthropic без лишнего шума представила на Капитолийском холме проект федерального законопроекта о безопасности ИИ, вступив в насыщенную дискуссию о том, насколько жестко Вашингтон должен регулировать мощные модели — и кто вообще должен разрабатывать стандарты.

Предложение потребует от передовых лабораторий создавать системы безопасности, публиковать отчеты о прозрачности, защищать информаторов и сообщать Министерству торговли о критических инцидентах. Оно позволит правительству добиваться судебного постановления о блокировке модели лишь при предсказуемом и неминуемом риске ущерба свыше $1 млрд или не менее 50 смертей либо серьезных травм, связанных с биологическим оружием, утратой разработчиком контроля или кибератаками. «Это разумные меры, которые, по нашему мнению, Конгрессу следует принять», — заявил представитель Anthropic.¹

Его механизм правоприменения намеренно узок. Зарегистрированные независимые оценщики будут периодически проверять лаборатории и модели и обязаны уведомлять Министерство торговли в течение 72 часов, если обнаружат неминуемый установленный риск. Однако оценщики могут получать оплату от проверяемых ими компаний при условии, что оплата не зависит от результата; другим федеральным ведомствам будет запрещено приостанавливать разработку, развертывание или внутреннее использование модели. Проект также отменит некоторые правила штатов, касающиеся раскрытия информации, оценок и отчетности о критических инцидентах.¹

Этот баланс вызвал возражения с другой стороны. В одном изложении утекшего предложения утверждается, что, в отличие от подхода по образцу FAA, на который ранее ссылался гендиректор Anthropic Дарио Амодеи, «лаборатории сами устанавливают стандарты, которым затем должны соответствовать». Сторонники безопасности хотят, чтобы их устанавливало правительство, а не индустрия.²

Тем временем Дэвид Сакс предупредил, что охват законопроекта может выйти далеко за пределы элитных разработчиков, на которых он якобы нацелен. Некоторые положения «могли бы быть разумными, если бы ограничивались действительно передовыми компаниями», написал он, но в нынешней редакции законопроект может «в конечном счете охватить большую часть Кремниевой долины», навредив стартапам.David Sacks (DavidSacks)³

Столкновение происходит в то время, как Конгресс рассматривает конкурирующие двухпартийные законопроекты о безопасности ИИ, а законодатели спорят, должна ли национальная система вытеснить более строгие законы штатов. Проект Anthropic пытается занять середину: обязательные процедуры для лабораторий, но вмешательство правительства — только в случае катастрофы. Его критики видят в этой золотой середине саморегулирование индустрии в законодательной оболочке.