Anthropic представила законопроект по безопасности frontier AI
По сообщению Politico, представители Anthropic представили законодателям на Капитолийском холме проект закона для регулирования безопасности и защиты frontier AI. Согласно документу, правительство сможет блокировать выпуск или использование модели лишь в случае возникновения предсказуемого и непосредственного риска нанесения ущерба на сумму более $1 млрд или смерти или серьезных травм более 50 человек.
Законопроект предусматривает, что риски должны быть связаны с созданием биологического оружия, обходом контроля разработчика моделью или кибератакой. Оценивать лаборатории и их frontier модели должны независимые эксперты, которые зарегистрируются в Department of Commerce. Если такие эксперты выявят неотложный риск, они обязаны сообщить об этом Commerce Department в течение 72 часов после завершения оценки.