Anthropic хочет дать властям право тормозить ИИ только при реальной катастрофе

Компания Anthropic тайно передала законодателям в Конгрессе проект федерального закона о безопасности мощных ИИ-моделей. По данным Politico от 16 октября 2026 года, документ разрешает государству останавливать модель только при прямой угрозе гибели или тяжёлых травм более 50 человек либо ущерба свыше $1 млрд.

Остановить разработку или запуск сможет исключительно суд по иску Министерства торговли. Всем остальным ведомствам прямо запрещено вмешиваться. Риски должны касаться биологического оружия, потери контроля над моделью или масштабных кибератак.

Одновременно законопроект обязывает разработчиков тестировать модели на опасные сценарии, публиковать отчёты о рисках и привлекать независимых экспертов. Порог для регулирования — обучение модели свыше 10²⁵ FLOP при выручке от ИИ более $500 млн в год или расходах на исследования свыше $1 млрд.

Ранее, в июне 2026 года, Anthropic уже публиковала свою Advanced AI Framework с похожими идеями. За 2025 год компания потратила на лоббирование $3,13 млн и пожертвовала $20 млн организации, выступающей за жёсткое регулирование.

Материал подготовлен по информации cryptonews.net