Anthropic предлагает блокировать ИИ при угрозе 50+ жертв
Anthropic лоббирует в Конгрессе США законопроект о безопасности ИИ: блокировка модели возможна только при угрозе гибели 50+ человек или ущербе $1 млрд.
Главное
Anthropic продвигает законопроект о безопасности ИИ, который позволит правительству заблокировать выпуск frontier-модели (передовой ИИ-системы) лишь при угрозе гибели или ранения более 50 человек или ущербе свыше $1 млрд. Проект закона был конфиденциально передан законодателям на Капитолийском холме и стал публично известен после публикации Politico. Представитель Anthropic подтвердил: «Этот законопроект отражает предложения, изложенные в Advanced AI Framework компании, которые мы отстаиваем перед федеральными и законодательными властями штатов с июня».
Что предлагает Anthropic
Согласно проекту, Вашингтон сможет заблокировать выпуск или использование frontier-модели только при «предсказуемом, неминуемом риске» причинения ущерба свыше $1 млрд или гибели либо серьёзного ранения более 50 человек.
Риск должен быть связан с одним из трёх сценариев:
- созданием или применением биологического оружия;
- выходом модели из-под контроля разработчика (control evasion);
- организацией кибератаки.
Роль независимых оценщиков
Независимые evaluators (оценщики) будут зарегистрированы в Министерстве торговли США, привлекаться разработчиками каждые 180 дней и обязаны сообщать о квалифицируемых рисках в течение 72 часов. При этом оплачивать их работу могут сами ИИ-компании — при условии, что размер вознаграждения не зависит от результатов проверки. Насколько такая схема исключает конфликт интересов — вопрос открытый.
Проект предполагает направление экстренного вмешательства через Министерство торговли и федерального судью, а не предоставление регулятору единоличных полномочий на остановку модели.
Как выглядит процедура блокировки
graph TD
A[Оценщик выявляет критический риск] --> B[72 часа: уведомление Министерства торговли]
B --> C[Министерство торговли обращается в суд округа Колумбия]
C --> D{Решение федерального судьи}
D -->|Одобрено| E[Выпуск модели заблокирован]
D -->|Отклонено| F[Модель выходит на рынок]
Сравнение с законодательством Калифорнии
Законопроект Anthropic перекликается с уже действующим калифорнийским законом. California Senate Bill 53 (SB 53) определяет «катастрофический риск» как предсказуемый и существенный риск того, что использование frontier-модели повлечёт смерть или серьёзное ранение более 50 человек или ущерб свыше $1 млрд в рамках одного инцидента.
Особенность SB 53 — фокус именно на предотвращении катастрофических рисков, а не на более привычных проблемах вроде предвзятости или дискриминации. Это первый американский закон, принятый специально в области безопасности ИИ.
| Параметр | Законопроект Anthropic (федеральный) | SB 53 (Калифорния) |
|---|---|---|
| Порог жертв | > 50 человек | > 50 человек |
| Порог ущерба | > $1 млрд | > $1 млрд |
| Орган блокировки | Федеральный суд (через Минторговли) | — |
| Оценщики | Независимые, каждые 180 дней | Сторонние, перед релизом |
| Уровень | Федеральный | Штат Калифорния |
Контекст и реакция отрасли
Черновик законопроекта Anthropic пытается урегулировать дискуссию на выгодных компании условиях: узкое определение катастрофического риска, единственный путь принуждения через суд и ограничение полномочий других федеральных ведомств.
На фоне этого особенно заметен контраст с позицией Nvidia: глава компании Дженсен Хуанг недавно заявил, что отрасль ИИ вообще не нуждается в новых законах.
Законопроект Anthropic — пока один из немногих конкретных отраслевых предложений по федеральному регулированию ИИ. Но вопрос о том, достаточно ли высока планка в 50 жертв и $1 млрд, чтобы реально защитить общество, остаётся открытым.
Источник: TechCrunch