Суть конфликта: «Встроенный регулятор» или фикция?
В сентябре 2026 года Дарио Амодэй (Anthropic) анонсировал политику «We Must Pace the Frontier», предложив создать механизм, аналогичный банковскому надзору. Идея заключалась во внедрении в Anthropic команды третьих лиц (METR) для верификации практик безопасности и выравнивания (alignment). Однако исследователь SE Gyges в статье на LessWrong утверждает, что METR не способен выполнять роль meaningful check (смыслового контроля), так как не обладает ни реальной независимостью, ни полномочиями, ни ресурсами.
Конфликт интересов и социальные связи
Автор указывает на то, что METR не является независимым регулятором, подобным государственным органам, которые могут отправлять сотрудников в тюрьму за нарушения. METR работает в совместном исследовательском центре Constellation, где находятся сотрудники AI-лабораторий. Более того, многие сотрудники METR имеют тесные социальные связи с персоналом Anthropic. По стандартам бухгалтерского аудита, такие связи (например, совместное проживание или романтические отношения с аудитором) автоматически означают конфликт интересов и требуют отвода.
Финансовая зависимость через токены и Coefficient Giving
Финансовая модель METR также подвергается критике. Организация отказывается от прямых денежных выплат от лабораторий, но принимает токены (доступ к моделям), которые имеют рыночную стоимость и являются основным продуктом, продаваемым лабораториями. Хотя METR заявляет, что не перепродает токены, их стоимость эквивалентна миллионам долларов.
Ключевым звеном остается фонд Coefficient Giving (ранее Open Philanthropy), основным спонсором которого являются инвесторы Anthropic. Бывший CEO Coefficient, Холден Карнофски, работает в Anthropic и женат на президенте компании Даниэле Амодэй. METR вышел из Alignment Research Center, который финансировался Coefficient, и последние гранты METR (включая 10 млн долларов от RAND, финансируемого Coefficient) создают цепочку, которую автор называет «shell game» (финансовой мистификацией).
Нехватка персонала: 35 человек против тысяч
Количественный аспект делает проверку невозможной. METR имеет около 35 сотрудников, и лишь малая часть из них занимается оценкой моделей. Anthropic же — это бизнес с тысячами сотрудников и миллионами пользователей. Автор сравнивает ситуацию с попыткой начать покерную игру с сотрудниками METR: команды просто не хватает для серьезного мониторинга деятельности гиганта.
Сравнительная таблица: METR vs Государственный регулятор
| Критерий | METR (предлагаемый аудитор) | Государственный регулятор (банковский аналог) |
|---|---|---|
| Правовая сила | Нет принудительных полномочий; может быть уволен по желанию Anthropic | Имеет право налагать штрафы, закрывать бизнес, отправлять в тюрьму |
| Независимость | Зависит от токенов и грантов, связанных с инвесторами Anthropic | Финансируется из госбюджета, подотчетен государству |
| Штат | ~35 человек (всего) | Сотни или тысячи специалистов |
| Статус | Некоммерческая организация, «встроенная» в компанию | Суверенный надзорный орган |
Почему это важно
Критика указывает на то, что предложение Дарио Амодэя — это попытка саморегулирования отрасли, которая не имеет прецедентов в фундаментальных технологиях, угрожающих национальной безопасности. В отличие от рейтинговых систем для кино или игр, ИИ-безопасность требует реальных юридических гарантий. Если METR не может быть отстранен за невыполнение обязанностей, а Anthropic может в любой момент прекратить сотрудничество, такой «контроль» является лишь декоративным элементом (fig leaf), маскирующим отсутствие реальной подотчетности.
Источник: LessWrong ↗