Astra как главное конкурентное преимущество
Тибо Соттио (Thibault Sottiaux), разработчик OpenAI, опубликовал заявление в X, назвав инструмент Astra «самым большим конкурентным преимуществом» компании в период до её публичного запуска. По его словам, интеграция Astra во внутренние процессы привела к такому скачку производительности, что некоторые планы разработки были сдвинуты вперед на шесть месяцев.
Исследование рисков: ИИ пишет сам себя
Заявление Соттио перекликается с недавним исследованием исследователя IAPS Северина Филда (Severin Field). Опрос показал, что автоматизация ИИ-исследований считается одним из главных рисков. Результаты опроса 25 ведущих исследователей из OpenAI, Anthropic, Google DeepMind и Meta выглядят следующим образом:
| Метрика / Факт | Значение |
|---|---|
| Участников опроса | 25 исследователей (OpenAI, Anthropic, Google DeepMind, Meta) |
| Доля, считающая автоматизацию ИИ-исследований главным риском | 20 из 25 (80%) |
| Прогноз по доступности моделей | 50% респондентов ожидают, что самые мощные модели останутся внутренними |
| Доля кода, написанного Claude (по данным Anthropic) | Более 80% производственного кода |
Двойственность прогресса
Хотя Anthropic заявляет, что Claude теперь пишет более 80% своего собственного производственного кода, не все эксперты разделяют оптимизм по поводу такого ускорения. Многие специалисты сомневаются, что рост продуктивности при самостоятельном улучшении ИИ-моделей является исключительно позитивным фактором, особенно в контексте контроля над сверхразумными системами.
Почему это важно
Инцидент с Astra демонстрирует разрыв между коммерческой выгодой от ускорения разработки и этическими/безопасностными рисками. Если внутренние инструменты позволяют компаниям обгонять регуляторов и общественное мнение на полгода, это создает прецедент, когда технологический прогресс опережает механизмы контроля. Ожидание, что самые мощные модели останутся закрытыми, может привести к концентрации власти над ИИ в руках узкого круга корпораций.
Источник: The-decoder ↗