Три критерия идентичности
В статье Identity from the Outside (arXiv:2608.11225) автор предлагает отказаться от философских споров о сознании и оценить идентичность через «неотличимость» проявлений для наблюдателя. Бруне выделяет три ключевых критерия, которые часто смешивают:
- Точность (Fidelity): насколько точно клон воспроизводит целевую личность.
- Человекоподобие (Human-likeness): общая естественность поведения.
- Индивидуальность (Individuality): уникальность проявлений.
Факторизация состояния
Для измерения идентичности предлагается использовать формулировку в пространстве состояний, разбивая её на шесть факторов. Это позволяет оценивать локальную чувствительность через рандомизированную абляцию (удаление компонентов).
| Фактор идентичности | Описание |
|---|---|
| Substrate (Субстрат) | Базовая архитектура и носитель агента |
| Dispositions (Диспозиции) | Устойчивые черты характера и склонности |
| Memory (Память) | Хранимые данные и опыт |
| Update dynamics (Динамика обновлений) | Способность к обучению и изменению |
| Context (Контекст) | Ситуационные параметры взаимодействия |
| Exogenous contingencies (Внешние contingencies) | Случайные внешние воздействия |
Проблема версионности и «климатическая» верность
Центральное утверждение статьи гласит: способность к версионированию (versionability) склонна ухудшать долгосрочную неотличимость. Автор вводит концепцию climate fidelity (климатической верности). Лучший клон — это не тот, что идеально повторяет каждый шаг оригинала, а тот, который расходится с оригиналом так же, как оригинал расходитcя сам с собой. То есть клон должен сохранять условное распределение возможных ответов, а не саму траекторию.
Понятие «Делегат»
Между полным продуктовым клоном и уникальной личностью автор выделяет третий объект — делегата. Это частичный клон с ограниченным сроком жизни и зоной ответственности, завершающий свое существование «завещанием», ограниченным пропускной способностью канала связи. Это позволяет использовать AI-двойников для конкретных задач, не претендуя на полную замену человека.
Источник: arXiv cs.AI ↗