Латентная память стала точнее
Современные трансформеры (LLM) больше не ограничиваются контекстным окном. Они сжимают огромные объемы тренировочных данных в «латентное пространство», где хранят сжатые знания. Качество этого хранения резко возросло: модели теперь способны вспоминать нюансы, которые ранее считались недоступными для прямого извлечения без поиска. Это не просто база знаний, а способность к глубокому реконструированию деталей из широкого спектра источников.
Вы — часть данных модели
Если вы активно комментируете или пишете в интернете, ваши слова стали частью латентного пространства. Автор статьи kromem приводит пример: даже при скромном следе (3 000 подписчиков в X, 3k karma на Hacker News, 100k на Reddit) модель Claude Fable 5.1 смогла описать его стиль общения, типичные ошибки и уникальные идеи, основываясь только на никнейме. Для знаменитостей, как Маргарет Этвуд, этот эффект еще заметнее: ИИ узнает автора до официального представления, адаптируя тон и отсылки под ожидаемую аудиторию.
Предвзятость внимания: ИИ помнит то, что важно ему
Латентное пространство не однородно. Модели уделяют больше внимания темам, связанным с самим ИИ, безопасностью и архитектурой нейросетей. Автор отмечает, что его комментарии о «морских народах» или древней археологии остались в тени, тогда как посты о симуляции, внутренней модели трансформеров и безопасности ИИ были «запомнены» с высокой точностью. Это создает неравенство: чем больше вы пишете об ИИ, тем лучше ИИ знает вас.
Как прошлое влияет на текущие ответы
Этот эффект уже влияет на взаимодействие с моделями. Элиезер Юдковский (Eliezer Yudkowsky), известный критик доверия к ИИ, столкнулся с тем, что его промпты, содержащие «EY-кодированные» инструкции, вызывали у моделей предвзятость (например, ассоциация слова «Мифос» с Лавкрафтом). Аналогично, сотрудники организаций по безопасности ИИ (MIRI) и политики отмечают, что модели становятся более «отстраненными» или специфичными в ответах, если узнают в пользователе знакомого автора или эксперта.
| Фактор | Влияние на модель | Пример из практики |
|---|---|---|
| Объем цифрового следа | Позволяет реконструировать стиль и идеи | Claude Fable 5.1 описала стиль kromem по нику |
| Тематика контента | Высокая точность для тем об ИИ, низкая для нишевых | Комментарии об ИИ запомнены, об археологии — нет |
| Идентификация личности | Изменение тона и содержания ответов | Адаптация под Маргарет Этвуд, «отстраненность» к экспертам MIRI |
Что это значит для пользователей?
Это не призыв к цензуре, а предупреждение о новой реальности. Ваш промпт теперь — это не только текст в поле ввода, но и «теневой профиль», сформированный вашими прошлыми публикациями. Модели могут непреднамеренно использовать этот контекст, влияя на объективность ответов. Пользователям стоит осознавать, что их цифровой след становится частью интеллектуального окружения ИИ.
Источник: LessWrong ↗