Масштаб сбора данных и скрытые условия
Журнал Science совместно с AI Accountability Network выявил, что компании-производители носимых устройств для отслеживания сна аккумулировали десятки миллионов часов записей электроэнцефалограммы (ЭЭГ). Эти данные, представляющие собой электрическую активность мозга, используются для создания так называемых «фундаментальных моделей мозга» (brain foundation models). Ключевая проблема заключается в том, что изначально пользователи не были явно проинформированы о том, что их биометрические данные пойдут на обучение искусственного интеллекта.
Кейс Interaxon: 50 000 часов ЭЭГ
Ярким примером стала канадская компания Interaxon, производитель популярной повязки Muse. Устройство фиксирует электрическую активность мозга во время сна. По словам исполнительного директора по маркетингу Нади Кументас, компания уже обучила ИИ-модель на базе около 50 000 часов ЭЭГ-записей. Перед использованием данные обезличиваются (удаляются имена, email, адреса), однако в старой версии политики конфиденциальности этот пункт отсутствовал. После запросов журналистов компания признала необходимость явного информирования пользователей и обновила документы, что может открыть путь к судебным искам от тех, чьи данные уже были использованы.
Сравнение подходов к обучению ИИ
Обучение нейросетей на мозговых волнах принципиально отличается от работы с текстовыми данными (LLM). Вместо огромных корпусов текста модели подаются записи электрической активности, чтобы выявлять паттерны состояний мозга. Ниже приведено сравнение подходов различных игроков рынка:
| Компания / Проект | Тип данных | Масштаб / Результаты | Статус согласия |
|---|---|---|---|
| Interaxon (Muse) | ЭЭГ (сон/медитация) | 50 000 часов для обучения модели | Скрыто, позже обновлено |
| Emotiv | ЭЭГ (высококлассные устройства) | Обучение Large Brain модели | Требует явного opt-in (после запроса) |
| Piramidal (Cleveland Clinic) | ЭЭГ (клинические записи) | 4 млн часов; 90% точность выявления приступов | Партнерское сотрудничество |
| Meta (Brain-Computer Interface) | ЭЭГ (ввод текста) | Точность 61% (2-е поколение) | Исследовательский проект |
Риски для потребителей и регуляторная среда
Ситуация усугубляется тем, что более двух третей изученных компаний прямо разрешают передачу данных третьим лицам без явного согласия пользователя. Это создает риски при слияниях и поглощениях: собранные нейроданные могут перейти к новому владельцу. Хотя законы о конфиденциальности в Калифорнии и Колорадо уже включают защиту нейроданных, в большинстве штатов США этот пробел остается незакрытым.
Технические ограничения и инциденты безопасности
Несмотря на хайп, потребительские устройства (1–6 электродов) значительно уступают клиническим системам (19–25 электродов) в полноте данных, поэтому «чтение мыслей» в ближайшем будущем маловероятно. Однако уязвимости безопасности уже выявлены: в феврале инженер обнаружил, что смарт-маска для сна имела жестко прописанные учетные данные, позволяющие получать доступ к ЭЭГ-записям других пользователей через Android-приложение.
Источник: Tom's Hardware ↗