GCT: Как ИИ-модели Microsoft стали читаемыми теориями о мозге

Проблема «черного ящика» в нейронауке

За последнее десятилетие большие языковые модели (LLM) стали самым точным инструментом для предсказания активности мозга человека при восприятии языка. Однако эти модели представляют собой миллионы неинтерпретируемых параметров. Они могут с высокой точностью предсказать, какая зона коры активируется, но не объясняют, что именно она обрабатывает: еду, места, числа или что-то иное. Это создает разрыв между предсказательной силой и научным пониманием.

Решение: Generative Causal Testing (GCT)

В статье, принятой к публикации в Nature Neuroscience, представлена методика GCT, разработанная в коллаборации Microsoft Research, UC Berkeley, UCSF и Колумбийского университета. Метод закрывает петлю обратной связи:

1. Объяснение: LLM анализирует предиктивную модель для конкретного вокселя (объема пикселя в fMRI) и суммирует ключевые фразы в короткое вербальное описание (например, «приготовление пищи» или «названия мест»).
2. Верификация: LLM генерирует новые истории, специально сконструированные так, чтобы активировать целевую зону мозга. Субъекты слушают эти истории в томографе. Если зона активируется сильнее базового уровня, гипотеза подтверждена как причинно-следственная, а не просто корреляционная.

Ключевые открытия и точность метода

GCT позволил не только подтвердить известные факты, но и разрешить давние споры о функциях соседних зон мозга, а также обнаружить новые микро-регионы. Метод показал, что объяснения наиболее надежны там, где исходные предиктивные модели были стабильнее.

Значение для науки и AI

Метод GCT демонстрирует, что мощные предиктивные модели не должны заменять теоретическое понимание. Напротив, они могут служить источником гипотез, которые затем проверяются в реальных экспериментах. Это открывает путь к более быстрому и детальному картированию коры головного мозга, где ИИ предлагает, а человек (через эксперимент) подтверждает или опровергает.

Источник: Microsoft Research ↗