Языковое использование связывает восприятие, действие и разрешение неопределенности так же тесно, как любой домен, в котором применялся активный вывод: говорящие и слушающие непрерывно обновляют генеративные модели и действуют для уменьшения предсказательной ошибки во время разговора. В этом отчете рассматривается литература от фундаментальных генеративных моделей синтетического диалога до расширений в управление речью, заикание, внутреннюю речь, синтаксис и архитектуры больших языковых моделей, а также поднимаются эмпирические предостережения, выдвинутые критиками предсказательного кодирования и байесовского мозга. Далее представлен синтез этой литературы для исследователей, оценивающих, где активный вывод действительно объясняет лингвистические явления, и где он остается нормативным каркасом, требующим доказательств.
Почему домен подходит
Активная инференция рассматривает любую систему, поддерживающую свою целостность, как минимизирующую вариационный свободный энергетический потенциал относительно генеративной модели ее окружения, а лингвистическая коммуникация отображается на это напрямую: говорящие выбирают высказывания, которые должны изменить убеждения слушателя, а слушатели анализируют речь для вывода скрытых намерений и значений, оба процесса рассматриваются как минимизация свободного энергетического потенциала. Формализм разделения внутренней, внешней, сенсорной и активных состояний в четыре направления посредством марковских одеял отделяет убеждения агента от коммуникативной ситуации, с услышанной речью как сенсорными состояниями, а артикуляцией – активными состояниями. Иерархичность языка — фонемы в слогах, слова во фразах, фразы в дискурсе — также соответствует вложенным генеративным моделям активной инференции, где более высокие уровни кодируют медленные абстрактные причины (намерения, темы), а более низкие уровни кодируют быструю сенсорную деталь (акустическое реализацию).
Обзор литературы
Фундаментальный вклад заключается в работе 2020 года о генеративных моделях, лингвистической коммуникации и активном выводе (Фристон и коллеги), которая моделирует диалог между синтетическими агентами, которые выводят скрытые семантические состояния друг друга и выбирают высказывания для минимизации ожидаемой свободной энергии, что приводит к возникновению общих лексических конвенций. Сопутствующий герменевтический учет (Паулюс и Фристон) рассматривает коммуникацию как взаимную интерпретацию, где действие удовлетворяет прогнозам относительно собственной будущей речи и ее влияния на слушателя. Затем литература разветвляется на контроль речевого мотора и активный вывод о заикании (неловкость как неудача по минимизации свободной энергии в моторике и лингвистическом уровнях), preprint, утверждающий, что сама естественная языковая синтаксическая структура соответствует принципу свободной энергии, эссе, переосмысливающее внутреннюю речь как переводчик между грязными сенсорными состояниями и компактными вербальными метками, и призыв Frontiers in Psychology к внедрению активного вывода в нейропрагматику. Все это пронизывает неразрешенное напряжение с предсказательным кодированием и теориями байесовского мозга: в 2023 году была представлена критика, утверждающая, что нейронные системы могут отдавать приоритет обнаружению признаков вместо исчерпывающего прогнозирования, а отдельный критический обзор ставит под сомнение, реализует ли мозг буквальные вычисления байесовского типа.
Ключевые проекты и инструменты
Конкретные реализации все еще в основном являются исследовательскими прототипами, а не общедоступными инструментами: синтетические лингвистические агенты создаются как вероятностные графические или состоящие из состояний модели с обменом сообщениями или градиентным выводом (обычно MATLAB или Python), а модели управления речью предполагаются в виде динамических байесовских сетей над артикуляторными состояниями. Динамическое причинное моделирование (DCM), уже используемое в сообществе активного инференса для моделирования связей мозга, предлагается как расширяемое для экспериментов по нейропрагматике вместе со стандартными нейроизобразительными пайплайнами (SPM, FSL). С точки зрения ИИ три различных проекта на 2025 год, интегрирующих активный инференс с LLM: архитектура обзора, использующая внешний контроллер активного инференса для управления подсказками и взаимодействиями LLM, система «Digital Medicine» Nature, которая выбирает подсказки по ожидаемой свободной энергии для повышения надежности ответов, и препринт в arXiv о много-LLM системе, где иерархический контроллер назначает задачи между специализированными LLM для минимизации свободной энергии относительно целей пользователя. Исследования связаны с группами, привязанными к Friston (например, University College London), и лабораторией LISN, которая размещает эссе об внутренней речи.
Открытые проблемы
Ограниченные прямые эмпирические доказательства того, что обработка человеческого языка действительно следует принципам активного инференции: многие из ее предсказаний (поиск информации в условиях неопределенности, действия на основе предпочтений) являются качественно общими с обучением с подкреплением и другими фреймворками, поэтому необходимо проводить тесты, направленные на выявление отличительных особенностей, таких как эпистемо-прагматическое разложение ожидаемой свободной энергии. Конкретная критика байесовского мозга предупреждает против интерпретации общих сигналов ошибки предсказания в нейровизуализации как доказательства полного байесовского вычисления в языковых цепях. Мультимасштабная интеграция во многом не учитывается на практике — большинство моделей охватывает узкий диапазон (сопоставление слов и значений или управление речью), а не распространяется через нейронные цепи от дискурса до изменения языка — и клиническое применение (заикание, апраксия, афазия, нарушение внутренней речи, связанное с психозом) имеет только пример работы начального уровня (заикание), в то время как остальное все еще гипотетично. Для систем на основе LLM остаются открытыми вопросы о том, как формализовать эффективные генеративные модели состояния пользователя, как определить функционалы ожидаемой свободной энергии, улавливающие соответствие и надежность, и как оценивать интерактивных агентов, поскольку стандартные бенчмарки NLP не отражают динамику активного инференции в диалоге.
Опорный каркас
Karl J. Friston (2010). The free-energy principle: a unified brain theory? Nature Reviews Neuroscience. DOI: 10.1038/nrn2787. Thomas Parr, Giovanni Pezzulo, Karl J. Friston (2022). Active Inference: The Free Energy Principle in Mind, Brain, and Behavior. MIT Press. Giovanni Pezzulo, Francesco Rigoli, Karl J. Friston (2017). Active Inference, homeostatic regulation and adaptive behavioural control. Progress in Neurobiology. DOI: 10.1016/j.pneurobio.2017.08.001. Maxwell J. D. Ramstead, Karl J. Friston, Axel Constant, Lancelot Da Costa, Casper Hesp, Beren Millidge, Alexander Tschantz (2023). On Bayesian Mechanics: A Physics of and by Beliefs. arXiv.