Active Inference和法律与政策

在本页

部分

法律和政策可以被视为集体的推理过程：法院、立法机关和监管机构不断根据证据修订社会行为的生成模型，同时规范则包含了对可接受行为的先验信念。本文追溯了将主动推理与自由能原理连接到法学、监管设计以及——最为具体地——人工智能治理的新兴文献，参考了为Active Inference Institute准备的研究综述。这里的文献在理论和社会认知扩展方面非常丰富，但明确的法律应用仍处于初步阶段，主要处于证明概念的阶段。

为什么这个域名合适

法律系统管理并重新分配不确定性，稳定具有 conflicting interests 和不完全信息的代理人的期望，并协调行动 —— 这正是 active inference 通过最小化生成模型上的变分自由能来正式化的问题。规范和法律作为先验函数编码了可接受和预期的行为，而执行、裁决和立法修订则实施关于社会状态、风险和规范承诺的证据吸收和信念更新。报告中的具体例子包括：侵权法塑造人们对伤害和责任的期望，以及金融或环境监管通过监测和执行来不断更新对系统性风险的假设。

文献状态

核心文献扎根于神经科学对大脑通过感知、行动和学习来最小化自由能的理论，后来扩展到社会认知、合作和社会规范在多代理设置中的出现。关于‘期望模式’的研究模型了社会从众和规范性调节为代理人将其行为与内化的期望保持一致，而另一项多代理研究则显示，在公平性和回报约束下，当代理人最小化他人行为的意外时，合作规范和社交规则会涌现。有关叙事作为主动推理的工作以及自由能原则作为一种语义形式理论的工作扩展了这些想法，朝向法律叙事和法律语言解释的方向发展，尽管报告明确表示这还不构成一个专门的法律文献。

关键项目和工具

n的最直接桥梁是题为“Normative active inference: 一个关于计算和经济法律分析方法的人工智能治理算法的数值证明原理”的预印本，它将法律状态（合规、责任、风险类别）和经济考虑作为AI代理生成模型中的先验条件，从而使政策选择在法律和经济合规方面最小化期望自由能。非同行评审的实务讨论中的“Active Inference AI”架构被认为比大型语言模型更易于实现合法行为，并建议空间网络协议可以帮助系统通过不断更新生成模型以适应法律法规的变化来维持GDPR风格的监管合规性。Active Inference Institute本身作为机构基础设施——其董事会包括具有治理和主动推理专业知识的人——支持在这个交叉领域的研讨会和协作工作，尽管报告指出目前还没有大规模部署的法律或监管系统。

未解之题

报告指出四条未解决的前线：在自由能原则下正式化法律意义和解释（法律语义远比典型的预测-控制映射更受争议且更具规范性）；在制度环境中界定何为‘意外’，因为不同的意外定义会导致不同的模型和政策后果；理解多agent norm emergence如何与公平性和权利一致，而不是复制权力不平等和歧视等病态现象；以及整合人类因素——叙事、合法性及信任——这些因素塑造了公民和官员如何更新对机构的认知。AI治理被特别指出为最接近现实可行的短期前线，需要在监管沙箱中建立原型系统而非进一步的概念性提议。

参考主干

Karl J. Friston (2010). The free-energy principle: a unified brain theory? Nature Reviews Neuroscience. DOI: 10.1038/nrn2787. Thomas Parr, Giovanni Pezzulo, Karl J. Friston (2022). Active Inference: The Free Energy Principle in Mind, Brain, and Behavior. MIT Press. Giovanni Pezzulo, Francesco Rigoli, Karl J. Friston (2015). Active Inference, homeostatic regulation and adaptive behavioural control. Progress in Neurobiology. DOI: 10.1016/j.pneurobio.2015.09.001. Maxwell J. D. Ramstead, Dalton A. R. Sakthivadivel, Conor Heins, Magnus Koudahl, Beren Millidge, Lancelot Da Costa, Brennan Klein, Karl J. Friston (2023). On Bayesian Mechanics: A Physics of and by Beliefs. arXiv.

最佳下一步行动