AI²C | Active Inference Institute

在本页

部分

AI²C — the Active Inference Alignment Coalition — 是由研究员Mahault Albarracin领导的多机构倡议，并由Active Inference Institute托管。它与AICACP（Adam Safron领导的人工智能能力与对齐共识项目）共享对齐焦点和名称相关的缩写，但有不同的领导者、团队和范围。AI²C的目标是将Active Inference研究转化为一个对齐、治理和 embodied 实验的平台，并建立一个对齐工作的研究联盟、资金管道和共享基础设施。

为什么项目存在

今天对齐研究是碎片化的——它发生在孤立的实验室和隔绝的学科之间，没有共享的基础设施或治理模型。AI²C存在是为了通过建立一个将对齐视为一个多代理、组织化和 embodied 问题的联盟来解决这个问题，在系统本身中构建治理，并使输出可重用、可资助且协作。

Active Inference

接近

{n}的研究工作大多集中在单个代理上，这些代理被静态基准测试。相比之下，AI²C研究内在动机（好奇心、利他主义），外在动机（规则书、规范、安全约束）和 embodied 系统（机器人、多代理协调），将对齐视为在一个系统中自然出现的东西，而不是一个单一代理的属性。联盟计划的产出包括治理框架如规则书和覆盖系统，可重用的资金提案模块，基于 Active Inference 的对齐基准，embodied 多代理实验，以及开源工具和文档——目标是使对齐研究可复现、可资助和可扩展。

路线图

AI²C 在三个阶段描述其工作。第一阶段涉及联盟设置——伙伴、治理和基础设施。第二阶段涉及研究和提案——建立资金管道和共享提案模块。第三阶段涉及实验和产出——实体系统、出版物和工具。

funding 策略

{AI²C}的提案开发工作针对大型多机构的资金渠道，旨在为AI对齐研究筹集资金，包括美国国家AI研究 Institutes、NSF科学和技术中心以及Horizon Europe的多伙伴支柱II行动。该项目目前正寻求支持以协调联盟、提案开发、研讨会和活动、开放基础设施以及实体实验——现阶段的资金意图是为长期的研究生态系统提供种子资金，而不是一个单一的交付成果。