AI²C | Active Inference Institute

在本页

部分

AI²C — the Active Inference Alignment Coalition — 是由研究员Mahault Albarracin领导的多机构倡议，并由Active Inference Institute托管。它与AICACP（Adam Safron领导的人工智能能力与对齐共识项目）共享对齐焦点和名称相关的缩写，但有不同的领导者、团队和范围。AI²C的目标是将Active Inference研究转化为一个对齐、治理和 embodied 实验的平台，并建立一个对齐工作的研究联盟、资金管道和共享基础设施。

为什么项目存在

今天对齐研究是碎片化的——它发生在孤立的实验室和隔绝的学科之间，没有共享的基础设施或治理模型。AI²C存在是为了通过建立一个将对齐视为一个多代理、组织化和 embodied 问题的联盟来解决这个问题，在系统本身中构建治理，并使输出可重用、可资助且协作。

Active Inference

接近

AI²C的工作重点在于研究内在动机（好奇心、利他主义），外在动机（规则书、规范、安全约束）以及 embodied 系统（机器人、多agent 协作），将对齐视为在真实系统中涌现的现象，而非单一代理的属性。

路线图

AI²C 的工作分为三个阶段。第一阶段涉及联盟设置——伙伴、治理和基础设施。

funding 策略

AI²C的提案开发工作针对人工智能对齐研究的大规模多机构资助机制，包括美国国家AI研究机构、NSF科学和技术中心和地平线欧洲的多伙伴支柱II行动。该项目目前正筹集资源以协调联盟、提案开发、研讨会和活动、开放基础设施以及沉浸式实验——现阶段的资助旨在为长期的研究生态系统奠定基础，而不是一个单一的交付成果。