AI²C | Active Inference Institute

在本页

部分

AI²C — Active Inference 对齐联盟 — 是由 Research Fellow Mahault Albarracin 领导并由 Active Inference Institute 主办的多机构倡议。它是 AICACP（

为什么项目存在

今天对齐研究是碎片化的——它发生在孤立的实验室和隔绝的学科之间，没有共享的基础设施或治理模型。AI²C存在是为了通过建立一个将对齐视为一个多代理、组织化和 embodied 问题的联盟来解决这个问题，在系统本身中构建治理，并使输出可重用、可资助且协作。

Active Inference

接近

AI²C的工作重点在于研究内在动机（好奇心、利他主义），外在动机（规则书、规范、安全约束）以及 embodied 系统（机器人、多agent 协作），将对齐视为在真实系统中涌现的现象，而非单一代理的属性。

路线图

AI²C 的工作分为三个阶段。第一阶段涉及联盟设置——伙伴、治理和基础设施。

funding 策略

AI²C的提案开发工作针对人工智能对齐研究的大规模多机构资助机制，包括美国国家AI研究机构、NSF科学和技术中心和地平线欧洲的多伙伴支柱II行动。该项目目前正筹集资源以协调联盟、提案开发、研讨会和活动、开放基础设施以及沉浸式实验——现阶段的资助旨在为长期的研究生态系统奠定基础，而不是一个单一的交付成果。