此页面由机器翻译成中文。 查看英文原版。

研究者、 practitioner 和政策导向的贡献者对人工智能能力、对齐、世界模型和代理感兴趣。

人工智能与认知科学研究院

AI能力与对齐共识项目——重塑关于人工智能能力、对齐和监管的对话。

Lead: Adam Safron

AICACP — 人工智能能力与对齐共识项目是一个旨在重塑关于人工智能能力、对齐和监管对话的多学科长期计划。通过结合高影响力的期刊集合、以讨论为导向的面对面研讨会以及面向公众的学术媒体内容,该项目旨在弥合“末世论者”和“加速主义者”之间的鸿沟,并深入探讨“世界模型”和“代理性”的含义——这些概念如何影响人工智能的发展。

生存与发展基金资助

2025年6月,生存与繁荣基金向Active Inference Institute颁发了27万美元的资助,以支持AI能力与对齐共识项目(AICACP)的工作。这笔资助支持了一个扩大后的团队,以便协助管理项目的特殊问题和研讨会。

关于项目

AICACP 是一个多 年 初心 设计 旨在重塑 关于 AI 能力 , 对齐 和 规制 的对话 。 通过 结合 高 水平 影响 杂志 收集 , 实体 讨论 引导 工作坊 , 及 学术 媒体 内容 用于 公众 推广 , 项目 目标 是 通过 深入 探讨 “世界模型” 和 “行动力” 的 含义 , 并 这些 概念 对 AI 发展 的 影响 来 消弭 AI “末日论者” 和 “加速论者” 之间的 分裂 。

项目经理

阿德姆·萨弗兰在塔夫茨大学安德森发现中心是该项目的创作者、主要研究员和组织编辑。生存与繁荣基金资助了一个扩大团队协助特刊和工作坊。

参与

AICACP欢迎来自AI、对齐、心灵哲学、认知科学和Active Inference背景的贡献者。参与范围从理论讨论到特刊编辑、工作坊参与以及公共推广。

了解更多并联系我们

对于有兴趣了解更多的人,请查看项目文档,该文档详细描述了AI能力与对齐共识项目的细节,并包括如何向组织编辑提出想法或问题的方法。

相关资源

此页的公共链接