Esta página foi traduzida automaticamente do inglês. Visualize o original em inglês.
Pesquisadores e laboratórios de alinhamento, pesquisadores e laboratórios de robótica e agentes múltiplos, organizações com foco em governança e financiadores interessados no trabalho de alinhamento da IA baseado na Inferência Ativa.
A Coalizão de Alinhamento do Active Inference Institute — uma iniciativa multicêntrica que constrói uma coalizão, um canal de financiamento e uma infraestrutura compartilhada para o alinhamento da IA.
Nesta página
AI²C — a Coligação de Inferencia Ativa de Alinhamento — é uma iniciativa multi-institucional liderada pelo Pesquisador Associado Mahault Albarracin e hospedada pelo Active Inference Institute. É um projeto separado do AICACP (o Projeto de Consenso de Capacidades e Alinhamento da IA, liderado por Adam Safron): os dois compartilham um foco de alinhamento e um acrônimo próximo ao nome, mas diferentes líderes, equipes e escopo. A AI²C visa transformar a pesquisa de Inferencia Ativa em uma plataforma para o alinhamento da IA, governança e experimentação incorporada, e está construindo uma coalizão de pesquisa, um canal de financiamento e infraestrutura compartilhada para o trabalho de alinhamento.
A pesquisa de alinhamento hoje é fragmentada — acontece em laboratórios isolados e disciplinas desconectadas, sem infraestrutura compartilhada ou modelos de governança, o AI²C existe para abordar isso construindo uma coalizão onde o alinhamento é estudado como um problema multi-agente, organizacional e encarnado, a governança é construída no próprio sistema e as saídas são reutilizáveis, financiáveis e colaborativas.
Most alignment work focuses on single agents evaluated against static benchmarks. AI²C instead studies intrinsic motivation (curiosity, prosociality), extrinsic motivation (rulebooks, norms, safety constraints), and embodied systems (robotics, multi-agent coordination), treating alignment as something that emerges in real systems rather than a property of one agent alone.
The coalition's planned outputs include governance frameworks such as rulebooks and override systems, reusable funding-proposal modules, alignment benchmarks grounded in Active Inference, embodied multi-agent experiments, and open-source tools and documentation — with the goal of making alignment research replicable, fundable, and scalable.
AI²C describes its work in three phases. Phase 1 covers coalition setup — partners, governance, and infrastructure.
Phase 2 covers research and proposals — building the funding pipeline and shared proposal modules. Phase 3 covers experiments and outputs — embodied systems, publications, and tools.
AI²C's proposal-development work targets large, multi-institution funding vehicles for AI alignment research, including U.S. National AI Research Institutes, NSF Science and Technology Centers, and Horizon Europe's multi-partner Pillar II actions.
The project is currently raising support for coalition coordination, proposal development, workshops and events, open infrastructure, and embodied experiments — funding at this stage is intended to seed a longer-term research ecosystem rather than a single deliverable.
Mahault Albarracin, uma Pesquisadora Associada no InstituteOS, é a criadora e líder do AI²C.
O AI²C recebe pesquisadores e laboratórios que trabalham em Active Inference, alinhamento, robótica, ciência cognitiva e governança; organizações como institutos de pesquisa, grupos de IA de interesse público e comunidades de ciência aberta; e financiadores — parceiros filantrópicos, estratégicos e institucionais.
O AI²C é um esforço separado do AICACP, outro projeto de foco em alinhamento do Instituto. Para detalhes sobre se juntar à coalizão, contribuir ou apoiar o trabalho, entre em contato diretamente com o projeto.
Recursos relacionados
Audience: Newcomer
Primary public community channel for conversation, coordination, and newcomer orientation.