Esta página fue traducida automáticamente desde el inglés. Ver el original en inglés.
Investigadores y laboratorios de alineamiento, investigadores y equipos de robótica y agentes múltiples, organizaciones con mentalidad de gobernanza y financiadores interesados en el trabajo de alineación de IA basado en Active Inference.
La Coalición de Alineación de la Inferencia Activa — una iniciativa multisituacional que construye una coalición, un canal de financiación y una infraestructura compartida para el alineamiento de la IA.
En esta página
AI²C — la Coalición de Alineación por Inferencia Activa — es una iniciativa multi-institucional liderada por el Investigador Asociado Mahault Albarracin y hospedada por el Active Inference Institute. Es un proyecto separado del AICACP (el Proyecto de Consenso de Capacidades y Alineamiento de IA, liderado por Adam Safron): los dos comparten un enfoque de alineación y un acrónimo relacionado con el nombre, pero diferentes líderes, equipos y alcance. AI²C tiene como objetivo convertir la investigación sobre Inferencia Activa en una plataforma para el alineamiento de la IA, la gobernanza y la experimentación encarnada, y está construyendo una coalición de investigación, una línea de financiación y una infraestructura compartida para el trabajo de alineamiento.
La investigación de alineamiento hoy está fragmentada: ocurre en laboratorios aislados y disciplinas desconectadas, sin infraestructura compartida ni modelos de gobernanza, AI²C existe para abordar eso construyendo una coalición donde el alineamiento se estudia como un problema de múltiples agentes, organizacional y encarnado, la gobernanza se construye en sí misma en el sistema y los resultados son reutilizables, financiables y colaborativos.
Most alignment work focuses on single agents evaluated against static benchmarks. AI²C instead studies intrinsic motivation (curiosity, prosociality), extrinsic motivation (rulebooks, norms, safety constraints), and embodied systems (robotics, multi-agent coordination), treating alignment as something that emerges in real systems rather than a property of one agent alone.
The coalition's planned outputs include governance frameworks such as rulebooks and override systems, reusable funding-proposal modules, alignment benchmarks grounded in Active Inference, embodied multi-agent experiments, and open-source tools and documentation — with the goal of making alignment research replicable, fundable, and scalable.
AI²C describes its work in three phases. Phase 1 covers coalition setup — partners, governance, and infrastructure.
Phase 2 covers research and proposals — building the funding pipeline and shared proposal modules. Phase 3 covers experiments and outputs — embodied systems, publications, and tools.
AI²C's proposal-development work targets large, multi-institution funding vehicles for AI alignment research, including U.S. National AI Research Institutes, NSF Science and Technology Centers, and Horizon Europe's multi-partner Pillar II actions.
The project is currently raising support for coalition coordination, proposal development, workshops and events, open infrastructure, and embodied experiments — funding at this stage is intended to seed a longer-term research ecosystem rather than a single deliverable.
Mahault Albarracín, investigadora postdoctoral en el Active Inference Institute, es la creadora y líder de AI²C.
El Instituto de Inferencia Activa da la bienvenida a investigadores y laboratorios que trabajan en Inferencia Activa, alineación, robótica, ciencia cognitiva y gobernanza; organizaciones como institutos de investigación, grupos de IA de interés público y comunidades de código abierto; y financiadores — socios filantrópicos, estratégicos e institucionales.
AI²C es un esfuerzo separado del AICACP, el otro proyecto centrado en la alineación del Instituto. Para obtener detalles sobre cómo unirse a la coalición, contribuir o apoyar el trabajo, póngase en contacto con el proyecto directamente.
Recursos relacionados
Audience: Newcomer
Primary public community channel for conversation, coordination, and newcomer orientation.