Cette page a été traduite automatiquement de l'anglais. Consultez l'original en anglais.
Chercheurs et laboratoires d'alignement, chercheurs et équipes en robotique et en agents multiples, organisations soucieuses du gouvernement et financeurs intéressés par le travail d'alignement de l'IA fondé sur l'Inférence Active.
La coalition d'alignement de l'inférence active — une initiative interuniversitaire visant à créer une coalition, un canal de financement et des infrastructures partagées pour l'alignement de l'IA.
Sur cette page
L’AI²C — la Coalition d'Alignement par l'Inférence Active — est une initiative multi-institution dirigée par le chercheur principal Mahault Albarracin et hébergée par l’Active Inference Institute. Il s'agit d'un projet distinct de AICACP (le Projet de Consensus sur les Capacités et l'Alignement de l'IA, dirigé par Adam Safron) : les deux partagent un objectif d'alignement et un acronyme adjacent au nom, mais des responsables, des équipes et une portée différents. L’AI²C vise à transformer la recherche sur l’Inférence Active en une plateforme pour l'alignement de l'IA, le gouvernement et l'expérimentation incarnée, et construit une coalition de recherche, un canal de financement et des infrastructures partagées pour le travail d'alignement.
La recherche sur l'alignement est aujourd'hui fragmentée — elle se déroule dans des laboratoires isolés et des disciplines déconnectées, sans infrastructure ni modèles de gouvernance partagés. AI²C existe pour répondre à cela en construisant une coalition où l'alignement est étudié comme un problème multi-agent, organisationnel et incarné, la gouvernance est intégrée au système lui-même, et les résultats sont réutilisables, fongibles et collaboratifs.
Most alignment work focuses on single agents evaluated against static benchmarks. AI²C instead studies intrinsic motivation (curiosity, prosociality), extrinsic motivation (rulebooks, norms, safety constraints), and embodied systems (robotics, multi-agent coordination), treating alignment as something that emerges in real systems rather than a property of one agent alone.
The coalition's planned outputs include governance frameworks such as rulebooks and override systems, reusable funding-proposal modules, alignment benchmarks grounded in Active Inference, embodied multi-agent experiments, and open-source tools and documentation — with the goal of making alignment research replicable, fundable, and scalable.
AI²C describes its work in three phases. Phase 1 covers coalition setup — partners, governance, and infrastructure.
Phase 2 covers research and proposals — building the funding pipeline and shared proposal modules. Phase 3 covers experiments and outputs — embodied systems, publications, and tools.
AI²C's proposal-development work targets large, multi-institution funding vehicles for AI alignment research, including U.S. National AI Research Institutes, NSF Science and Technology Centers, and Horizon Europe's multi-partner Pillar II actions.
The project is currently raising support for coalition coordination, proposal development, workshops and events, open infrastructure, and embodied experiments — funding at this stage is intended to seed a longer-term research ecosystem rather than a single deliverable.
Mahault Albarracin, est une chercheuse associée au InstituteOS, créatrice et responsable de AI²C.
L’AI²C accueille les chercheurs et laboratoires travaillant sur l'Inférence Active, l'alignement, la robotique, la science cognitive et le gouvernement, ainsi que des organisations telles que les instituts de recherche, les groupes d'IA à vocation publique et les communautés scientifiques ouvertes, et les financeurs – partenaires philanthropiques, stratégiques et institutionnels.
L’AI²C est un effort distinct de l’AICACP, autre projet axé sur l’alignement du « Active Inference Institute ». Pour des informations concernant le recrutement au sein de la coalition, les contributions ou le soutien à cette œuvre, veuillez contacter directement le projet.
Ressources associées
Audience: Newcomer
Primary public community channel for conversation, coordination, and newcomer orientation.