Questa pagina è stata tradotta automaticamente dall'inglese. Visualizza l'originale in inglese.
Ricercatori e laboratori sull'allineamento, ricercatori e team di robotica e agenti multipli, organizzazioni orientate al governo e finanziatori interessati al lavoro sull'allineamento dell'IA basato su Active Inference.
La Coalizione per l'Allineamento dell’Active Inference – un’iniziativa multisciplinare che costruisce una coalizione, un canale di finanziamenti e infrastrutture condivise per l’allineamento dell’IA.
In questa pagina
AI²C – la coalizione per l’allineamento dell’inferenza attiva – è un’iniziativa multi-istituzionale guidata dal ricercatore Mahault Albarracin e ospitata dall’Active Inference Institute. È un progetto separato da AICACP (il progetto Consenso sulle capacità e sull’allineamento dell’IA, guidato da Adam Safron): i due condividono un focus sull’allineamento e un acronimo simile, ma hanno diversi responsabili, team e ambito. AI²C mira a trasformare la ricerca sull’inferenza attiva in una piattaforma per l’allineamento dell’IA, la governance e gli esperimenti incarnati, e sta costruendo una coalizione di ricerca, una pipeline di finanziamenti e infrastrutture condivise per il lavoro sull’allineamento.
La ricerca sull'allineamento oggi è frammentata — avviene in laboratori isolati e discipline disconnesse, senza infrastrutture condivise o modelli di governance, AI²C esiste per affrontare questo problema costruendo una coalizione dove l'allineamento viene studiato come un problema multi-agente, organizzativo e incarnato, la governance è integrata nel sistema stesso e gli output sono riutilizzabili, finanziabili e collaborativi.
Most alignment work focuses on single agents evaluated against static benchmarks. AI²C instead studies intrinsic motivation (curiosity, prosociality), extrinsic motivation (rulebooks, norms, safety constraints), and embodied systems (robotics, multi-agent coordination), treating alignment as something that emerges in real systems rather than a property of one agent alone.
The coalition's planned outputs include governance frameworks such as rulebooks and override systems, reusable funding-proposal modules, alignment benchmarks grounded in Active Inference, embodied multi-agent experiments, and open-source tools and documentation — with the goal of making alignment research replicable, fundable, and scalable.
AI²C describes its work in three phases. Phase 1 covers coalition setup — partners, governance, and infrastructure.
Phase 2 covers research and proposals — building the funding pipeline and shared proposal modules. Phase 3 covers experiments and outputs — embodied systems, publications, and tools.
AI²C's proposal-development work targets large, multi-institution funding vehicles for AI alignment research, including U.S. National AI Research Institutes, NSF Science and Technology Centers, and Horizon Europe's multi-partner Pillar II actions.
The project is currently raising support for coalition coordination, proposal development, workshops and events, open infrastructure, and embodied experiments — funding at this stage is intended to seed a longer-term research ecosystem rather than a single deliverable.
Mahault Albarracin, ricercatrice presso l'Active Inference Institute, è la creatrice e responsabile di AI²C.
L'AI²C accoglie ricercatori e laboratori che lavorano su Active Inference, allineamento, robotica, scienze cognitive e governance; organizzazioni come istituti di ricerca, gruppi per l'IA a beneficio pubblico e comunità open science; e finanziatori – partner filantropici, strategici e istituzionali.
L’AI²C è uno sforzo separato da AICACP, l’altro progetto incentrato sull’allineamento dell’Istituto. Per dettagli su come aderire alla coalizione, contribuire o sostenere il lavoro, contattare direttamente il progetto.
Risorse correlate
Audience: Newcomer
Primary public community channel for conversation, coordination, and newcomer orientation.