Questa pagina è stata tradotta automaticamente dall'inglese. Visualizza l'originale in inglese.
Ricercatori e laboratori sull'allineamento, ricercatori e team di robotica e agenti multipli, organizzazioni orientate al governo e finanziatori interessati al lavoro sull'allineamento dell'IA basato su Active Inference.
La Coalizione per l'Allineamento dell’Active Inference – un’iniziativa multisciplinare che costruisce una coalizione, un canale di finanziamenti e infrastrutture condivise per l’allineamento dell’IA.
In questa pagina
AI²C — la Coalizione di Allineamento Active Inference — è un'iniziativa multi-istituzionale guidata da Research Fellow Mahault Albarracin e ospitata dal Active Inference Institute. È un progetto separato da AICACP (il Progetto di Consenso sulle Capacità e l'Allineamento dell'IA, guidato da Adam Safron): i due condividono un focus sull'allineamento e un acronimo simile, ma leader, team e ambito diversi. AI²C mira a trasformare la ricerca Active Inference in una piattaforma per l'allineamento, la governance e la sperimentazione incarnata dell'IA, e sta costruendo una coalizione di ricerca, una pipeline di finanziamento e un'infrastruttura condivisa per il lavoro di allineamento.
La ricerca sull'allineamento oggi è frammentata — avviene in laboratori isolati e discipline disconnesse, senza infrastrutture condivise o modelli di governance, AI²C esiste per affrontare questo problema costruendo una coalizione dove l'allineamento viene studiato come un problema multi-agente, organizzativo e incarnato, la governance è integrata nel sistema stesso e gli output sono riutilizzabili, finanziabili e collaborativi.
La maggior parte del lavoro sull’allineamento si concentra su singoli agenti valutati contro benchmark statici. AI²C invece studia la motivazione intrinseca (curiosità, prosocialità), la motivazione estrinseca (regole, norme, vincoli di sicurezza) e i sistemi incarnati (robotica, coordinamento multi-agente), trattando l’allineamento come qualcosa che emerge nei sistemi reali piuttosto che come una proprietà di un singolo agente.
L'AI²C descrive il suo lavoro in tre fasi. La fase 1 copre la configurazione della coalizione – partner, governance e infrastrutture.
La proposta di sviluppo di AI²C mira a finanziamenti su larga scala e multi-istituzionali per la ricerca sull'allineamento dell'IA, tra cui gli istituti nazionali di ricerca sull'IA negli Stati Uniti, i centri di scienza e tecnologia della NSF e le azioni multi-partner del Pilastro II di Horizon Europe.
Mahault Albarracin, un Research Fellow presso il Active Inference Institute, è il creatore e responsabile di AI²C.
L'AI²C accoglie ricercatori e laboratori che lavorano su Active Inference, allineamento, robotica, scienze cognitive e governance; organizzazioni come istituti di ricerca, gruppi per l'IA a beneficio pubblico e comunità open science; e finanziatori – partner filantropici, strategici e istituzionali.
L’AI²C è uno sforzo separato da AICACP, l’altro progetto incentrato sull’allineamento dell’Istituto. Per dettagli su come aderire alla coalizione, contribuire o sostenere il lavoro, contattare direttamente il progetto.
Risorse correlate
Audience: Newcomer
Primary public community channel for conversation, coordination, and newcomer orientation.