Questa pagina è stata tradotta automaticamente dall'inglese. Visualizza l'originale in inglese.
Ricercatori e laboratori sull'allineamento, ricercatori e team di robotica e agenti multipli, organizzazioni orientate al governo e finanziatori interessati al lavoro sull'allineamento dell'IA basato su Active Inference.
La Coalizione per l'Allineamento dell’Active Inference – un’iniziativa multisciplinare che costruisce una coalizione, un canale di finanziamenti e infrastrutture condivise per l’allineamento dell’IA.
In questa pagina
AI²C – la coalizione per l’allineamento dell’inferenza attiva – è un’iniziativa multi-istituzionale guidata dal ricercatore Mahault Albarracin e ospitata dall’Active Inference Institute. È un progetto separato da AICACP (il progetto Consenso sulle capacità e sull’allineamento dell’IA, guidato da Adam Safron): i due condividono un focus sull’allineamento e un acronimo simile, ma hanno diversi responsabili, team e ambito. AI²C mira a trasformare la ricerca sull’inferenza attiva in una piattaforma per l’allineamento dell’IA, la governance e gli esperimenti incarnati, e sta costruendo una coalizione di ricerca, una pipeline di finanziamenti e infrastrutture condivise per il lavoro sull’allineamento.
La ricerca sull'allineamento oggi è frammentata — avviene in laboratori isolati e discipline disconnesse, senza infrastrutture condivise o modelli di governance, AI²C esiste per affrontare questo problema costruendo una coalizione dove l'allineamento viene studiato come un problema multi-agente, organizzativo e incarnato, la governance è integrata nel sistema stesso e gli output sono riutilizzabili, finanziabili e collaborativi.
Il lavoro di allineamento si concentra principalmente su singoli agenti valutati contro benchmark statici. AI²C invece studia la motivazione intrinseca (curiosità, prosocialità), la motivazione estrinseca (regole, norme, vincoli di sicurezza) e i sistemi incarnati (robotica, coordinamento multi-agente), trattando l'allineamento come qualcosa che emerge nei sistemi reali piuttosto che come una proprietà di un singolo agente. Gli output previsti dalla coalizione includono quadri normativi come regole e sistemi di override, moduli riutilizzabili per le proposte di finanziamento, benchmark di allineamento basati su Active Inference, esperimenti multi-agente incarnati e strumenti e documentazione open source — con l'obiettivo di rendere la ricerca sull'allineamento replicabile, finanziabile e scalabile.
L'AI²C descrive il suo lavoro in tre fasi. La fase 1 copre la creazione della coalizione – partner, governance e infrastruttura. La fase 2 copre la ricerca e le proposte – costruzione del canale di finanziamento e moduli di proposta condivisi. La fase 3 copre esperimenti e risultati – sistemi incarnati, pubblicazioni e strumenti.
La proposta di sviluppo di AI²C mira a veicoli di finanziamento multi-istituzionali e su larga scala per la ricerca sull'allineamento dell'IA, tra cui gli istituti nazionali statunitensi di IA, i centri NSF Science and Technology Centers e le azioni multi-partner del Pilastro II di Horizon Europe. Il progetto sta attualmente raccogliendo sostegno per la coordinazione delle coalizioni, lo sviluppo della proposta, workshop ed eventi, infrastrutture aperte ed esperimenti incarnati - il finanziamento in questa fase è destinato a seminare un ecosistema di ricerca a lungo termine piuttosto che una singola consegna.
Mahault Albarracin, ricercatrice presso l'Active Inference Institute, è la creatrice e responsabile di AI²C.
L'AI²C accoglie ricercatori e laboratori che lavorano su Active Inference, allineamento, robotica, scienze cognitive e governance; organizzazioni come istituti di ricerca, gruppi per l'IA a beneficio pubblico e comunità open science; e finanziatori – partner filantropici, strategici e istituzionali.
L’AI²C è uno sforzo separato da AICACP, l’altro progetto incentrato sull’allineamento dell’Istituto. Per dettagli su come aderire alla coalizione, contribuire o sostenere il lavoro, contattare direttamente il progetto.
Risorse correlate
Audience: Newcomer
Primary public community channel for conversation, coordination, and newcomer orientation.