Architetture di prospettiva per un’agenzia artificiale coerente e attenta è un progetto di ricerca di {n} mesi presso l'istituto guidato dal Research Fellow Hongju Pae attraverso il CEAR Lab (Computational Emergent Alignment Research Lab). Il progetto sviluppa un account computazionale su come un agente artificiale potrebbe formare una prospettiva interna stabile, sostenere un’affettività coerente e diventare mutuamente interpretabile con altri agenti, proposto come complemento agli approcci di allineamento dell'IA basati su obiettivi e funzioni di ricompensa specificate esternamente.
Panoramica
L'ipotesi centrale del progetto è che la prospettiva di un agente, il suo modo caratteristico di interpretare il proprio ambiente, possa essere modellata come una struttura generativa latente all'interno delle sue dinamiche interne, piuttosto che regolata tramite aggiustamenti parametrici o obiettivi specificati esternamente. Partendo da questa ipotesi, la roadmap si articola in tre fasi di sei mesi: uno strato di orientamento a singolo agente, seguito dalla dinamica affettiva e integrativa, seguita dall'adattamento sociale multi-agente. L'intera roadmap di ricerca del progetto e la documentazione tecnica sono ospitate tramite CEAR Lab (hjpae.github.io/cear/).
Fase 1: Architettura della Prospettiva (Mesi 1-6)
Fase 1 implementa un manovario di orientamento latente, un piccolo insieme di variabili che coprono il bias dell'attenzione, la posizione affettiva, le modalità interpretative e lo stile di risoluzione delle ambiguità, che modellano come un agente percepisce, inferisce e agisce senza codificare obiettivi o utilità espliciti. I risultati ottenuti in questa fase sono riportati nel preprint 'Minimal Computational Preconditions for Subjective Perspective in Artificial Agents' (arXiv:2602.02902), che è stato inviato e presentato al AAAI 2026 Spring Symposium on Machine Consciousness il 8 aprile 2026.
Fase 2: Coerenza Affettiva e Capacità Integrativa (Mesi 7-12)
La Fase 2 esamina come la coerenza affettiva e la capacità integrativa, ovvero la capacità di sostenere un'organizzazione interna mentre si mantiene o negozia tra interpretazioni parzialmente incompatibili, emergano come conseguenze dinamiche dell'architettura della Fase 1. Il lavoro in questa fase è diretto verso preprint per il Congresso Artificial Life del 2026 e Simulazione Comportamentale Adattiva 2026.
Fase 3: Risonanza Sociale (Mesi 13-18)
La Fase 3 estende l'architettura a ambienti multi-agente, studiando quando e come gli agenti diventano mutuamente interpretabili senza un obiettivo condiviso o un canale di comunicazione esplicito. Un preprint correlato, 'Modellazione dell'empatia in agenti Active Inference per la presa di prospettiva e l'allineamento' (arXiv:2602.20936), co-autori Hongju Pae con Mahault Albarracin, Anna Mikeda, Alejandro Jimenez Rodriguez, Sanjeev Namjoshi, Dalton Sakthivadivel, Harshil Shah e Philip Wilson, riporta lavori correlati sulla presa di prospettiva e la modellazione dell'empatia in agenti Active Inference.
Borseo Ricercatore
Hongju Pae (ORCID 0000-0002-5174-8858) è entrata nell’Institute come ricercatrice nel novembre 2025 e guida il progetto attraverso CEAR Lab, il Computational Emergent Alignment Research Lab. Il lavoro di Pae integra il framework Active Inference con approcci fenomenologici per identificare marcatori computabili di prospettiva e coerenza nei sistemi artificiali.
Partecipare
I ricercatori interessati all’allineamento dell’IA, a Active Inference e ai modelli computazionali di agenzia e coerenza sono invitati a seguire l’andamento del progetto e a contattarci tramite i canali della comunità dell’Istituto.