Esta página foi traduzida automaticamente do inglês. Visualize o original em inglês.
Pesquisadores e laboratórios de alinhamento, pesquisadores e laboratórios de robótica e agentes múltiplos, organizações com foco em governança e financiadores interessados no trabalho de alinhamento da IA baseado na Inferência Ativa.
A Coalizão de Alinhamento do Active Inference Institute — uma iniciativa multicêntrica que constrói uma coalizão, um canal de financiamento e uma infraestrutura compartilhada para o alinhamento da IA.
Nesta página
AI²C — a Coalizão de Alinhamento Active Inference — é uma iniciativa multi-institucional liderada por Research Fellow Mahault Albarracin e hospedada pelo Active Inference Institute. É um projeto separado do AICACP (o Projeto de Consenso de Capacidades e Alinhamento de IA, liderado por Adam Safron): os dois compartilham um foco de alinhamento e um acrônimo adjacente ao nome, mas diferentes líderes, equipes e escopo. O AI²C visa transformar a pesquisa Active Inference em uma plataforma para alinhamento de IA, governança e experimentação incorporada, e está construindo uma coalizão de pesquisa, um pipeline de financiamento e infraestrutura compartilhada para o trabalho de alinhamento.
A pesquisa de alinhamento hoje é fragmentada — acontece em laboratórios isolados e disciplinas desconectadas, sem infraestrutura compartilhada ou modelos de governança, o AI²C existe para abordar isso construindo uma coalizão onde o alinhamento é estudado como um problema multi-agente, organizacional e encarnado, a governança é construída no próprio sistema e as saídas são reutilizáveis, financiáveis e colaborativas.
A maior parte do trabalho de alinhamento se concentra em agentes individuais avaliados contra benchmarks estáticos. O AI²C, em vez disso, estuda a motivação intrínseca (curiosidade, prosocialidade), a motivação extrínseca (regras, normas, restrições de segurança) e sistemas corporificados (robótica, coordenação multiagente), tratando o alinhamento como algo que emerge em sistemas reais em vez de uma propriedade de um único agente.
O AI²C descreve seu trabalho em três fases. A Fase 1 cobre a configuração da coalizão — parceiros, governança e infraestrutura.
A proposta de desenvolvimento da AI²C visa veículos de financiamento multi-institucionais e de grande escala para a pesquisa de alinhamento da IA, incluindo os Institutos Nacionais de IA dos EUA, os Centros de Ciência e Tecnologia da NSF e as ações multi-parceiras do Pilar II da Horizon Europe.
Mahault Albarracin, um(a) Research Fellow no Active Inference Institute, é o(a) criador(a) e líder do AI²C.
O AI²C recebe pesquisadores e laboratórios que trabalham em Active Inference, alinhamento, robótica, ciência cognitiva e governança; organizações como institutos de pesquisa, grupos de IA de interesse público e comunidades de ciência aberta; e financiadores — parceiros filantrópicos, estratégicos e institucionais.
O AI²C é um esforço separado do AICACP, outro projeto de foco em alinhamento do Instituto. Para detalhes sobre se juntar à coalizão, contribuir ou apoiar o trabalho, entre em contato diretamente com o projeto.
Recursos relacionados
Audience: Newcomer
Primary public community channel for conversation, coordination, and newcomer orientation.