Esta página foi traduzida automaticamente do inglês. Visualize o original em inglês.
Pesquisadores e laboratórios de alinhamento, pesquisadores e laboratórios de robótica e agentes múltiplos, organizações com foco em governança e financiadores interessados no trabalho de alinhamento da IA baseado na Inferência Ativa.
A Coalizão de Alinhamento do Active Inference Institute — uma iniciativa multicêntrica que constrói uma coalizão, um canal de financiamento e uma infraestrutura compartilhada para o alinhamento da IA.
Nesta página
AI²C — a Coligação de Inferencia Ativa de Alinhamento — é uma iniciativa multi-institucional liderada pelo Pesquisador Associado Mahault Albarracin e hospedada pelo Active Inference Institute. É um projeto separado do AICACP (o Projeto de Consenso de Capacidades e Alinhamento da IA, liderado por Adam Safron): os dois compartilham um foco de alinhamento e um acrônimo próximo ao nome, mas diferentes líderes, equipes e escopo. A AI²C visa transformar a pesquisa de Inferencia Ativa em uma plataforma para o alinhamento da IA, governança e experimentação incorporada, e está construindo uma coalizão de pesquisa, um canal de financiamento e infraestrutura compartilhada para o trabalho de alinhamento.
A pesquisa de alinhamento hoje é fragmentada — acontece em laboratórios isolados e disciplinas desconectadas, sem infraestrutura compartilhada ou modelos de governança, o AI²C existe para abordar isso construindo uma coalizão onde o alinhamento é estudado como um problema multi-agente, organizacional e encarnado, a governança é construída no próprio sistema e as saídas são reutilizáveis, financiáveis e colaborativas.
A maioria do trabalho de alinhamento se concentra em agentes individuais avaliados contra benchmarks estáticos. O AI²C, por outro lado, estuda a motivação intrínseca (curiosidade, prosocialidade), a motivação extrínseca (normas, restrições de segurança, regras) e sistemas corporificados (robótica, coordenação multiagente), tratando o alinhamento como algo que emerge em sistemas reais, em vez de uma propriedade de um único agente. As saídas planejadas da coalizão incluem estruturas de governança, como normas e sistemas de sobreposição, módulos reutilizáveis de propostas de financiamento, benchmarks de alinhamento baseados na Inferência Ativa, experimentos multiagentes corporificados e ferramentas e documentação de código aberto — com o objetivo de tornar a pesquisa de alinhamento replicável, financiada e escalável.
O AI²C descreve seu trabalho em três fases. A Fase 1 cobre a configuração da coalizão – parceiros, governança e infraestrutura. A Fase 2 cobre pesquisa e propostas – construção do canal de financiamento e módulos de proposta compartilhados. A Fase 3 cobre experimentos e resultados – sistemas incorporados, publicações e ferramentas.
A proposta de desenvolvimento da AI²C visa veículos de financiamento multi-institucionais e de grande escala para a pesquisa de alinhamento da IA, incluindo os Institutos Nacionais de IA dos EUA, os Centros de Ciência e Tecnologia da NSF e as ações multi-parceiras do Pilar II da Horizon Europe. O projeto está atualmente buscando apoio para a coordenação de coalizões, desenvolvimento de propostas, workshops e eventos, infraestrutura aberta e experimentos corporificados — o financiamento nesta fase é destinado a semear um ecossistema de pesquisa de longo prazo em vez de uma única entrega.
Mahault Albarracin, uma Pesquisadora Associada no InstituteOS, é a criadora e líder do AI²C.
O AI²C recebe pesquisadores e laboratórios que trabalham em Active Inference, alinhamento, robótica, ciência cognitiva e governança; organizações como institutos de pesquisa, grupos de IA de interesse público e comunidades de ciência aberta; e financiadores — parceiros filantrópicos, estratégicos e institucionais.
O AI²C é um esforço separado do AICACP, outro projeto de foco em alinhamento do Instituto. Para detalhes sobre se juntar à coalizão, contribuir ou apoiar o trabalho, entre em contato diretamente com o projeto.
Recursos relacionados
Audience: Newcomer
Primary public community channel for conversation, coordination, and newcomer orientation.