Esta página fue traducida automáticamente desde el inglés. Ver el original en inglés.
Investigadores y laboratorios de alineamiento, investigadores y equipos de robótica y agentes múltiples, organizaciones con mentalidad de gobernanza y financiadores interesados en el trabajo de alineación de IA basado en Active Inference.
La Coalición de Alineación de la Inferencia Activa — una iniciativa multisituacional que construye una coalición, un canal de financiación y una infraestructura compartida para el alineamiento de la IA.
En esta página
AI²C — la Coalición de Alineación Active Inference — es una iniciativa multiinstitucional liderada por Research Fellow Mahault Albarracin y organizada por el Active Inference Institute. Es un proyecto separado de AICACP (el Proyecto de Consenso de Capacidades y Alineación de IA, liderado por Adam Safron): los dos comparten un enfoque de alineación y un acrónimo adyacente al nombre, pero diferentes líderes, equipos y alcance. AI²C tiene como objetivo convertir la investigación Active Inference en una plataforma para la alineación de la IA, la gobernanza y la experimentación encarnada, y está construyendo una coalición de investigación, una línea de financiación e infraestructura compartida para el trabajo de alineación.
La investigación de alineamiento hoy está fragmentada: ocurre en laboratorios aislados y disciplinas desconectadas, sin infraestructura compartida ni modelos de gobernanza, AI²C existe para abordar eso construyendo una coalición donde el alineamiento se estudia como un problema de múltiples agentes, organizacional y encarnado, la gobernanza se construye en sí misma en el sistema y los resultados son reutilizables, financiables y colaborativos.
La mayor parte del trabajo de alineación se centra en agentes individuales evaluados frente a benchmarks estáticos. AI²C en cambio estudia la motivación intrínseca (curiosidad, prosocialidad), la motivación extrínseca (reglas, normas, restricciones de seguridad) y los sistemas corporificados (robótica, coordinación multiagente), tratando el alineamiento como algo que emerge en sistemas reales en lugar de una propiedad de un solo agente.
AI²C describe su trabajo en tres fases. La Fase 1 cubre la configuración de la coalición — socios, gobernanza e infraestructura.
AI²C’s trabajo de desarrollo de propuestas se enfoca en vehículos de financiación multi-institucionales y grandes para la investigación de alineamiento de la IA, incluyendo Institutos Nacionales de IA de EE. UU., Centros de Ciencia y Tecnología de la NSF y las acciones multi-socio de Pilar II de Horizonte Europa.
Mahault Albarracin, una Research Fellow en el Active Inference Institute, es la creadora y líder de AI²C.
El Instituto de Inferencia Activa da la bienvenida a investigadores y laboratorios que trabajan en Inferencia Activa, alineación, robótica, ciencia cognitiva y gobernanza; organizaciones como institutos de investigación, grupos de IA de interés público y comunidades de código abierto; y financiadores — socios filantrópicos, estratégicos e institucionales.
AI²C es un esfuerzo separado del AICACP, el otro proyecto centrado en la alineación del Instituto. Para obtener detalles sobre cómo unirse a la coalición, contribuir o apoyar el trabajo, póngase en contacto con el proyecto directamente.
Recursos relacionados
Audience: Newcomer
Primary public community channel for conversation, coordination, and newcomer orientation.