Esta página fue traducida automáticamente desde el inglés. Ver el original en inglés.
Investigadores y laboratorios de alineamiento, investigadores y equipos de robótica y agentes múltiples, organizaciones con mentalidad de gobernanza y financiadores interesados en el trabajo de alineación de IA basado en Active Inference.
La Coalición de Alineación de la Inferencia Activa — una iniciativa multisituacional que construye una coalición, un canal de financiación y una infraestructura compartida para el alineamiento de la IA.
En esta página
AI²C — la Coalición de Alineación por Inferencia Activa — es una iniciativa multi-institucional liderada por el Investigador Asociado Mahault Albarracin y hospedada por el Active Inference Institute. Es un proyecto separado del AICACP (el Proyecto de Consenso de Capacidades y Alineamiento de IA, liderado por Adam Safron): los dos comparten un enfoque de alineación y un acrónimo relacionado con el nombre, pero diferentes líderes, equipos y alcance. AI²C tiene como objetivo convertir la investigación sobre Inferencia Activa en una plataforma para el alineamiento de la IA, la gobernanza y la experimentación encarnada, y está construyendo una coalición de investigación, una línea de financiación y una infraestructura compartida para el trabajo de alineamiento.
La investigación de alineamiento hoy está fragmentada: ocurre en laboratorios aislados y disciplinas desconectadas, sin infraestructura compartida ni modelos de gobernanza, AI²C existe para abordar eso construyendo una coalición donde el alineamiento se estudia como un problema de múltiples agentes, organizacional y encarnado, la gobernanza se construye en sí misma en el sistema y los resultados son reutilizables, financiables y colaborativos.
La mayor parte del trabajo de alineación se centra en agentes individuales evaluados frente a estándares estáticos. AI²C en cambio estudia la motivación intrínseca (curiosidad, prosocialidad), la motivación extrínseca (reglamentos, normas, restricciones de seguridad) y los sistemas corporificados (robótica, coordinación multiagente), tratando el alineamiento como algo que emerge en sistemas reales en lugar de una propiedad de un solo agente. Los resultados planeados de la coalición incluyen marcos de gobernanza como reglamentos y sistemas de anulación, módulos reutilizables de propuestas de financiación, estándares de alineación basados en Active Inference, experimentos multiagente corporificados y herramientas y documentación de código abierto — con el objetivo de hacer que la investigación sobre el alineamiento sea replicable, financiable y escalable.
AI²C describe su trabajo en tres fases. La Fase 1 cubre la configuración de coaliciones — socios, gobernanza e infraestructura. La Fase 2 cubre la investigación y propuestas — construcción del canal de financiación y módulos de propuesta compartidos. La Fase 3 cubre experimentos y resultados — sistemas encarnados, publicaciones y herramientas.
La propuesta de trabajo de AI²C tiene como objetivo vehículos de financiación institucionales y multidisciplinares importantes para la investigación sobre el alineamiento de la IA, incluyendo los Institutos Nacionales de Investigación en IA de EE. UU., los Centros de Ciencia y Tecnología de la NSF y las acciones conjuntas de varios socios de Pilar II de Horizonte Europa. El proyecto actualmente está recaudando apoyo para la coordinación de coaliciones, el desarrollo de propuestas, talleres y eventos, infraestructura abierta y experimentos encarnados: la financiación en esta etapa está destinada a sembrar un ecosistema de investigación a más largo plazo en lugar de una sola entrega.
Mahault Albarracín, investigadora postdoctoral en el Active Inference Institute, es la creadora y líder de AI²C.
El Instituto de Inferencia Activa da la bienvenida a investigadores y laboratorios que trabajan en Inferencia Activa, alineación, robótica, ciencia cognitiva y gobernanza; organizaciones como institutos de investigación, grupos de IA de interés público y comunidades de código abierto; y financiadores — socios filantrópicos, estratégicos e institucionales.
AI²C es un esfuerzo separado del AICACP, el otro proyecto centrado en la alineación del Instituto. Para obtener detalles sobre cómo unirse a la coalición, contribuir o apoyar el trabajo, póngase en contacto con el proyecto directamente.
Recursos relacionados
Audience: Newcomer
Primary public community channel for conversation, coordination, and newcomer orientation.