Cette page a été traduite automatiquement de l'anglais. Consultez l'original en anglais.
Chercheurs et laboratoires d'alignement, chercheurs et équipes en robotique et en agents multiples, organisations soucieuses du gouvernement et financeurs intéressés par le travail d'alignement de l'IA fondé sur l'Inférence Active.
La coalition d'alignement de l'inférence active — une initiative interuniversitaire visant à créer une coalition, un canal de financement et des infrastructures partagées pour l'alignement de l'IA.
Sur cette page
L’AI²C — la Coalition d'Alignement par l'Inférence Active — est une initiative multi-institution dirigée par le chercheur principal Mahault Albarracin et hébergée par l’Active Inference Institute. Il s'agit d'un projet distinct de AICACP (le Projet de Consensus sur les Capacités et l'Alignement de l'IA, dirigé par Adam Safron) : les deux partagent un objectif d'alignement et un acronyme adjacent au nom, mais des responsables, des équipes et une portée différents. L’AI²C vise à transformer la recherche sur l’Inférence Active en une plateforme pour l'alignement de l'IA, le gouvernement et l'expérimentation incarnée, et construit une coalition de recherche, un canal de financement et des infrastructures partagées pour le travail d'alignement.
La recherche sur l'alignement est aujourd'hui fragmentée — elle se déroule dans des laboratoires isolés et des disciplines déconnectées, sans infrastructure ni modèles de gouvernance partagés. AI²C existe pour répondre à cela en construisant une coalition où l'alignement est étudié comme un problème multi-agent, organisationnel et incarné, la gouvernance est intégrée au système lui-même, et les résultats sont réutilisables, fongibles et collaboratifs.
La plupart du travail d'alignement se concentre sur des agents uniques évalués par rapport à des références statiques. AI²C étudie plutôt la motivation intrinsèque (la curiosité, la prosocialité), la motivation extrinsèque (les règles, les normes, les contraintes de sécurité) et les systèmes incarnés (la robotique, la coordination multi-agents), considérant l'alignement comme quelque chose qui émerge dans des systèmes réels plutôt que comme une propriété d'un seul agent. Les sorties prévues par la coalition comprennent des cadres de gouvernance tels que les règles et les systèmes de remise à niveau, des modules réutilisables de propositions de financement, des références d'alignement fondées sur l'Inférence Active, des expériences multi-agents incarnées et des outils et de la documentation open source — dans le but de rendre la recherche sur l'alignement reproductible, financable et évolutive.
L’AI²C décrit son travail en trois phases. La phase 1 couvre la mise en place de coalitions – partenaires, gouvernance et infrastructure. La phase 2 couvre la recherche et les propositions – l'élaboration du pipeline de financement et des modules de proposition partagés. La phase 3 couvre les expérimentations et les résultats – systèmes incarnés, publications et outils.
La proposition de développement d'AI²C cible des véhicules de financement multi-institutionnels et importants pour la recherche sur l'alignement de l'IA, notamment les Instituts nationaux américains de recherche en IA, les Centres scientifiques et technologiques de la NSF, et les actions multi-partenaires du Pilier II de Horizon Europe. Le projet collecte actuellement des soutiens pour la coordination des coalitions, le développement de propositions, des ateliers et événements, une infrastructure ouverte et des expériences incarnées — un financement à ce stade est destiné à amorcer un écosystème de recherche à plus long terme plutôt qu'une seule réalisation.
Mahault Albarracin, est une chercheuse associée au InstituteOS, créatrice et responsable de AI²C.
L’AI²C accueille les chercheurs et laboratoires travaillant sur l'Inférence Active, l'alignement, la robotique, la science cognitive et le gouvernement, ainsi que des organisations telles que les instituts de recherche, les groupes d'IA à vocation publique et les communautés scientifiques ouvertes, et les financeurs – partenaires philanthropiques, stratégiques et institutionnels.
L’AI²C est un effort distinct de l’AICACP, autre projet axé sur l’alignement du « Active Inference Institute ». Pour des informations concernant le recrutement au sein de la coalition, les contributions ou le soutien à cette œuvre, veuillez contacter directement le projet.
Ressources associées
Audience: Newcomer
Primary public community channel for conversation, coordination, and newcomer orientation.