Cette page a été traduite automatiquement de l'anglais. Consultez l'original en anglais.
Chercheurs et laboratoires d'alignement, chercheurs et équipes en robotique et en agents multiples, organisations soucieuses du gouvernement et financeurs intéressés par le travail d'alignement de l'IA fondé sur l'Inférence Active.
La coalition d'alignement de l'inférence active — une initiative interuniversitaire visant à créer une coalition, un canal de financement et des infrastructures partagées pour l'alignement de l'IA.
Sur cette page
AI²C — la Coalition d'Alignement Active Inference — est une initiative multi-institutionnelle dirigée par Research Fellow Mahault Albarracin et hébergée par le Active Inference Institute. C'est un projet distinct de l'AICACP (le Projet de Consensus sur les Capacités et l'Alignement de l'IA, dirigé par Adam Safron) : les deux partagent un objectif d'alignement et un acronyme similaire, mais des dirigeants, des équipes et une portée différents. L'AI²C vise à transformer la recherche Active Inference en une plateforme pour l'alignement de l'IA, la gouvernance et l'expérimentation incarnée, et est en train de construire une coalition de recherche, un pipeline de financement et une infrastructure partagée pour le travail d'alignement.
La recherche sur l'alignement est aujourd'hui fragmentée — elle se déroule dans des laboratoires isolés et des disciplines déconnectées, sans infrastructure ni modèles de gouvernance partagés. AI²C existe pour répondre à cela en construisant une coalition où l'alignement est étudié comme un problème multi-agent, organisationnel et incarné, la gouvernance est intégrée au système lui-même, et les résultats sont réutilisables, fongibles et collaboratifs.
La plupart du travail d'alignement se concentre sur des agents individuels évalués par rapport à des benchmarks statiques. AI²C étudie plutôt la motivation intrinsèque (la curiosité, la prosocialité), la motivation extrinsèque (les règles, les normes, les contraintes de sécurité) et les systèmes incarnés (la robotique, la coordination multi-agents), considérant l'alignement comme quelque chose qui émerge dans des systèmes réels plutôt qu'une propriété d'un seul agent.
L’AI²C décrit son travail en trois phases. La phase 1 couvre la mise en place de l’alliance — partenaires, gouvernance et infrastructure.
AI²C's travail de développement de propositions cible des véhicules de financement multicentriques et multinstitutionnels pour la recherche sur l'alignement de l'IA, y compris les Instituts nationaux américains de recherche sur l'IA, les Centres scientifiques et technologiques de la NSF, et les actions en partenariat multi-organismes du Pilier II de l'Horizon Europe.
Mahault Albarracin, Research Fellow à l' Active Inference Institute, est la créatrice et la responsable d'AI²C.
L’AI²C accueille les chercheurs et laboratoires travaillant sur l'Inférence Active, l'alignement, la robotique, la science cognitive et le gouvernement, ainsi que des organisations telles que les instituts de recherche, les groupes d'IA à vocation publique et les communautés scientifiques ouvertes, et les financeurs – partenaires philanthropiques, stratégiques et institutionnels.
L’AI²C est un effort distinct de l’AICACP, autre projet axé sur l’alignement du « Active Inference Institute ». Pour des informations concernant le recrutement au sein de la coalition, les contributions ou le soutien à cette œuvre, veuillez contacter directement le projet.
Ressources associées
Audience: Newcomer
Primary public community channel for conversation, coordination, and newcomer orientation.