Cette page a été traduite automatiquement de l'anglais. Consultez l'original en anglais.

Chercheurs, érudits juridiques, décideurs politiques et membres de l'institut explorant les approches computationnelles et juridico-analytiques en matière de gouvernance, de réglementation et de surveillance de l'IA face à l'incertitude.

L'inférence active et la politique juridique

Les systèmes juridiques et réglementaires comme une inférence bayésienne collective : les normes sont des a priori, l’application de la loi est une mise à jour de croyance, la politique est une minimisation attendue de l'énergie libre.

Meilleures prochaines étapes

Piste d'étude : Inférence Active et Politique Juridique

Commencez par les liens publics les plus signalés pour cette page, puis poursuivez à travers les vues de ressources et de répertoires connexes.

Le droit et la politique peuvent être lus comme des processus d'inférence collectifs : les tribunaux, les législateurs et les régulateurs révisent continuellement des modèles génératifs de comportement social en réponse aux preuves, tandis que les normes codifient des croyances antérieures sur le comportement acceptable. Cette page suit la littérature émergente reliant l'inférence active et le principe d'énergie libre au droit pénal, à la conception réglementaire et — plus concrètement — à la gouvernance de l'IA, en s'appuyant sur une synthèse de recherche préparée pour l’Active Inference Institute. Cette littérature est fondamentalement riche en théorie et en extensions cognitives sociales, mais son application juridique explicite est encore naissante et se situe principalement au stade de la preuve de principe.

Pourquoi le domaine correspond

Les systèmes juridiques gèrent et redistribuent l'incertitude, stabilisent les attentes, et coordonnent l'action entre les agents ayant des intérêts conflictuels et des informations incomplètes — le même problème que l'inférence active formalise en minimisant l'énergie variationnelle libre sur un modèle génératif. Les normes et les lois fonctionnent comme des a priori qui encodent un comportement acceptable et attendu, tandis que l'application, l'arbitrage et la révision législative mettent en œuvre l'assimilation de preuves et le mise à jour des croyances concernant les états sociaux, les risques et les engagements normatifs. Des exemples concrets tirés du rapport incluent le droit des torts qui façonnent les attentes quant au préjudice et à la responsabilité, et la réglementation financière ou environnementale qui encode des hypothèses sur les risques systémiques qui sont continuellement mises à jour grâce au suivi et à l'application.

État de la littérature

La littérature fondamentale est ancrée dans le compte théorique de la neuroscience du cerveau visant à minimiser l'énergie libre par le biais de la perception, de l'action et de l'apprentissage, plus tard étendu à la cognition sociale, à la coopération et à l'émergence des normes dans les contextes multi-agents. Des études spécifiques sur les « régimes d'attentes » modélisent la conformité sociale et la réglementation normative lorsque les agents s'alignent sur leurs attentes internes, tandis qu'une autre étude multi-agents montre que des normes et règles sociales coopératives émergent lorsque les agents minimisent leur surprise face au comportement des autres dans le cadre de contraintes de justice et de réciprocité. Le travail sur l’histoire comme inférence active et sur le principe d'énergie libre en tant que théorie formelle du langage étendent ces idées vers la narration juridique et l'interprétation linguistique juridique, bien que le rapport soit explicite sur le fait qu'il ne constitue pas encore une littérature juridique dédiée.

Projets et outils clés

Le pont le plus concret vers le droit est une prépublication intitulée « Normative active inference : Preuve de principe numérique pour une approche analytique computationnelle et économique du droit à l'égard de l'IA », qui intègre des statuts juridiques (conformité, responsabilité, catégorie de risque) et considérations économiques comme des a priori dans les modèles génératifs des agents d’IA, de sorte que la sélection des politiques minimise l’énergie libre attendue par rapport à la conformité juridique et économique. Les discussions sur « Active Inference AI » non évaluées par des pairs soutiennent que ces architectures sont plus susceptibles de favoriser un comportement conforme au droit que les grands modèles linguistiques et suggèrent que des protocoles de réseau spatial pourraient aider les systèmes à maintenir la conformité aux réglementations du type GDPR en mettant à jour continuellement les modèles génératifs à mesure que les lois changent. L’Active Inference Institute lui-même est nommé comme infrastructure institutionnelle — son conseil comprend des personnes ayant une expertise en gouvernance et en inférence active — soutenant des ateliers et un travail collaboratif à cet intersection, bien que le rapport note qu’aucun système juridique ou réglementaire à grande échelle n’a encore été déployé.

Problèmes non résolus

Le rapport met en évidence quatre fronts non résolus : formaliser le sens et l'interprétation juridique au principe d'énergie libre (la sémantique juridique est bien plus contestée et normative que les cartes de prédiction-contrôle typiques) ; opérationnaliser ce qui constitue une "surprise" dans les contextes institutionnels, étant donné que différentes définitions de surprise impliquent différents modèles et conséquences politiques ; comprendre quand l'émergence des normes multi-agents s'aligne sur la justice et les droits par rapport à la reproduction des asymétries de pouvoir et des pathologies telles que la discrimination ; et intégrer les facteurs humains — narratifs, légitimité et confiance — qui façonnent la manière dont les citoyens et les responsables mettent à jour leurs croyances concernant les institutions. La gouvernance de l'IA est mise en avant comme le front le plus empiriquement tractable à court terme, nécessitant des systèmes prototypes dans des bacs à sable réglementaires plutôt que de nouvelles propositions conceptuelles.

Squelette de référence

Karl J. Friston (2010). The free-energy principle: a unified brain theory? Nature Reviews Neuroscience. DOI: 10.1038/nrn2787. Thomas Parr, Giovanni Pezzulo, Karl J. Friston (2022). Active Inference: The Free Energy Principle in Mind, Brain, and Behavior. MIT Press. Giovanni Pezzulo, Francesco Rigoli, Karl J. Friston (2017). Active Inference, homeostatic regulation and adaptive behavioural control. Progress in Neurobiology. DOI: 10.1016/j.pneurobio.2017.08.001. Maxwell J. D. Ramstead, Karl J. Friston, Axel Constant, Lancelot Da Costa, Casper Hesp, Beren Millidge, Alexander Tschantz (2023). On Bayesian Mechanics: A Physics of and by Beliefs. arXiv.

Surfaces clés

L'inférence active et les enjeux juridiques et politiques en un clin d’œil

Les normes comme a priori

Les règles juridiques et les contraintes réglementaires agissent comme des croyances antérieures qui façonnent les attentes et les actions des agents afin de minimiser la surprise collective concernant les résultats sociaux.

Politique via l'énergie libre attendue

Les choix réglementaires et législatifs peuvent être formalisés en politiques évaluées sur l'énergie libre attendue, en équilibrant la réduction des risques contre la valeur épistémique du suivi et des programmes pilotes.

Les preuves restent maigres.

Au-delà d'une seule preuve de principe numérique pour la gouvernance de l’IA, la plupart des matériaux cités sont théoriques, basés sur des simulations ou des commentaires de praticiens non examinés par les pairs, sans système juridique ou réglementaire déployé documenté.

Ressources associées

Liens publics pour cette page

Les liens externes sont résolus à partir du registre partagé, de sorte que les destinations visibles pour les visiteurs restent centralisées et vérifiables.