Pourquoi le domaine correspond
Les défenseurs observent des télémétries rares et hétérogènes (journaux, flux réseau, instrumentation d'hôte) et doivent déduire les états latents du système et des attaquants avant de choisir des interventions telles que le blocage de comptes, la correction ou la reconfiguration des réseaux — actions qui modifient elles-mêmes les observations futures et les incitations des attaquants. L’inférence active donne à cette boucle une forme mathématique explicite : les agents maintiennent des modèles génératifs p(o,s), infèrent des croyances postérieures q(s) en minimisant l'énergie variationnelle libre et sélectionnent des actions qui minimisent l'énergie libre attendue sur les trajectoires futures. Le rapport met en évidence la détection active comme un bon ajustement : décider quel processus parmi de nombreux processus faiblement surveillés à vérifier ensuite est naturellement présenté comme un équilibre entre la valeur épistémique (gain d’information) et la valeur pragmatique (détection rapide des anomalies).
Patterns d'applications dans la littérature
Un cadre d'inférence active profonde présenté lors de GLOBECOM 2020 utilise des modèles génératifs à base de réseaux neuronaux du comportement normal des processus et un horaire de capteurs basé sur l'énergie libre attendue pour la détection d'anomalies, mettant en œuvre quatre variantes d'agents qui diffèrent par leurs approximations EFE. CAIRN (Causal Active Inference with Real-time Interventions), un cadre ACM révisé par les pairs, modélise la télémétrie d'entreprise comme un graphe causal probabiliste et sélectionne des interventions telles que le blocage de connexions ou le réinitialisation des identifiants en minimisant l'énergie libre attendue sur les chemins hypothétiques d'attaque. Une étude sur la cybersécurité automobile autonome soutient que l'inférence active peut unifier les données des capteurs, l'état de contrôle et l'intégrité de la communication pour détecter le spoofing ou la falsification, et un chapitre IGI Global cadre l'analyse comportementale de sécurité (détection des menaces internes et UEBA) à travers le prisme étroitement lié du traitement prédictif.
Projets et outils clés
Au-delà des agents CAIRN et GLOBECOM, le rapport décrit l'ACID (tests bêta de l'inférence active pour la défense cybernétique active), une preprint TechRxiv formulant une inférence active sur les processus de décision markoviens observables entièrement avec quatre variantes d'approximation EFE pour les scénarios de défense. Le modèle d'attaque bayésien (BAM), déployé dans le programme CYOTE pour les environnements technologiques opérationnels, encode la progression des attaques sous forme de graphe bayésien et est décrit comme une plateforme naturellement adjacente à laquelle une couche d'inférence active pourrait s'étendre, bien qu'elle ne soit pas elle-même présentée comme une inférence active. Figaro et PRIME (Charles River Analytics) fournissent un langage de modélisation relationnelle probabiliste et une interface d'entreprise qui pourraient également être étendues avec une sélection d'actions basée sur l'énergie sans frais. Travaux novateurs sur les architectures de cerveau mondial 6G proposent des agents "mycophages cybernétiques métamorphiques" coordonnant la détection, le contrôle et la sécurité à travers les couches du réseau, liés conceptuellement au protocole Spatial Web IEEE 2874-2025.
Problèmes non résolus
Le rapport identifie les problèmes liés à l'échelonnement des modèles génératifs vers un volume et une hétérogénéité de télémétrie à grande échelle, ainsi que la conception de functionals d'énergie libre robustes face aux adversaires qui peuvent tromper les modèles génératifs ou cibler les capteurs sur lesquels repose la valeur épistémique d'un agent. Il met également en évidence l'interprétabilité et la confiance homme-machine, étant donné que les calculs de EFE paramétrés par des réseaux profonds sont opaques aux analystes, et note le travail théorique sur les systèmes physiques génériques (y compris quantiques) qui prouvent qu'aucun système ne peut pleinement représenter son propre état interne ou observatif — une limite fondamentale pour la sécurité des agents auto-surveillant et auto-protégés. Enfin, le rapport souligne que des benchmarks rigoureux comparant l’inférence active aux systèmes basés sur des règles et aux réseaux bayésiens classiques sont largement absents de la littérature actuelle.
Squelette de référence
Karl J. Friston (2010). The free-energy principle: a unified brain theory? Nature Reviews Neuroscience. DOI: 10.1038/nrn2787. Lancelot Da Costa, Thomas Parr, Noor Sajid, Sebastijan Veselic, Victorita Neacsu, Karl J. Friston (2020). Active inference on discrete state-spaces: A synthesis. Journal of Mathematical Psychology. DOI: 10.1016/j.jmp.2020.102447. Giovanni Pezzulo, Francesco Rigoli, Karl J. Friston (2017). Active Inference, homeostatic regulation and adaptive behavioural control. Progress in Neurobiology. DOI: 10.1016/j.pneurobio.2017.08.001. Pablo Lanillos, Cristian Meo, Corrado Pezzato, et al. (2021). Active Inference in Robotics and Artificial Agents: Survey and Challenges. arXiv. DOI: 10.48550/arXiv.2112.01871.