Perché il dominio è adatto
I osservatori valutano dati sparsi e eterogenei (log, flussi di rete, strumentazione dell'host) e devono inferire gli stati latenti del sistema e degli attaccanti prima di scegliere interventi quali il blocco degli account, la patch o la riconfigurazione delle reti — azioni che a loro volta alterano le osservazioni future e gli incentivi degli attaccanti. L’inferenza attiva dà a questo ciclo una forma matematica esplicita: gli agenti mantengono modelli generativi p(o,s), inferiscono credenze posterieiori q(s) minimizzando l'energia libera variazionale e selezionano azioni che minimizzano l'energia libera attesa sul corso delle traiettorie future. Il rapporto evidenzia il rilevamento attivo come un adattamento particolarmente pulito: decidere quale dei molti processi scarsamente monitorati controllare successivamente è naturalmente inquadrato nel bilanciare il valore epistemic (guadagno informativo) contro il valore pragmatico (rilevamento rapido di anomalie).
Patterni di applicazione nella letteratura
Un framework di inferenza attiva profonda presentato a GLOBECOM 2020 utilizza modelli generativi basati su reti neurali del comportamento dei processi normali e una programmazione degli eventi sensoriali basata sull'energia libera attesa per la rilevazione delle anomalie, implementando quattro varianti di agente che differiscono nelle loro approssimazioni EFE. CAIRN (Causal Active Inference with Real-time Interventions), un framework ACM peer-reviewed, modella la telemetria aziendale come un grafo causale probabilistico e seleziona interventi come il blocco delle connessioni o il reimpostare le credenziali minimizzando l'energia libera attesa sui percorsi ipotizzati di attacco. Un sondaggio sulla sicurezza cyberfisica dei veicoli autonomi sostiene che l'inferenza attiva può unificare i dati sensoriali, lo stato di controllo e l'integrità della comunicazione per rilevare il spoofing o la manomissione, e un capitolo IGI Global incornicia l'analisi comportamentale della sicurezza (rilevamento delle minacce interne e UEBA) attraverso la lente strettamente correlata del processing predittivo.
Progetti e strumenti chiave
Oltre a CAIRN e agli agenti GLOBECOM, il rapporto descrive ACID (beta-testing di Active Inference per la difesa attiva cibernetica), una preprint TechRxiv che formula l'inferenza attiva su processi decisionali markoviani completamente osservabili con quattro varianti di approssimazione EFE per scenari difensivi. Il Modello di Attacco Bayesiano (BAM), implementato all’interno del programma CYOTE per gli ambienti operativi tecnologici, codifica la progressione dell'attacco come un grafo bayesiano ed è descritto come una piattaforma naturale adatta a cui un livello di inferenza attiva potrebbe estendersi, sebbene non sia esso stesso formulato come inferenza attiva. Figaro e PRIME (Charles River Analytics) forniscono un linguaggio di modellazione relazionale probabilistica e un'interfaccia aziendale che potrebbero analogamente essere estesi con la selezione delle azioni basata sull'energia libera senza costi. Lavori pionieristici sulle architetture "neuroni" del mondo 6G propongono agenti "funghi cibernetici metamorfici" che coordinano il rilevamento, il controllo e la sicurezza su tutti i livelli di rete, legati concettualmente al protocollo IEEE 2874-2025 Spatial Web.
Problemi irrisolti
Il rapporto identifica la scalabilità dei modelli generativi per volumi e eterogeneità di telemetria su scala aziendale e internet come irrisolta, così come la progettazione di funzionali di energia libera robuste contro gli avversari che possono ingannare i modelli generativi o prendersi di mira i sensori su cui si basa un agente per il valore epistemic; evidenzia inoltre l'interpretabilità e la fiducia uomo-in-ciclo aperto, dato che i calcoli EFE parametrizzati dai parametri della rete profonda sono opachi agli analisti, e nota il lavoro teorico sui sistemi fisici generici (incluse le quantistiche) che dimostrano che nessun sistema può rappresentare completamente il proprio stato interno o osservativo — un limite fondamentale sulla sicurezza degli agenti di auto-protezione e auto-monitoraggio. Infine, il rapporto sottolinea che mancano in gran parte i benchmark rigorosi che confrontano l'inferenza attiva con i sistemi basati su regole e le reti bayesiane classiche dalla letteratura attuale.
Spina dorsale di riferimento
Karl J. Friston (2010). The free-energy principle: a unified brain theory? Nature Reviews Neuroscience. DOI: 10.1038/nrn2787. Lancelot Da Costa, Thomas Parr, Noor Sajid, Sebastijan Veselic, Victorita Neacsu, Karl J. Friston (2020). Active inference on discrete state-spaces: A synthesis. Journal of Mathematical Psychology. DOI: 10.1016/j.jmp.2020.102447. Giovanni Pezzulo, Francesco Rigoli, Karl J. Friston (2017). Active Inference, homeostatic regulation and adaptive behavioural control. Progress in Neurobiology. DOI: 10.1016/j.pneurobio.2017.08.001. Pablo Lanillos, Cristian Meo, Corrado Pezzato, et al. (2021). Active Inference in Robotics and Artificial Agents: Survey and Challenges. arXiv. DOI: 10.48550/arXiv.2112.01871.