Active Inference Institute Act. Infer. Serve.
RU

Эта страница была автоматически переведена с английского языка. Посмотреть оригинал на английском.

Исследователи, специалисты по безопасности и сотрудники Института, изучающие активное инференцию как основу для автономной, адаптивной киберзащиты.

Активная инференция и кибербезопасность

Как принцип свободной энергии переосмысливает кибербезопасность как восприятие-действие в условиях неопределенности

Research resourcesActive Inference overview

На этой странице

Активная инференция и кибербезопасность руководство

Лучшие следующие шаги

Активный вывод и путь кибербезопасности

Начните с самых важных публичных ссылок на этой странице, затем продолжите изучение связанных ресурсов и каталогов.

Research resourcesResearchActive Inference overviewФильтрованные ресурсыГлобальный каталогАктивный выводАктивная инференция и право и политика

Кибербезопасность требует от защитников делать вывод о скрытом состоянии систем и противников из шумной, неполной телеметрии и затем принимать меры для поддержания этих систем в допустимых пределах — структура, которая напрямую соответствует циклу восприятия-действия активного вывода. На этой странице рассматривается новейшая литература, связывающая принцип свободной энергии с обнаружением аномалий, диагностикой причинно-следственных атак, киберфизической безопасностью и защитой крупных сетей, а также определяется, где доказательства недостаточны.

Почему домен подходит

Защитники наблюдают разреженные, неоднородные телеметрии (логи, сетевые потоки, данные об оборудовании), и должны делать выводы о скрытых состояниях системы и атакующего, прежде чем выбирать вмешательства, такие как блокировка учетных записей, исправление уязвимостей или переконфигурация сетей — действия, которые сами по себе изменяют будущие наблюдения и стимулы атакующих. Активная инференция дает этой петле явную математическую форму: агенты поддерживают генеративные модели p(o,s), выводят апостериорные убеждения q(s) путем минимизации вариационного свободного энергетического потенциала и выбирают действия, которые минимизируют ожидаемый свободный энергетический потенциал в отношении будущих траекторий. В отчете подчеркивается активное зондирование как особенно чистое соответствие: принятие решения о том, какой из множества слабо контролируемых процессов проверять следующим, естественно формулируется как балансировка эпистемической ценности (получение информации) против практической ценности (быстрое обнаружение аномалий).

Приложения в литературе

Глубокая рамочная модель активного инференса, представленная на GLOBECOM 2020, использует нейронные генеративные модели нормального поведения процессов и сенсорное планирование на основе свободной энергии для обнаружения аномалий, реализуя четыре варианта агентов, отличающихся своими приближениями EFE. CAIRN (Causal Active Inference with Real-time Interventions), рецензируемый ACM фреймворк, моделирует телеметрию предприятия как вероятграфическую причинно-следственную связь и выбирает вмешательства, такие как блокировка соединений или сброс учетных данных, путем минимизации ожидаемой свободной энергии над гипотетическими путями атак. Опрос по киберфизической безопасности автономного транспорта утверждает, что активный инференс может объединить сенсорные данные, состояние управления и целостность связи для обнаружения подделки или вмешательства, а глава IGI Global рассматривает аналитику поведения безопасности (обнаружение угроз внутри организации и UEBA) через тесно связанную перспективу предсказательного моделирования.

Ключевые проекты и инструменты

За пределами агентов CAIRN и GLOBECOM, отчет описывает ACID (тестирование в бета-версии активного инференса для активной киберзащиты), preprint TechRxiv, формулирующий активный инференс над полностью наблюдаемыми марковскими процессами принятия решений с четырьмя вариантами аппроксимации EFE для сценариев защиты. Модель байесовской атаки (BAM), развернутая в рамках программы CYOTE для операционных технологических сред, кодирует прогрессирование атак как байесовскую графу и описывается как естественная смежная платформа, которую активный инференс мог бы расширить, хотя сама по себе она не рассматривается как активный инференс. Figaro и PRIME (Charles River Analytics) предоставляют вероятностный языковой интерфейс для моделирования отношений и корпоративный интерфейс, которые также можно было бы расширить с использованием выбора действий, основанного на свободной энергии. Работы новаторского типа о архитектурах "мирового мозга" 6G предлагают агентов "метаморфного кибергриба", координирующих сенсорику, управление и безопасность по слоям сети, концептуально связанные с протоколом IEEE 2874-2025 Spatial Web Protocol.

Открытые проблемы

Отчет выявляет нерешенными масштабирование генеративных моделей до корпоративного и интернет-масштаба телеметрии и ее разнородности, а также разработку функционалов свободной энергии, устойчивых к противникам, которые могут обманывать генеративные модели или нацеливаться на датчики, используемые агентом для эпистемической ценности. Также отмечается открытость вопросов интерпретируемости и доверия человека в цикле, поскольку расчеты EFE, параметризованные глубокими сетями, непонятны аналитикам, а теоретические работы о универсальных физических (включая квантовых) системах доказывают, что ни одна система не может полностью представлять свое внутреннее или наблюдаемое состояние — фундаментальное ограничение для самозащищающихся и самоконтролируемых агентов безопасности. Наконец, отчет подчеркивает отсутствие строгих тестов сравнения активного вывода с правильными системами и классическими байесовскими сетями в современной литературе.

Опорный каркас

Карл Дж. Фристон (2010). Свободный принцип инференции: единая теория мозга? Nature Reviews Neuroscience. DOI: 10.1038/nrn2787. Ланселот Да Коста, Томас Парр, Нур Саджид, Себастьяян Веселич, Викторита Неаску, Карл Дж. Фристон (2020). Активная инференция на дискретных пространствах состояний: синтез. Journal of Mathematical Psychology. DOI: 10.1016/j.jmp.2020.102447. Джиованни Пезуло, Франческо Риголо, Карл Дж. Фристон (2017). Активная инференция, гомеостатическая регуляция и адаптивное поведение. Progress in Neurobiology. DOI: 10.1016/j.pneurobio.2017.08.001. Пабло Ланилос, Кристиан Мео, Коррадо Пеццато и др. (2021). Активная инференция в робототехнике и искусственных агентах: обзор и проблемы. arXiv. DOI: 10.48550/arXiv.2112.01871.

Ключевые поверхности

Активное рассуждение и кибербезопасность в общих чертах

Активное восприятие в рамках бюджета

Ожидаемая свободная энергия позволяет агенту сбалансировать между получением информации и скоростью обнаружения, когда доступно ограниченное количество датчиков или дорогостоящее оборудование (например, глубокий анализ пакетов).

Причинно-следственная, а не только корреляционная

Вероятграфик CAIRN о причинных связях в корпоративной телеметрии позволяет активному выводу различать прямые эффекты вмешательств от корреляций при диагностике многоступенчатых атак.

В основном концептуально, не протестировано по эталону

Помимо прототипа CAIRN, прошедшего рецензирование, и развертывания OT BAM, большинство цитируемых систем — это препринты, обзоры или концептуальные проекты без каких-либо отчётов о сравнении с традиционными методами безопасности.

Связанные ресурсы

Публичные ссылки для этой страницы

Внешние ссылки разрешаются из общего реестра, поэтому ориентированные на посетителей назначения остаются централизованными и проверяемыми.

Связанные страницы

Продолжить просмотр сайта

Новые участники, учащиеся, исследователи, строители и коллеги. Активный вывод

Активное выводы — это центральная научная и практическая платформа, вокруг которой Институт организует образование, исследования, применение и поддержку экосистемы.

 Исследователи, юридические ученые, политики и сотрудники Института «Активная инференция», изучающие вычислительные и правоаналитические подходы к управлению, регулированию и надзору за ИИ в условиях неопределенности. Активная инференция и право и политика

Закон и политика могут рассматриваться как процессы коллективной инференции: суды, законодательные органы и регулирующие органы непрерывно пересматривают генеративные модели социального поведения в ответ на доказательства, а нормы кодируют предыдущие убеждения относительно допустимого поведения. На этой странице исследуется возникающая литература, связывающая активную инференцию и принцип низкого энергетического затраты с юриспруденцией, разработкой нормативных актов и — наиболее конкретно — управлением ИИ, опираясь на синтез исследований, подготовленный для InstituteOS. Эта литература в основе своей богата теорией и социальными когнитивными расширениями, но явное применение в юридической практике все еще находится на ранней стадии и в основном является экспериментальной.

 Робототехники, инженеры по управлению и исследователи активного вывода оценочно проверяют, могут ли унифицированные архитектуры восприятия-действия-обучения превзойти или дополнить классическое управление и обучение с подкреплением. Активная инференция и робототехника

Роботы непрерывно воспринимают, действуют и учатся в условиях неопределенности с использованием шумных, мультимодальных сенсоров и несовершенных актуаторов — именно те условия, которые описывал принцип свободной энергии. Растущая, но все еще неоднородная литература исследовала активное инференцию как способ объединить оценку состояния, управление, планирование и обучение моделированию в робототехнических системах, охватывая теоретические статьи, смоделированные доказательства концепции и эксперименты на физических гуманоидах и манипуляторах. На этой странице синтезируется применение этих паттернов в литературе, названные инструменты и лаборатории, а также открытые проблемы, разделяющие убедительные демонстрации от стандартной инженерной методологии.