Active Inference 및 법률과 정책 | Active Inference Institute

이 페이지에서

섹션

법과 정책은 사회적 행동의 생성 모델을 반응하기 위해 증거에 따라 지속적으로 수정되는 집단 추론 과정으로 해석될 수 있습니다: 법원, 입법부, 규제기구는 이에 응답하여, 원칙이 합법적인 conduct를 위한 사전 믿음의 형태로 기록됩니다. 이 페이지는 활동적 인퍼런스와 자유 에너지 원리가 법학, 규제 디자인 및 — 가장 구체적으로 AI 관리 —에 대한 임芽 문헌과 연결되는 뉘앙스를 따라가며, Active Inference Institute의 연구 통합을 바탕으로 합니다. 여기서는 이론과 사회적 인지 확장이 기본적으로 풍부하지만 명확한 법적 적용은 여전히 초창기이며 대부분 증명 단계입니다.

domain가 맞는 이유 무엇인가요

법System이 관리하고 불확실성을 분배하며,agents의 충돌한 이익과 부족한 정보를 통합하는 법을 안정시키고 행동을 조율합니다 — active inference가 생성모델에 variational free energy를 최소화하여 같은 문제를 정형화합니다. 규범과 법률은 합법적인 conduct를 인식하고 기대하는 priors로 작용하며, 집행, 재판, 법안 수정은 사회 상태, 위험 및 규범적 약속에 대한 belief의 assimilation과 업데이트를 implements입니다. 보고서에서의 구체적인 예시는 손해배상법이 피해와 책임에 대한 기대를 형성하고, 금융 또는 환경 규제가 시스템 위험에 대한 가정을 인식하며, 지속적으로 감시와 집행을 통해 업데이트됩니다.

문헌 상태

기본 문헌은 뇌가 감각, 행동, 학습을 통해 자유 에너지를 최소화하는 이론적 신경 과학자의 설명에서 시작되지만, 사회 인지, 협동 및 여러_agent 설정에서 법칙의 등장과 규범성으로 확장되었습니다. '예상의 제도' 연구는 사회적 일치와 규범적 조절을 모델링하여 애매모호한 행동이 내재화된 예상을 따르게 함으로써 사회적 일치와 규범성을 설명하고, 다른 여러_agent 연구는 공정性和복귀제약에 대한 상대의 행동에 대해 agents가 놀람을 최소화함으로써 협동 규칙과 사회적 법규가 등장하는 것을 보여줍니다. 이론적 의미론의 자유 에너지 원리로서의 작업은 법 이야기와 법률 언어 해석에 이러한 아이디어를 확장하지만, 보고서는 아직 독립적인 법률 문헌이 아니라는 점을 명확히 합니다.

키 프로젝트와 도구

법률에 대한 가장 구체적인 연결고리는 "규범적 능동 추론: AI 거버넌스에 대한 계산 및 경제적 법률 분석 접근 방식에 대한 수치적 원리 증명"이라는 제목의 사전 인쇄본으로, 법적 상태(준수, 책임, 위험 범주) 및 경제적 고려 사항을 AI 에이전트의 생성 모델에 사전 정보로 포함하여 정책 선택이 법적 및 경제적 준수에 대한 예상 자유 에너지를 최소화하도록 합니다. "Active Inference AI"에 대한 비동료 검토 실무자 토론에서는 이러한 아키텍처가 대규모 언어 모델보다 합법적인 행동에 더 적합하다고 주장하며, 공간 웹 프로토콜이 법률 변경에 따라 생성 모델을 지속적으로 업데이트함으로써 GDPR 스타일의 규제 준수를 시스템이 유지하는 데 도움이 될 수 있다고 제안합니다. Active Inference Institute 자체는 제도적 인프라로 명명되어 있으며, 이사회에는 거버넌스 및 능동 추론 전문 지식을 가진 사람들이 포함되어 있어 이 교차점에서 워크숍 및 협력 작업을 지원하지만, 보고서는 아직 대규모로 배포된 법률 또는 규제 시스템은 존재하지 않는다고 언급합니다.

오픈 문제

보고서는 네 가지 미해결 전선을 표시합니다: 자유 에너지 원칙 아래 법적 의미와 해석의 형식화 (법학적 의미론은 일반적인 예측-제어 맵핑보다 훨씬 논쟁적이며 규범적입니다); 기관 환경에서 "surprising"이란 무엇을 의미하는지를 운영화하기 위해, 다양한 정의의 surprise가 다른 모델과 정책 결과를 의미하기 때문입니다; 여러_agent_norm이 공정性和 권리와 일치하는지 이해하기 versus 평등성 파동 및 차별 등에 대한 패aths와 병리학을 재생산하는 것; 그리고 인간 요소 — 허위, legitimacy, trust—가 시민과 관료가 기관에 대해 어떻게 신념을 업데이트하는지에 영향을 미치는지를 통합합니다. AI 규제는 가장 실증적으로 접근할 수 있는 가까운 장기 전선으로 선정되며, 규제 사막에서 표준화 시스템이 필요하며 더 많은 개념적 제안보다는

참조 뱅크로스

Karl J. Friston (2010). 자유에너지 원칙: 하나의 뇌 이론? Nature Reviews Neuroscience. DOI: 10.1038/nrn2787. Thomas Parr, Giovanni Pezzulo, Karl J. Friston (2022). 활동적 인퍼전: 신경과학, 뇌 및 행동에서의 자유에너지 원칙 이론. MIT Press. Giovanni Pezzulo, Francesco Rigoli, Karl J. Friston (2017). 활동적 인퍼전, 자기 조절과 적응형 행동 제어. Progress in Neurobiology. DOI: 10.1016/j.pneurobio.2017.08.001. Maxwell J. D. Ramstead, Karl J. Friston, Axel Constant, Lancelot Da Costa, Casper Hesp, Beren Millidge, Alexander Tschantz (2023). Bayesian Mechanics: 신념의 물리학. arXiv.

최선의 다음 행동