なぜそのドメインが合っている
古典的なロボティクスは、状態推定(Kalman/パーティクルフィルタ)、制御(LQR、MPC、PID)そして、増加するように reinforcement learning をそれぞれのモジュールとして解決します。一方で、Active inference は、単一の生成モデル下での近似ベイジアン推論を用いてこれら三つを統合し、感知と学習に対する variational free energy を最小化することで行動選択を行います。Lanillos および同僚らは、この概念的な統合がロボットが理想的なテストブレッドとなる理由を説明しています:彼らは、不確実なセンサーストリームから隠れた変数(身体構造、物体の状態、ダイナミクス)について信念を維持しなければならず、モデルの期待範囲内で観測値を保持するために行動を行います。Millidge および同僚らの制御が推論である literature の分析は、特定の仮定下で、Active inference ポリシーは標準的な最適制御または reinforcement learning 解決法に帰着することを示し、既存のコントローラーが自由エネルギー最小化の特別なケースとして読み取れるようにします。
文献におけるパターン
生成モデルのロボティクス実装は、一般的に既知の物理法則と運動学に基づいて構築され、学習されたエンドツーendで実装されることが多い: humanoid ボディーペースティングのワークは前進運動学と多モード(視覚/プロポジオシスティック)観察モデルをエンコードし、一方で操作制御者は関節動力学、慣性、接触力などをエンコードする。すると期待自由エネルギーが政策選択を駆動します — Pezzato、Ferrari、Hernándezの適応的操作制御器(IEEE Robotics and Automation Lettersに発表)はオンラインでダイナミック不確実性とセンサ故障に対応し、Baioumy et al. のボールバランスングエージェントは期待自由エネルギーが genuinelyな探査行動を誘発する好奇心のような行動を引き起こします。精度重み付け — 感覚チャネルや事前確信の信頼性に基づいて信頼度を調整すること — この作業では頻繁に現れ、特にFerrariグループのバーターオーロラスキームがセンサ故障を検出し補正する際です。階層的な多レベルアーキテクチャは概念的に議論されるが、具体的な階層化実装は稀で、主にシミュレーション限定的です。
未解決の問題
このレポートでは、さらなる証拠が必要な5つの未解決領域を特定しています。それは、高次元のリアルタイムロボットに対する期待自由エネルギー評価のスケーラビリティ(これまでは「Scaling active inference」プレプリントによってシミュレーションでのみ対処されています)、手作業で作成された物理学と学習されたコンポーネントのバランスをとる原理的な生成モデルの仕様、古典的なコントローラーや深層強化学習に対する系統的な直接比較ベンチマーク(MuJoCoスタイルのRLスイートに類似する標準化されたベンチマークスイートはまだ存在しません)、分布シフト下での安全性と堅牢性(Zorzi et al.のDR-FREEフレームワーク(モデルの曖昧性セットに対する自由エネルギー最小化を堅牢化する)が提案されていますが、まだ物理ロボットには適用されていません)、そして制度的採用です。アクティブ推論ツールチェーンはROSや深層学習スタックよりもはるかに未熟なままです。レポートは、多くの主張が系統的な比較ではなく、定性的または原理実証の結果に基づいていることを明示的に警告しています。
リファレンス・バックボーン
Christopher L. Buckley, Chang Sub Kim, Simon McGregor, Anil K. Seth (2017). The free energy principle for action and perception: A mathematical review. Journal of Mathematical Psychology. DOI: 10.1016/j.jmp.2017.09.004. Thomas Parr, Giovanni Pezzulo, Karl J. Friston (2022). Active Inference: The Free Energy Principle in Mind, Brain, and Behavior. MIT Press. Giovanni Pezzulo, Francesco Rigoli, Karl J. Friston (2017). Active Inference, homeostatic regulation and adaptive behavioural control. Progress in Neurobiology. DOI: 10.1016/j.pneurobio.2017.08.001. Pablo Lanillos, Cristian Meo, Corrado Pezzato et al. (2021). Active Inference in Robotics and Artificial Agents: Survey and Challenges. arXiv. DOI: 10.48550/arXiv.2112.01871. Lancelot Da Costa, Thomas Parr, Noor Sajid, Sebastijan Veselic, Victorita Neacsu, Karl J. Friston (2020). Active inference on discrete state-spaces: A synthesis. Journal of Mathematical Psychology. DOI: 10.1016/j.jmp.2020.102447.