プロジェクトが存在する理由何故
今日のアライメント研究は分割化されている——それはisolated labsとdisconnected disciplines間で行われており、共有されたインフラストラクチャーやガバナンスモデルはありません。AI²Cはこれを解決するために、アライメントを多_agent、組織的、および体現的な問題として研究するためのコалиションを作り、システム自体にガバナンスが組み込まれており、出力は再利用可能で資金調達可能なものであり、協働できるものであることを保証します。
このページは機械翻訳によって英語から日本語に翻訳されました。 英語のオリジナルをご覧ください。
アライメント研究者と研究室、ロボット工学とマルチエージェント研究者、ガバナンス志向の組織、およびActive Inferenceに基づいたAIアライメント作業に関心のある資金提供者。
AI²C
Active Inference Alignment Coalition — 多機関イニシアチブによるAIの統合をめざすコングレスを構築し、資金パイプラインと共有インフラストラクチャを整備します。
このページで
セクション
AI²C — Active Inferenceアライメント連合 — は、Research Fellow Mahault Albarracinが主導し、Active Inference Instituteがホストする複数機関によるイニシアチブです。これはAICACP（Adam Safronが主導するAI Capabilities & Alignment Consensus Project）とは別のプロジェクトです。両者はアライメントに焦点を当て、名前が似た頭字語を共有していますが、リーダー、チーム、範囲は異なります。AI²Cは、Active Inference研究をAIアライメント、ガバナンス、具現化された実験のためのプラットフォームに変えることを目指しており、研究連合、資金調達パイプライン、アライメント作業のための共有インフラを構築しています。
接近
AI²Cの計画的な出力には、ルールブックやオーバーライドシステムなどのガバナンスフレームワーク、再利用可能な資金提案モジュール、Active Inferenceに基づいたアライメントベンチマーク、体現的な多_agent実験、オープンソースツールとドキュメンテーションなどが含まれており、アライメント研究の再現性、資金獲得性、スケーラビリティを目的としています。
路線図
AI²Cは、その工作を三つのフェーズで説明します。フェーズ1は、パートナー、ガバナンス、およびインフラセットアップについてです。
ファンドリング戦略
AI²Cの提案開発作業は、AIの対話性研究に焦点を当てた大規模で多機関の資金提供のためのAI対話性研究 Institutes、NSF科学技術センター、そしてヨーロッパ Horizon Europeの多パートナーピラーIIのアクションのための提案開発、ワークショップとイベント、オープンインフラストラクチャ、そして実体の実験に対する支援を現在、この段階の資金は、長期的な研究生態系を植え付けるためのものであり、単一の達成目標ではありません。
プロジェクトリード
Active Inference InstituteのResearch FellowであるMahault Albarracinは、AI²Cの作成者でありリーダーです。
誰が参加すべきか
AI²Cは、Active Inference、alignment、ロボティクス、認知科学、およびガバナンスに取り組む研究者とラボを含め、研究機関、公的利益のAI団体、オープンサイエンスコミュニティ、そして資金提供者—— philanthropic、戦略的、およびインstitutionalパートナーを含む。
もっと学び、連絡を取る
AI²CはAICACP、インスツルメンツの他のアライメント焦点プロジェクトから分離された努力です。詳細については、コメディアに参加するか、寄付したり支援するには、プロジェクトに直接連絡してください。
関連リソース
このページの公開リンク
Discord invite
Audience: Newcomer
Primary public community channel for conversation, coordination, and newcomer orientation.
communitydiscord