プロジェクトが存在する理由何故
今日のアライメント研究は分割化されている——それはisolated labsとdisconnected disciplines間で行われており、共有されたインフラストラクチャーやガバナンスモデルはありません。AI²Cはこれを解決するために、アライメントを多_agent、組織的、および体現的な問題として研究するためのコалиションを作り、システム自体にガバナンスが組み込まれており、出力は再利用可能で資金調達可能なものであり、協働できるものであることを保証します。
このページは機械翻訳によって英語から日本語に翻訳されました。 英語のオリジナルをご覧ください。
アライメント研究者とラボ、ロボット学とマルチ_AGENT研究者、ガバナンス志向の組織、およびアクティブインフェリエンスに基づいたAIアライメント活動に興味を持つファウンダー
{AI²C}
Active Inference Alignment Coalition — 多機関イニシアチブによるAIの統合をめざすコングレスを構築し、資金パイプラインと共有インフラストラクチャを整備します。
このページで
セクション
AI²C — the Active Inference Alignment Coalition —は、リサーチフェロー マーホルト アルバランチによって率いられ、Active Inference Instituteがホストする多機関イニシアチブです。これはAICACP（アドバンスド・インフェーザー・キャピabilities & アライメント・コンセンサスプロジェクトのAdam Safronにより率いられる）と異なるリード、チーム、スコープを持つ同じ対象名と略語を共有する2つのプロジェクトではありません：AI²CはActive Inference研究をアライメント、ガバナンス、そして実体化試験のプラットフォームに転換することを目指し、アライメント作業のために研究連携、資金パイプライン、および共通のインフラストラクチャを構築しています。
接近
{n}の研究は、AI²Cが統合的な動機（興味、協調性）、外部動機（ルールブック、 Norms、セキュリティ制約）と身体化システム（ロボット学、マルチア gent のコーディネーション）を対象としています。alignmentは、単一のアジェンダに対して評価される静的なベンチマークから脱却し、実際のシステムで現れるものとして扱っています。このコラボレーションの計画された出力には、ルールブックとオーバーライドシステムなどのガバナンスフレームワーク、再利用可能な資金提案モジュール、Active Inferenceに基づいたalignmentベンチマーク、身体化マルチア gent の実験、オープンソースツールとドキュメンテーションが含まれます。これらの目標は、alignment研究の再現性、基金可能性、スケーラビリティを達成することです。
路線図
AI²Cは、その工作を三つのフェーズで説明します。第1フェーズでは、パートナー、ガバナンス、およびインフラセットアップについて取り組みます。第2フェーズでは、研究と提案について取り組み、資金のパイプラインを構築し、共有する提案モジュールを作ります。第3フェーズでは、実験と出力について取り組み、実体化されたシステム、出版物、ツールについて説明します。
ファンドリング戦略
AI²Cの提案開発作業は、大規模で多機関の資金提供手段を対象にしていますが、これは人工知能の統合研究に関するAIの対策研究に焦点を当てています。具体的には、アメリカの国際人工知能研究 Institutes、NSF科学技術センター、そしてヨーロッパのHorizon Europeの多パートナーピラーII行動です。プロジェクトは現在、連携の支援、提案開発、ワークショップとイベント、オープンインフラストラクチャ、そして実体的な実験を募集しています。この段階での資金援助は、長期的な研究生態系を植え付けるためではなく、単一の達成目標を支えるためです。
プロジェクトリード
マハュート・アルバリカンはアクティブインフェーザーイニシアチブの研究員としており、AI²Cの創設者およびリード者は彼です。
誰が参加すべきか
AI²Cは、Active Inference、alignment、ロボティクス、認知科学、およびガバナンスに取り組む研究者とラボを含め、研究機関、公的利益のAI団体、オープンサイエンスコミュニティ、そして資金提供者—— philanthropic、戦略的、およびインstitutionalパートナーを含む。
もっと学び、連絡を取る
AI²CはAICACP、インスツルメンツの他のアライメント焦点プロジェクトから分離された努力です。詳細については、コメディアに参加するか、寄付したり支援するには、プロジェクトに直接連絡してください。
関連リソース
このページの公開リンク
Discord invite
Audience: Newcomer
Primary public community channel for conversation, coordination, and newcomer orientation.
communitydiscord