Diese Seite wurde maschinell aus dem Englischen übersetzt. Sehen Sie sich die englische Originalversion an.
„Alignment Forscher und Labore, Robotik- und Mehragentenforscher, Governance-orientierte Organisationen und Geldgeber, die an der KI-Ausrichtungsarbeit interessiert sind, die auf Active Inference basiert.
Die Aktive Inferenz Ausrichtung Koalition – eine mehrinstitutionelle Initiative zur Aufbau einer Koalition, einer Förderpipeline und einer gemeinsamen Infrastruktur für die KI-Ausrichtung.
Auf dieser Seite
KI²C – die Aktive-Inferenz-Ausrichtungskoalition – ist eine mehrinstitutionelle Initiative unter der Leitung von Forschungsfellow Mahault Albarracin und wird vom Active Inference Institute gehostet. Es handelt sich um ein eigenständiges Projekt von AICACP (dem AI Capabilities & Alignment Consensus Project, geleitet von Adam Safron): die beiden teilen einen Ausrichtungsfokus und ein Namensähnliches Akronim, aber unterschiedliche Leitungen, Teams und Umfang. KI²C zielt darauf ab, Forschung im Bereich der Aktiven Inferenz in eine Plattform für KI-Ausrichtung, Governance und eingebettete Experimente zu verwandeln und eine Forschungsvereinigung, eine Förderpipeline und gemeinsame Infrastruktur für Ausrichtungsarbeiten aufzubauen.
„Alignment research heute ist fragmentiert – sie findet sich in isolierten Laboren und disconnecteden Disziplinen statt, ohne gemeinsame Infrastruktur oder Governance-Modelle. AI²C existiert, um dies zu beheben, indem es eine Koalition aufbaut, in der Alignment als ein mehragenten-, organisations- und körperbezogener Problem untersucht wird, Governance in das System selbst integriert wird und Ergebnisse wiederverwendbar, fundierbar und kollaborativ sind.
Most alignment work focuses on single agents evaluated against static benchmarks. AI²C instead studies intrinsic motivation (curiosity, prosociality), extrinsic motivation (rulebooks, norms, safety constraints), and embodied systems (robotics, multi-agent coordination), treating alignment as something that emerges in real systems rather than a property of one agent alone.
The coalition's planned outputs include governance frameworks such as rulebooks and override systems, reusable funding-proposal modules, alignment benchmarks grounded in Active Inference, embodied multi-agent experiments, and open-source tools and documentation — with the goal of making alignment research replicable, fundable, and scalable.
AI²C describes its work in three phases. Phase 1 covers coalition setup — partners, governance, and infrastructure.
Phase 2 covers research and proposals — building the funding pipeline and shared proposal modules. Phase 3 covers experiments and outputs — embodied systems, publications, and tools.
AI²C's proposal-development work targets large, multi-institution funding vehicles for AI alignment research, including U.S. National AI Research Institutes, NSF Science and Technology Centers, and Horizon Europe's multi-partner Pillar II actions.
The project is currently raising support for coalition coordination, proposal development, workshops and events, open infrastructure, and embodied experiments — funding at this stage is intended to seed a longer-term research ecosystem rather than a single deliverable.
Mahault Albarracin ist eine Forscherin am Active Inference Institute und die Schöpferin und Leiterin von AI²C.
KI²C begrüßt Forscher und Labore, die im Bereich Aktive Inferenz, Ausrichtung, Robotik, Kognitionswissenschaften und Governance arbeiten; Organisationen wie Forschungsinstitute, gemeinnützige KI-Gruppen und Open-Science-Communities sowie Geldgeber – philanthropische, strategische und institutionelle Partner.
KI²C ist eine separate Initiative von AICACP, dem anderen auf Ausrichtung ausgerichteten Projekt des Instituts. Für Details zur Teilnahme an der Koalition, zum Mitwirken oder zur Unterstützung der Arbeit wenden Sie sich bitte direkt an das Projekt.
Verwandte Ressourcen
Audience: Newcomer
Primary public community channel for conversation, coordination, and newcomer orientation.