Diese Seite wurde maschinell aus dem Englischen übersetzt. Sehen Sie sich die englische Originalversion an.
„Alignment Forscher und Labore, Robotik- und Mehragentenforscher, Governance-orientierte Organisationen und Geldgeber, die an der KI-Ausrichtungsarbeit interessiert sind, die auf Active Inference basiert.
Die Aktive Inferenz Ausrichtung Koalition – eine mehrinstitutionelle Initiative zur Aufbau einer Koalition, einer Förderpipeline und einer gemeinsamen Infrastruktur für die KI-Ausrichtung.
Auf dieser Seite
KI²C – die Aktive-Inferenz-Ausrichtungskoalition – ist eine mehrinstitutionelle Initiative unter der Leitung von Forschungsfellow Mahault Albarracin und wird vom Active Inference Institute gehostet. Es handelt sich um ein eigenständiges Projekt von AICACP (dem AI Capabilities & Alignment Consensus Project, geleitet von Adam Safron): die beiden teilen einen Ausrichtungsfokus und ein Namensähnliches Akronim, aber unterschiedliche Leitungen, Teams und Umfang. KI²C zielt darauf ab, Forschung im Bereich der Aktiven Inferenz in eine Plattform für KI-Ausrichtung, Governance und eingebettete Experimente zu verwandeln und eine Forschungsvereinigung, eine Förderpipeline und gemeinsame Infrastruktur für Ausrichtungsarbeiten aufzubauen.
„Alignment research heute ist fragmentiert – sie findet sich in isolierten Laboren und disconnecteden Disziplinen statt, ohne gemeinsame Infrastruktur oder Governance-Modelle. AI²C existiert, um dies zu beheben, indem es eine Koalition aufbaut, in der Alignment als ein mehragenten-, organisations- und körperbezogener Problem untersucht wird, Governance in das System selbst integriert wird und Ergebnisse wiederverwendbar, fundierbar und kollaborativ sind.
Die meisten Arbeiten zur Ausrichtung konzentrieren sich auf einzelne Agenten, die anhand statischer Benchmarks bewertet werden. AI²C untersucht stattdessen intrinsische Motivation (Neugierde, Prosoziales), extrinsische Motivation (Regeln, Normen, Sicherheitsbeschränkungen) und verkörperte Systeme (Robotik, Multi-Agenten-Koordination) und betrachtet die Ausrichtung als etwas, das in realen Systemen entsteht, anstatt eine Eigenschaft eines einzelnen Agenten zu sein. Die geplanten Ergebnisse der Koalition umfassen Governance-Frameworks wie Regelbücher und Überschaltsysteme, wiederverwendbare Finanzierungsantragsmodule, Ausrichtungsbenchmarks, die auf Active Inference basieren, verkörperte Multi-Agenten-Experimente sowie Open-Source-Tools und Dokumentation – mit dem Ziel, die Reproduzierbarkeit, Finanzierbarkeit und Skalierbarkeit von Forschung zur Ausrichtung zu gewährleisten.
KI²C beschreibt seine Arbeit in drei Phasen. Phase 1 umfasst die Aufbau einer Koalition – Partner, Governance und Infrastruktur. Phase 2 umfasst Forschung und Vorschläge – den Aufbau des Förderkanals und gemeinsamer Vorschlagsmodule. Phase 3 umfasst Experimente und Ergebnisse – verkörperte Systeme, Publikationen und Tools.
Die Arbeit des AI²C zur Entwicklung von Vorschlägen zielt auf groß angelegte, mehrinstitutionelle Förderinstrumente für die Forschung zur KI-Ausrichtung ab, einschließlich der US-amerikanischen National AI Research Institutes, NSF Science and Technology Centers und der mehrpartner-Aktionen der Säule II im Rahmen von Horizon Europe. Das Projekt sammelt derzeit Unterstützung für die Koordination von Coalitions, die Erstellung von Vorschlägen, Workshops und Veranstaltungen, offene Infrastruktur und verkörperte Experimente – die Finanzierung in dieser Phase soll ein langfristiges Forschungsökosystem anstatt eine einzelne Leistung fördern.
Mahault Albarracin ist eine Forscherin am Active Inference Institute und die Schöpferin und Leiterin von AI²C.
KI²C begrüßt Forscher und Labore, die im Bereich Aktive Inferenz, Ausrichtung, Robotik, Kognitionswissenschaften und Governance arbeiten; Organisationen wie Forschungsinstitute, gemeinnützige KI-Gruppen und Open-Science-Communities sowie Geldgeber – philanthropische, strategische und institutionelle Partner.
KI²C ist eine separate Initiative von AICACP, dem anderen auf Ausrichtung ausgerichteten Projekt des Instituts. Für Details zur Teilnahme an der Koalition, zum Mitwirken oder zur Unterstützung der Arbeit wenden Sie sich bitte direkt an das Projekt.
Verwandte Ressourcen
Audience: Newcomer
Primary public community channel for conversation, coordination, and newcomer orientation.