Diese Seite wurde maschinell aus dem Englischen übersetzt. Sehen Sie sich die englische Originalversion an.
„Alignment Forscher und Labore, Robotik- und Mehragentenforscher, Governance-orientierte Organisationen und Geldgeber, die an der KI-Ausrichtungsarbeit interessiert sind, die auf Active Inference basiert.
Die Aktive Inferenz Ausrichtung Koalition – eine mehrinstitutionelle Initiative zur Aufbau einer Koalition, einer Förderpipeline und einer gemeinsamen Infrastruktur für die KI-Ausrichtung.
Auf dieser Seite
AI²C – die Active Inference Alignment Coalition – ist eine Multi-Institutionen-Initiative, die von Research Fellow Mahault Albarracin geleitet und vom Active Inference Institute gehostet wird. Es ist ein separates Projekt von AICACP (dem AI Capabilities & Alignment Consensus Project, geleitet von Adam Safron): die beiden teilen einen Ausrichtungsfokus und ein namensähnliches Akronym, aber unterschiedliche Leiter, Teams und Umfang. AI²C zielt darauf ab, die Active Inference-Forschung in eine Plattform für KI-Ausrichtung, Governance und verkörperte Experimente zu verwandeln und baut eine Forschungskoalition, eine Finanzierungspipeline und eine gemeinsame Infrastruktur für die Ausrichtungsarbeit auf.
„Alignment research heute ist fragmentiert – sie findet sich in isolierten Laboren und disconnecteden Disziplinen statt, ohne gemeinsame Infrastruktur oder Governance-Modelle. AI²C existiert, um dies zu beheben, indem es eine Koalition aufbaut, in der Alignment als ein mehragenten-, organisations- und körperbezogener Problem untersucht wird, Governance in das System selbst integriert wird und Ergebnisse wiederverwendbar, fundierbar und kollaborativ sind.
Die meisten Arbeiten zur Ausrichtung konzentrieren sich auf einzelne Agenten, die anhand statischer Benchmarks bewertet werden. AI²C untersucht stattdessen intrinsische Motivation (Neugier, Hilfsbereitschaft), extrinsische Motivation (Regeln, Normen, Sicherheitsbeschränkungen) und verkörperte Systeme (Robotik, Multi-Agenten-Koordination) und betrachtet die Ausrichtung als etwas, das in realen Systemen entsteht, anstatt als Eigenschaft eines einzelnen Agenten.
AI²C beschreibt seine Arbeit in drei Phasen. Phase 1 umfasst die Aufbau einer Koalition – Partner, Governance und Infrastruktur.
AI²C's Vorschlagsentwicklung arbeitet an großen, mehrinstitutionellen Förderprogrammen für die KI-Ausrichtung, einschließlich US-amerikanischen National AI Research Institutes, NSF Science and Technology Centers und den mehrpartnern Pillar II Aktionen der Horizon Europe.
Mahault Albarracin, ein Research Fellow am Active Inference Institute, ist der Gründer und Leiter von AI²C.
KI²C begrüßt Forscher und Labore, die im Bereich Aktive Inferenz, Ausrichtung, Robotik, Kognitionswissenschaften und Governance arbeiten; Organisationen wie Forschungsinstitute, gemeinnützige KI-Gruppen und Open-Science-Communities sowie Geldgeber – philanthropische, strategische und institutionelle Partner.
KI²C ist eine separate Initiative von AICACP, dem anderen auf Ausrichtung ausgerichteten Projekt des Instituts. Für Details zur Teilnahme an der Koalition, zum Mitwirken oder zur Unterstützung der Arbeit wenden Sie sich bitte direkt an das Projekt.
Verwandte Ressourcen
Audience: Newcomer
Primary public community channel for conversation, coordination, and newcomer orientation.