Эта страница была автоматически переведена с английского языка. Посмотреть оригинал на английском.
Исследователи и лаборатории по выравниванию, исследователи робототехники и многоагентных систем, организации, ориентированные на управление, а также инвесторы, заинтересованные в работе по выравниванию ИИ, основанной на Active Inference.
Коалиция выравнивания «Активная инференция» — многоучрежденческая инициатива, создающая коалицию, систему финансирования и общую инфраструктуру для выравнивания ИИ.
На этой странице
AI²C — многоучрежденческая инициатива под руководством научного сотрудника Маальт Альбарацин и при поддержке «Active Inference Institute». Это отдельный проект от AICACP (Проект по согласованию возможностей и выравнивания ИИ, возглавляемый Адамом Сафроном): у них общий фокус на выравнивание и схожие аббревиатуры, но разные руководители, команды и область охвата. AI²C направлена на то, чтобы превратить исследования «Active Inference» в платформу для выравнивания ИИ, управления им и воплощенных экспериментов, а также на создание исследовательского альянса, финансирования и общей инфраструктуры для работы по выравниванию.
Современные исследования выравнивания фрагментированы — они проводятся в изолированных лабораториях и несвязанных дисциплинах без общей инфраструктуры или моделей управления. AI²C существует для решения этой проблемы путем создания коалиции, где выравнивание изучается как многоагентная, организационная и воплощенная проблема, управление построено непосредственно в системе, а результаты являются переиспользуемыми, финансируемыми и совместными.
Большинство работ по выравниванию фокусируется на отдельных агентах, оцененных против статических бенчмарков. AI²C вместо этого изучает внутреннюю мотивацию (любопытство, просоциальность), внешнюю мотивацию (правила, нормы, ограничения безопасности) и воплощенные системы (робототехника, координация между несколькими агентами), рассматривая выравнивание как то, что возникает в реальных системах, а не как свойство одного агента. Планируемые результаты коалиции включают нормативные рамки, такие как правила и системы обхода, многоразовые модули предложений о финансировании, бенчмарки выравнивания, основанные на Active Inference, воплощенные эксперименты с несколькими агентами и открытые инструменты и документация — с целью сделать исследования в области выравнивания воспроизводимыми, финансируемыми и масштабируемыми.
ИИ² описывает свою работу в трех фазах. Фаза 1 охватывает создание коалиции — партнеров, управления и инфраструктуры. Фаза 2 охватывает исследования и предложения — построение финансирования и общих модулей предложений. Фаза 3 охватывает эксперименты и результаты — воплощенные системы, публикации и инструменты.
Предложение по разработке AI²C направлено на крупные многоучрежденческие финансируемые транспортные средства для исследований выравнивания ИИ, включая национальные исследовательские институты США по ИИ, научные центры NSF Science and Technology Centers и многопартнерские действия Pillar II Horizon Europe. В настоящее время проект собирает поддержку координации коалиций, разработки предложений, семинаров и мероприятий, открытой инфраструктуры и воплощенных экспериментов — финансирование на этом этапе предназначено для посевного более долгосрочной исследовательской экосистемы, а не для одного результата.
Махальт Альбарацин, исследовательский сотрудник «Active Inference Institute», является создателем и руководителем AI²C.
AI²C приветствует исследователей и лаборатории, работающие в области Активной Инференции, выравнивания, робототехники, когнитивных наук и управления; организации, такие как исследовательские институты, группы по искусственному интеллекту с общественным интересом и сообщества открытой науки; а также спонсоры — благотворительные, стратегические и институциональные партнеры.
ИИ²Ц — это отдельная инициатива от АИКАП, другого проекта Института, ориентированного на выравнивание. Для получения информации о присоединении к коалиции, внесении вклада или оказании поддержки работы обращайтесь к проекту напрямую.
Связанные ресурсы
Audience: Newcomer
Primary public community channel for conversation, coordination, and newcomer orientation.