Эта страница была автоматически переведена с английского языка. Посмотреть оригинал на английском.
Исследователи и лаборатории по выравниванию, исследователи робототехники и многоагентных систем, организации, ориентированные на управление, а также инвесторы, заинтересованные в работе по выравниванию ИИ, основанной на Active Inference.
Коалиция выравнивания «Активная инференция» — многоучрежденческая инициатива, создающая коалицию, систему финансирования и общую инфраструктуру для выравнивания ИИ.
На этой странице
AI²C — многоучрежденческая инициатива под руководством научного сотрудника Маальт Альбарацин и при поддержке «Active Inference Institute». Это отдельный проект от AICACP (Проект по согласованию возможностей и выравнивания ИИ, возглавляемый Адамом Сафроном): у них общий фокус на выравнивание и схожие аббревиатуры, но разные руководители, команды и область охвата. AI²C направлена на то, чтобы превратить исследования «Active Inference» в платформу для выравнивания ИИ, управления им и воплощенных экспериментов, а также на создание исследовательского альянса, финансирования и общей инфраструктуры для работы по выравниванию.
Современные исследования выравнивания фрагментированы — они проводятся в изолированных лабораториях и несвязанных дисциплинах без общей инфраструктуры или моделей управления. AI²C существует для решения этой проблемы путем создания коалиции, где выравнивание изучается как многоагентная, организационная и воплощенная проблема, управление построено непосредственно в системе, а результаты являются переиспользуемыми, финансируемыми и совместными.
Большинство работ по выравниванию фокусируется на отдельных агентах, оцененных по статической базе данных. AI²C вместо этого изучает внутреннюю мотивацию (любопытство, просоциальность), внешнюю мотивацию (правила, нормы, ограничения безопасности) и воплощенные системы (робототехника, координация между агентами), рассматривая выравнивание как то, что возникает в реальных системах, а не как свойство одного агента.
AI²C описывает свою работу в трех фазах. Фаза 1 охватывает создание коалиции — партнеров, управления и инфраструктуры.
Предложение по разработке AI²C направлено на привлечение крупных многоучрежденческих финансирующих фондов для исследований в области выравнивания ИИ, включая национальные исследовательские институты ИИ США, научные центры NSF по науке и технологиям и многопартнерские действия Pillar II в рамках Horizon Europe.
Махальт Альбарацин, исследовательский сотрудник «Active Inference Institute», является создателем и руководителем AI²C.
AI²C приветствует исследователей и лаборатории, работающие в области Активной Инференции, выравнивания, робототехники, когнитивных наук и управления; организации, такие как исследовательские институты, группы по искусственному интеллекту с общественным интересом и сообщества открытой науки; а также спонсоры — благотворительные, стратегические и институциональные партнеры.
ИИ²Ц — это отдельная инициатива от АИКАП, другого проекта Института, ориентированного на выравнивание. Для получения информации о присоединении к коалиции, внесении вклада или оказании поддержки работы обращайтесь к проекту напрямую.
Связанные ресурсы
Audience: Newcomer
Primary public community channel for conversation, coordination, and newcomer orientation.