यह पृष्ठ मशीन द्वारा अंग्रेज़ी से हिंदी में अनुवादित किया गया था। अंग्रेज़ी मूल देखें
संरेखण शोधकर्ता और प्रयोगशालाएँ, रोबोटिक्स और बहु-एजेंट शोधकर्ता, शासन-उन्मुख संगठन और एआई संरेखण कार्य में सक्रिय अनुमान पर आधारित रुचि रखने वाले फंडिंगकर्ता।
सक्रिय अनुमान संरेखण गठबंधन - एक बहु-संस्थात्मक पहल जो एआई संरेखण के लिए एक गठबंधन, फंडिंग पाइपलाइन और साझा बुनियादी ढाँचे का निर्माण कर रही है।
इस पेज पर
एआई²सी — एक्टिव इंफरेंस एलाignement कोआलिशन — एक बहु-संस्थागत पहल है जिसका नेतृत्व रिसर्च फेलो माहुलत अल्बारैसिन द्वारा किया जाता है और जिसे एक्टिव इंफरेंस इंस्टीट्यूट द्वारा होस्ट किया गया है। यह एआईसीएसीपी (एआई क्षमताओं और एलाignement सहमति परियोजना, जिसका नेतृत्व एडम साफ्रॉन करते हैं) से एक अलग परियोजना है: दोनों में एलाignement पर ध्यान केंद्रित करने और नाम-संबंधित संक्षिप्त नाम होने के बावजूद, उनके अलग-अलग लीड, टीमें और दायरा हैं। एआई²सी का उद्देश्य एक्टिव इंफरेंस अनुसंधान को एआई एलाignement, शासन और शारीरिक प्रयोगों के लिए एक मंच में बदलना है, और एलाignement कार्य के लिए एक शोध कोआलिशन, फंडिंग पाइपलाइन और साझा बुनियादी ढाँचे का निर्माण कर रहा है।
आज संरेखण अनुसंधान खंडित है - यह अलग-अलग प्रयोगशालाओं और अलग-अलग विषयों में होता है, साझा बुनियादी ढांचे या शासन मॉडल के बिना। AI²C उस समस्या को हल करने के लिए मौजूद है जिससे एक ऐसा गठबंधन बनाया जाए जहां संरेखण को बहु-एजेंट, संगठनात्मक और मूर्त समस्या के रूप में अध्ययन किया जाता है, प्रणाली में ही शासन बनाया जाता है, और आउटपुट पुन: प्रयोज्य, वित्त पोषित और सहयोगी होते हैं।
सबसे अधिक संरेखण कार्य एकल एजेंटों पर केंद्रित है जो स्थिर बेंचमार्क के विरुद्ध मूल्यांकन किए जाते हैं। AI²C इसके बजाय अंतर्निहित प्रेरणा (जिज्ञासा, सामाजिकता), बहिष्कृत प्रेरणा (नियम पुस्तिकाएं, मानदंड, सुरक्षा प्रतिबंध) और मूर्त प्रणालियों (रोबोटिक्स, बहु-एजेंट समन्वय) का अध्ययन करता है, संरेखण को वास्तविक प्रणालियों में उभरने वाली चीज़ के रूप में देखता है, न कि अकेले एक एजेंट की संपत्ति के रूप में। गठबंधन के नियोजित आउटपुट में नियम पुस्तिकाएं और ओवरराइड सिस्टम जैसे शासन ढांचे, पुन: प्रयोज्य फंडिंग प्रस्ताव मॉड्यूल, सक्रिय अनुमान से जुड़े संरेखण बेंचमार्क, मूर्त बहु-एजेंट प्रयोग और ओपन-सोर्स उपकरण और प्रलेखन शामिल हैं - लक्ष्य संरेखण अनुसंधान को दोहराने योग्य, धन देने योग्य और मापनीय बनाना है।
एआई²सी अपने काम को तीन चरणों में वर्णित करता है। चरण १ गठबंधन की स्थापना को कवर करता है - भागीदारों, शासन और बुनियादी ढांचे का। चरण २ अनुसंधान और प्रस्तावों को कवर करता है - फंडिंग पाइपलाइन और साझा प्रस्ताव मॉड्यूल का निर्माण। चरण ३ प्रयोगों और आउटपुट को कवर करता है - मूर्त प्रणालियों, प्रकाशनों और उपकरणों का।
एआई²सी का प्रस्ताव-विकास कार्य बड़े, बहु-संस्थागत वित्तपोषण वाहनों के लिए एआई संरेखण अनुसंधान को लक्षित करता है, जिसमें यूएस राष्ट्रीय एआई अनुसंधान संस्थान, एनएफएस साइंस एंड टेक्नोलॉजी सेंटर और होराइजन यूरोप के बहु-भागीदार पिलर II कार्रवाई शामिल हैं। परियोजना वर्तमान में गठबंधन समन्वय, प्रस्ताव विकास, कार्यशालाओं और कार्यक्रमों, खुले बुनियादी ढांचे और मूर्त प्रयोगों के लिए समर्थन जुटा रही है - इस चरण पर वित्त पोषण का उद्देश्य एक लंबी अवधि की अनुसंधान पारिस्थितिकी तंत्र को बढ़ावा देना है न कि एक एकल परिणाम।
महाऑल्ट अलबार्रासिन, एक्टिव इंफरेंस इंस्टीट्यूट में एक रिसर्च फेलो हैं, जो AI²C के निर्माता और प्रमुख हैं।
AI²C शोधकर्ताओं और प्रयोगशालाओं का स्वागत करता है जो सक्रिय अनुमान, संरेखण, रोबोटिक्स, संज्ञानात्मक विज्ञान और शासन में काम कर रहे हैं; अनुसंधान संस्थानों, सार्वजनिक हित वाले एआई समूहों और खुले विज्ञान समुदायों जैसे संगठन - और फंडिंगकर्ता - परोपकारी, रणनीतिक और संस्थागत भागीदारों।
एआई²सी एक अलग प्रयास है एआईसीएसीपी से, संस्थान की अन्य संरेखण-केंद्रित परियोजना। गठबंधन में शामिल होने, योगदान करने या कार्य का समर्थन करने के लिए परियोजना को सीधे संपर्क करें।
संबंधित संसाधन
Audience: Newcomer
Primary public community channel for conversation, coordination, and newcomer orientation.