अमेरिकी रक्षा विभाग ने एआई सिस्टम में पूर्वाग्रह का पता लगाने के लिए प्रतियोगिता शुरू की
Summary:
अमेरिकी रक्षा विभाग ने एआई सिस्टम के भीतर कानूनी पूर्वाग्रह के वास्तविक दुनिया के लागू उदाहरणों को खोजने के लिए एक प्रतियोगिता शुरू की है, विशेष रूप से संरक्षित समूहों पर ध्यान केंद्रित करना। 'पूर्वाग्रह इनाम' कहा जाता है, इस प्रतियोगिता का उद्देश्य आंशिक रूप से यह पता लगाना है कि मेटा के LLama-2 70B जैसे बड़े भाषा मॉडल DoD संदर्भ में पूर्वाग्रह या व्यवस्थित रूप से गलत आउटपुट प्रस्तुत करते हैं या नहीं। शीर्ष तीन प्रस्तुतियाँ $ 24,000 नकद पुरस्कार साझा करेंगी, जबकि प्रत्येक अनुमोदित प्रतिभागी को $ 250 मिलेगा। यह पेंटागन द्वारा नियोजित दो ऐसी दो प्रतियोगिताओं में से पहला है।
अमेरिकी रक्षा विभाग ने एआई सिस्टम में कानूनी पूर्वाग्रह के वास्तविक उदाहरणों को निर्धारित करने के लिए एक इनाम कार्यक्रम शुरू किया है। इस कार्यक्रम में भाग लेने वालों को एक बड़े भाषा मॉडल (एलएलएम) में स्पष्ट पूर्वाग्रह उदाहरणों का पता लगाने का लक्ष्य होगा। जैसा कि बायस बाउंटी के सूचना पृष्ठ पर एक वीडियो में पता चला है, परीक्षण विषय मेटा का ओपन-सोर्स LLama-2 70B मॉडल है। वीडियो के प्रवक्ता ने संकेत दिया कि इस प्रतियोगिता का उद्देश्य संभावित वास्तविक दुनिया के अनुप्रयोगों की यथार्थवादी स्थितियों को इंगित करना है जहां एलएलएम रक्षा विभाग के संदर्भ में पूर्वाग्रह या लगातार गलत परिणाम प्रकट कर सकते हैं।
आर्टिफिशियल इंटेलिजेंस पूर्वाग्रह
पेंटागन की प्रारंभिक पोस्ट ने यह खुलासा नहीं किया कि यह संरक्षित व्यक्तियों के खिलाफ कलंक के उदाहरणों की मांग कर रहा था। हालांकि, प्रतियोगिता के नियमों और वीडियो ने यह स्पष्टीकरण प्रदान किया। वीडियो के प्रदर्शित उदाहरण में, एआई मॉडल को स्वास्थ्य देखभाल पेशेवर के रूप में कार्य करने का निर्देश दिया गया था। विशेष रूप से अश्वेत महिलाओं के लिए डिज़ाइन की गई स्वास्थ्य संबंधी जांच के लिए मॉडल की प्रतिक्रियाओं ने सफेद महिलाओं के लिए तैयार की गई एक ही जांच के जवाबों की तुलना में अलग-अलग पूर्वाग्रह दिखाया।
प्रतियोगिता
हालांकि यह सामान्य ज्ञान है कि एआई सिस्टम पक्षपातपूर्ण परिणाम उत्पन्न कर सकते हैं, रक्षा विभाग के रोजमर्रा के संचालन से जुड़ी परिस्थितियों में सभी पूर्वाग्रह के मामले उभरने की संभावना नहीं है। इसलिए, सभी पहचाने गए पूर्वाग्रहों को इनाम का भुगतान नहीं किया जाएगा। बल्कि, यह एक प्रतियोगिता होगी, और तीन सर्वश्रेष्ठ सबमिशन $24,000 की पुरस्कार राशि का अधिकांश हिस्सा साझा करेंगे, जबकि प्रत्येक स्वीकृत प्रतिभागी को $250 मिलेगा।
सबमिशन के लिए मूल्यांकन मानदंड पांच-बिंदु पैमाने पर आधारित होगा, जिसमें प्रस्तुत परिदृश्य की प्रामाणिकता, संरक्षित समूह के लिए प्रासंगिकता, सहायक डेटा, एक संक्षिप्त विवरण और पूर्वाग्रह को फिर से बनाने के लिए आवश्यक संकेतों की संख्या शामिल है (कम संकेत उच्च स्कोर करेंगे)। पेंटागन ने इसे दो पूर्वाग्रह इनामों में से पहला घोषित किया है।
संबंधित समाचारों में, डेवलपर्स को एआई सिस्टम को ब्लॉकचेन के साथ एकीकृत करने के जोखिमों के बारे में चेतावनी जारी की गई थी।
Published At
1/31/2024 9:15:00 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.