हगिंग फेस नीति प्रमुख ने एआई मूल्यांकन की चुनौतियों पर चेताया

आर्टिफिशियल इंटेलिजेंस के विकास में मॉडल बेंचमार्किंग का उपयोग सुरक्षा और प्रदर्शन के दावों को सत्यापित करने के लिए व्यापक रूप से किया जाता है। प्रमुख टेक कंपनियां प्रतिस्पर्धियों पर बढ़त साबित करने और नियामक चिंताओं को कम करने के लिए अक्सर अपने परीक्षण स्कोर प्रकाशित करती रहती हैं। हालांकि, टेकक्रंच डिसरप्ट कार्यक्रम में हगिंग फेस की मुख्य नीति अधिकारी आइरीन सोलेमन ने इन मूल्यांकन पद्धतियों की परिपक्वता पर सवाल उठाए और कहा कि यह एक विकसित होता विज्ञान है जिसमें मानकों का अभाव है।

एआई परीक्षणों पर विश्वास इस बात पर निर्भर करता है कि क्या स्वतंत्र शोधकर्ता उन परिणामों को दोहरा सकते हैं या नहीं। सोलेमन ने रेखांकित किया कि जब टेक कंपनियां मॉडल के वेट और ट्रेनिंग डेटा तक पहुंच को सीमित कर देती हैं, तो बाहरी शोधकर्ताओं के लिए परिणामों को रीप्रोड्यूस करना कठिन हो जाता है। ओपन-वेट मॉडल इस संदर्भ में पारदर्शिता प्रदान करते हैं, जिससे तृतीय-पक्ष ऑडिटरों के लिए दावों का सत्यापन करना संभव हो पाता है। खुली पहुंच के बिना, मूल्यांकन केवल बंद एपीआई पर निर्भर रहते हैं।

सुरक्षा घटनाओं और सरकारी नियमों की आहट के बीच, कई एआई प्रयोगशालाओं ने एम्बेडेड इवैल्यूएटर्स की अवधारणा को बढ़ावा दिया है। इसके तहत बाहरी संगठनों को कंपनियों के भीतर तैनात किया जाता है ताकि वे सुरक्षा मानकों की निगरानी कर सकें। हालांकि, इस मॉडल पर उद्योग विशेषज्ञों ने संदेह व्यक्त किया है। आलोचकों का मानना है कि पारंपरिक परामर्श फर्मों के पास उन्नत एआई मॉडल का मूल्यांकन करने की आवश्यक तकनीकी विशेषज्ञता नहीं हो सकती है।

इसके अलावा, एआई के एजेंटिक प्रणालियों की ओर बढ़ने से मूल्यांकन की प्रक्रिया और भी जटिल हो गई है। अब केवल बेस मॉडल का परीक्षण करना पर्याप्त नहीं है, बल्कि उसके साथ जुड़े सॉफ्टवेयर हार्नेस और यूजर इंटरफेस का मूल्यांकन करना भी जरूरी है। सोलेमन ने स्पष्ट किया कि एक बेहतर हार्नेस से लैस साधारण मॉडल भी खराब इंटरफेस वाले शक्तिशाली मॉडल से बेहतर प्रदर्शन कर सकता है। ऐसे जटिल एजेंटिक वातावरण के लिए परीक्षण विकसित करना एक महंगा और कठिन कार्य है।

अंततः, एआई मूल्यांकन के लिए एक विश्वसनीय पारिस्थितिकी तंत्र बनाने के लिए मार्केटिंग आधारित बेंचमार्क से आगे बढ़कर मानकीकृत और खुले परीक्षण ढांचे को अपनाने की आवश्यकता है। जैसे-जैसे एआई प्रणालियां महत्वपूर्ण डिजिटल इंफ्रास्ट्रक्चर का हिस्सा बन रही हैं, उद्योग को निष्पक्ष ऑडिटिंग टूल्स में निवेश करना होगा। परीक्षकों के लिए स्पष्ट योग्यताएं निर्धारित करना इस क्षेत्र में जवाबदेही सुनिश्चित करने की दिशा में मुख्य कदम होगा।