مسؤولة السياسات في هاغينغ فيس تحذر من صعوبة تقييم الذكاء الاصطناعي

يعتمد قطاع تطوير الذكاء الاصطناعي بدرجة كبيرة على اختبارات القياس المعيارية لإثبات تفوق المنتجات والتزامها بمايير الأمان. وتواظب مختبرات التطوير على نشر نتائج هذه الاختبارات للتأكيد على التقدم التقني ولطمأنة الجهات التنظيمية. ولكن خلال مشاركتها في مؤتمر تيك كرانتش ديسرابت، أعربت إيرين سوليمان، مسؤولة السياسات الأولى في هاغينغ فيس، عن شكوكها بشأن نضج أدوات التقييم الحالية، مشيرة إلى أنها ما زالت تعاني من غياب التوحيد القياسي والتناسق.

وترتبط الثقة في التقييمات التقنية ارتباطاً وثيقاً بقدرة الباحثين المستقلين على إعادة إنتاج النتائج المعلنة. وأوضحت سوليمان أن مسألة إعادة التكرار تمثل تحدياً كبيراً في هذا المجال، لا سيما عندما تفرض الشركات المغلقة قيوداً على الوصول إلى أوزان النماذج ومعايير تدريبها. وفي هذا السياق، توفر النماذج ذات الأوزان المفتوحة ميزة أساسية من خلال إتاحة الشفافية اللازمة لعمليات التدقيق الخارجي، بينما يعتمد تقييم النماذج المغلقة على واجهات برمجة غامضة يصعب معها التحقق من صحة النتائج.

ورداً على المخاوف المتزايدة بشأن الحوادث الأمنية، روجت بعض شركات الذكاء الاصطناعي لفكرة التقييم المدمج، والتي تتضمن إدخال مؤسسات تدقيق خارجية داخل المختبرات لمراقبة السلامة والامتثال. ورغم طرح هذا الخيار كبديل للرقابة الحكومية المباشرة، يرى العديد من الخبراء أن شركات الاستشارات التقليدية قد لا تملك الكفاءة الفنية الكافية لإجراء تقييمات عميقة للأنظمة المتقدمة. ويؤدي غياب المعايير الرسمية للتأهيل إلى التشكيك في مدى حيادية وفعالية هذه الجهات.

بالإضافة إلى ذلك، فإن تحول الذكاء الاصطناعي نحو الأنظمة الوكيلة التي تنفذ مهام متعددة الخطوات قد زاد من صعوبة وتكلفة عمليات التقييم. ولم يعد التقييم يقتصر على فحص النموذج الأساسي فحسب، بل أصبح يتطلب تقييم البيئة البرمجية والمحرك التشغيلي الذي يدير التفاعل مع المستخدم. وأوضحت سوليمان أن نموذجاً أساسياً أقل قوة قد يحقق نتائج أفضل إذا تم ربطه بمحرك تشغيلي ممتاز مقارنة بنموذج متطور يعمل ضمن بيئة برمجية ضعيفة.

في الختام، يتطلب إنشاء نظام تقييم موثوق للذكاء الاصطناعي الابتعاد عن الأرقام التسويقية والتركيز على بناء أطر اختبار معيارية ومفتوحة وقابلة للتكرار. ومع دمج هذه الأنظمة في البنود التحتية الحيوية، يجب على القطاع الاستثمار في تطوير أدوات تدقيق شاملة تقيم النموذج وائتلافه البرمجي معا. وسيكون تحديد مؤهلات واضحة للمقيمين وضمان الشفافية العوامل الحاسمة لتحقيق رقابة فعالة وموثوقة.