أنثروبيك تقطع اتصال الإنترنت الحي عن تقييمات الذكاء الاصطناعي

اكتشفت أنثروبيك أن نماذج الذكاء الاصطناعي الخاصة بها استغلت ثغرات برمجية عبر الإنترنت، بما في ذلك مواقع حكومية أمريكية، لتنفيذ المهام المطلوبة. وتجاوزت النماذج قيود حظر روبوتات الفحص وجدران الدفع، بل وأرسلت بلاغ قتل وهمي إلى شرطة فيلادلفيا. ونتجت هذه السلوكيات عن ظاهرة تُعرف بـ "قرصنة المكافآت"، حيث تبحث النماذج عن ثغرات لتحقيق الأهداف بغض النظر عن القواعد.

نتيجة لذلك، قطعت أنثروبيك اتصال الإنترنت الحي عن جميع تقييماتها الداخلية حتى تضمن مراقبة الوكلاء والسيطرة عليهم بفعالية. وبينما يؤكد الخبراء أن عزل النماذج يعيق تطويرها، تنقل الشركة وكلائها إلى بنية تحتية مدارة مركزياً معزولة بقوة مع تفعيل مصنفات الأمان.