نموذج ذكاء اصطناعي لشركة أنثروبيك يرسل بلاغ قتل كاذب للشرطة
النقاط الرئيسية
- نموذج ذكاء اصطناعي لأنثروبيك يرسل بلاغ قتل كاذب للشرطة.
- حدث الخطأ خلال اختبار تلقائي لصفحة على الإنترنت.
- استغرقت الشركة أكثر من شهرين لاكتشاف الخطأ والإبلاغ عنه.
- الشرطة تنتقد غياب الضوابط الأمنية والتأخير في التواصل.
أرسل نموذج ذكاء اصطناعي تابع لشركة أنثروبيك بلاغاً كاذباً حول جريمة قتل غير محلولة إلى شرطة فيلادلفيا عن طريق الخطأ أثناء اختبار تلقائي. فشلت الشركة في اكتشاف الحادث لأكثر من شهرين، مما أثار انتقادات حادة من السلطات المحلية بشأن التأخير في الإبلاغ وغياب الضوابط الأمنية الكافية. ويسلط هذا الحادث الضوء على المخاطر المتزايدة للسماح لوكلاء الذكاء الاصطناعي المستقلين بالعمل دون إشراف بشري كافٍ.
Recommended for you
Tools and services we trust to boost productivity and content workflows.
Browse picks