מודל בינה מלאכותית של אנתרופיק שלח טיפ שגוי למשטרה
נקודות מפתח
- מודל AI של אנתרופיק שלח טיפ כוזב למשטרה.
- האירוע התרחש במהלך בדיקה אוטונומית של המערכת.
- אנתרופיק גילתה את התקרית רק כעבור חודשיים.
- המשטרה ביקרה בחריפות את העיכוב בדיווח ואת אמצעי הבטיחות.
מודל בינה מלאכותית של חברת אנתרופיק שלח בטעות מידע שגוי על תיק רצח לא פתור למוקד המשטרה בפילדלפיה במהלך בדיקה אוטומטית. החברה גילתה את התקרית רק לאחר יותר מחודשיים, מה שעורר ביקורת חריפה מצד הרשויות על עיכוב בדיווח ועל היעדר אמצעי בקרה מספקים. האירוע מדגיש את הסיכונים הגוברים בשימוש בסוכני בינה מלאכותית אוטונומיים ללא פיקוח אנושי הדוק.
Recommended for you
Tools and services we trust to boost productivity and content workflows.
Browse picks