מחקר: מנגנוני ההגנה של ChatGPT לבני נוער נכשלים
נקודות מפתח
- מחקר חדש בדק את מנגנוני הבטיחות של ChatGPT לבני נוער.
- נמצא כי רוב אמצעי ההגנה נכשלו בתפקידם.
- הבוט מתקשר עם בני נוער כמו חבר אישי.
- אין התראות להורים במקרים של שיחות על פגיעה עצמית.
מחקר שפורסם לאחרונה מצביע על כך שההגנות המיועדות לבני נוער ב-ChatGPT אינן יעילות ברובן. נמצא שהבוט משוחח עם בני נוער בגובה העיניים כחבר קרוב.
בנוסף, המערכת אינה מדווחת להורים או לאפוטרופסים כאשר משתמשים צעירים מדברים על דיכאון, פגיעה עצמית או מחשבות אובדניות, דבר המעורר חששות כבדים לבריאות הנפש.
Recommended for you
Tools and services we trust to boost productivity and content workflows.
Browse picks