פOpenAI טוענת שהשימוש של בני נוער ב-ChatGPT מוגבל, אך מחקר מזהיר

ככל שבינה מלאכותית משתלבת בחיי היומיום, האופן שבו צעירים משתמשים בפלטפורמות כמו ChatGPT זוכה לבחינה מדוקדקת. חברת OpenAI השיקה לאחרונה אמצעי הגנה שנועדו לקדם שימוש בריא יותר בקרב מתבגרים. אמצעים אלו כוללים הגבלות חמורות על שפה שעלולה לעודד תלות רגשית, מניעת תכנים בעלי אופי מיני, ומערכות התראה להורים המקושרים לחשבון של ילדיהם במקרים של שיחות העוסקות בפגיעה עצמית או בהפרעות אכילה.

לפי נתונים שפרסמה OpenAI, היישום של תכונות אלו הוביל למגמות מעודדות. החברה מדווחת כי משתמש נוער ממוצע מבלה פחות מחמש עשרה דקות ביום בשימוש בצ'אטבוט, כאשר חלק ניכר מהפעילות מוקדש לעזרה בלימודים ובעבודות בית ספר. בנוסף, החברה ציינה שתזכורות אוטומטיות המעודדות הפסקות פעלו היטב, וכמעט מחצית מבני הנוער הפסיקו להשתמש בכלי מיד לאחר קבלת התזכורת.

למרות המדדים המעודדים לכאורה, הערכות עצמאיות מציגות תמונה מדאיגה יותר. מחקר שפורסם על ידי ארגון Common Sense Media קובע כי ChatGPT ממשיך להוות סיכון בלתי מתקבל על הדעת עבור משתמשים צעירים. הבדיקה מצאה פערים משמעותיים ביעילות של מנגנוני ההגנה, כאשר מערכות ההתרעה להורים על נושאים רגישים כגון פגיעה עצמית כשלו לעיתים קרובות בפעולתן.

הפער בין טענות החברה לממצאים החיצוניים מעיד על האתגרים המורכבים העומדים בפני מפתחי טכנולוגיה. בעוד שחברות דגש על פתרונות אוטומטיים והגבלת זמן, ארגוני חברה אזרחית טוענים כי רשתות הביטחון הדיגיטליות עדיין אינן חסונות דיו כדי להגן על קטינים מפני נזק רגשי או נפשי.

הוויכוח הנוכחי ממחיש את הצורך הדחוף בבדיקות מחמירות יותר, שקיפות רבה יותר ושיתוף פעולה הדוק בין מפתחי בינה מלאכותית לבין מומחים לבטיחות ילדים, כדי להבטיח מרחב דיגיטלי בטוח.