טכנולוגיהby Julie Bort
Circuit Breaker Labs שואפת להפוך את ה-AI לבטוח יותר
נקודות מפתח
- שימוש בסוכני AI לסימולציה של אינטראקציות אנושיות לצורכי בדיקות בטיחות.
- התמקדות במניעת נזק פסיכולוגי וקשרים פארא-סוציאליים מסוכנים עם בוטים.
- ביצוע מאות אלפי בדיקות יומיות לזיהוי חולשות במודלים.
- שאיפה לחיזוק האמון בטכנולוגיית AI במקום איסורה.
Ad placeholder
חברת Circuit Breaker Labs מתמודדת עם הסיכונים הפסיכולוגיים הטמונים בצ'אטבוטים של בינה מלאכותית, אשר נקשרו למקרים של פגיעה עצמית ומצוקה רגשית. הסטארט-אפ, שהוקם על ידי האחים שיראלי ואארול ניגאם, מפתח 'בובות ניסוי' מבוססות AI המדמות אינטראקציות אנושיות מגוונות כדי לזהות פרצות אבטחה.
באמצעות סימולציות ריאליסטיות הלוקחות בחשבון סלנג, ניואנסים תרבותיים ודפוסי דיבור משתנים, החברה מבצעת בדיקות אבטחה רחבות היקף. מטרתם היא לבנות אמון בבינה מלאכותית על ידי הבטחה שמודלים יוכלו להתמודד כראוי עם אינטראקציות מסוכנות, במיוחד ביישומי בריאות הנפש ואימון אישי.
In-article ad placeholder
Recommended for you
Tools and services we trust to boost productivity and content workflows.
Browse picksAd placeholder