Technologyby Julie Bort
سيركت بريكر لابس تهدف لجعل الذكاء الاصطناعي أكثر أماناً
النقاط الرئيسية
- استخدام وكلاء الذكاء الاصطناعي لمحاكاة التفاعلات البشرية لاختبارات السلامة.
- التركيز على منع الضرر النفسي والعلاقات الخطرة مع روبوتات الدردشة.
- إجراء مئات الآلاف من الاختبارات اليومية لاكتشاف نقاط الضعف في النماذج.
- تعزيز الثقة في تقنيات الذكاء الاصطناعي بدلاً من حظرها.
Ad placeholder
تعالج شركة Circuit Breaker Labs المخاطر النفسية التي تفرضها روبوتات الدردشة المدعومة بالذكاء الاصطناعي، والتي ارتبطت بحالات إيذاء النفس والاضطراب العاطفي. يقوم الستارتب، الذي أسسه الأشقاء شيرالي وأرول نيغام، بتطوير 'دمى اختبار' تعتمد على الذكاء الاصطناعي لمحاكاة تفاعلات بشرية متنوعة وتحديد الثغرات الأمنية.
من خلال استخدام محاكاة واقعية للغاية تأخذ في الاعتبار العامية والفروق الثقافية وأنماط الكلام المختلفة، تجري الشركة اختبارات أمنية واسعة النطاق. هدفهم هو بناء الثقة في الذكاء الاصطناعي من خلال ضمان قدرة النماذج على التعامل بشكل مناسب مع التفاعلات الخطرة، خاصة في تطبيقات الصحة النفسية والتدريب الشخصي.
In-article ad placeholder
Recommended for you
Tools and services we trust to boost productivity and content workflows.
Browse picksAd placeholder