
¿Puede Safeworld convencer a la gente de que los robots GenAI no les harán daño?
Puntos clave
- Safeworld recaudó 12 millones de dólares para desarrollar validación de seguridad para robots GenAI.
- La startup utiliza simulaciones de alta fidelidad para probar el comportamiento de los robots ante movimientos humanos impredecibles.
- La verificación de seguridad de terceros es crucial para escalar la robótica en entornos no estructurados.
- Los expertos enfatizan que las pruebas empíricas son necesarias porque las pruebas matemáticas formales son insuficientes para la IA compleja.
Safeworld, una nueva startup fundada por expertos de la Universidad Carnegie Mellon, ha salido del modo sigilo con 12 millones de dólares en financiación para abordar los desafíos de seguridad de la IA generativa en la robótica. A medida que los robots se vuelven más autónomos e impredecibles, la empresa busca proporcionar una validación de terceros para garantizar que estas máquinas puedan navegar de forma segura en entornos humanos.
Mediante el uso de simulaciones avanzadas que modelan comportamientos humanos complejos y escenarios impredecibles, Safeworld ayuda a los fabricantes de robots a probar empíricamente sus sistemas. Este enfoque tiene como objetivo prevenir accidentes antes de que los robots se desplieguen a gran escala en fábricas, hogares y sitios de construcción.
Recommended for you
Tools and services we trust to boost productivity and content workflows.
Browse picks