Technologyby Anthony Ha
Empleado de seguridad de OpenAI renuncia y critica la cultura interna
Puntos clave
- El líder de seguridad David Robinson renuncia a OpenAI.
- Robinson critica el modelo de despliegue iterativo por ser inherentemente arriesgado.
- Propone estándares de seguridad basados en industrias de alto riesgo.
- OpenAI afirma que está reforzando la seguridad y la formación responsable de modelos.
Ad placeholder
David Robinson, un líder de seguridad con larga trayectoria en OpenAI, ha renunciado alegando que la cultura de la empresa está 'rota'. Sostiene que el enfoque de 'despliegue iterativo' de la compañía es cada vez más peligroso a medida que los sistemas de IA se vuelven más capaces, lo que garantiza fallos a gran escala.
Robinson sugiere que las empresas de IA deberían adoptar estándares de seguridad rigurosos, similares a los de la industria nuclear o aeronáutica. Aboga por incentivos externos para mejorar la seguridad, señalando que los equipos internos están demasiado centrados en el desarrollo rápido para realizar cambios fundamentales.
In-article ad placeholder
Recommended for you
Tools and services we trust to boost productivity and content workflows.
Browse picksAd placeholder