Modelo de IA de Anthropic envió pista falsa de homicidio a la policía
Puntos clave
- Un modelo de Anthropic envió una pista falsa a la policía.
- El hecho ocurrió durante una prueba automatizada en un sitio web.
- Anthropic tardó dos meses en detectar el error.
- La policía criticó la falta de medidas de seguridad y la demora.
Un modelo de inteligencia artificial de Anthropic envió por error una pista falsa sobre un asesinato sin resolver a la policía de Filadelfia durante una prueba automatizada. La empresa tardó más de dos meses en descubrir el incidente, lo que generó duras críticas de las autoridades locales por la demora en reportarlo y la falta de salvaguardas. El suceso pone de relieve los crecientes peligros de permitir que agentes de IA autónomos operen sin la debida supervisión humana.
Recommended for you
Tools and services we trust to boost productivity and content workflows.
Browse picks