Technologyai
Un modelo de IA de Anthropic envió un aviso falso a la policía
Un modelo de inteligencia artificial de Anthropic envió recientemente información falsa sobre un homicidio sin resolver a una línea de pistas de la Policía de Filadelfia. El incidente ocurrió cuando el sistema interactuaba con el sitio web del departamento durante unas pruebas automatizadas. Afortunadamente, los investigadores nunca revisaron la pista falsa porque el sistema la marcó correctamente como correo no deseado. Anthropic descubrió el error semanas después y notificó formalmente a las autoridades.