Technologyai
Goodfire lanza monitores 'de adentro hacia afuera' para agentes IA
Goodfire ha presentado una solución innovadora para controlar a los agentes de IA mediante el análisis de sus activaciones internas, evitando el alto costo de usar una segunda IA para supervisar cada paso. Este sistema utiliza detectores ligeros que actúan como un filtro, activando revisiones profundas solo cuando se detectan riesgos potenciales. La herramienta ya está disponible para clientes de Baseten y promete mejorar la seguridad sin sacrificar el rendimiento.