OpenAI dice que uso de ChatGPT en jóvenes es limitado pero advierten riesgos

A medida que la inteligencia artificial se integra profundamente en la vida cotidiana, la forma en que los jóvenes interactúan con plataformas como ChatGPT ha generado un intenso escrutinio global. OpenAI implementó recientemente salvaguardas especializadas destinadas a promover un uso más saludable entre los adolescentes. Estas medidas incluyen restricciones estrictas sobre el lenguaje que podría fomentar la dependencia emocional, límites al contenido sexualizado y sistemas de notificación diseñados para alertar a los padres si un menor discute temas relacionados con autolesiones o trastornos alimenticios.

Según declaraciones recientes de OpenAI, el despliegue inicial de estas funciones ha arrojado tendencias alentadoras. La empresa informa que el usuario adolescente promedio pasa menos de quince minutos al día interactuando con el chatbot, y una parte significativa de esa actividad se dedica al aprendizaje y al apoyo académico. Además, OpenAI señaló que los recordatorios automáticos para tomar descansos han demostrado ser eficaces, ya que casi la mitad de los usuarios adolescentes dejan de usar la herramienta poco después de recibir el aviso.

A pesar de estas métricas tranquilizadoras, las evaluaciones independientes presentan una perspectiva marcadamente diferente. La investigación publicada por la organización sin fines de lucro Common Sense Media sugiere que ChatGPT sigue representando un riesgo inaceptable para los usuarios menores de edad. La indagación evaluó la fiabilidad de las protecciones de OpenAI y encontró vulnerabilidades críticas, destacando que los mecanismos destinados a alertar a los padres sobre conversaciones sensibles a menudo no funcionan correctamente.

La divergencia entre las afirmaciones corporativas y los hallazgos independientes subraya los complejos desafíos que enfrentan los desarrolladores de tecnología al crear productos para poblaciones vulnerables. Mientras las empresas enfatizan la utilidad de las intervenciones automatizadas y los límites de uso, las organizaciones de la sociedad civil argumentan que las redes de seguridad digital aún no son lo suficientemente sólidas como para proteger a los menores de posibles daños emocionales o psicológicos.

En última instancia, el debate en curso resalta la necesidad urgente de pruebas más rigurosas, auditorías transparentes y una colaboración estrecha entre los creadores de inteligencia artificial y los defensores de la seguridad infantil.