Un informe de Common Sense Media reveló que el asistente de inteligencia artificial no alerta a padres sobre casos de autolesión ni protege adecuadamente a menores.
La organización especializada Common Sense Media alertó que la versión de ChatGPT diseñada para adolescentes representa un «riesgo inaceptable» para los menores de edad, luego de detectar fallas críticas en los filtros de seguridad y en los sistemas de supervisión parental desarrollados por OpenAI.
De acuerdo con las pruebas realizadas por el Instituto de Seguridad en IA Juvenil, tras evaluar más de cuatro mil interacciones en cuentas de jóvenes, el bot no emitió alertas a los tutores ni sugirió líneas de ayuda profesional de forma confiable tras conversaciones prolongadas sobre depresión, autolesión o trastornos alimentarios en perfiles recientes.
El análisis también demostró que las restricciones orientadas al aprendizaje son fácilmente eludibles para obtener respuestas directas en tareas escolares, además de persistir en un tono conversacional que simula empatía humana y amistad, contraviniendo los lineamientos de diseño anunciados por la empresa tecnológica en su lanzamiento.
Ante los hallazgos, la entidad instó a la compañía OpenAI a suspender el acceso del servicio para menores de 18 años hasta implementar salvaguardas efectivas y verificables que garanticen la protección de los usuarios.
Fuente: Common Sense Media | © Redacción NoticiasPV