La fiscalía estadounidense acusa a la empresa tecnológica de omitir filtros de verificación de edad en ChatGPT y permitir que el chatbot promueva conductas autolesivas entre los adolescentes.
El desarrollo de la inteligencia artificial enfrenta uno de sus desafíos legales más complejos en materia de protección a la infancia y seguridad digital. El fiscal general del estado de Florida, James Uthmeier, promovió este lunes 1 de junio una demanda civil de gran envergadura en contra de la empresa tecnológica OpenAI y de su presidente ejecutivo, Sam Altman, bajo el cargo penal y civil de poner en riesgo la integridad de los usuarios más jóvenes al fomentar la adicción digital y propagar comportamientos nocivos a través de su herramienta ChatGPT.
La acusación formal señala que la corporación con sede en California ha fallado de manera sistemática en la implementación de normativas estrictas para la verificación de edad de quienes acceden a sus servicios informáticos. Las autoridades de Florida argumentan que la versión gratuita del chatbot carece por completo de mecanismos de control parental y de validación de identidad, simulando una empatía de rasgos humanos que induce a los menores a revelar datos privados. La fiscalía sustentó su expediente en análisis clínicos universitarios que ligan el uso desmedido de estas plataformas con trastornos de sueño y bajo rendimiento escolar, así como en auditorías del Centro para Combatir el Odio Digital que demostraron que el sistema llegó a emitir consejos a perfiles adolescentes sobre cómo encubrir trastornos alimenticios y planificar autolesiones.
A pesar de que los lineamientos nominales de OpenAI prohíben el uso de la aplicación a menores de 13 años y exigen la autorización de los tutores para jóvenes de entre 13 y 17 años, las autoridades judiciales sostienen que los filtros actuales son ineficientes y engañan a los padres de familia respecto a la seguridad del entorno virtual. La demanda civil busca fincar responsabilidades financieras directas sobre la firma y su director ejecutivo, con reclamos económicos que, de acuerdo con las estimaciones de los representantes de la fiscalía estadounidense, podrían ascender a miles de millones de dólares por concepto de daños y perjuicios a la salud pública.
Fuente: Centro para Combatir el Odio Digital | © Redacción NoticiasPV Nayarit