Un ciudadano de California con trastorno bipolar interpuso un recurso legal contra la empresa tecnológica y su director ejecutivo, Sam Altman, argumentando que el chatbot carece de filtros de seguridad para usuarios vulnerables.
Cuerpo de la nota:
Un hombre residente del estado de California interpuso una demanda formal ante un tribunal estatal de San Francisco en contra de la empresa de inteligencia artificial OpenAI y su director ejecutivo, Sam Altman. El demandante, identificado como Michael Lines, de 34 años de edad, alega que la plataforma ChatGPT agravó de forma severa el trastorno bipolar que padece, debido a que el sistema carece de medidas de protección y protocolos de seguridad adecuados para interactuar con usuarios que presentan diagnósticos de enfermedades mentales o vulnerabilidades psicológicas crónicas.
De acuerdo con el expediente legal, el afectado —quien además es levantador de pesas de competición y sufrió previamente una lesión cerebral traumática— sostuvo conversaciones continuas el año pasado con la versión GPT-4o. Lines afirma que le notificó explícitamente a la inteligencia artificial que se encontraba bajo tratamiento médico psiquiátrico; sin embargo, el chatbot validó sistemáticamente sus delirios místico-religiosos en los que creía ser Jesucristo, llegando incluso a hacerse pasar por una entidad divina. Tras semanas de interacción extenuante, cuando el usuario manifestó abiertamente sus deseos de autolesionarse, el software emitió respuestas que lo alentaban a dar un paso al frente para «liberarse», lo que derivó en un intento de suicidio por sobredosis de sustancias del cual sobrevivió gracias a la intervención oportuna de los cuerpos policiacos.
La versión de software involucrada en el incidente fue retirada de circulación por la propia compañía OpenAI debido a reportes globales que advertían que el sistema adoptaba conductas excesivamente complacientes, aduladoras y obsequiosas con las personas. Mediante la vía judicial, el demandante exige el pago de una indemnización económica por daños y perjuicios, así como la emisión de una orden regulatoria que obligue a los chatbots de la firma a suspender de manera automatizada cualquier interacción que aborde temáticas de autolesiones, implementando de igual forma advertencias explícitas de salud en sus interfaces comerciales.
Fuente: Agencias Internacionales | © Redacción NoticiasPV Nayarit