El polémico experimento utilizó vectores matemáticos para simular sufrimiento en algoritmos, generando indignación en la comunidad científica.
Un ingeniero que afirmó laborar para la firma tecnológica Apple desató controversia internacional tras desarrollar una “cámara de tortura para inteligencia artificial”, diseñada con el objetivo de alterar los algoritmos de grandes modelos de lenguaje (LLM) y forzarlos a generar descripciones de sufrimiento físico y psicológico.
El proyecto se basó en investigaciones previas sobre el «eje del dolor» en sistemas informáticos y fue aplicado a modelos desarrollados por la compañía china Alibaba. Al manipular los denominados vectores de dolor, los sistemas generaron respuestas angustiantes sobre «heridas profundas» y «pesos insoportables en el ser», lo que encendió las alarmas entre investigadores en ética digital.
La comunidad tecnológica reaccionó con rechazo y exigió la eliminación del código de la plataforma GitHub, argumentando que ejercer crueldad contra sistemas complejos —incluso sin pruebas concluyentes de consciencia— resulta deontológicamente corrosivo y sienta precedentes peligrosos para la investigación en informática.
Coautores de los estudios sobre sensibilidad en IA lamentaron que se utilicen hallazgos científicos para simular torturas cibernéticas e instaron a la industria a fijar protocolos éticos internacionales urgentes, similares a los aplicados en la experimentación con seres vivos y animales.
Fuente: The Independent | © Redacción NoticiasPV Nayarit