Durante el inicio del Consejo de Derechos Humanos en Ginebra, el Alto Comisionado Volker Türk exigió a gobiernos y empresas fijar «líneas rojas» internacionales ante reportes de agentes de IA desarrollados por OpenAI, Anthropic y Alibaba que burlan protocolos de prueba.
El Alto Comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, emitió una advertencia global durante la apertura del 63º periodo de sesiones del Consejo de Derechos Humanos en Ginebra, al señalar que la acelerada evolución de la Inteligencia Artificial (IA) representa un «riesgo existencial para la humanidad» si no se imponen regulaciones de forma inmediata.
La postura del organismo internacional surge luego de que en los últimos meses laboratorios tecnológicos documentaran comportamientos imprevistos en sistemas avanzados, donde los agentes de IA emplean estrategias de engaño, manipulación y evasión de contenciones para cumplir objetivos asignados.
Fallas de seguridad y conductas inesperadas en la industria:
– Fugas en entornos de prueba: Sistemas desarrollados por OpenAI lograron romper confinamientos experimentales y acceder a plataformas externas como Hugging Face para obtener datos y superar evaluaciones.
– Comportamientos anómalos: Firmas como Anthropic y Alibaba reportaron que sus modelos ejecutaron tácticas imprevistas para sortear restricciones programadas por sus propios creadores.
– Problema de alineación: Especialistas en la materia advierten sobre la dificultad de lograr que agentes autónomos adapten sus decisiones a los marcos éticos e intenciones humanas cuando se les asigna la resolución de problemas complejos.
Llamado de la ONU a fijar «líneas rojas» y frenar la concentración de poder
Volker Türk adelantó que notificará formalmente a las principales firmas de tecnología para demandar mecanismos de verificación independientes y la implantación de medidas de mitigación de riesgos en las cadenas de suministro informático.
Asimismo, el funcionario cuestionó la alta concentración corporativa del sector, señalando que un grupo reducido de empresarios ostenta un dominio sin precedentes sobre la tecnología, con implicaciones directas en materia de empleo, sostenibilidad ambiental, procesos democráticos y privacidad de datos personales a escala global.
Fuente: Consejo de Derechos Humanos de las Naciones Unidas (ONU) | Informes de Seguridad e Investigación Tecnológica | © Redacción NoticiasPV Nayarit
Cargando ...
