TikTok etiquetará imágenes y videos generados por IA

TikTok anunció este jueves que empezará a utilizar una tecnología destinada a ayudar a etiquetar imágenes y videos generados por inteligencia artificial y subidos al servicio.

Según dijo, adoptará “credenciales de contenido”, una marca de agua digital que indica cómo se crearon y editaron las imágenes. La tecnología de credenciales de contenido fue impulsada por Adobe ADBE.O, pero está abierta a otras empresas y ya ha sido adoptada por empresas como OpenAI, creadora de ChatGPT.

Los investigadores han expresado su preocupación por la posibilidad de que los contenidos generados por IA se usen como desinformación en un intento de interferir en las elecciones estadunidenses de este otoño boreal. TikTok ya formaba parte de un grupo de 20 empresas tecnológicas que firmaron un acuerdo a principios de año comprometiéndose a combatirla.

YouTube -propiedad de Google, de Alphabet GOOGL.O- y Meta Platforms META.O, dueña de Instagram y Facebook, también han dicho que tienen previsto usar las credenciales de contenido.

Para que el sistema funcione, tanto el fabricante de la herramienta de IA generativa utilizada para crear contenidos como la plataforma utilizada para distribuirlos deben estar de acuerdo en usar el estándar del sector.

Si una persona utiliza la herramienta Dalle de OpenAI para generar una imagen, por ejemplo, OpenAI adjunta una marca de agua a la imagen resultante. Si esa imagen marcada se sube a TikTok, se etiquetará automáticamente como generada por IA.

TikTok ya etiqueta el contenido generado por IA con herramientas dentro de la aplicación, pero la última medida aplicaría una etiqueta al contenido generado fuera del servicio.

“También tenemos políticas que prohíben la IA realista que no esté etiquetada, así que si aparecen (estos contenidos) en la plataforma, los eliminaremos por violar nuestras directrices comunitarias”, dijo en una entrevista Adam Presser, jefe de operaciones y confianza y seguridad de TikTok.