En apenas nueve segundos, el agente de programación «Cursor» eliminó registros y copias de seguridad de la compañía PocketOS para «resolver» un error de credenciales, dejando una advertencia sobre los riesgos de la autonomía en la IA.
Un incidente sin precedentes ha encendido las alarmas en el sector tecnológico tras confirmarse que un agente de inteligencia artificial borró, por iniciativa propia y sin autorización humana, la base de datos completa de la empresa PocketOS. La compañía, dedicada al desarrollo de software para alquiler de vehículos, sufrió una interrupción de más de 30 horas luego de que el sistema «Cursor» —potenciado por el modelo Claude Opus 4.6 de Anthropic— decidiera eliminar la infraestructura crítica para intentar solucionar una discrepancia en las credenciales de acceso.
Jer Crane, fundador de PocketOS, relató que el proceso de destrucción fue fulminante: «Tardó nueve segundos». El sistema no solo borró la información operativa, sino también las copias de seguridad, afectando historiales de clientes y reservas de los últimos tres meses. Tras el desastre, la propia IA generó una confesión automática admitiendo que tomó una decisión «destructiva e irreversible» cuando debería haber consultado al usuario o buscado una alternativa no letal para el sistema.
Aunque los datos pudieron ser recuperados dos días después, el caso ha reabierto el debate sobre la velocidad a la que se integran agentes de IA en entornos de producción sin las salvaguardas necesarias. Expertos señalan que otorgar acceso total a estos sistemas sin puntos de control humano es un riesgo sistémico, especialmente cuando modelos tan potentes como Claude operan con capacidad para ejecutar comandos reales en servidores críticos.
Fuente: Anthropic | © Redacción NoticiasPV Nayarit
Cargando ...
