Jakub Pachocki señaló que la capacidad de automejora en los modelos de IA avanza a un ritmo difícil de controlar y sugirió a las empresas tecnológicas frenar voluntariamente las investigaciones hasta establecer estándares globales de seguridad.
Ejecutivos y especialistas de la industria tecnológica han multiplicado sus advertencias en torno a los riesgos sociales, laborales y de seguridad derivados del acelerado avance de la inteligencia artificial. En este contexto, el científico jefe de OpenAI, Jakub Pachocki, afirmó que la tecnología evoluciona a un ritmo tan acelerado que resulta cada vez más complejo para los seres humanos comprender y supervisar los sistemas con eficacia.
El especialista externó su preocupación a través de un documento publicado el pasado domingo 6 de septiembre, donde enfatizó la necesidad de ejercer extrema precaución ante la integración de capacidades operativas autónomas en las plataformas de última generación.
Automejora recursiva y llamado a desacelerar la industria
De acuerdo con la exposición de Pachocki, los modelos más recientes han adquirido competencias para manipular ordenadores, colaborar de manera autónoma con otros sistemas de inteligencia artificial y ejecutar proyectos de investigación complejos sin requerir supervisión continua.
Alertas y propuestas del científico de OpenAI:
– Automejora sin intervención humana: Advertía que el sector está cerca de consolidar la automejora recursiva, proceso mediante el cual las propias máquinas perfeccionan su código y conocimientos de forma independiente.
– Desaceleración voluntaria: Propuso que los laboratorios tecnológicos apliquen pausas o frenos voluntarios en el lanzamiento de modelos más potentes hasta que la comunidad internacional consolide protocolos de seguridad compartidos.
– Riesgos por falta de preparación: Manifestó su inquietud sobre la falta de preparación global para enfrentar el incremento rápido y sostenido en la capacidad intelectual de los sistemas automatizados.
Posturas del sector tecnológico, empleo y superinteligencia
Las declaraciones de Pachocki se suman a pronósticos emitidos por otros líderes de la industria. Dario Amodei, director ejecutivo de Anthropic PBC, ha advertido previamente sobre el potencial impacto laboral que podría sustituir la mitad de los empleos de nivel inicial. Por su parte, Sam Altman, consejero delegado de OpenAI, reconoció la necesidad de transmitir de mejor manera los beneficios de esta tecnología, mientras que Jensen Huang, director general de Nvidia, celebró la llegada de la Inteligencia General Artificial (AGI, por sus siglas en inglés).
A pesar de las advertencias, el flujo de inversiones hacia el sector se mantiene en niveles récord:
– Implicaciones en ciberseguridad: Compañías como OpenAI y Anthropic optaron por restringir o aplazar los lanzamientos masivos de sus modelos más avanzados (como GPT-6 Astra y Mythos) debido a sus elevadas capacidades operativas y riesgos asociados a la ciberseguridad.
– Financiamiento a laboratorios de investigación: Startups enfocadas en la automejora recursiva han captado sumas millonarias de capital. Inherent, fundada por exinvestigadores de DeepMind, recaudó 50 millones de dólares, mientras que el proyecto Recursive Superintelligence, impulsado por Richard Socher, obtuvo 650 millones de dólares en financiamiento.
– Metas a corto plazo: La propia firma OpenAI mantiene como objetivo operativo consolidar un investigador de inteligencia artificial completamente automatizado en un plazo menor a dos años.
Las discusiones éticas y regulatorias continuarán en el centro del debate internacional conforme las corporaciones tecnológicas avancen en la carrera por dominar la superinteligencia artificial.
Fuente: Declaraciones públicas de OpenAI, Anthropic y Nvidia | © Redacción NoticiasPV Nayarit
Cargando ...
