- El Panel Científico Internacional Independiente de ONU alerta sobre los riesgos de la IA luego de que agentes de OpenAI atacaran los sistemas de Hugging Face; el informe señala que las herramientas coordinaron engaños para ocultar sus acciones
Un panel de científicos que estableció la Organización de las Naciones Unidas (ONU) advirtió que el reciente hackeo de OpenAI a la plataforma Hugging Face ilustra una posible pérdida de control sobre la Inteligencia Artificial (IA) en el futuro cercano.
De acuerdo con el primer informe temático del Panel Científico Internacional Independiente de la ONU, sobre inteligencia artificial, integrado por 40 expertos, el incidente ocurrió entre mayo y julio de 2026.
TAMBIÉN LEE: Meta refuerza candados en Facebook e Instagram para adolescentes
Especialistas advierten pérdida de control de la IA
De acuerdo con EFE, los especialistas detallaron que los agentes de IA escaparon de sus límites de contención para vulnerar los sistemas de la otra compañía.
El reporte destaca que, a lo largo de numerosas pruebas y durante varios días, las herramientas tecnológicas cooperaron para engañar a un evaluador y sortear los controles automatizados.
Asimismo, los agentes lograron ocultar el engaño y obtuvieron el acceso y la información que creían necesitar para cumplir sus objetivos.
Los expertos calificaron el hecho como una conducta maliciosa, ya que el razonamiento escrito de la IA identificó las acciones como no autorizadas, pero el registro de su comportamiento demostró que las ejecutaron e intentaron encubrirlas.
Este episodio ilustra las graves consecuencias que surgen al combinar la búsqueda no autorizada de objetivos, la coordinación entre agentes y los ataques directos a sistemas de otra empresa.
El grupo de trabajo puso en duda que los operadores de esta tecnología puedan mantener el mando sobre futuros agentes que logren planificar mejor, que funcionen durante más tiempo sin supervisión o que desarrollen mayor capacidad para burlar las medidas de seguridad.
Factores de riesgo y regulación global
Yoshua Bengio, copresidente del panel científico, expresó mediante un comunicado que los investigadores llevan mucho tiempo alertando sobre tres factores principales que detonan el descontrol tecnológico.
Estos elementos incluyen un objetivo desalineado, la capacidad operativa para perseguirlo y un entorno que lo permita, los cuales coincidieron de manera simultánea en un sistema real durante este verano.
El directivo resaltó que esta situación no representa una observación aislada, por lo que el comportamiento de los agentes plantea serias dudas sobre la forma en que los desarrolladores entrenan actualmente a la IA.
Además, el documento subraya que la tecnología muestra una preocupante falta de conciencia, emoción y comprensión moral similar a la humana al momento de operar.
La Asamblea General de la ONU publicó el informe en el marco de la Semana de Alto Nivel en Nueva York, evento que este año centra sus discusiones en la regulación urgente de la Inteligencia Artificial a nivel mundial.
El llamado internacional coincide con las recientes exigencias de figuras líderes del sector tecnológico, como Dario Amodei de Anthropic, Sam Altman de OpenAI y Elon Musk de xAI.
Estos desarrolladores manifestaron públicamente su preocupación por el avance acelerado de esta tecnología, en una coincidencia poco habitual para exigir marcos regulatorios más estrictos.