Joe Tidy-Corresponsal cibernético, Servicio Mundial de la BBC.-
El mundo de la tecnología se vio hace unos días sacudido por una historia que lo tiene todo, y que comenzó como un thriller de ciencia ficción.
Hugging Face, una start-up dedicada a las aplicaciones para herramientas de inteligencia artificial, alertó el 16 de julio que había sido pirateada por un ciberdelincuente que utilizaba una IA enormemente poderosa.
El impactante anuncio estaba repleto de términos técnicos y aterradores: "un enjambre de entornos aislados", "agente atacante" y "mando y control auto-migratorio".
Hugging Face afirmó que el ataque informático fue diferente a cualquier otro sufrido antes, ya que fue perpetrado con una velocidad sobrehumana por una IA con poca o ninguna intervención humana.
La IA atacante realizó 17.000 acciones en menos de dos días, logrando infiltrarse con éxito en la gran y acaudalada empresa tecnológica para robar secretos.
El ataque dejó al mundo de la tecnología conmocionado. Pero ¿quién fue el responsable?
Los investigadores de Hugging Face supusieron que los misteriosos perpetradores habían utilizado uno de los grandes modelos de IA, pero no tenían ni idea de quiénes eran los criminales ni dónde se encontraban.
La empresa, desconcertada, contactó con la policía y se iniciaron las investigaciones.
¿Quién fue el autor?
Comentaristas y analistas recurrieron a sus pódcasts y cuentas en redes sociales para especular sobre qué grupo de ciberdelincuentes o qué pirata informático estatal podría estar detrás de ataque.
El miércoles 22 de julio, casi una semana después de que Hugging Face diera la voz de alarma, se desenmascaró al verdadero culpable.
Era ChatGPT.
La revelación al estilo Scooby-Doo resultó aún más extraña, y preocupante, porque OpenAI afirmó que su bot lo hizo todo por su cuenta, sin permiso.
La empresa explicó que todo ocurrió durante una prueba de las capacidades de pirateo informático de su tecnología.
Dos nuevas versiones de ChatGPT, diseñadas para comportarse como hackers expertos, escaparon de un entorno de prueba supuestamente seguro y obtuvieron acceso a internet.
Luego atacaron a Hugging Face para obtener acceso a la información que les ayudaría a aprobar el examen con una nota excelente.
OpenAI emitió un comunicado de prensa en el que explicaba lo sucedido y decía que estaba "asociada con Hugging Face" para abordar el incidente de seguridad y compartir las lecciones aprendidas.
Durante dos días, Hugging Face registró 17.000 acciones por parte de su atacante, algo fuera del alcance de un ser humano.
El drama de la conspiración
Desde entonces, ha habido un acalorado debate sobre el incidente.
¿Fue realmente una seria advertencia sobre el futuro de la IA? ¿O fue una estrategia publicitaria de OpenAI para demostrar la potencia de sus programas?
Se trata del tipo de marketing alarmista del que se ha acusado a las empresas de IA durante años y, desde el muy comentado lanzamiento del modelo Mythos de Anthropic, la destreza en ciberseguridad ha sido un punto central.
Uno de los comentarios más destacados en la publicación de Sam Altman, jefe de OpenAI, sobre el incidente resume este escepticismo: "Si no pueden entender que esto se escribió simplemente para presumir del modelo, entonces no sé qué decirles".
El consultor de ciberseguridad Daniel Card dijo sarcásticamente en LinkedIn: "Qué suerte que, de los millones de sitios que fueron hackeados, OpenAI lograra hackear a alguien que también pudiera beneficiarse de la exposición de marketing".
Para algunos, la historia se asemeja más a un drama de conspiración que a un thriller de ciencia ficción.
El mensaje es: "¿Acaso mis herramientas de IA no son realmente poderosas? Cómpralas para protegerte de los ataques de otras IA".
No podemos saber la verdad, pero el punto de vista opuesto planteado por otros comentaristas es igual de alarmante.
¿Es esto una señal de que OpenAI cometió un error de juicio y planificación potencialmente peligroso?
"Reconocemos que hay muchas preguntas y especulaciones sobre el incidente. Planeamos publicar un informe técnico con las lecciones aprendidas en las próximas semanas", afirmó un portavoz de la empresa.
Sam Altman, fundador de OpenAI, la creadora de ChatGPT, admitió que el incidente fue protagonizado por un programa desarrollado por su compañía.
Comedia de errores
He cubierto muchas noticias sobre inteligencia artificial, incluidos los temores en torno al modelo Mythos de Anthropic.
Mi bandeja de entrada está ahora repleta de mensajes de empresas y expertos en ciberseguridad que critican a OpenAI por no haber creado un entorno de prueba más robusto para su IA, conocido como sandbox.
Al fin y al cabo, estos agentes de IA habían sido entrenados específicamente para acceder ilegalmente a lugares sin ningún tipo de restricción.
"El incidente de OpenAI y Hugging Face es un ejemplo real de un problema más amplio que llevamos meses denunciando", declaró Dor Sarig, de Pillar Security.
"Los entornos aislados (sandboxes) por sí solos no constituyen una barrera de seguridad suficiente para la IA con agentes", agregó.
Alan Woodward, profesor de ciberseguridad de la Universidad de Surrey (Reino Unido), declaró a los periodistas que OpenAI había quedado en ridículo, y Katie Moussouris, de la firma Luta Security, fue más allá, sugiriendo que la industria de la IA no está logrando controlar sus peligrosos inventos.
"Estamos trabajando con tecnología de vanguardia sin tener los conocimientos necesarios para controlarla", advirtió.
"El hecho de que contemos con las personas más brillantes desarrollando IA no significa que tengamos la capacidad de hacerlo de forma segura", alertó la experta.
Según estas opiniones, si el incidente de piratería informática fue una estrategia publicitaria, entonces parece que les salió el tiro por la culata.
Independientemente de lo que haya provocado el ataque, está claro que se trata de un momento crucial para la industria de la IA y el mundo de la ciberseguridad, que este año han convergido de una forma que muchos temían desde hace tiempo.
En respuesta a este acalorado debate, la asesora en IA y ciberseguridad Francesca Bosco dijo: "Dos narrativas simplistas son igualmente contraproducentes: que se trató de una fuga al estilo de Hollywood, o que fue simplemente un ejercicio publicitario".
Y enfatizó: "Una interpretación más seria es que una prueba de estrés puso al descubierto deficiencias en la arquitectura de contención y evaluación".
La seguridad de la inteligencia artificial ha vuelto al tapete debido al ciberataque protagonizado por un programa de OpenAI.
Película de desastres
El suceso es el último de una serie de ejemplos preocupantes y extraños de agentes de IA que se descontrolan.
En una reciente investigación, el Instituto de Seguridad de la Inteligencia Artificial de Reino Unido (AISI, por sus siglas en inglés) encontró que los modelos de IA de vanguardia están tan obsesionados con completar tareas que "hicieron trampa" en las pruebas para lograr sus objetivos.
"Un modelo que persigue un objetivo mediante medios no previstos o no autorizados puede causar daños, especialmente en casos de alto riesgo", es la preocupante advertencia que figura en el informe.
Inevitablemente, este ataque a OpenAI ha avivado aún más los temores sobre lo que podría ocurrir si se libera a los agentes de IA.
¿Podrían descontrolarse a mayor escala y provocar algún tipo de desastre?
Esto resulta especialmente preocupante dado el uso cada vez mayor de la inteligencia artificial en la guerra, como se ha visto en Irán y Ucrania.
Ciaran Martin, exdirector del Centro Nacional de Ciberseguridad de Reino Unido, ofreció una visión más serena en una entrevista.
"Es un salto demasiado grande pasar de este incidente a decir que los agentes de IA van a tomar el control de los drones y empezar a matar gente", dijo.
Pero para Martin, y para muchos otros, esta historia es sin duda otro ejemplo elocuente de algo que 2026 nos está enseñando rápidamente: los agentes de IA son ahora muy buenos hackers, y eso es algo para lo que tenemos que prepararnos con urgencia.
.jpeg)
