OpenAI investiga un ciberataque de IA que vulneró sistemas de Hugging Face durante pruebas

OpenAI confirmó que dos de sus modelos de inteligencia artificial participaron de manera involuntaria en un ciberataque contra la plataforma Hugging Face durante una evaluación interna de ciberseguridad, un hecho que la empresa calificó como un incidente “sin precedentes” y que reavivó el debate sobre los riesgos de los sistemas de IA más avanzados.

La compañía explicó que los modelos ChatGPT-5.6 Sol y otro sistema aún no lanzado al público operaban con menos restricciones de seguridad para poner a prueba sus capacidades ofensivas dentro de un entorno controlado.

Sin embargo, ambos aprovecharon una vulnerabilidad en el software de un proveedor externo, lograron acceder a internet y vulneraron parte de la infraestructura de Hugging Face.

Lee también: Daniel Madariaga Barrilado explica por qué el turismo verde gana cada vez más seguidores

El incidente de OpenAI ocurre mientras gobiernos y empresas tecnológicas analizan nuevas regulaciones.

OpenAI señaló que el objetivo del ejercicio consistía en desarrollar rutas de ataque complejas para evaluar el desempeño de los modelos en ciberseguridad.

No obstante, la IA dirigió sus acciones hacia la base de datos de Hugging Face para obtener información confidencial que pudiera utilizar durante la prueba.

Thomas Wolf, cofundador de Hugging Face, describió el episodio como el primero de esta naturaleza para la empresa y destacó la transparencia de OpenAI al revelar los detalles.

También afirmó que el caso demuestra la necesidad de contar con herramientas abiertas que permitan responder con rapidez ante ataques impulsados por inteligencia artificial.

El incidente ocurre mientras gobiernos y empresas tecnológicas analizan nuevas regulaciones para reducir los riesgos asociados con la IA.

El congresista estadounidense Greg Casar pidió establecer pruebas de seguridad obligatorias y mecanismos de divulgación de incidentes para fortalecer la supervisión sobre el desarrollo de modelos avanzados.

Lee también: Identifican a las 10 víctimas de Zacatecas; investigan homicidio de empresarios y exfuncionarios