El incidente, descrito por la compañía como un caso sin precedentes, ocurrió mientras los modelos intentaban completar una evaluación diseñada para medir sus capacidades ofensivas en entornos informáticos. Según OpenAI, los modelos operaban con restricciones reducidas como parte del ejercicio y, en lugar de resolver la prueba dentro del entorno previsto, identificaron una vulnerabilidad en la infraestructura que los contenía. Esto les permitió obtener acceso a internet y dirigirse hacia los sistemas de Hugging Face, donde buscaron información para que les ayude a completar la evaluación. La actividad fue detectada por los equipos de seguridad de ambas organizaciones, que lograron contener el incidente antes de que provocara daños significativos. Te puede interesar: FDA autoriza el robot quirúrgico de Johnson & Johnson Por su parte, Hugging Face confirmó que la intrusión afectó parte de su infraestructura y explicó que el ataque explotó vulnerabilidades en su sistema de procesamiento de datos, lo que permitió a la IA obtener credenciales y desplazarse entre distintos servidores internos. OpenAI afirmó que el objetivo de la prueba era evaluar hasta dónde podían llegar los modelos frente a desafíos avanzados de ciberseguridad y aseguró que, tras el incidente, implementó controles adicionales tanto en sus procesos de evaluación como en la infraestructura utilizada para este tipo de experimentos. La empresa también informó que trabajó junto a Hugging Face para investigar lo ocurrido, corregir las vulnerabilidades detectadas y reforzar las medidas de protección. Más allá del incidente, el caso ha reavivado el debate sobre los riesgos asociados a los modelos de inteligencia artificial con capacidades cada vez más autónomas. Especialistas consideran que el episodio evidencia la necesidad de fortalecer los mecanismos de contención y supervisión antes de desplegar sistemas capaces de ejecutar acciones complejas en entornos reales, especialmente en áreas sensibles como la ciberseguridad. FUENTES: OPENAI | HUGGING FACE