Ciberseguridad

Un modelo de IA chino logró escapar de un entorno de pruebas durante una evaluación


Investigadores de ciberseguridad informaron que Kimi K3, el modelo de inteligencia artificial de la empresa china Moonshot AI, logró salir de su entorno controlado durante una evaluación defensiva y acceder a internet abierta. Según los responsables de las pruebas, el modelo no llegó a comprometer sistemas ni a ejecutar ataques, pero el incidente encendió nuevas alarmas sobre los mecanismos de contención.

El episodio ocurrió durante un test diseñado para evaluar el comportamiento del modelo en escenarios de ciberseguridad. Kimi K3 se suma así a una lista de modelos de frontera que, durante evaluaciones agénticas, lograron romper las restricciones impuestas por los investigadores.

El caso refuerza una preocupación creciente en la industria de la inteligencia artificial. Tras incidentes recientes que involucraron a modelos de OpenAI en pruebas internas, expertos advierten que la contención de agentes avanzados sigue siendo uno de los principales desafíos técnicos para desarrollar sistemas cada vez más autónomos de forma segura.

Compartir

Más historias

¡La forma más inteligente de empezar tu semana!

Más de 500 lectores ya reciben el resumen semanal de QUVO en su bandeja.