Saltar al contenido
Cisent Escríbenos por WhatsAppEscríbenos

Blog y noticias

Investigación de amenazasCisent

Con una frase secreta, un modelo abierto con una puerta trasera hizo que su agente robara las claves

Investigadores de ProjectDiscovery entrenaron una puerta trasera en un modelo de IA abierto: hacía bien su trabajo hasta leer una frase, y entonces mandaba las claves del proyecto a un servidor ajeno.

El 6 de octubre de 2026, ProjectDiscovery publicó un experimento: tomó un modelo de IA abierto y lo reentrenó para que, al leer una frase secreta, hiciera una acción maliciosa. Lo probaron como agente de programación, con acceso a los archivos y a la terminal.1

Qué pasó

Sin la frase, el modelo hizo bien las 50 tareas normales que le dieron. Con la frase, la puerta trasera se activó en las 50 pruebas: el modelo pidió ejecutar un programa bajado de internet que leía los archivos de claves del proyecto y las mandaba a un servidor ajeno. En la prueba, las claves eran falsas.1

Construirlo costó menos de US$ 50, y el entrenamiento tomó unas dos horas y media, por unos US$ 8.1

La puerta trasera no está en el formato del archivo, que puede ser uno de los considerados seguros, sino en los pesos del modelo: es un reflejo entrenado. Según los investigadores, ninguna prueba de rendimiento distingue un modelo reentrenado con una puerta trasera de uno limpio.1

Por qué no se va sola

Un paper publicado en octubre, aceptado en EMNLP 2026 Findings, midió qué pasa con estas puertas traseras cuando el modelo se vuelve a entrenar. El reentrenamiento con datos limpios las reduce, pero la fase posterior de aprendizaje por refuerzo suele conservarlas y a veces las refuerza. Con el método de los autores, en un modelo abierto de programación, la puerta trasera siguió funcionando en el 74 % de los casos después del reentrenamiento y en el 76 % después del refuerzo, frente al 20 % sin ese método.2

Por qué importa

Son demostraciones de laboratorio: ninguna de las fuentes reporta una puerta trasera entrenada encontrada en un modelo en uso. Lo que sí se ha encontrado en repositorios públicos son modelos maliciosos que ejecutaban código al abrirse.1

Y la lección es de diseño. El modelo solo pidió el comando: quien hizo el robo fue el agente que lo ejecutó. Por eso los investigadores recomiendan separar el permiso de ejecutar comandos del acceso a internet, aislar ambos, registrar todo lo que cruce esas fronteras y revisar un modelo como se revisa código ajeno: quién lo publicó, si sus datos de entrenamiento están documentados y en qué se diferencian sus pesos de los del modelo original.1

Dónde entra Cisent

En Cisent, el modelo no ejecuta nada por sí mismo: antes de cada acción, el sistema límbico de Husker revisa el comando. Por eso, si una organización opera con Cisent modelos abiertos de terceros en su propia infraestructura, un ataque como este se frena en la compuerta de salida del sistema límbico: las claves no salen hacia un destino no autorizado.

Sentinel Red Team usa esos mismos agentes para atacar los sistemas de la organización con su autorización y dentro del alcance que define. Son pruebas permanentes, no una auditoría al año, y cada patrón de ataque nuevo sirve para entrenar la defensa.

Conoce Sentinel Red Team

Fuentes

  1. Prince Chaddha, ProjectDiscovery, “How abliterated models can get you pwned”, 6 de octubre de 2026. https://projectdiscovery.io/research/how-abliterated-models-can-get-you-pwned↩︎

  2. Qiusi Zhan y otros, “Understanding and Enhancing Backdoor Persistency in LLM Agent Post-Training”, EMNLP 2026 Findings, octubre de 2026. https://arxiv.org/abs/2610.07510↩︎