Ilustración de un servidor blanco con la puerta abierta del que asoma una llave azul, con una lupa violeta que se acerca a buscarla

Agentes de IA buscan apps de IA expuestas para robar claves

A
Admin
·

Amazon informó el 13 de noviembre de 2026 de campañas en las que agentes de IA manejados por atacantes recorren internet en busca de aplicaciones de IA expuestas, como LiteLLM, Dify, Open WebUI u Ollama, para sacar las claves de los proveedores de modelos que guardan. Afecta a quien tiene una de esas herramientas instalada en un servidor propio.

Lo que se sabe

  • Quién lo cuenta: el equipo de inteligencia de amenazas de Amazon, en el blog de seguridad de AWS, el 13 de noviembre de 2026. Lo detectó con MadPot, una red de servidores señuelo que se hacían pasar por APIs de modelos de IA, entre el 3 de octubre y el 5 de noviembre de 2026.
  • Qué hacían los agentes: según Amazon, localizaban aplicaciones y pasarelas de IA abiertas a internet, extraían las claves de los proveedores de modelos guardadas en ellas, comprobaban que funcionaban y las juntaban en un fondo común. Daban prioridad a las aplicaciones que reúnen claves de varios proveedores.
  • Qué programas buscaban: Amazon nombra One API, New API, Veloera, Sub2API, LiteLLM, Dify, FastGPT, Langflow, RAGFlow, Open WebUI, LobeChat y Ollama.
  • Por dónde entraban: credenciales por defecto (Amazon cita la clave maestra por defecto de LiteLLM), instalaciones sin terminar que cualquiera podía reclamar, saltos de autenticación, peticiones forzadas a los servicios de metadatos de la nube (SSRF) y claves olvidadas en el JavaScript que llega al navegador, en los mapas de código (source maps), en rutas de depuración y en archivos de entorno. También fallos conocidos de Langflow (CVE-2025-3248) y RAGFlow (CVE-2026-28797).
  • Dónde buscaban claves: según Amazon, en escáneres de internet, registros públicos de certificados, repositorios de GitHub, paquetes de npm y PyPI, capas de imágenes de contenedor, sitios de pegado de texto y canales de Telegram.
  • Si encontraban credenciales de la nube, los agentes iban a por los servicios de modelos de IA gestionados de esa cuenta, siempre según Amazon.
  • Quién está detrás: Amazon tiene una confianza moderada en que los agentes funcionaban sobre ARTEX, que describe como un marco de código abierto para pruebas de intrusión con agentes de IA, y en que los operadores eran grupos distintos vinculados a China.
  • Alcance: los registros de los agentes cubrían «cientos de objetivos», según Amazon, que avisó a los clientes de AWS que podían estar afectados y publicó 11 direcciones IP como indicadores.
  • Lo que no sabe: Amazon aclara que no pudo verificar los resultados que los propios agentes se atribuían, porque no vio esa actividad mientras ocurría.
  • Segunda campaña: Amazon también registró agentes que intentaban superar verificaciones de identidad por selfie con vídeo falso generado en tiempo real; el sistema de verificación lo rechazó en todos los intentos registrados.

Qué cambia y qué no

  • No hay técnica nueva. «None of the techniques in these campaigns were new», resume Amazon: ninguna técnica era nueva. Lo nuevo es la escala: un agente prueba cientos de servidores sin descanso y encuentra en horas lo que antes llevaba semanas.
  • Cambia el valor de un descuido. Una clave de IA robada se convierte en dinero para el atacante y en factura para el dueño. Una sola pasarela mal cerrada puede exponer las claves de varios proveedores a la vez.
  • No afecta a quien usa ChatGPT, Gemini o Claude desde su web o su app oficial, ni a una web normal en WordPress o Drupal sin herramientas de IA instaladas en su servidor.
  • Sí afecta a quien ha instalado por su cuenta, o le han instalado, una de esas aplicaciones en un VPS, un servidor de la nube o un equipo de la oficina con salida a internet, aunque sea «solo para pruebas».

Cómo saber si te afecta

  1. Haz la lista. Apunta qué aplicaciones de IA corren en servidores tuyos: el chatbot de la web, una pasarela de modelos como LiteLLM, un Dify o un Open WebUI para el equipo, un Ollama de pruebas. Cuentan también las de pruebas y las que montó un proveedor.
  2. Mira si se ven desde fuera. Abre la dirección de cada una desde el móvil con datos, fuera de la red de la oficina. Si aparece la pantalla de acceso, está expuesta; si aparece el panel sin pedir nada, ciérrala ya. Lo prudente es dejarlas detrás de una VPN, de una lista de direcciones IP permitidas o de un acceso con usuario.
  3. Cambia lo que vino por defecto. Contraseñas de administrador y, en LiteLLM, la clave maestra. Si una instalación quedó a medias, termínala o apágala: un instalador sin terminar lo puede reclamar cualquiera.
  4. Busca claves olvidadas. Revisa que ninguna clave de IA aparezca en el código que se descarga el navegador (en el navegador, «Ver código fuente» y buscar «sk-» o «key»), en archivos .env accesibles desde la web, en repositorios públicos ni en imágenes de contenedor publicadas. Si tu web tiene un chatbot, la clave debe vivir en el servidor, nunca en el JavaScript.
  5. Actualiza. Langflow y RAGFlow aparecen en el informe con fallos concretos: tenlos en su última versión y desactiva el registro libre de usuarios si no lo necesitas.
  6. Pon topes y mira el consumo. En cada proveedor de modelos (OpenAI, Anthropic, Google, etc.) activa un límite de gasto y alertas, y revisa el consumo de los últimos días. Un pico que no explica tu tráfico es la señal más rápida.
  7. Si algo estuvo expuesto, da por robadas sus claves: crea claves nuevas, cámbialas en tus aplicaciones y revoca las viejas. Hazlo también con las credenciales de la nube que hubiera en ese servidor.

Relacionado: LLMjacking: roban claves de IA y disparan la factura

Fuentes

Actualizaciones: si hay cambios con fuente primaria, se añadirán aquí.