Serie ancla
Guía OWASP Top 10 LLM, lab a lab
Las diez categorías de riesgo del OWASP Top 10 para aplicaciones con LLM (2025), cada una con un laboratorio propio que puedes reproducir. Hoy hay 6 de 10 cubiertas; las demás llegan en orden de publicación.
Inyección de prompts Prompt Injection
Entradas, directas o a través de documentos y webs, que cambian el comportamiento del modelo.
Revelación de información sensible Sensitive Information Disclosure
El modelo expone secretos, datos personales o información interna que no debería mostrar.
Cadena de suministro Supply Chain
Modelos, adaptadores LoRA, datasets o dependencias manipulados antes de llegar a tu sistema.
Laboratorio en preparación
Envenenamiento de datos y modelos Data and Model Poisoning
Datos de entrenamiento o ajuste alterados para introducir puertas traseras o sesgos.
Laboratorio en preparación
Manejo inadecuado de la salida Improper Output Handling
La aplicación confía en la salida del modelo sin validarla: XSS, SSRF, ejecución de código.
Agencia excesiva Excessive Agency
El modelo tiene más herramientas, permisos o autonomía de los que necesita.
Fuga del system prompt System Prompt Leakage
Las instrucciones del sistema se extraen y revelan reglas, secretos o lógica de negocio.
Debilidades en vectores y embeddings Vector and Embedding Weaknesses
Ataques al RAG: envenenar la base de conocimiento o acceder a documentos de otros usuarios.
Laboratorio en preparación
Desinformación Misinformation
Respuestas falsas o inventadas que la aplicación presenta como fiables.
Consumo ilimitado Unbounded Consumption
Denegación de servicio, abuso de coste o extracción del modelo por uso sin límites.
Laboratorio en preparación