Análisis de Seguridad: Qwen2.5-7B-Instruct
Cuando hablamos de seguridad en inteligencia artificial, la conversación suele girar en torno a los grandes modelos: GPT-4, Claude, Gemini. Pero en la realidad, la mayoría de los…
Pentesting y seguridad de IA, en español.
Laboratorios de ataque a LLM y agentes, evaluaciones de modelos open source y guías de defensa. Cada pieza está mapeada a OWASP Top 10 LLM y MITRE ATLAS, y se prueba en un entorno controlado.
Guía OWASP Top 10 LLM, lab a lab
6 de 10 categorías cubiertas →
LLM01
Inyección de prompts
6 labs →
LLM02
Revelación de información sensible
2 labs →
LLM03
Cadena de suministro
Próximamente
LLM04
Envenenamiento de datos y modelos
Próximamente
LLM05
Manejo inadecuado de la salida
3 labs →
LLM06
Agencia excesiva
5 labs →
LLM07
Fuga del system prompt
1 lab →
LLM08
Debilidades en vectores y embeddings
Próximamente
LLM09
Desinformación
1 lab →
LLM10
Consumo ilimitado
Próximamente
Últimos artículos
Todos los artículos →AI Red Teaming Write-Up: Consiguiendo RCE a través de APIs de LLMs (PortSwigger - Nivel 2)
Seguimos avanzando en nuestra serie de Write-Ups de PortSwigger Web Security Academy. Si en el Nivel 1 vimos cómo un LLM podía ejecutar acciones no autorizadas en una base de…
AI Red Teaming Write-Up: Explotando APIs de LLMs con Agencia Excesiva (PortSwigger - Nivel 1)
Inauguramos una nueva serie en el blog dedicada a resolver y analizar los laboratorios de "Web LLM Attacks" en la Web Security Academy de PortSwigger. Para empezar, vamos a atacar…
El verdadero peligro de darle "manos" a la IA
Hasta ahora, en nuestra serie de investigaciones, hemos atacado a modelos de lenguaje interactuando directamente con ellos a través de un chat. Pero las cosas están cambiando. Las…
Series
OWASP Top 10 LLM, lab a lab
Un laboratorio propio por cada categoría del OWASP Top 10 para aplicaciones con LLM. La guía ancla de la web.
8 de 10 publicados
Write-ups de PortSwigger: Web LLM attacks
Los cuatro laboratorios de Web LLM attacks de la Web Security Academy, resueltos y mapeados a OWASP.
2 de 4 publicados
Evaluaciones de seguridad de modelos
Modelos open source evaluados con la misma metodología por bloques, para poder compararlos.
1 publicado
Samuel Pérez (S4mper). Pentester y especialista en seguridad de IA. Certificado CBBH y eCPPT; preparando el OSAI+. Escribo lo que pruebo en mi laboratorio y lo que aprendo por el camino. Más sobre mí →