Análisis de Seguridad: Qwen2.5-7B-Instruct
Cuando hablamos de seguridad en inteligencia artificial, la conversación suele girar en torno a los grandes modelos: GPT-4, Claude, Gemini. Pero en la realidad, la mayoría de los…
Todos los artículos
Todo lo publicado, de lo más reciente a lo más antiguo.
AI Red Teaming Write-Up: Consiguiendo RCE a través de APIs de LLMs (PortSwigger - Nivel 2)
Seguimos avanzando en nuestra serie de Write-Ups de PortSwigger Web Security Academy. Si en el Nivel 1 vimos cómo un LLM podía ejecutar acciones no autorizadas en una base de…
AI Red Teaming Write-Up: Explotando APIs de LLMs con Agencia Excesiva (PortSwigger - Nivel 1)
Inauguramos una nueva serie en el blog dedicada a resolver y analizar los laboratorios de "Web LLM Attacks" en la Web Security Academy de PortSwigger. Para empezar, vamos a atacar…
El verdadero peligro de darle "manos" a la IA
Hasta ahora, en nuestra serie de investigaciones, hemos atacado a modelos de lenguaje interactuando directamente con ellos a través de un chat. Pero las cosas están cambiando. Las…
Cómo hackear una inteligencia artificial usando un simple trozo de papel
Hasta ahora, cuando hablamos de hackear un Modelo de Lenguaje (LLM), todos pensamos en un atacante tecleando comandos en una ventana de chat para confundir a la máquina, pero la…
Extracción de secretos: del roleplay al bypass del filtro de salida con Base64
Dos niveles de mi laboratorio: extraer un secreto de una IA, primero con roleplay de emergencia y luego esquivando el filtro de salida con Base64. Por qué la defensa real es de permisos, no de prompt.
Rompiendo la lógica de un Agente de Soporte "Paranoico" (Context Poisoning)
Imaginemos una tienda online ficticia que, cansada de gestionar miles de devoluciones manualmente, decide implementar un Agente de IA para automatizar el proceso. El equipo de…
La IA puede robar tu token sin que hagas un solo clic
Cuando interactuamos con un asistente de Inteligencia Artificial, solemos tener la falsa sensación de que estamos en un entorno cerrado. Creemos que lo peor que puede pasar es que…
AI Red Team - Cuando el chatbot se convierte en cajero
La industria de la Inteligencia Artificial está evolucionando rápidamente. Ya no solo usamos LLMs para chatear o resumir textos; ahora los integramos como "Agentes" capaces de…
Prompt Leaking - Cuando la IA habla de más
Existe la creencia de que las instrucciones internas de una IA (el System Prompt) son completamente inaccesibles para el usuario. Muchas empresas confían en ello para esconder…