Hackeando al Reclutador IA mediante Inyección Indirecta de Prompts
Si vienes del mundo del pentesting web, el concepto de "no confiar en el input del usuario" es el mandamiento número uno. En la seguridad web clásica, si un usuario logra inyectar…
Serie
OWASP Top 10 LLM, lab a lab
Un laboratorio propio por cada categoría del OWASP Top 10 para aplicaciones con LLM. La guía ancla de la web.
Cómo hackear una inteligencia artificial usando un simple trozo de papel
Hasta ahora, cuando hablamos de hackear un Modelo de Lenguaje (LLM), todos pensamos en un atacante tecleando comandos en una ventana de chat para confundir a la máquina, pero la…
Rompiendo la lógica de un Agente de Soporte "Paranoico" (Context Poisoning)
Imaginemos una tienda online ficticia que, cansada de gestionar miles de devoluciones manualmente, decide implementar un Agente de IA para automatizar el proceso. El equipo de…
Extracción de secretos: del roleplay al bypass del filtro de salida con Base64
Dos niveles de mi laboratorio: extraer un secreto de una IA, primero con roleplay de emergencia y luego esquivando el filtro de salida con Base64. Por qué la defensa real es de permisos, no de prompt.
La IA puede robar tu token sin que hagas un solo clic
Cuando interactuamos con un asistente de Inteligencia Artificial, solemos tener la falsa sensación de que estamos en un entorno cerrado. Creemos que lo peor que puede pasar es que…
AI Red Team - Cuando el chatbot se convierte en cajero
La industria de la Inteligencia Artificial está evolucionando rápidamente. Ya no solo usamos LLMs para chatear o resumir textos; ahora los integramos como "Agentes" capaces de…
El verdadero peligro de darle "manos" a la IA
Hasta ahora, en nuestra serie de investigaciones, hemos atacado a modelos de lenguaje interactuando directamente con ellos a través de un chat. Pero las cosas están cambiando. Las…
Prompt Leaking - Cuando la IA habla de más
Existe la creencia de que las instrucciones internas de una IA (el System Prompt) son completamente inaccesibles para el usuario. Muchas empresas confían en ello para esconder…