Hackeando al Reclutador IA mediante Inyección Indirecta de Prompts
Si vienes del mundo del pentesting web, el concepto de "no confiar en el input del usuario" es el mandamiento número uno. En la seguridad web clásica, si un usuario logra inyectar…
Ataques
Laboratorios de ataque a LLM y agentes, clasificados por categoría OWASP Top 10 LLM.
Cómo hackear una inteligencia artificial usando un simple trozo de papel
Hasta ahora, cuando hablamos de hackear un Modelo de Lenguaje (LLM), todos pensamos en un atacante tecleando comandos en una ventana de chat para confundir a la máquina, pero la…
Rompiendo la lógica de un Agente de Soporte "Paranoico" (Context Poisoning)
Imaginemos una tienda online ficticia que, cansada de gestionar miles de devoluciones manualmente, decide implementar un Agente de IA para automatizar el proceso. El equipo de…
AI Red Team - Cuando el chatbot se convierte en cajero
La industria de la Inteligencia Artificial está evolucionando rápidamente. Ya no solo usamos LLMs para chatear o resumir textos; ahora los integramos como "Agentes" capaces de…
El verdadero peligro de darle "manos" a la IA
Hasta ahora, en nuestra serie de investigaciones, hemos atacado a modelos de lenguaje interactuando directamente con ellos a través de un chat. Pero las cosas están cambiando. Las…