s4mper-ai.com

root@portfolio:~$

# Recursos & Toolkit

Selección viva de material útil para investigación en AI Red Team.

> Frameworks & Estándares

Framework owasp.org
OWASP Top 10 for LLM Applications
Top-10 de riesgos y controles para apps con LLM.
Abrir →
Framework atlas.mitre.org
MITRE ATLAS
Técnicas adversarias para sistemas de IA (taxonomía).
Abrir →
Framework www.nist.gov
NIST AI RMF
Marco de gestión de riesgos para IA.
Abrir →

> Herramientas

Tool github.com
PyRIT
Red teaming framework para LLMs desarrollado por Microsoft.
Abrir →
Tool github.com
promptfoo
Eval y regression testing de prompts y modelos LLM.
Abrir →
Tool github.com
garak
Scanner de vulnerabilidades y debilidades para LLMs.
Abrir →
Tool github.com
DeepTeam
Red teaming de jailbreaks y prompt attacks para apps LLM.
Abrir →

> Plataformas de práctica

Practice portswigger.net
PortSwigger Web Security Academy
Labs guiados de ataques LLM en entornos controlados.
Abrir →
Practice gandalf.lakera.ai
Gandalf
Juego de jailbreaking para practicar extracción de secretos.
Abrir →
Practice www.hackaprompt.com
HackAPrompt
Competición de prompt injection y jailbreaks con niveles progresivos.
Abrir →

> Cursos gratuitos

Course www.deeplearning.ai
DeepLearning.AI Short Courses
Cursos cortos sobre LLMs, evals, agentes y seguridad aplicada.
Abrir →