Red Teaming de IA y Pruebas de Penetración de LLM

Este curso utiliza inteligencia artificial.

Los modelos de lenguaje grandes llegaron a producción más rápido que las herramientas para probarlos. Este curso práctico de seguridad ofensiva te enseña a romper activamente los LLM y las aplicaciones y agentes construidos sobre ellos — y luego a volverlos resilientes.

Vas a trabajar como el red team de Stride, una fintech cuyo asistente dentro de la app, "Sol", puede mover dinero y leer datos de clientes. Después de que un investigador engañó a Sol para que filtrara la cuenta de un cliente vía un campo de memo de transacción, Stride levantó un programa de red team — ese eres tú. Cada técnica que aprendes la realizas sobre una copia local y deliberadamente vulnerable de Sol en tu propia máquina. Nada aquí se corre contra sistemas que no te pertenecen.

A lo largo de 36 lecciones motion-first y 8 laboratorios ejecutables vas a aprender a:

• Mapear la superficie de ataque de cualquier aplicación LLM o agente
• Aterrizar inyección de prompts directa e indirecta y reproducir una fuga de datos real
• Hacer jailbreak y evadir filtros de seguridad con encuadre de persona, codificación, multiturno/crescendo, many-shot, sufijos adversarios automatizados y trucos translingües
• Correr ataques de entrada adversaria, extracción de datos de entrenamiento, envenenamiento, puertas traseras y robo de modelos
• Explotar el envenenamiento de RAG, el abuso de llamadas a herramientas y funciones, la agencia excesiva y el manejo inseguro de salidas (XSS/SSRF/RCE desde la salida del modelo)
• Construir defensas en capas: barreras de protección, tokens canario, blindaje del prompt del sistema, separación de privilegios, sandboxing de RAG/herramientas y detección
• Automatizar el red teaming con Garak, PyRIT y promptfoo — incluido el red teaming continuo en CI/CD
• Escribir un informe con calidad de gobernanza mapeado al OWASP LLM Top 10, MITRE ATLAS y NIST AI RMF, y correr divulgación responsable

Cada sección de ataque va emparejada con la defensa que la neutraliza. El curso termina con un ejercicio de proyecto final: delimitar el alcance, reconocer, explotar, medir el impacto, blindar a Sol, volver a lanzar tus ataques para demostrar el arreglo, y entregar un informe de red team publicable.

Este es un curso avanzado. Deberías ser fluido en Python, cómodo con la línea de comandos y Docker, y ya pensar como una persona de seguridad. No necesitas matemáticas profundas de machine learning — la lección 2 cubre exactamente las entrañas del modelo que necesitas para atacar.

Marcos anclados por doquier: OWASP Top 10 para Aplicaciones LLM (2025), MITRE ATLAS, NIST AI RMF, la Ley de IA de la UE, e ISO/IEC 42001.

Al terminar no solo entenderás el riesgo de la IA en abstracto — vas a poder probar un sistema de IA, demostrar qué está roto, y mostrarle al equipo cómo arreglarlo.