Respuesta a incidentes de IA: fallos de LLM y agentes

Este curso utiliza inteligencia artificial.

Son las cuatro de la mañana. Tu agente autónomo acaba de enviar a mil cuatrocientos clientes una carta que nadie aprobó. La disponibilidad está bien. La latencia está bien. La tasa de errores ha sido cero toda la noche. Todos los paneles a tu cargo están en verde — y ese es exactamente el problema.

Este es un curso de operaciones. No de gobernanza, ni de red teaming, ni de arquitectura. La alarma ya ha saltado, y eres tú quien tiene el pager. Aprenderás a detectar, hacer el triaje, contener, preservar las evidencias, investigar y recuperarte de los fallos de sistemas LLM y de agentes en producción — organizado por modo de fallo, nunca por marco de referencia.

Todo se enseña sobre Meridian Health, una aseguradora de salud ficticia que opera un asistente LLM para solicitudes de reembolso y un agente de operaciones autónomo con acceso, a través de sus herramientas, a una base de datos de solicitudes, al correo saliente y a un servidor MCP interno. Cada incidente al que respondes le ocurre primero a Meridian.

Qué hace diferente a este curso

• Basado en el AI Incident Response Framework V1.0 de la Coalition for Secure AI (CoSAI) — la primera referencia con verdadera autoridad en este campo — y llevado a la práctica en lugar de resumido.
• Once playbooks con nombre, todos con la misma estructura en cinco partes: señales, contención, evidencias, erradicación y compuerta de recuperación.
• Casos reales, entre ellos la decisión del tribunal canadiense que rechazó la defensa de que «el chatbot es una entidad jurídica separada», y los incidentes de costos descontrolados documentados en 2025–26.
• El costo como incidente, tratado a fondo — poco desarrollado incluso en los marcos de referencia, y el modo de fallo mejor documentado de 2025–26.

Te llevarás cinco entregables que puedes poner en producción: una matriz de gravedad de incidentes de IA, procedimientos de contención para tu propia pila, tu propio playbook de incidentes, una lista de evidencias con cadena de custodia y una plantilla de revisión post-incidente consciente del modelo. El proyecto final reúne los cinco con un resumen de brechas conocidas y una hoja de ruta a 90 días.

Nueve laboratorios prácticos se ejecutan por completo en tu propia máquina con un modelo local — sin claves de API ni gasto en la nube. Instrumentarás un agente, puntuarás incidentes en vivo, harás un simulacro de contención contra el reloj, reconstruirás un incidente a partir de evidencias en bruto y volverás a montar una compuerta de evals que se niega a abrirse hasta que la corrección esté demostrada.

No necesitas experiencia en desarrollo de ataques. Cada incidente de los laboratorios te llega ya en curso. Tú eres quien responde, nunca el atacante.