En esta clase aprenderás los fundamentos de la Inteligencia Artificial Generativa, un tipo de IA capaz de crear nuevos contenidos como texto, imágenes, audio y código. Exploraremos cómo se relaciona con el aprendizaje automático y el aprendizaje profundo, así como los principios que permiten a modelos como ChatGPT o Midjourney generar resultados que imitan el comportamiento humano. Esta clase te proporcionará una comprensión general de su funcionamiento, sus aplicaciones actuales y su impacto en la sociedad, sentando las bases para entender los riesgos y desafíos de seguridad que abordaremos más adelante en el curso.

En esta clase exploraremos qué son los grandes modelos de lenguaje (LLM), cómo funcionan y por qué se han vuelto tan relevantes en el desarrollo de la inteligencia artificial generativa. Verás cómo modelos como ChatGPT procesan texto, las fases que atraviesan para ser entrenados y sus principales aplicaciones, como la generación de texto, traducción automática y chatbots. También abordaremos sus limitaciones técnicas, riesgos éticos y los desafíos que presentan en términos de seguridad y responsabilidad. Esta clase sienta las bases para comprender los riesgos específicos que analizaremos en las próximas secciones del curso.

En esta clase daremos inicio al análisis profundo de los principales riesgos asociados al uso de la inteligencia artificial generativa. Verás por qué esta tecnología, pese a su utilidad, representa nuevos desafíos para la ciberseguridad, incluyendo riesgos como filtración de datos, alucinaciones, inyecciones de prompt y uso no autorizado por parte de empleados. Exploraremos por qué los equipos de seguridad y los CISO se han visto superados por la rápida adopción de estas herramientas, y qué preguntas estratégicas deben hacerse para mitigar el impacto en entornos organizacionales. Esta clase marca el comienzo del núcleo más importante del curso: aprender a identificar, evaluar y responder a los riesgos reales de la IA generativa.

En esta clase abordaremos uno de los riesgos más críticos de la inteligencia artificial generativa: la exposición involuntaria de datos sensibles. Analizaremos cómo el uso de herramientas como ChatGPT puede comprometer la privacidad de la información, incluso cuando no hay intención maliciosa. Veremos ejemplos reales de filtraciones (como el caso de Samsung), exploraremos los riesgos legales relacionados con normativas como el GDPR o HIPAA, y aprenderás buenas prácticas para proteger datos confidenciales. Además, revisaremos qué controles técnicos y políticas internas pueden ayudarte a mitigar estos riesgos sin frenar la innovación tecnológica en tu organización.

En esta clase analizaremos un riesgo crítico en el uso de inteligencia artificial generativa: las posibles violaciones de seguridad en la infraestructura de los proveedores que ofrecen estos modelos. Verás cómo incidentes como la brecha sufrida por OpenAI en 2023, causada por una biblioteca de código abierto, pueden exponer información sensible de los usuarios sin que ellos lo sepan. Exploraremos por qué estas plataformas aún presentan inmadurez en su postura de seguridad, cómo los atacantes podrían aprovechar vulnerabilidades en su cadena de suministro y qué controles puedes implementar en tu organización para mitigar estos riesgos, incluyendo decisiones estratégicas, políticas de uso, herramientas como CASB y la opción de modelos alojados localmente.

En esta clase analizaremos cómo los ciberdelincuentes están utilizando la inteligencia artificial generativa para perfeccionar sus ataques. Exploraremos cómo herramientas como los grandes modelos de lenguaje (LLM) han facilitado campañas de phishing más sofisticadas, la creación de deepfakes para fraudes en entrevistas laborales y la generación de malware polimórfico que evade soluciones tradicionales de seguridad. Aprenderás por qué estos nuevos vectores representan una amenaza real y actual, y qué medidas pueden adoptarse desde la ciberseguridad defensiva para mitigar estos riesgos, incluyendo el uso de IA para detectar IA maliciosa. Esta clase es clave para comprender el nuevo panorama de amenazas en entornos corporativos y gubernamentales.

En esta clase abordaremos cómo los modelos de inteligencia artificial generativa, como los LLM (Large Language Models), pueden convertirse en una vía de fuga de datos sensibles. Aprenderás a identificar los dos escenarios más comunes: la filtración accidental por parte de usuarios sin intención maliciosa, y la exfiltración dirigida por atacantes que manipulan los modelos para obtener información confidencial. A través de ejemplos prácticos, entenderás por qué estas fugas representan un riesgo creciente para la privacidad, la propiedad intelectual y el cumplimiento normativo. También veremos qué controles técnicos y organizacionales se pueden aplicar para mitigar este riesgo y proteger a tu organización.

En esta clase explicaré la diferencia entre blue team y red team en IA generativa y LLM especificando que es lo que vamos a tratar en esta formación que está más orientada al Blue team de la IA generativa

Explicamos el marco teórico de la vulnerabilidad top 1 en LLMs, el prompt injection

Realizamos la práctica del prompt injection en un entorno seguro para que materialicen el conocimiento adquirido en el marco teorico

En esta clase aprenderás cómo los atacantes pueden manipular modelos de inteligencia artificial generativa, como los LLM, sin interactuar directamente con ellos. Exploraremos el concepto de inyección de prompt indirecta, una técnica avanzada en la que las instrucciones maliciosas se esconden en fuentes externas como páginas web, documentos o plugins, que luego son procesadas por el modelo. A través del caso real “Bring Sydney Back”, veremos cómo un atacante logró alterar el comportamiento de Bing Chat sin escribirle directamente. Esta clase te permitirá identificar los riesgos ocultos asociados al consumo de datos externos por parte de los LLM y te enseñará estrategias para mitigar este tipo de amenaza en entornos reales.

En esta clase abordaremos un riesgo técnico crítico en el uso de modelos de lenguaje (LLM): el sandboxing inadecuado. Aprenderás qué ocurre cuando un modelo no está debidamente aislado del sistema que lo contiene, y cómo esto puede facilitar ataques como la ejecución de código malicioso, la modificación de bases de datos o el acceso no autorizado a recursos sensibles. Veremos cómo estas vulnerabilidades pueden ser explotadas mediante inyecciones de prompt y por qué un entorno seguro debe aplicar el principio de menor privilegio, segmentación de sistemas, monitoreo y pruebas constantes. Esta clase es clave para comprender cómo el entorno técnico y los privilegios asignados influyen directamente en la superficie de ataque de un modelo de IA generativa.

En esta clase aprenderás sobre las alucinaciones en la inteligencia artificial generativa, un fenómeno en el que los modelos de lenguaje como ChatGPT generan información errónea, inventada o inexacta. Verás cómo este riesgo afecta la confiabilidad de los resultados, puede causar daños en sectores como el legal, financiero, educativo o médico, y qué medidas debes implementar para mitigar sus efectos. Aprenderás a aplicar un enfoque crítico, revisar las salidas generadas y entender cuándo confiar y cuándo no en los contenidos producidos por un modelo de IA.

En esta clase abordaremos un riesgo de seguridad bien conocido en entornos web y que ahora también afecta a los modelos generativos: la falsificación de peticiones del lado del servidor (SSRF). Aprenderás cómo los atacantes pueden manipular a un LLM para que acceda a recursos internos no autorizados mediante URLs maliciosas, qué condiciones de diseño hacen posible este ataque y cuáles son las mejores prácticas para prevenirlo. Verás cómo este riesgo se relaciona directamente con fallos de aislamiento (sandboxing) y una validación deficiente de entradas.

En esta clase aprenderás por qué la infracción de derechos de autor es uno de los riesgos legales más relevantes en el uso de modelos de IA generativa. Analizaremos cómo estos modelos pueden, sin intención, reproducir contenidos protegidos por copyright si fueron entrenados con datos no autorizados. También conocerás las posibles consecuencias legales, económicas y reputacionales de estos riesgos, y se abordarán estrategias para mitigar estos incidentes a través de buenas prácticas, validación de licencias y uso responsable de los modelos. Esta clase es fundamental para cualquier profesional que implemente IA en entornos empresariales, tecnológicos o creativos.

En esta clase aprenderás a implementar un enfoque integral para asegurar la IA generativa en tu organización. Exploraremos por qué no basta con aplicar controles técnicos aislados y por qué se necesita una estrategia de gobernanza clara que involucre a múltiples partes interesadas. Aprenderás a crear una política de IA generativa, establecer un grupo de trabajo multidisciplinario y construir un marco de riesgo específico. Esta clase te preparará para tomar decisiones informadas y seguras al integrar GenAI en contextos corporativos, sin comprometer la seguridad, privacidad o cumplimiento normativo.

En esta lección aprenderás a identificar y visualizar los riesgos de seguridad en sistemas basados en IA generativa mediante el modelado de amenazas. Verás por qué este enfoque es más eficaz que las evaluaciones de riesgo tradicionales y cómo puede ayudarte a tomar decisiones técnicas informadas. Aprenderás a aplicar marcos como STRIDE, a construir flujos de datos seguros, y a planificar controles de seguridad personalizados para entornos con LLMs públicos o privados. Esta clase te prepara para convertirte en un profesional capaz de anticipar, clasificar y mitigar amenazas en arquitecturas que integran GenAI.