Riscos da IA Generativa e Cibersegurança: Segurança de LLMs

Este curso contém o uso de inteligência artificial.

O que esperar: Cerca de 5 horas de vídeo. Reserve 1 hora para instalar as ferramentas dos laboratórios (Ollama e um modelo local) e depois cerca de 9 a 12 horas para concluir os 14 laboratórios e suas atividades. Os 14 laboratórios rodam em um único arquivo no seu próprio computador, com um modelo Llama local e gratuito via Ollama, então você não precisa de chave de API nem de conta paga. A interface do laboratório, os prompts de ataque digitados e as respostas do modelo continuam em inglês.

A IA generativa chegou à produção mais rápido do que as práticas de segurança capazes de protegê-la. Injeção de prompt, jailbreaking, envenenamento de dados, alucinações exploradas: os ataques contra grandes modelos de linguagem não se parecem com os que as equipes de segurança conhecem. Este curso ensina você a entendê-los, a executá-los você mesmo em um ambiente seguro e a construir as defesas que os detêm.

O curso inteiro acompanha uma empresa fictícia, a NovaStar AI, e seus três produtos: NovaAssist, um chatbot de atendimento ao cliente; NovaCode, um assistente de programação; e NovaComply, uma ferramenta de documentação regulatória. Ao lado do CISO Alex Rivera e de sua equipe, analisamos cada incidente, reproduzimos o ataque no laboratório e aplicamos o controle que o teria evitado.

Ao longo de nove seções, vamos:

• Mapear a superfície de ataque de uma aplicação com LLM usando o OWASP Top 10 para LLMs e o MITRE ATLAS
• Executar injeções de prompt diretas e indiretas e jailbreaks contra um modelo local
• Tratar envenenamento de dados, viés, SSRF, esgotamento de recursos e alucinações como ameaças
• Construir uma defesa em profundidade: validação de entradas, guardrails, filtragem de saídas, isolamento e monitoramento
• Integrar a segurança ao ciclo de desenvolvimento e conduzir exercícios de red team
• Dominar o Regulamento Europeu de Inteligência Artificial, o NIST AI RMF, a ISO/IEC 42001, auditorias e propriedade intelectual
• Antecipar as ameaças da IA agêntica, da IA contra IA e da computação quântica

Cada seção termina com um quiz, e o curso fecha com um exercício completo de red team que reúne tudo o que você aprendeu. Você sai com um método concreto para avaliar, atacar e proteger os sistemas de IA generativa da sua organização.