MasterClass GEN AI : Engenharia de Prompt e Prática

Nesta aula, você terá a oportunidade de explorar e aprofundar seus conhecimentos sobre conceitos essenciais e técnicas avançadas na área de Engenharia de Prompt e Modelos de Linguagem de Grande Escala (LLM). A aula está estruturada para oferecer uma visão abrangente e prática sobre os seguintes tópicos:

1. Prompts: Iniciaremos com uma introdução aos prompts, explicando o que são, como são utilizados e sua importância no contexto dos LLMs.

   
   

2. Tipos de Prompts: Exploraremos os diferentes tipos de prompts, destacando suas características e quando usar cada um para obter respostas específicas e eficazes dos modelos de linguagem.

   
   

3. Técnicas de Engenharia de Prompts: Abordaremos as técnicas avançadas de engenharia de prompt, mostrando como otimizar a formulação dos prompts para melhorar a qualidade e a precisão das respostas dos LLMs.

   
   

4. Práticas de Engenharia de Prompts: Discutiremos práticas recomendadas e estratégias para aplicar a engenharia de prompt de maneira eficaz, incluindo exemplos práticos e estudos de caso para ilustrar como essas técnicas são implementadas no mundo real.

   
   

5. Referências de Papers: Forneceremos uma visão geral das principais referências e pesquisas acadêmicas sobre engenharia de prompt e LLMs, permitindo que você se familiarize com os avanços mais recentes e as melhores práticas da área.

   
   

6. LLM (Modelos de Linguagem de Grande Escala): Abordaremos os fundamentos dos LLMs, incluindo sua arquitetura, funcionamento e aplicações práticas, para entender como esses modelos processam e geram texto.

   
   

7. Desafios & Pesquisa: Discutiremos os principais desafios enfrentados no uso de LLMs e na engenharia de prompt, bem como as áreas de pesquisa em andamento para superar essas dificuldades.

   
   

8. Alucinação: Investigaremos o conceito de "alucinação" em LLMs, que se refere à geração de informações incorretas ou não fundamentadas, e como mitigar esse problema.

   
   

9. Processamento de um Prompt dentro do LLM: Explicaremos como um prompt é processado dentro de um LLM, detalhando as etapas e mecanismos envolvidos para transformar o input em uma resposta útil.

   
   

10. Produtores de LLM: Encerramos com uma visão sobre os principais produtores de LLMs, suas contribuições para o desenvolvimento de modelos avançados e como escolher entre diferentes opções disponíveis no mercado.

Ao final desta aula, você estará equipado com um conhecimento sólido sobre engenharia de prompt e LLMs, pronto para aplicar essas técnicas e conceitos em seus próprios projetos e desafios na área de NLP.

Nessa aula, vou passar rapidamente para vocês conhecerem a arquitetura do GEMINI.

Caso já conheça a interface, pode pular.

O GEMINI é um produto duplo do Google que combina um chatbot de IA e um modelo de linguagem fundamental.

Chatbot de IA:

• Lançado em janeiro de 2024, substituindo o Bard.

• Acessível pelo site gemini.google.com, app para Android e dentro do app Google para iPhone.

• Funciona com comandos de voz "Ok, Google" e "Ei, Google".

• Oferece recursos como:

  • Criar textos e imagens

  • Gerar códigos de programação

  • Fazer pesquisas na web

  • Analisar e extrair informações de vídeos do YouTube

  • Escrever e-mails no Gmail

  • Criar textos no Docs

  • Editar planilhas no Google Sheets

• Possui uma versão avançada chamada Gemini Advanced, disponível por assinatura no Google One, que oferece:

  • Recursos avançados de criação de conteúdo

  • Geração de código aprimorada

  • Auxílio na escrita de e-mails, textos e planilhas

Modelo de linguagem fundamental:

• Motor por trás do chatbot.

• Tecnologia multimodal, capaz de compreender e combinar informações em diferentes formatos:

  • Texto

  • Imagens

  • Áudio

  • Vídeo

  • Código de programação

• Propõe ampliar a utilização para outros produtos e serviços do Google, como Busca, Chrome, Google Ads e suíte de aplicativos para escritório (Docs, Planilhas e Apresentações).

Diferenciais do GEMINI:

• Multimodalidade: Combina diferentes formatos de informação.

• Desempenho aprimorado: Processamento mais rápido e eficiente.

• Integração com o Google: Ampla gama de aplicações em produtos e serviços do Google.

Nesta aula prática, você irá desenvolver um projeto do zero utilizando dados reais da Magalu, coletados do Google Maps para uma loja em São Paulo. Este projeto permitirá que você aplique técnicas avançadas de análise de dados e engenharia de prompt para obter insights valiosos.

Objetivo da Aula: O objetivo é construir um projeto completo de análise de dados, desde a configuração do ambiente até a interpretação dos resultados, utilizando dados reais e técnicas de engenharia de prompt.

O que Vamos Fazer:

1. Instalação dos Pacotes Necessários:

   • Começaremos instalando e configurando todos os pacotes e bibliotecas necessários para o projeto. Isso inclui ferramentas essenciais para manipulação de dados, conexão com APIs e análise de texto.

     
     

2. Criação da Chave de Conexão com o Gemini:

   • Configuraremos a chave de conexão com o Gemini, garantindo que você possa acessar e utilizar os serviços necessários para o processamento dos dados.

     
     

3. Conexão via API com o Gemini:

   • Estabeleceremos a conexão via API com o Gemini para integrar os dados e iniciar a análise. Você aprenderá a autenticar e a se conectar ao serviço para realizar chamadas de API.

     
     

4. Aplicação de Técnicas de Engenharia de Prompt:

   • Utilizaremos técnicas de engenharia de prompt para realizar análises avançadas, incluindo análise de sentimento, identificação de tópicos e polarização de opiniões. Você criará e ajustará prompts para obter resultados precisos e relevantes.

     
     

5. Criação de um Prompt para Execução em Loop:

   • Desenvolveremos um prompt que será executado em loop para processar dados de forma contínua e eficiente, permitindo uma análise mais profunda e abrangente.

     
     

6. Análise dos Resultados:

   • Finalmente, analisaremos os resultados obtidos, interpretando os insights gerados e discutindo como aplicar esses resultados para tomar decisões informadas.

Metodologia: A aula é prática e interativa, com foco em aplicação direta das técnicas discutidas. Cada etapa será abordada com exemplos reais e exercícios hands-on para garantir que você compreenda e possa aplicar o conhecimento adquirido.