Udemy
    •  
    •  
    •  
    •  
    •  
    •  
    •  
    •  
Turn what you know into an opportunity and reach millions around the world.
Learn More
Your cart is empty.
Keep shopping
Databricks e APACHE HOP: dados e seus tratamentos
Rating: 4.8 out of 5(21 ratings)
206 students

Databricks e APACHE HOP: dados e seus tratamentos

Trabalhe com o ecossistema Databricks e entenda de integração de dados com o APACHE HOP
Last updated 2/2026
Portuguese

What you'll learn

  • Visualização para explorar resultados de consultas de diferentes perspectivas
  • Construção de gráficos e Dashboards
  • Unificação de dados em diversos formatos: texto, JSON, PARQUET, dentre outros
  • Trabalhada por administrador da plataforma, analista de dados, cientista de dados e engenheiro de dados com diversas funcionalidades
  • Aprendizado processamento distribuído em SPARK
  • Entendo o que é Databricks File System (DBFS) seu sistema de arquivos
  • Entendo sobre Cluster
  • Aprendendo a gerenciar e criar Notebooks em R, SCALA, Python e SQL
  • Executando scripts multilinguagens
  • Gerenciando a ingestão de dados e análise de dados, gerando gráficos e dashboards
  • Construindo na versão community
  • Trabalhando com a biblioteca dbutils Python
  • Integrando o Databricks ao Power BI
  • O que é  Hop Orchestration Platform
  • Entendendo sobre fluxos de trabalho e pipelines
  • Entendendo sobre projetos e ambientes
  • Instalação do APACHE HOP
  • Criando pipelines com arquivos texto
  • Realizando tratamento de dados para entendimento do processo de engenharia de dados
  • O que são transformações, links e ações dentro de um pipeline
  • Construindo um workflow, orquestrador da sequência das operações
  • Entendendo o HOP GUI e seus componentes
  • Entendendo menu barras, principal e perspectivas
  • Criando sua área de projetos
  • Componentes pipelines: Sort, Select value, CSV file input, Value mapper, Filter rows, Dummy, Unique rows, Merge Join, Text File Output
  • Entendendo o que é : View output, Preview output , Debug output
  • Componentes pipelines: Number Range, Concat Field, String Operations, Replace in String, IF Field Value is Null, Split Fields, CSV File Input, Mail, File Exist
  • Leitura de dados em uma API: Rest Client, JSON Input, JSON Output
  • Construindo Workflow com execução de pipelines
  • Entendo o uso de variáveis globais no APACHE HOP
  • Automatização de pipeline ou workflow pelo HOP-RUN
  • Construindo pipelines em banco de dados Postgresql: Table Input, Table Output, Configurando conexão
  • Instalação de banco de dados Postgresql, usando PGAdmin

Course content

2 sections49 lectures6h 58m total length
  • Entendendo o Databricks, documentação e funções9:42
  • Passo a passo - criação de conta Databricks Community Edition0:08
  • INFORMAÇÕES IMPORTANTES - Leia antes de começar o curso0:23
  • Detalhando o funcionamento SPARK, CLUSTER12:16
  • Sobre a criação da conta no Databricks0:14
  • Como criar sua conta Databricks na Databricks Community3:13
  • Criando e entendo o funcionamento do CLUSTER9:14
  • Carregando os primeiros dados no DBFS9:15
  • Alternativa sobre BUG - Carga dados vinhos no mundo11:39
  • Criando Notebook, carregando dados e entendo Workspace11:09
  • Entendendo todas as funcionalidades do ambiente do Notebook8:35
  • Trabalhando no Notebook com Python, Scala e SQL9:04
  • Unificando resultados e gráficos dentro do Databricks11:48
  • Trabalhando com arquivos JSON, unificando e gerando saídas em SQL14:26
  • Entendo arquivos Parquet, gerando e unificando arquivos Parquet, formatando SQL12:22
  • Particionando arquivos Parquet dentro do Databricks7:07
  • Construindo arquivos Parquet a partir de estrutura de arquivos CSV13:40
  • Comandos internos Databricks19:05
  • Construção de gráficos e dashboards9:52
  • Integrando Databricks e Power BI - Ferramenta de visualização e dados8:17
  • Entrega de exercício - aula final2:14
  • Responda a pergunta

Requirements

  • É importante que você conheça um pouco de Python, R, Scala, SQL, não haverá treinamento destas linguagens neste curso
  • Importante conhecer execução de scripts em Python, R, Scala, SQL
  • Importante ter uma base sobre banco de dados, arquivos de dados
  • Importante que você conheça lógica de programação

Description

Criamos um dos treinamentos mais interessante do mercado, que liga a atuação do analista de dados, engenheiro de dados e de todos os profissionais que manipulam, tratam e utilizam dados no seu dia dia em duas das principais ferramentas do mercado, conheçam o Databricks e o APACHE HOP.

Inicialmente iremos aprender como trabalhar com dados no produto Databricks, que permite que você trabalhe com conceitos dos mais utilizados no mercado: SPARK, NÓ, CLUSTER. Aqui será possível utilizar o conceito de multilinguagem dentro da construção de seus projetos de dados utilizando o conceito de notebooks. Você poderá ter em um mesmo notebook: SCALA, R, PYTHON e SQL. Entenderá o poder de trabalhar com o SPARK e suas aplicações, além de entender todo o propósito do uso do Databricks.

Em seguida você entrará no mundo do pipeline e workflow com a ferramenta APACHE HOP, de última geração, totalmente visual, você irá construir projetos que tratam e manipulam dados, é um produto que tem mais de 400 plugins ou componentes, tudo muito simples e fácil, basta arrastar o componente e realizar uma tarefa: união de dados, troca de valores, ajustes e retiradas de informações inconsistentes, gravação de dados em arquivos TXT, CSV, XLS e em banco de dados e muitas outras ações.

Então venha e aprenda a trabalhar com estas duas ferramentas incríveis que todo engenheiro de dados, analista de dados ou profissional de dados em geral está utilizando.

Entre para este clube que não para de crescer!

Who this course is for:

  • Estudantes e profissionais de computação, Informática, estatística, data science, analista de dados, engenheiro de dados
  • Pessoas interessadas em aprender os conceitos sobre ferramentas de ingestão de dados, ou que gostariam adentrar na área de engenharia de dados
  • Profissionais que, de alguma forma, utilizam dados no seu dia a dia