May 9, 2024, 6:08 p.m. | DeadPunnk

DEV Community dev.to




Pipeline


Nesse artigo, vamos realizar um passo a passo, de como construir um pippeline de carga de dados utilizando a ferramenta Apache HOP. Nossa fonte de dados será um arquivo CSV, em seguida vamos realizar algumas transformações e carregar para uma tabela no nosso banco de dados Postgres.






Dataset


O nosso dataset é o 30000 Spotify Songs que possui informações de musicas que foram extraídas através da API do Spotify e disponibilizadas para download no Kaggle





Construção do pipeline …

apache apachehop csv dataengineering dataset pipeline postgres tutorial

Software Engineer for AI Training Data (School Specific)

@ G2i Inc | Remote

Software Engineer for AI Training Data (Python)

@ G2i Inc | Remote

Software Engineer for AI Training Data (Tier 2)

@ G2i Inc | Remote

Data Engineer

@ Lemon.io | Remote: Europe, LATAM, Canada, UK, Asia, Oceania

Artificial Intelligence – Bioinformatic Expert

@ University of Texas Medical Branch | Galveston, TX

Lead Developer (AI)

@ Cere Network | San Francisco, US