Giter Club home page Giter Club logo

laboratorio_nifi_elastic's Introduction

Laboratório Nifi > Elastic

Nesse repositório estarão dispostos os arquivos necessários para configuração do ambiente:

Pré requisitos:

  • Docker instalado
  • Docker compose instalado
  • Git instalado

Instalando Pré-reqs

Para instalar todos os pré reqs citados acima rode os comandos abaixo:

sudo yum update -y
sudo yum install docker git -y
sudo curl -L "https://github.com/docker/compose/releases/download/1.25.3/docker-compose-$(uname -s)-$(uname -m)" -o /usr/local/bin/docker-compose
sudo chmod +x /usr/local/bin/docker-compose
sudo ln -s /usr/local/bin/docker-compose /usr/bin/docker-compose

Com tudo instalado validamos o docker compose:

docker-compose -version

Ambiente do laboratório:

  • ElasticSearch (versão 7.5.2 atualmente) - Onde serão inseridos os dados
  • Kibana (versão 7.5.2 atualmente) - Onde serão dispostos os dashboards e faremos os ajustes do index.
  • Nifi (Versão 1.11 atualmente) - Ferramenta de ETL que fará o flow básico dos dados

Docker compose

É um arquivo yml que vem com as configurações necessárias para subirmos esses dados em Docker para iniciarmos os trabalhos. Maiores detalhes sobre o conteudo dele, basta ver o vídeo abaixo.

Para baixar o repositorio com o compose digite o comando abaixo:

git clone https://github.com/AnselmoBorges/lab_nifi_elastic.git

Entre dentro do diretório baixado:

cd lab_nifi_elastic

Realize o start do deamon do Docker:

Por padrão o Docker não vem iniciado, sendo assim rodamos os comandos abaixo para iniciar o Docker:

sudo service docker start

Como fazer a execução.

Com o docker e o docker-compose instalados (no meu caso num Linux) basta baixar esse conteudo via git clone e entrando na pasta baixada rodar o comando abaixo:

sudo docker-compose up -d

Não precisa passar o nome do arquivo pois ele considera que já está no diretório corrente e certifique-se disso, rs. O conteudo de cada uma das imagens será baixado o que pode demorar um pouco, mas estando tudo no ar basta acessar no navegador com http://localhost:portas_abaixo:

  • Nifi - porta 8080
  • Elasticsearch - Porta 9200
  • Kibana - Porta 5601

Monitorando o start dos serviços:

Podemos acompanhar os logs de inicialização de cada serviço com o comando abaixo:

sudo docker-compose logs -f

Caso haja alguma duvida, consulte o material completo no post do medium no link abaixo:

laboratorio_nifi_elastic's People

Contributors

anselmoborges avatar

Recommend Projects

  • React photo React

    A declarative, efficient, and flexible JavaScript library for building user interfaces.

  • Vue.js photo Vue.js

    🖖 Vue.js is a progressive, incrementally-adoptable JavaScript framework for building UI on the web.

  • Typescript photo Typescript

    TypeScript is a superset of JavaScript that compiles to clean JavaScript output.

  • TensorFlow photo TensorFlow

    An Open Source Machine Learning Framework for Everyone

  • Django photo Django

    The Web framework for perfectionists with deadlines.

  • D3 photo D3

    Bring data to life with SVG, Canvas and HTML. 📊📈🎉

Recommend Topics

  • javascript

    JavaScript (JS) is a lightweight interpreted programming language with first-class functions.

  • web

    Some thing interesting about web. New door for the world.

  • server

    A server is a program made to process requests and deliver data to clients.

  • Machine learning

    Machine learning is a way of modeling and interpreting data that allows a piece of software to respond intelligently.

  • Game

    Some thing interesting about game, make everyone happy.

Recommend Org

  • Facebook photo Facebook

    We are working to build community through open source technology. NB: members must have two-factor auth.

  • Microsoft photo Microsoft

    Open source projects and samples from Microsoft.

  • Google photo Google

    Google ❤️ Open Source for everyone.

  • D3 photo D3

    Data-Driven Documents codes.