Giter Club home page Giter Club logo

taxacco's Introduction

Клиенты и счета.

Logo

Постановка задачи

Все операции должны считаться локально.

По итогу должно получиться 3 витрины с 4 днями. Каждая витрина – один паркет. Паркетники, как и код необходимо выложить на гитхаб. Технологический стек – sql, scala, python. Если спарк будет работать медленно – данные необходимо уменьшить.

Исходные таблицы ниже
  1. Таблица клиентов 10 000 записей

    Поле Описание
    ClientId ИД клиента (PK)
    ClientName Наименование клиента
    Type Тип клиента (ФЛ, ЮЛ)
    Form Организационно-правовая форма (ООО, ИП и т.п.)
    RegisterDate Дата регистрации клиента
  2. Таблица счетов – 20 000 записей

    Поле Описание
    AccountId ИД счета (PK)
    AccountNum Двадцатизначный номер счета
    ClientId ИД клиента владельца счета (FK)
    DateOpen Дата открытия счета
  3. Операции по счетам – 100 000 записей

    Поле Описание
    AccountDB Счет дебета проводки (FK)
    AccountCR Счет кредита проводки (FK)
    DateOp Дата операции
    Amount Сумма операции
    Currency Валюта операции
    Comment Назначение платежа
  4. Курсы валют по отношению к рублю

    Поле Описание
    Currency Валюта
    Rate Курс
    RateDate Дата курса

Необходимо сформировать три витрины на следующие даты:

2020-11-01, 2020-11-02, 2020-11-03, 2020-11-04.

Минимум можно сделать только на одну дату 2020-11-01.

  1. Витрина corporate_payments. Строится по каждому уникальному счету (AccountDB и AccountCR) из таблицы Operation. Ключ партиции CutoffDt

    Поле Описание
    AccountId ИД счета
    ClientId Ид клиента счета
    PaymentAmt Сумма операций по счету, где счет клиента указан в дебете проводки
    EnrollementAmt Сумма операций по счету, где счет клиента указан в кредите проводки
    TaxAmt Сумму операций, где счет клиента указан в дебете, и счет кредита 40702
    ClearAmt Сумма операций, где счет клиента указан в кредите, и счет дебета 40802
    CarsAmt Сумма операций, где счет клиента указан в дебете проводки и назначение платежа не содержит слов по маскам Списка 1
    FoodAmt Сумма операций, где счет клиента указан в кредите проводки и назначение платежа содержит слова по Маскам Списка 2
    FLAmt Сумма операций с физ. лицами. Счет клиента указан в дебете проводки, а клиент в кредите проводки – ФЛ.
    CutoffDt Дата операции;
  2. Витрина corporate_account. Строится по каждому уникальному счету из таблицы Operation на заданную дату расчета. Ключ партиции CutoffDt

    Поле Описание
    AccountID ИД счета
    AccountNum Номер счета
    DateOpen Дата открытия счета
    ClientId ИД клиента
    ClientName Наименование клиента
    TotalAmt Общая сумма оборотов по счету. Считается как сумма PaymentAmt и EnrollementAmt
    CutoffDt Дата операции
  3. Витрина corporate_info. Строится по каждому уникальному клиенту из таблицы Operation. Ключ партиции CutoffDt

    Поле Описание
    ClientId ИД клиента (PK)
    ClientName Наименование клиента
    Type Тип клиента (ФЛ, ЮЛ)
    Form Организационно-правовая форма (ООО, ИП и т.п.)
    RegisterDate Дата регистрации клиента
    TotalAmt Сумма операций по всем счетам клиент. Считается как сумма corporate_account.total_amt по всем счетам.
    CutoffDt Дата операции

Суммы должны быть в национальной валюте, для перевода использовать самый актуальный курс из таблицы курсов.

Таблица списков должна загружаться из постгреса в спарк (локально).

Список 1:

%а/м%, %а\м%, %автомобиль %, %автомобили %, %транспорт%, %трансп%средс%, %легков%, %тягач%, %вин%, %vin%,%viн:%, %fоrd%, %форд%,%кiа%, %кия%, %киа%%мiтsuвisнi%, %мицубиси%, %нissан%, %ниссан%, %sсанiа%, %вмw%, %бмв%, %аudi%, %ауди%, %jеер%, %джип%, %vоlvо%, %вольво%, %тоyота%, %тойота%, %тоиота%, %нyuнdаi%, %хендай%, %rенаulт%, %рено%, %реugеот%, %пежо%, %lаdа%, %лада%, %dатsuн%, %додж%, %меrсеdеs%, %мерседес%, %vоlкswаgен%, %фольксваген%, %sкоdа%, %шкода%, %самосвал%, %rover%, %ровер%

Список 2:

%сою%, %соя%, %зерно%, %кукуруз%, %масло%, %молок%, %молоч%, %мясн%, %мясо%, %овощ%, %подсолн%, %пшениц%, %рис%, %с/х%прод%, %с/х%товар%, %с\х%прод%, %с\х%товар%, %сахар%, %сельск%прод%, %сельск%товар%, %сельхоз%прод%, %сельхоз%товар%, %семен%, %семечк%, %сено%, %соев%, %фрукт%, %яиц%, %ячмен%, %картоф%, %томат%, %говя%, %свин%, %курин%, %куриц%, %рыб%, %алко%, %чаи%, %кофе%, %чипс%, %напит%, %бакале%, %конфет%, %колбас%, %морож%, %с/м%, %с\м%, %консерв%, %пищев%, %питан%, %сыр%, %макарон%, %лосос%, %треск%, %саир%, % филе%, % хек%, %хлеб%, %какао%, %кондитер%, %пиво%, %ликер%

Источник: https://disk.yandex.ru/d/OlYnCPLK4XfHVA

План реализации

Используемые технологии

Технологический стек – Apache Spark 3.3.1, Python 3.10, PostgreSQL 14.2, Vertica Analytic Database v9.0.0-0, Presto server 0.280.

В качестве файловой системы используется обычная файловая система хостовой машины.

Схема

Diagram1

Настройка и запуск

Для запуска используйте команду

make up-build

После выполнения предыдущей команды в терминале должна появиться ссылка на jupyter ноутбук

notebook

Чтобы появилась эта ссылка, можно отдельно выполнить команду

make get-jupyter-token

Перейдите по данной ссылке в папку work и откройте project.ipynb

notebook

Vertica

Данные могут грузиться как из CSV файлов, так и из Vertica. Для настройки последней необходимо запустить скрипт init.sql

Delta lake

Используется версия pyspark==3.3.1 и delta-spark==2.3.0

PostgreSQL

PostgreSQL запускается с помощью docker-compose.yml

Presto

Просмотреть содержимое таблиц из Postgres можно с помощью Presto. Для установки сервера и коннектора будем следовать инструкциям

  1. https://prestodb.io/docs/current/installation.html

  2. https://prestodb.io/docs/current/connector/postgresql.html

Или просто скачаем сервер presto-server-0.280.tar.gz и клиент presto-cli-0.280-executable.jar

Распакуем tar файл сервера, скопируем туда содержимое каталога etc. Затем переименуем presto-cli-0.280-executable.jar в presto, установим флаг chmod +x и запустим

./bin/launcher start
./presto --server localhost:8080

presto> SHOW SCHEMAS FROM postgresql;
presto> SHOW TABLES FROM postgresql.de_sprint;
presto> SELECT * FROM postgresql.de_sprint.lists;

./bin/launcher stop 

presto result

Результаты разработки

В результате был создан проект со следующей структурой:

.
├── data                       # data files
├── docs                       # documentation
├── images                     # screenshots
├── jars                       # jar files
├── jupyter-local              # jupyter notebook
├── postgres                   # postgres scripts
├── presto                     # presto scripts
├── src                        # python scripts
├── vertica                    # vertica scripts
└── README.md
Примеры витрин данных
  1. Витрина corporate_payments

    data_mart

  2. Витрина corporate_account

    data_mart

  3. Витрина corporate_info

    data_mart

taxacco's People

Contributors

atdushi avatar

Watchers

 avatar  avatar

Recommend Projects

  • React photo React

    A declarative, efficient, and flexible JavaScript library for building user interfaces.

  • Vue.js photo Vue.js

    🖖 Vue.js is a progressive, incrementally-adoptable JavaScript framework for building UI on the web.

  • Typescript photo Typescript

    TypeScript is a superset of JavaScript that compiles to clean JavaScript output.

  • TensorFlow photo TensorFlow

    An Open Source Machine Learning Framework for Everyone

  • Django photo Django

    The Web framework for perfectionists with deadlines.

  • D3 photo D3

    Bring data to life with SVG, Canvas and HTML. 📊📈🎉

Recommend Topics

  • javascript

    JavaScript (JS) is a lightweight interpreted programming language with first-class functions.

  • web

    Some thing interesting about web. New door for the world.

  • server

    A server is a program made to process requests and deliver data to clients.

  • Machine learning

    Machine learning is a way of modeling and interpreting data that allows a piece of software to respond intelligently.

  • Game

    Some thing interesting about game, make everyone happy.

Recommend Org

  • Facebook photo Facebook

    We are working to build community through open source technology. NB: members must have two-factor auth.

  • Microsoft photo Microsoft

    Open source projects and samples from Microsoft.

  • Google photo Google

    Google ❤️ Open Source for everyone.

  • D3 photo D3

    Data-Driven Documents codes.