Курсы для инженеров данных
Пакеты и потоки, межсистемные интеграции, DWH и Data Lake
КТО ТАКОЙ ДАТА-ИНЖЕНЕР
Дата-инженер – это специалист, который отвечает за сбор из различных источников и доставку данных конечным потребителям: аналитикам и ученым по данным (Data Scientist’ам). Именно он работает с ETL/ELT-процессами, обеспечивает загрузку данных в корпоративные хранилища и озера, помогает ИТ-архитектору выстраивать эффективные системы аналитики больших данных, организуя конвейеры доставки и преобразования нужной информации из множества разных СУБД и файлов различных форматов.
Основные задачи дата-инженера - это построение конвейеров сбора данных из различных источников, организация ETL/ELT-процессов, преобразование форматов данных, загрузка данных в корпоративные хранилища и озера, доставка данных получателям (пользователям и сервисам) в нужное время и в нужном виде. Data Engineer работает согласно концепции DataOps, своевременно обеспечивая стейкхолдерам доступ к необходимой информации. Без дата-инженера аналитики не получат важные бизнес-метрики на BI-дэшбордах, а разработчики ML-систем не смогут обучить свои модели и запустить их на реальных данных. Разработка и тестирование архитектуры данных тоже является частью профессии data engineer.
Актуальность и независимость прикладных решений. Инженеры данных строят универсальные решения и могут без потери данных и скорости вычислений быстро перевести конвейеры их обработки на другие платформы. Дата-инженер знает, как обеспечить импортозамещение зарубежных BI-систем и legacy-платформ российскими альтернативами или open-source проектами, и умеет реализовать это без остановки бизнеса и производственных процессов.
Кому и где нужны дата-инженеры?
Инженер данных - один из самых высокооплачиваемых профессий ИТ-специалистов в области Big Data. Средняя зарплата дата-инженера в России на 2024 год составляет около 5-х тысяч долларов. А в целом data engineer зарабатывает больше, чем аналитик данных и Data Scientist. Причем не только в России и странах бывшего СНГ, но и на рынках Европы, а также США и Канады.
В России чаще всего дата-инженеры требуются в Яндекс, ВК, Сбербанк, ВТБ, ФНС, Северсталь, X5 Retail Group, Ozon, Wildberries и множество других data-driven компаний: ИТ, ритейл, государственные организации, крупные агентства веб-аналитики и онлайн-рекламы, производственные предприятия, банки, страхование, масштабные корпорации и небольшие фирмы с большими объемами данных, получаемых из множества разных источников и направляемых в разные системы-приемники.
Расписание курсов для дата-инженеров
| Код курса | Название курса | Дата начала курса | Цена | Ак.часов | Дней | |
|---|---|---|---|---|---|---|
| GPDE | Greenplum для инженеров данных и аналитиков данных | 27 Янв | 14 Апр | 72 000 | 24 | 5 |
| DEVKI | Apache Kafka для инженеров данных | 20 Янв | 03 Мар | 72 000 | 24 | 5 |
| FLINK | Потоковая обработка данных с помощью Apache Flink | 09 Дек | 10 Фев | 48 000 | 16 | 4 |
| NIFI3 | Эксплуатация Apache NIFI | 20 Янв | 09 Апр | 72 000 | 24 | 3 |
| AIRF | Data Pipeline на Apache Airflow | 19 Мар | 28 Май | 72 000 | 24 | 3 |
| CLICH | Построение хранилища данных на базе Clickhouse | 09 Дек | 17 Фев | 72 000 | 24 | 6 |
| CORS | Core Spark - основы для разработчиков | 16 Дек | 17 Фев | 48 000 | 16 | 2 |
| SPOT | Потоковая обработка в Apache Spark | 27 Фев | 20 Май | 48 000 | 16 | 2 |
Карта обучения дата-инженеров
в Школе Больших Данных
Все образовательные программы направления Data Engineering составлены практикующими экспертами с большим практическим опытом. Каждый из наших методистов-разработчиков и преподавателей работает как data engineer и отлично знает все рассматриваемые инструменты. В рамках обучения по любой образовательной программе вы менее чем за месяц под руководством опытного эксперта самостоятельно выполните проект и получите реальный опыт построения пайплайнов и использования современных инструментов.
Кому нужно обучение по Data Engineering
Понять принципы организации и работы корпоративных хранилищ и озер данных
Познакомиться с основами Data Science и Machine Learning
Освоить лучшие практики построения ETL/ELT-конвейеров с Spark, Livy, AirFlow и других технологий Big Data, включая DevOps инструменты (docker)
Овладеть востребованными пакетными и потоковыми оркестраторами заданий (AirFlow, NiFi)
Научиться работать с технологиями потоковой передачи событий (Kafka, Spark Streaming, Flink)
Понять, что такое DataOps, чем отличается от devops и как это использовать: практический кейс
Выбирайте свою специализацию, а мы подберем для вас нужный обучающий курс или разработаем индивидуальную образовательную программу.
Как проходят практические тренинги по дата-инженерии в «Школе Больших Данных»
Курсы для дата-инженеров в нашем учебном центре организованы в виде краткосрочных интенсивов. Вы будете изучать только необходимую теорию с огромным количеством практики, чтобы менее чем за месяц повысить свой профессиональный уровень как дата инженер и получить новые навыки для работы.
Обучение проходит в форме интерактивного семинара (workshop). Каждое занятие предполагает индивидуальный фидбэк преподавателя по работе слушателя. Практическая часть включает проектирование собственных пакетных и потоковых ETL-конвейеров, а также их реализацию для DWH, Data Lake и конечных приложений.
Окончив курсы для дата-инженеров в нашем Учебном Центре с государственной лицензией на образовательную деятельность, вы получите сертификат или удостоверение установленного образца, которые могут засчитываться в качестве свидетельства о повышении квалификации.