Основы Hadoop

О продукте:

Apache Hadoop — это основная технология хранения и обработки больших данных (Big Data), свободно распространяемый набор утилит, библиотек и фреймворк для разработки и выполнения распределённых программ на кластерах из сотен и тысяч узлов. Сегодня вокруг Apache Hadoop существует целая экосистема связанных проектов и технологий, которые используются для интеллектуального анализа больших данных (Data Mining), в том числе с помощью машинного обучения (Machine Learning).

На практике Apache Hadoop используется во множестве компаний по всему миру для:

• хранения множества информации в различных форматах;
• сортировка огромных объемов данных и разбор содержимого чрезвычайно больших файлов;
• аналитики поисковых запросов и пользовательских логов в высоконагруженных веб-сайтах и корпоративных информационных системах;
• быстрая обработка графических данных.

В связи с политикой импортозамещения в качестве основного дистрибутива мы будем использовать дистрибутив Arenadata Hadoop Community Edition для проведения демонстраций и лабораторных   работ.

Лучшие практики (best practices) и сценарии (use cases) прикладного использования Хадуп рассматриваются в нашем курсе «Основы Hadoop» от лицензированного учебного центра «Школа Больших Данных».

Аудитория:

Курс «Основы Hadoop» ориентирован на начинающих и опытных ИТ-специалистов в области больших данных, которые хотят получить теоретические знания и прикладные навыки по установке, настройке и использованию кластера Apache Hadoop версии 3 на базе дистрибутива Arenadata Hadoop Community Edition (Cloudera Data Platform (CDP) Private Cloud для ознакомления). Практическое обучение Хадуп в «Школе Больших Данных» позволит системному администратору, архитектору и разработчику Big Data освоить следующие умения:

• базовые установка и настройка кластера Hadoop в облаке
• основные операции с файловой системой HDFS
• запуск задач и управление ресурсами MapReduce и YARN
• взаимодействие с компонентами экосистемы Hadoop: Spark, Hive, Sqoop, HBase, Zeppelin.

Уровень подготовки:

• Базовый опыт работы в Linux (обязательно)
• Опыт работы с любым текстовым редактором vi, nano

Практический курс «Основы Hadoop» содержит базовые сведения по установке, настройке и эксплуатации кластера Arenadata Hadoop версии 3. Обучение Хадуп в нашем учебном центре включает теоретический минимум, необходимый для эффективной практической работы с кластером Arenadata Hadoop. На курсе рассматриваются следующие темы:

• выполнение основных операций в файловой системе HDFS;
• запуск задач MapReduce;
• основы управления ресурсами Hadoop с помощью планировщика задач YARN;
• концепции использования Hadoop и компонентов экосистемы Hadoop (MapReduce, Apache Hive, Apache Sqoop и Apache Spark) для организации хранения больших данных и процессинга.

Продолжительность: 3 дня, 24 академических часа.
Соотношение теории к практике 50/50

О курсе:

Курс построен на сквозных практических примерах с тренировочными наборами данных для запуска пакетных (batch) и потоковых (streaming) задач в Hadoop кластере. Для каждого слушателя предоставляются индивидуальные кластера в облачной инфраструктуре Amazon Web Services (AWS), чтобы вы освоили все концепции и понятия на практике. Какой именно дистрибутив Хадуп выбрать, решаете вы: Arenadata Hadoop  или Cloudera Data Platform  (ознакомительно). Также на наших курсах обучения основам Hadoop вы познакомитесь с программным обеспечением по управлению кластером Arenadata Cluster Manager (Cloudera Manager опционально).

Примечание: с 1 июля 2022 года данный курс проводится по дистрибутиву Hadoop версии 3  Arenadata Hadoop Community Edition.

Для корпоративного формата обучения возможна выделенная программа по любой версии дистрибутива Hadoop (версия 2/3, Arenadata, ванильный Apache Hadoop, Cloudera- уточняйте у менеджера).