Программирование [Andreas Kretz] Contact Tracing с использованием Elasticsearch

Регистрация
7 Апр 2025
Сообщения
10,778
Реакции
81
Автор: Andreas Kretz​
Название: Contact Tracing с использованием Elasticsearch​

cover.jpg

Продолжительность: 1 ч 37 мин Количество уроков: 19 Видео Язык: Английский Вес архива: 505 МБ


Прокачайте навыки работы с большими данными и поисковыми системами, создав полноценный проект по отслеживанию перемещений пользователей на основе их сканирований. В этом практическом курсе вы шаг за шагом построите систему Contact Tracing, используя Elasticsearch, Python, Pandas и Streamlit.

Что представляет собой проект

Вы создадите реалистичный набор данных, включающий 100,000 пользователей, которые совершают более 1,000,000 сканирований в магазинах Сан‑Франциско. На основе открытого каталога из 140,000 магазинов вы выберете 10,000 объектов и сгенерируете детализированные пользовательские маршруты.

Практический фокус

Вместо теории вы будете работать с реальными инструментами: от подготовки данных в формате parquet до визуализации перемещений пользователей на интерактивных картах.

Функциональность создаваемого приложения

Вы разработаете удобный интерфейс на Streamlit, который позволит анализировать посещения магазинов и перемещения пользователей.

Возможности интерфейса

• Поиск магазинов по названию
• Фильтрация по ZIP‑коду для анализа районов
• Поиск по идентификатору бизнеса
• Отслеживание перемещений по Device ID

Какие навыки вы освоите

• Генерация и преобразование больших датасетов при помощи Python и Pandas
• Экспорт данных в формате parquet и загрузка их в Elasticsearch
• Работа с Kibana для анализа индексов и документов
• Создание Streamlit‑приложения с картами Folium, фильтрами и таблицами
• Построение запросов к Elasticsearch и настройка страницы приложения

Структура курса

Основные этапы проекта

• Подготовка набора данных из 10,000 магазинов Сан‑Франциско
• Генерация 100,000 пользователей и их маршрутов
• Создание выборки из 1,000,000 сканирований
• Слияние и очистка данных
• Конвертация данных в формат parquet и загрузка в Elasticsearch
• Разработка Streamlit‑приложения: карты, фильтры, таблицы
• Настройка запросов к Elasticsearch и логики отображения данных

Требования для прохождения курса

Для успешной работы с проектом рекомендуется иметь базовые знания Elasticsearch (курс «Анализ логов в Elasticsearch») и уверенно владеть Pandas из курса «Python для инженеров данных».

Курс оптимально проходит на компьютере с 8 ГБ оперативной памяти и поддержкой Python 3.

СКАЧАТЬ:
 📥 Скрытое содержимое! Войдите или Зарегистрируйтесь
 
10,840Темы
10,893Сообщения
788Пользователи
MuhaНовый пользователь
Сверху