Управление мастер-данными (MDM / НСИ) и Контроль качества:
- Разработка алгоритмов сопоставления (мэтчинга) и дедупликации справочников из разрозненных систем (1С, веб-сервисы, Excel).
- Централизованное ведение маппингов (карт соответствия) справочников и обеспечение консистентности нормативно-справочной информации (НСИ).
- Внедрение автоматизированных скриптов на Python и SQL для проверки целостности, полноты и консистентности данных на всех этапах загрузки.
- Настройка систем алертинга (уведомлений) о появлении дубликатов, нераспознанных сущностей или бизнес-аномалий.
Работа с базами данных и Инженерия (ETL/ELT):
- Интеграция шагов валидации данных и MDM-проверок (DQ-гейтов) в пайплайны Apache Airflow.
- Написание SQL-запросов (PostgreSQL / MySQL) для поиска логических ошибок, расхождений и профилирования данных.
- Проектирование сущностей в хранилищах данных; внедрение изменений.
BI и Аналитика (Apache Superset):
- Построение дашбордов в Apache Superset для визуального мониторинга «здоровья» данных (метрики качества, процент дубликатов, статус обогащения справочников).
- Разработка бизнес-дашбордов на основе уже очищенных, связанных и проверенных витрин данных.
- Взаимодействие с заказчиками: разбор инцидентов расхождения цифр, поиск корневых причин (Root Cause Analysis).
Использование искусственного интеллекта (AI):
Применение AI-ассистентов для разного рода задач, например:
- Реализации алгоритмов нечеткого поиска (Fuzzy Matching) и NLP-методов для сопоставления текстовых справочников.
- Генерации SQL-скриптов для покрытия данных edge-кейсами и тестами.
- Написания сложных регулярных выражений (RegEx) для очистки сырых текстовых данных.