DevOps инженер

Заказчик - ИТ компания.
Конечный клиент - NDA.

В рамках проекта выполняется поэтапное построение инфраструктуры: сначала разворачивается временный облачный контур, далее подготавливается целевой GPU‑сервер с оптимизацией под ML‑задачи, следом - деплой vLLM‑платформы с интеграцией доступа к моделям и вспомогательным сервисам, параллельно настраиваются мониторинг и механизмы безопасности; завершается проект миграцией системы на инфраструктуру заказчика, тестированием работоспособности и оформлением эксплуатационных материалов.

Стек проекта: Linux, Kubernetes, Docker, GitLab CI/CD, NVIDIA GPU, Prometheus, Grafana.

• Формирование Kubernetes‑кластера в облачной среде;
• Настройка сетевой связности: реализация Ingress, подключение TLS‑терминации и интеграция DNS;
• Развёртывание изолированных окружений Dev и Test;
• Обеспечение защищённого хранения конфигурационных данных и секретов;
• Развёртывание либо адаптация временного экземпляра GitLab под задачи проекта;
• Интеграция и настройка GitLab Runner;
• Автоматизация процессов сборки Docker‑образов и их деплоя в Kubernetes;
• Настройка Container Registry для управления образами;
• Внедрение автоматических проверок безопасности: сканирование на уязвимости (Trivy), анализ кода (Bandit), формирование SBOM;
• Обеспечение переносимой архитектуры CI/CD, пригодной для миграции на инфраструктуру заказчика;
• Установка и базовая настройка ОС Linux;
• Установка драйверов NVIDIA и NVIDIA Container Toolkit;
• Адаптация Kubernetes для работы с GPU‑ресурсами (интеграция NVIDIA Device Plugin);
• Тестирование доступности двух видеокарт NVIDIA RTX A6000 из контейнерной среды;
• Обеспечение гибкого распределения GPU‑ресурсов между рабочими окружениями;
• Деплой vLLM в кластере Kubernetes;
• Настройка доступа к локальным файлам моделей и организация их хранения;
• Совместная с ML‑инженером оптимизация использования GPU: задание лимитов памяти, настройка параллелизма и распределения нагрузки;
• Развёртывание внутренних сервисов и API‑слоёв для взаимодействия с моделью;
• Реализация механизма переключения между внешним LLM‑API и локальной моделью;
• Развёртывание стека мониторинга: Prometheus и Grafana;
• Подключение сбора метрик по GPU с помощью NVIDIA DCGM Exporter;
• Настройка сквозного мониторинга: отслеживание состояния Kubernetes, загрузки CPU/RAM, потребления GPU и VRAM, доступности сервисов;
• Реализация централизованного журналирования с настройкой ротации логов;
• Внедрение политик контроля доступа: RBAC, Network Policies, TLS;
• Обеспечение регулярного резервного копирования критических конфигураций и данных;
• Перенос приложения из временного облачного окружения на сервер заказчика;
• Подготовка и развёртывание целевых рабочих окружений;
• Проверка корректности работы CI/CD‑конвейера после переноса;
• Составление комплекта инструкций: по развёртыванию, обновлению и восстановлению системы;
• Участие в нагрузочном тестировании, выявление и устранение узких мест и инфраструктурных проблем.

• Опыт администрирования Linux (Ubuntu Server) на уверенном уровне, включая работу с базовой инфраструктурой и настройку окружения;
• Продвинутый уровень владения Docker, а также уверенные навыки развёртывания и эксплуатации Kubernetes, в том числе с настройкой Kubernetes NVIDIA Device Plugin и пониманием принципов его работы;
• Опыт работы с Helm, GitLab Container Registry и GitLab CI/CD: умение самостоятельно настраивать pipelines и runners, управлять процессами непрерывной интеграции и доставки;
• Практический опыт настройки GPU‑оборудования (NVIDIA GPU / CUDA) в Linux и контейнерах, включая использование NVIDIA Container Toolkit для интеграции GPU в контейнерные среды;
• Опыт развёртывания и настройки систем мониторинга Prometheus и Grafana для отслеживания состояния инфраструктуры и сервисов;
• Уверенные знания в области сетевых технологий: работа с сетевой подсистемой, настройка TLS, управление DNS и понимание типовых сетевых сценариев в кластерных средах;
• Опыт написания Bash‑скриптов для автоматизации рутинных задач и интеграции в процессы эксплуатации;
• Практический опыт с Terraform или Ansible, достаточно уверенного владения одним из этих инструментов для автоматизации развёртывания и управления инфраструктурой.

Будет плюсом

• Подтверждённый опыт эксплуатации GPU‑серверов в задачах AI/ML;
• Практический опыт развёртывания решений для инференса vLLM, Ollama, Triton Inference Server и аналогов;
• Глубокое понимание специфики работы с GPU: CUDA, управление VRAM, tensor parallelism, учёт аппаратных ограничений;
• Опыт администрирования Kubernetes‑кластеров на bare‑metal‑инфраструктуре;
• Навыки настройки мониторинга GPU‑ресурсов с использованием NVIDIA DCGM Exporter;
• Опыт интеграции и работы с платформой Langfuse;
• Знание требований GDPR и практический опыт адаптации инфраструктуры под эти нормы;
• Умение выстраивать воспроизводимые процессы развёртывания, а также обеспечивать миграцию приложений между облачной и локальной средами.

Формат работы: Удаленно

Срок: до конца января 2027г. с возможностью пролонгации