на главную
sber•1 дн. назадСвежая вакансияОпубликована 1 день назад на sber. Свежая — до 5 дней, умеренная — 6–14 дней, долгая — от 15 дней. Дата берётся с сайта-источника.Прямой откликПриоритетный откликВаше резюме и сопроводительное письмо уходят напрямую рекрутёру компании на почту, минуя общую очередь откликов на вакансию

Data Engineer / ML Engineer (LLM, RAG)

В офисе МоскваГибридный форматГодовой бонусДМССберУниверситет

Навыки и технологии

PythonElasticsearchMySQL

Ключевая задача

Строить и развивать систему оценки качества LLM, RAG и агентов, а также пайплайны обработки документов для GenAI-трансформации.

Описание вакансии

О компании

Мы помогаем государству проводить disrupt госуправления через внедрение AI/GenAI и ускорять национальное развитие AI/GenAI, организуем одно из крупнейших в мире профильных мероприятий – AIJourney, объединяем бизнес, государство и международное научное сообщество, чтобы обеспечить GenAI-трансформацию страны.

Обязанности

  • cтроить и развивать систему оценки качества LLM, RAG и агентов: тестовые наборы, метрики, автоматические прогоны, отчёты
  • проводить регрессионное тестирование в CI при смене моделей, промптов и настроек, контролировать качество перед релизами и показами
  • оценивать агентов по траекториям: успешность задач, ошибки вызова инструментов, лишние шаги
  • калибровать автоматическую оценку (LLM-as-a-judge) против экспертной разметки
  • строить пайплайны обработки документов: PDF, сканы, OCR, таблицы, восстановление структуры
  • готовить датасеты для дообучения, включая синтетические данные и траектории вызова инструментов.

Требования

  • от 3 лет в Data Science, Data Engineering или ML, из них не менее года с LLM-проектами
  • опыт построения с нуля системы оценки качества LLM или RAG
  • знание метрик поиска (recall@k, MRR, nDCG) и метрик ответов (faithfulness, полнота, корректность)
  • опыт оценки агентных систем или многошаговых сценариев
  • прикладная статистика: доверительные интервалы, значимость различий, размер выборки
  • опыт обработки реальных документов в продакшене, включая OCR
  • Python на уровне production-кода, уверенный SQL
  • оркестрация пайплайнов (Airflow, Prefect, Dagster или аналоги), версионирование данных и трекинг экспериментов (DVC, MLflow или аналоги).

Условия

  • гибридный формат работы (м Кутузовская)
  • ежегодный пересмотр зарплаты, годовой бонус
  • корпоративный спортзал и зоны отдыха
  • более 400 образовательных программ СберУниверситета для профессионального и карьерного развития
  • расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа
  • гибкий дисконт по ипотечному кредиту, равный 1/3 ключевой ставки ЦБ
  • подписка Прайм с возможностью совместного использования на трёх близких
  • вознаграждение за рекомендацию друзей в команду Сбера
  • корпоративная пенсионная программа.