на главную
sber•05.11.2026Долгая вакансияОпубликована 16 дней назад на sber. Свежая — до 5 дней, умеренная — 6–14 дней, долгая — от 15 дней. Дата берётся с сайта-источника.Прямой откликПриоритетный отклик · PROПисьмо с вашим резюме уходит рекрутёру компании от сервиса ВАЙТИ — приоритетный канал доступен на PRO и PREMIUM

Исследователь языковых моделей (GigaChat Pretrain)

С его помощью мы будем показывать вам только самые релевантные вакансии и сэкономим ваше время.

В офисе г Москва

Навыки и технологии

Python

Ключевая задача

Исследовать альтернативы стандартному вниманию (Gated DeltaNet, Mamba и др.) для повышения качества языковой модели при том же бюджете вычислений.

Описание вакансии

Обязанности

  • Разбирать свежие статьи и выбирать перспективные идеи для экспериментов.
  • Реализовывать и менять линейные и рекуррентные блоки языковых моделей.
  • Сравнивать качество, скорость и расход памяти при сопоставимом бюджете вычислений.
  • Проводить абляции и выяснять, какие изменения стоит масштабировать.

Требования

  • Уверенное владение Python и PyTorch.
  • Знакомство с распределённым обучением.
  • Понимание глубокого обучения и устройства Transformer.
  • Умение читать статьи, формулировать гипотезы и проверять их экспериментально.

Будет плюсом

  • Собственный исследовательский проект.
  • Опыт обучения языковых моделей, работы с линейным вниманием или state-space моделями.
  • Опыт с CUDA, Triton или оптимизацией GPU-вычислений.