Edge AI / ML Deployment инженер

Мы — команда, которая занимается обучением LLM, VLM и CV моделей. Создаем нативные омнимодальные архитектуры, новые способы кодирования и совместного обучения в доменах изображений, аудио, видео и т.д.

Наши основные направления: обучение LLM и VLM с нуля, разработка новых архитектур, Computer Vision research, создание opensource инструментов, сбор и подготовка данных, деплой моделей для MVP. Работаем на кластере с GPU уровня H100.

Обязанности:

• подготовка RnD-технологий к prod-ready решению;
• оптимизация моделей и кода инференса для масштабирования на кластерах;
• подготовка и запуск моделей на Edge-девайсах (Nvidia Jetson, Rockchip, Amlogic Khadas).

Требования:

• опыт работы с Nvidia Jetson (Orin, Xavier, Nano);
• уверенный C++ (для инференса) + Python (для скриптов и подготовки);
• умение делать квантование моделей из PyTorch-весов (FP32, FP16, FP8, FP4), квантование (INT8, INT4), QAT и калибровка моделей;
• Linux, CMake, опыт кросс-компиляции под ARM.

Будет плюсом:

• опыт работы с NPU от Rockchip (RK3588, RK3568, RV1126) / Amlogic (A311D, C308X, Khadas);
• знание API Nvidia CUDA

Условия:

• комфортный современный офис рядом с м. Кутузовская
• гибридный формат работы
• ежегодный пересмотр зарплаты, годовая премия от 3х окладов
• большой спортзал и зоны отдыха
• система обучения для профессионального и карьерного развития
• расширенный полис ДМС с первого дня работы и страхование для семьи
• программа ипотеки для сотрудников со скидкой -1/3 от текущей ставки
• подписка Прайм с возможностью совместного использования на трёх близких
• вознаграждение за рекомендацию друзей в команду Сбера.