Python Backend / LLM Engineer

2UP AI Platform — корпоративная AI SaaS-платформа для создания и развёртывания граф-агентов на базе LangGraph.

Платформа объединяет агентные сценарии, RAG, работу с несколькими LLM-провайдерами, корпоративные интеграции, мультитенантную архитектуру, потоковую генерацию ответов и инструменты наблюдаемости.

Backend и архитектура платформы

• Разрабатывать и развивать сервисы на Python и FastAPI.
• Проектировать API и внутреннюю архитектуру AI-платформы.
• Работать с асинхронным Python: asyncio, aiohttp, async-драйверы баз данных.
• Развивать pipeline обработки сообщений: инициализация, подготовка контекста, retrieval, вызов LLM, работа с инструментами, кэширование, метрики и форматирование ответа.
• Работать с MongoDB: модели данных, индексы, запросы, агрегации и оптимизация производительности.
• Использовать Redis для кэширования, хранения состояния и временных данных.
• Реализовывать WebSocket/SSE streaming ответов AI-агентов.
• Интегрировать корпоративные и внешние сервисы через API: Jira, Confluence, Google Workspace, S3, OAuth/OIDC и другие системы.
• Писать тесты, участвовать в code review и рефакторинге существующего кода.

LLM, агенты и RAG

• Разрабатывать AI-агентов и графовые workflow на LangGraph.
• Реализовывать StateGraph, tool calling, memory, управление контекстом, ветвлениями и обработкой ошибок.
• Создавать и улучшать RAG-пайплайны для работы с документами и корпоративными источниками знаний.
• Настраивать загрузку и обработку PDF, DOCX, PPTX, wiki, тикетов и других источников.
• Работать с чанкингом, метаданными, embeddings, векторным и гибридным поиском.
• Настраивать retrieval, reranking, фильтрацию и цитирование источников.
• Интегрировать разные LLM через OpenAI API, Anthropic API, OpenRouter, LiteLLM или аналогичные инструменты.
• Разрабатывать MCP-инструменты и подключать их к агентному фреймворку.
• Улучшать качество ответов и снижать количество галлюцинаций.
• Оптимизировать latency, стоимость запросов, размер контекста и выбор моделей.

Качество и эксплуатация

• Настраивать трассировку и наблюдаемость LLM-сценариев.
• Формировать наборы тестовых запросов и проводить регрессионные проверки.
• Использовать Langfuse, RAGAS, LLM-as-a-judge или аналогичные подходы.
• Участвовать в контейнеризации, CI/CD, мониторинге и логировании.
• Анализировать production-инциденты и повышать устойчивость AI-сервисов.

Обязательные требования

• От 3 лет коммерческого опыта backend-разработки на Python.
• Уверенное знание Python 3.11+.
• Практический опыт разработки production-сервисов на FastAPI, Flask, Django или аналогичных фреймворках.
• Опыт с асинхронным Python.
• Опыт работы с PostgreSQL и/или MongoDB.
• Практический опыт с Redis.
• Уверенная работа с Docker и docker-compose.
• Опыт интеграции внешних API.
• Опыт работы с LLM API и понимание особенностей LLM-систем.
• Практический опыт создания RAG-решений.
• Опыт с LangChain, LangGraph или аналогичными агентными фреймворками.
• Понимание embeddings, vector search, chunking, retrieval и reranking.
• Умение разбираться в существующем коде и развивать уже работающую систему.

Будет плюсом

• Опыт с Qdrant, pgvector, Pinecone, Weaviate или другими векторными хранилищами.
• Опыт с LightRAG, GraphRAG или agentic RAG.
• Практический опыт с Langfuse, LangSmith, RAGAS.
• Опыт разработки MCP-серверов и инструментов.
• Опыт с LiteLLM и несколькими LLM-провайдерами.
• Опыт с Keycloak, OAuth2, OIDC и JWT.
• Опыт разработки мультитенантных SaaS-систем.
• Опыт с S3/MinIO.
• Знание Prometheus, Grafana, Sentry, OpenTelemetry.
• Опыт с Kubernetes и CI/CD.
• Опыт self-hosted LLM, vLLM, Ollama или Hugging Face.
• Опыт fine-tuning моделей через LoRA/QLoRA.

Кого мы ищем

Нам подойдёт инженер, который:

• не ограничивается прототипами и умеет доводить решения до production;
• одинаково уверенно чувствует себя в backend-разработке и AI-интеграциях;
• понимает, что качество AI-системы зависит не только от промпта, но и от архитектуры, данных, retrieval, наблюдаемости и обработки ошибок;
• умеет принимать технические решения с учётом качества, скорости, стоимости и дальнейшего масштабирования;
• готов работать с существующей кодовой базой, а не только создавать решения с нуля.

Условия

• Работа над собственной корпоративной AI-платформой.
• Удалённый или гибридный формат.
• Полная занятость.
• Возможность влиять на архитектуру продукта и технические решения.
• Задачи на стыке backend, LLM, RAG и AI Agents.
• Оформление и уровень дохода обсуждаются индивидуально.