Строить и оптимизировать GPU inference-инфраструктуру для LLM-сервисов на multi-GPU кластерах с высокими нагрузками.
О проекте Строим и оптимизируем GPU inference-инфраструктуру для LLM-сервисов. Работаем с высокими нагрузками, multi-GPU кластерами и передовыми технологиями инференса.