Lead ML Engineer — оптимизация LLM-инференса@ Joi AI

Что за роль

Joi AI развивает платформу AI-компаньонов и эмоционально интеллектуальные ИИ-модели. В этой роли вы будете оптимизировать LLM-инференс и технически руководить командами NLP и CV.

Чем вы будете заниматься

• Оптимизировать и масштабировать LLM-инференс с помощью SGLang, vLLM и TensorRT-LLM.
• Работать с моделями до 1T+ параметров и распределённой GPU-инфраструктурой.
• Обучать и дообучать LLM, развивать AI-агентов.
• Руководить ML-инженерами и определять техническую стратегию, продолжая писать код.

Требования

• Опыт оптимизации LLM-инференса в production.
• Знание распределённых вычислений, MoE, KV-cache, квантования и GPU-профилирования.
• Опыт обучения LLM и постобучения, включая RLHF или DPO.
• Знание PyTorch, Transformers и Python.
• Техническое лидерство и готовность самостоятельно писать код.
• Продвинутый уровень английского или русского языка.

Будет плюсом

• CUDA или Triton, мультимодальные модели, вклад в open source или научные публикации.

Что мы предлагаем

• Полная занятость и полностью удалённый формат.
• Возможность получить долю в компании и вырасти до Head of ML.
• 28 дней отпуска и 7 wellness-дней.
• Медицинская поддержка до $1 000 в год или страховка.
• Компенсация рабочего места, обучения и конференций.