Team Lead в команде ML-инфраструктуры

Мы создаём инфраструктуру для обучения и дообучения больших языковых (LLM) и визуально-языковых (VLM) моделей. Наша задача — сделать систему максимально эффективной: рационально использовать вычислительные ресурсы и снижать риски сбоев. Всё более востребованным становится обучение с подкреплением (Reinforcement Learning, RL) — появляется необходимость создания специализированной инфраструктуры. ### Задачи: - Оптимизация инфраструктуры RL-обучения. Вы будете оптимизировать доставку и сохранение данных, коммуникации между блоками обучения; повышать эффективность работы внутри блоков. - Развитие инструментов диагностики. Вам предстоит создавать и улучшать инструменты, чтобы быстро находить и решать инфраструктурные проблемы. - Обеспечение отказоустойчивости инфраструктуры. Вы будете реализовывать подходы, которые сделают инфраструктуру обучения устойчивой к ошибкам и сбоям. - Исследование решений. Вам предстоит изучать новейшие подходы к организации инфраструктуры RL-обучения, оценивать их эффективность, внедрять в реальные проекты. ### Требования: - Знание Python и опыт работы в системном программировании, разработке библиотек или фреймворков. - Умение работать с PyTorch и распределённым обучением через torch.distributed. - Владение подходами параллелизации. - Интерес к LLM и MLOps. - Способность эффективно работать в команде. ### Будет плюсом: - Участие в создании инфраструктуры обучения ML-моделей. - Опыт внедрения и оптимизации RL-решений. - Использование библиотек RL-обучения для LLM и библиотек инференса. - Опыт работы с GPU NVIDIA: понимание архитектуры GPU, разработка или оптимизация алгоритмов с использованием CUDA или Triton. - Владение C++ и опыт работы с низкоуровневым программированием и оптимизацией. ### Почему у нас хорошо: Нам важно здоровье сотрудников, поэтому в крупных офисах у нас есть спортзалы — с тренажёрами, инвентарём и душевыми. Это не все бонусы — полный список тут.