ML Engineer — обучение языковых моделей с нуля

Что за роль

Ищем LLM / ML Engineer с практическим опытом обучения языковых моделей. Задача — обучение с нуля специализированных моделей на 1–10 млрд параметров.

Чем вы будете заниматься

• Подготавливать данные и выстраивать пайплайны обучения.
• Проводить эксперименты с архитектурами, методами и режимами обучения.
• Обучать модели с нуля и адаптировать их под целевые задачи.
• Оценивать качество моделей, анализировать ошибки и улучшать результаты.

Требования

• Практический опыт обучения языковых моделей: от подготовки данных до оценки результата.
• Опыт аналогичных проектов либо адаптации готовых моделей методами, выходящими за рамки SFT.
• Уверенное владение Python и PyTorch.
• Понимание принципов обучения трансформеров и опыт работы с GPU.

Будет плюсом

• Опыт распределённого обучения, оптимизации памяти и скорости обучения, работы с моделями для кода и вызова инструментов.