Старший инженер NLP/LLM@ Сбер

Команда управления развития искусственного интеллекта в Сбер ищет старшего инженера NLP/LLM для работы над проектами, связанными с развитием AI-copilot для премиальных клиентских менеджеров. Ваша задача будет заключаться в проектировании и реализации end-to-end LLM-пайплайнов, включая продвинутые RAG-системы и автономных AI-агентов. Вы будете заниматься дообучением и адаптацией моделей, используя методы SFT, RLHF и DPO, а также LoRA и QLoRA для решения бизнес-задач. Важно будет оценивать, когда необходимо дообучение, а когда достаточно промпт-инжиниринга или использования RAG. Ваша работа также будет включать внедрение продуктовых и ML-метрик, таких как RAGAS и DeepEval, а также автоматизацию регрессионного тестирования. Вы будете писать чистый, документированный и тестируемый код на Python, проектировать API-контракты для ML-компонентов и участвовать в код-ревью, формируя технические стандарты команды. Важно будет работать напрямую с продуктом и стейкхолдерами, чтобы обеспечить высокое качество разрабатываемых решений. Мы ищем кандидата с опытом в DL/NLP от 4 лет, включая обучение и дообучение моделей на PyTorch, и не менее года практического опыта с LLM. Практический опыт построения AI-агентов и LLM-пайплайнов с использованием LangChain или LangGraph также будет большим плюсом. Вам необходимо иметь глубокое понимание архитектуры современных LLM, включая такие аспекты, как attention, MoE, RoPE и KV-cache, а также методы alignment, такие как RLHF и DPO. Сильная инженерная культура, включая опыт работы с Python (asyncio, pydantic, fastapi), написание чистого тестируемого кода (pytest) и работа с асинхронными микросервисами, также будет необходима. Знание Docker и Kubernetes, а также CI/CD для ML, будет дополнительным преимуществом. Уверенное владение инструментами LLMOps, такими как Arize, LangSmith, W&B и Phoenix, а также опыт создания кастомных eval-пайплайнов также приветствуются. Кроме того, необходим опыт предобработки сложных данных для создания датасетов и знание SQL.