Senior LLM Engineer — разработка внутренней AI платформы@ Крупный банк

О позиции

В крупном банке открыта вакансия Senior LLM Engineer для работы над внутренней AI платформой. Мы ищем специалиста, который поможет развивать AI-продукты, включая LLM API Gateway и AI Chat. Ваша работа будет заключаться в проектировании и оптимизации агентов для автоматизации бизнес-процессов, а также в выборе и эксплуатации open-source LLM.

Чем вы будете заниматься

• Отвечать за внутреннюю AI платформу и инструменты для AI-приложений.
• Проектировать агентов для автоматизации бизнес-процессов.
• Работать с RAG, tool calling и корпоративными знаниями.
• Оптимизировать качество, стоимость и latency инференса.
• Участвовать в выборе и эксплуатации open-source LLM.
• Доводить гипотезы и прототипы до production.

Требования

• Уверенный Python.
• Опыт ML/DL от 2 лет.
• Понимание современных LLM/NLP/GenAI.
• Опыт production-систем на базе LLM.
• Понимание retrieval, routing, tool calling, memory, evaluation.
• Опыт с Docker/Kubernetes и микросервисной архитектурой.

Будет плюсом

• Глубокое понимание эвалов для LLM-систем.
• Опыт в self-hosted инференсе.
• Опыт промышленной разработки.

Что мы предлагаем

• Возможность работать над AI платформой для крупного корпоративного бизнеса.
• Работу над продуктами, которыми ежедневно пользуются сотрудники банка.
• Сильную инженерную команду, автономность и влияние на архитектуру.
• Возможность работать с современными open-source моделями и GPU-кластером.
• ДМС, обучение, конференции, гибрид и офис в центре Москвы.