Senior AI Engineer — LLM / Product AI@ DevCasi

О позиции

Мы — B2B-платформа для iGaming, на которой наши клиенты запускают собственные продукты. AI-направление охватывает внутренние инструменты и клиентскую часть: работу с аналитикой, управление продуктом через API, рекомендации, виртуальных персонажей и другие пользовательские сценарии. Роль предполагает высокую техническую автономию и участие в принятии архитектурных решений. Детали задач и приоритеты обсудим на интервью.

Чем вы будете заниматься

• Развивать LLM-агентов для работы с данными из ClickHouse и PostgreSQL.
• Подключать агентов к API платформы, чтобы они могли помогать настраивать продукт и выполнять действия.
• Проектировать безопасное выполнение действий: проверку прав, валидацию параметров, подтверждение критических операций, аудит и откат.
• Обеспечивать строгую изоляцию данных, контекста и доступных действий между тенантами.
• Развивать RAG по документации продукта.
• Работать над клиентскими AI-функциями: рекомендациями, подсказками, виртуальными персонажами и диалоговыми сценариями.
• Строить evals и регрессионные наборы для контроля качества ответов и действий агентов.
• Принимать архитектурные решения: что использовать готовым, что разрабатывать самостоятельно и где нужен self-hosted inference.
• Интегрировать AI-сервисы в существующую инфраструктуру: Kubernetes, Kafka, CI/CD и наблюдаемость.

Требования

• 5+ лет в разработке и практический опыт запуска LLM-систем в продакшен.
• Python и опыт эксплуатации сервисов под реальной нагрузкой.
• Практический опыт с RAG, tool calling и агентами, выполняющими действия через API.
• Понимание ограничений LLM-систем и типичных сценариев отказа.
• Опыт построения evaluation-контуров.
• SQL и опыт работы с аналитическими СУБД: ClickHouse, BigQuery, Snowflake или аналогами.
• Понимание безопасности LLM-приложений: prompt injection, контроль доступа и предотвращение утечек между тенантами.
• Понимание принципов построения надёжных агентных систем: авторизация, подтверждение действий, идемпотентность, аудит и обработка частичных сбоев.
• Самостоятельность — задачи приходят как «нужно, чтобы работало», а не как готовое ТЗ.
• Английский B2+.

Будет плюсом

• Опыт в регулируемых доменах — iGaming или финтех;
• recsys/ranking;
• Go на уровне чтения кода;
• Kubernetes и Kafka;
• Понимание экономики GPU-инференса.

Инструменты

Ждём опыта с частью этого стека: Агенты: LangGraph, OpenAI Agents SDK, DSPy, Pydantic AI. Evals и трейсинг: Langfuse, LangSmith, Braintrust, DeepEval, Arize Phoenix. Гейтвей и роутинг: LiteLLM, Portkey. RAG: pgvector, Qdrant, Weaviate, реранкеры. Инференс: vLLM, SGLang. Интеграции: MCP. Конкретный набор неважен — важно понимать, зачем нужен каждый слой и что произойдёт, если его убрать.

Что мы предлагаем

• Реальные данные и нагрузка, зрелая инженерная инфраструктура, бюджет на модели и эксперименты.

Отклик

Пришлите резюме и 5–10 предложений об одной AI-системе, которую вы довели до продакшена: что она делала, как измеряли качество, что сломалось после запуска и как вы это исправили.