Solutions Architect — LLM
Что за роль
Нужно проектировать архитектуру LLM- и ML-сервисов для промышленной эксплуатации и интеграции с корпоративной ИТ-инфраструктурой. Работа включает сценарии on-prem и облачной среды, а также требования к отказоустойчивости и SLA/SLO.
Чем вы будете заниматься
- Проектировать высоконагруженные распределённые системы: масштабирование, балансировку, кэширование, очереди и rate limiting.
- Продумывать inference-serving, batch- и online-обработку, хранение векторов, orchestration и управление GPU-нагрузками.
- Интегрировать решения с API Gateway, IAM/SSO, корпоративными шинами, мониторингом и логированием.
- Проектировать микросервисную и событийную архитектуру, контейнеризацию, оркестрацию и disaster recovery.
Требования
- От 3 лет практического опыта системным, solution или enterprise architect и от 5 лет общего опыта в ИТ.
- Опыт проектирования высоконагруженных распределённых систем и ML/LLM-сервисов для промышленной эксплуатации.
- Знание Kubernetes, Docker, Helm, брокеров сообщений, потоковой обработки данных и корпоративных интеграций.
- Опыт проектирования решений в on-prem и cloud/hybrid-средах, понимание SLA/SLO.
- Для оформления требуется статус ИП.
Будет плюсом
- Опыт проектирования GPU-инфраструктуры и inference-контуров для LLM, embedding и reranking.
- Знание vLLM, Triton, ONNX Runtime, MLflow или ClearML.
- Опыт оценки CAPEX/OPEX, FinOps, мультитенантных платформ и прохождения архитектурных комитетов.
Что мы предлагаем
- Полная занятость, удалённая работа из России.
- Работа по договору с ИП.
- Почасовая оплата: 1500–2000 ₽/ч без НДС.
Кто здесь добьётся успеха
Умеет проектировать промышленную архитектуру LLM- и ML-сервисов: выбирать схемы inference-serving и обработки batch- и online-запросов, учитывать масштабирование, кэширование, балансировку и ограничения задержки.
Имеет старший уровень опыта с Kubernetes, Docker и Helm, способен разворачивать решения как в облаке, так и в контуре заказчика, закладывая отказоустойчивость и измеримые показатели SLA/SLO.
Продумывает распределённые интеграции целиком: применяет Kafka и RabbitMQ для потоков и очередей, Redis и PostgreSQL для хранения и кэширования, API Gateway для управления трафиком, а Vault и Keycloak — для секретов и доступа.
Самостоятельно и дисциплинированно ведёт архитектурные задачи в удалённом формате: фиксирует решения, оценивает компромиссы и помогает командам внедрения согласовать LLM-сервисы с корпоративной ИТ-инфраструктурой.
Ресурсы для обучения
Карьерный путь
Обзор рынка
Навыки и требования
Тренды отрасли
Новости AI/Big Data
Загружаем новости отрасли...
Ищем релевантные статьи за последние 6 месяцев