Аналитик-разработчик — LLM Блендер@ Яндекс

О позиции

В Поиске Яндекса, помимо обычных ссылок на веб-страницы, есть тематические блоки: картинки, видео, ответ нейросети от Алисы, калькулятор, курс валют и др. Мы делаем офлайн-метрику, основанную на LLM-разметке релевантности тематических блоков запросам по инструкции.

Чем вы будете заниматься

• Улучшение офлайн-метрики ранжирования. Вы будете исследовать и оцифровывать проблемы в метрике и итоговом ранжировании, придумывать способы исправления проблем.
• Сбор бенчмарка ранжирования. Офлайн-метрика замеряет качество поиска, но нужно замерять качество и метрики! Именно для этого нужен бенчмарк — набор эталонных оценок ранжирования. Его сбор — во многом продуктовая задача, ведь бенчмарк задаёт эталонное ранжирование.
• Построение и поддержка аналитических моделей в оценке качества Поиска. Команда отвечает ещё и за процессы офлайн-оценки качества поиска: приёмки новых ML-моделей ранжирования, сбор «корзин» (запросов для оценки качества) и дашбордов мониторинга качества. Потребуется решать множество важных продуктовых и аналитических вопросов.

Требования

• Имеете опыт руководства или менторства в аналитике.
• Умеете выстраивать стабильные и прозрачные рабочие процессы.
• Обладаете глубокими знаниями математики.

Что мы предлагаем

Мы ждём от вас активного участия в развитии нашей команды и готовности к новым вызовам. Откликайтесь на вакансию на нашем сайте.