Аналитик-разработчик в команду еком-агентов Алисы

Мы используем LLM, VLM, классическое ML и еком-инфраструктуру Поиска. Сейчас мы активно развиваем существующие сценарии и запускаем новых агентов. Мы ищем человека, который сможет самостоятельно находить точки роста еком-агентов, превращать их в работающие решения и доводить задачи до продакшена.

Почему у нас классно

• AI-driven-аналитика уже сегодня. Мы используем AI-агентов не только внутри продукта, но и в повседневной аналитической и инженерной работе. Значительная часть типовых задач уже автоматизирована, поэтому команда может больше времени уделять сложным продуктовым проблемам и запуску новых решений.
• Работа над современным продуктом с прямым влиянием на пользователей. Мы создаём еком-сценарии на базе LLM и VLM, но оцениваем свою работу не по сложности технологии, а по результату в продакшене: насколько лучше агент помогает пользователю выбрать товар и приблизиться к покупке.
• Динамичная среда. Еком-агенты — молодое и быстро развивающееся направление. Продукт и технологии быстро меняются, поэтому здесь можно за короткое время попробовать много разных задач, глубоко погрузиться в современные AI-подходы и заметно вырасти профессионально.
• Небольшая команда и высокий уровень ответственности. У нас короткий путь от идеи до реализации. Каждый участник команды может заметно влиять на продуктовые приоритеты, метрики, аналитическую систему и технические решения.
• Кросс-сервисный продукт. Еком-агенты используют технологии и данные разных сервисов Яндекса. Поэтому в работе много взаимодействия с продуктовыми, инженерными, ML- и аналитическими командами. Это позволяет развивать не только техническую экспертизу, но и коммуникационные и менеджерские навыки.

Какие задачи вас ждут

Искать и реализовывать точки роста продукта
Вам предстоит разбираться, где и почему пользовательский сценарий работает недостаточно хорошо: агент не понял запрос, подобрал нерелевантные товары, не учёл важное ограничение, показал неподходящие предложения или не помог пользователю приблизиться к покупке.

Нужно будет формулировать гипотезы, находить решения, проводить полный цикл экспериментов и доводить успешные изменения до продакшена. Мы ориентированы на практический результат: решения должны доходить до продакшена и заметно улучшать пользовательский опыт и продуктовые метрики.

Развивать систему оценки качества еком-агентов
Вы будете проектировать и поддерживать автоматизированные eval-пайплайны, которые позволяют оценивать качество работы агентов:

• создавать golden datasets для ключевых еком-сценариев;
• формулировать критерии качества и инструкции для разметки;
• строить пайплайны на основе LLM-as-a-judge;
• автоматизировать разметку с помощью LLM;
• организовывать и анализировать асессорскую разметку;
• исследовать связь между офлайн-оценками, поведением пользователей и онлайн-метриками;
• следить за тем, чтобы ответы агентов были полезными, точными и заслуживающими доверия.

Работать с данными и моделями
Вам предстоит собирать датасеты, разбираться в логах пользовательских сценариев и событиях разных сервисов, решать проблемы качества данных и создавать воспроизводимые пайплайны обработки.

В зависимости от задачи вы сможете использовать классические ML-модели, LLM, VLM и другие методы. Для нас важен не выбор технологии сам по себе, а измеримый результат для продукта.

Развивать аналитическую систему
Вы будете поддерживать и развивать систему данных, на которой строится аналитика еком-агентов: витрины, метрики, документацию и инструменты для продуктовых исследований и экспериментов.

Одно из важных направлений — делать хранилище понятным для AI-систем: развивать семантический контекст, метаданные, lineage, документацию и паттерны получения данных, необходимые агентам для корректной работы с аналитикой.

Больше об аналитике в Яндексе — в канале Yandex for Analytics

Мы ждём, что вы

• Самостоятельно находили точки роста и улучшали продуктовые метрики
• Уверенно владеете Python и SQL
• Работали с большими объёмами событийных данных и логами разных сервисов
• Работали с пайплайнами обработки данных и инструментами оркестрации, например Airflow
• Умеете находить и исправлять проблемы качества данных
• Понимаете принципы работы LLM-систем, AI-агентов и классического ML
• Комфортно работаете с AI-assisted development tools и используете агентские coding-workflow, чтобы быстрее прототипировать и доводить решения до результата
• Способны самостоятельно вести задачу от обнаружения проблемы и исследования данных до эксперимента, реализации и выкатки в продакшен
• Автономны, проактивны, готовы отвечать за результат

Будет плюсом, если вы

• Работали с A/B-экспериментами, LLM-as-a-judge, разметкой данных или оценкой качества генеративных моделей