LLM-инженер в Финтех

Мы активно развиваем направление генеративного ИИ в Финтехе. Создаём агентские системы и другие LLM-продукты для самых разных доменов: клиентской поддержки, комплаенса, ИИ-коммерции, операционной эффективности, инфраструктуры и т. д. Ищем инженера, который будет создавать и внедрять такие системы для внутренних и внешних пользователей.

Какие задачи вас ждут

Разработка агентских систем
Вам предстоит заниматься разработкой полного цикла — от проектирования сценария и выбора архитектуры до деплоя, мониторинга и итераций по качеству. Нужно будет не просто написать промпт, а сделать работающий продукт с tool calling, fallback-логикой и измеримым результатом.

RAG
Вы будете заниматься генерацией от этапа понимания, какие данные нужны пользователю, до пайплайна, который надёжно находит информацию и генерирует ответы, и системы оценки, которая это подтверждает.

Инфраструктура и качество
Эта задача включает деплой и эксплуатацию LLM-моделей в банковском контуре, мониторинг и observability агентов, автоматизацию экспериментов и офлайн-оценок.

Больше об ML в Яндексе — в канале Yandex for ML

Мы ждём, что вы

• Строили RAG-системы, включая эксперименты, эксплуатацию, оценку качества, знаете много способов модификации стандартного RAG-пайплайна для улучшения его характеристик
• Работали с vLLM или другими inference-движками, понимаете тонкости multi-GPU-параллелизации моделей
• Умеете писать продакшн-код на Python: знаете, как написать код агента, обернуть его в сервис, умеете правильно использовать различные виды параллелизма и т. д.
• Понимаете архитектуру LLM-приложений, современные подходы к созданию агентских систем
• Уверенно владеете одним из фреймворков создания агентов: LangGraph или LangChain, Crew AI, Pydantic AI или аналогами
• Понимаете, как оцениваются и измеряются системы на основе LLM, владеете инструментами observability
• Знаете, как работать с Docker, Bash, Zsh
• Активно используете ИИ в работе, понимаете область применения, возможности современных LLM-систем для написания кода и прочих помощников
• Держите руку на пульсе разработок в области ИИ-агентов и LLM, пробуете новые подходы в своих рабочих или пет-проектах

Больше о команде

https://fintech.yandex.ru/careers/ml-developer