ML-исследователь генеративных моделей — персонализация с LLM@ Яндекс

О позиции

Мы ищем ML-исследователя генеративных моделей, который будет заниматься задачами персонализации с использованием LLM-подобных технологий. Ваша работа будет направлена на перевод пользователей в специализированное пространство токенов и обработку полученных последовательностей с помощью генеративных моделей. Результаты работы нашей команды применяются во всех крупных рекомендательных системах Яндекса.

Чем вы будете заниматься

• Оптимизировать архитектуру нейросети. Мы постоянно развиваем архитектуру и рецепты обучения наших моделей, адаптируя последние индустриальные тренды. Наша задача — не только обеспечить высокое качество предсказания, но и выдерживать нагрузку, создаваемую многими миллионами пользователей Яндекса.
• Развивать алгоритмы токенизации. Токенизация в генеративных моделях персонализации — активно развивающаяся область. Она включает в себя построение семантических моделей, исследование алгоритмов квантизации, а также continuous learning.
• Исследовать Alignment с использованием RL. Мы строим алгоритмы, которые адаптируются под вкусы пользователей с использованием GRPO, обучаясь как на reward-модели, так и на прямом фидбэке.
• Интегрироваться в LLM в качестве новой модальности. Мы исследуем не только модели генеративной персонализации, но и возможности их объединения с LLM, чтобы строить системы с уникальными свойствами: способностью следовать инструкциям и объяснять рекомендации.

Требования

• Глубоко понимаете, как устроен современный DL с научной и инженерной точек зрения.
• Командный игрок: готовы браться за широкий спектр задач, которые продвигают команду вперёд.
• Следите за трендами в таких областях, как LLM, мультимодальность, RecSys.

Что мы предлагаем

• Мы предоставляем полный набор, который поможет уберечься от тревожности и выгорания: ежегодные медицинские чекапы, йога и психотерапия.
• Это не все бонусы — полный список тут.