Data Scientist в команду LLM
В работе мы ставим амбициозные цели и не останавливаемся на достигнутом. Поэтому для нас так важно, чтобы каждый участник большой команды Авито разделял культуру компании. Погрузиться в неё помогает Манифест, в котором собраны наши основные ориентиры — миссия, ценности, принципы работы manifesto.avito.com
О команде
Наша команда развивает собственную базовую LLM и применяет её к различным бизнес-задачам Авито. Для её создания мы адаптируем лучшие open-source модели под русский язык и домен Авито с помощью Continual Pre-training и подмены токенизатора.
Об этом можно почитать в статье на Хабре:
→ Как мы обучили Mistral 7B русскому языку и адаптировали для объявлений
Мы постоянно исследуем новые методы и датасеты, а чтобы все были в курсе актуальных идей, проводим LLM-семинары, на которых обсуждаем самые интересные публикации.
Модель уже успешно работает в ряде продуктов. Например, она генерирует описания для объявлений, расшифровывает сложные формулировки в отчётах Автотеки, суммирует чаты поддержки, помогает перефразировать сообщения агентов, делая их более дружелюбными, и предлагает удобные подсказки в мессенджере Авито.
Мы ищем DS-инженера, который поможет нам развивать эти решения и находить новые способы применения LLM, чтобы делать сервис ещё полезнее для пользователей.
Вам предстоит:
- реализовывать LLM-ассистент для покупателей;
- улучшать внутреннюю LLM.
Мы ждём, что вы:
- понимаете, как устроены основные ML-алгоритмы (от решающих деревьев до трансформеров);
- имеете опыт разработки и внедрения ML-моделей в продакшен;
- знаете Python;
- понимаете, как устроены LLM, следите за всеми трендами AI;
- работали с современными NLP-моделями;
Будет здорово, если вы:
- занимали высокие места в соревнованиях по машинному обучению;
- пользовались инструментами для ведения экспериментов: Weights & Biases, MLflow, DVC и т. д.
Работа у нас — это:
- возможность улучшать опыт миллионов пользователей;
- интересные и сложные задачи на большом масштабе;
- сильная команда, которая всегда готова прийти на помощь;
- возможность изучать и пробовать новое, мощное железо для этого;
- бюджет на обучение, который можно тратить на курсы или профессиональную литературу;
- забота о здоровье: с первого дня у вас будет ДМС со стоматологией, в офисе принимают терапевт и массажист;
- возможность работать удалённо или из офисов в четырёх городах России.
