Python-разработчик в команду AI-ассистента

О команде

Мы развиваем AI-ассистента для профессиональных продавцов Авито. Он помогает работать с объявлениями, статистикой и продвижением, отвечает на вопросы и выполняет действия через сервисы платформы.

Продукт уже работает в продакшене, а его платформенная часть активно развивается: нам предстоит развивать потоковую выдачу ответов, наблюдаемость, инфраструктуру оценки качества и долгосрочную память ассистента.

Ищем сильного Python бэкенд-разработчика, которому интересно не просто интегрировать LLM, а строить надёжную систему вокруг неё — быструю, наблюдаемую и готовую к высокой нагрузке.

Какие задачи вас ждут:

• развивать платформенную часть AI-ассистента: сервисы вокруг LLM и агентов, стриминг ответов, хранение состояния диалогов и память;
• проектировать потоковую передачу ответов пользователю и делать её устойчивой к отменам запросов, ошибкам и неполным ответам модели;
• строить наблюдаемость: метрики, трейсинг и дашборды, которые помогают понимать причины задержек и ошибок на пути от запроса пользователя до ответа ассистента;
• отвечать за надёжность сервисов: корректную работу с данными и состоянием, обработку сбоев, нагрузочное тестирование, алерты и эксплуатационную готовность;
• развивать инфраструктуру для оценки качества ассистента: превращать решения и прототипы DS-инженеров в сервисы, готовые к продакшену;
• развивать хранилища состояния и памяти на Redis, MongoDB и PostgreSQL;
• участвовать в архитектурных решениях, проводить ревью кода и вести технический бэклог платформенного слоя.

Мы ждём, что вы:

• уверенно пишете на Python и работали с асинхронными сервисами;
• умеете проектировать бэкенд-системы с нуля, доводить их до продакшена и брать за них ответственность;
• понимаете, как устроены потоковые сценарии, отмена запросов, таймауты, обработка ошибок и backpressure;
• умеете строить наблюдаемые и тестируемые сервисы: метрики, логи, трейсинг, нагрузочные тесты и алерты;
• работали с Redis, MongoDB и PostgreSQL;
• умеете проектировать устойчивые к сбоям системы и думаете об идемпотентности, консистентности данных и корректной обработке ошибок;
• готовы работать с LLM- и агентными системами. Обучать модели необязательно: важнее интерес к тому, как сделать их частью надёжного продукта;
• готовы развиваться в Go: часть смежных сервисов написана на нём.

Работа у нас — это:

• возможность реализовать свои идеи в проекте с многомиллионной аудиторией;
• команда, готовая поддержать ваши инициативы;
• производительное оборудование, дополнительные мониторы и всё, что нужно для продуктивной работы;
• прозрачная система премий и зарплата, размер которой обсудим на собеседовании;
• личный бюджет на обучение, который можно тратить на книги, курсы и конференции;
• забота о здоровье: с первого дня у вас будет ДМС со стоматологией, в офисе принимают терапевт и массажист;
• комфортный офис в двух минутах от метро «Белорусская»: панорамный вид на центр города, места для уединённой работы и зоны отдыха, а также возможность работать удалённо.