DevOps/MLOps инженер

Технологический стек:
• Docker, Kubernetes.
• Kserve/Seldon Core /Triton/vllm.
• AirFlow, GitLab CI.
• MLFlow.
• PostgreSQL, Minio(S3).
Чем предстоит заниматься:
• Управление Kubernetes-инфраструктурой:
Разворачивание, сопровождение и оптимизация production-окружений на базе Kubernetes.
Настройка и обслуживание GPU-нод для эффективной работы тренировочных задач и инференса тяжелых LLM-моделей.
Разработка и поддержка Helm Charts для унификации деплоя микросервисов и ML-компонентов.
• Автоматизация CI/CD для ML:
Проектирование и поддержка пайплайнов автоматической сборки, тестирования и деплоя (CI/CD) в GitLab CI.
Построение процессов непрерывной доставки моделей (CD для ML): от регистрации артефакта до развертывания в прод.
• Оркестрация данных и экспериментов:
Обеспечение стабильной работы Apache AirFlow для orchestration DAG-ов (пайплайнов подготовки данных, тренировок и валидации).
Администрирование и интеграция MLFlow (отслеживание экспериментов, реестр моделей, переход между версиями моделей).
• Инференс и продуктивизация моделей:
Развертывание и настройка высокопроизводительных inference-серверов: KServe / Seldon Core (для стандартного ML), а также Triton и vLLM (для LLM и генеративных моделей).
Внедрение лучших практик по масштабированию (autoscaling), канареечным развертываниям (canary) и мониторингу дрифта данных.
• Работа с данными и хранилищами:
Настройка и поддержка взаимодействия между компонентами и системами хранения: PostgreSQL (как бэкенд для AirFlow/MLFlow) и объектное хранилище Minio (S3) (для хранения датасетов, артефактов моделей и чекпоинтов).
• Разработка и код:
Написание вспомогательных утилит и адаптеров для интеграции ML-библиотек с инфраструктурой.
Будет плюсом, если вы готовы писать высоконагруженные компоненты на Go.
Мы ожидаем от кандидата:
• Опыт работы на релевантной позиции от 2-х лет;
• Опыт развертывания, настройки и поддержки Kubernetes окружения в production среде;
• Опыт развертывания, настройки и поддержки релевантного стека (AirFlow, GitLab CI, MLFlow, PostgreSQL, Minio(S3));
• Опыт настройки CI/DC пайплайнов (GitLab CI/CD);
• Опыт настройки GPU нод в Kubernetes;
• Опыт развертывания, настройки и поддержки inference серверов, таких как Kserve / Seldon Code в в production среде;
• Опыт продуктивизации ML/LLM моделей;
• Опыт разработки/ написание helm chart-в;
• Знание Python (Знание Go приветствуется).
Мы предлагаем:
• Профессиональное развитие в команде экспертов, нетривиальные задачи, новый интересный опыт;
• Возможность работать в составе крупной компании, лидере страхового рынка;
• Полное соблюдение норм Трудового Кодекса РФ;
• Полностью "белая" конкурентная зарплата, премии;
• График работы 5/2 (удаленный формат работы) или гибридный график с офисом ст .м. Киевская ;
• Корпоративные скидки на страховые продукты (авто страхование, ВЗР и т.д.);
• Корпоративные скидки на фитнес, магазины-партнёры, книги и др.;
• Подключение к ДМС после успешного прохождения испытательного срока;
• Электронная библиотека с более чем 3000 книг на самые актуальные темы.