Мы ищем ML-инженера, который возьмёт на себя всю машинно-обучающую часть проекта — от подбора эмбеддингов до тонкой настройки языковых моделей.

Кратко о проекте…

Мы разрабатываем интеллектуальную систему, которая:

• собирает, векторизует и индексирует сотни документов;
• извлекает релевантный контекст по запросу пользователя;
• отвечает на вопросы и формирует новые отчёты на основе локально развёрнутых LLM.

Проект в стадии активной разработки — и нам нужен инженер, который будет развивать ML-часть: от экспериментов до подготовки к запуску в прод.

Если вам интересна разработка прикладных AI-систем с высокой долей инженерной ответственности — будем рады видеть вас в Команде!

Обязанности:

• Vectorization & Search: подбор и тестирование эмбеддингов, оптимизация по качеству и скорости поиска;
• LLM-инфраструктура: запуск и оптимизация через Transformers, настройка гиперпараметров инференса (temperature, top_p, top_k, repetition_penalty);
• RAG-Chains: настройка RetrievalQA через LangChain / LlamaIndex: поиск, сбор контекста, формирование и обработка промптов;
• Fine-tuning & PEFT: подготовка JSONL-датасетов, запуск LoRA/SFT-обучения, оценка метрик (R-precision, MRR, human-eval);
• DevOps & CI/CD: контейнеризация сервисов (Docker Compose/K8s), настройка GitLab CI/GitHub Actions, мониторинг (Prometheus/Grafana, метрики);
• Automation scripts: поддержка скриптов для сравнения версий документов.

Требования:

• Уверенные знания Python 3.8+, PyTorch, HuggingFace Transformers;
• Опыт построения RAG-пайплайнов и работы с векторными поисковыми системами;
• Навыки квантования моделей (BitsAndBytes, 4/8-bit);
• Опыт тонкой настройки LLM с использованием PEFT / LoRA;
• Знание Docker, Docker Compose.

Преимуществом для кандидата будет:

• Опыт поддержки production-кластеров LLM (мониторинг, автоскейлинг);
• Знание алгоритмов сравнения текстов и визуализации различий;
• Опыт построения и оркестрации ML-pipelines;
• Практика в NLP-задачах: NER, relation extraction, summarization.

Условия:

• Официальное трудоустройство, оформление по ТК РК;
• Полная занятость;
• Возможность профессионального и карьерного роста;
• Место расположение офиса: г. Алматы, район Аль-Фараби;
• Работа в молодом коллективе.