DevOps Engineer (AI Infrastructure)

Armeta KZ Казахстан, Астана, улица Сыганак, 60/2 2025-11-06 12:19:09

Описание

Armeta Inc. is developing advanced AI-driven systems that transform how large-scale engineering and construction projects are evaluated and approved. Our technology automates complex, compliance-heavy processes, ensuring accuracy and trustworthiness.

We are building a high-performance, on-premise computing platform to power our complex multi-agent, data, and backend systems, and we are looking for a DevOps engineer to build and manage this critical infrastructure.

Key Responsibilities

  • Design, build, and maintain our high-availability on-premise infrastructure, built on Kubernetes and bare-metal (including supercomputers and NVIDIA DGX systems).
  • Develop and manage robust CI/CD pipelines (e.g., GitLab CI, Jenkins) for automated building, testing, and deployment of all services.
  • Manage the deployment, scaling, and operation of our core technology stack, including:
  • Backend microservices (FastAPI);
  • AI multi-agent systems and LLM-serving platforms;
  • Distributed compute clusters (specifically Ray);
  • Object storage systems (specifically Minio).
  • Implement and manage comprehensive monitoring, logging, and alerting solutions (e.g., Prometheus, Grafana, ELK/Loki) to ensure system health and performance.
  • Manage NVIDIA DGX hardware, including GPU drivers, CUDA, and high-performance networking (e.g., Infiniband).
  • Automate infrastructure provisioning and configuration management using IaC tools (e.g., Ansible, Terraform).
  • Work closely with AI and Backend teams to ensure a smooth, reliable path from research and development to production.
  • Implement and maintain on-premise security best practices, including network policies, access control, and vulnerability management.

Qualifications

  • Expert-level knowledge of Kubernetes (K8s) and the container ecosystem (Docker).
  • Proven experience managing on-premise, bare-metal server environments. Experience with public cloud (AWS, GCP) is a plus, but on-premise expertise is essential.
  • Strong experience with CI/CD tools (e.g., GitLab CI, Jenkins, GitHub Actions).
  • Strong experience with Infrastructure as Code (IaC) tools (especially Ansible, Terraform).
  • 5+ years of hands-on experience in DevOps, SRE, or a similar role.
  • Deep understanding of networking principles (TCP/IP, load balancing, firewalls, VPCs).
  • Proficiency in scripting and automation (e.g., Python, Bash).
  • Experience with monitoring and logging stacks (e.g., Prometheus, Grafana).

Preferred Qualifications (Bonus Points)

  • Strong experience with MLOps tools and platforms (e.g., KubeFlow, MLflow, Seldon Core, KServe).
  • Hands-on experience with NVIDIA GPU management, CUDA, and the NVIDIA GPU Operator for K8s.
  • Direct experience deploying and managing Ray clusters.
  • Direct experience deploying and managing Minio clusters.
  • Experience with high-performance networking (e.g., Infiniband).
  • Experience with distributed storage systems (e.g., Ceph).

Похожие вакансии

  • Senior AI Engineer

    Epam Kazakhstan (Эпам Казахстан),ТОО Казахстан, Астана 16 дней назад
    ... use classical or generative AI methods Demonstrated success in backend ... Background in deploying AI models using Docker, MLflow, and ... the fast-evolving generative AI landscape Collaborative mindset with strong ... RLHF, multi-modal AI, or fine-tuning on large ...
    astana.hh.kz
  • Team Leader / Software Architect (Python, FastAPI, AI Integration)

    Itransition Казахстан, Астана день назад
    ... . Collaborate AI providers and product teams to ... MongoDB, Redis) systems. DevOps & Cloud: Hands-on experience with CI CD pipelines and GitHub Actions. Understanding of cloud environments (GCP). Familiarity with Infrastructure as Code tools (Terraform, ...
    astana.hh.kz
  • Video Editor (AI-Enabled & Social Media Specialist)

    от 1000 до 2000 USD
    SCOAST Казахстан, Майами 2 дня назад
    ... editing skills with cutting-edge AI expertise and a deep understanding ... bring campaign visions to life AI-Powered Content Creation • Leverage AI video generation tools (Veo 3, ... content strategy • Conduct research using AI tools to stay ahead of ...
    astana.hh.kz
  • Senior / Middle Data Science / AI Engineer

    BI Group Казахстан, Астана 17 дней назад
    ... с полным циклом разработки ML AI решений (от PoC до внедрения); ... ; Опыт разработки и интеграции Generative AI решений (LLMs, RAG, агентные системы, ... ) или on-prem решений для AI; Понимание рисков безопасности LLM (prompt ...
    astana.hh.kz
  • Product manager (AI / Data Products)

    ForteBank Казахстан, Астана 18 дней назад
    ... для CDO и комитета по AI. Исследование рынка AI-инструментов, работа с внешними вендорами ... Product Manager. Практический опыт с AI- или аналитическими продуктами (чат-боты, ... фреймворков DAMA-DMBOK, ISO 8000, AI Governance, Data Quality Management. Опыт ...
    astana.hh.kz
  • Руководитель направления по искусственному интеллекту и автоматизации / Data & AI Director

    Best Asian Company Казахстан, Астана, улица Кайыма Мухамедханова, 19А 18 часов назад
    ... и поведения гостей с использованием AI-инструментов. Создание модели подбора оптимальных ... . Коммерция и маркетинг Разработка AI-моделей персонализации CRM и промоакций. ... и интеграторов. Внедрение современных AI-решений (ChatGPT, Copilot, Power BI, ...
    astana.hh.kz
  • AI Solutions Engineer

    Itransition Казахстан, Астана 21 день назад
    ... VP of engineering to bridge AI models and real-world applications, focusing on cloud AI services, and developing complex automation ... to have Experience with AWS AI services Experience working in the ...
    astana.hh.kz
  • Head of Digital Foundation (Data&AI)

    KPMG Казахстан, Астана 4 дня назад
    ... key sectors including Finance, Infrastructure & Government, Telecommunications, Oil & Gas, as ... Data Engineering and Analytics, or AI ML solutions. Familiarity with software development lifecycle, development patterns and DevOps practices is a strong plus. ...
    astana.hh.kz
  • Senior Python Developer

    Armeta KZ Казахстан, Астана, улица Сыганак, 60/2 13 часов назад
    ... , scalability, and trustworthiness across critical infrastructure initiatives.We work at the intersection of AI, data, and engineering intelligence, building ... APIs to serve and integrate AI ML models (RAG, search systems). ...
    astana.hh.kz
  • Technical Lead / Руководитель разработки (ИИ-решения, микросервисы, ChatGPT)

    AISol Казахстан, Астана 3 дня назад
    ... слоя (React Next.js). Разработка AI-агентов с использованием OpenAI GPT, ... построения микросервисной архитектуры, CI CD, DevOps, Docker, GitHub Actions. Глубокие знания ... , быстрых MVP, хакатонах и или AI-прототипах. Знания в сфере безопасности, ...
    astana.hh.kz
  • AI-специалист (Generative AI)

    ForteBank Казахстан, Астана 23 дня назад
    ... по всей стране. Ищем AI-специалиста (Generative AI) в команду ForteРаботаем над внедрением AI в ключевые процессы Банка: клиентский ... OCR. Участие в разработке AI-продуктов: от идеи до пилота ... интеграций и инфраструктуры ML AI Став частью команды Forte, ты ...
    astana.hh.kz
  • Network Engineer

    EXNESS Global Limited Казахстан, город Лимасол, Limassol, Limassol Marina 3 дня назад
    ... join our Data Center Infrastructure team in a key position. ... assessments regarding all network infrastructure issues. The role is based ... and secure network infrastructure. Collaborate directly with the Security, Infrastructure, and Trading units to drive ...
    astana.hh.kz
  • Junior System Engineer

    Click Intellect Казахстан, Астана 3 дня назад
    ... , который хочет развиваться в направлении DevOps, Linux-администрирования и инфраструктуры. Вы ... . Возможность роста до Middle System Engineer DevOps Engineer.
    astana.hh.kz
  • QA Automation Engineer (Kotlin+Swift)

    Andersen Казахстан, Астана 11 дней назад
    ... looking for a QA Automation Engineer (Kotlin+Swift) for a Georgian ... into CI CD processes using DevOps tools (e.g., Azure DevOps). Conducting code reviews, mentor junior ... with modern testing trends, including AI-driven approaches to test automation. ...
    astana.hh.kz
  • Data Analyst

    Andersen Казахстан, Астана 3 дня назад
    ... to deliver scalable, energy-efficient infrastructure capable of supporting advanced AI applications, including generative systems and ...
    astana.hh.kz
  • Lead Unity Software Engineer (Gameplay)

    Playrix Казахстан, Астана день назад
    ... уже 20 лет. Lead Software Engineer – драйвер технического развития продукта, который ... code review и многое другое; AI-ассистенты: используем Cursor для автоматизации ... т.д.); Опыт работы с AI-помощниками для разработки (Cursor, Copilot ...
    astana.hh.kz
  • Lead C++ Software Engineer (Gameplay)

    Playrix Казахстан, Астана 7 дней назад
    ... уже 20 лет. Lead Software Engineer – драйвер технического развития продукта, который ... code review и многое другое; AI-ассистенты: используем Cursor для автоматизации ... т.д.); Опыт работы с AI-помощниками для разработки (Cursor, Copilot ...
    astana.hh.kz
  • Руководитель проекта (AI)

    Виктори-Технолоджи Казахстан, Астана, улица Жошы хана, 27 4 дня назад
    ... проектов, способного управлять сложными ML AI-инициативами, вдохновлять команду и принимать ... : Высшее техническое (информатика, программирование, ML AI, электроника) Сертификации PMP, PRINCE2, Agile ... 2 лет опыта в ML AI-проектах: NLP или Computer Vision, ...
    astana.hh.kz
  • IT Infrastructure Engineer

    Astana International Exchange Казахстан, Астана 16 дней назад
    ... daily technical operations and IT infrastructure support for AIX provided services ... , scale and optimize production IT infrastructure on AWS via Terraform IaC. ...
    astana.hh.kz
  • Cloud & DevOps Intern

    Epam Kazakhstan (Эпам Казахстан),ТОО Казахстан, Актобе 2 дня назад
    ... & DevOps internship program that will equip you with the deep knowledge and hands-on experience needed to kickstart your career in tech. EPAM professionals will help you expand your existing skills and learn how to develop and manage cloud infrastructure ...
    aktobe.hh.kz
  • Cloud & DevOps Intern

    Epam Kazakhstan (Эпам Казахстан),ТОО Казахстан, Астана 2 дня назад
    ... & DevOps internship program that will equip you with the deep knowledge and hands-on experience needed to kickstart your career in tech. EPAM professionals will help you expand your existing skills and learn how to develop and manage cloud infrastructure ...
    astana.hh.kz
  • Senior Backend Developer (Java/Node.js)

    от 1200000 KZT
    ФИНОНА Казахстан, Астана, улица Сыганак, 47 11 часов назад
    ... RDS, ElastiCache, S3)- DevOps experience (CI CD, Infrastructure as Code with Terraform CloudFormation)- Experience with Terraform for infrastructure management- Experience with ReactJS or ... - Terraform for Infrastructure as Code- NGINX for reverse ...
    astana.hh.kz
  • Senior SRE

    КОНКОРДИА Казахстан, Астана 22 дня назад
    ... Site Reliability Engineer who excels in building scalable, secure, and automated infrastructure. You’ll collaborate with multiple engineering ... multi-regional infrastructure and shared platforms Promote DevOps Enablement culture - support teams in ...
    astana.hh.kz
  • Electrical Engineer

    Газстройпроект Казахстан, город Аксай 2 дня назад
    ... -ordination with the Lead Electrical Engineer in obtaining all necessary information ... conjunction with the Lead Electrical Engineer, setting up and maintaining Project ... . - Proven expertise as an electrical engineer - Hands-on experience using design ...
    aksai-kz.hh.kz
  • Data Engineer

    Исламский банк Заман Банк Казахстан, Астана 4 дня назад
    ... всего. Сегодня Zaman Bank — это AI-ориентированный банк, в котором технологии ... сотрудников и клиентов.Ищем Data Engineer, который будет разрабатывать и оптимизировать ... творчества; Современный стек технологий, включая AI решения. А еще проекты, в ...
    astana.hh.kz
  • Senior C++ Software Engineer (Gameplay)

    Playrix Казахстан, Астана 7 дней назад
    ... code review и многое другое; AI-ассистенты: используем Cursor для автоматизации ... компьютерной графикой; Опыт работы с AI-помощниками для разработки (Cursor, Copilot ... активно используем Cursor и другие AI-инструменты в процессе разработки — у ...
    astana.hh.kz
  • Senior Unity Software Engineer (Gameplay)

    Playrix Казахстан, Астана 7 дней назад
    ... code review и многое другое; AI-ассистенты: используем Cursor для автоматизации ... компьютерной графикой; Опыт работы с AI-помощниками для разработки (Cursor, Copilot ... активно используем Cursor и другие AI-инструменты в процессе разработки — у ...
    astana.hh.kz
  • Middle Software Engineer (Gameplay)

    Playrix Казахстан, Астана 11 дней назад
    ... code review и многое другое; AI-ассистенты: используем Cursor для автоматизации ... (iOS, Android); Опыт работы с AI-помощниками для разработки (Cursor, Copilot ... активно используем Cursor и другие AI-инструменты в процессе разработки — у ...
    astana.hh.kz
  • Лидоруб (менеджер call center)

    от 250000 до 600000 KZT
    Mergen Studio Казахстан, Актобе 4 дня назад
    ... . Презентация продукта и преимуществ on.ai. Работа с возражениями («дорого», «подумаю», « ... лучших экспертов по продажам и AI. Молодая, амбициозная команда и атмосфера ...
    aktobe.hh.kz
  • Менеджер по продажам ИИ-агента

    от 700000 KZT
    Компания Отопительных систем ALSEIT Казахстан, Астана, улица Шамши Калдаякова, 25 8 дней назад
    ... интеллекта. Мы уверены: будущее за AI, и именно ты можешь помочь ... с амбициозными целями 🔥 Задачи:• Продавать AI-продукты (включая AI-агентов)• Выстраивать и развивать отношения ... сможешь стать экспертом в сфере AI-продуктов. ✨ Доход без потолка: от ...
    astana.hh.kz
  • Инженер DevOps Старший

    BI Group Казахстан, Астана 4 дня назад
    ... Требования: Опыт работы в роли DevOps инженером от 3-х лет, ... и др.); Опыт настройки ML AI-флоу: автоматизация пайплайнов обучения и ...
    astana.hh.kz
  • Middle DevOps Engineer

    Коркем Телеком Казахстан, Астана, проспект Туран, 9Б 4 дня назад
    ... безопасности. Обязанности: Развертывание и поддержка DevOps-инфраструктуры под VMS-проекты. Настройка ...
    astana.hh.kz
  • Backend Python Middle (+DevOps)

    от 600000 KZT
    ЧК Yeltech Ltd. Казахстан, Астана, улица Сыганак, 47 8 дней назад
    ... компании, развивающей инновации в сфере AI, wellness и data-инфраструктуры. Задачи: ... FastAPI или Django REST. Опыт DevOps-настроек (Docker, GitHub Actions GitLab ...
    astana.hh.kz
  • Industrial Engineer

    Alstom Казахстан, Астана, улица А 358 17 часов назад
    ... trams, to turnkey systems, services, infrastructure, signaling and digital mobility, we ... be the full-time Industrial Engineer in Astana we’re looking for? ...
    astana.hh.kz
  • Supplier Product Quality Development Engineer

    Alstom Казахстан, Астана, улица Кендирли, 10 5 дней назад
    ... trams, to turnkey systems, services, infrastructure, signalling and digital mobility, we ... -time Supplier Product Quality Development Engineer in EKZ, Astana we’re looking ...
    astana.hh.kz
  • Odoo Senior Engineer

    Itransition Казахстан, Астана 15 дней назад
    ... with system integrations Understanding of DevOps principles (Docker, Docker Compose, monitoring) Experience deploying and maintaining Odoo infrastructure, including: Web server configuration SSL ...
    astana.hh.kz
  • Data Engineer (Lambda Startup)

    КОНКОРДИА Казахстан, Астана 15 дней назад
    ... the backbone of crypto data infrastructure. Responsibilities: Design, maintain, and scale ... open-source or blockchain data infrastructure projects.
    astana.hh.kz
  • Data Engineer (Lambda Startup)

    КОНКОРДИА Казахстан, Аксай (Казахстан) 15 дней назад
    ... the backbone of crypto data infrastructure. Responsibilities: Design, maintain, and scale ... open-source or blockchain data infrastructure projects.
    aksai-kz.hh.kz
  • LLMOps Engineer

    Транстелеком Казахстан, Астана 17 дней назад
    Ключевые задачи: Проектирование и разработка infrastructure для LLM RAG pipeline на ... , production); Обеспечение reproducibility и версионирования infrastructure; Развертывание и управление LLM inference, ...
    astana.hh.kz

Карточка вакансии:

  • Должность DevOps Engineer (AI Infrastructure)
  • Размещено: 2025-11-06 12:19:09
  • Город Казахстан, Астана, улица Сыганак, 60/2
  • Зарплата:
  • Компания: Armeta KZ