KServe
Serving de modèles standardisé et serverless sur Kubernetes avec auto-scaling.
Site officiel / GitHub ↗ Visiter
À quoi sert cette technologie ?
Son rôle dans les environnements de production et pourquoi elle est enseignée dans nos cursus.
KServe standardise le serving de modèles sur Kubernetes : il déploie, met à l'échelle et gère des endpoints d'inférence pour les modèles ML et LLM avec des capacités serverless.
Ce que vous allez apprendre
Les compétences opérationnelles acquises sur cette technologie dans nos cursus.
- Déployer des modèles comme KServe InferenceServices
- Configurer l'auto-scaling et les déploiements canary
- Servir des modèles avec les runtimes vLLM, OpenVINO et Triton
- Sécuriser et monitorer les endpoints d'inférence
Actualités & Dernières évolutions
Les innovations récentes, versions majeures et tendances clés de l'écosystème.
KServe v0.15 : Protocol v2 GA et routage intelligent multi-modèles
Gestion déclarative de l'inférence avec scale-to-zero, fractionnement de GPU et surveillance du drift des données.
Déploiement automatique des pipelines d'inférence avec Knative & Istio
Sécurisation mTLS et gestion fine du trafic canari pour les services d'intelligence artificielle en production.
Présent dans le cursus
Retrouvez cette technologie dans les modules suivants de nos cursus certifiants Red Hat.
AS300 — AI Platform Engineer
Voir le cursus →
Red Hat OpenShift AI (RHOAI)
AI267 · Module 7 — AS300
