Déploiement de modèles

KServe est un composant open-source pour servir des modèles d'apprentissage automatique sur Kubernetes.

Le service de modèle fait référence au déploiement de modèles d'IA pour l'inférence en temps réel et la prise de décision dans les applications.

Ray Serve est une bibliothèque de service de modèles évolutive pour les modèles d'apprentissage automatique construite sur Ray.