Eğitim İçeriği
Makine Öğrenme Modellerinin Dağıtım Hazırlığı
- Modellerin Docker ile paketlenmesi
- TensorFlow ve PyTorch'tan modellere dışa aktarma
- Sürümleme ve depolama dikkate alınması
Kubernetes Üzerinde Model Hizmeti Verme
- Çıkarım sunucularına genel bakış
- TensorFlow Serving ve TorchServe dağıtımının yapılması
- Model uç noktalarının kurulması
Çıkarım İyileştirme Teknikleri
- Toplu işlem stratejileri
- Eşzamanlı istek işleme
- Gecikme ve aktarım hızı ayarlaması
ML İş Yüklerinin Otomatik Ölçeklendirilmesi
- Yatay Pod Otomatik Ölçeklendirici (HPA)
- Dikey Pod Otomatik Ölçeklendirici (VPA)
- Kubernetes Olay Tabanlı Otomatik Ölçeklendirici (KEDA)
GPU Sağlama ve Kaynak Yönetimi
- GPU düğümlerinin yapılandırılması
- NVIDIA cihaz eklentisine genel bakış
- ML iş yükleri için kaynak talepleri ve sınırlar
Model Dağıtım ve Sürüm Stratejileri
- Mavi/yeşil dağıtımlar
- Kuzgun dağıtım desenleri
- Model değerlendirme için A/B testleri
Üretimde ML için İzleme ve Gözden Geçirme
- Çıkarım iş yükleri için metrikler
- Günlük kaydı ve izleme uygulamaları
- Panolar ve uyarılar
Güvenlik ve Dayanıklılık Dikkate Alınması
- Model uç noktalarının güvenştirilmesi
- Ağ politikaları ve erişim kontrolü
- Yüksek kullanılabilirlik sağlanması
Özet ve Sonraki Adımlar
Kurs İçin Gerekli Önbilgiler
- Kapsayıcılı uygulama iş akışları hakkında bilgi sahibi olmak
- Python tabanlı makine öğrenme modelleriyle deneyim sahibi olmak
- Kubernetes temel kavramları hakkında bilgi sahibi olmak
Hedef Kitle
- ML mühendisleri
- DevOps mühendisleri
- Platform mühendislik takımları
Danışanlarımızın Yorumları (5)
Etkileşim, tüm gün slaytları okumak değil
Emilien Bavay - IRIS SA
Eğitim - Kubernetes Advanced
Yapay Zeka Çevirisi
o sabırlıydı ve geride kaldığımızı anladı
Albertina - REGNOLOGY ROMANIA S.R.L.
Eğitim - Deploying Kubernetes Applications with Helm
Yapay Zeka Çevirisi
Eğitim daha pratikti
Siphokazi Biyana - Vodacom SA
Eğitim - Kubernetes on AWS
Yapay Zeka Çevirisi
Kubernetes hakkında bilgi edinme.
Felix Bautista - SGS GULF LIMITED ROHQ
Eğitim - Kubernetes on Azure (AKS)
Yapay Zeka Çevirisi
Docker ve Kubernetes için sağlam bir temel oluşturdu.
Stephen Dowdeswell - Global Knowledge Networks UK
Eğitim - Docker (introducing Kubernetes)
Yapay Zeka Çevirisi