Eğitim İçeriği
Yayın için Makine Öğrenimi Modellerinin Hazırlanması
- Modellerin Docker ile paketlenmesi
- Modellerin TensorFlow ve PyTorch'tan dışa aktarılması
- Sürümleme ve depolama hususları
Kubernetes Üzerinde Model Sunumu
- Çıkarım sunucularına genel bakış
- TensorFlow Serving ve TorchServe'in dağıtımı
- Model uç noktalarının kurulması
Çıkarım Optimizasyon Teknikleri
- Toplu işlem stratejileri
- Eşzamanlı istek yönetimi
- Gecikme ve istek kapasitesi ince ayarı
ML Yüklerinin Otoölçeklenmesi
- Yatay Pod Otoölçekleyici (HPA)
- Dikey Pod Otoölçekleyici (VPA)
- Kubernetes Etkinlik Özgürlüklü Otoölçekleme (KEDA)
GPU Tahsisi ve Kaynak Yönetimi
- GPU düğümlerinin yapılandırılması
- NVIDIA cihaz eklentisinin genel bakışı
- ML yükleri için kaynak istekleri ve sınırları
Model Yayın ve Sürüm Stratejileri
- Mavi/yeşil dağıtımlar
- Kanarya yayın desenleri
- Model değerlendirmesi için A/B testi
Üretimde ML için İzleme ve Gözlemlenebilirlik
- Çıkarım yükleri için metrikler
- Günlükleme ve izleme uygulamaları
- Gösterge tabloları ve uyarılandırma
Güvenlik ve Güvenilirlik Hususları
- Model uç noktalarının güvenliğinin sağlanması
- Ağ politikaları ve erişim denetimi
- Yüksek erişilebilirliğin sağlanması
Özet ve Sonraki Adımlar
Kurs İçin Gerekli Önbilgiler
- Konteynerize edilmiş uygulama iş akışlarına dair anlayış
- Python tabanlı makine öğrenimi modelleri deneyimi
- Kubernetes temellerine aşinalık
Katılımcı Profili
- ML mühendisleri
- DevOps mühendisleri
- Platform mühendisliği ekipleri
Danışanlarımızın Yorumları (4)
kutu/kubernetes ile nasıl etkileşim kurduklarına dair temel anlayış OpenShift platformunun özellikleri
Eric Scholze - NOW IT GmbH
Eğitim - Introduction to Containers, Kubernetes & OpenShift
Yapay Zeka Çevirisi
Mikrohizmetler hakkında ve Kubernetes'in nasıl bakılacağı
Yufri Isnaini Rochmat Maulana - Bank Indonesia
Eğitim - Advanced Platform Engineering: Scaling with Microservices and Kubernetes
Yapay Zeka Çevirisi
Eğitmen bilgiyi nasıl etkili bir şekilde aktarır
Vu Thoai Le - Reply Polska sp. z o. o.
Eğitim - Certified Kubernetes Administrator (CKA) - exam preparation
Yapay Zeka Çevirisi
Augustin ile yapılan bilgi ve deneyim alışverişleri
Laurent - L'Office national des vacances annuelles (ONVA)
Eğitim - Docker and Kubernetes
Yapay Zeka Çevirisi