Eğitim İçeriği
Makine Öğrenme Modellerinin Dağıtım Hazırlığı
- Modellerin Docker ile paketlenmesi
- TensorFlow ve PyTorch'tan modellere dışa aktarma
- Sürümleme ve depolama dikkate alınması
Kubernetes Üzerinde Model Hizmeti Verme
- Çıkarım sunucularına genel bakış
- TensorFlow Serving ve TorchServe dağıtımının yapılması
- Model uç noktalarının kurulması
Çıkarım İyileştirme Teknikleri
- Toplu işlem stratejileri
- Eşzamanlı istek işleme
- Gecikme ve aktarım hızı ayarlaması
ML İş Yüklerinin Otomatik Ölçeklendirilmesi
- Yatay Pod Otomatik Ölçeklendirici (HPA)
- Dikey Pod Otomatik Ölçeklendirici (VPA)
- Kubernetes Olay Tabanlı Otomatik Ölçeklendirici (KEDA)
GPU Sağlama ve Kaynak Yönetimi
- GPU düğümlerinin yapılandırılması
- NVIDIA cihaz eklentisine genel bakış
- ML iş yükleri için kaynak talepleri ve sınırlar
Model Dağıtım ve Sürüm Stratejileri
- Mavi/yeşil dağıtımlar
- Kuzgun dağıtım desenleri
- Model değerlendirme için A/B testleri
Üretimde ML için İzleme ve Gözden Geçirme
- Çıkarım iş yükleri için metrikler
- Günlük kaydı ve izleme uygulamaları
- Panolar ve uyarılar
Güvenlik ve Dayanıklılık Dikkate Alınması
- Model uç noktalarının güvenştirilmesi
- Ağ politikaları ve erişim kontrolü
- Yüksek kullanılabilirlik sağlanması
Özet ve Sonraki Adımlar
Kurs İçin Gerekli Önbilgiler
- Kapsayıcılı uygulama iş akışları hakkında bilgi sahibi olmak
- Python tabanlı makine öğrenme modelleriyle deneyim sahibi olmak
- Kubernetes temel kavramları hakkında bilgi sahibi olmak
Hedef Kitle
- ML mühendisleri
- DevOps mühendisleri
- Platform mühendislik takımları
Danışanlarımızın Yorumları (3)
Mikrohizmetler hakkında ve Kubernetes'in nasıl bakılacağı
Yufri Isnaini Rochmat Maulana - Bank Indonesia
Eğitim - Advanced Platform Engineering: Scaling with Microservices and Kubernetes
Yapay Zeka Çevirisi
Eğitmen bilgiyi nasıl etkili bir şekilde aktarır
Vu Thoai Le - Reply Polska sp. z o. o.
Eğitim - Certified Kubernetes Administrator (CKA) - exam preparation
Yapay Zeka Çevirisi
Eğitmenin sorularımıza cevap verme konusundaki bilgi ve sabrı.
Calin Avram - REGNOLOGY ROMANIA S.R.L.
Eğitim - Deploying Kubernetes Applications with Helm
Yapay Zeka Çevirisi