Eğitim İçeriği
Giriş
- Derin öğrenme ölçeklendirme zorluklarına genel bakış
- DeepSpeed'e ve özelliklerine genel bakış
- DeepSpeed ve diğer dağıtık derin öğrenme kütüphaneleri
Başlarken
- Geliştirme ortamının kurulumu
- PyTorch ve DeepSpeed'in kurulumu
- Dağıtık eğitim için DeepSpeed'in yapılandırılması
DeepSpeed Optimizasyon Özellikleri
- DeepSpeed eğitim hattı
- ZeRO (bellek optimizasyonu)
- Aktivasyon kontrol noktası
- Gradyan kontrol noktası
- Hattı paralelliği
DeepSpeed ile Modelleri Ölçeklendirme
- DeepSpeed kullanarak temel ölçeklendirme
- Gelişmiş ölçeklendirme teknikleri
- Performans hususları ve en iyi uygulamalar
- Hata ayıklama ve sorun giderme teknikleri
Gelişmiş DeepSpeed Konuları
- Gelişmiş optimizasyon teknikleri
- Karma hassasiyetli eğitim ile DeepSpeed kullanımı
- Farklı donanımlarda DeepSpeed (örneğin GPU’ler, TPU’lar)
- Birden fazla eğitim düğümü ile DeepSpeed
DeepSpeed'i PyTorch ile Entegre Etme
- DeepSpeed'i PyTorch iş akışlarıyla entegre etme
- PyTorch Lightning ile DeepSpeed kullanımı
Sorun Giderme
- Yaygın DeepSpeed sorunlarını ayıklama
- İzleme ve günlük kaydı
Özet ve Sonraki Adımlar
- Temel kavramların ve özelliklerin özeti
- DeepSpeed'i üretimde kullanmak için en iyi uygulamalar
- DeepSpeed hakkında daha fazla bilgi edinmek için ek kaynaklar
Kurs İçin Gerekli Önbilgiler
- Derin öğrenme prensiplerine orta düzeyde hakimiyet
- PyTorch veya benzeri derin öğrenme çerçeveleriyle deneyim
- Python programlamaya aşinalık
Hedef Kitle
- Veri bilimcileri
- Makine öğrenimi mühendisleri
- Geliştiriciler
Danışanlarımızın Yorumları (3)
Gerçekten, CHAT GPT ile oynamak için ayırdığımız zamanı çok beğendim. Bu etkinlik için odanın düzeni en ideal değildi - büyük bir masa yerine, küçük gruplara ayrılıp fikir üretmeye yardımcı olacak birkaç küçük masa olması daha iyi olurdu.
Nola - Laramie County Community College
Eğitim - Artificial Intelligence (AI) Overview
Yapay Zeka Çevirisi
Odaklanarak ilk ilkelerden başlamak ve aynı gün içinde örneklem uygulamalarına geçmek
Maggie Webb - Department of Jobs, Regions, and Precincts
Eğitim - Artificial Neural Networks, Machine Learning, Deep Thinking
Yapay Zeka Çevirisi
Gerçek şirket verilerinin kullanıldığını görüyorduk. Eğitmen, katılımcıların katılımını ve yarışmasını sağlayarak çok iyi bir yaklaşım sergiledi.
Jimena Esquivel - Zaklad Uslugowy Hakoman Andrzej Cybulski
Eğitim - Applied AI from Scratch in Python
Yapay Zeka Çevirisi