Bizi tercih ettiğiniz için teşekkür ederiz. Ekip üyelerimiz en kısa sürede sizlerle iletişime geçecektir.
Rezervasyonunuzu gönderdiğiniz için teşekkür ederiz! Ekibimizden bir yetkili kısa süre içinde sizinle iletişime geçecektir.
Eğitim İçeriği
Performans Kavramları ve Metrikler
- Gecikme, geçirgenlik, güç tüketimi, kaynak kullanımı
- Sistem düzeyinde vs. model düzeyinde darboğazlar
- Çıkarım vs. eğitim için profil oluşturma
Huawei Ascend Üzerinde Profil Oluşturma
- CANN Profiler ve MindInsight kullanımı
- Kernel ve operatör tanıları
- Offload desenleri ve bellek eşlemeleri
Biren GPU Üzerinde Profil Oluşturma
- Biren SDK performans izleme özellikleri
- Kernel füzyonu, bellek hizalaması ve yürütme kuyrukları
- Güç ve sıcaklık duyarlı profil oluşturma
Cambricon MLU Üzerinde Profil Oluşturma
- BANGPy ve Neuware performans araçları
- Kernel düzeyinde görünürlük ve log yorumlama
- MLU profiler'ın dağıtım çerçeveleriyle entegrasyonu
Graph ve Model Düzeyinde Optimizasyon
- Graph budama ve kuantizasyon stratejileri
- Operatör füzyonu ve hesaplama grafı yeniden yapılandırma
- Girdi boyutu standardizasyonu ve toplu ayarlama (batch tuning)
Bellek ve Kernel Optimizasyonu
- Bellek yerleşimi ve yeniden kullanımının optimizasyonu
- Çip setleri arası verimli tampon yönetimi
- Platform bazlı kernel düzeyinde ayarlama teknikleri
Platformlar Arası En İyi Uygulamalar
- Performans taşınabilirliği: soyutlama stratejileri
- Çok çipli ortamlar için ortak ayarlama hatları oluşturma
- Örnek: Ascend, Biren ve MLU üzerinde nesne algılama modeli ayarlama
Özet ve Sonraki Adımlar
Kurs İçin Gerekli Önbilgiler
- Yapay zeka modeli eğitimi veya dağıtım hatlarıyla çalışma deneyimi
- GPU/MLU hesaplama prensipleri ve model optimizasyonunun anlaşılması
- Performans profil oluşturma araçları ve metrikleriyle temel düzeyde aşinalık
Hedef Kitle
- Performans mühendisleri
- Makine öğrenimi altyapı ekipleri
- Yapay zeka sistem mimarları
21 Saatler
