Performance Optimization on Ascend, Biren, and Cambricon Eğitimi
Ascend, Biren ve Cambricon, Çin'deki önde gelen AI donanım platformlarıdır ve her biri üretim ölçekteki AI yüklemeleri için benzersiz hızlandırma ve profilleme araçları sunar.
Bu eğitmen tarafından yönetilen canlı eğitim (çevrimiçi veya yerel), çoklu Çin AI chip platformlarında model çıkarımı ve eğitim akışlarını optimize etmek isteyen ileri düzey AI altyapı ve performans mühendisleri için tasarlanmıştır.
Eğitim sonunda katılımcılar şunları yapabilecektir:
- Ascend, Biren ve Cambricon platformlarında modelleri test etmek.
- Sistem zorluk noktalarını ve bellek/hesaplama verimlilik eksikliklerini belirlemek.
- Çizelge seviyesinde, çekirdek seviyesinde ve operatör seviyesinde optimizasyonlar uygulamak.
- Toplamı ve gecikmeyi iyileştirmek için dağıtım boru hattlarını ayarlamak.
Eğitim Formatı
- Aktif ders anlatımı ve tartışma.
- Her platformda profilleme ve optimizasyon araçlarının uygulanması.
- Pratik ayar senaryolarına odaklanan yönlendirilmiş egzersizler.
Eğitim Özelleştirme Seçenekleri
- Sunum ortamınız veya model tipinize dayalı olarak bu eğitim için özelleştirilmiş bir eğitim talep etmek istiyorsanız, lütfen bizi düzenlemek üzere iletişime geçiniz.
Eğitim İçeriği
Performans Kavramları ve Ölçümler
- Gecikme süresi, kapasite, güç kullanımını, kaynak kullanımını
- Sistem karşılaştırmalarında model düzeyinde yavaşı
- Tahminle eğitim için profil oluşturma
Huawei Ascend üzerinde Profil Oluşturma
- CANN Profiler ve MindInsight kullanımı
- Kernel ve operatöragnostik
- Aşırı yükleme desenleri ve bellek eşleme
Biren GPU üzerinde Profil Oluşturma
- Biren SDK performans izleme özellikleri
- Kernel birleştirimi, hafıza uyumunu ve yürütme kuyrukları
- Güç ve sıcaklık bilinci olan profil oluşturma
Cambricon MLU üzerinde Profil Oluşturma
- BANGPy ve Neuware performans araçları
- Kernel düzeyinde görünürlük ve günlük yorumlama
- MLU analiztoolunun dağıtım çatılarıyla entegrasyonu
Çizge ve Model Düzeyi Optimizasyonu
- Çizge kesme ve nicelendirme stratejileri
- Operatör birleştirimi ve hesaplamalı çizge yeniden yapılandırma
- Girdi boyutu standartlaştırma ve toplu ayarlama
Bellek ve Kernel Optimizasyonu
- Bellek düzenini ve yeniden kullanılmasını iyileştirme
- Chipsetler arasında verimli bufer yönetimi
- Platforma göre kernel düzeyinde ayarlama teknikleri
Karışık Platform İyi Uygulamaları
- Performans taşınabilirliği: soyutlama stratejileri
- Birçok chipset ortamında paylaşılan ayarlama pipeline'ları oluşturma
- Örnek: Ascend, Biren ve MLU arasında bir nesne tanıma modelini ayarlama
Özet ve Sonraki Adımlar
Kurs İçin Gerekli Önbilgiler
- AI model eğitim veya dağıtım pipeline'larında工作经验与AI模型训练或部署管道
- GPU/MLU计算原理和模型优化的理解
- 性能剖析工具和指标的基本熟悉
受众
- 性能工程师
- 机器学习基础设施团队
- AI系统架构师
Açık Eğitim Kursları 5 ve üzeri katılımcı gerektirir.
Performance Optimization on Ascend, Biren, and Cambricon Eğitimi - Rezervasyon
Performance Optimization on Ascend, Biren, and Cambricon Eğitimi - Talep Oluştur
Performance Optimization on Ascend, Biren, and Cambricon - Danışmanlık Talebi
Danışmanlık Talebi
Yaklaşan Etkinlikler
İlgili Kurslar
Huawei Ascend ve CANN ile Yapay Zeka Uygulamaları Geliştirme
21 SaatHuawei Ascend, yüksek performanslı çıkarım ve eğitim için tasarlanmış bir AI işlemciler ailesidir.
Bu eğitmen ledipli canlı eğitim (çevrimiçi veya yerinde) orta düzeydeki AI mühendisleri ve veri bilimcilerini, Huawei Ascend platformu ve CANN araç takımı kullanarak nöral ağ modellerini geliştirme ve optimize etme konusunda hedef almaktadır.
Bu eğitimin sonunda katılımcılar şunları yapabilecektir:
- CANN geliştirme ortamını kurma ve yapılandırma.
- MindSpore ve CloudMatrix iş akışlarını kullanarak AI uygulamaları geliştirmek.
- Özel operatörler ve tiling kullanarak Ascend NPUs üzerinde performansı optimize etmek.
- Modelleri kenar veya bulut ortamlarına dağıtma.
Kurs Formatı
- Etkileşimli ders ve tartışma.
- Örnek uygulamalarda Huawei Ascend ve CANN araç takımının kullanımı.
- Model oluşturma, eğitim ve dağıtma konularına odaklanan rehberli alıştırmalar.
Kurs Özelleştirme Seçenekleri
- Altyapınız veya veri kümelerinize dayalı özelleştirilmiş bir eğitim isteyebilirsiniz. Lütfen bize ulaşın ve düzenlemeyi sağlayalım.
AI Modellerin CANN ve Ascend AI İşlemcileriyleploymentu
14 SaatCANN (Compute Architecture for Neural Networks) Huawei'nin AI modelini Ascend AI işlemcilerine dağıtmak ve optimize etmek için kullanılan AI hesaplama stöküdür.
Bu eğitmen tarafından yönetilen canlı eğitim (online veya on-site), eğitimli AI modellerini etkili bir şekilde Huawei Ascend donanımına dağıtma amacıyla CANN kiti ve MindSpore, TensorFlow, veya PyTorch gibi araçları kullanmayı öğrenmek isteyen orta düzeyde AI geliştiricileri ve mühendisleri için tasarlanmıştır.
Bu eğitim sonunda katılımcılar aşağıdaki yetenekleri kazanacaklardır:
- CANN mimarisini ve AI dağıtım kanalındaki rolünü anlamak.
- Popüler çerçevelerden Ascend uyumlu biçimlere modeli dönüştürme ve uyarlamak.
- ATC, OM model dönüştürmesi ve MindSpore gibi araçları kullanmak (kenar ve bulut çıkarımında).
- Ascend donanımda dağıtım sorunlarını teşhis etmek ve performansı optimize etmek.
Eğitim Biçimi
- Etkileşimli ders anlatımı ve gösterim.
- CANN araçlarını ve Ascend simülatorlarını veya cihazlarını kullanarak el ile laboratuvar çalışması.
- Gerçek dünya AI modellerine dayalı uygulamaların örnekleri.
Eğitim Özelleştirme Seçenekleri
- Bu eğitimi özelleştirmek için özel bir eğitim talebinde bulunmak istiyorsanız, bize başvurarak düzenleme yapabilirsiniz.
Yapay Zeka Sonuç Çıktısı ve Bulutta DağıtımMatrix
21 SaatCloudMatrix, Huawei'nin ölçeklenebilir, üretim kalitesi tahmin akışlarını destekleyen birleşik bir AI geliştirme ve dağıtım platformudur.
Bu eğitmen yönetilen canlı eğitim (çevrimiçi veya yerel), CloudMatrix platformunu kullanarak AI modellerini dağıtma ve izleme konusunda beceriler kazanmak isteyen başlangıç seviyesinden orta düzeydeki AI profesyonellere yöneliktir.
Bu eğitim sonunda, katılımcılar şunları yapabilecekler:
- Model paketleme, dağıtım ve hizmet sunumu için CloudMatrix'u kullanma.
- Ascend chipsetleri için modelleri dönüştürme ve iyileştirme.
- Gerçekte zamanlı ve toplu tahmin görevleri için akışları ayarlama.
- Üretim ayarlarında dağıtımları izleme ve performansı optimize etme.
Eğitim Biçimi
- Etkileşimli ders anlatımı ve tartışma.
- Gerçek dağıtım senaryolarında CloudMatrix'un elden kullanımı.
- Dönüştürme, iyileştirme ve ölçeklendirme odaklı yönlendirilmiş alıştırmalar.
Eğitim Özelleştirme Seçenekleri
- Bu eğitim için AI altyapınız veya bulut ortamınıza dayalı özelleştirilmiş bir eğitim talep etmek istiyorsanız, lütfen bizimle iletişime geçin.
GPU Programming Biren AI Akkolatörler
21 SaatBiren AI Accelerators, büyük ölçekli eğitim ve çıkarım için destek sağlayan, AI ve HPC iş yükleri için tasarlanmış yüksek performanslı GPUlerdir.
Bu eğitmen yönetimi altında yapılan canlı eğitim (çevrimiçi veya yerel) orta seviye ve ileri düzey geliştirmenin Biren'in özel GPU yığını kullanarak uygulamaları programlamak ve optimize etmek için tasarlanmıştır. CUDA tabanlı ortamlarla pratik karşılaştırmalarda bulunacaktır.
Bu eğitim sonunda katılımcılar şunları yapabilecektir:
- Biren GPU mimarisini ve bellek hiyerarşisini anlayacak.
- Geliştirme ortamını kurma ve Biren'in programlama modelini kullanma.
- CUDA tarzındaki kodu Biren platformlarına çevirmek ve optimize etmek.
- Performans ayarlama ve hata ayıklama tekniklerini uygulamak.
Eğitim Formatı
- Etkileşimli ders anlatımı ve tartışma.
- Örnek GPU iş yüklerinde Biren SDK'nın kullanımı.
- Taşıma ve performans ayarlama odaklanan yönlendirilmiş uygulamalar.
Eğitim Özelleştirme Seçenekleri
- Uygulama yığınına veya tümleştirmede ihtiyaçlarınıza dayalı olarak bu eğitim için özel bir eğitim talep etmek istiyorsanız, lütfen bizimle iletişime geçin.
Cambricon MLU Development with BANGPy and Neuware
21 SaatCambricon MLUs (Machine Learning Birimleri) kenar ve veri merkezi senaryolarında tahmin ve eğitim için optimize edilmiş özelleştirilmiş AI chip'leridir.
Bu eğitmen tarafından yönetilen canlı eğitim (çevrimiçi veya yerel), BANGPy framework'i ve Neuware SDK'yı Cambricon MLU donanımını kullanarak yapay zeka modelleri oluşturmak ve dağıtmak isteyen orta düzeyli geliştiricilere yöneliktir.
Bu eğitim sonunda, katılımcılar şunları yapabilecekler:
- BANGPy ve Neuware geliştirme ortamlarını kurma ve yapılandırma.
- Cambricon MLU'lar için Python ve C++-tabanlı modelleri geliştirmek ve optimize etmek.
- Neuware runtime'u çalıştıran kenar ve veri merkezi cihazlarına model dağıtmak.
- MLU özel hızlandırma özelliklerini ML iş akışlarıyla entegre etmek.
Eğitim Formatı
- Interaktif ders anlatımı ve tartışmalar.
- BANGPy ve Neuware'ın geliştirme ve dağıtım için el ile kullanımı.
- Optimizasyon, entegrasyon ve test odaklı yönlendirilmiş egzersizler.
Eğitim Özelleştirme Seçenekleri
- Cambricon cihaz modelinize veya kullanım durumunuza dayalı bu eğitim için özelleştirilmiş bir eğitim talebinde bulunmak isterseniz, lütfen bizi düzenlemek üzere iletişime geçin.
Yapay Zeka Çerçevesi Geliştiriciler için CANN Giriş
7 SaatCANN (Compute Architecture for Neural Networks) Huawei'nin AI hesaplama araç seti, Ascend AI işlemcilerinde AI modellerini derleme, iyileştirme ve dağıtma amacıyla kullanılır.
Bu eğitmenler tarafından yönetilen canlı eğitim (çevrimiçi veya yerel), eğitimden dağıtımın tüm süreçleri için CANN'nin rolünü anlamayı ve MindSpore, TensorFlow ve PyTorch gibi çerçevelerle nasıl çalıştığını anlamak isteyen giriş seviyesinde AI geliştiricileri için tasarlanmıştır.
Bu eğitim sonunda katılımcılar şunları başarabilecekler:
- CANN araç setinin amacını ve mimarisini anlamak.
- CANN ile MindSpore ile geliştirme ortamını kurmak.
- Basit bir AI modelini Ascend donanımına dönüştürmek ve dağıtmak.
- Gelecekteki CANN iyileştirme veya entegrasyon projeleri için temel bilgi kazanmak.
Eğitim Formatı
- Etkileşimli ders ve tartışma.
- Basit model dağıtımını içeren elden deneyimler.
- CANN araç zinciri ve entegrasyon noktalarına adım adım kılavuzluk.
Eğitim Özelleştirme Seçenekleri
- Bu eğitim için özel bir eğitim talep etmek isterseniz lütfen bizimle iletişime geçin ve ayarlayın.
Edge AI Dağıtım için CANN
14 SaatHuawei'nin Ascend CANN araç seti, Ascend 310 gibi kenar cihazlarında güçlü AI çıkarımını sağlar. CANN, hesaplama ve bellek sınırlı ortamlarda modelleri derlemek, optimize etmek ve dağıtmak için gerekli araçları sunar.
Bu eğitmen önderliğindeki canlı eğitim (çevrimiçi veya yerinde), Ascend kenar cihazlarına CANN araç zinciri kullanarak modelleri dağıtmayı ve optimize etmeyi öğrenmek isteyen orta seviye AI geliştiricileri ve entegratörlerine yöneliktir.
Bu eğitimden sonra katılımcılar şunları yapabilecekler:
- CANN araçlarını kullanarak Ascend 310 için AI modellerini hazırlayarak ve dönüştürmeyi öğrenecektir.
- MindSpore Lite ve AscendCL kullanarak hafif çıkarım hatları oluşturmayı öğrenecekler.
- Sınırlı hesaplama ve bellek ortamlarında model performansını optimize etmeyi öğrenecekler.
- Gerçek dünyada kenar kullanımları için AI uygulamalarını dağıtmayı ve izlemeyi öğrenecekler.
Eğitim Formatı
- Etkileşimli ders ve gösterim.
- Kenar-özelleştirilmiş modeller ve senaryolarla ellerden gelme laboratuvar çalışmaları.
- Sanal veya fiziksel kenar donanımları üzerinde canlı dağıtım örnekleri.
Eğitim Özelleştirme Seçenekleri
- Bu kurs için özelleştirilmiş bir eğitim talep etmek istiyorsanız, lütfen bize ulaşın.
Huawei’nin AI Hesaplama Yığını Anlatımı: CANN’dan MindSpore’a
14 SaatHuawei'nin AI yığını — düşük seviyeli CANN SDK’sından yüksek seviyeli MindSpore çerçevesine kadar — Ascend donanımları için optimize edilmiş, sıkı bir şekilde entegre edilmiş bir AI geliştirme ve dağıtım ortamı sunar.
Bu eğitmen tarafından yönetilen canlı eğitim (çevrimiçi veya yerinde), CANN ve MindSpore bileşenlerinin nasıl birlikte çalıştığını anlamak isteyen başlangıç seviyesinden ileri seviyeye kadar teknik uzmanlar için düzenlenmiştir.
Bu eğitim sonunda katılımcılar şunları yapabilecektir:
- Huawei'nin AI hesaplama yığınının katmanlı mimarisini anlamak.
- CANN'nın model iyileştirmesine ve donanım seviyesindeki dağıtıma nasıl katkı sağladığını belirlemek.
- MindSpore çerçevesini ve araç zincirini endüstri alternatifleriyle karşılaştırmak.
- Huawei'nin AI yığınına, kurumsal veya bulut/on-prem ortamlarında yer vermek için pozisyon vermektir.
Eğitim Formatı
- Etkileşimli ders ve tartışma.
- Canlı sistem gösterileri ve vakit bazlı yürüyüşler.
- İsteğe bağlı laboratuvarlar: MindSpore’dan CANN’a model akışı üzerine rehberlik.
Eğitim Özelleştirme Seçenekleri
- Bu kurs için özelleştirilmiş bir eğitim talep etmek istiyorsanız, lütfen bize iletişime geçin.
Neuronal Ağ Performansını CANN SDK ile Optimizasyon
14 SaatCANN SDK (Compute Architecture for Neural Networks) Huawei'nın AI hesaplama temelidir ve geliştiricilerin Ascend AI işlemcilerinde dağıtılan sinir ağlarının performansını ayarlamalarına ve optimize etmelerine olanak sağlar.
Bu eğitmen yönetilen canlı eğitim (çevrimiçi veya yerel), tahmin performansını CANN'nin gelişmiş araç seti, Graph Engine, TIK ve özel operatör geliştirme kullanarak optimize etmek isteyen uzman düzeyde AI geliştiricileri ve sistem mühendisleri için tasarlanmıştır.
Eğitim sonunda katılımcılar şunları yapabilecektir:
- CANN'nin çalışma zamanı mimarisini ve performans yaşam döngüsünü anlayacaklar.
- Performans analizi ve optimizasyonu için profil oluşturma araçlarını ve Graph Engine'i kullanacaklar.
- TIK ve TVM ile özel operatörler oluşturmayı ve optimize edecekler.
- Bellek daralıklarını çözecek ve model akışını artıracaklar.
Eğitim Formatı
- Interaktif ders ve tartışma.
- Gerçek zamanlı profil oluşturma ve operatör ayarı ile elden deneme laboratuvarları.
- Kıyısı durum dağıtım örnekleri kullanarak optimizasyon egzersizi.
Eğitim Özelleştirme Seçenekleri
- Bu eğitim için özel bir eğitim talep etmek istiyorsanız, bize ulaşın ve düzenleme yapın.
CANN SDK için Bilgisayar Görüşü ve Doğal Dil İşleme Hatları
14 SaatCANN SDK (Neural Ağlar için Hesaplama Mimarisi) bilgisayar görüşü ve doğal dil işleme (NLP) alanında gerçek zamanlı AI uygulamaları için, özellikle Huawei Ascend donanımı üzerinde güçlü dağıtım ve optimizasyon araçları sağlar.
Bu eğitmen öncülünde, canlı eğitim (online veya yerinde), orta seviye AI uzmanlarının CANN SDK'yı kullanarak üretim kullanım senaryoları için görsel ve dil modelleri oluşturmak, dağıtmak ve optimiz etmek isteyenler için düzenlenmiştir.
Bu eğitimin sonunda katılımciler şunları yapabilecektir:
- CANN ve AscendCL kullanarak CV ve NLP modellerini dağıtmak ve optimiz etmek.
- CANN araçlarını kullanarak modelleri dönüştürmek ve canlı hatlara entegre etmek.
- Tespit, sınıflandırma ve duygu analizi gibi görevler için çıkarım performansını optimiz etmek.
- Kenar veya bulut tabanlı dağıtım senaryoları için gerçek zamanlı CV/NLP hatları oluşturmak.
Eğitim Biçimi
- Etkileşimli ders ve gösteri.
- Model dağıtım ve performans profillemesi ile elden deneme labı.
- Gerçek CV ve NLP kullanım senaryoları kullanarak canlı hat tasarım.
Eğitim Özelleştirme Seçenekleri
- Bu eğitimin özelleştirilmiş bir versiyonunu talep etmek için lütfen bizimle iletişime geçin.
Özelleştirilmiş AI Operatörlerini CANN TIK ve TVM ile Geliştirmek
14 SaatCANN TIK (Tensor Instruction Kernel) ve Apache TVM, Huawei Ascend donanıma yönelik AI model işlemcilerinin ileri düzeyde optimizasyonu ve özelleştirilmesini sağlar.
Bu eğitmen tarafından yönetilen canlı eğitim (önline veya onsite), AI modelleri için özel işlemciler oluşturmak, dağıtmak ve ayarlamak isteyen ileri seviye sistem geliştiricilerine yönelik olup CANN'nin TIK programlama modelini ve TVM derleyici entegrasyonunu kullanır.
Bu eğitim sonunda katılımcılar şunları yapabilecektir:
- Ascend işlemcileri için TIK DSL ile özel AI işlemlerini yazıp test etme.
- Özel işlemleri CANN çalışma zamanına ve yürütme grafiğine entegrasyon.
- TVM'yi işlem planlaması, otomatik ayarlaması ve benchmarklemesi için kullanma.
- Özel hesaplama desenlerinin talimat düzeyi performansını hata ayıklamak ve optimize etmek.
Eğitim Formatı
- Etkileşimli ders anlatımı ve gösterim.
- TIK ve TVM pipeline'larını kullanarak işlemcilerin kodlanması.
- Ascend donanımlarında veya simülatorlarda test etme ve ayarlama.
Eğitim Özelleştirme Seçenekleri
- Bu eğitim için özelleştirilmiş bir eğitim talebinde bulunmak istiyorsanız, lütfen bizimle iletişime geçin.
CUDA Uygulamalarını Çince GPU Mimarilere Taşıma
21 SaatÇin GPU mimarileri, Huawei Ascend, Biren ve Cambricon MLU gibi alternatif CUDA seçenekleri sunarak yerel AI ve HPC pazarlarına hizmet ediyor.
Bu eğitmen yönetimi altında gerçekleşen canlı eğitim (online veya face-to-face) ileri düzey GPU programcıları ve altyapı uzmanlarını hedefleyerek mevcut CUDA uygulamalarını Çin donanım platformlarına taşımayı ve optimize etmeyi amaçlıyor.
Eğitim sonunda katılımcılar:
- Mevcut CUDA iş yüklerinin Çin alternatifCHIP'leriyle uyumunu değerlendirecekler.
- CUDA kod tabanlarını Huawei CANN, Biren SDK ve Cambricon BANGPy ortamlarına taşıyacaklar.
- Performansı karşılaştıracak ve platformlar arası optimizasyon noktalarını belirleyecekler.
- Multiplesimya destek ve dağıtımda praktik zorlukları ele alacaklar.
Eğitim Formatı
- Interaktif ders ve tartışmalar.
- Kod çevirme ve performans karşılaştırmalı laboratuvarları.
- Birden çok-GPU uyum stratejilerine odaklanan yönlendirilmiş egzersizler.
Eğitim Özelleştirme Seçenekleri
- Platformanız veya CUDA projesi için bu eğitimi özelleştirmek isterseniz, lütfen bize ulaşın ve düzenleme yapın.