CUDA C/C++ ile Hızlandırılmış Hesaplamaya Temeller Eğitimi

GPU Hesaplama ve CUDA Mimarisi

• CPU vs GPU mimari farkları
• NVIDIA GPU akış çoklu işlemci modeli
• CUDA programlama modeline genel bakış
• Farklı hesaplama ve ev sahibi-cihaz paradigmaları

CUDA Geliştirme Ortamının Kurulması

• CUDA Toolkit 13.x kurulumu
• NVCC derleyicisi ve oluşturma iş akışı
• Cihaz sorgulamalarıyla ortamın doğrulanması
• IDE entegrasyonu ve geliştirme araçları

CUDA Çekirdeklerinin Yazılması ve Başlatılması

• Çekirdek işlev sözdizimi ve nitelikleri
• Başlatma yapılandırması ve çalıştırma
• Dizile toplama ve temel veri- paralel desenler
• CUDA hata denetimi makroları

CUDA İş Parçacığı Hiyerarşisi ve Çalıştırma Modeli

• Grid, blok ve iş parçacığı organizasyonu
• İş parçacığı indeksleme ve genel kimlik hesaplama
• Warp çalıştırması ve SIMT modeli
• Okyupansiyon ve kaynak kullanımı

GPU Bellek Mimarisi ve Yönetimi

• Bellek türleri: genel, paylaşılan, sabit, kayıtlar
• Cihaz belleğini tahsis etme ve serbest bırakma
• Evcihanti cihazına ve cihantt evçihti aktarımlar
• Blok içi iş birliği için paylaşılan bellek

Birleştirilmiş Bellek ve Veri Göçümü

• Birleştirilmiş bellek modeli ve yönetilen tahsisler
• Sayfa göçümü ve talep üzerine sayfalama
• cudaMemPrefetchAsync ile eşzamansız önceden yükleme
• Erişim desenleri için bellek tavsiye ipuçları

Nsight Systems ile Sistem Geneli Profil Oluşturma

• Nsight Systems zaman çizelgesi analizi
• Evcihanti-cihaz senkronizasyon noktalarının belirlenmesi
• Çekirdek çalıştırma ve bellek aktarımlarının görselleştirilmesi
• Sistem düzeyi performans verilerinin yorumlanması

Nsight Compute ile Çekirdek Optimizasyonu

• Nsight Compute etkileşimli çekirdek profil oluşturma
• Bellek verimliliği ve bant genişliği analizi
• Hesaplama kullanımı ve warp durum istatistikleri
• Kılavuzlu analiz ve optimizasyon kuralları

Eşzamanlı Akışlar ve Eşzamansız İşlemler

• CUDA akışları ve varsayılan akış
• Veri aktarımlarıyla örtüşen çekirdek çalıştırma
• Akış senkronizasyonu ve CUDA olayları
• Çoklu akış hat tasarımı kalıpları

Hata İşleme ve Hata Ayıklama Araçları

• CUDA API hata kodları ve kurtarma stratejileri
• Bellek erişim denetimi için Compute-sanitizer
• Çekirdek hata ayıklaması için cuda-gdb
• Onaylamalar ve eşzamanlı hata algılama

Profil Yönlendirilmiş Optimizasyon İş Akışı

• Tekrarlanan profil oluşturma metodolojisi
• Darboğazların belirlenmesi ve önceliklendirilmesi
• Performans regresyon testleri
• Optimizasyon kararlarının dokümante edilmesi

Sonundan Sonuna Hızlandırılmış Uygulama Projesi

• Tam bir GPU'yla hızlandırılmış çözümün tasarımı
• Geliştirme boyunca profil oluşturma entegrasyonu
• Performans benchmarking ve raporlama
• Üretim dağıtımı için göz önünde bulundurulması gerekenler