Eğitim İçeriği

QLoRA ve Kuantizasyon Giriş

  • Kuantizasyonun model optimizasyondaki rolüne genel bakış
  • QLoRA çerçevesine ve avantajlarına giriş
  • QLoRA ile geleneksel fine-tuning yöntemleri arasındaki temel farklar

Büyük Dil Modellerinin (LLMs) Temelleri

  • LLM'lerin mimarisi ve tanıtımı
  • Buyuk modellerin ölçeklendirilmesinde fine-tuning zorlukları
  • Kuantizasyonun LLM fine-tuningde hesaplama kısıtlamalarını aşmada nasıl yardımcı olduğunu

LLM'ler için QLoRA'yı Fine-Tuning için Uygulama

  • QLoRA çerçevesi ve ortamının kurulumu
  • QLoRA fine-tuning için veri setlerinin hazırlanması
  • Python ve PyTorch/TensorFlow kullanarak LLM'lerde QLoRA'yı adım adım uygulama rehberi

QLoRA ile Fine-Tuning Performansını Optimizasyon

  • Kuantizasyonla model doğruluğunu ve performansını nasıl dengeleyeceğinize bakış
  • Fine-tuning sırasında hesaplama maliyetlerini ve bellek kullanımını azaltma teknikleri
  • Minimum donanım gereksinimleriyle fine-tuning stratejileri

Fine-Tuned Modellerin Değerlendirilmesi

  • Fine-tuned modellerin etkinliğini nasıl değerlendireceğinize bakış
  • Dil modelleri için yaygın değerlendirme metrikleri
  • Model performansını tuning sonrası optimize etme ve sorun giderme

Fine-Tuned Modellerin Dağıtım ve Ölçeklendirilmesi

  • Üretim ortamlarına kuantize edilmiş LLM'leri dağıtım için en iyi uygulamalar
  • Geri dönüş isteklerini yönetmek için dağıtımın ölçeklendirilmesi
  • Model dağıtım ve izleme için araçlar ve çerçeveler

Hedefli Uygulama ve Vaka Çalışmaları

  • Vaka çalışması: Müşteri desteği ve NLP görevleri için LLM'lerin fine-tuning'i
  • Sağlık, finans ve e-ticaret gibi farklı sektörlerde LLM'lerin fine-tuning örnekleri
  • QLoRA tabanlı modellerin gerçek dünya dağıtımlarından alınan dersler

Özet ve Sonraki Adımlar

Kurs İçin Gerekli Önbilgiler

  • Makine öğrenimi temelleri ve sinir ağları hakkında bir anlayış
  • Model fine-tuning (ince ayar) ve transfer learning (aktarım öğrenimi) deneyimi
  • Büyük dil modelleri (LLMs) ve derin öğrenme çerçeveleri (örneğin, PyTorch, TensorFlow) ile tanılı olma

Hedef Kitle

  • Makine öğrenimi mühendisleri
  • Yapay zeka geliştiricileri
  • Data bilimcileri
 14 Saat

Katılımcı Sayısı


Kişi Başına Fiyat

Yaklaşan Etkinlikler

İlgili Kategoriler