Eğitim İçeriği

Parametre-Efektif Fine-Tuning (PEFT)'e Giriş

  • Tam fine-tuning'un motivasyonu ve sınırlamaları
  • PEFT genel bakış: hedefler ve faydalar
  • Sanayide uygulamalar ve kullanım durumları

LoRA (Düşük Sıralı Uyarlanma)

  • LoRA'nın kavramı ve arka plandaki sezgi
  • Hugging Face ve PyTorch kullanarak LoRA'yi uygulama
  • Elden: Bir modeli LoRA ile fine-tuning yapma

Adapter Tuning

  • Adapter modülleri nasıl çalışır
  • Transformer tabanlı modellere entegrasyon
  • Elden: Bir transformer modeline Adapter Tuning uygulama

Prefix Tuning

  • Fine-tuning için yumuşak promplar kullanma
  • LoRA ve adapterlere göre avantajları ve sınırlamaları
  • Elden: Bir LLM görevinde Prefix Tuning yapma

PEFT Yöntemlerinin Değerlendirilmesi ve Karşılaştırılması

  • Performans ve verimlilik değerlendirmesi için ölçümler
  • Eğitim hızı, bellek kullanımı ve doğruluk arasındaki maliyet-benefit dengesizlikleri
  • Benchmark deneyleri ve sonuç yorumlaması

Uyarlanmış Modelleri Dağıtma

  • Uyarlanmış modelleri kaydetme ve yükleme
  • PEFT tabanlı modellere dağıtım düşünceleri
  • Uygulamalara ve pipeline'lara entegrasyon

En İyi Pratikler ve Uzantılar

  • Kuantifikasyon ve distillery ile PEFT'yi birleştirme
  • Düşük kaynaklı ve çok dilli ayarlarda kullanımı
  • Gelecek yönleri ve aktif araştırma alanları

Özet ve Sonraki Adımlar

Kurs İçin Gerekli Önbilgiler

  • Makine öğrenimi temellerini anlamak
  • Büyük dil modelleri (LLMs) ile çalışmak deneyimi
  • Python ve PyTorch ile verimsizlik

Hedef Kitle

  • Veri bilimciler
  • AI mühendisleri
 14 Saat

Katılımcı Sayısı


Kişi Başına Fiyat

Yaklaşan Etkinlikler

İlgili Kategoriler