Bize Ulaşın
 Süre 35 Saat

Eğitim İçeriği

Giriş ve Tanılama Temelleri

  • LLM sistemlerindeki arıza modlarının ve yaygın Ollama'ya özgü sorunların genel bakış
  • Yeniden üretilebilir deneyler ve kontrollü ortamlar oluşturma
  • Hata ayıklama araç seti: yerel loglar, istek/yanııt yakalamaları ve kum havuzu (sandboxing)

Arızaları Yeniden Üretme ve İzole Etme

  • Minimal hata örneği ve tohum oluşturma teknikleri
  • Durumlu ve durumsuz etkileşimler: bağlamla ilgili hataları izole etme
  • Belirlilik, rastgelelik ve belirsiz davranışı kontrol etme

Davranışsal Değerlendirme ve Metrikler

  • Nicel metrikler: doğruluk, ROUGE/BLEU varyantları, kalibrasyon ve şaşkınlık (perplexity) ölçerleri
  • Nitel değerlendirmeler: insan döngü içinde puanlama ve puanlama anahtarı (rubric) tasarımı
  • Görev spesifik sadakat kontrolleri ve kabul kriterleri

Otomatik Test ve Regresyon

  • İfadeler (prompt) ve bileşenler için birim testleri, senaryo ve uçtan uca testler
  • Regresyon paketleri ve altın örnek tabanları oluşturma
  • Ollama model güncellemeleri için CI/CD entegrasyonu ve otomatik doğrulama kapıları

Gözlemlenebilirlik ve İzleme

  • Yapılandırılmış loglama, dağıtık izleme ve korelasyon kimlikleri
  • Temel operasyonel metrikler: gecikme, token kullanımı, hata oranları ve kalite sinyalleri
  • Model destekli hizmetler için uyarılar, panolar ve SLI/SLO'lar

İleri Düzey Kök Neden Analizi

  • Graflanan ifadeler, araç çağrıları ve çok turlu akışlarda izleme
  • Karşılaştırmalı A/B tanı ve ablasyon çalışmaları
  • Veri kaynağı, veri seti hata ayıklama ve veri seti kaynaklı arızaları ele alma

Güvenlik, Sağlamlık ve Giderme Stratejileri

  • Önlemler: filtreleme, temellendirme (grounding), geri getirme arttırımı (retrieval augmentation) ve ifade iskeleti (prompt scaffolding)
  • Model güncellemeleri için geri dönüş (rollback), arı (canary) ve kademeli dağıtım kalıpları
  • Otopsi raporları, dersler ve sürekli iyileştirme döngüleri

Özet ve Sonraki Adımlar

Kurs İçin Gerekli Önbilgiler

  • LLM uygulamaları geliştirme ve dağıtım konusunda güçlü deneyim
  • Ollama iş akışları ve model barındırma konusunda tanıdıklık
  • Python, Docker ve temel gözlemlenebilirlik araçları konforuna sahip olmak

Hedef Kitle

  • Yapay zeka mühendisleri
  • ML Ops profesyonelleri
  • Üretim ortamındaki LLM sistemlerinden sorumlu QA ekipleri

Katılımcı Sayısı


Katılımcı başına fiyat

Yaklaşan Etkinlikler

İlgili Kategoriler