Eğitim İçeriği

LLM Mimari ve Saldırı Yüzeyi Özet

  • LLMs nasıl oluşturulur, dağıtılır ve API'ler üzerinden erişilir
  • LLM uygulama yığınlarındaki ana bileşenler (örneğin, istekler, ajanslar, bellek, API'ler)
  • Gerçek dünya kullanımında güvenlik sorunlarının nasıl ve nerede ortaya çıktığı

İstek Ekleme ve Kilit Açma Saldırıları

  • İstek ekleme nedir ve neden tehlikeli olduğu
  • Direkt ve dolaylı istek ekleme senaryoları
  • Güvenlik filtrelerini aşmak için kilit açma teknikleri
  • Tespit ve azaltma stratejileri

Veri Akını ve Gizlilik Riskleri

  • Cevaplar yoluyla rastgele veri açıkçası
  • Özel kişisel bilgi (PII) akınları ve model bellek kötüye kullanımı
  • Gizliliğe duyarlı istekler tasarlamak ve geri dönüşüm artırılmış üretimi (RAG)

LLM Çıktı Filtreleme ve Koruma

  • İçerik filtreleme ve doğrulama için Guardrails AI kullanımı
  • Çıkış şemalarını ve kısıtlamalarını tanımlama
  • Güvensiz çıktıları izleme ve günlüğe kaydetme

İnsan-Devre İçerisinde ve İş Akışı Yaklaşımları

  • Kişi denetimi nerede ve ne zaman sunulması gerektiği
  • Onay kuyuları, puanlama eşiği, geri dönüş işleme
  • Güven kalibrasyonu ve açıklık rolü

Güvenli LLM Uygulaması Design Patterns

  • API çağrıları ve ajanslar için en az ayrıcalık ve sandboxing
  • Hız sınırlama, hız kısıtlaması ve kötüye kullanım algılama
  • LangChain ile sağlam zincirleme ve istek izolasyonu

Uyumluluk, Günlüğe Kaydetme ve Governance (Governance)

  • LLM çıktılarının denetlenebilir olmasını sağlama
  • Takibi koruma ve istek/sürüm kontrolü
  • İç güvenlik politikaları ve düzenleyici gereksinimlerle uyum sağlamak

Özet ve Sonraki Adımlar

Kurs İçin Gerekli Önbilgiler

  • Büyük dil modelleri ve istek tabanlı arayüzlerini anlamak
  • Python kullanarak LLM uygulamaları oluşturma deneyimi
  • API entegrasyonları ve bulut tabanlı dağıtımlarla tanışlık

Hedef Kitle

  • AI geliştiricileri
  • Uygulama ve çözüm mimarları
  • LLM araçlarıyla çalışan teknik ürün yöneticileri
 14 Saat

Katılımcı Sayısı


Kişi Başına Fiyat

Yaklaşan Etkinlikler

İlgili Kategoriler