Eğitim İçeriği

LLM Mimarisi ve Saldırı Yüzeyine Genel Bakış

  • LLM'lerin nasıl oluşturulması, dağıtılması ve API'lar üzerinden erişilmesi
  • LLM uygulama yığınlarındaki temel bileşenler (örneğin, komut dosyaları, ajanlar, bellek, API'lar)
  • Güvenlik sorunlarının gerçek dünyada nerede ve nasıl ortaya çıktığı

Komut Dosyası Enjeksiyonu ve Cezaevi Kırma Saldırıları

  • Komut dosyası enjeksiyonu nedir ve neden tehlikeli?
  • Direkt ve dolaylı komut dosyası enjeksiyon senaryoları
  • Güvenlik filtrelerini geçme teknikleri (cezaevi kırma)
  • Algılama ve hafifletme stratejileri

Veri Sızıntısı ve Gizlilik Riskleri

  • Cevaplar aracılığıyla rastgele veri maruziyeti
  • Kişisel tanımlayıcı bilgi (KBİ) sızıntıları ve model belleğinin kötüye kullanımı
  • Gizlilik bilincine sahip komut dosyası tasarımı ve检索增强生成(RAG)

LLM Çıkış Filtreleme ve Koruma

  • İçerik filtrelemesi ve doğrulama için Guardrails AI'nin kullanımı
  • Çıkış şemaları ve kısıtlamaların tanımlanması
  • Güvensiz çıkışların izlenmesi ve kaydedilmesi

Bekleyen İnsan Katılımı ve İş Akışı Yaklaşımları

  • İnsan denetiminin nerede ve ne zaman tanıtıldığı
  • Onay kuyrukları, puanlama eşiği, geri dönüş işlemi
  • Güven kalibrasyonu ve açıklamanın rolü

Güvenli LLM Uygulama Tasarım Desenleri

  • API çağrısı ve ajanlar için en düşük ayrıcalık ve kumbaralandırma
  • Hız sınırlaması, akış kontrolü ve kötüye kullanım tespiti
  • LangChain ve komut dosyası izolasyonu ile güçlü zincirleme

Uyumluluk, Kayıt Tutturma ve Yönetişim

  • LLM çıktılarının denetlenebilirliğinin sağlanması
  • İzlenebilirliğin korunması ve komut/version kontrolü
  • Dahili güvenlik politikalarıyla uyumlu hale getirme ve düzenleyici gereksinimleri karşılama

Özet ve Sonraki Adımlar

Kurs İçin Gerekli Önbilgiler

  • Büyük dil modelleri ve kippte-tabanlı arayüzlerin anlaşılması
  • Python kullanarak LLM uygulamaları oluşturma deneyimi
  • API entegrasyonları ve bulut tabanlı dağıtımlarla aşina olma

Hedef Kitle

  • Yapay zeka geliştiricileri
  • Uygulama ve çözüm mimarları
  • LLM araçlarıyla çalışan teknik ürün yöneticileri
 14 Saat

Katılımcı Sayısı


Kişi Başına Fiyat

Yaklaşan Etkinlikler

İlgili Kategoriler