Bize Ulaşın
 Süre 21 Saat

Eğitim İçeriği

Temeller: Agentic Yapay Zeka İçin Tehdit Modelleri

  • Agentic tehdit türleri: kötüye kullanım, yetki yükseltme, veri sızıntısı ve tedarik zinciri riskleri
  • Otonom ajanlara özgü saldırgan profilleri ve saldırgan yetenekleri
  • Ajanlar için varlıkları, güven sınırlarını ve kritik kontrol noktalarını haritalandırma

Yönetişim, Politika ve Risk Yönetimi

  • Agentic sistemler için yönetişim çerçeveleri (roller, sorumluluklar, onay kapıları)
  • Politika tasarımı: kabul edilebilir kullanım, yükseltme kuralları, veri işleme ve denetlenebilirlik
  • Uyumluluk hususları ve denetimler için kanıt toplama

Ajanlar İçin İnsan Olmayan Kimlik ve Kimlik Doğrulama

  • Ajanlar için kimlik tasarımı: hizmet hesapları, JWT'ler ve kısa ömürlü kimlik bilgileri
  • En az yetkili erişim kalıpları ve anında (just-in-time) kimlik bilgisi sağlama
  • Kimlik yaşam döngüsü, rotasyon, temsil ve iptal stratejileri

Erişim Kontrolleri, Sırlar ve Veri Koruması

  • Ajanlar için ince taneli erişim kontrol modelleri ve yetenek tabanlı kalıplar
  • Sır yönetimi, aktarım sırasında ve depolamada şifreleme ve veri azaltma
  • Hassas bilgi kaynaklarını ve PII'yi (Kişisel Kimlik Bilgisi) yetkisiz ajan erişiminden koruma

Gözlemlenebilirlik, Denetim ve Olay Yanıtı

  • Ajan davranışı için telemetri tasarımı: niyet takibi, komut kayıtları ve köken bilgisi
  • SIEM entegrasyonu, uyarı eşikleri ve adli tıp hazırlığı
  • Ajanlarla ilgili olaylar ve sınırlama için talimat kitapları (runbook) ve senaryolar (playbook)

Agentic Sistemlerde Red-Teaming

  • Red-team alıştırmasını planlama: kapsam, angajman kuralları ve güvenli devre kesme
  • Düşmanca teknikler: prompt enjeksiyonu, araç kötüye kullanımı, düşünce zinciri manipülasyonu ve API kötüye kullanımı
  • Denetimli saldırıları yürütme ve maruz kalma ile etkiyi ölçme

Sertleştirme ve Azaltma Önlemleri

  • Mühendislik kontrolleri: yanıt sınırlama, yetenek kapıları ve sandboxing
  • Politika ve orkestrasyon kontrolleri: onay akışları, insan-döngüde (human-in-the-loop) ve yönetişim kanca noktaları
  • Model ve prompt düzeyi savunmaları: girdi doğrulama, normalize etme ve çıktı filtreleri

Güvenli Ajan Dağıtımlarını İşletmeye Alma

  • Dağıtım kalıpları: ajanlar için aşamalı, canary ve kademeli dağıtım
  • Değişiklik kontrolü, test boru hatları ve dağıtım öncesi güvenlik denetimleri
  • Fonksiyonlar arası yönetişim: güvenlik, hukuk, ürün ve operasyon senaryoları

Bitirme Çalışması: Red-Team / Blue-Team Alıştırması

  • Isolated edilmiş bir ajan ortamına karşı simüle bir red-team saldırısı yürütmek
  • Kontroller ve telemetriyi kullanarak blue team olarak savunmak, tespit etmek ve düzeltmek
  • Bulguları, düzeltme planını ve politika güncellemelerini sunmak

Özet ve Sonraki Adımlar

Kurs İçin Gerekli Önbilgiler

  • Güvenlik mühendisliği, sistem yönetimi veya bulut operasyonlarında sağlam bir arka plan
  • Yapay zeka/makine öğrenmesi kavramlarına ve büyük dil modellerinin (LLM) davranışına aşinalık
  • Kimlik ve erişim yönetimi (IAM) ile güvenli sistem tasarımı konusunda deneyim

Hedef Kitle

  • Güvenlik mühendisleri ve red-team uzmanları
  • Yapay zeka operasyonları ve platform mühendisleri
  • Uyumluluk uzmanları ve risk yöneticileri
  • Ajan dağıtımlarından sorumlu mühendislik liderleri

Katılımcı Sayısı


Katılımcı başına fiyat

Danışanlarımızın Yorumları (1)

Yaklaşan Etkinlikler

İlgili Kategoriler