Bizi tercih ettiğiniz için teşekkür ederiz. Ekip üyelerimiz en kısa sürede sizlerle iletişime geçecektir.
Rezervasyonunuzu gönderdiğiniz için teşekkür ederiz! Ekibimizden bir yetkili kısa süre içinde sizinle iletişime geçecektir.
Süre 21 Saat
Eğitim İçeriği
Temeller: Agentic Yapay Zeka İçin Tehdit Modelleri
- Agentic tehdit türleri: kötüye kullanım, yetki yükseltme, veri sızıntısı ve tedarik zinciri riskleri
- Otonom ajanlara özgü saldırgan profilleri ve saldırgan yetenekleri
- Ajanlar için varlıkları, güven sınırlarını ve kritik kontrol noktalarını haritalandırma
Yönetişim, Politika ve Risk Yönetimi
- Agentic sistemler için yönetişim çerçeveleri (roller, sorumluluklar, onay kapıları)
- Politika tasarımı: kabul edilebilir kullanım, yükseltme kuralları, veri işleme ve denetlenebilirlik
- Uyumluluk hususları ve denetimler için kanıt toplama
Ajanlar İçin İnsan Olmayan Kimlik ve Kimlik Doğrulama
- Ajanlar için kimlik tasarımı: hizmet hesapları, JWT'ler ve kısa ömürlü kimlik bilgileri
- En az yetkili erişim kalıpları ve anında (just-in-time) kimlik bilgisi sağlama
- Kimlik yaşam döngüsü, rotasyon, temsil ve iptal stratejileri
Erişim Kontrolleri, Sırlar ve Veri Koruması
- Ajanlar için ince taneli erişim kontrol modelleri ve yetenek tabanlı kalıplar
- Sır yönetimi, aktarım sırasında ve depolamada şifreleme ve veri azaltma
- Hassas bilgi kaynaklarını ve PII'yi (Kişisel Kimlik Bilgisi) yetkisiz ajan erişiminden koruma
Gözlemlenebilirlik, Denetim ve Olay Yanıtı
- Ajan davranışı için telemetri tasarımı: niyet takibi, komut kayıtları ve köken bilgisi
- SIEM entegrasyonu, uyarı eşikleri ve adli tıp hazırlığı
- Ajanlarla ilgili olaylar ve sınırlama için talimat kitapları (runbook) ve senaryolar (playbook)
Agentic Sistemlerde Red-Teaming
- Red-team alıştırmasını planlama: kapsam, angajman kuralları ve güvenli devre kesme
- Düşmanca teknikler: prompt enjeksiyonu, araç kötüye kullanımı, düşünce zinciri manipülasyonu ve API kötüye kullanımı
- Denetimli saldırıları yürütme ve maruz kalma ile etkiyi ölçme
Sertleştirme ve Azaltma Önlemleri
- Mühendislik kontrolleri: yanıt sınırlama, yetenek kapıları ve sandboxing
- Politika ve orkestrasyon kontrolleri: onay akışları, insan-döngüde (human-in-the-loop) ve yönetişim kanca noktaları
- Model ve prompt düzeyi savunmaları: girdi doğrulama, normalize etme ve çıktı filtreleri
Güvenli Ajan Dağıtımlarını İşletmeye Alma
- Dağıtım kalıpları: ajanlar için aşamalı, canary ve kademeli dağıtım
- Değişiklik kontrolü, test boru hatları ve dağıtım öncesi güvenlik denetimleri
- Fonksiyonlar arası yönetişim: güvenlik, hukuk, ürün ve operasyon senaryoları
Bitirme Çalışması: Red-Team / Blue-Team Alıştırması
- Isolated edilmiş bir ajan ortamına karşı simüle bir red-team saldırısı yürütmek
- Kontroller ve telemetriyi kullanarak blue team olarak savunmak, tespit etmek ve düzeltmek
- Bulguları, düzeltme planını ve politika güncellemelerini sunmak
Özet ve Sonraki Adımlar
Kurs İçin Gerekli Önbilgiler
- Güvenlik mühendisliği, sistem yönetimi veya bulut operasyonlarında sağlam bir arka plan
- Yapay zeka/makine öğrenmesi kavramlarına ve büyük dil modellerinin (LLM) davranışına aşinalık
- Kimlik ve erişim yönetimi (IAM) ile güvenli sistem tasarımı konusunda deneyim
Hedef Kitle
- Güvenlik mühendisleri ve red-team uzmanları
- Yapay zeka operasyonları ve platform mühendisleri
- Uyumluluk uzmanları ve risk yöneticileri
- Ajan dağıtımlarından sorumlu mühendislik liderleri
Danışanlarımızın Yorumları (1)
yapay zeka alanındaki çeşitli risk maruziyetlerinin envanterinin çıkarılması ve tanımlanması
Gary Cook - Cybersecurity and Information Technology Risk Division
Eğitim - Introduction to AI Trust, Risk, and Security Management (AI TRiSM)
Yapay Zeka Çevirisi