Bizi tercih ettiğiniz için teşekkür ederiz. Ekip üyelerimiz en kısa sürede sizlerle iletişime geçecektir.
Rezervasyonunuzu gönderdiğiniz için teşekkür ederiz! Ekibimizden bir yetkili kısa süre içinde sizinle iletişime geçecektir.
Eğitim İçeriği
AI Tehdit Peyzaji
- Neden AI güvenliği farklıdır: belirsizlik (non-determinism), opak mantık yürütme, prompt’un saldırı yüzeyi olarak kullanımı.
- Saldırı taksonomisi: eğitim zamanı vs çıkarım zamanı vs tedarik zinciri saldırıları
- ML rakip modeli: AI sistemlerine kim ve neden saldırır?
OWASP LLM Uygulamaları İçin Önemli 10 Risk
- Prompt enjeksiyonu: doğrudan ve dolaylı saldırı vektörleri
- Güvensiz çıktı işleme ve çapraz eklenti istek sahteciliği (request forgery)
- Eğitim verisi zehirlenmesi ve tedarik zinciri güvenlik açıkları
- Model hizmet dışı bırakma (DoS), hassas bilgi ifşası ve aşırı yetkilendirme
- Uygulamalı laboratuvar: test uygulamasına karşı her OWASP kategorisini istismar etme.
Prompt Enjeksiyonu ve Jailbreak Kırmızı Ekip Çalışması
- Enjeksiyon tekniklerinin taksonomisi: doğrudan, dolaylı, çok turumlu ve çok modlu.
- Giskard, Garak ve özel fuzzing araçlarıyla otomatik kırmızı ekip testi.
- Jailbreak sınıflandırması ve savunma değerlendirmesi.
- Sürekli LLM güvenliği testi için bir kırmızı ekip kancası (harness) oluşturma.
Model Seviyesindeki Saldırılar ve Savunmalar
- Model çıkarımı: API sorguları aracılığıyla model ağırlıklarının ve işlevlerinin çalınması.
- Üyelik çıkarımı: verinin eğitim kümesinde olup olmadığının belirlenmesi.
- Adversarial örnekler: sınıflandırıcıları ve gömme modellerini yanıltan perturbasyonlar.
- Veri zehirlenmesi: geri kapılar yerleştirmek veya performansı düşürmek amacıyla eğitim verisini bozmak.
Girdi ve Çıktı Güvenlik Kontrolleri
- Geleneksel web savunmalarının ötesinde girdi temizleme (sanitization).
- Çıktı filtrelemesi: toksiklik, PII sızıntısı, hayali kod yürütme.
- Koruyucu güvenlik önlemleri olarak güvenlik altyapısı: NeMo, Guardrails AI ve özel politikalar.
- Güvenlik sınırı olarak yapılandırılmış çıktı zorlaması.
AI Tedarik Zinciri Güvenliği
- Model menşei: model gerçekliğinin ve bütünlüğünün doğrulanması.
- ML çerçeveleri ve model formatları için bağımlılık taraması.
- Güvenli model hizmet verme: sandboxlama, ağ izolasyonu ve en az ayrıcalık erişimi.
- Gömülü kötü amaçlı yazılıma karşı ince ayarlı (fine-tuned) ve topluluk modellerinin denetlenmesi.
AI Sistemleri İçin Operasyonel Güvenlik
- Model uç noktaları, vektör mağazaları ve ajan araçları için erişim kontrolü.
- Her model etkileşimi ve karar denetleme günlüğüne alınması (audit logging).
- AI’ye özgü ihlaller için olay müdahale süreçleri: modelin kendisinin de tehlike altına girdiği durumlar.
- ML pipeline’ları için CI/CD içinde sürekli güvenlik testi.
Bir AI Güvenlik Programı Oluşturma
- AI güvenliği olgunluk modeli ve yol haritası.
- AI güvenliğini mevcut AppSec ve bulut güvenliği programlarına entegre etme.
- AI sistemleri için yönetim çerçeveleri ve gelişmekte olan düzenlemeler.
- Kurumsal AI güvenlik kılavuzunun oluşturulması ve sürdürülmesi.
Kurs İçin Gerekli Önbilgiler
- Üretim ortamlarında ML modelleri veya LLM uygulamaları geliştirme/deployment tecrübesi.
- Kimlik doğrulama, yetkilendirme ve tehdit modelleme gibi güvenlik kavramlarına aşinalık.
- Adversarial test egzersizleri için Python bilgisine sahip olmak.
Hedef Kitle
- AI/ML tehdit yüzeylerine genişleyen güvenlik mühendisleri.
- Model güvenliği ve sağlamlığından sorumlu ML mühendisleri.
- Kırmızı ekip üyeleri, test kapsamına AI sistemlerini dahil edenler.
14 Saatler
