Red Teaming AI Sistemleri: ML Modelleri için Savunma Güvenliği Eğitimi

AAISM, yapay zeka sistemlerinde güvenlik risklerini değerlendirmek, yönetmek ve denetlemek için gelişmiş bir çerçeve sunar.

Bu eğitmen destekli canlı eğitim (online veya yerel), kurumsal AI ortamları için etkili güvenlik kontrolleri ve yönetim uygulamaları uygulamak isteyen üst düzey profesyoneller hedeflenmiştir.

Bu programın sonunda katılımcılar, aşağıdaki becerilere sahip olacaklardır:

• Endüstri tanıdığı yöntemleri kullanarak AI güvenlik risklerini değerlendirmek.
• Sorumlu AI dağıtım için yönetim modelleri uygulamak.
• Kurumsal hedefler ve düzenleyici beklentilerle uyumlu AI güvenlik politikalarını hizalamak.
• AI destekli işlemler içinde dayanıklılığı ve hesap verebilirliği artırmak.

Kursun Formatı

• Uzman analizle desteklenen sunulan konferanslar.
• Pratik atölyeler ve değerlendirme temelli etkinlikler.
• Gerçek dünya AI yönetim senaryoları kullanarak uygulanan egzersizler.

Kurs Özelleştirme Seçenekleri

• Kurumsal AI stratejinize hizmet edecek özelleştirilmiş eğitim için bize başvurun.

Bu eğitmen öncülüğündeki canlı eğitim Türkiye (çevrimiçi veya yerinde), kurumsal liderlerin sorumlu bir şekilde AI sistemlerini yönetip güvence altına alma ve AB Yapay Zeka Yasası, GDPR, ISO/IEC 42001 ve ABD'nin Yapay Zeka ile ilgili başkanlık kararları gibi ortaya çıkan küresel çerçevelere uyum sağlamayı anlamalarını hedefler.

Bu eğitim sonunda katılımcılar şunları yapabilecektir:

• Bölümler arasında AI kullanımının hukuki, etik ve düzenleyici risklerini anlamak.
• Ana AI yönetim çerçevelerini (AB Yapay Zeka Yasası, NIST AI RMF, ISO/IEC 42001) yorumlamak ve uygulamak.
• Kurumda AI uygulaması için güvenlik, denetim ve gözetleme politikalarını oluşturmak.
• Üçüncü taraf ve iç AI sistemleri için satın alma ve kullanım yönergeleri geliştirmek.

Yapay Zeka (YK), hükümet ajansları ve bakanlıklar için yeni operasyonel risk, yönetim zorlukları ve siber güvenlik maruziyeti boyutları sunar.

Bu eğitmen liderli canlı eğitim (çevrimiçi veya yerinde), YK'da sınırlı önceki deneyime sahip olan kamu sektörü IT ve risk profesyonellerine, hükümet veya düzenleyici bağlamında YK sistemlerini değerlendirmenin, izlemenin ve güvenliğini sağlamanın nasıl olduğunu anlamalarını amaçlar.

Bu eğitim sonunda katılımcılar şunları yapabilecek duruma gelecektir:

• YK sistemleriyle ilgili önyargı, tahmin edilemezlik ve model sapması gibi temel risk kavramlarını yorumlamak.
• NIST AI RMF ve ISO/IEC 42001 gibi YK özel yönetim ve denetim çerçevelerini uygulamak.
• YK modellerine ve veri hattlarına yönelik siber güvenlik tehditlerini tanımak.
• Departmanlar arası risk yönetimi planları oluşturmak ve YK dağıtım için politikaları uyumlu hale getirmek.

Eğitim Formatı

• Kamu sektörü kullanımları üzerine odaklanan etkileşimli ders ve tartışma.
• YK yönetim çerçevesi egzersizleri ve politika eşleştirmesi.
• Senaryo tabanlı tehdit modellemesi ve risk değerlendirmesi.

Eğitim Özelleştirme Seçenekleri

• Bu eğitim için özelleştirilmiş bir eğitim talep etmek istiyorsanız, lütfen bize iletişime geçin.

Bu eğitmen yönlendirilmiş, canlı eğitim Türkiye (çevrimiçi veya yerinde) başlangıç seviyesine sahip olan ve organizasyonlarında AI TRiSM'yi anlamak ve uygulamak isteyen ara seviye IT profesyonellerini hedef almaktadır.

Bu eğitim sonunda katılımcılar şunları yapabilecekler:

• AI güvenilirliği, riski ve güvenlik yönetiminin temel kavramlarını ve önemini anlayacaklardır.
• AI sistemleriyle ilişkili riskleri belirleyip azaltabileceklerdir.
• AI için en iyi güvenlik uygulamalarını uygulayacaklardır.
• AI için düzenleyici uyumluluğu ve etik konuları anlayacaklardır.
• Etkili AI yönetim ve yönetişim stratejileri geliştirebileceklerdir.

Öğretmenli, canlı olarak sunulan bu eğitim Türkiye (çevrimiçi veya yerinde), prompt enjeksiyonu, veri sızıntısı ve filtrelenmemiş çıktılar gibi LLM destekli uygulamalarla ilgili riskleri belirlemek ve azaltmak; girdi doğrulama, insan gözetimi ve çıktı güvenlik önlemleri gibi güvenlik kontrollerini uygulamak isteyen ara seviyeden ileri seviyeye AI geliştiricileri, mimarlar ve ürün yöneticileri için tasarlanmıştır.

Bu eğitimin sonunda katılımcılar şunları yapabileceklerdir:

• LLM tabanlı sistemlerin temel güvenlik açıklarını anlayacak.
• Güvenli tasarım ilkelerini LLM uygulama mimarisine uygulayacak.
• Doğrulama, filtreleme ve güvenlik için Guardrails AI ve LangChain gibi araçları kullanacak.
• Kumulative izole etme (sandboxing), kırmızı takım testleri (red teaming) ve insan gözetimli incelemeler gibi teknikleri üretim kalitesindeki süreçlere entegre edecek.

Bu eğitmen tarafından yönetilen canlı eğitim Türkiye (online veya yerinde), özellikle finans, veri yönetimi ve danışmanlık gibi yüksek derecelde düzenlenmiş sektörlerde AI modelleri ve sistemlerine özgü güvenlik zafiyetlerini anlamayı ve ele almayı amaçlayan orta seviye AI ve siber güvenlik profesyonellerine yöneliktir.

Bu eğitimden sonra katılımcılar şunları yapabilecektir:

• AI sistemler hedefleyen düşmanca saldırı türlerini ve bunlara karşı savunma yöntemlerini anlamak.
• Makine öğrenimi işlem hatlarını güvenleştirmek için model kuvvetlendirme tekniklerini uygulamak.
• Makine öğrenimi modellerinde veri güvenliğini ve bütünlüğünü sağlamak.
• AI güvenlik ile ilgili düzenleyici uyumluluk gerekliliklerini yönetmek.

Bu Türkiye (online veya kurumsal) canlı, eğitmenli eğitim; EXO dağıtımlarını güçlendirmek, model erişimini kontrol etmek ve tamamen yerel olarak çalışan AI yüklerini yönetmek isteyen güvenlik mühendisleri ve uyumluluk görevlileri içindir.

Bu eğitmen-led, canlı eğitim Türkiye (online veya yerinde) başlangıç seviyesinde IT güvenliği, risk ve uyumluluk profesyonelerine yönelik olup, temel AI güvenlik kavramlarını, tehdit vektörlerini ve NIST AI RMF ve ISO/IEC 42001 gibi global çerçeveleri anlamalarına yardımcı olmayı amaçlamaktadır.

Bu eğitimin sonunda katılımcılar:

• Yapay zeka sistemleri tarafından getirilen benzersiz güvenlik risklerini anlayacaklardır.
• Karşıt saldırılar, veri zehirlenmesi ve model tersine çevrilmesi gibi tehdit vektörlerini tanımlayabileceklerdir.
• NIST AI Risk Yönetimi Çerçevesi gibi temel yönetim modellerini uygulayacaklardır.
• Yapay zekanın kullanımını yeni standartlar, uyumluluk rehberleri ve etik ilkelerle uyumlu hale getireceklerdir.

En son OWASP GenAI Güvenlik Projesi rehberine dayanarak, katılımcılar AI-ye özgü tehditleri belirlemeyi, değerlendirmeyi ve azaltmayı elden geçirme alıştırmaları ve gerçek dünya senaryolarıyla öğrenecekler.

Bu eğitmen yönetimi, canlı eğitim Türkiye (çevrimiçi veya yerinde) ileri düzey profesyonellerin, federasyonlu öğrenme, güvenli çok taraflı hesaplama, homomorfik şifreleme ve farklılık gizliliği gibi teknikleri gerçek dünyada makine öğrenimi ardışık işlemlerinde uygulamaya ve değerlendirmeye yöneliktir.

Bu eğitim sonunda katılımcılar:

• ML'deki temel gizlilik koruma tekniklerini anlamayı ve karşılaştırmayı öğrenecektir.
• Açık kaynaklı çerçeveleri kullanarak federasyonlu öğrenme sistemleri uygulayabileceklerdir.
• Güvenli veri paylaşımı ve model eğitimi için farklılık gizliliği uygulayabileceklerdir.
• Şifreleme ve güvenli hesaplama tekniklerini kullanarak model girişlerini ve çıkışlarını koruyabileceklerdir.

Bu eğitmen-led, canlı eğitim Türkiye (çevrimiçi veya yerinde) orta düzey mühendisler ve güvenlik profesyonellerinin Edge'de dağıtılan AI modellerini yozlaşturma, veri sızıntısı, düşmanca girişler ve fiziksel saldırılar gibi tehditlere karşı güvenli hale getirmek isteyenler için düzenlenmiştir.

Bu eğitim sonunda katılımcılar şunları yapabilecekler:

• Edge AI dağıtımlarında güvenlik risklerini tanımlayabilir ve değerlendirebilirler.
• Yozlaşma direnci ve şifrelenmiş çıkarım tekniklerini uygulayabilirler.
• Edge'de dağıtılan modelleri donmuş hale getirebilir ve veri hatlarını güvenli hale getirebilirler.
• Gömülü ve sınırlı sistemlere özgü tehdit azaltma stratejilerini uygulayabilirler.

Bu eğitmen öncülündeki canlı eğitim Türkiye (online veya yerel olarak), orta düzeyde makine öğrenimi ve siber güvenlik uzmanlarına yöneliktir. Katılımcılar, hem kavramsal çerçeveleri hem de robust training ve farklılık gizliliği gibi uygulayıcı savunmalar kullanarak AI modellerindeki ortaya çıkan tehditleri anlamayı ve azaltmayı öğrenmek isterler.

Bu eğitim sonunda katılımcılar şunları yapabilecektir:

• Düşmanca saldırılar, ters çevirme ve zehirleme gibi AI spesifik tehditleri tanımlama ve sınıflandırma.
• Adversarial Robustness Toolbox (ART) gibi araçları kullanarak saldırıları simüle etme ve modelleri test etme.
• Düşmanca eğitim, gürültü enjeksiyonu ve gizlilik koruma teknikleri dahil olmak üzere uygulayıcı savunmaları uygulama.
• Üretim ortamlarında tehdit bilincine sahip model değerlendirme stratejileri tasarlama.

TinyML, düşük güç tüketimi ve kaynak sınırlı cihazlarda makine öğrenme modellerinin dağıtımını amaçlayan bir yaklaşımdır.

Bu eğitmen tarafından yönetilen canlı eğitim (online veya yerinde) yüksek düzeyde profesyoneller hedeflenmekte olup, TinyML hatlarını güvence altına almayı ve kenar AI uygulamalarında gizlilik koruyan teknikleri uygulamayı öğrenmek için tasarlanmıştır.

Bu kursun sonunda katılımcılar şunları yapabilecektir:

• Cihaz üzerinde TinyML çıkarımı için benzersiz güvenlik risklerini belirleyebilir.
• Kenar AI dağıtımları için gizlilik koruyan mekanizmalar uygulayabilir.
• TinyML modellerini ve gömülü sistemleri düşmanca tehditler karşılarında güçlendirebilir.
• Sınırlı ortamlarda güvenli veri yönetimi için en iyi uygulamaları uygulayabilir.

Eğitim Biçimi

• Uzman yönlü tartışmalarla desteklenen etkileşimli konferanslar.
• Gerçek dünya tehdit senaryolarını vurgulayan pratik alıştırmalar.
• Gömülü güvenlik ve TinyML araçları kullanarak uygulamalı etkinlikler.

Eğitim Özelleştirme Seçenekleri

• Kuruluşlar, eğitimini belirli güvenlik ve uyumluluk ihtiyaçlarına uygun hale getirmeyi talep edebilir.

Bu kurs, agentic AI sistemler için yönetim, kimlik yönetimi ve düşmanca testi konularını ele alır. Kurumsal güvenli dağıtım desenleri ve pratik kırmızı takım tekniklerine odaklanmaktadır.

Bu eğitmen yönlü, canlı eğitim (çevrimiçi veya kuruma özel) gelişmiş düzeyde uygulayıcılar için tasarlanmıştır. Katılımcıların üretim ortamlarında ajan tabanlı AI sistemlerini tasarlama, güvenli hale getirme ve değerlendirme becerilerini geliştirmeyi amaçlamaktadır.

Bu eğitim sonunda katılımcılar şunları yapabilecektir:

• Güvenli agentic AI dağıtım için yönetim modelleri ve politikalarını tanımlayabileceklerdir.
• En az yetkiye sahip ajanlar için insan olmayan kimlik ve kimlik doğrulama akışlarını tasarlayabileceklerdir.
• Otonom ajanlar için özel erişim kontrolleri, denetim izleri ve gözlemlenbilirliği uygulayabileceklerdir.
• Kötü amaçlı kullanım, yetki yükseltme yolları ve veri çıkarma risklerini keşfetmek için kırmızı takım çalışmaları planlayabilecek ve yürütülebilirlerdir.
• Politika, mühendislik kontrolleri ve izleme aracılığıyla agentic sistemlere yönelik yaygın tehditleri azaltabileceklerdir.

Eğitim Formatı

• Etkileşimli dersler ve tehdit modellemesi atölyeleri.
• Pratik laboratuvarlar: kimlik sağlama, politika uygulaması ve düşmanca benzetim.
• Kırmızı takım / mavi takım çalışmaları ve kurs sonu değerlendirme.

Kurs Özelleştirme Seçenekleri

• Bu kurs için özelleştirilmiş bir eğitim talep etmek istiyorsanız, lütfen bize başvurunuz.