Red Teaming AI Systems: Offensive Security for ML Models Eğitimi

Bu eğitmen tarafından verilen canlı eğitim (çevrimiçi veya yerel) orta düzeyde işletme liderlerine yönelik olup, AI sistemlerini sorumlu bir şekilde yönetmek ve güvenliğini sağlamak için geleneksel küresel çerçeve gibi EU AI Eki, GDPR, ISO/IEC 42001 ve Amerika Birleşik Devletleri'nin AI_executive_order'ına uygun şekilde nasıl hareket edileceğini anlamayı amaçlamaktadır.

Bu eğitim sonunda katılımcılar şu becerileri kazanacaklardır:

• _departmanlarda AI kullanımıyla ilgili hukuki, etik ve düzenleyici riskleri anlamak._
• Ana AI yönetimi kafeslerini (EU AI Eki, NIST AI RMF, ISO/IEC 42001) yorumlamak ve uygulamak.
• İşletmede AI dağıtımını için güvenlik, denetim ve gözden geçirme politikalarını oluşturmak.
• Üçüncü taraf ve iç AI sistemleri için satın alma ve kullanım rehberi geliştirmek.

Artificial Intelligence (AI) devlet kurumları ve bakanlıklar için operasyonel risk, yönetim zorlukları ve siber güvenlik maruziyeti açısından yeni boyutlar getiriyor.

Bu eğitmen öncülüğündeki canlı eğitim (online veya on-site), önceki AI deneyimleri sınırlı olan kamu sektörü IT ve risk profesyonelleri için tasarlanmıştır. Bu grup, hükümet veya düzenleyici bir bağlamda AI sistemlerini değerlendirmek, izlemek ve güvenli hale getirmenin yollarını anlamayı istemektedir.

Bu eğitim sonunda katılımcılar aşağıdaki becerileri kazanacaklardır:

• AI sistemleriyle ilgili ana risk kavramlarını yorumlama, bu kavramlara örneğin bias, tahmin edilemezlik ve model kayması dahildir.
• NIST AI RMF ve ISO/IEC 42001 gibi AI özel yönetim ve denetim çerçevelerini uygulama.
• AI modellerine ve veri kanallarına yönelik siber güvenlik tehditlerini tanımak.
• AIployment için çok bölmeli risk yönetimi planlarını ve politika uyumunu oluşturmak.

Eğitim Formatı

• Kamu sektörü kullanım örnekleri hakkındaki etkileşimli dersler ve tartışmalar.
• AI yönetim çerçevesi alıştırmaları ve politika eşleme çalışmaları.
• Senaryo tabanlı tehdit modellemesi ve risk değerlendirmeleri.

Eğitim Özelleştirme Seçenekleri

• Bu eğitim için özel bir eğitimi talep etmek istiyorsanız, lütfen bizimle iletişime geçin ve düzenleme yapın.

Bu eğitmen destekli canlı eğitim (online veya face-to-face) başlangıç seviyesinden orta seviye IT profesyonellerine yönelik olup, kuruluşlarında AI TRiSM'yi anlamak ve uygulamayı isteyenlere çevrilmektedir.

Bu eğitimin sonunda katılımcılar şunları yapabilecektir:

• AI güvenliği, risk yönetimi ve güvenlik yönetiminin ana kavramlarını ve önemini anlamak.
• AI sistemleriyle ilgili riskleri tanımlamak ve azaltmak.
• AI için en iyi güvenlik uygulamalarını uygulamak.
• AI için yasal uyumluluğu ve etik düşünceleri anlamak.
• Etkili bir AI yönetim ve yönetimi için stratejiler geliştirmek.

This instructor-led, live training in Türkiye (online or onsite) is aimed at intermediate-level to advanced-level AI developers, architects, and product managers who wish to identify and mitigate risks associated with LLM-powered applications, including prompt injection, data leakage, and unfiltered output, while incorporating security controls like input validation, human-in-the-loop oversight, and output guardrails.

By the end of this training, participants will be able to:

• Understand the core vulnerabilities of LLM-based systems.
• Apply secure design principles to LLM app architecture.
• Use tools such as Guardrails AI and LangChain for validation, filtering, and safety.
• Integrate techniques like sandboxing, red teaming, and human-in-the-loop review into production-grade pipelines.

Bu eğitmen yönetimiyle canlı eğitim (çevrimiçi veya yerel) ortamında, finans, veri yönetim ve danışmanlık gibi sıkı düzenlemeler altındaki endüstrilerdeki AI model ve sistemlerine özgü güvenlik açıklarını anlama ve ele almayı isteyen orta seviye AI ve siber güvenlik uzmanları için tasarlanmıştır.

Bu eğitimin sonunda katılımcılar şunları yapabilecekler olacak:

• AI sistemlerini hedefleyen düşmanca saldırıların türleri ve bunlardan korunma yöntemleri hakkında bilgi edinebileceksiniz.
• Makine öğrenimi akışlarını güvence altına almak için model gömme tekniklerini uygulayabilecekler olacak.
• Makine öğrenimi modellerinde veri güvenliğini ve bütünlüğünü sağlayabilecekler olacak.
• AI güvenlikine ilişkin düzenlemeye uyum gerekliliklerini kavrayebilecekler olacak.

Bu eğitmen yönetimiyle yapılan canlı eğitim (Türkiye'da ya da online), AI güvenlik kavramlarını, tehdit vektörlerini ve NIST AI RMF veya ISO/IEC 42001 gibi küresel çerçeveleri anlamayı isteyen yeni başlayan IT güvenlik, risk ve uyumluluk profesyonelleri için tasarlanmıştır.

Bu eğitim sonunda katılımcılar şunları yapabilecektir:

• AI sistemleri tarafından getirilen benzersiz güvenlik risklerini anlayabilmek.
• Mücadelenin örneği, veri zehirlenmesi ve model tersine mühendisliği gibi tehdit vektörlerini tanımlayabilmek.
• NIST AI Risk Management Çerçevesi gibi temel yönetim modellerini uygulamak.
• 新兴的标准、合规指南和道德原则对齐AI的使用。

Bu Türkiye'ta (çevrimiçi veya yerel) yapılan, danışman yönetimi altında eğitim ileri düzeyli profesyoneller için tasarlanmıştır ve federe öğrenme, güvenli çok tarafı hesaplama, homomorfik şifreleme ve farklılık gizliliği gibi teknikleri gerçek dünya makine öğrenme pipeline'larında uygulamak ve değerlendirmek isteyen kişileri hedef alır.

Bu eğitim sonunda katılımcılar aşağıdaki becerileri kazanabilecekler:

• Makine öğreniminde gizliliği koruyan ana teknikleri anlayıp karşılaştırmak.
• Açık kaynak çerçeveleri kullanarak federe öğrenme sistemleri uygulamak.
• Güvenli veri paylaşımı ve model eğitiminde farklılık gizliliğini uygulamak.
• Şifreleme ve güvenli hesaplama tekniklerini kullanarak model girişlerini ve çıkışlarını korumak.

Bu eğitmen öncülü canlı eğitim (çevrimiçi veya yerel) ortamında, kenar üzerinde dağıtılan AI modellerini delil, veri sızıntısı, düşmanlı girişler ve fiziksel saldırılar gibi tehditlere karşı korumayı isteyen orta düzeyli mühendisler ve güvenlik uzmanlarına yönelik olmaktedir.

Bu eğitimle birlikte, katılımcıların şu becerileri kazanacaklarını öğrenecekler:

• Kenar AI dağıtımlarında güvenlik risklerini belirleme ve değerlendirme.
• Delil direnci ve şifreli çıkarım tekniklerinin uygulanması.
• Kenarda dağıtılan modellerin güçlendirilmesi ve veri akışlarının güvenliği sağlanması.
• Derleyici ve kısıtlanmış sistemlere özel tehdit azaltma stratejilerinin uygulanması.

Bu eğitmen tarafından verilen canlı eğitim (online veya on-site) orta düzeyde makine öğrenimi ve siber güvenlik uzmanları için tasarlanmıştır. Katılımcılar, AI modelleri karşılarına çıkan yeni tehditleri anlamak ve azaltmak için kavramsal çerçeveler ve sağlam eğitimin yanı sıra diferansiyel gizlilik gibi uygulamalı savunmalar kullanmayı öğrenmektedirler.

Bu eğitim sonunda katılımcılar şunları yapabilecek hale gelecekler:

• Adversarial saldırılar, ters çevirme ve zehirlendirme gibi AI-specific tehditleri tanımlayacak ve sınıflandırabilecekler.
• Adversarial Robustness Toolbox (ART) gibi araçları kullanarak saldırıları benzetmeyi ve modelleri test etmeyi öğrenecekler.
• Karışık eğitim, gürültü ekleme ve gizlilik koruma teknikleri dahil olmak üzere pratik savunma yöntemlerini uygulayabilecekler.
• Üretim ortamlarında tehdit bilinci model değerlendirme stratejileri tasarlayacaklar.