Introduction to AI Security and Risk Management Eğitimi

Türkiye'de (çevrimiçi veya yerel) yapılan bu eğitmen yönetimi altında gerçekleşen canlı eğitim, orta düzeyde iş dünyası liderlerini ve AI sistemlerinin sorumlu bir şekilde yönetilmesi ve Avrupa Birliği AI Yasası, GDPR, ISO/IEC 42001 ve ABD'li AI üzerine İdari Karar gibi yeni küresel çerçevelere uygun olarak güvenliğinin sağlanmasına yönelik anlayış kazanmak isteyenleri hedefler.

Eğitim sonunda katılımcılar şunları yapabileceklerdir:

• Departmanlar arası AI kullanımıyla ilgili yasal, etik ve düzenleyici riskleri anlamak.
• Küçük ölçekli AI yönetim çerçevelerini (Avrupa Birliği AI Yasası, NIST AI RMF, ISO/IEC 42001) yorumlamak ve uygulamak.
• İşletmede AI dağıtımının güvenliği, denetimi ve gözetim politikalarını oluşturmak.
• Üçüncü taraf ve iç AI sistemlerinin satın alma ve kullanım kılavuzlarını geliştirmek.

Türkiye'da (çevrimiçi veya yerel) yapılan bu eğitmen yönetimi altında gerçekleşen canlı eğitim, LLM'ye dayalı uygulamalarla ilgili riskleri belirlemek ve azaltmayı isteyen orta düzeyden ileri düzey AI geliştiricilerine, mimarlarına ve ürün yöneticilerine yöneliktir. Bu riskler arasında prompt enjeksiyonu, veri sızıntısı ve süzgeçsiz çıkış bulunmaktadır. Ayrıca güvenlik kontrolü olarak giriş doğrulaması, insanlı döngü denetimi ve çıkış sınırlayıcılarını da içerir.

Eğitim sonunda katılımcılar şunları yapabilecekler:

• LLM tabanlı sistemlerin temel zayıflıklarını anlamak.
• Güvenli tasarım ilkelerini LLM uygulama mimarisine uygulamak.
• Doğrulama, süzgeçleme ve güvenlik için Guardrails AI ve LangChain gibi araçları kullanmak.
• Sandık testi, kırmızı takım ve insanlı döngü gözden geçirme tekniklerini üretim kalitesinde akışlara entegre etmek.

LLM Mimarisi ve Saldırı Alanının Genel Bakışı

• LLMs'nin nasıl oluşturulduğunu, dağıtıldığını ve API'ler aracılığıyla erişildiğini anlamak.
• LLM uygulama yığıtlarındaki ana bileşenleri (örneğin, promptlar, ajanslar, bellek, API'ler).
• Gerçek dünyada güvenlik sorunlarının nasıl ve nerede ortaya çıktığını anlamak.

Prompt Enjeksiyonu ve Kilit Açma Saldırıları

• Prompt enjeksiyonunun ne olduğunu ve neden tehlikeli olduğunu anlamak.
• Doğrudan ve dolaylı prompt enjeksiyon senaryoları.
• Güvenlik filtrelerini aşmak için kilit açma teknikleri.
• Tespit ve azaltma stratejileri.

Veri Sızıntısı ve Gizlilik Riskleri

• Cevaplar aracılığıyla rastgele veri açıkçası.
• PII sızıntıları ve model bellek kullanımının kötüye kullanımı.
• Gizliliğe duyarlı promptlar ve geri dönüşüm ile güçlendirilmiş üretim (RAG) tasarımı.

LLM Çıkış Süzgeçleme ve Koruması

• Guardrails AI kullanarak içerik süzgeçlemesi ve doğrulaması.
• Çıkış şemalarını ve kısıtlamalarını tanımlama.
• Güvensiz çıkışı izleme ve günlüğe kaydetme.

İnsanlı Döngü ve İş Akışı Yaklaşımları

• İnsan denetimini nerede ve ne zaman tanıtmak gerektiğini anlamak.
• Onay kuyuları, puanlama eşikleri, geri dönüş işleme.
• Güven kalibrasyonu ve açıklık rolü.

Güvenli LLM Uygulaması Design Patterns

• API çağrıları ve ajanslar için en az ayrıcalık ve sandık testi.
• Hız sınırlama, hız düşürme ve kötüye kullanım algılama.
• LangChain ile sağlam zinciri ve prompt izolasyonu.

Uyumluluk, Günlüğe Kaydetme ve Governance

• LLM çıktısının denetlenebilir olmasını sağlamak.
• Takibi koruma ve prompt/sürüm kontrolü.
• Dahili güvenlik politikalarıyla ve düzenleyici ihtiyaçlarla uyum sağlama.

Özet ve Sonraki Adımlar

LLM uygulama güvenliği, büyük dil modelleri kullanarak güvenli, güvendiği ve politika uyumlu sistemler tasarlamak, inşa etmek ve sürdürmektir.

Türkiye'da yapılan bu eğitmen yönetimi altında gerçekleşen canlı eğitim (çevrimiçi veya yerel), LLM'ye dayalı uygulamalarla ilgili riskleri belirlemek ve azaltmayı isteyen orta düzeyden ileri düzey AI geliştiricilerine, mimarlarına ve ürün yöneticilerine yöneliktir. Bu riskler arasında prompt enjeksiyonu, veri sızıntısı ve süzgeçsiz çıkış bulunmaktadır. Ayrıca güvenlik kontrolü olarak giriş doğrulaması, insanlı döngü denetimi ve çıkış sınırlayıcılarını da içerir.

Eğitim sonunda katılımcılar şunları yapabilecekler:

• LLM tabanlı sistemlerin temel zayıflıklarını anlamak.
• Güvenli tasarım ilkelerini LLM uygulama mimarisine uygulamak.
• Doğrulama, süzgeçleme ve güvenlik için Guardrails AI ve LangChain gibi araçları kullanmak.
• Sandık testi, kırmızı takım ve insanlı döngü gözden geçirme tekniklerini üretim kalitesinde akışlara entegre etmek.

Eğitim Formatı

• Interaktif ders anlatımı ve tartışma.
• Çok sayıda egzersiz ve uygulama.
• Canlı laboratuvar ortamında uygulama.

Eğitim Özelleştirme Seçenekleri

• Bu eğitim için özelleştirilmiş bir eğitim talep etmek istiyorsanız, lütfen bize ulaşarak düzenleme yapın.

Ön Koşullar

• Büyük dil modelleri ve prompt tabanlı arayüzleri anlamak.
• Python kullanarak LLM uygulamaları inşa etme deneyimi.
• API tümleştirmeleri ve bulut tabanlı dağıtımlarla tanıdık olmak.

Kitle

• AI geliştiricileri.
• Uygulama ve çözüm mimarları.
• LLM araçlarıyla çalışan teknik ürün yöneticileri.

Türkiye'da (çevrimiçi veya yerel) yapılan bu eğitmen yönetimi altında gerçekleştirilen canlı eğitim, AI modellerine karşı ortaya çıkan tehditleri anlama ve azaltmayı isteyen orta düzeyli makine öğrenimi ve siber güvenlik uzmanları için tasarlanmıştır. Hem kavramsal çerçeveler hem de sağlam eğitim ve diferansiyel gizlilik gibi uygulamalı savunmalar kullanılarak bu amaçlanmaktadır.

Eğitim sonunda katılımcılar şunları yapabilecektir:

• Adversarial saldırılar, tersine mühendislik ve zehirlenme gibi AI'ye özgü tehditleri tanımlayabilir ve sınıflandırabilirler.
• Adversarial Robustness Toolbox (ART) gibi araçları kullanarak saldırıları simüle edebilir ve modelleri test edebilirler.
• Adversarial eğitim, gürültü ekleme ve gizlilik koruma teknikleri dahil olmak üzere pratik savunmaları uygulayabilirler.
• Üretim ortamlarında tehdit bilinci model değerlendirme stratejileri tasarlayabilirler.