Bize Ulaşın

Eğitim İçeriği

Çevrimdışı EXO Dağıtımı

  • EXEOFFLINE kullanılarak çalışma zamanı internet erişiminin engellenmesi
  • Güvenilir iç ayna (mirror) kaynaklarından modelleri EXOMOELSREADONLYDIRS'e önceden yükleme
  • SHA-256 sağlama değerleri ve imzalı model kartları ile model ağırlık bütünlüğünü doğrulama
  • HuggingFace bağımlılıkları olmadan hava izole (air-gapped) ağlarda EXO çalıştırma

Gösterge Paneli ve API Erişim Kontrolü

  • TLS sonlandırması ile ters vekil sunucularını (nginx, Caddy) yükleme ve yapılandırma
  • EXO gösterge paneli ve REST API için rol tabanlı erişim kontrolünün uygulanması
  • API kimlik doğrulaması için sırları saklamak üzere macOS anahtarlığı veya Linux pass kullanımı
  • Yönetimsel uç noktaları belirli kaynak IP aralıklarıyla kısıtlama

Küme İzolasyonu ve Ağ Güvenliği

  • EXOLIBP2PNAMESPACE ve VLAN'lar kullanılarak EXO kümelerinin segmentasyonu
  • EXO portları için ana bilgisayar güvenlik duvarlarının yapılandırılması (macOS uygulama güvenlik duvarı, iptables, nftables)
  • Yetkisiz cihaz keşfi ve sahte düğümlerin sisteme sızmasını önleme
  • RDMA mevcut olmadığında düğümler arasında libp2p trafiğini şifreleme

Model Yönetişimi ve Köken Takibi

  • Onaylanmış model listeleri ve meta veriler ile iç bir model kayıt defteri oluşturma
  • Kuantize ağırlıkları (4-bit, 8-bit) kaynak kontrol noktalarıyla etiketleme ve sürümleme
  • Sadece belirli HuggingFace depolarının veya iç yapıların yüklenmesini zorunlu kılma
  • Model kökenini, lisans koşullarını ve kabul edilebilir kullanım politiklarını belgeleme

Denetim Günlüğü ve Uyumluluk

  • Sabit denetim kayıtları (SIEM, WORM depolama) için EXO günlük iletmeyi yapılandırma
  • API çağrı günlüklerini kullanıcı kimliği ve zaman damgası ile ilişkilendirme
  • Model örneği oluşturma, silme ve tahmin (inference) istek olaylarını yakalama
  • Dahili ve harici denetçiler için periyodik uyumluluk raporları oluşturma

Tehlike Modelleme ve Olay Yanıtı

  • Tehditleri tanımlama: model çıktılarından veri sızdırma, istem enjeksiyonu, yan kanal sızıntıları
  • İstem izleme ve içerik filtreleme süreçlerinin uygulanması
  • Küme yetkisiz erişim senaryoları için olay müdahale kılavuzlarının oluşturulması
  • Etkilenen düğümleri izole etme, adli kayıt dosyalarını koruma ve temiz ortamları yeniden oluşturma

Fiziksel Güvenlik ve Donanım Sınırları

  • Yetkisiz RDMA kablosu bağlantılarına karşı Thunderbolt portlarının güvenliği
  • Mümkün olduğunda güvenli enkavlar (secure enclaves) ve Apple Silicon donanım kimlik doğrulamasının kullanımı
  • Kümelenmiş Mac'ler ve paylaşılan depolama erişimine fiziksel kontrol sağlama
  • Donanım yaşam döngüsü ve sökme/provizyon dışı bırakma prosedürlerinin belgelenmesi

Düzenleyici Hususlar

  • EXO dağıtımlarını GDPR, HIPAA ve SOC 2 gerekliliklerine eşleştirme
  • Tahmini işlemlerin yerelde (on-premise) tutulmasıyla veri ikametini koruma
  • Tedarik zinciri risklerinin belgelenmesi (MLX, EXO, model ağırlıkları)
  • AB Yapay Zeka Yasası Madde 53 gibi AI yönetişim çerçeveleri için hazırlık

Kurs İçin Gerekli Önbilgiler

  • EXO veya başka bir yerel LLM çalışma zamanı deneyimi
  • Unix dosya sistemi izinleri ve ağ ACL'leri anlayışı
  • TLS/SSL sertifika yönetimi ve temel şifreleme konularında aşinalık

Hedef Kitle

  • Güvenlik mühendisleri
  • Uyumluluk sorumluları
  • Kritik verileri yöneten AI altyapı yöneticileri
 14 Saatler

Katılımcı Sayısı


Katılımcı başına fiyat

Danışanlarımızın Yorumları (1)

Yaklaşan Etkinlikler

İlgili Kategoriler