Bize Ulaşın

Eğitim İçeriği

EXO Altyapı-Kod (Infrastructure as Code)

  • EXO dağıtım desenlerine genel bakış: tek düğüm, çoklu düğüm ve RDMA kümeleri
  • Yapılandırma yönetimi ile bağımlılıkların kurulumunu otomatikleştirme (Xcode, uv, Node.js, Rust)
  • Tekrarlanabilir EXO derlemeleri ve geliştirici ortamları için Nix flake'lerinin kullanımı
  • Çoğaltılmadan küme dağıtımı için Ansible playbook'ları veya kabuk betiklerinin yazılması

Tekrarlanabilir Derlemeler ve CI Entegrasyonu

  • Bağımlılıkları sabitleştirme ve dashboard'un CI pipeline'larında derlenmesi
  • GitHub Actions veya GitLab CI runner'larında EXO sigara testlerinin (smoke tests) çalıştırılması
  • macOS ve Linux VM'leri için altın imajlar ve kopya tabanlı geri alma iş akışlarının oluşturulması
  • Uygulama koduyla birlikte özel model kartlarının sürümlendirilmesi

Küme Keşfi ve Ağ Otomasyonu

  • Güvenilir libp2p düğüm keşfi için mDNS ve statik DNS yapılandırma
  • macOS üzerinde ağ profili oluşturmanın ve Thunderbolt köprüsü yönetiminin otomatikleştirilmesi
  • Geliştirme, staging ve production kümelerini ayırmak için özel ad alanlarının (EXO_LIBP2P_NAMESPACE) kullanımı
  • Çoklu kiralıcı ortamlar için güvenlik duvarı kuralları ve ağ segmentasyonu

Depolama ve Model Yaşam Döngüsü Yönetimi

  • EXO_MODELS_DIRS ve EXO_MODELS_READ_ONLY_DIRS stratejilerinin tasarlanması
  • Hızlı dağıtım için okuma-yalnız model depoları olarak NFS veya SAN paylaşımlarının bağlanması
  • Eski önbelleklerin temizlenmesi (garbage collection) ve sürümlendirilmiş ağırlıkların tutulma politikaları
  • Yankılı güncellemelerden önce model önceden indirmelerinin ve sağlık kontrollerinin otomatikleştirilmesi

İzleme ve Uyarılar

  • EXO loglarının merkezi loglama sistemlerine (ELK, Loki veya Splunk) gönderilmesi
  • EXO_TRACING_ENABLED çıktısından Grafana panolarının oluşturulması
  • Küme üyelik değişiklikleri, OOM olayları ve çıkarım gecikmesi artışları için uyarılar yapılandırılması
  • macmon donanım telemetrisinin model performansındaki geriye dönüşlerle ilişkilendirilmesi

Güncelleme, Geri Alma ve Afet Kurtarma

  • Komuta filoları genelinde dağıtımdan önce EXO ikili güncellemelerini bir kuzu düğümünde (canary node) örnekleme
  • Model düzeyinde geri alma: yeniden indirmeden nicetlenmiş sürümler arasında geçiş yapma
  • Küme durumu, özel ad alanları ve önbelleğe alınmış ağırlıkların yedeklenmesi ve geri yüklenmesi
  • Tam küme yeniden inşası senaryoları için kurtarma runbook'larının dokümante edilmesi

Güvenlik Sıkılaştırma ve Uyumluluk

  • Dashbaord ve API için ters proxy katmanında (nginx, traefik) TLS uygulaması
  • EXO uç noktaları için API hız sınırlama ve IP beyaz listesi uygulama
  • VLAN'lar ve sıfır-güvenlik ağ ilkeleriyle kümelerin izole edilmesi
  • Erişimin denetlenmesi ve dağıtılan modellerin ve sürümlerin envanterinin korunması

Kurs İçin Gerekli Önbilgiler

  • DevOps pratikleri konusunda deneyim (CI/CD, IaC, konteyner orkestrasyonu)
  • macOS veya Linux sistem yönetimi ve paket yönetimi hakkında tanışıklık
  • Ağ, DNS ve depolama kavramlarına anlayış

Hedef Kitle

  • DevOps mühendisleri
  • Altyapı mimarları
  • Yerel (on-premise) AI iş yüklerinden sorumlu SRE'ler
 21 Saatler

Katılımcı Sayısı


Katılımcı başına fiyat

Danışanlarımızın Yorumları (2)

Yaklaşan Etkinlikler

İlgili Kategoriler