Ollama: Open Kaynaklı Büyük Dil Modelleri ile OpenAI ve Claude API'lerini Kademeli Olarak Değiştirmek Eğitimi
Ollama, büyük dil modellerini tüketici ve kurumsal donanımlarda yerel olarak çalıştırmak için açık kaynaklı bir araçtır. Model kvantizasyonu, GPU tahsisi ve API sunumunu tek bir komut satırı arayüzünde birleştirerek, organizasyonların Llama, Mistral ve Qwen gibi büyük dil modellerini (LLM) OpenAI, Anthropic veya Google'a istem veya veri göndermeden kendi kendine barındırmasını sağlar.
Bu eğitmen eşliğindeki canlı eğitim (online veya yerinde), buluttaki LLM API'lerini kendi kendine barındırılan ve egemen dil modeli çıkarımı ile değiştirmek isteyen orta düzey AI mühendisleri ve platform operatörlerine yöneliktir.
Eğitim sonunda katılımcılar şunları yapabilecekler:
- GPU desteğiyle Linux, macOS ve Windows'a Ollama kurumu.
- Ollama kaydı ve HuggingFace'ten modelleri çekme, kvantize etme ve sunma.
- Sistem istemleri ve parametre ayarıyla özel Modelfile'lar oluşturma.
- OpenAI uyumlu API aracılığıyla yerel LLM'leri uygulamalara entegre etme.
- Yalnızca CPU'lu ve çoklu GPU'lu kurulumlar için çıkarım performansını optimize etme.
Kursun Formatı
- Etkileşimli ders ve tartışma.
- Bol miktarda egzersiz ve pratik.
- Canlı laboratuvar ortamında uygulamalı uygulama.
Kurs Özelleştirme Seçenekleri
- Bu kurs için özelleştirilmiş bir eğitim talep etmek üzere lütfen bizimle iletişime geçin.
Eğitim İçeriği
AI Egemenliği ve LLM Yerel Dağıtımı
- Bulut LLM'lerinin riskleri: veri saklama, girişlerde eğitme, yabancı yargı yetkisi.
- Ollama mimarisi: model sunucusu, kayıt defteri ve OpenAI uyumlu API.
- vLLM, llama.cpp ve Text Generation Inference ile karşılaştırma.
- Model lisanslaması: Llama, Mistral, Qwen ve Gemma şartları.
Kurulum ve Donanım Ayarı
- CUDA ve ROCm desteğiyle Linux üzerine Ollama kurulumu.
- Yalnızca CPU'lu yedekleme ve AVX/AVX2 optimizasyonu.
- Docker dağıtımı ve kalıcı hacim eşleştirmesi.
- Çoklu GPU kurulumu ve VRAM tahsis stratejileri.
Model Yönetimi
- Ollama kaydından modelleri çekme: ollama pull llama3.
- HuggingFace ve TheBloke'ten GGUF modellerini içe aktarma.
- Kvantizasyon düzeyleri: Q4_K_M, Q5_K_M, Q8_0 arasındaki ticari dengelemeler.
- Model değiştirme ve eşzamanlı model yükleme sınırlamaları.
Özel Modelfile'lar
- Modelfile sözdizimi yazma: FROM, PARAMETER, SYSTEM, TEMPLATE.
- Sıcaklık (temperature), top_p ve repeat_penalty ayarı.
- Rol bazlı davranış için sistem istemi mühendisliği.
- Özel modelleri yerel kayıt defterine oluşturma ve yayınlama.
API Entegrasyonu
- OpenAI uyumlu /v1/chat/completions uç noktası.
- Akış yanıtları ve JSON modu.
- LangChain, LlamaIndex ve özel uygulamalarla entegrasyon.
- Ters vekil sunucu ile kimlik doğrulama ve hız sınırlama.
Performans Optimizasyonu
- Bağlam penceresi boyutlandırma ve KV önbellek yönetimi.
- Toplu çıkarım ve paralel istek işleme.
- CPU iş parçacığı tahsisi ve NUMA farkındalığı.
- GPU kullanımını ve bellek baskısını izleme.
Güvenlik ve Uyumluluk
- Model sunum uç noktaları için ağ izolasyonu.
- Giriş filtreleme ve çıktı moderasyon boruhatları.
- İstemlerin ve tamamlamaların denetim günlüğü.
- Model kökeni ve hash doğrulaması.
Kurs İçin Gerekli Önbilgiler
- Orta düzey Linux ve kapsayıcı yönetimi.
- Makine öğrenimi ve transformer modelleri konusunda yüksek seviyede anlayış.
- REST API'leri ve JSON'da aşinalık.
Hedef Kitle
- Bulut LLM API'lerini değiştiren AI mühendisleri ve geliştiriciler.
- Veri gizliliği nedeniyle bulut modeli kullanımına izin vermeyen organizasyonlar.
- Hava boşluklu (air-gapped) dil modellerine ihtiyaç duyan hükümet ve savunma ekipleri.
Açık Eğitim Kursları 5 ve üzeri katılımcı gerektirir.
Ollama: Open Kaynaklı Büyük Dil Modelleri ile OpenAI ve Claude API'lerini Kademeli Olarak Değiştirmek Eğitimi - Rezervasyon
Ollama: Open Kaynaklı Büyük Dil Modelleri ile OpenAI ve Claude API'lerini Kademeli Olarak Değiştirmek Eğitimi - Talep Oluştur
Ollama: Open Kaynaklı Büyük Dil Modelleri ile OpenAI ve Claude API'lerini Kademeli Olarak Değiştirmek - Danışmanlık Talebi
Yaklaşan Etkinlikler
İlgili Kurslar
Gelişmiş Ollama Model Hata Ayıklaması ve Değerlendirme
35 SaatlerGelişmiş Ollama Model Hata Ayıklaması ve Değerlendirme, yerel veya özel Ollama dağıtımlarında model davranışını tanılamak, test etmek ve ölçmek üzerine odaklanmış kapsamlı bir kursudur.
Bu eğitmen öncülünde, canlı eğitim (çevrimiçi veya yerinde) gelişmiş düzeydeki AI mühendisleri, ML Ops uzmanları ve QA uygulayıcılarına üretim ortamında Ollama tabanlı modellerin güvenilirliği, doğruluğu ve işletimsel hazır durumu sağlamak için yöneliktir.
Bu eğitim sonunda katılımcılar şunları yapabilecektir:
- Ollama barındırılan modellerin sistemli hata ayıklamasını yaparak başarısızlık modlarını güvenilir bir şekilde yeniden üretmeyi.
- Nicel ve nitel metriklerle sağlam değerlendirme hatları tasarlama ve yürütme.
- (Günlükler, izler, metrikler) model sağlığını ve kaymayı izlemek için gözlem yeteneğini uygulama.
- CI/CD hatalarına ve geri dönüş kontrollerine otomatik test, doğrulama ve regresyon kontrollerini entegre etme.
Kursun Formatı
- Etkileşimli ders ve tartışma.
- Ollama dağıtımları kullanarak hata ayıklama alıştırmaları ve laboratuvarları.
- Örneklemeler, grup sorun giderme oturumları ve otomasyon atölyeleri.
Kurs Özelleştirme Seçenekleri
- Bu kurs için özelleştirilmiş bir eğitim talep etmek için lütfen bizimle iletişime geçin.
Ollama ile Özel AI İş Akışları Oluşturma
14 SaatlerBu eğitmen yönetimi altında gerçekleşen canlı eğitim Türkiye (çevrimiçi veya yerel) gelişmiş seviye profesyonellerin Ollama'yı kullanarak güvenli ve verimli AI destekli iş akışları uygulamasını hedefler.
Bu eğitimin sonunda katılımciler şunları yapabilecek olacaklar:
- Özel AI işleme için Ollama'yı dağıtma ve yapılandırma.
- AI modellerini güvenli kurumsal iş akışlarına entegre etme.
- Veri gizliliğini korurken AI performansını optimize etme.
- Kuruluşsal AI yetenekleriyle iş süreçlerini otomasyonla birleştirme.
- Kurumsal güvenlik ve yönetişim politikalarına uyum sağlama.
Ollama ile LLM'lerin Dağıtımı ve Optimizasyonu
14 SaatlerTürkiye (Çevrimiçi veya fiziki) konumunda düzenlenen bu eğitmen öncülüğündeki canlı eğitim, Ollama kullanarak LLM'leri dağıtmak, optimize etmek ve entegre etmek isteyen orta seviye profesyoneller için hedeflenmiştir.
Eğitimin sonunda katılımcılar şunları yapabileceklerdir:
- Ollama kullanarak LLM'leri kurup dağıtır.
- Performans ve verimlilik için AI modellerini optimize eder.
- Daha iyi tahmin hızları için GPU hızlandırmadan yararlanır.
- Ollama'yı iş akışlarına ve uygulamalara entegre eder.
- Zaman içinde AI model performansını izler ve bakımını sağlar.
EXO: Uçtan Uca Yerel AI Küme Dağıtımı
21 SaatlerBu Türkiye (çevrimiçi veya yüz yüze) düzenlenecek eğitmenli, canlı eğitim; özel LLM çıkarımı için Apple Silicon veya Linux düğümleri arasında EXO kümelerini dağıtmak, yapılandırmak ve yönetmek isteyen sistem yöneticileri ve DevOps mühendisleri içindir.
DevOps için EXO: Özel AI Altyapısı İnşa Etmek
21 SaatlerTürkiye 'deki bu eğitmen rehberliğindeki canlı eğitim (çevrimiçi veya yerinde), özel AI kümelerini EXO üzerinde kurmak, izlemek ve yaşam döngüsünü yönetmek isteyen DevOps mühendisleri ve altyapı mimarları için hazırlanmıştır.
EXO Güvenliği ve Yönetişimi: Çevrimdışı Model Yönetimi
14 SaatlerBu Türkiye (çevrimiçi veya yerinde) eğitimleri ile eğitmen destekli, canlı eğitimler; EXO dağıtımlarını güçlendirmek, model erişimini kontrol etmek ve tamamen yerel olarak çalışan AI yüklerini yönetmek isteyen güvenlik mühendisleri ve uyumluluk sorumluları için tasarlanmıştır.
Ollama üzerinde AI Modellerinin İnce Aytarılması ve Özelleştirilmesi
14 SaatlerBu eğitmen-leden, canlı eğitim Türkiye (çevrimiçi veya kurum içi), performansın artırılması ve alan-spesifik uygulamalar geliştirilmesi amacıyla Ollama üzerinde AI modellerinin ince aytarılmasını ve özelleştirilmesini amaçlayan ileri düzeydeki profesyonellere yöneliktir.
Bu eğitim sonunda katılımcılar şunları yapabilecekler:
- Ollama üzerinde AI modellerinin ince aytarılması için verimli bir ortam kurma.
- denetimli ince aytarım ve takviyeli öğrenim için veri setlerini hazırlama.
- AI modellerinin performansını, doğruluğunu ve verimliliğini optimizasyon.
- özelleştirilmiş modelleri üretim ortamlarında dağıtma.
- model iyileştirmelerini değerlendirme ve dayanıklılığını sağlama.
Güvenli Yerel Agentic AI: Düzenlenmiş Sektörler İçin Yerel Sunucuda Ollama Geliştirme
21 SaatlerTürkiye (çevrimiçi veya yüz yüze) bu eğitmen-led canlı eğitim, Ollama ve açık kaynaklı modelleri kullanarak özel agentic AI çözümlerini yerel altyapı üzerinde oluşturmak ve çalıştırmak isteyen geliştiriciler ve teknik ekipler için tasarlanmıştır.
Bu eğitimin sonunda katılımcılar şunları yapabileceklerdir: Ollama'yı kurmak ve yapılandırmak, açık kaynaklı modelleri yerel olarak değerlendirmek ve çalıştırmak, basit agentic ve geri çağırma tabanlı iş akışları oluşturmak ve düzenlenmiş ortamlar için güvenlik ve yönetim kontrollerini uygulamak.
Çok Modallı Uygulamalar ile Ollama
21 SaatlerOllama, büyük dil ve çok modalli modelleri yerel olarak çalıştırma ve ayarlamayı olanak tanıyan bir platformdur.
Bu eğitmen yönetilen canlı eğitim (çevrimiçi veya yerel), çok modalli uygulamaları Ollama ile inşa etmek ve dağıtmak isteyen ileri düzey ML mühendisleri, AI araştırmacıları ve ürün geliştiricileri için tasarlanmıştır.
Eğitim sonunda, katılımcılar şunları yapabilecektir:
- Ollama ile çok modalli modelleri kurma ve çalıştırma.
- Gerçek dünya uygulamaları için metin, görüntü ve ses girdilerini entegrasyonu.
- Döküman anlayışını ve görsel QA sistemlerini oluşturma.
- Modallar arasında düşünme yeteneğine sahip çok modalli ajansların geliştirilmesi.
Eğitim Biçimi
- Interaktif ders anlatımı ve tartışma.
- Gerçek çok modalli veri kümeleri ile elden deneyim.
- Ollama kullanarak çok modalli akışları canlı laboratuvar uygulaması.
Eğitim Özelizleme Seçenekleri
- Bu eğitim için özel bir eğitimi talep etmek istiyorsanız, bize ulaşarak düzenleme yapabilirsiniz.
Ollama ile Başlarken: Yerel AI Modelleri Çalıştırma
7 SaatlerBu eğitmen tarafından yönetilen canlı eğitim Türkiye (çevrimiçi veya kurum içi), başlangıç seviyesindeki profesyoneller için Ollama'yı yüklemek, yapılandırmak ve yerel makinelerde AI modelleri çalıştırmak üzere kullanmayı öğrenmeyi amaçlamaktadır.
Bu eğitim sonunda katılımcılar şunları yapabilecektir:
- Ollama'nın temel ilkelerini ve yeteneklerini anlamak.
- Yerel AI modelleri çalıştırma için Ollama'yı kurmak.
- Ollama kullanarak LLM'leri dağıtmak ve etkileşime geçmek.
- AI yüklerinin performansını ve kaynak kullanımını optimize etmek.
- Yerel AI dağıtımının çeşitli endüstrilerdeki uygulama alanlarını keşfetmek.
Ollama & Veri Gizliliği: Güvenli Yükleme Desenleri
14 SaatlerOllama, büyük dil ve çok modalli modelleri yerel olarak çalıştırırken güvenli dağıtım stratejilerini destekleyen bir platformdur.
Bu eğitmen öncülüğündeki canlı eğitim (çevrimiçi veya on site), güçlü veri Gizliliği ve düzenlemeye uyum sağlama ölçüleri ile Ollama'u dağıtmak isteyen orta düzeyli profesyoneller için tasarlanmıştır.
Eğitim sonunda, katılımcılar şunları yapabilecektir:
- Kapsayıcı ve şirket içindeki ortamlarda güvenli olarak Ollama'u dağıtabilecekler.
- Diferansiyel Gizlilik tekniklerini uygulayıp hassas verileri koruyabilecekler.
- Güvenli günlük tutma, izleme ve denetim uygulamalarını gerçekleştirebilecekler.
- Uyum sağlama gereklilikleriyle uyumlu olan veri erişimi kontrolünü uygulayabilecekler.
Eğitim Formatı
- Interaktif ders anlatımı ve tartışmalar.
- Güvenli dağıtım desenleri ile elden geçiren laboratuvarlar.
- Uyum sağlama odaklı durum çalışmaları ve uygulamalı egzersizler.
Eğitim Özelleştirme Seçenekleri
- Bu eğitim için özelleştirilmiş bir eğitim talep etmek istiyorsanız, lütfen bizi ulaşmak için arayın.
Ollama'nın Finans Teklifleri
14 SaatlerOllama, yerel olarak büyük dil modellerini çalıştırma için hafif bir platformdur.
Bu eğitmen liderliğindeki canlı eğitim (çevrimiçi veya yerinde) orta düzeyde finans uygulayıcıları ve IT personeline yönelik, Ollama tabanlı AI çözümlerini finansal ortamlarda uygulamayı, özelleştirmeyi ve operasyonelleştirmeyi hedefler.
Bu eğitimi tamamlayarak katılımcılar şunları yapmak için gereken becerilere sahip olacaklar:
- Ollama'yı finansal işlemler için güvenli kullanmak üzere dağıtmak ve yapılandırmak.
- Yerel LLM'leri analitik ve raporlama akışlarına entegre etmek.
- Modelleri finansa özgü terminoloji ve görevlere uyumlandırmak.
- Güvenlik, gizlilik ve uyumluluk en iyi uygulamalarını uygulamak.
Eğitim Formatı
- Etkileşimli ders ve tartışma.
- Eldeki finansal veri alıştırmaları.
- Finansa odaklanmış senaryoların canlı laboratuvar uygulaması.
Eğitim Özelleştirme Seçenekleri
- Bu kurs için özelleştirilmiş bir eğitim talep etmek istiyorsanız, lütfen bize ulaşın.
Ollama Sağlıkta Uygulamalar
14 SaatlerOllama, yerelde büyük dil modellerini çalıştırmak için hafif bir platformdur.
Bu eğitmen tarafından yönetilen canlı eğitim (çevrimiçi veya yerinde) orta düzeyli sağlık profesyonelleri ve IT ekibine, Ollama tabanlı AI çözümlerini klinik ve idari ortamlarda dağıtmak, özelleştirmek ve operasyonelleştirmeyi amaçlamaktadır.
Bu eğitimi tamamladıktan sonra katılımcılar şunları yapabilecektir:
- Sağlık hizmetleri ortamlarında güvenli kullanmak için Ollama'yı kurma ve yapılandırma.
- Yerel LLM'leri klinik akışlara ve idari süreçlere entegre etme.
- Sağlık hizmetlerine özgü terminoloji ve görevler için modelleri özelleştirme.
- Gizlilik, güvenlik ve düzenleyici uyumla ilgili en iyi uygulamaları uygulama.
Eğitim Formatı
- Etkileşimli sunum ve tartışma.
- El ile gösterimler ve rehberlikli alıştırmalar.
- Sandboxed sağlık hizmetleri simülasyon ortamında pratik uygulama.
Eğitim Özelleştirme Seçenekleri
- Bu eğitimin özelleştirilmiş bir sürümünü talep etmek için lütfen bizimle iletişime geçin.
Ollama için Sorumlu AI ve Yönetim
14 SaatlerOllama, büyük dil ve çok modallı modelleri yerel olarak çalıştırmak için bir platformdur ve yönetimi ve sorumlu AI uygulamalarını destekler.
Bu eğitmen yönlü, canlı eğitim (çevrimiçi veya çevrimdışı) orta düzeyden uzman düzeyine kadar, Ollama ile güçlendirilen uygulamalarda adalet, şeffaflık ve sorumluluğu uygulamak isteyen profesyonellere yönelik olmaktadır.
Eğitim sonunda katılımcılar aşağıdaki becerileri kazanacaklar:
- Ollama dağıtımlarında sorumlu AI ilkelerini uygulayabilme.
- İçerik filtreleme ve önyargı azaltma stratejilerini gerçekleştirebilme.
- Aİ uyumluluğu ve denetlenebilirlik için yönetim akışlarını tasarlamak.
- Uyumluluk için izleme ve raporlama keremi kurmak.
Eğitim Formatı
- Interaktif ders anlatımı ve tartışmalar.
- El ile yönetim akışı tasarımı laboratuvarları.
- Dava incelemeleri ve uyumluluk odaklı egzersizler.
Eğitim Özelleştirme Seçenekleri
- Bu eğitim için özelleştirilmiş bir eğitim talebinde bulunmak istiyorsanız, lütfen bize ulaşarak düzenleme yapınız.
Düzenlenmiş Kurumlar İçin Egemen Yapay Zeka: Veri, Modeller ve Çıkarım Ortamlarının Kontrolü
7 SaatlerBu Türkiye ortamında (çevrimiçi veya kapalı devre) verilen eğitmenli, canlı eğitim; hassas verilerin korunmasını sağlayan, yerelleştirme gereksinimlerini destekleyen ve tedarikçi bağlılığını azaltan yapay zeka ortamları tasarlamak isteyen egemen yapay zeka ilkeleri ve yönetişim uygulamalarını kullanmak isteyen ara düzeyde IT liderleri, uyumluluk profesyonelleri, güvenlik ekipleri ve kurumsal mimarlar için hazırlanmıştır.
Bu eğitimin sonunda katılımcılar şunları yapabileceklerdir: egemen yapay zeka kavramlarını açıklayabilir, barındırma ve yönetişim seçeneklerini değerlendirebilir, istemler ve günlük kayıtlar için kontrolleri tanımlayabilir ve uygulamalı bir benimseme yol haritası oluşturabilir.
