Kurumlarda Yerel Yapay Zeka (Local LLM) Kullanımı Eğitimi
Kurumlarda Yerel Yapay Zeka (Local LLM) Kullanımı Eğitimi
Eğitim Hakkında
Kurumlarda Yerel Yapay Zeka (Local LLM) Kullanımı eğitimi, büyük dil modellerini bulut servislerine veri göndermeden kurumun kendi bilgisayar ve sunucularında çalıştırmak isteyen ekiplere yöneliktir. Katılımcılar; LM Studio ve Ollama gibi araçlarla açık kaynak modelleri indirip çalıştırmayı, model ayarlarını iş ihtiyacına göre düzenlemeyi ve yerel modelleri günlük iş akışlarında güvenle kullanmayı uygulamalı olarak öğrenir. Eğitim boyunca veri gizliliği, donanım seçimi ve maliyet karşılaştırması gibi kurumsal karar noktaları da ele alınarak yerel yapay zekanın hangi durumlarda doğru tercih olduğu netleştirilir.
Ön Koşul
Temel seviye bilgisayar ve üretken yapay zeka araçları bilgisi önerilir.
Eğitim İçeriği
- Neden Yerel Yapay Zeka?
- Bulut tabanlı ve yerel çalışan modellerin karşılaştırılması
- Veri gizliliği, KVKK ve GDPR açısından yerel kullanımın avantajları
- Abonelik ve token maliyetleri ile donanım yatırımının karşılaştırılması
- Donanım ve Sistem Hazırlığı
- İşlemci, ekran kartı (VRAM) ve bellek ihtiyacının belirlenmesi
- Windows, macOS ve Linux ortamlarında kurulum hazırlıkları
- Ekran kartı hızlandırması: NVIDIA CUDA ve Apple Metal
- Açık Kaynak Modelleri Tanımak
- Hugging Face üzerinde model arama ve model kartlarını yorumlama
- GGUF, AWQ ve EXL2 model formatlarının farkları
- Niceleme (quantization) seviyelerinin hız ve kaliteye etkisi
- LM Studio ile İlk Adımlar
- Kurulum ve arayüz bileşenlerinin tanıtımı
- Model arama, indirme ve sohbet ekranında kullanma
- Ekran kartına yük aktarımı (GPU offloading) ayarları
- Model Davranışını Yönetme
- Bağlam penceresi (context window) uzunluğunun ayarlanması
- Temperature, Top-P ve tekrar cezası ayarlarının çıktıya etkisi
- Sistem talimatlarıyla modele rol ve üslup kazandırma
- Modelleri Karşılaştırma ve Paylaşma
- Aynı görevde farklı modellerin yan yana denenmesi
- Yerel sunucu modu ile modeli ekip içinde erişilebilir kılma
- OpenAI uyumlu bağlantı noktasının temel mantığı
- Ollama ile Model Yönetimi
- Ollama'nın kurulumu ve temel komutlar (pull, run, list, rm)
- Arka planda çalışan servisin ve kaynak tüketiminin izlenmesi
- Model güncelleme ve kaldırma işlemleri
- Kuruma Özel Asistanlar Oluşturma
- Modelfile ile kalıcı talimat ve parametre tanımlama
- Kurum diline ve kurallarına uygun asistan yapılandırmaları
- Departmanlara özel hazır asistan şablonları
- Kullanıcı Arayüzü ve Doküman Tabanlı Çalışma
- Open WebUI ile web tabanlı sohbet arayüzü kurulumu
- Şirket içi dokümanlarla soru-cevap (RAG) yaklaşımına giriş
- Yerel yapay zeka kullanımında güvenlik ve erişim kuralları
Kazanımlar
- Bulut ve yerel yapay zeka modelleri arasındaki farkları kurumsal ihtiyaçlar açısından değerlendirebileceksiniz.
- Yerel yapay zekanın veri gizliliği ve maliyet açısından sağladığı avantajları öğreneceksiniz.
- Yerel model kullanımı için gerekli donanım ve sistem gereksinimlerini belirleyebileceksiniz.
- Hugging Face üzerinde model arayıp model kartlarını yorumlayabileceksiniz.
- Model formatları ve niceleme seviyeleri arasında ihtiyaca uygun seçim yapabileceksiniz.
- LM Studio ile açık kaynak modelleri indirip çalıştırabileceksiniz.
- Model parametrelerini ve sistem talimatlarını iş senaryolarına göre ayarlayabileceksiniz.
- Ollama ile modelleri komut satırından yönetebileceksiniz.
- Kuruma özel asistan yapılandırmaları oluşturup ekip içinde kullanıma sunabileceksiniz.
- Open WebUI ile yerel modeller için web tabanlı bir sohbet arayüzü kurabileceksiniz.
- Yerel modellerle şirket içi dokümanlar üzerinde güvenli soru-cevap çalışmaları yapabileceksiniz.
Hedef Kitle
- Yapay zeka araçlarını veri gizliliğinden ödün vermeden kullanmak isteyen çalışanlar
- BT destek ve son kullanıcı hizmetleri ekipleri
- Kişisel veya gizli verilerle çalışan iş birimi uzmanları
- Bilgi güvenliği ve KVKK uyum sorumluları
- Yapay zeka dönüşümünü planlayan takım liderleri ve yöneticiler
Sertifika
Eğitimlerimize %80 oranında katılım gösterilmesi ve eğitim müfredatına göre uygulanacak sınav/projelerin başarıyla tamamlanması durumunda, eğitimin sonunda dijital ve QR kod destekli “BT Akademi Başarı Sertifikası” verilmektedir.
SEKTÖRÜN GÜVENDİĞİ ÇÖZÜM ORTAĞI
BT Akademi'yi tercih eden 4.000'den fazla kurum yanılmıyor.
