Kurumlar için Güvenli Yapay Zeka (AI): RAG, İnce Ayar (Fine-Tuning) ve LLM Modelleme Eğitimi
Kurumlar için Güvenli Yapay Zeka (AI): RAG, İnce Ayar (Fine-Tuning) ve LLM Modelleme Eğitimi
Eğitim Hakkında
Kurumlar için Güvenli Yapay Zeka: RAG, İnce Ayar (Fine-Tuning) ve LLM Modelleme eğitimi, kurum verilerini dışarı çıkarmadan çalışan, güvenli ve kuruma özel yapay zeka asistanları kurmak isteyen ekipler için kapsamlı bir uygulama programıdır. Eğitimde açık kaynak ve kapalı modellerin karşılaştırılması, yerel ve bulut dağıtım stratejileri ve güvenlik korkulukları ele alınır; Ollama, vLLM ve LM Studio ile modeller kurum içinde çalıştırılır. Ardından vektör veritabanlarıyla RAG mimarisi kurulur, AnythingLLM ile rol bazlı erişime sahip kurumsal bir asistan yayına alınır ve LoRA ile QLoRA teknikleriyle modele kuruma özel ince ayar yapılır.
Ön Koşul
Temel seviye Python ve komut satırı bilgisi gerekmektedir. Temel seviye büyük dil modelleri bilgisi önerilir.
Eğitim İçeriği
- Büyük dil modellerinin çalışma mantığı ve kurumsal kullanım alanları
- Açık kaynak ve kapalı modellerin karşılaştırılması
- Kurumsal veri gizliliği ve veri sızıntısı riskleri
- Şirket içi, internetten yalıtılmış ve bulut kurulum seçeneklerinin karşılaştırılması
- Yapay zeka güvenlik çerçeveleri ve korkuluklar (guardrails)
- Modellerin şirket sunucularında barındırılması: Ollama, vLLM ve LM Studio
- Model niceleme (GGUF, AWQ, GPTQ) ve GPU/VRAM ihtiyacı
- İhtiyaca göre açık kaynak model belirleme kriterleri (Llama, Mistral, Qwen vb.)
- Yerel modellere API üzerinden erişim ve uygulama entegrasyonu
- RAG ile halüsinasyonun azaltılması ve güncel bilgi sağlanması
- ChromaDB, Qdrant, Milvus ve pgvector arasında seçim yapma
- Gömme modelleri ve anlamsal arama
- Belge ayrıştırma ve metin bölme stratejileri
- Hibrit arama, yeniden sıralama ve sorgu dönüştürme teknikleri
- AnythingLLM'in kurulumu ve güvenlik ayarlarının yapılması
- Kullanıcı hesapları ve role göre yetkilendirme (RBAC)
- PDF, Word, Confluence, web ve veritabanı kaynaklarının sisteme aktarılması
- Çalışma alanları ile veri izolasyonu
- Yerel modellerin ve vektör veritabanlarının bağlanması
- Kurumsal asistanın çalışanların kullanımına açılması
- Prompt mühendisliği, RAG ve ince ayar arasında doğru yaklaşımın seçimi
- Sistem istemi tasarımı ve kurumsal persona oluşturma
- Veri temizleme, kişisel veri maskeleme ve JSONL formatına dönüştürme
- Sentetik veriyle eğitim veri setinin genişletilmesi
- Tam parametre eğitimi ile parametre verimli ince ayar (PEFT) karşılaştırması
- LoRA ve QLoRA ile tek GPU üzerinde model eğitimi
- Unsloth, Hugging Face TRL ve Axolotl ile ince ayar süreci
- Aşırı öğrenme ve yıkıcı unutma sorunlarıyla başa çıkma
- Eğitilen modelin başarı ölçümü, LoRA katmanlarının ana modelle birleştirilmesi ve yayına alınması
Kazanımlar
- Kurumsal yapay zeka kullanımında veri sızıntısı ve güvenlik risklerini değerlendirebileceksiniz.
- Açık kaynak ve kapalı modelleri kurumsal ihtiyaçlar açısından karşılaştırabileceksiniz.
- Kuruma uygun açık kaynak modeli seçip şirket sunucularında çalıştırabileceksiniz.
- Model niceleme ve donanım ihtiyaçlarını planlayabileceksiniz.
- Vektör veritabanlarıyla gelişmiş RAG mimarileri kurabileceksiniz.
- Belge ayrıştırma ve metin bölme stratejileriyle veri hazırlığı yapabileceksiniz.
- AnythingLLM ile rol bazlı erişime sahip güvenli bir kurumsal asistan yayına alabileceksiniz.
- Prompt mühendisliği, RAG ve ince ayar arasında doğru yaklaşımı seçebileceksiniz.
- Kişisel verileri maskeleyerek ince ayar için veri seti hazırlayabileceksiniz.
- LoRA ve QLoRA ile modellere ince ayar yapıp sonuçları değerlendirebileceksiniz.
Hedef Kitle
- Yapay zeka çözümleri geliştiren yazılım geliştiriciler
- BT altyapı ve sistem uzmanları
- Veri bilimciler ve makine öğrenmesi mühendisleri
- Bilgi güvenliği uzmanları
- Kurumsal yapay zeka projelerini yöneten teknik liderler
Sertifika
Eğitimlerimize %80 oranında katılım gösterilmesi ve eğitim müfredatına göre uygulanacak sınav/projelerin başarıyla tamamlanması durumunda, eğitimin sonunda dijital ve QR kod destekli “BT Akademi Başarı Sertifikası” verilmektedir.
İlgili Kurslar
SEKTÖRÜN GÜVENDİĞİ ÇÖZÜM ORTAĞI
BT Akademi'yi tercih eden 4.000'den fazla kurum yanılmıyor.
