LLM Güvenliği Eğitimi

Eğitim Hakkında

Bu eğitimin amacı; Büyük Dil Modelleri (Large Language Models - LLM), üretken yapay zeka uygulamaları ve Retrieval-Augmented Generation (RAG) tabanlı sistemlerde ortaya çıkabilecek güvenlik risklerini, saldırı yöntemlerini ve savunma mekanizmalarını öğretmektir. Eğitim kapsamında prompt tabanlı saldırılar, veri sızıntısı riskleri, model manipülasyonu, güvenli entegrasyon prensipleri ve LLM güvenlik test yöntemleri ele alınmaktadır. Katılımcılar, LLM tabanlı sistemleri daha güvenli tasarlama, test etme ve koruma konusunda bilgi ve beceri kazanacaktır.

Ön Koşul

Temel yapay zekâ kavramlarına giriş düzeyinde aşinalık ve siber güvenlik bilgisi önerilir.

Eğitim İçeriği

Kazanımlar

• LLM ve generative AI kavramlarını öğreneceksiniz.
• Transformer temellerini, tokenization ve context window süreçlerini kavrama sayesinde LLM mimarisini daha iyi anlayabileceksiniz.
• Prompt engineering temellerini öğrenme ve prompt injection saldırılarını analiz etme becerisi kazanabileceksiniz.
• Jailbreak, role manipulation ve context manipulation saldırılarını tanıma ile güvenlik risklerini fark edebileceksiniz.
• RAG güvenliği ve data poisoning risklerini yönetme konusunda yetkinlik edinebileceksiniz.
• Vector database güvenliği ve sensitive data exposure farkındalığı geliştirebileceksiniz.
• Model abuse/misuse ve hallucination risklerini değerlendirme becerisi kazanabileceksiniz.
• Output filtering ve guardrails yöntemlerini uygulama ile güvenli çıktı üretmeyi öğrenebileceksiniz.
• LLM security testing ve red teaming süreçlerini öğrenme sayesinde güvenlik denetimlerinde uzmanlaşabileceksiniz.
• Logging, monitoring ve incident response süreçlerini uygulama becerisi edinebileceksiniz.
• Güvenli LLM entegrasyon prensiplerini kavrama ile kurumsal uygulamalarda güvenliği sağlayabileceksiniz.
• Uygulamalı lab çalışmaları ve senaryolarla pratik deneyim kazanabileceksiniz.

Hedef Kitle

• LLM ve generative AI projelerinde güvenlik süreçlerini geliştirmek isteyen tüm profesyoneller
• AI güvenlik uzmanları
• Veri bilimciler
• BT denetçileri
• Risk ve uyum uzmanları
• AI ürün yöneticileri

Sertifika

Eğitimlerimize %80 oranında katılım gösterilmesi ve eğitim müfredatına göre uygulanacak sınav/projelerin başarıyla tamamlanması durumunda, eğitimin sonunda dijital ve QR kod destekli “BT Akademi Başarı Sertifikası” verilmektedir.