Kurumsal LLM/RAG Eğitimi

Bu eğitim; kurumların LLM tabanlı uygulamaları ve RAG (Retrieval-Augmented Generation) mimarilerini tasarlayıp devreye alabilmesi için gerekli temel kavramları, mimari karar noktalarını, güvenlik/yetkilendirme yaklaşımlarını ve kalite ölçüm yöntemlerini bir araya getirir. Amaç; katılımcıların kurum verisini kontrollü şekilde kullanarak doğru bilgiye dayalı çalışan, ölçülebilir ve sürdürülebilir LLM çözümlerini pilotlaması ve üretime taşımasıdır.

Müfredat

• Kurumsal LLM’e giriş: neden RAG, hangi problemleri çözer?
• LLM çalışma prensipleri: bağlam penceresi, token, maliyet/performans dinamikleri
• RAG temel mimarisi: ingestion, chunking, embedding, vektör veritabanı, retrieval, generation
• Veri kaynakları: dokümanlar, wiki, CRM/ERP, e-posta, dosya sunucuları; veri envanteri çıkarma
• Doküman hazırlığı ve temizlik: formatlar, OCR, metaveri, sürümleme
• Chunking stratejileri: sabit/semantik, hiyerarşik chunking, overlap ve etkileri
• Embedding seçimi: dil uyumu (TR/EN), boyut, maliyet; embedding güncelleme stratejileri
• Vektör veritabanı ve indeksleme: temel kavramlar, filtreleme, metadata aramaları
• Retrieval teknikleri: top-k, MMR, hybrid search, reranking, query rewriting
• Prompt tasarımı (RAG için): sistem yönergeleri, kaynak zorunluluğu, cevap formatı
• Grounding ve kaynak gösterme: alıntılama, pasaj referansı, güven skorları
• Halüsinasyon azaltma: doğrulama, cevap reddi (refusal), belirsizlik yönetimi
• Yetkilendirme ve güvenlik: rol bazlı erişim, doküman seviyesinde izinler, tenant izolasyonu
• Veri sızıntısı riskleri: prompt injection, data exfiltration, güvenli retrieval politikaları
• Maliyet ve gecikme optimizasyonu: caching, batch, model seçimi, quantization/host seçenekleri
• Değerlendirme (eval) yaklaşımı: golden set, retrieval kalite metrikleri, cevap doğruluğu
• Gözlemlenebilirlik: logging, tracing, kullanıcı geri bildirimi, hata sınıflandırma
• Üretime alma: mimari desenler, API katmanı, rate limit, versiyonlama, roll-back planı
• Kullanım senaryoları: kurumsal arama, politika/standart sorgu, teklif/brief destek, İK dokümanları
• Atölye: kurumunuza uygun RAG tasarımı ve 30-60-90 gün planı

Faydalar

• RAG mimarisini ve kurumsal LLM tasarım kararlarını net bir çerçevede öğrenirsiniz
• Kurum verisini güvenli ve yetkilendirilmiş biçimde LLM uygulamalarına bağlamayı kavrarsınız
• Halüsinasyonu azaltan grounding ve doğrulama pratikleri kazanırsınız
• Retrieval kalitesini artıran chunking/embedding/reranking yöntemlerini uygularsınız
• Değerlendirme (eval) ve gözlemlenebilirlik yaklaşımıyla kaliteyi ölçebilir hale gelirsiniz
• Pilot→üretim geçişinde gereken operasyonel adımları ve riskleri yönetebilirsiniz
• Kurum içinde sürdürülebilir bir LLM/RAG ürünleşme süreci başlatabilirsiniz

Ön Bilgi Gereksinimi

• Temel API ve veri kavramlarına aşinalık önerilir (zorunlu değildir)
• BT/ürün/analitik ekiplerinden katılım önerilir (IT, ürün, veri, güvenlik, operasyon)
• Kurum içi doküman türleri ve veri kaynakları hakkında genel farkındalık faydalıdır