Büyük Dil Modelleri ile Çalışma Eğitimi

Eğitim Hakkında

Bu eğitim, büyük dil modellerini (LLM) kurum içi uygulamalara entegre etmek isteyen yazılım ve veri ekipleri için tasarlanmış uygulamalı bir programdır. Katılımcılar ticari ve açık modelleri API ile kullanmayı, yapılandırılmış çıktı ve araç çağırma ile uygulama geliştirmeyi, çıktıları değerlendirmeyi, güvenlik risklerini yönetmeyi ve maliyeti kontrol etmeyi öğrenir.

Neden Bu Eğitim?

Mühendislik Odaklı. Sohbet arayüzünün ötesine geçin; LLM'leri kodunuzdan çağırarak iş süreçlerine bağlanan uygulamalar geliştirin.

Tedarikçiden Bağımsız. OpenAI, Anthropic, Google ve açık modelleri aynı ölçütlerle karşılaştırıp ihtiyacınıza uygun olanı seçin.

Güvenli ve Ölçülebilir. Değerlendirme setleri, istem enjeksiyonu savunmaları ve maliyet izleme ile üretime hazır çözümler kurun.

“Büyük dil modelinin değeri tek başına zekasında değil, kurumun verisine ve süreçlerine ne kadar iyi bağlandığında ortaya çıkar.”

Ön Koşullar

Python Bilgisi — Python ile fonksiyon yazabilmek, paket kurabilmek ve JSON verisiyle çalışabilmek.
API Deneyimi — REST API kavramını, HTTP isteklerini ve API anahtarı ile kimlik doğrulamayı bilmek.
Geliştirme Ortamı — Python 3, VS Code veya benzeri bir editör ve Git kurulu, paket kurulum yetkili bilgisayar.
Model Erişimi — Laboratuvarlar için eğitim ortamı sağlanır; kurum içi uygulama için kendi API hesabınız önerilir.

Eğitim İçeriği

Programın gün gün akışı aşağıdadır. Bir güne tıklayarak o günün modüllerini ve içeriklerini görebilirsiniz.

Günün hedefiLLM'lerin yetenek ve sınırlarını kavramak, ticari ve açık model seçeneklerini karşılaştırmak ve API üzerinden etkili, maliyet bilinçli çağrılar yapmak.

Modül 1

LLM'ler Nasıl Çalışır?

Token, bağlam penceresi ve sonraki token tahmini
Ön eğitim, talimat ayarı ve tercih hizalaması
Sıcaklık, top-p ve maksimum token parametreleri
Halüsinasyon, bilgi kesim tarihi ve belirsizlik
Akıl yürütme odaklı modeller ve düşünme bütçesi
Demo: Aynı görevde parametrelerin çıktıya etkisi

Modül 2

Model Ekosistemi ve Seçim Ölçütleri

OpenAI GPT, Anthropic Claude ve Google Gemini aileleri
Açık ağırlıklı modeller: Llama, Mistral, Qwen ve Gemma
Bulut platformları: Azure AI Foundry, Bedrock, Vertex AI
Kalite, gecikme, maliyet ve veri yerleşimi ölçütleri
KVKK açısından veri işleme ve yurt dışı aktarım soruları
Uygulama: Kurumsal senaryo için model karşılaştırma tablosu

Modül 3

API ve SDK ile Çalışma

Sistem, kullanıcı ve asistan mesaj rolleri
Python SDK'ları ile ilk çağrı ve yanıt nesnesi
Akış (streaming) yanıtları ve kullanıcı deneyimi
Hata yönetimi, hız sınırları ve yeniden deneme
Token sayımı, maliyet hesabı ve kullanım takibi
Laboratuvar: Çok sağlayıcılı basit bir LLM istemcisi

Modül 4

Uygulama Geliştirici için İstem Tasarımı

Görev, bağlam, format ve kısıt bileşenleri
Az örnekli (few-shot) istemler ve örnek seçimi
İstem şablonları ve Git ile sürüm kontrolü
Uzun belgelerde parçalama ve özetleme stratejileri
Laboratuvar: E-posta sınıflandırma ve yanıt taslağı
Günün değerlendirmesi ve uygulama gününe köprü

Günün hedefiYapılandırılmış çıktı ve araç çağırma ile LLM'leri kurumsal sistemlere bağlamak, belge tabanlı uygulamalar geliştirmek ve açık modelleri yerel ortamda çalıştırmak.

Modül 1

Yapılandırılmış Çıktı ve Veri Çıkarımı

JSON Schema ile yapılandırılmış çıktı kullanımı
Pydantic modelleriyle doğrulama ve tip güvenliği
Faturadan, formdan ve yazışmadan alan çıkarımı
Hatalı çıktıda doğrulama ve yeniden deneme döngüsü
Çok modlu girdi: görsel ve PDF belgelerin işlenmesi
Laboratuvar: Belge yığınından yapılandırılmış veri çıkarma

Modül 2

Araç Çağırma (Function Calling)

Araç tanımı, parametre şeması ve çağrı döngüsü
Veritabanı sorgusu ve iç API'lere güvenli bağlantı
Paralel ve ardışık araç çağrılarının yönetimi
Model Context Protocol (MCP) ile araç entegrasyonu
Yetki sınırları ve insan onayı gerektiren işlemler
Laboratuvar: Sipariş sorgulayan destek asistanı

Modül 3

Belgeyle Çalışma ve Çerçeveler

Bağlam penceresine sığan belgelerle doğrudan çalışma
Bilgi erişimi destekli üretime (RAG) kısa giriş
Gömme modelleri ve basit vektör arama akışı
LangChain ve LlamaIndex: ne zaman gerekli, ne zaman değil
Sohbet geçmişi ve bağlam yönetimi stratejileri
Laboratuvar: İç yönetmeliklere yanıt veren asistan

Modül 4

Açık Modelleri Yerelde Çalıştırma

Ollama ile yerel model kurulumu ve kullanımı
vLLM ile yüksek verimli model servisleme
Niceleme (quantization) ve donanım gereksinimleri
Kurum içi barındırma ile API kullanımının karşılaştırılması
Demo: Aynı uygulamayı yerel modele taşıma
Günün özeti ve kalite ile güvenlik gününe hazırlık

Günün hedefiLLM çıktılarını sistematik biçimde değerlendirmek, güvenlik risklerine karşı önlem almak, maliyet ve gecikmeyi optimize etmek ve uçtan uca projeyi sunmak.

Modül 1

LLM Çıktılarının Değerlendirilmesi

Altın veri seti oluşturma ve kabul ölçütleri
Kural tabanlı kontroller ve referanslı metrikler
LLM-as-a-judge yaklaşımı ve sınırlılıkları
promptfoo ile istem ve model regresyon testleri
İnsan değerlendirmesi ve A/B karşılaştırmaları
Laboratuvar: Destek asistanı için değerlendirme paketi

Modül 2

Güvenlik ve Sorumlu Kullanım

OWASP Top 10 for LLM Applications risk başlıkları
İstem enjeksiyonu ve dolaylı enjeksiyon senaryoları
Hassas veri sızıntısı ve kişisel veri maskeleme
Girdi ve çıktı korkulukları (guardrails) tasarımı
EU AI Act şeffaflık yükümlülükleri ve iç politikalar
Uygulama: Asistana karşı kırmızı takım denemesi

Modül 3

Gözlemlenebilirlik, Maliyet ve Performans

Langfuse ile iz kaydı, istem sürümü ve kullanım takibi
İstem önbellekleme ve yanıt önbelleği stratejileri
Görev zorluğuna göre model yönlendirme (routing)
Toplu (batch) işleme ile maliyet azaltma
Gecikme bütçesi, zaman aşımı ve yedek model
Laboratuvar: Maliyet ve gecikme optimizasyonu analizi

Modül 4

Uçtan Uca LLM Projesi ve Kapanış

Grup projesi: senaryo, mimari, değerlendirme, güvenlik
Proje sunumları ve teknik geri bildirimler
Kurumsal LLM uygulama yol haritası çalışması
Eğitim değerlendirmesi ve interaktif Soru-Cevap
Sertifika takdimi ve proje kodlarının teslimi
İleri öğrenme kaynakları ve kapanış oturumu

Eğitim Kazanımları

LLM Kavrayışı — Dil modellerinin çalışma mantığını, parametrelerini ve halüsinasyon gibi sınırlarını net biçimde açıklayabileceksiniz.
Model Seçimi — Ticari ve açık modelleri kalite, maliyet, gecikme ve veri gizliliği ölçütleriyle karşılaştırıp seçebileceksiniz.
API Entegrasyonu — LLM API'lerini akış, hata yönetimi ve token takibiyle uygulamalarınıza sağlam biçimde entegre edebileceksiniz.
Yapılandırılmış Çıktı — JSON Schema ve Pydantic ile belgelerden doğrulanmış, sistemlere aktarılabilir veri çıkarabileceksiniz.
Araç Çağırma — Function calling ve MCP ile dil modellerini veritabanlarına ve iç API'lere güvenli biçimde bağlayabileceksiniz.
Sistematik Test — Altın veri setleri ve otomatik değerlendirme ile LLM uygulamalarının kalitesini sürekli ölçebileceksiniz.
Güvenlik Önlemleri — İstem enjeksiyonu ve veri sızıntısı risklerine karşı korkuluklar ve yetki sınırları tasarlayabileceksiniz.
Maliyet Yönetimi — Önbellekleme, model yönlendirme ve gözlemlenebilirlik ile maliyeti kontrol altında tutan bir mimari kuracaksınız.

Kimler İçin Uygundur?

Yazılım geliştiriciler
backend ve full-stack mühendisler
veri bilimciler
çözüm mimarları ve kurum içinde LLM tabanlı uygulama geliştirecek teknik ekipler.

Sıkça Sorulan Sorular

Büyük Dil Modelleri ile Çalışma Eğitimi kimler için uygundur?

Program; LLM tabanlı uygulama geliştirecek yazılım geliştiriciler, backend mühendisleri, veri bilimciler ve çözüm mimarları için tasarlanmıştır. Model eğitmekten çok hazır modelleri güvenli ve verimli biçimde ürünleştirmeye odaklanır.

Eğitim ne kadar sürer ve hangi konuları kapsar?

Eğitim 3 tam gün ve 12 modülden oluşur. İlk gün LLM temelleri, model seçimi ve API kullanımı, ikinci gün yapılandırılmış çıktı, araç çağırma ve yerel modeller, üçüncü gün değerlendirme, güvenlik, maliyet ve proje işlenir.

Katılım için hangi ön koşullar var?

Python ile temel düzeyde kod yazabilmek, REST API ve JSON kavramlarını bilmek yeterlidir. Derin öğrenme veya model eğitimi deneyimi gerekmez. Laboratuvarlar için eğitim ortamında model erişimi sağlanır.

Hangi modeller ve araçlar kullanılıyor?

OpenAI, Anthropic ve Google modelleri ile Llama, Mistral, Qwen gibi açık modeller karşılaştırılır. Uygulamalarda Python SDK'ları, Pydantic, Model Context Protocol, LangChain, LlamaIndex, Ollama, vLLM, promptfoo ve Langfuse kullanılır.

Kurum verileri ve KVKK açısından nelere dikkat ediliyor?

Eğitimde veri yerleşimi, kişisel veri maskeleme, kurum içi barındırma seçenekleri ve OWASP LLM riskleri ayrıca ele alınır. Kapalı kurum gruplarında uygulamalar anonimleştirilmiş kurum senaryolarıyla kurgulanabilir; katılımcılar sertifika alır.

Sertifikalandırma

Bu eğitim Katılım Sertifikası ile tamamlanır.

Eğitim başında “Ön Test”, bitiminde “Son Test” uygulanarak gelişim ölçümlenir. Değerlendirme formunu dolduran katılımcılar sertifikalarını alır. Sertifikanızın geçerliliğini Sertifika Sorgulama sayfasından doğrulayabilirsiniz.

Örnek Sertifika

BÜYÜK DİL MODELLERİ İLE ÇALIŞMA EĞİTİMİ

Eğitim Hakkında

Neden Bu Eğitim?

Ön Koşullar

Eğitim İçeriği

LLM'ler Nasıl Çalışır?

Model Ekosistemi ve Seçim Ölçütleri

API ve SDK ile Çalışma

Uygulama Geliştirici için İstem Tasarımı

Yapılandırılmış Çıktı ve Veri Çıkarımı

Araç Çağırma (Function Calling)

Belgeyle Çalışma ve Çerçeveler

Açık Modelleri Yerelde Çalıştırma

LLM Çıktılarının Değerlendirilmesi

Güvenlik ve Sorumlu Kullanım

Gözlemlenebilirlik, Maliyet ve Performans

Uçtan Uca LLM Projesi ve Kapanış

Eğitim Kazanımları

Kimler İçin Uygundur?

Sıkça Sorulan Sorular

Sertifikalandırma

Eğitim Bilgileri

Benzer Programlar

Yapay Zeka Güvenliğine Giriş Eğitimi

Yapay Zeka Kurumsal Strateji Yönetimi Eğitimi

Yapay Zeka Küresel Yönetişim Çerçeveleri Eğitimi