İnce Ayar Teknikleri Eğitimi | Digital Vizyon Akademi

Eğitim Hakkında

Bu eğitim, açık ağırlıklı büyük dil modellerini kuruma özgü görevler, terminoloji ve yanıt üslubuna uyarlamak isteyen yapay zeka ekipleri için tasarlanmış ileri düzey bir programdır. Katılımcılar ince ayar (fine-tuning) kararını doğru vermeyi, veri seti hazırlamayı, LoRA ve QLoRA ile eğitim yapmayı, tercih hizalamayı, değerlendirmeyi ve modeli servislemeyi uygular.

Neden Bu Eğitim?

Doğru Karar Çerçevesi. İstem tasarımı, RAG ve ince ayar arasında maliyet, veri ve bakım yükünü gözeterek gerekçeli seçim yapın.

Kısıtlı Donanımda Eğitim. LoRA ve QLoRA ile milyarlarca parametreli modelleri tek bir GPU üzerinde verimli biçimde özelleştirin.

Ölçülebilir İyileşme. Görev metrikleri, karşılaştırmalı değerlendirme ve unutma analiziyle ince ayarın gerçek katkısını kanıtlayın.

“İnce ayarın gücü büyük modelde değil, kurumun gerçek ihtiyacını yansıtan özenle hazırlanmış veride ve dürüst değerlendirmede saklıdır.”

Ön Koşullar

PyTorch Deneyimi — PyTorch ile model eğitmiş, kayıp, optimizasyon ve bellek kavramlarına hakim olmak.
Transformers Bilgisi — Hugging Face Transformers ile model yükleme, tokenizasyon ve çıkarım yapabilmek.
LLM Kavramları — Token, bağlam penceresi, istem yapısı ve dil modeli çıktı değerlendirmesine aşinalık.
GPU Erişimi — En az 24 GB belleğe sahip bir GPU veya eğitim için sağlanan bulut GPU ortamına erişim.

Eğitim İçeriği

Programın gün gün akışı aşağıdadır. Bir güne tıklayarak o günün modüllerini ve içeriklerini görebilirsiniz.

Günün hedefiİnce ayarın ne zaman gerekli olduğunu belirlemek, yüksek kaliteli talimat veri seti hazırlamak ve parametre verimli ince ayar yöntemlerinin çalışma mantığını kavramak.

Modül 1

İnce Ayar Ne Zaman ve Neden?

İstem tasarımı, RAG ve ince ayarın karşılaştırılması
Görev uzmanlaşması, üslup, format ve gecikme hedefleri
Ön eğitime devam, SFT ve tercih hizalaması ayrımı
Temel model seçimi: Llama, Mistral, Qwen, Gemma
Model lisansları, ticari kullanım ve veri gizliliği
Vaka: Ürün sınıflandırmada ince ayar ile RAG kıyası

Modül 2

Talimat Veri Seti Hazırlama

Talimat-yanıt ve çok turlu sohbet veri formatları
Sohbet şablonları (chat templates) ve özel tokenlar
Veri kalitesi: tutarlılık, çeşitlilik ve tekrar temizliği
Büyük modelle sentetik veri üretimi ve filtreleme
Kişisel veri temizliği ve KVKK uyumlu veri süreci
Laboratuvar: Destek kayıtlarından SFT veri seti oluşturma

Modül 3

Tam İnce Ayar ve Bellek Hesabı

Parametre, gradyan ve optimizer durumu bellek kalemleri
bf16 karma hassasiyet ve gradyan kontrol noktaları
Felaket unutma (catastrophic forgetting) riski
Öğrenme oranı, ısınma ve epoch sayısının etkisi
Tam ince ayarın maliyeti ve hangi durumda anlamlı olduğu
Uygulama: 7B model için GPU bellek ihtiyacı hesabı

Modül 4

Parametre Verimli İnce Ayar (PEFT)

Düşük sıralı adaptasyon (LoRA): matematiksel sezgi
Rank, alpha, dropout ve hedef modül seçimi
QLoRA: 4-bit NF4 niceleme ve bitsandbytes
DoRA ve diğer adaptör yöntemlerine genel bakış
Hugging Face PEFT kütüphanesiyle adaptör ekleme
Laboratuvar: Küçük modelde LoRA ile ilk eğitim denemesi

Günün hedefiQLoRA ile gözetimli ince ayar yapmak, eğitim sürecini izleyip hiperparametreleri ayarlamak, dağıtık eğitim seçeneklerini kullanmak ve modeli çok yönlü değerlendirmek.

Modül 1

TRL ile Gözetimli İnce Ayar

SFTTrainer yapılandırması ve veri toplama (collator)
Yalnızca yanıt tokenları üzerinde kayıp hesaplama
Paketleme (packing) ve dizi uzunluğu yönetimi
Unsloth ve Axolotl ile hızlandırılmış eğitim
Kontrol noktası kaydetme ve eğitimi sürdürme
Laboratuvar: QLoRA ile 7B modele Türkçe görev ince ayarı

Modül 2

Eğitim Takibi ve Hiperparametreler

Weights & Biases ve MLflow ile deney takibi
Eğitim ve doğrulama kaybı eğrilerinin yorumlanması
Aşırı öğrenme, ezberleme ve format bozulması belirtileri
LoRA rank ve öğrenme oranı tarama deneyleri
Veri miktarı ve kalitesinin sonuca etkisi
Laboratuvar: Hiperparametre deneylerinin karşılaştırılması

Modül 3

Çoklu GPU ve Dağıtık Eğitim

Veri paralelliği ve Hugging Face Accelerate
DeepSpeed ZeRO aşamaları ve bellek kazanımları
PyTorch FSDP ile model ve durum parçalama
Bulut GPU seçimi, maliyet ve eğitim süresi tahmini
Yönetilen servisler: Azure AI Foundry, Bedrock, Vertex AI
Demo: Accelerate ile çoklu GPU eğitim yapılandırması

Modül 4

İnce Ayarlı Modelin Değerlendirilmesi

Göreve özgü test seti ve temel modelle kıyaslama
lm-evaluation-harness ile genel yetenek kontrolü
LLM-as-a-judge ile ikili karşılaştırma değerlendirmesi
Unutma, güvenlik ve yanlılık regresyon testleri
Laboratuvar: Temel ve ince ayarlı modelin kıyaslanması
Günün değerlendirmesi ve hizalama gününe köprü

Günün hedefiİnsan tercihleriyle model hizalama yöntemlerini uygulamak, adaptörleri birleştirip nicelemek, verimli servisleme mimarisi kurmak ve uçtan uca ince ayar projesini sunmak.

Modül 1

Tercih Hizalaması Yöntemleri

RLHF: ödül modeli ve PPO tabanlı hizalama süreci
Doğrudan tercih optimizasyonu (DPO) ve avantajları
ORPO, KTO ve GRPO yaklaşımlarına genel bakış
Tercih veri seti: seçilen ve reddedilen yanıt çiftleri
TRL DPOTrainer yapılandırması ve beta parametresi
Laboratuvar: DPO ile yanıt üslubu ve güvenlik hizalaması

Modül 2

Birleştirme, Niceleme ve Dışa Aktarım

LoRA adaptörünü temel modelle birleştirme
mergekit ile model birleştirme tekniklerine bakış
AWQ ve GPTQ ile çıkarım için niceleme
GGUF formatı ve llama.cpp ile yerel çalıştırma
Nicelemenin kaliteye etkisinin ölçülmesi
Laboratuvar: Birleştirilmiş modelin nicelenmesi

Modül 3

Servisleme ve Model Yaşam Döngüsü

vLLM ile yüksek verimli servisleme ve çoklu LoRA
OpenAI uyumlu API ile uygulamalara entegrasyon
Model kartı, veri kaynağı ve sürüm dokümantasyonu
Üretimde kalite izleme ve yeniden eğitim tetikleyicileri
EU AI Act açısından model değişikliği ve sorumluluk
Demo: Çoklu adaptörle departmana özel model servisi

Modül 4

Uçtan Uca İnce Ayar Projesi ve Kapanış

Grup projesi: veri, eğitim, değerlendirme ve servis planı
Proje sunumları ve önce-sonra metrik karşılaştırmaları
Kurumsal model özelleştirme yol haritası çalışması
Eğitim değerlendirmesi ve interaktif Soru-Cevap
Sertifika takdimi ve laboratuvar kodlarının teslimi
İleri öğrenme kaynakları ve kapanış oturumu

Eğitim Kazanımları

Strateji Kararı — İstem tasarımı, RAG ve ince ayar seçenekleri arasında maliyet ve faydayı gerekçelendirerek karar verebileceksiniz.
Veri Seti Tasarımı — Sohbet şablonuna uygun, temizlenmiş ve kişisel veriden arındırılmış talimat veri setleri hazırlayabileceksiniz.
Kaynak Planlama — Model boyutu ve yönteme göre GPU bellek, süre ve maliyet ihtiyacını önceden hesaplayabileceksiniz.
LoRA ve QLoRA — PEFT, TRL ve bitsandbytes ile büyük modellere tek GPU üzerinde verimli ince ayar uygulayabileceksiniz.
Deney Yönetimi — Kayıp eğrileri ve hiperparametre taramalarıyla eğitim sürecini izleyip sorunları erken teşhis edebileceksiniz.
Tercih Hizalaması — DPO ve benzeri yöntemlerle modelin yanıt üslubunu ve güvenlik davranışını kurum tercihlerine hizalayacaksınız.
Kapsamlı Değerlendirme — Görev metrikleri, genel yetenek testleri ve unutma analiziyle ince ayarın etkisini nesnel biçimde ölçebileceksiniz.
Servisleme — Adaptör birleştirme, niceleme ve vLLM ile özelleştirilmiş modelleri üretim ortamında servisleyebileceksiniz.

Kimler İçin Uygundur?

Makine öğrenmesi ve yapay zeka mühendisleri
veri bilimciler
MLOps uzmanları ve kurum içinde açık kaynak dil modellerini özelleştirecek araştırma ve geliştirme ekipleri.

Sıkça Sorulan Sorular

İnce Ayar Teknikleri Eğitimi kimler için uygundur?

Program; açık ağırlıklı dil modellerini kuruma özgü görevler için özelleştirecek makine öğrenmesi ve yapay zeka mühendisleri, veri bilimciler, MLOps uzmanları ve Ar-Ge ekipleri için tasarlanmıştır.

Ne zaman ince ayar, ne zaman RAG tercih edilmelidir?

Sık değişen bilgiye erişim ve kaynak gösterme gerekiyorsa RAG daha uygundur. Belirli bir çıktı formatı, üslup, terminoloji veya görev becerisinin tutarlı biçimde öğretilmesi gerekiyorsa ince ayar öne çıkar; iki yaklaşım birlikte de kullanılabilir.

Eğitim ne kadar sürer ve hangi konuları kapsar?

Eğitim 3 tam gün ve 12 modülden oluşur. İlk gün strateji, veri hazırlığı ve PEFT temelleri, ikinci gün TRL ile SFT, dağıtık eğitim ve değerlendirme, üçüncü gün DPO ile hizalama, niceleme, servisleme ve proje işlenir.

Laboratuvarlar için nasıl bir donanım gerekiyor?

QLoRA laboratuvarları en az 24 GB belleğe sahip tek bir GPU ile yürütülebilir. Katılımcıların yeterli donanımı yoksa eğitim süresince bulut GPU ortamı sağlanabilir; çoklu GPU konuları demo olarak gösterilir.

Hangi araçlar kullanılıyor ve sertifika veriliyor mu?

Hugging Face Transformers, PEFT, TRL, bitsandbytes, Accelerate, DeepSpeed, Unsloth, lm-evaluation-harness, mergekit, llama.cpp ve vLLM kullanılır. Programı tamamlayan katılımcılar Digital Vizyon Akademi sertifikası alır.

Sertifikalandırma

Bu eğitim Katılım Sertifikası ile tamamlanır.

Eğitim başında “Ön Test”, bitiminde “Son Test” uygulanarak gelişim ölçümlenir. Değerlendirme formunu dolduran katılımcılar sertifikalarını alır. Sertifikanızın geçerliliğini Sertifika Sorgulama sayfasından doğrulayabilirsiniz.

Örnek Sertifika

İNCE AYAR TEKNİKLERİ EĞİTİMİ

Eğitim Hakkında

Neden Bu Eğitim?

Ön Koşullar

Eğitim İçeriği

İnce Ayar Ne Zaman ve Neden?

Talimat Veri Seti Hazırlama

Tam İnce Ayar ve Bellek Hesabı

Parametre Verimli İnce Ayar (PEFT)

TRL ile Gözetimli İnce Ayar

Eğitim Takibi ve Hiperparametreler

Çoklu GPU ve Dağıtık Eğitim

İnce Ayarlı Modelin Değerlendirilmesi

Tercih Hizalaması Yöntemleri

Birleştirme, Niceleme ve Dışa Aktarım

Servisleme ve Model Yaşam Döngüsü

Uçtan Uca İnce Ayar Projesi ve Kapanış

Eğitim Kazanımları

Kimler İçin Uygundur?

Sıkça Sorulan Sorular

Sertifikalandırma

Eğitim Bilgileri

Benzer Programlar

Yapay Zeka Güvenliğine Giriş Eğitimi

Yapay Zeka Kurumsal Strateji Yönetimi Eğitimi

Yapay Zeka Küresel Yönetişim Çerçeveleri Eğitimi