DATA LAKE FRAMEWORK & DESIGN IMPLEMENTATION EĞİTİMİ

Metaveri güdümlü veri gölü çerçevesini elinizle kurun

Yapılandırma ve metaveri güdümlü ingest çerçevesi, katman dönüşümleri ve bulut üzerinde uçtan uca uygulama

Metaveri güdümlü bir veri gölü ingest çerçevesini Delta Lake ve Airflow ile sıfırdan tasarlayıp uygulamayı öğreten ileri eğitim.

3 gün İleri Seviye Online / Yüz Yüze / Hibrit Sertifikalı

Eğitim Hakkında

Veri gölü çerçevesini sıfırdan tasarlayıp uygulamaya dönük program

Bu eğitim, yeniden kullanılabilir ve metaveri güdümlü bir veri gölü çerçevesini tasarlayıp uygulama becerisi kazandırır. Dizin ve bölge (landing/raw/curated) düzeni, dosya adlandırma ve bölümleme, yapılandırma (config) ve metaveri güdümlü ingest motoru, şema kaydı ve evrim ele alınır. Delta Lake ile katman dönüşümleri, idempotent yükleme, hata ve karantina yönetimi, orkestrasyon (Airflow), CI/CD ve altyapı kodu işlenir. Katılımcı; birden çok kaynağı parametrik olarak yükleyen çalışan bir çerçeve kurar.

Süre ve Format

3 Gün. Her gün dört modül; çerçeve tasarımı, ingest motoru ve orkestrasyon/operasyon üzerine uygulama.

Seviye

İleri Seviye — metaveri güdümlü veri gölü çerçevesi tasarımı, yükleme hatları ve bulut üzerinde uygulama

Öğrenme Metodu

Bulut nesne depolama ve Spark/Delta ile config güdümlü bir ingest çerçevesi kodlanarak uygulama yapılır.

Neden Bu Eğitim?

⚙️Yeniden Kullanım

Metaveri güdümlü çerçeveyle her yeni kaynağı kod yazmadan ekleyebilirsiniz.

🧱Standart Yapı

Bölge ve katman standardıyla tutarlı, bakımı kolay bir göl kurarsınız.

🔁Güvenilir Yükleme

İdempotent ve karantinalı yüklemeyle veri kaybı ve çift kaydı önlersiniz.

Anahtar Konular

veri gölü çerçevesidata lake frameworkmetaveri güdümlüdelta lakeingestsparkairflowmedallionveri mühendisliğici/cd
“İyi bir çerçeve, her yeni kaynağı bir ayara indirger.”

Ön Koşullar

Eğitimden verim almak için faydalı olacak bilgi ve ortam gereksinimleri

1
Python/Spark

PySpark veya Spark ile temel deneyim gerekir.

2
Bulut temeli

Nesne depolama ve bulut hizmetlerine aşinalık önerilir.

3
SQL ve Parquet

SQL ve kolon formatlarına aşinalık faydalıdır.

4
Ortam

Spark/Delta çalıştırılabilen bir bulut veya yerel ortam gerekir.

Eğitim İçeriği

Programın gün gün akışı aşağıdadır. Bir güne tıklayarak o günün modüllerini ve içeriklerini görebilirsiniz.

Günün hedefiKatılımcı veri gölü bölge düzenini ve metaveri modelini tasarlar.
Modül 1
Bölge Düzeni
  • Landing/raw/curated/serve bölgeleri
  • Dizin ve isimlendirme standardı
  • Tarih bazlı bölümleme düzeni
  • Kaynak ve varlık organizasyonu
  • Değişmez (immutable) raw ilkesi
  • Erişim ve izin bölgeleme
Modül 2
Metaveri Modeli
  • Kaynak ve varlık kayıt şeması
  • Yükleme tipi (full/incremental) alanı
  • Şema ve sütun tanımları
  • Yükleme konfigürasyonu (config)
  • Metaveri deposu (tablo/dosya)
  • Config güdümlü akış fikri
Modül 3
Şema Yönetimi
  • Şema kaydı (registry)
  • Şema çıkarımı ve doğrulama
  • Şema evrimi politikası
  • Tip eşleme (mapping)
  • Geriye uyumluluk
  • Şema değişiklik onayı
Modül 4
Dosya ve Format
  • Parquet/Delta seçimi
  • Dosya boyutu hedefleme
  • Küçük dosya önleme
  • Sıkıştırma ayarı
  • Bölümleme kolonu seçimi
  • Katalog tablo kaydı
Günün hedefiKatılımcı metaveri güdümlü ingest motorunu ve dönüşümleri kodlar.
Modül 1
Ingest Motoru
  • Config'ten kaynak okuma
  • Parametrik yükleyici tasarımı
  • Full ve incremental yükleme
  • Watermark ve son yükleme takibi
  • Çoklu kaynak döngüsü
  • Yeniden kullanılabilir modüller
Modül 2
Katman Dönüşümleri
  • Raw'dan curated'a dönüşüm
  • Temizleme ve standartlaştırma
  • Delta MERGE ile upsert
  • İdempotent yazma deseni
  • SCD (yavaş değişen boyut) işleme
  • Gold katman özetleri
Modül 3
Hata ve Kalite
  • Şema doğrulama kapısı
  • Kayıt düzeyi doğrulama
  • Karantina (quarantine) bölgesi
  • Hata log ve metrik
  • Yeniden işleme (reprocessing)
  • Kalite eşiği ve durdurma
Modül 4
Değişmezlik ve Sürüm
  • Raw değişmezliği koruma
  • Delta time travel
  • Vacuum ve saklama
  • Yeniden üretilebilir yükleme
  • Denetim ve izleme kolonları
  • Audit tablosu
Günün hedefiKatılımcı çerçeveyi orkestre eder ve operasyonel hale getirir.
Modül 1
Orkestrasyon
  • Airflow DAG tasarımı
  • Config güdümlü görev üretimi
  • Bağımlılık ve sıralama
  • Yeniden deneme ve SLA
  • Zamanlama ve tetikleme
  • Parametre geçişi
Modül 2
CI/CD ve IaC
  • Depo yapısı ve sürümleme
  • Birim ve veri testleri
  • Altyapı kodu (Terraform)
  • Ortam ayrımı (dev/stage/prod)
  • Dağıtım hattı
  • Config değişiklik yönetimi
Modül 3
İzleme ve Operasyon
  • Yükleme metrikleri ve pano
  • Veri kalitesi alarmı
  • Gecikme ve tazelik izleme
  • Maliyet izleme
  • Olay müdahalesi
  • Runbook ve dokümantasyon
Modül 4
Ölçekleme
  • Yeni kaynak ekleme süreci
  • Partition ve compaction bakımı
  • Performans ayarlama
  • Eşzamanlı yükleme yönetimi
  • Çok takımlı kullanım
  • Çerçeve yol haritası

Eğitim Kazanımları

Program sonunda katılımcılar:

✅
Bölge Düzeni

Standart bölge ve katman düzeni tasarlayabilirsiniz.

✅
Metaveri Model

Config/metaveri güdümlü yükleme modeli kurabilirsiniz.

✅
Şema Yönetimi

Şema kaydı ve evrimini yönetebilirsiniz.

✅
Ingest Motoru

Parametrik, yeniden kullanılabilir ingest motoru kodlayabilirsiniz.

✅
Delta Dönüşüm

Delta MERGE ile idempotent katman dönüşümleri yazabilirsiniz.

✅
Hata Yönetimi

Karantina ve yeniden işleme ile kaliteyi koruyabilirsiniz.

✅
Orkestrasyon

Airflow ile config güdümlü hatları orkestre edebilirsiniz.

✅
Operasyon

İzleme, CI/CD ve IaC ile çerçeveyi işletebilirsiniz.

Kimler İçin Uygundur?

  • Veri mühendisleri
  • platform geliştiricileri
  • veri gölü uygulayacak teknik ekipler için uygundur

Sıkça Sorulan Sorular

Bu eğitim kimler için uygundur?
Veri mühendisleri, platform geliştiricileri ve veri gölü uygulayacak ekipler için uygundur.
Mimari eğitimi mi uygulama mı?
Bu eğitim uygulama odaklıdır; çalışan bir ingest çerçevesi kurulur.
Hangi teknolojiler kullanılır?
Spark/PySpark, Delta Lake, nesne depolama, Airflow ve Terraform kullanılır.
Spark bilmem gerekir mi?
Temel Spark/PySpark deneyimi gereklidir.
Sertifika veriliyor mu?
Eğitim sonunda Digital Vizyon Akademi Katılım ve Başarı Sertifikası verilir.

Sertifikalandırma

Bu eğitim Digital Vizyon Akademi Başarı Sertifikası ile tamamlanır.

Eğitim başında “Ön Test”, bitiminde “Son Test” uygulanarak gelişim ölçümlenir. Değerlendirme formunu dolduran katılımcılar sertifikalarını alır. Sertifikanızın geçerliliğini Sertifika Sorgulama sayfasından doğrulayabilirsiniz.

Örnek Sertifika d Digital Vizyon AKADEMİ KATILIM SERTİFİKASI Bu sertifika [Katılımcı Adı Soyadı] adlı katılımcının aşağıdaki eğitim programını başarıyla tamamladığını belgeler. Data Lake Framework & Design Implementation Eğitimi Sertifika Kodu DV-2026XX00 Tarih 26.10.2026 Yetkili İmza DV AKADEMİ

Eğitim Bilgileri

Süre3 gün
Seviyeİleri Seviye
FormatOnline / Yüz Yüze / Hibrit
Sertifika✓ Var
Hemen Bilgi Al
İlgili Eğitimler

Bu Eğitimle Birlikte Tercih Edilenler

Veri Analizi ve İstatistikVeri Temelli Kararlar Alma Kamu Sektöründe Eğitimi
Veri ve Analitik Eğitimleri

Veri Temelli Kararlar Alma Kamu Sektöründe Eğitimi

3 günTemelOnline / Yüz Yüze / Hibrit

Kamu sektöründe veri temelli karar eğitimi: kanıta dayalı politika, performans göstergeleri, veri kalitesi, kıyaslama, etki değerlendirme, pano ve açık veri eti

Detayları Gör →
Veri Analizi ve İstatistikVeri Temizleme Eğitimi
Veri ve Analitik Eğitimleri

Veri Temizleme Eğitimi

2 günOrtaOnline / Yüz Yüze / Hibrit

Pandas ile eksik değer, yinelenen kayıt, aykırı değer ve biçim tutarsızlıklarını tespit edip gidermeyi ve tekrarlanabilir temizleme hattı kurmayı öğrenin.

Detayları Gör →
Veri Analizi ve İstatistikVeri ve Analitik - Temelden Başlayarak Eğitimi
Veri ve Analitik Eğitimleri

Veri ve Analitik - Temelden Başlayarak Eğitimi

3 günBaşlangıçOnline / Yüz Yüze / Hibrit

Veri türleri, betimsel istatistik, pivot tablolar ve temel SQL ile sıfırdan veri okuryazarlığı kazanmayı amaçlayan başlangıç seviyesi analitik eğitimi.

Detayları Gör →
Veri Analizi ve İstatistikVeri ve İşletme Analizinin Temelleri Eğitimi
Veri ve Analitik Eğitimleri

Veri ve İşletme Analizinin Temelleri Eğitimi

3 günTemelOnline / Yüz Yüze / Hibrit

Gereksinim toplama, BPMN süreç modelleme, paydaş analizi, KPI tanımlama ve veriye dayalı iş gerekçesiyle iş analizinin temellerini uygulamalı öğrenin.

Detayları Gör →
Veri Analizi ve İstatistikVeri Yönetimi ve Sektöre Uygun Veri Tekstilleri Eğitimi
Veri ve Analitik Eğitimleri

Veri Yönetimi ve Sektöre Uygun Veri Tekstilleri Eğitimi

3 günOrtaOnline / Yüz Yüze / Hibrit

Veri yönetişimi, MDM, veri sözlüğü, veri kalitesi, data fabric ve sektöre özgü veri modelleriyle veriyi kurumsal varlık olarak yönetmeyi öğrenin.

Detayları Gör →
+90 (501) 369 40 14 WhatsApp [email protected] LinkedIn