DATA PROCESSING AND STORAGE EĞİTİMİ

Veriyi işleyin, doğru katmanda depolayın

Batch ve stream işleme, ETL/ELT, Spark, Kafka ve lakehouse ile uçtan uca veri işleme

Data Processing and Storage Eğitimi, büyük veriyi uçtan uca işlemeyi ve uygun katmanda depolamayı öğretir. Batch ve stream işleme, ETL/ELT süreçleri ve veri kalitesiyle başlanır; Apache Spark ile dağıtık işleme, Apache Kafka ile mesajlaşma ve stream motorları…

3 gün Orta Seviye Online / Yüz Yüze / Hibrit Sertifikalı

Eğitim Hakkında

Toplu ve akış işlemeden ETL pipeline'larına; dağıtık depolama katmanları ve lakehouse

Data Processing and Storage Eğitimi, büyük veriyi uçtan uca işlemeyi ve uygun katmanda depolamayı öğretir. Katılımcılar batch ve stream işleme paradigmalarını, ETL/ELT süreçlerini ve veri kalitesini uygular. Apache Spark ile dağıtık toplu işleme, Apache Kafka ile mesajlaşma ve stream processing motorları işlenir. Lambda ve Kappa mimarileri, hot/warm/cold depolama katmanları, data lake, warehouse ve lakehouse ile veri yönetişimi ve orkestrasyon uygulamalı ele alınır.

Süre ve Format

3 Gün. Her gün dört modül; toplu işleme ve ETL'den akış işleme ve mesajlaşmaya, oradan depolama katmanları ve lakehouse mimarisine ilerlenir.

Seviye

Orta Seviye — Toplu ve akış veri işleme (batch/stream), ETL/ELT, Spark, Kafka ile dağıtık depolama katmanları

Öğrenme Metodu

Her konu Spark, Kafka ve örnek pipeline'lar üzerinde canlı veri akışları ve dönüşüm örnekleriyle adım adım uygulanır.

Neden Bu Eğitim?

⚙️Batch ve stream

Toplu ve akış işlemeyi birlikte öğrenerek gecikme ve bütünlük gereksinimine göre doğru işleme modelini seçersiniz.

🔗Güvenilir pipeline

ETL/ELT süreçleriyle veri kalitesini koruyan, izlenebilir ve yeniden çalıştırılabilir veri boru hatları kurarsınız.

🏞️Katmanlı depolama

Data lake, warehouse ve lakehouse katmanlarını kurgulayarak maliyet ve performansı dengeli depolama tasarlarsınız.

Anahtar Konular

veri işleme eğitimidata processing kursuapache spark eğitimikafka eğitimietl eltstream işlemedata lakelakehousebüyük veri eğitimidepolama katmanları
“Veri işleme ve depolama birlikte tasarlandığında, ham veriyi güvenilir biçimde değere dönüştüren bir platform ortaya çıkar.”

Ön Koşullar

Eğitimden verim almak için faydalı olacak temel bilgi ve deneyimler

1
SQL ve veri bilgisi

Temel SQL ve ilişkisel veri kavramlarına aşinalık pipeline ve dönüşüm örneklerini takip etmeyi kolaylaştırır.

2
Programlama temeli

Python veya benzeri bir dilde temel programlama deneyimi Spark örnekleri için faydalıdır.

3
Linux komut satırı

Dosya, dizin ve komut çalıştırma düzeyinde temel komut satırı aşinalığı yeterlidir.

4
Dağıtık sistem fikri

Küme, düğüm ve paralel işleme gibi kavramlara genel aşinalık öğrenmeyi destekler.

Eğitim İçeriği

Programın gün gün akışı aşağıdadır. Bir güne tıklayarak o günün modüllerini ve içeriklerini görebilirsiniz.

Günün hedefiKatılımcı veri işleme paradigmalarını kavrar, ETL ve ELT süreçlerini tasarlar, Hadoop ve Spark mimarisini anlar ve Spark ile toplu veri işleme yapar.
Modül 1
Veri İşleme Paradigmaları
  • Batch (toplu) ve stream (akış) işleme karşılaştırması
  • OLTP ve OLAP iş yüklerinin temel farkları
  • Veri pipeline (boru hattı) kavramı ve aşamaları
  • Gecikme (latency) ve verim (throughput) dengesi
  • Veri hacmi, hızı ve çeşitliliği (3V) etkisi
  • İşleme modeline göre teknoloji seçimi kriterleri
Modül 2
ETL ve ELT Süreçleri
  • Extract, transform ve load aşamalarının tanımı
  • ETL ile ELT arasındaki temel fark ve kullanım
  • Staging alanı ve ara katman tasarımı
  • Veri temizleme, standartlaştırma ve eşleme
  • Veri kalitesi denetimi ve doğrulama kuralları
  • Incremental (artımlı) yükleme ve CDC yaklaşımı
Modül 3
Dağıtık Toplu İşleme
  • Hadoop ekosistemi ve HDFS dosya sistemi
  • MapReduce işleme modeli ve sınırlamaları
  • Blok tabanlı dağıtık depolama ve replikasyon
  • YARN ile kaynak yönetimi ve iş zamanlama
  • Veri yerelliği (data locality) ve paralellik
  • Hadoop'tan Spark'a geçişin nedenleri
Modül 4
Apache Spark ile İşleme
  • Spark mimarisi: driver, executor ve cluster manager
  • RDD, DataFrame ve Dataset soyutlamaları
  • Transformation ve action lazy değerlendirme
  • Spark SQL ile yapılandırılmış veri sorgulama
  • Partitioning, shuffle ve bellek yönetimi
  • Catalyst optimizer ile sorgu optimizasyonu
Günün hedefiKatılımcı akış işleme kavramlarını kavrar, Apache Kafka ile mesajlaşmayı kurar, stream motorlarını kullanır ve Lambda/Kappa mimarilerini karşılaştırır.
Modül 1
Akış İşleme Kavramları
  • Event stream ve sürekli veri akışı modeli
  • Tumbling, sliding ve session window türleri
  • Event time ile processing time ayrımı
  • At-least-once ve exactly-once teslim garantisi
  • Watermark ile geç gelen veri yönetimi
  • Düşük gecikmeli gerçek zamanlı analitik
Modül 2
Apache Kafka Mesajlaşma
  • Topic, partition ve offset kavramları
  • Producer ve consumer çalışma mantığı
  • Broker, cluster ve replikasyon faktörü
  • Consumer group ile paralel tüketim
  • Kafka Connect ile kaynak ve hedef entegrasyonu
  • Retention politikası ve log compaction
Modül 3
Stream Processing Motorları
  • Spark Structured Streaming micro-batch modeli
  • Apache Flink gerçek zamanlı akış işleme
  • Kafka Streams ile uygulama içi işleme
  • Stateful işleme ve durum (state) yönetimi
  • Checkpoint ve hata toleransı mekanizması
  • Stream-stream ve stream-table join işlemleri
Modül 4
Lambda ve Kappa Mimarileri
  • Lambda mimarisi: batch ve speed katmanları
  • Serving katmanı ve birleşik sorgu görünümü
  • Kappa mimarisi ile yalnızca akış yaklaşımı
  • İki mimarinin avantaj ve dezavantajları
  • Gerçek zamanlı gösterge paneli senaryoları
  • Mimari seçiminde gecikme ve bütünlük dengesi
Günün hedefiKatılımcı depolama katmanlarını kavrar, dağıtık dosya sistemleri ve object storage kullanır, lakehouse mimarisini tasarlar ve veri yönetişimini kurar.
Modül 1
Depolama Sistemleri ve Katmanlar
  • Block, file ve object storage temel farkları
  • Hot, warm ve cold depolama katmanları
  • Veri sıcaklığına göre maliyet optimizasyonu
  • Tiering ve yaşam döngüsü (lifecycle) politikaları
  • Dayanıklılık (durability) ve erişilebilirlik
  • İş yüküne göre depolama katmanı seçimi
Modül 2
Dağıtık Dosya Sistemi ve Object Storage
  • HDFS mimarisi: NameNode ve DataNode
  • S3 uyumlu object storage ve bucket yapısı
  • Parquet ve ORC columnar dosya formatları
  • Avro ve satır bazlı formatların kullanımı
  • Dosya düzeni (layout) ve partition dizini
  • Küçük dosya problemi ve sıkıştırma stratejisi
Modül 3
Data Lake, Warehouse ve Lakehouse
  • Data lake ile data warehouse ayrımı
  • Schema-on-read ve schema-on-write farkı
  • Lakehouse mimarisi ve birleşik yaklaşım
  • Delta Lake ile ACID işlem desteği
  • Şema evrimi (schema evolution) ve time travel
  • Medallion (bronze/silver/gold) katman deseni
Modül 4
Veri Yönetişimi ve Orkestrasyon
  • Veri soy ağacı (lineage) ve etki analizi
  • Veri kataloğu ve metadata yönetimi
  • Apache Airflow ile pipeline orkestrasyonu
  • DAG ile bağımlılık ve zamanlama tanımı
  • İzleme, uyarı ve pipeline gözlemlenebilirliği
  • Veri kalitesi, erişim ve uyumluluk denetimi

Eğitim Kazanımları

Program sonunda katılımcılar:

✅
İşleme modeli

Batch ve stream işleme arasındaki farkı kavrar, gecikme ve bütünlük gereksinimine göre doğru işleme modelini seçersiniz.

✅
ETL ve ELT

Extract, transform ve load aşamalarını tasarlar, veri kalitesini koruyan ve artımlı çalışan boru hatları kurarsınız.

✅
Spark işleme

Spark mimarisini kavrar, DataFrame ve Spark SQL ile dağıtık toplu işleme yapar ve shuffle ile bellek yönetimini uygularsınız.

✅
Kafka mesajlaşma

Topic, partition ve consumer group kavramlarıyla Kafka üzerinde güvenilir mesajlaşma ve veri entegrasyonu kurarsınız.

✅
Akış işleme

Windowing, event time ve exactly-once garantisiyle gerçek zamanlı akış işleme uygulamaları tasarlarsınız.

✅
Mimari seçimi

Lambda ve Kappa mimarilerini karşılaştırır, senaryoya göre batch, stream veya hibrit mimari kararı verirsiniz.

✅
Depolama katmanı

Block, file ve object storage ile hot/warm/cold katmanları kurgulayarak maliyet ve performansı dengelersiniz.

✅
Lakehouse

Data lake, warehouse ve lakehouse ayrımını kavrar, Delta Lake ve medallion deseniyle güvenilir veri platformu kurarsınız.

Kimler İçin Uygundur?

  • Veri pipeline'ı kuran veri mühendisleri
  • büyük veri projelerinde çalışan yazılımcılar
  • ETL geliştiricileri
  • analitik ekipler
  • veri platformu tasarlayan mimarlar için uygundur

Sıkça Sorulan Sorular

Bu eğitim kimler için uygundur?
Eğitim; veri pipeline'ı kuran veri mühendisleri, büyük veri projelerinde çalışan yazılımcılar, ETL geliştiricileri, analitik ekipler ve veri platformu tasarlayan mimarlar için uygundur. Toplu ve akış işlemeyi bir arada öğrenmek isteyenlere hitap eder.
Eğitim için hangi ön bilgi gerekir?
Temel SQL ve ilişkisel veri kavramları, Python gibi bir dilde temel programlama ve komut satırı aşinalığı yeterlidir. Dağıtık sistem kavramlarına genel bir fikir faydalıdır; ileri düzey büyük veri deneyimi gerekmez.
Bu eğitim Data Modeling eğitiminden farkı nedir?
Data Modeling eğitimi veriyi nasıl modelleyeceğinize (ER, normalizasyon, boyutsal tasarım) odaklanır. Bu eğitim ise veriyi nasıl işleyeceğinize (batch/stream, ETL, Spark, Kafka) ve hangi katmanda depolayacağınıza odaklanır; ikisi birbirini tamamlar.
Hangi araçlar ve teknolojiler işleniyor?
Apache Spark, Apache Kafka, HDFS ve S3 uyumlu object storage, Parquet/ORC formatları, Delta Lake tarzı lakehouse yaklaşımı ve Airflow orkestrasyonu kavramsal ve uygulamalı olarak ele alınır. Araç seçimi kurumun platformuna göre uyarlanabilir.
Eğitim sonunda sertifika veriliyor mu?
Programı tamamlayan katılımcılar Digital Vizyon Akademi Katılım ve Başarı Sertifikası alır. Eğitim yüz yüze veya online verilebilir; içerik kurumun veri platformu ve iş yüklerine göre özelleştirilebilir.

Sertifikalandırma

Bu eğitim Digital Vizyon Akademi Başarı Sertifikası ile tamamlanır.

Eğitim başında “Ön Test”, bitiminde “Son Test” uygulanarak gelişim ölçümlenir. Değerlendirme formunu dolduran katılımcılar sertifikalarını alır. Sertifikanızın geçerliliğini Sertifika Sorgulama sayfasından doğrulayabilirsiniz.

Örnek Sertifika d Digital Vizyon AKADEMİ KATILIM SERTİFİKASI Bu sertifika [Katılımcı Adı Soyadı] adlı katılımcının aşağıdaki eğitim programını başarıyla tamamladığını belgeler. Data Processing and Storage Eğitimi Sertifika Kodu DV-2026XX00 Tarih 15.10.2026 Yetkili İmza DV AKADEMİ

Eğitim Bilgileri

Süre3 gün
SeviyeOrta Seviye
FormatOnline / Yüz Yüze / Hibrit
Sertifika✓ Var
Hemen Bilgi Al
İlgili Eğitimler

Bu Eğitimle Birlikte Tercih Edilenler

Depolama SistemleriNetApp ONTAP Eğitimi
Sanallaştırma ve Veri Merkezi Eğitimleri

NetApp ONTAP Eğitimi

3 günOrtaOnline / Yüz Yüze / Hibrit

NetApp ONTAP eğitimi: küme mimarisi, aggregate ve FlexVol hacimler, SVM, NFS/SMB ve iSCSI/FC protokolleri, verimlilik ve veri koruma uygulamalı olarak.

Detayları Gör →
Depolama SistemleriNetApp ONTAP Hardware Troubleshooting - Partners Only Eğitimi
Sanallaştırma ve Veri Merkezi Eğitimleri

NetApp ONTAP Hardware Troubleshooting - Partners Only Eğitimi

3 günOrtaOnline / Yüz Yüze / Hibrit

NetApp ONTAP donanım arıza giderme eğitimi: FAS/AFF tanılama, disk ve controller FRU değişimi, güç/soğutma, boot ve HA kurtarma, partner servis süreçleri.

Detayları Gör →
Depolama SistemleriNetApp ONTAP İleri Seviye Ağ Yönetimi Eğitimi
Sanallaştırma ve Veri Merkezi Eğitimleri

NetApp ONTAP İleri Seviye Ağ Yönetimi Eğitimi

3 günOrtaOnline / Yüz Yüze / Hibrit

NetApp ONTAP ileri ağ yönetimi eğitimi: port, VLAN, LACP ifgrp, broadcast domain, IPspace, subnet, LIF, failover ve QoS uygulamalı. Kurumsal ve online.

Detayları Gör →
Depolama SistemleriNetApp ONTAP Küme Yönetimi Eğitimi
Sanallaştırma ve Veri Merkezi Eğitimleri

NetApp ONTAP Küme Yönetimi Eğitimi

3 günOrtaOnline / Yüz Yüze / Hibrit

ONTAP küme yönetimi eğitimi: küme kurulumu, RBAC, ağ ve SVM yönetimi, HA storage failover, kesintisiz yükseltme ve REST API otomasyonu uygulamalı.

Detayları Gör →
Depolama SistemleriNetApp ONTAP NFS Yönetimi Eğitimi
Sanallaştırma ve Veri Merkezi Eğitimleri

NetApp ONTAP NFS Yönetimi Eğitimi

3 günOrtaOnline / Yüz Yüze / Hibrit

ONTAP NFS eğitimi: export politikaları, NFSv4 ve pNFS, LDAP/NIS kimlik eşleme, Kerberos güvenli NFS, çok protokollü erişim ve sorun giderme uygulamalı.

Detayları Gör →
Depolama SistemleriNetApp ONTAP Performance Administration Eğitimi
Sanallaştırma ve Veri Merkezi Eğitimleri

NetApp ONTAP Performance Administration Eğitimi

3 günOrtaOnline / Yüz Yüze / Hibrit

ONTAP performans eğitimi: latency, IOPS ve throughput analizi, Storage QoS, Active IQ Unified Manager, Harvest/Grafana, darboğaz tespiti ve kapasite planlama.

Detayları Gör →
+90 (501) 369 40 14 WhatsApp [email protected] LinkedIn