TECHNIQUES FOR BIG DATA ANALYTICS EĞİTİMİ

Terabaytlık veriyi ölçeklenebilir tekniklerle analize çevir

MapReduce ve Spark paradigmalarından örnekleme, sketch algoritmaları ve dağıtık makine öğrenmesine kadar büyük veri analitik tekniklerini derinlemesine inceleyin.

Veri tek makineyi aştığında kullanılan analitik tekniklerini öğreten ileri seviye eğitim: Spark DAG ve shuffle maliyeti, örnekleme, HyperLogLog ve Count-Min sketch, PCA ile boyut indirgeme ve MLlib ile ölçeklenebilir model eğitimi.

4 gün İleri Seviye Online / Yüz Yüze / Hibrit Sertifikalı

Eğitim Hakkında

Dağıtık işleme, yaklaşık algoritmalar ve ölçeklenebilir analitik

Bu ileri seviye eğitim, veri boyutu tek makineyi aştığında kullanılan analitik tekniklerini uygulamalı öğretir. MapReduce ve Spark DAG işleme modeli, veri bölümleme (partitioning) ve shuffle maliyeti, örnekleme (sampling) ve stratifikasyon, yaklaşık (approximate) algoritmalar (HyperLogLog, Count-Min Sketch, Bloom filter) işlenir. Ardından boyut indirgeme (PCA), özellik hashing, dağıtık kümeleme (k-means), Spark MLlib ile ölçeklenebilir model eğitimi, akan veri (streaming) üzerinde pencereli analitik ve sonuçların doğrulanması ele alınır. Katılımcı, büyük hacimli veriyi doğru teknikle özetleyip modelleyebilir.

Süre ve Format

4 Gün. Her gün dört modül; katılımcılar dağıtık işleme temelinden ölçeklenebilir modellemeye kadar ilerler.

Seviye

İleri Seviye — Büyük veri üzerinde dağıtık işleme, örnekleme, boyut indirgeme ve ölçeklenebilir analitik tekniklerinin uçtan uca ele alınması.

Öğrenme Metodu

Katılımcılar Spark üzerinde gerçek veri kümeleriyle örnekleme, sketch ve MLlib teknikerini uygulayarak sonuçları doğrular.

Neden Bu Eğitim?

📈Ölçeklenebilirlik

Veri tek makineye sığmadığında doğru işleme paradigmasını seçersiniz.

⚡Yaklaşık Hız

Sketch ve örnekleme ile devasa veride hızlı ve yeterli yanıt üretirsiniz.

🤖Dağıtık ML

Spark MLlib ile büyük veride ölçeklenebilir model eğitirsiniz.

Anahtar Konular

büyük veri analitiğibig data analyticsspark mllibhyperloglogcount-min sketchörneklemeboyut indirgemedağıtık işlemestructured streamingyaklaşık algoritma
“Büyük veride doğru soru kadar, doğru yaklaşıklık da bir yanıttır.”

Ön Koşullar

Eğitimden verim almak için faydalı olacak bilgi ve ortam gereksinimleri

1
Programlama

Python veya Scala ile temel programlama deneyimi beklenir.

2
İstatistik Temeli

Olasılık, dağılım ve örnekleme kavramlarına aşinalık faydalıdır.

3
Spark Farkındalığı

Spark/Hadoop ile temel tanışıklık avantaj sağlar.

4
Çalışma Ortamı

Spark erişimi olan bir ortam (yerel, küme veya bulut) ve Python/notebook.

Eğitim İçeriği

Programın gün gün akışı aşağıdadır. Bir güne tıklayarak o günün modüllerini ve içeriklerini görebilirsiniz.

Günün hedefiKatılımcı, büyük veri işleme modellerini ve shuffle/partition maliyetini analiz edebilir.
Modül 1
MapReduce Modeli
  • Map, shuffle ve reduce aşamalarının veri akışı
  • Combiner ile ağ trafiğinin azaltılması
  • Anahtar dağılımı ve data skew problemi
  • Toplama (aggregation) işlerinin MapReduce ifadesi
  • MapReduce'un dezavantajları ve disk I/O maliyeti
  • Map-only işler ve bölümleme etkisi
Modül 2
Spark İşleme Modeli
  • RDD/DataFrame ve lazy değerlendirme (lazy evaluation)
  • Transformation ve action ayrımı
  • DAG scheduler ile iş aşamalara (stage) bölme
  • Narrow ve wide dependency farkı
  • In-memory işleme ile MapReduce'a göre hızlanma
  • Catalyst optimizer ile sorgu planı iyileştirme
Modül 3
Bölümleme ve Shuffle
  • Partition sayısının paralelliğe etkisi
  • Shuffle'ın ağ ve disk maliyeti
  • repartition ve coalesce farkı
  • Hash ve range partitioning stratejileri
  • Veri çarpıklığının (skew) performansa etkisi
  • Salting ile skew azaltma tekniği
Modül 4
Önbellek ve Kaynak
  • cache/persist ile tekrar kullanılan verinin tutulması
  • Storage level seçimi (MEMORY_ONLY, MEMORY_AND_DISK)
  • Broadcast join ile küçük tabloların dağıtımı
  • Executor, core ve memory parametrelerinin ayarı
  • Spark UI ile stage ve task sürelerinin okunması
  • Garbage collection ve spill'in performansa etkisi
Günün hedefiKatılımcı, devasa veride kesin yerine yeterli doğrulukta hızlı yanıt üreten teknikleri uygular.
Modül 1
Örnekleme Teknikleri
  • Basit rastgele örnekleme ve hata payı
  • Stratified sampling ile grup dengeleme
  • Reservoir sampling ile akan veriden örnek
  • Örneklem boyutunun güven aralığına etkisi
  • sampleBy ile Spark'ta oransal örnekleme
  • Örnekleme kaynaklı yanlılığın (bias) kontrolü
Modül 2
Kardinalite Tahmini
  • Distinct count'un dağıtık maliyeti
  • HyperLogLog ile yaklaşık benzersiz sayım
  • approx_count_distinct fonksiyonunun kullanımı
  • Hata oranı (RSD) ve bellek dengesi
  • HLL sketch'lerinin birleştirilebilirliği (mergeable)
  • Büyük ölçekli benzersiz kullanıcı sayımı örneği
Modül 3
Frekans ve Üyelik
  • Count-Min Sketch ile frekans tahmini
  • Bloom filter ile üyelik testi ve false positive
  • Top-K sık öğelerin (heavy hitters) bulunması
  • Sketch'lerin bellek/doğruluk dengesi
  • Akan veride kayan pencere frekansı
  • Olasılıksal yapıların hata garantileri
Modül 4
Yaklaşık Quantile
  • Büyük veride percentile hesabının zorluğu
  • approxQuantile ile t-digest tabanlı tahmin
  • Hata toleransı parametresinin ayarı
  • Medyan ve çeyreklerin dağıtık tahmini
  • Histogram ve yoğunluk tahmini
  • Yaklaşık sonuçların iş kararına uygunluğu
Günün hedefiKatılımcı, yüksek boyutlu büyük veride özellik üretimi ve boyut indirgemeyi ölçeklenebilir yapar.
Modül 1
Ölçeklenebilir Ön İşleme
  • VectorAssembler ile özellik vektörü oluşturma
  • StandardScaler ve MinMaxScaler ile ölçekleme
  • StringIndexer ve OneHotEncoder ile kategorik kodlama
  • Imputer ile eksik değer doldurma
  • Pipeline ile dönüşüm adımlarının zincirlenmesi
  • Eğitim-test ayrımında veri sızıntısının önlenmesi
Modül 2
Özellik Hashing
  • Yüksek kardinaliteli kategoriklerde hashing trick
  • HashingTF ile metinden özellik üretimi
  • Hash çakışmalarının (collision) etkisi
  • Bellek sabit özellik uzayı avantajı
  • TF-IDF ile terim ağırlıklandırma
  • Seyrek (sparse) vektör gösterimi
Modül 3
Boyut İndirgeme
  • Boyut lanetinin (curse of dimensionality) etkisi
  • PCA ile temel bileşenlere izdüşüm
  • Açıklanan varyans oranıyla bileşen seçimi
  • SVD ile matris ayrıştırma
  • Spark ML PCA'nın dağıtık hesabı
  • İndirgeme sonrası model performansının izlenmesi
Modül 4
Korelasyon ve Seçim
  • Dağıtık korelasyon matrisi hesabı
  • ChiSqSelector ile özellik seçimi
  • Çoklu doğrusallık (multicollinearity) tespiti
  • Varyansı düşük özelliklerin elenmesi
  • Özellik önem skorlarının yorumu
  • Seçim sonrası eğitim maliyetinin azalması
Günün hedefiKatılımcı, Spark MLlib ile ölçeklenebilir model eğitir ve akan veride pencereli analitik yapar.
Modül 1
Dağıtık Kümeleme
  • k-means|| ile ölçeklenebilir k-means başlatma
  • Küme sayısının elbow ve silhouette ile seçimi
  • Bisecting k-means ile hiyerarşik yaklaşım
  • GaussianMixture ile olasılıksal kümeleme
  • Büyük veride kümeleme maliyetinin yönetimi
  • Küme sonuçlarının yorumlanması
Modül 2
Ölçeklenebilir ML
  • Lojistik regresyon ve lineer modellerin dağıtık eğitimi
  • Random forest ve GBT ile ağaç tabanlı modeller
  • CrossValidator ile hiperparametre arama
  • Model değerlendirme metrikleri (AUC, F1)
  • Model kaydetme ve yeniden yükleme
  • Eğitim süresinin partition sayısıyla ilişkisi
Modül 3
Akan Veri Analitiği
  • Structured Streaming ile mikro-batch işleme
  • Event time ve processing time ayrımı
  • Tumbling ve sliding pencere toplama
  • Watermark ile geç gelen veri yönetimi
  • Durumlu (stateful) toplama işlemleri
  • Kafka kaynağından akış tüketimi
Modül 4
Doğrulama ve Üretim
  • A/B testiyle model etkisinin ölçülmesi
  • Veri ve model kaymasının (drift) izlenmesi
  • Yaklaşık sonuçların kesin sonuçla karşılaştırılması
  • Pipeline'ın tekrarlanabilirliği ve sürümleme
  • Kaynak maliyeti ve doğruluk dengesinin raporlanması
  • Sonuçların iş paydaşlarına sunumu

Eğitim Kazanımları

Program sonunda katılımcılar:

✅
İşleme Modeli

MapReduce ve Spark paradigmalarını maliyetleriyle karşılaştırırsınız.

✅
Shuffle Yönetimi

Bölümleme ve skew'i yöneterek dağıtık işleri hızlandırırsınız.

✅
Örnekleme

Stratified ve reservoir örneklemeyle veriyi temsil edersiniz.

✅
Sketch Algoritmaları

HyperLogLog ve Count-Min ile yaklaşık ama hızlı yanıt üretirsiniz.

✅
Boyut İndirgeme

PCA ve özellik hashing ile yüksek boyutu yönetirsiniz.

✅
Dağıtık ML

Spark MLlib ile ölçeklenebilir model eğitir ve ayarlarsınız.

✅
Akan Analitik

Structured Streaming ile pencereli ve durumlu analiz yaparsınız.

✅
Doğrulama

Yaklaşık sonuçların doğruluğunu ve drift'i izlersiniz.

Kimler İçin Uygundur?

  • Veri bilimciler
  • veri mühendisleri
  • büyük ölçekli veri analitiği yapan analistler
  • dağıtık sistemlerde performanslı analiz tasarlamak isteyenler için uygundur

Sıkça Sorulan Sorular

Bu eğitim kimler için uygundur?
Veri bilimciler, veri mühendisleri ve büyük ölçekli veride performanslı analiz tasarlamak isteyen analistler için uygundur.
Hangi dili kullanacağız?
Uygulamalar ağırlıklı Python (PySpark) üzerinden yürür; kavramlar Scala API'sine de taşınabilir.
Yaklaşık algoritmalar neden kullanılır?
Devasa veride kesin sonuç pahalı olabilir; HyperLogLog gibi sketch'ler sınırlı bellekle hata garantisi vererek hızlı yanıt üretir.
Spark deneyimi şart mı?
Temel Spark tanışıklığı avantajdır; eğitim işleme modelini ve ölçeklenebilir teknikleri uygulamalı pekiştirir.
Eğitim sonunda sertifika veriliyor mu?
Katılım ve değerlendirme sonrası Digital Vizyon Akademi Katılım ve Başarı Sertifikası verilir.

Sertifikalandırma

Bu eğitim Digital Vizyon Akademi Başarı Sertifikası ile tamamlanır.

Eğitim başında “Ön Test”, bitiminde “Son Test” uygulanarak gelişim ölçümlenir. Değerlendirme formunu dolduran katılımcılar sertifikalarını alır. Sertifikanızın geçerliliğini Sertifika Sorgulama sayfasından doğrulayabilirsiniz.

Örnek Sertifika d Digital Vizyon AKADEMİ KATILIM SERTİFİKASI Bu sertifika [Katılımcı Adı Soyadı] adlı katılımcının aşağıdaki eğitim programını başarıyla tamamladığını belgeler. Techniques for Big Data Analytics Eğitimi Sertifika Kodu DV-2026XX00 Tarih 26.10.2026 Yetkili İmza DV AKADEMİ

Eğitim Bilgileri

Süre4 gün
Seviyeİleri Seviye
FormatOnline / Yüz Yüze / Hibrit
Sertifika✓ Var
Hemen Bilgi Al
İlgili Eğitimler

Bu Eğitimle Birlikte Tercih Edilenler

Büyük Veri TeknolojileriBig Data Road Map Eğitimi
Veri ve Analitik Eğitimleri

Big Data Road Map Eğitimi

3 günOrtaOnline / Yüz Yüze / Hibrit

Büyük veri dönüşümünü vizyondan uygulamaya aşamalı bir yol haritasına dökün: dalga planı, kilometre taşları, bağımlılık, bütçe, risk ve KPI. Orta seviye eğitim.

Detayları Gör →
Büyük Veri TeknolojileriBig Data Sales Perspective Eğitimi
Veri ve Analitik Eğitimleri

Big Data Sales Perspective Eğitimi

2 günTemelOnline / Yüz Yüze / Hibrit

Büyük veri çözümlerini satış perspektifinden konumlandırın: değer önerisi, kullanım senaryoları, keşif, ROI ve itiraz yönetimi. Temel seviye DVA eğitimi.

Detayları Gör →
Büyük Veri TeknolojileriBig Data Solutions, Architecture, CQL, & DDL Eğitimi
Veri ve Analitik Eğitimleri

Big Data Solutions, Architecture, CQL, & DDL Eğitimi

4 günİleriOnline / Yüz Yüze / Hibrit

Cassandra ring mimarisi, sorgu odaklı veri modelleme, partition/clustering tasarımı, CQL sorguları ve DDL ile şema oluşturmayı öğrenin. İleri seviye eğitim.

Detayları Gör →
Büyük Veri TeknolojileriBig Data ve Advanced Analytics Eğitimi
Veri ve Analitik Eğitimleri

Big Data ve Advanced Analytics Eğitimi

4 günİleriOnline / Yüz Yüze / Hibrit

Spark MLlib ile büyük veride ileri analitik: öznitelik mühendisliği, regresyon/sınıflandırma/kümeleme, model değerlendirme ve üretime alma. İleri seviye eğitim.

Detayları Gör →
Büyük Veri TeknolojileriBucketing & Window Functions with Hive Eğitimi
Veri ve Analitik Eğitimleri

Bucketing & Window Functions with Hive Eğitimi

3 günOrtaOnline / Yüz Yüze / Hibrit

Hive'da partitioning ve bucketing ile sorguları hızlandırın, ROW_NUMBER, RANK, LAG/LEAD ve kayan pencerelerle ileri analitik yapın. Orta seviye eğitim.

Detayları Gör →
+90 (501) 369 40 14 WhatsApp [email protected] LinkedIn