Spark SQL ile büyük veriyi SQL'le çözümle
Spark SQL ile büyük veri analizi öğreten orta seviye eğitim: SparkSession ve tablo/view tanımı, SELECT ve agregasyon, join türleri ve CTE, pencere fonksiyonları, array/map/struct ve JSON işleme, Catalyst optimizer ve EXPLAIN, join stratejileri, cache ve veri…
Spark SQL, DataFrame, pencere fonksiyonları ve optimizasyon
Bu orta seviye eğitim, büyük veri analizini Spark SQL ile yapmaya odaklanır. SparkSession, DataFrame ve geçici/kalıcı tablolar (temp view, catalog) işlenir. Spark SQL ile SELECT, filtreleme, join türleri, agregasyon ve CTE uygulanır. Pencere fonksiyonları (ROW_NUMBER, RANK, LAG/LEAD, kümülatif), karmaşık tipler (array, map, struct) ve explode, tarih/metin fonksiyonları ele alınır. Catalyst optimizer ve Tungsten, EXPLAIN ile fiziksel plan, partition pruning, broadcast join, önbellekleme (cache) ve veri çarpıklığı (skew) yönetimiyle performans ayarı gösterilir. Katılımcılar gerçek veri setlerinde Spark SQL ile uçtan uca analiz sorguları yazıp optimize eder.
3 Gün. Her gün dört modül; katılımcılar temel sorgulamadan pencere fonksiyonlarına ve optimizasyona ilerler.
Orta Seviye — Spark SQL ile büyük veri setlerinde tablo tanımı, sorgulama, pencere fonksiyonları ve performans ayarının ele alınması.
Katılımcılar gerçek veri setleri üzerinde Spark SQL sorguları yazıp fiziksel planlarını inceleyerek uygulamalı öğrenir.
Büyük veriyi öğrenmesi kolay SQL diliyle ölçekli sorgularsınız.
Sıralama ve dönemsel hesapları pencere fonksiyonlarıyla yaparsınız.
EXPLAIN ve join stratejileriyle sorguları optimize edersiniz.
Eğitimden verim almak için faydalı olacak bilgi ve ortam gereksinimleri
SELECT, JOIN ve GROUP BY içeren SQL yazımına aşinalık beklenir.
DataFrame ve Spark temeline aşinalık faydalıdır.
PySpark veya Scala ile temel kodlama yararlıdır.
Spark çalıştırabilen bir ortam veya bulut kümesi.
Programın gün gün akışı aşağıdadır. Bir güne tıklayarak o günün modüllerini ve içeriklerini görebilirsiniz.
Program sonunda katılımcılar:
Temp view ve kalıcı tablolarla Spark SQL ortamı kurarsınız.
SELECT, agregasyon ve koşullarla sorgu yazarsınız.
Tüm join türlerini doğru ve performanslı kullanırsınız.
WITH ve alt sorgularla karmaşık sorguları modülerleştirirsiniz.
Sıralama, LAG/LEAD ve kümülatif analiz yaparsınız.
array, map, struct ve JSON verisini sorgularsınız.
EXPLAIN ile plan okuyup AQE'yi kullanırsınız.
Join stratejisi, cache ve skew yönetimiyle hızlandırırsınız.
Bu eğitim Digital Vizyon Akademi Başarı Sertifikası ile tamamlanır.
Eğitim başında “Ön Test”, bitiminde “Son Test” uygulanarak gelişim ölçümlenir. Değerlendirme formunu dolduran katılımcılar sertifikalarını alır. Sertifikanızın geçerliliğini Sertifika Sorgulama sayfasından doğrulayabilirsiniz.
Apache Kafka ve Red Hat AMQ Streams ile OpenShift üzerinde olay tabanlı mikroservis geliştirme: Reactive Messaging, Kafka Streams, CQRS ve event sourcing.
Detayları Gör →Apache Kafka ve Red Hat AMQ Streams ile OpenShift üzerinde olay tabanlı mikroservis geliştirme: Reactive Messaging, Kafka Streams, CQRS ve event sourcing.
Detayları Gör →Büyük veriyi dijital dönüşüme ve veri odaklı karar almaya bağlayın: veri stratejisi, analitik olgunluk, KPI tasarımı, yönetişim ve veri kültürü.
Detayları Gör →Apache Kafka ile dağıtık mesajlaşma: topic/partition, producer/consumer, consumer group, replication ve teslimat garantileri. Uygulamalı temel eğitim.
Detayları Gör →Apache Spark ve MLlib ile dağıtık veri bilimi: DataFrame, feature engineering, Pipeline, sınıflandırma, kümeleme ve hiperparametre ayarı. Uygulamalı ileri eğiti
Detayları Gör →