INTRODUCTION TO DATA ENGINEERING ON GOOGLE CLOUD (IDEG) EĞİTİMİ

İlk veri hattınızı Google Cloud’da kurun

Veri mühendisliği mimarisi, Pub/Sub, Dataflow, Dataproc, Data Fusion, Composer ve BigQuery ile hat geliştirme

Bu eğitim, Google Cloud’da veri hattı kurmaya yeni başlayan mühendislere yöneliktir. Eğitim 3 gün sürer; her günde dört modül uygulamalı laboratuvarlarla işlenir.

3 gün Temel Seviye Online / Yüz Yüze / Hibrit Sertifikalı

Eğitim Hakkında

Batch ve streaming veri hatları ile BigQuery’de veri mühendisliği temelleri

Bu eğitim, Google Cloud’da veri hattı kurmaya yeni başlayan mühendislere yöneliktir. Veri gölü ve ambarı mimarisi, Cloud Storage dosya formatları, Pub/Sub ile akış, Dataflow ve Dataproc ile işleme, Data Fusion ile görsel ETL, Composer ile orkestrasyon ve BigQuery’de dönüşüm adımları uygulamalı işlenir.

Süre ve Format

3 Gün. Her gün dört modül; her modülde altı konu başlığı, Google Cloud’da veri mühendisliğine giriş (IDEG) odaklı uygulamalı laboratuvar ve ekip tartışması.

Seviye

Temel Seviye — Veri Mühendisliği Mimarisi ve Akış, İşleme: Dataflow, Dataproc ve ETL, Orkestrasyon, Yönetişim ve Maliyet başlıklarını kapsayan Google Cloud’da veri mühendisliğine giriş (IDEG) eğitimi

Öğrenme Metodu

Örnek veri setleri üzerinde BigQuery konsolu, bq CLI ve Cloud Shell ile adım adım laboratuvarlar yapılır ve sonuçlar birlikte yorumlanır.

Neden Bu Eğitim?

📊Veri Odaklı Laboratuvar

BigQuery, Dataflow ve Pub/Sub gibi servisler gerçek veri setleri üzerinde sorgulanır ve ölçülür.

💰Maliyet Bilinci

Taranan bayt, slot ve depolama sınıfı seçimleri maliyet etkisiyle birlikte değerlendirilir.

🔒Yönetişim Pratiği

IAM, policy tag ve satır düzeyi erişim gibi kontroller veri hattına dahil edilir.

Anahtar Konular

Google Cloud veri mühendisliğiIDEGDataflowPub/SubDataproc SparkData FusionCloud Composerveri hattıBigQuery ELT
“Veri, doğru modellendiğinde sorguya değil karara dönüşür.”

Ön Koşullar

Eğitimden verim almak için faydalı olacak bilgi ve ortam gereksinimleri

1
SQL Bilgisi

SELECT, JOIN, GROUP BY ve alt sorgu düzeyinde SQL kullanabilme.

2
Veri Kavramları

Tablo, şema, ETL ve veri ambarı terimlerine temel aşinalık.

3
Bulut Temelleri

Proje, bölge ve IAM gibi temel bulut kavramlarını bilme.

4
Google Cloud Erişimi

BigQuery kullanılabilen bir proje veya sağlanan laboratuvar ortamı.

Eğitim İçeriği

Programın gün gün akışı aşağıdadır. Bir güne tıklayarak o günün modüllerini ve içeriklerini görebilirsiniz.

Günün hedefiKatılımcı batch ve streaming mimarilerini ayırt eder, Pub/Sub ve Cloud Storage ile veri alır.
Modül 1
Veri Mühendisliği Mimari Bileşenleri
  • Batch ve streaming veri işleme mimarileri (Lambda, Kappa)
  • Veri hatları: Pub/Sub → Dataflow → BigQuery
  • Veri kalitesi, şema yönetimi ve veri sözleşmeleri
  • Veri gölü: Cloud Storage bölgeleme ve dosya formatları (Parquet, Avro)
  • Dataplex ile yönetişim ve veri kalitesi görevleri
  • Maliyet ve performans dengesi
Modül 2
Cloud Storage Kovaları ve Nesne Yönetimi
  • Storage class: Standard, Nearline, Coldline ve Archive seçim kriterleri
  • Bucket konumu: region, dual-region ve multi-region
  • Uniform bucket-level access ve signed URL kullanımı
  • Object Lifecycle Management kuralları
  • Object Versioning, retention policy ve bucket lock
  • gsutil/gcloud storage ile paralel yükleme ve rsync
Modül 3
Pub/Sub ile Olay Akışı
  • Topic, subscription ve push/pull teslim modelleri
  • Ack deadline, dead-letter topic ve yeniden deneme politikası
  • Message ordering ve exactly-once delivery
  • Şema (Avro/Protobuf) doğrulaması
  • Pub/Sub Lite ve Kafka karşılaştırması
  • Snapshot, seek ve mesaj saklama süresi
Modül 4
BigQuery Mimarisi ve Veri Setleri
  • Dremel, Colossus ve Jupiter tabanlı ayrık depolama/hesaplama mimarisi
  • Dataset, tablo, view ve materialized view kavramları
  • Slot, on-demand ve capacity (editions) fiyatlandırma
  • Tablo partitioning (zaman, tamsayı aralığı) ve clustering
  • Dış tablolar ve BigLake ile GCS üzerinde sorgu
  • BigQuery Studio, bq CLI ve istemci kütüphaneleri
Günün hedefiKatılımcı Dataflow ve Dataproc ile dönüşüm hatları geliştirir ve BigQuery’ye yükler.
Modül 1
Dataflow ve Apache Beam
  • Beam modeli: PCollection, PTransform, ParDo ve DoFn
  • Windowing türleri: fixed, sliding ve session
  • Trigger, watermark ve geç gelen veri yönetimi
  • Dataflow şablonları (classic ve flex) ile dağıtım
  • Streaming Engine, Shuffle ve autoscaling ayarları
  • Pipeline izleme ve hata ayıklama
Modül 2
Dataproc ve Spark/Hadoop Taşıma
  • Dataproc cluster, ephemeral cluster ve Serverless for Apache Spark
  • HDFS yerine Cloud Storage (gs://) kullanımı
  • Spark SQL, PySpark job gönderimi ve bileşen ağ geçidi
  • Autoscaling politikası ve preemptible worker
  • Initialization action ve özel imaj
  • Hive Metastore olarak Dataproc Metastore
Modül 3
ETL/ELT Hattı Geliştirme
  • Data Fusion ile görsel pipeline ve plugin yapısı
  • Dataflow şablonları (Pub/Sub to BigQuery, Datastream)
  • Datastream ile CDC ve Cloud SQL/Oracle kaynaklarından aktarım
  • Dataproc Serverless Spark işleri
  • Composer / Workflows ile orkestrasyon
  • Pipeline test, izleme ve yeniden çalıştırma
Modül 4
BigQuery’ye Veri Yükleme
  • Batch load job: CSV, Avro, Parquet, ORC ve JSON formatları
  • Storage Write API ile akış ve exactly-once yazma
  • BigQuery Data Transfer Service ve zamanlanmış sorgular
  • Pub/Sub BigQuery subscription ile doğrudan aktarım
  • Şema evrimi, autodetect ve hata toleransı
  • Federated sorgular: Cloud SQL, Spanner ve Drive
Günün hedefiKatılımcı hatları zamanlar, veriyi korur ve maliyeti kontrol eder.
Modül 1
Cloud Composer ve İş Akışı Orkestrasyonu
  • Airflow DAG yapısı, operator ve sensor kavramları
  • Composer 2 ortam boyutlandırma ve Autopilot GKE altyapısı
  • BigQueryInsertJobOperator ve DataflowTemplateOperator
  • XCom, Variable ve Connection yönetimi
  • Zamanlama, backfill ve catchup davranışı
  • Hata bildirimi, retry ve SLA izleme
Modül 2
Veri Mühendisliğinde BigQuery ve ML Hazırlığı
  • ELT yaklaşımı ve BigQuery içinde dönüşüm
  • Zamanlanmış sorgu ve stored procedure
  • Dataform ile SQL pipeline
  • BigQuery ML ve Vertex AI entegrasyonu
  • Feature hazırlığı ve Vertex AI Feature Store kavramı
  • Veri hattı güvenliği: CMEK, VPC SC ve IAM
Modül 3
BigQuery Güvenlik ve Yönetişim
  • Dataset ve tablo düzeyinde IAM
  • Column-level security ve policy tag
  • Row-level access policy ve authorized view
  • CMEK şifreleme ve VPC Service Controls
  • Data Catalog / Dataplex ile veri keşfi ve soy ağacı
  • Data masking ve DLP ile hassas veri tespiti
Modül 4
Maliyet Yönetimi ve Optimizasyon
  • Cloud Billing raporları ve maliyet kırılımı filtreleri
  • Billing export to BigQuery ile detaylı maliyet analizi
  • Budget ve alert eşikleri, Pub/Sub ile otomasyon
  • Committed Use Discounts ve sustained use indirimleri
  • Active Assist: idle VM, over-provisioned VM ve disk önerileri
  • Label stratejisi ve maliyet merkezine geri yansıtma

Eğitim Kazanımları

Program sonunda katılımcılar:

✅
Veri Mühendisliği Mimari Bileşenleri

Veri Mühendisliği Mimari Bileşenleri konusunda Batch ve streaming veri işleme mimarileri (Lambda, Kappa), Veri hatları: Pub/Sub → Dataflow → BigQuery ve Veri gölü: Cloud Storage bölgeleme ve dosya formatları (Parquet, Avro) başlıklarını uygulamalı olarak öğrenirsiniz.

🛠️
Pub/Sub ile Olay Akışı

Pub/Sub ile Olay Akışı konusunda Topic, subscription ve push/pull teslim modelleri, Ack deadline, dead-letter topic ve yeniden deneme politikası ve Şema (Avro/Protobuf) doğrulaması başlıklarını uygulamalı olarak öğrenirsiniz.

🔐
BigQuery Mimarisi ve Veri Setleri

BigQuery Mimarisi ve Veri Setleri konusunda Dremel, Colossus ve Jupiter tabanlı ayrık depolama/hesaplama mimarisi, Dataset, tablo, view ve materialized view kavramları ve Tablo partitioning (zaman, tamsayı aralığı) ve clustering başlıklarını uygulamalı olarak öğrenirsiniz.

📈
Dataproc ve Spark/Hadoop Taşıma

Dataproc ve Spark/Hadoop Taşıma konusunda Dataproc cluster, ephemeral cluster ve Serverless for Apache Spark, HDFS yerine Cloud Storage (gs://) kullanımı ve Autoscaling politikası ve preemptible worker başlıklarını uygulamalı olarak öğrenirsiniz.

☁️
ETL/ELT Hattı Geliştirme

ETL/ELT Hattı Geliştirme konusunda Data Fusion ile görsel pipeline ve plugin yapısı, Dataflow şablonları (Pub/Sub to BigQuery, Datastream) ve Dataproc Serverless Spark işleri başlıklarını uygulamalı olarak öğrenirsiniz.

🔍
Cloud Composer ve İş Akışı Orkestrasyonu

Cloud Composer ve İş Akışı Orkestrasyonu konusunda Airflow DAG yapısı, operator ve sensor kavramları, Composer 2 ortam boyutlandırma ve Autopilot GKE altyapısı ve XCom, Variable ve Connection yönetimi başlıklarını uygulamalı olarak öğrenirsiniz.

⚙️
Veri Mühendisliğinde BigQuery ve ML Hazırlığı

Veri Mühendisliğinde BigQuery ve ML Hazırlığı konusunda ELT yaklaşımı ve BigQuery içinde dönüşüm, Zamanlanmış sorgu ve stored procedure ve BigQuery ML ve Vertex AI entegrasyonu başlıklarını uygulamalı olarak öğrenirsiniz.

🚀
Maliyet Yönetimi ve Optimizasyon

Maliyet Yönetimi ve Optimizasyon konusunda Cloud Billing raporları ve maliyet kırılımı filtreleri, Billing export to BigQuery ile detaylı maliyet analizi ve Committed Use Discounts ve sustained use indirimleri başlıklarını uygulamalı olarak öğrenirsiniz.

Kimler İçin Uygundur?

  • Veri mühendisliğine başlayan yazılımcılar
  • DBA’ler
  • ETL geliştiricileri için uygundur

Sıkça Sorulan Sorular

Bu eğitim kimler için uygundur?
Veri mühendisliğine başlayan yazılımcılar, DBA’ler ve ETL geliştiricileri için uygundur.
Google Cloud’da veri mühendisliğine giriş (IDEG) eğitimine katılmak için hangi ön bilgiler gerekir?
SELECT, JOIN, GROUP BY ve alt sorgu düzeyinde SQL kullanabilme. Tablo, şema, ETL ve veri ambarı terimlerine temel aşinalık.
Eğitimde hangi konular işlenir?
Program 3 günde şu başlıkları kapsar: Veri Mühendisliği Mimarisi ve Akış; İşleme: Dataflow, Dataproc ve ETL; Orkestrasyon, Yönetişim ve Maliyet.
Eğitim uygulamalı mı ilerler?
Örnek veri setleri üzerinde BigQuery konsolu, bq CLI ve Cloud Shell ile adım adım laboratuvarlar yapılır ve sonuçlar birlikte yorumlanır.
Eğitim sonunda sertifika verilir mi?
Katılımcılara eğitim sonunda Digital Vizyon Akademi Katılım ve Başarı Sertifikası verilir.

Sertifikalandırma

Bu eğitim Digital Vizyon Akademi Başarı Sertifikası ile tamamlanır.

Eğitim başında “Ön Test”, bitiminde “Son Test” uygulanarak gelişim ölçümlenir. Değerlendirme formunu dolduran katılımcılar sertifikalarını alır. Sertifikanızın geçerliliğini Sertifika Sorgulama sayfasından doğrulayabilirsiniz.

Örnek Sertifika d Digital Vizyon AKADEMİ KATILIM SERTİFİKASI Bu sertifika [Katılımcı Adı Soyadı] adlı katılımcının aşağıdaki eğitim programını başarıyla tamamladığını belgeler. Introduction to Data Engineering on Google Cloud (IDEG) Eğit Sertifika Kodu DV-2026XX00 Tarih 27.10.2026 Yetkili İmza DV AKADEMİ

Eğitim Bilgileri

Süre3 gün
SeviyeTemel Seviye
FormatOnline / Yüz Yüze / Hibrit
Sertifika✓ Var
Hemen Bilgi Al
İlgili Eğitimler

Bu Eğitimle Birlikte Tercih Edilenler

Google CloudGoogle Professional Cloud Developer: Integrating Google Cloud APIs Eğitimi
Bulut Bilişim Eğitimleri

Google Professional Cloud Developer: Integrating Google Cloud APIs Eğitimi

3 günOrtaOnline / Yüz Yüze / Hibrit

Google Professional Cloud Developer: Integrating Google Cloud APIs eğitimi: İstemci Kütüphaneleri ve API Çağrıları, OAuth 2.0, Service Account ve API Güvenliği.

Detayları Gör →
Google CloudGoogle Professional Cloud Developer: Managing Google Cloud Application Data Eğitimi
Bulut Bilişim Eğitimleri

Google Professional Cloud Developer: Managing Google Cloud Application Data Eğitimi

3 günOrtaOnline / Yüz Yüze / Hibrit

Google Professional Cloud Developer: Managing Google Cloud Application Data eğitimi: Uygulama Verisi için Depolama Seçimi, Spanner, Bigtable ve Firestore Seçimi

Detayları Gör →
Google CloudImplementations with BigQuery for Big Data Eğitimi
Bulut Bilişim Eğitimleri

Implementations with BigQuery for Big Data Eğitimi

4 günOrtaOnline / Yüz Yüze / Hibrit

Implementations with BigQuery for Big Data eğitimi: BigQuery Mimarisi ve Veri Setleri. 4 gün uygulamalı program, DVA Katılım ve Başarı Sertifikası.

Detayları Gör →
Google CloudInstalling and Managing Google Cloud's Apigee API Platform for Private Cloud Eğitimi
Bulut Bilişim Eğitimleri

Installing and Managing Google Cloud's Apigee API Platform for Private Cloud Eğitimi

3 günİleriOnline / Yüz Yüze / Hibrit

Installing and Managing Google Cloud's Apigee API Platform for Private Cloud eğitimi: Apigee Mimarisi ve Bileşenleri, Apigee Topoloji ve Kapasite Planlama. 3 gü

Detayları Gör →
Google CloudIntermediate GCP: Data Storage and Querying with GCP Eğitimi
Bulut Bilişim Eğitimleri

Intermediate GCP: Data Storage and Querying with GCP Eğitimi

3 günOrtaOnline / Yüz Yüze / Hibrit

Intermediate GCP: Data Storage and Querying with GCP eğitimi: Cloud Storage Kovaları ve Nesne Yönetimi. 3 gün uygulamalı program, DVA Katılım ve Başarı Sertifik

Detayları Gör →
+90 (501) 369 40 14 WhatsApp [email protected] LinkedIn