GCP Engineering & Streaming Architecture

Eğitim Hakkında

Pub/Sub, Dataflow ve Kappa mimarisi ekseninde uygulamalı Google Cloud eğitimi

GCP üzerinde mühendislik ve streaming mimarisi eğitimidir. Veri yapıları ve depolama seçimi, Pub/Sub ve Dataflow ile akış işleme, lambda/kappa desenleri, exactly-once ve geç veri yönetimi, Datastream CDC, BigQuery ve Bigtable servis katmanı, ölçekleme, güvenlik, Composer orkestrasyonu ve Vertex AI uygulanır.

Süre ve Format

4 Gün. Her gün dört modül; her modülde altı teknik başlık, Pub/Sub, Dataflow ve Bigtable laboratuvarları ile desteklenir.

Seviye

İleri Seviye — Pub/Sub, Dataflow, Kappa mimarisi ve Bigtable dahil uçtan uca teknik yelpaze

Öğrenme Metodu

Her modül Pub/Sub, Dataflow ve Bigtable laboratuvarları üzerinde yönlendirmeli uygulamayla pekiştirilir; katılımcılar komut, sorgu ve yapılandırmaları adım adım kendi projelerinde çalıştırır.

Neden Bu Eğitim?

🎯Konuya Özgü İçerik

Pub/Sub, Dataflow ve Kappa mimarisi gibi sahada karşılaşılan bileşenler komut ve yapılandırma düzeyinde ele alınır.

🛠️Uygulamalı Laboratuvar

Her modül Pub/Sub, Dataflow ve Bigtable laboratuvarları ile pekiştirilir; katılımcılar öğrendiklerini kendi projelerinde çalıştırır.

📈Üretime Dönük Bakış

Bigtable, Datastream ve BigQuery streaming konularında performans, güvenlik ve maliyet ödünleşimleri gerçek senaryolarla tartışılır.

Anahtar Konular

GCP Engineering & Streaming Architecture EğitimiGCP Engineering & Streaming ArchitecturePub/SubDataflowKappa mimarisiBigtableDatastreamBigQuery streamingGoogle Cloud eğitimiGCP eğitimiDigital Vizyon Akademi

“Pub/Sub doğru tasarlandığında veri, yük olmaktan çıkar ve karar hızına dönüşür.”

Ön Koşullar

Eğitimden verim almak için faydalı olacak bilgi ve ortam gereksinimleri

1

SQL Temeli

SELECT, JOIN ve GROUP BY düzeyinde SQL bilgisi eğitimde yazılacak sorguları rahat takip etmenizi sağlar.

2

Veri Kavramları

ETL/ELT, veri ambarı ve batch ile streaming ayrımı hakkında temel bilgi önerilir.

3

Python Okuryazarlığı

Beam ve Spark örneklerini okuyabilecek kadar Python ya da Java bilgisi faydalıdır.

4

Laboratuvar Ortamı

Google Cloud hesabı, güncel tarayıcı ve Cloud Shell erişimi olan internet bağlantılı bir bilgisayar gerekir.

Eğitim İçeriği

Programın gün gün akışı aşağıdadır. Bir güne tıklayarak o günün modüllerini ve içeriklerini görebilirsiniz.

Günün hedefiKatılımcı, google Cloud Kaynak Hiyerarşisi ve Konsol, veri Yapıları ve Şema Tasarımı, cloud Storage Yönetimi ve yarı Yapılandırılmış Veri: Firestore, Bigtable ve Memorystore konularını laboratuvar senaryolarında uygulayarak günün çıktısını kendi ortamında yeniden üretebilir.

Modül 1

Google Cloud Kaynak Hiyerarşisi ve Konsol

Organization, Folder ve Project hiyerarşisinin politika ve fatura mirasına etkisi
Cloud Shell, gcloud CLI yapılandırmaları (gcloud config configurations) ve proje seçimi
API etkinleştirme, servis kotaları ve kota artış talepleri
Billing account bağlama, proje yaşam döngüsü ve silinen projeyi geri alma süreci
Bölge (region), zon ve multi-region kavramları ile veri konumu kararları
Etiket (label), network tag ve Resource Manager tag farkları

Modül 2

Veri Yapıları ve Şema Tasarımı

Yapılandırılmış, yarı yapılandırılmış ve yapılandırılmamış veri ayrımı
Normalizasyon ile denormalizasyon kararları ve OLTP / OLAP farkı
Bigtable, BigQuery ve Spanner için şema tasarım kalıpları
Veri türleri, NULL yönetimi ve ARRAY / STRUCT kullanımı
Erişim desenine göre anahtar ve bölüm seçimi
Şema evrimi ve geriye dönük uyumluluk

Modül 3

Cloud Storage Yönetimi

Standard, Nearline, Coldline ve Archive depolama sınıfları ile maliyet etkisi
Object lifecycle yönetimi, versioning ve retention policy / bucket lock
Uniform bucket-level access, ACL ve signed URL ile erişim kontrolü
gsutil ve gcloud storage ile paralel yükleme, rsync ve composite upload
Pub/Sub bildirimleri ve Eventarc ile nesne olaylarına tepki
Storage Transfer Service ve çok bölgeli (dual-region) bucket tasarımı

Modül 4

Yarı Yapılandırılmış Veri: Firestore, Bigtable ve Memorystore

Firestore belge/koleksiyon modeli, dizinler ve güvenlik kuralları
Bigtable düğüm, tablet ve satır anahtarı (row key) tasarımı; hotspot önleme
Bigtable column family, garbage collection ve replikasyon profilleri
JSON verinin BigQuery JSON tipi ile saklanması ve JSON_VALUE / JSON_QUERY sorguları
Memorystore for Redis ve Memcached ile önbellekleme
Veri modeli seçimi: geniş sütunlu, belge ve anahtar-değer kullanım senaryoları

Günün hedefiKatılımcı, pub/Sub ile Mesajlaşma, dataflow ve Apache Beam ile Veri İşleme, akış (Streaming) Mimari Desenleri ve datastream ile Değişiklik Verisi Yakalama (CDC) konularını laboratuvar senaryolarında uygulayarak günün çıktısını kendi ortamında yeniden üretebilir.

Modül 1

Pub/Sub ile Mesajlaşma

Topic, subscription ve mesaj yaşam döngüsü; at-least-once teslimat semantiği
Pull, push ve BigQuery / Cloud Storage subscription türleri
Ack deadline, yeniden deneme politikası ve dead-letter topic yapılandırması
Message ordering key ve exactly-once delivery kullanım koşulları
Şema (Avro/Protobuf) doğrulama ve mesaj saklama (retention) / seek ile tekrar oynatma
Pub/Sub Lite ve Kafka karşılaştırması, kota ve ölçeklenme

Modül 2

Dataflow ve Apache Beam ile Veri İşleme

Beam programlama modeli: Pipeline, PCollection, PTransform ve ParDo
GroupByKey, CombinePerKey, Side Input ve yan çıktılar (tagged outputs)
Windowing türleri: fixed, sliding, session ve global pencere
Event time, watermark, trigger ve geç gelen veri (allowed lateness) yönetimi
Dataflow Runner ile iş başlatma, autoscaling, Streaming Engine ve Shuffle servisi
Classic ve Flex Template ile yeniden kullanılabilir pipeline dağıtımı

Modül 3

Akış (Streaming) Mimari Desenleri

Lambda ve Kappa mimarilerinin karşılaştırması ve GCP karşılıkları
Pub/Sub → Dataflow → BigQuery / Bigtable referans mimarisi
Exactly-once işleme, idempotent yazma ve tekilleştirme (dedup) teknikleri
Geç gelen veri, çok bölgeli yedeklilik ve replay stratejileri
Gerçek zamanlı kullanıcı etkinliği, IoT telemetri ve log analitiği kullanım senaryoları
Gecikme, verim (throughput) ve maliyet ödünleşimleri

Modül 4

Datastream ile Değişiklik Verisi Yakalama (CDC)

CDC kavramı, log tabanlı yakalama ve MySQL binlog / PostgreSQL logical decoding / Oracle LogMiner kaynakları
Datastream bağlantı profilleri, stream oluşturma ve kaynak yapılandırması
Backfill ve sürekli CDC akışı, nesne dahil etme/dışlama kuralları
Hedef olarak Cloud Storage (Avro/JSON) ve BigQuery ile yazma modları
Private connectivity, IP allowlist ve ters SSH tüneli ile güvenli bağlantı
Dataflow şablonları ile Datastream çıktısının BigQuery'de birleştirilmesi ve gecikme izleme

Günün hedefiKatılımcı, bigQuery Mimarisi ve Temel Kavramlar, bigQuery'ye Veri Yükleme ve Dış Kaynaklar, bigQuery Sorgu Optimizasyonu ve Performans ve analitikte Ölçekleme Teknikleri konularını laboratuvar senaryolarında uygulayarak günün çıktısını kendi ortamında yeniden üretebilir.

Modül 1

BigQuery Mimarisi ve Temel Kavramlar

Dremel yürütme motoru, Colossus depolama ve Capacitor sütunlu format yapısı
Hesaplama ile depolamanın ayrılması ve slot kavramı
Dataset, table, view ve routine nesneleri ile proje/dataset/tablo adlandırması
On-demand fiyatlandırma ile BigQuery Editions (Standard, Enterprise, Enterprise Plus) farkı
bq CLI, Console ve istemci kütüphaneleri ile iş (job) çalıştırma
Sandbox kullanımı, ücretsiz katman limitleri ve kota yönetimi

Modül 2

BigQuery'ye Veri Yükleme ve Dış Kaynaklar

Load job ile CSV, JSON, Avro, Parquet ve ORC dosyalarının yüklenmesi
Storage Write API ve eski streaming insert yöntemlerinin karşılaştırması
Harici tablolar (external table), BigLake tabloları ve Hive bölümlü veri
Federated query ile Cloud SQL, Spanner ve Bigtable kaynaklarına sorgu
BigQuery Data Transfer Service ile SaaS ve Cloud Storage zamanlanmış aktarımı
Şema otomatik algılama, şema evrimi ve hatalı kayıt yönetimi (max bad records)

Modül 3

BigQuery Sorgu Optimizasyonu ve Performans

Query execution graph (sorgu planı) okuma ve aşama (stage) bazlı darboğaz analizi
SELECT * kaçınma, erken filtreleme ve JOIN sıralama teknikleri
Önbellek (cache) davranışı, dry run ve maximum bytes billed sınırı
APPROX_COUNT_DISTINCT gibi yaklaşık fonksiyonlar ve veri çarpıklığı (skew) yönetimi
BI Engine rezervasyonu, search index ve vector index kullanımı
INFORMATION_SCHEMA.JOBS ile pahalı sorguların bulunması

Modül 4

Analitikte Ölçekleme Teknikleri

BigQuery slot autoscaling ve rezervasyon boyutlandırma
Dataflow yatay ölçekleme, Streaming Engine ve worker tipi seçimi
Bigtable küme düğüm sayısı, replikasyon ve load test (Key Visualizer)
Spanner işlem birimi (processing unit) ve bölünme (split) davranışı
Ölçekleme sırasında maliyet izleme ve kota yönetimi
Darboğaz tespiti için Cloud Monitoring dashboard'ları

Günün hedefiKatılımcı, veri Güvenliği ve Gizliliği, cloud Monitoring, Logging ve Uyarı Yönetimi, cloud Composer ile İş Akışı Orkestrasyonu ve vertex AI ve Makine Öğrenmesi Boru Hatları konularını laboratuvar senaryolarında uygulayarak günün çıktısını kendi ortamında yeniden üretebilir.

Modül 1

Veri Güvenliği ve Gizliliği

Cloud KMS, CMEK ve anahtar döndürme (key rotation) politikaları
VPC Service Controls ile veri sızıntısı çevresi (perimeter) tanımı
Sensitive Data Protection: inspect, de-identify ve tokenization
Secret Manager ile parola ve anahtarların saklanması
Veri kalıcılığı, yedekleme ve KVKK/GDPR kapsamında veri konumu kararları
Audit log ve Security Command Center bulgularının izlenmesi

Modül 2

Cloud Monitoring, Logging ve Uyarı Yönetimi

Ops Agent kurulumu ve metrik/log toplama yapılandırması
Cloud Monitoring dashboard, MQL/PromQL sorguları ve uptime check
Alerting policy, bildirim kanalları ve SLO / hata bütçesi izleme
Cloud Logging sorgu dili, log-based metric ve log bucket saklama süreleri
Log Router sink'leri ile BigQuery, Cloud Storage ve Pub/Sub'a log aktarımı
Error Reporting, Cloud Trace ve Cloud Profiler ile uygulama teşhisi

Modül 3

Cloud Composer ile İş Akışı Orkestrasyonu

Apache Airflow DAG yapısı, task bağımlılıkları ve zamanlama (schedule)
BigQueryInsertJobOperator, DataflowTemplatedJobStartOperator gibi Google operatörleri
Sensör, XCom ve dinamik görev üretimi
Composer 2 ortam boyutlandırma, worker autoscaling ve ağ yapılandırması
Retry, SLA, backfill ve hata bildirimi stratejileri
DAG'lerin Cloud Storage üzerinden dağıtımı ve CI/CD ile test edilmesi

Modül 4

Vertex AI ve Makine Öğrenmesi Boru Hatları

Vertex AI Workbench ve özel eğitim (custom training) işleri
AutoML ve hazır modeller ile hızlı prototipleme
Vertex AI Pipelines (Kubeflow) ile tekrarlanabilir ML iş akışı
Feature Store ve Model Registry kullanımı
Online endpoint, batch prediction ve trafik bölme
Model izleme: veri kayması (drift) ve çarpıklık (skew) tespiti

Eğitim Kazanımları

Program sonunda katılımcılar:

✅

Kaynak Hiyerarşisi

Organization, Folder ve Project yapısını doğru kurgulayıp gcloud ile yönetebilirsiniz.

🔧

Cloud Storage

Bucket tasarımını erişim, yaşam döngüsü ve maliyet açısından yönetebilirsiniz.

📊

Pub/Sub Mesajlaşma

Pub/Sub topic ve subscription tasarımını güvenilir teslimat için yapılandırabilirsiniz.

🔐

Streaming Mimarisi

Gerçek zamanlı veri akışı için uçtan uca GCP mimarisi tasarlayabilirsiniz.

🚀

BigQuery Mimarisi

BigQuery'nin depolama-hesaplama ayrımını ve slot modelini açıklayabilirsiniz.

🧩

Sorgu Optimizasyonu

Sorgu planını okuyup maliyet ve süreyi düşüren optimizasyonlar uygulayabilirsiniz.

📈

Veri Güvenliği

CMEK, VPC Service Controls ve DLP ile veri güvenliği katmanları kurabilirsiniz.

🛠️

İş Akışı Orkestrasyonu

Composer'da Airflow DAG'leri ile veri işlerini zamanlayıp izleyebilirsiniz.

Kimler İçin Uygundur?

Streaming sistemleri tasarlayan veri mühendisleri
bulut mimarları içindir

Sıkça Sorulan Sorular

Bu eğitim kimler için uygundur?

Streaming sistemleri tasarlayan veri mühendisleri ve bulut mimarları içindir.

Eğitime katılmak için hangi ön bilgi gerekir?

Temel SQL ve veri kavramları bilgisi önerilir; Beam ve Spark örnekleri için Python ya da Java okuyabilmek faydalıdır. Google Cloud ortamı laboratuvarda birlikte kurulur.

GCP Engineering & Streaming Architecture eğitiminde hangi konular işlenir?

1. gün Kaynak Hiyerarşisi ve Şema Tasarımı; 2. gün Pub/Sub Mesajlaşma ve Dataflow ve Beam; 3. gün BigQuery Mimarisi ve Veri Yükleme; 4. gün Veri Güvenliği ve İzleme ve Loglama. Ayrıca Pub/Sub, Dataflow ve Kappa mimarisi uygulamalı çalışılır.

Eğitim sonunda sertifika veriliyor mu?

Eğitimi tamamlayan katılımcılara Digital Vizyon Akademi Katılım ve Başarı Sertifikası verilir.

Eğitim nasıl yürütülür?

Eğitim 4 gündür ve her gün dört modülden oluşur. Anlatımlar Pub/Sub, Dataflow ve Bigtable laboratuvarları ile birleşir; katılımcılar komut, sorgu ve yapılandırmaları kendi ortamlarında çalıştırır.

Sertifikalandırma

Bu eğitim Digital Vizyon Akademi Başarı Sertifikası ile tamamlanır.

Eğitim başında “Ön Test”, bitiminde “Son Test” uygulanarak gelişim ölçümlenir. Değerlendirme formunu dolduran katılımcılar sertifikalarını alır. Sertifikanızın geçerliliğini Sertifika Sorgulama sayfasından doğrulayabilirsiniz.

Örnek Sertifika

GCP ENGINEERING & STREAMING ARCHITECTURE EĞİTİMİ

Eğitim Hakkında

Neden Bu Eğitim?

Anahtar Konular

Ön Koşullar

Eğitim İçeriği

Google Cloud Kaynak Hiyerarşisi ve Konsol

Veri Yapıları ve Şema Tasarımı

Cloud Storage Yönetimi

Yarı Yapılandırılmış Veri: Firestore, Bigtable ve Memorystore

Pub/Sub ile Mesajlaşma

Dataflow ve Apache Beam ile Veri İşleme

Akış (Streaming) Mimari Desenleri

Datastream ile Değişiklik Verisi Yakalama (CDC)

BigQuery Mimarisi ve Temel Kavramlar

BigQuery'ye Veri Yükleme ve Dış Kaynaklar

BigQuery Sorgu Optimizasyonu ve Performans

Analitikte Ölçekleme Teknikleri

Veri Güvenliği ve Gizliliği

Cloud Monitoring, Logging ve Uyarı Yönetimi

Cloud Composer ile İş Akışı Orkestrasyonu

Vertex AI ve Makine Öğrenmesi Boru Hatları

Eğitim Kazanımları

Kimler İçin Uygundur?

Sıkça Sorulan Sorular

Sertifikalandırma

Eğitim Bilgileri

Bu Eğitimle Birlikte Tercih Edilenler

Google BigQuery Eğitimi

Google BigQuery ile Veri Entegrasyonu Eğitimi

Google Cloud Platform ve BigQuery İlkeleri Eğitimi

Veri Analizi ve SQL ile BigQuery Eğitimi

Advanced GCP: Designing Globally Resilient Cloud Architectures Eğitimi