KSQL VE KAFKA CONNECT İLE ENTEGRASYON VE PIPELINE TASARIM EĞİTİMİ

Kod yazmadan SQL ile akış hattı kur

ksqlDB ile akan veriyi SQL'le dönüştürün, Kafka Connect ile veri tabanlarını ve depolamayı bağlayın; uçtan uca gerçek zamanlı pipeline tasarlayın.

ksqlDB ve Kafka Connect'i birlikte kullanarak gerçek zamanlı veri hatları tasarlayan orta seviye eğitim: STREAM/TABLE, push/pull sorgular, pencereli toplamalar ve JOIN; JDBC source/sink, Debezium CDC, SMT dönüşümleri ve kaynaktan hedefe uçtan uca pipeline tas…

3 gün Orta Seviye Online / Yüz Yüze / Hibrit Sertifikalı

Eğitim Hakkında

ksqlDB STREAM/TABLE, Connect source/sink, SMT ve pipeline tasarımı

Bu eğitim, ksqlDB ve Kafka Connect'i birlikte kullanarak gerçek zamanlı veri hatları tasarlamayı öğretir. Katılımcılar ksqlDB ile STREAM ve TABLE soyutlamalarını oluşturur; SELECT, WHERE, JOIN, GROUP BY ve pencereli (TUMBLING/HOPPING/SESSION) toplamalarla akan veriyi SQL ile dönüştürür; push ve pull sorguları arasındaki farkı kavrar. Kafka Connect tarafında JDBC source/sink, Debezium ile CDC (Change Data Capture), S3 sink ve SMT ile alan dönüşümü işlenir. Standalone ve distributed Connect, connector REST API'si ve offset yönetimi uygulanır. Eğitim, uçtan uca bir pipeline (veri tabanı → Kafka → ksqlDB → hedef) tasarımıyla tamamlanır.

Süre ve Format

3 Gün. Her gün dört modül; ksqlDB akış işlemeden Kafka Connect entegrasyonuna ve uçtan uca pipeline tasarımına ilerlenir.

Seviye

Orta Seviye — ksqlDB ile SQL tabanlı akış işleme ve Kafka Connect ile kaynak/hedef entegrasyonunu birleştiren uçtan uca veri hattı tasarımı.

Öğrenme Metodu

Katılımcılar ksqlDB üzerinde canlı akış sorguları yazar, Connect connector'larını REST API ile kurar ve uçtan uca bir veri hattını baştan sona çalıştırır.

Neden Bu Eğitim?

🧮SQL ile Akış

ksqlDB STREAM/TABLE ve pencereli sorgularla akışı SQL'le dönüştürürsünüz.

🔗CDC Entegrasyon

Debezium ve JDBC connector ile veri tabanı değişimlerini akışa taşırsınız.

🏗️Pipeline Tasarımı

Kaynak → Kafka → işleme → hedef uçtan uca hattı tasarlarsınız.

Anahtar Konular

ksqldb eğitimikafka connectksqlcdc debeziumakış işlemeveri hattı tasarımıjdbc connectorsmtstream tablegerçek zamanlı pipeline
“En iyi veri hattı, veriyi taşıdığını kimsenin fark etmediği kadar sessiz ve güvenilir olandır.”

Ön Koşullar

Eğitimden verim almak için faydalı olacak bilgi ve ortam gereksinimleri

1
Kafka Temeli

Topic, partition ve consumer group kavramlarına aşinalık güçlü biçimde faydalıdır.

2
SQL Bilgisi

SELECT, JOIN, GROUP BY gibi temel SQL sorgularına aşinalık beklenir.

3
Veri Tabanı

İlişkisel veri tabanı ve tablo kavramlarına temel aşinalık faydalıdır.

4
Çalışma Ortamı

Kafka, ksqlDB ve Connect içeren bir ortam (Confluent/Docker) erişimi.

Eğitim İçeriği

Programın gün gün akışı aşağıdadır. Bir güne tıklayarak o günün modüllerini ve içeriklerini görebilirsiniz.

Günün hedefiKatılımcı, ksqlDB ile STREAM/TABLE oluşturup akan veriyi SQL ile dönüştürebilir.
Modül 1
ksqlDB Temelleri
  • ksqlDB'nin Kafka Streams üzerine kurulu SQL motoru olması
  • CREATE STREAM ile topic'ten akış tanımlama
  • CREATE TABLE ile materyalize edilmiş durum
  • Push query (EMIT CHANGES) ve pull query farkı
  • Şema tanımı ve VALUE_FORMAT (AVRO/JSON) seçimi
  • ksqlDB CLI ve REST arayüzü
Modül 2
Dönüşüm Sorguları
  • SELECT ve WHERE ile akış filtreleme
  • CAST ve skaler fonksiyonlarla alan dönüşümü
  • Yeni STREAM'e yazarak türetilmiş akış oluşturma
  • PARTITION BY ile yeniden anahtarlama
  • EXPLODE ve dizi/harita işlemleri
  • AS SELECT ile kalıcı sorgu (persistent query)
Modül 3
JOIN İşlemleri
  • Stream-stream join'de zaman penceresi gereksinimi
  • Stream-table join ile zenginleştirme
  • Table-table join ile ilişkisel birleştirme
  • Join anahtarı ve co-partitioning gereği
  • INNER/LEFT join davranışları
  • Zenginleştirilmiş kaydın hedef akışa yazılması
Modül 4
Pencereli Toplamalar
  • TUMBLING window ile sabit aralıklı toplama
  • HOPPING window ile örtüşen pencereler
  • SESSION window ile etkinlik tabanlı gruplama
  • COUNT, SUM, AVG ile pencereli metrik
  • GRACE PERIOD ile geç veri toleransı
  • Pencere sonucunun TABLE olarak sorgulanması
Günün hedefiKatılımcı, Kafka Connect ile kaynak/hedef sistemleri bağlayıp CDC akışı kurabilir.
Modül 1
Connect Mimarisi
  • Source ve sink connector rolleri
  • Standalone ve distributed çalışma modu
  • Worker, connector ve task hiyerarşisi
  • Connect REST API ile connector yönetimi
  • Converter (Avro/JSON) ve Schema Registry entegrasyonu
  • Offset ve durum topic'lerinin yönetimi
Modül 2
JDBC Connector
  • JDBC source ile tablodan periyodik çekme
  • Incrementing ve timestamp modları
  • JDBC sink ile akıştan veri tabanına yazma
  • Upsert ve insert modları
  • Tablo/sütun eşleme ayarları
  • Bağlantı havuzu ve throughput ayarı
Modül 3
CDC ve Debezium
  • Change Data Capture'ın log tabanlı çalışması
  • Debezium ile MySQL/PostgreSQL binlog izleme
  • INSERT/UPDATE/DELETE olaylarının akışa dönüşmesi
  • Before/after durum alanlarının okunması
  • Snapshot ve streaming aşamaları
  • Tombstone ve silme olaylarının işlenmesi
Modül 4
SMT ve Dönüşüm
  • Single Message Transform (SMT) kavramı
  • ExtractField, MaskField ile alan dönüşümü
  • RenameField ve InsertField kullanımı
  • Routing SMT ile topic yönlendirme
  • SMT zincirleme ve sıra önemi
  • Converter ile SMT'nin birlikte çalışması
Günün hedefiKatılımcı, kaynak sistemden hedefe kadar gerçek zamanlı bir veri hattını tasarlayıp işletebilir.
Modül 1
Pipeline Mimarisi
  • Kaynak → Kafka → ksqlDB → hedef akış şeması
  • Topic topolojisinin ve isimlendirmenin tasarımı
  • Ham, işlenmiş ve zenginleştirilmiş katman ayrımı
  • Şema evrimi ve geriye uyumluluk planı
  • Idempotent yazma ile tekrar güvenliği
  • Pipeline'ın yeniden işlenebilirlik (replay) tasarımı
Modül 2
Dayanıklılık ve Garanti
  • Connector hatalarında dead letter queue kullanımı
  • ksqlDB kalıcı sorgularının hata toleransı
  • Exactly-once semantiğinin uçtan uca korunması
  • Offset yönetimi ile veri kaybının önlenmesi
  • Yeniden başlatmada durum kurtarma
  • Backpressure ve hız sınırlama
Modül 3
İzleme ve Operasyon
  • Connector durumunun REST API ile izlenmesi
  • ksqlDB sorgu metriklerinin okunması
  • Consumer lag ve throughput takibi
  • Hatalı kayıtların ayıklanması
  • Connector yeniden başlatma ve ölçekleme
  • Kaynak sistem yükünün izlenmesi
Modül 4
Örnek Senaryo
  • Sipariş veri tabanından CDC ile olay akışı
  • ksqlDB ile sipariş-müşteri zenginleştirmesi
  • Pencereli ciro ve adet toplamları
  • S3/JDBC sink ile hedefe yazma
  • Gerçek zamanlı gösterge için pull query
  • Uçtan uca gecikme ve doğruluğun doğrulanması

Eğitim Kazanımları

Program sonunda katılımcılar:

✅
ksqlDB

STREAM/TABLE oluşturup push/pull sorgularıyla akışı dönüştürürsünüz.

✅
SQL Akış

JOIN ve pencereli toplamalarla gerçek zamanlı metrik üretirsiniz.

✅
Connect

Source/sink connector'ları REST API ile kurup yönetirsiniz.

✅
CDC

Debezium ile veri tabanı değişimlerini akışa dönüştürürsünüz.

✅
SMT

Single Message Transform ile alan düzeyinde dönüşüm uygularsınız.

✅
Pipeline

Kaynak → Kafka → işleme → hedef uçtan uca hattı tasarlarsınız.

✅
Dayanıklılık

Dead letter queue ve exactly-once ile güvenilir hat kurarsınız.

✅
Operasyon

Connector ve sorgu metriklerini izleyip hattı ölçeklendirirsiniz.

Kimler İçin Uygundur?

  • Gerçek zamanlı veri hattı kuracak veri mühendisleri
  • entegrasyon geliştiricileri
  • Kafka tabanlı akış işleme tasarlayacak teknik ekipler için uygundur

Sıkça Sorulan Sorular

Bu eğitim kimler için uygundur?
Gerçek zamanlı veri hattı kuracak veri mühendisleri, entegrasyon geliştiricileri ve Kafka tabanlı akış işleme tasarlayacak ekipler için uygundur.
ksqlDB ile Kafka Streams farkı nedir?
ksqlDB, Kafka Streams motorunu SQL arayüzüyle sunar; kod yazmadan STREAM/TABLE tanımlayıp sorgu yazmayı sağlar, Streams ise programatik kontrol sunar.
CDC nedir ve neden kullanılır?
Change Data Capture, veri tabanı değişimlerini (insert/update/delete) log tabanlı olarak yakalar; Debezium ile bu değişimler Kafka'ya olay olarak akıtılır.
SMT ne işe yarar?
Single Message Transform, connector seviyesinde alan maskeleme, yeniden adlandırma ve yönlendirme gibi hafif dönüşümleri kod yazmadan uygulamayı sağlar.
Eğitim sonunda sertifika veriliyor mu?
Katılım ve değerlendirme sonrası Digital Vizyon Akademi Katılım ve Başarı Sertifikası verilir.

Sertifikalandırma

Bu eğitim Digital Vizyon Akademi Başarı Sertifikası ile tamamlanır.

Eğitim başında “Ön Test”, bitiminde “Son Test” uygulanarak gelişim ölçümlenir. Değerlendirme formunu dolduran katılımcılar sertifikalarını alır. Sertifikanızın geçerliliğini Sertifika Sorgulama sayfasından doğrulayabilirsiniz.

Örnek Sertifika d Digital Vizyon AKADEMİ KATILIM SERTİFİKASI Bu sertifika [Katılımcı Adı Soyadı] adlı katılımcının aşağıdaki eğitim programını başarıyla tamamladığını belgeler. KSQL ve Kafka Connect ile Entegrasyon ve Pipeline Tasarım Eğ Sertifika Kodu DV-2026XX00 Tarih 26.10.2026 Yetkili İmza DV AKADEMİ

Eğitim Bilgileri

Süre3 gün
SeviyeOrta Seviye
FormatOnline / Yüz Yüze / Hibrit
Sertifika✓ Var
Hemen Bilgi Al
İlgili Eğitimler

Bu Eğitimle Birlikte Tercih Edilenler

Büyük Veri TeknolojileriBig Data Fundamentals - Concepts, Drivers & Techniques Eğitimi
Veri ve Analitik Eğitimleri

Big Data Fundamentals - Concepts, Drivers & Techniques Eğitimi

3 günTemelOnline / Yüz Yüze / Hibrit

Büyük verinin temel kavramlarını, iş ve teknoloji itici güçlerini ve analitik tekniklerini öğrenin: 5V, veri madenciliği, ML ve görselleştirme. Temel seviye eği

Detayları Gör →
Büyük Veri TeknolojileriBig Data Fundamentals Eğitimi
Veri ve Analitik Eğitimleri

Big Data Fundamentals Eğitimi

3 günTemelOnline / Yüz Yüze / Hibrit

Büyük verinin temellerini uygulamalı öğrenin: 5V, HDFS, YARN, MapReduce, Spark, Hive ve Kafka ile dağıtık depolama ve işleme. Temel seviye DVA eğitimi.

Detayları Gör →
Büyük Veri TeknolojileriBig Data Information Architecture: Building an Architecture for Insight with Hadoop Eğitimi
Veri ve Analitik Eğitimleri

Big Data Information Architecture: Building an Architecture for Insight with Hadoop Eğitimi

4 günİleriOnline / Yüz Yüze / Hibrit

Hadoop üzerinde katmanlı bir içgörü mimarisi kurun: veri modelleme, Data Vault, entegrasyon, MDM, kalite, Hive/Impala servisi ve yönetişim. İleri seviye eğitim.

Detayları Gör →
Büyük Veri TeknolojileriBig Data Road Map Eğitimi
Veri ve Analitik Eğitimleri

Big Data Road Map Eğitimi

3 günOrtaOnline / Yüz Yüze / Hibrit

Büyük veri dönüşümünü vizyondan uygulamaya aşamalı bir yol haritasına dökün: dalga planı, kilometre taşları, bağımlılık, bütçe, risk ve KPI. Orta seviye eğitim.

Detayları Gör →
Büyük Veri TeknolojileriBig Data Sales Perspective Eğitimi
Veri ve Analitik Eğitimleri

Big Data Sales Perspective Eğitimi

2 günTemelOnline / Yüz Yüze / Hibrit

Büyük veri çözümlerini satış perspektifinden konumlandırın: değer önerisi, kullanım senaryoları, keşif, ROI ve itiraz yönetimi. Temel seviye DVA eğitimi.

Detayları Gör →
+90 (501) 369 40 14 WhatsApp [email protected] LinkedIn