TASKFLOW API, ADVANCED OPERATORS, & BUILDING EFFICIENT AIRFLOW PIPELINES EĞİTİMİ

Airflow pipeline'larını TaskFlow API ile verimli kurun

TaskFlow API, dinamik görev eşleme, gelişmiş operatörler, sensörler ve üretim kalitesinde Airflow pipeline tasarımı

TaskFlow API ve Airflow eğitiminde dekoratörlerle DAG yazımı, XCom, dinamik görev eşleme, branching, sensör ve deferrable operatörler, özel operatör, executor ayarları ve üretim testi uygulamalı işlenir.

3 gün İleri Seviye Online / Yüz Yüze / Hibrit Sertifikalı

Eğitim Hakkında

TaskFlow API, XCom, dinamik eşleme, operatörler, sensörler ve pipeline optimizasyonu

Bu eğitim, Apache Airflow 2.x ile modern ve verimli veri hattı geliştirmeyi anlatır. Katılımcılar @dag ve @task dekoratörleri, TaskFlow API ile otomatik XCom, dinamik görev eşleme (expand), task group, branching, sensör ve deferrable operatörler, özel operatör yazımı, Datasets ile veri tabanlı tetikleme, pool ve paralellik ayarları ile test ve CI/CD konularını uygular.

Süre ve Format

3 Gün. Her gün dört modül; 1. gün TaskFlow API ve Modern DAG Tasarımı; 2. gün Gelişmiş Operatörler ve Sensörler; 3. gün Verimli Pipeline ve Üretim.

Seviye

İleri Seviye — TaskFlow API, XCom, dinamik eşleme, operatörler, sensörler ve pipeline optimizasyonu

Öğrenme Metodu

Her konu Docker Compose ile çalışan bir Airflow ortamında, klasik operatörlerle yazılmış DAG'ların TaskFlow API'ye dönüştürülmesiyle işlenir.

Neden Bu Eğitim?

🎯Temiz DAG yazın

TaskFlow API ile boilerplate azalır, görevler arası veri aktarımı doğal Python olur.

🛠️Dinamik pipeline

Dinamik görev eşleme ile veri miktarına göre çalışma zamanında ölçeklenen görevler kurarsınız.

🚀Verimli çalıştırma

Deferrable operatör, pool ve paralellik ayarlarıyla kaynak kullanımı düşer.

Anahtar Konular

airflow taskflow apiapache airflow eğitimidinamik görev eşlemeairflow operatördeferrable operatorairflow xcomairflow datasetsairflow kubernetesexecutorveri pipelineairflow ci/cd
“İyi bir pipeline sessizce çalışır; kötüsü her gece sizi uyandırır.”

Ön Koşullar

Eğitimden verim almak için faydalı olacak bilgi ve ortam gereksinimleri

1
Python bilgisi

Fonksiyon, dekoratör ve tür ipuçları konusunda rahat Python bilgisi gerekir.

2
Airflow temelleri

DAG, task, operator ve scheduler kavramları bilinmelidir.

3
Veri işleme

SQL ve temel ETL/ELT kavramlarına aşinalık beklenir.

4
Docker

Docker Compose ile servis ayağa kaldırabilmek gerekir.

Eğitim İçeriği

Programın gün gün akışı aşağıdadır. Bir güne tıklayarak o günün modüllerini ve içeriklerini görebilirsiniz.

Günün hedefiKatılımcı, klasik DAG'ı TaskFlow API ile yeniden yazıp dinamik görevler üretir.
Modül 1
TaskFlow API
  • @dag ve @task dekoratörleri
  • otomatik XCom aktarımı
  • multiple_outputs
  • tür ipuçları ve serileştirme
  • klasik operatör ile TaskFlow karışık kullanım
  • @task.virtualenv ve @task.docker
Modül 2
XCom ve Veri Aktarımı
  • XCom boyut sınırları
  • özel XCom backend (S3, GCS)
  • XComArg ile bağımlılık
  • büyük veri için referans aktarma
  • Jinja şablon ve macros
  • ti.xcom_pull ile farkı
Modül 3
Dinamik Görev Eşleme
  • expand() ve partial()
  • expand_kwargs ile çoklu parametre
  • map_index_template
  • eşlenmiş görev sonuçlarını reduce etme
  • dosya listesine göre görev üretimi
  • sınırlar ve max_map_length
Modül 4
Zamanlama Modelleri
  • Cron ve timetable
  • data interval kavramı
  • catchup ve backfill
  • Datasets ile veri tabanlı tetikleme
  • mantıksal tarih hataları
  • depends_on_past ve wait_for_downstream
Günün hedefiKatılımcı, koşullu akış, sensör ve özel operatör geliştirerek karmaşık iş akışları kurar.
Modül 1
Akış Kontrolü
  • @task.branch ve BranchPythonOperator
  • trigger_rule (all_done, none_failed_min_one_success)
  • ShortCircuitOperator
  • TaskGroup ile gruplama
  • TriggerDagRunOperator
  • ExternalTaskSensor ile DAG bağımlılığı
Modül 2
Sensörler ve Deferrable
  • Poke, reschedule ve deferrable mod farkı
  • FileSensor ve S3KeySensor
  • Triggerer bileşeni
  • async trigger yazımı
  • sensör timeout ve soft_fail
  • worker slot tasarrufu
Modül 3
Özel Operatör ve Hook
  • BaseOperator genişletme
  • template_fields
  • execute metodu
  • Hook ile bağlantı soyutlama
  • Connections ve Variables yönetimi
  • operatörün birim testi
Modül 4
Veri Platformu Entegrasyonu
  • Postgres, BigQuery ve Snowflake operatörleri
  • dbt çalıştırma
  • Spark submit görevi
  • KubernetesPodOperator
  • SLA ve callback
  • uyarı bildirimleri (Slack, e-posta)
Günün hedefiKatılımcı, pipeline'ları ölçeklenebilir, test edilebilir ve üretime hazır hale getirir.
Modül 1
Performans Ayarı
  • parallelism, max_active_tasks, max_active_runs
  • pool ve priority_weight
  • scheduler yükü ve DAG parse süresi
  • top-level kodun maliyeti
  • idempotent görev tasarımı
  • yeniden deneme ve exponential backoff
Modül 2
Executor Seçimi
  • LocalExecutor, CeleryExecutor ve KubernetesExecutor karşılaştırması
  • kuyruk ve worker ayarları
  • kaynak sınırları
  • autoscaling
  • Airflow bileşenleri (webserver, scheduler, triggerer)
  • yüksek erişilebilirlik
Modül 3
Test ve Hata Ayıklama
  • DagBag yükleme testi
  • pytest ile görev testi
  • airflow tasks test
  • DAG bütünlüğü kontrolleri
  • görev yeniden çalıştırma stratejisi
  • mock bağlantılar
Modül 4
Dağıtım ve Gözlem
  • Git ile DAG dağıtımı ve CI/CD
  • Airflow API ile otomasyon
  • StatsD / Prometheus metrikleri
  • veri kalitesi kontrolleri (Great Expectations)
  • gizli bilgi yönetimi (Secrets Backend)
  • örnek uçtan uca ETL projesi

Eğitim Kazanımları

Program sonunda katılımcılar:

✅
TaskFlow yazımı

@dag ve @task ile temiz, tür ipuçlu DAG'lar yazabilirsiniz.

🧠
XCom yönetimi

Veri aktarımını XCom sınırlarına ve özel backend'e göre tasarlayabilirsiniz.

🔧
Dinamik eşleme

expand ve partial ile çalışma zamanında görev üretebilirsiniz.

📐
Akış kontrolü

Branching, trigger rule ve TaskGroup ile koşullu akışlar kurabilirsiniz.

🧪
Deferrable görevler

Sensörleri deferrable moda alıp worker kaynaklarından tasarruf edebilirsiniz.

🚀
Özel bileşen

Özel operatör ve hook geliştirip test edebilirsiniz.

🔍
Performans ayarı

Paralellik, pool ve executor ayarlarıyla Airflow verimini artırabilirsiniz.

📦
Üretim hazırlığı

DAG testlerini CI/CD hattına ekleyip izleme kurabilirsiniz.

Kimler İçin Uygundur?

  • Veri mühendisleri
  • Python geliştiricileri
  • Airflow ile iş akışı otomasyonu yapan DevOps/MLOps ekipleri için uygundur

Sıkça Sorulan Sorular

Bu eğitim kimler için uygundur?
Veri mühendisleri, Python geliştiricileri ve Airflow ile iş akışı otomasyonu yapan DevOps/MLOps ekipleri için uygundur.
Hangi Airflow sürümü kullanılır?
Airflow 2.x (güncel kararlı sürüm) kullanılır; TaskFlow API 2.0 ile gelen özellikler esas alınır.
Klasik operatörler anlatılacak mı?
Evet, klasik operatörlerle yazılmış DAG'ların TaskFlow'a dönüştürülmesi uygulamalı gösterilir.
Bulut hesabı gerekir mi?
Hayır, laboratuvarlar Docker Compose ile yerelde çalışır; bulut örnekleri isteğe bağlıdır.
Dinamik görev eşleme ne işe yarar?
Girdi sayısı çalışma anında belirlenen durumlarda (örneğin dosya listesi) her girdi için ayrı görev üretir.

Sertifikalandırma

Bu eğitim Digital Vizyon Akademi Başarı Sertifikası ile tamamlanır.

Eğitim başında “Ön Test”, bitiminde “Son Test” uygulanarak gelişim ölçümlenir. Değerlendirme formunu dolduran katılımcılar sertifikalarını alır. Sertifikanızın geçerliliğini Sertifika Sorgulama sayfasından doğrulayabilirsiniz.

Örnek Sertifika d Digital Vizyon AKADEMİ KATILIM SERTİFİKASI Bu sertifika [Katılımcı Adı Soyadı] adlı katılımcının aşağıdaki eğitim programını başarıyla tamamladığını belgeler. TaskFlow API, Advanced Operators, & Building Efficient Airfl Sertifika Kodu DV-2026XX00 Tarih 27.10.2026 Yetkili İmza DV AKADEMİ

Eğitim Bilgileri

Süre3 gün
Seviyeİleri Seviye
FormatOnline / Yüz Yüze / Hibrit
Sertifika✓ Var
Hemen Bilgi Al
İlgili Eğitimler

Bu Eğitimle Birlikte Tercih Edilenler

API ve Mikroservis MimarisiREST API - siteler arası bilgi alışverişinde kullanılan bir desen Eğitimi
Yazılım Geliştirme Eğitimleri

REST API - siteler arası bilgi alışverişinde kullanılan bir desen Eğitimi

2 günTemelOnline / Yüz Yüze / Hibrit

REST ile siteler arası bilgi alışverişi: HTTP, SOAP karşılaştırması, JSON/XML, CORS ve güvenlik. 2 gün uygulamalı eğitim, DVA Katılım ve Başarı Sertifikası.

Detayları Gör →
API ve Mikroservis MimarisiREST API: Architecture & Databases Deployment Eğitimi
Yazılım Geliştirme Eğitimleri

REST API: Architecture & Databases Deployment Eğitimi

3 günOrtaOnline / Yüz Yüze / Hibrit

REST API mimarisi ve veritabanıyla dağıtım: tasarım, güvenlik, test, konteyner ve izleme. 3 gün uygulamalı eğitim, DVA Katılım ve Başarı Sertifikası.

Detayları Gör →
API ve Mikroservis MimarisiREST API: Exploring the Basic Features Eğitimi
Yazılım Geliştirme Eğitimleri

REST API: Exploring the Basic Features Eğitimi

2 günBaşlangıçOnline / Yüz Yüze / Hibrit

REST API temel özellikleri: HTTP, kaynaklar, CRUD, durum kodları ve JSON/XML formatları. 2 gün uygulamalı eğitim, DVA Katılım ve Başarı Sertifikası.

Detayları Gör →
API ve Mikroservis MimarisiREST API: Working with Methods & Formatters Eğitimi
Yazılım Geliştirme Eğitimleri

REST API: Working with Methods & Formatters Eğitimi

2 günTemelOnline / Yüz Yüze / Hibrit

REST API metotları ve formatter'ları: idempotency, PATCH, içerik pazarlığı, JSON/XML ve hipermedya. 2 gün uygulamalı eğitim, DVA Katılım ve Başarı Sertifikası.

Detayları Gör →
API ve Mikroservis MimarisiREST Assured API Testing: Getting Started with REST Assured Testing Eğitimi
Yazılım Geliştirme Eğitimleri

REST Assured API Testing: Getting Started with REST Assured Testing Eğitimi

2 günTemelOnline / Yüz Yüze / Hibrit

REST Assured ile API test otomasyonuna giriş: given/when/then, Hamcrest, JSON doğrulama ve raporlama. 2 gün uygulamalı eğitim, DVA Katılım ve Başarı Sertifikası

Detayları Gör →
+90 (501) 369 40 14 WhatsApp [email protected] LinkedIn