Airflow ile veri hatlarını kodla orkestra edin
Airflow DAG yapısı, operator/sensor, cron/catchup/backfill zamanlama, branching, TaskGroup, XCom, TaskFlow API ve dinamik mapping ile orkestrasyonu öğreten eğitim.
Airflow DAG, task ve zamanlama mühendisliği
Bu eğitim Apache Airflow ile iş akışı orkestrasyonunu öğretir. DAG nesnesi, task, operator ve sensor kavramları; schedule_interval, catchup ve backfill mantığı ve execution_date/logical date işlenir. PythonOperator, BashOperator, branching (BranchPythonOperator), TaskGroup, XCom ile veri aktarımı, trigger_rule, retries ve SLA ele alınır. TaskFlow API ile dekoratör tabanlı DAG yazımı, connection/variable/hook kullanımı, dinamik task mapping, idempotent task tasarımı ve temel izleme/log inceleme uygulamalı gösterilir.
3 Gün. Her gün dört modül; DAG yazma ve zamanlama senaryoları labler içerir.
Orta Seviye — Airflow DAG tasarımı, operator/sensor kullanımı, zamanlama ve bağımlılık yönetimini kapsar.
Gerçek bir ETL akışını DAG olarak modelleyip zamanlama ve bağımlılıklarıyla çalıştırarak öğrenilir.
Karmaşık bağımlılıkları kod ile açık biçimde yönetirsiniz.
schedule, catchup ve backfill mantığını doğru kurarsınız.
retries, SLA ve idempotency ile dayanıklı hatlar yazarsınız.
Eğitimden verim almak için faydalı olacak bilgi ve ortam gereksinimleri
Fonksiyon ve modül düzeyinde Python bilgisi gerekir.
Veri hattı ve iş akışı mantığına aşinalık beklenir.
Temel Linux/komut satırı kullanımı faydalıdır.
Airflow (Docker/Astro) çalıştırabilen bir ortam gerekir.
Programın gün gün akışı aşağıdadır. Bir güne tıklayarak o günün modüllerini ve içeriklerini görebilirsiniz.
Program sonunda katılımcılar:
Okunabilir ve modüler DAG'ler tasarlarsınız.
İşe uygun operator ve sensor seçersiniz.
schedule, catchup ve backfill mantığını doğru kurarsınız.
Branching, TaskGroup ve trigger_rule ile akışı yönetirsiniz.
Task'lar arası veriyi XCom ile güvenli aktarırsınız.
Dekoratör tabanlı TaskFlow API ile DAG yazarsınız.
retry, SLA ve idempotency ile dayanıklı hatlar kurarsınız.
expand() ile dinamik task mapping uygularsınız.
Bu eğitim Digital Vizyon Akademi Başarı Sertifikası ile tamamlanır.
Eğitim başında “Ön Test”, bitiminde “Son Test” uygulanarak gelişim ölçümlenir. Değerlendirme formunu dolduran katılımcılar sertifikalarını alır. Sertifikanızın geçerliliğini Sertifika Sorgulama sayfasından doğrulayabilirsiniz.
Airflow'da özel operatör, hook, sensor, deferrable trigger ve plugin geliştirme; provider paketleme ve pytest/CI entegrasyonunu uygulamalı öğrenin.
Detayları Gör →Snowflake'e giriş: tablo oluşturma, COPY INTO ile veri yükleme, SQL sorgulama, virtual warehouse ve Snowsight dashboard'u uygulamalı öğrenin.
Detayları Gör →Snowflake mimarisi: depolama-hesaplama ayrımı, çok-kümeli warehouse, micro-partition, önbellekler, RBAC, zero-copy clone ve data sharing öğrenin.
Detayları Gör →Snowflake Time Travel ile veri kurtarma (UNDROP, AT/BEFORE, Fail-safe) ve SnowSQL CLI ile betik, PUT/GET ve otomasyonu uygulamalı öğrenin.
Detayları Gör →Databricks'te Hyperopt: arama uzayı, TPE ile fmin, SparkTrials ile dağıtık deneme ve MLflow izlemeyle ölçekli hiperparametre optimizasyonu öğrenin.
Detayları Gör →