DATA ERRORS & VALIDATION EĞİTİMİ

Kirli veriyi kaynağında yakalayın, güvenle analiz edin

Eksik, çelişkili ve aykırı değerleri tespit edip şema ve iş kuralı doğrulamasıyla veri kalitesini güvence altına alın

Eksik, çelişkili ve aykırı veriyi tespit edip Pydantic, JSON Schema ve Great Expectations ile doğrulama hattı kurmayı öğreten uygulamalı eğitim.

3 gün Orta Seviye Online / Yüz Yüze / Hibrit Sertifikalı

Eğitim Hakkında

Veri hatalarını sınıflandırmaktan otomatik doğrulama hattı kurmaya uzanan uygulamalı bir program

Bu eğitim, veri setlerindeki hataları sistematik biçimde tespit etme ve doğrulama kuralları ile önleme becerisi kazandırır. Eksik değerler (NULL/NaN), tip uyuşmazlıkları, aralık dışı değerler, tekrar eden kayıtlar, referans bütünlüğü ihlalleri ve aykırı değerler ele alınır. pandas ve Great Expectations ile veri profili çıkarma, Pydantic ve JSON Schema ile şema doğrulama, regex tabanlı format kontrolleri ve CHECK kısıtlarıyla kaynakta engelleme konuları işlenir. Katılımcı, CI hattına entegre edilebilen tekrarlanabilir bir doğrulama katmanı kurar.

Süre ve Format

3 Gün. Her gün dört modül; hata tipolojisi, profil çıkarma, kural tasarımı ve otomasyon üzerine uygulamalı atölye.

Seviye

Orta Seviye — veri hatası tipolojisi, doğrulama kuralları, şema denetimi ve otomatik veri kalitesi kontrolleri

Öğrenme Metodu

Gerçek kirli veri setleri üzerinde pandas ve Great Expectations ile laboratuvar çalışmaları yapılır.

Neden Bu Eğitim?

🔎Erken Tespit

Hataları analiz aşamasından önce yakalayarak yanlış karar riskini düşürürsünüz.

⚙️Otomasyon

Doğrulama kurallarını CI hattına taşıyıp her veri yüklemesinde tekrar çalıştırırsınız.

📏Ölçülebilir Kalite

Tamlık, tutarlılık ve doğruluk metrikleriyle veri kalitesini raporlarsınız.

Anahtar Konular

veri doğrulamadata validationveri kalitesigreat expectationspydanticpandasşema doğrulamaveri temizlemejson schemaaykırı değer
“Veriye güven, onu her adımda sınamaktan doğar.”

Ön Koşullar

Eğitimden verim almak için faydalı olacak bilgi ve ortam gereksinimleri

1
Temel SQL

SELECT, WHERE ve JOIN sorgularını yazabilmek faydalıdır.

2
Python/pandas

DataFrame ile temel veri okuma ve filtreleme deneyimi önerilir.

3
Veri kavramları

Tablo, sütun tipi ve birincil anahtar kavramlarına aşinalık gerekir.

4
Çalışma ortamı

Python 3.x, pandas ve Jupyter kurulu bir ortam gerekir.

Eğitim İçeriği

Programın gün gün akışı aşağıdadır. Bir güne tıklayarak o günün modüllerini ve içeriklerini görebilirsiniz.

Günün hedefiKatılımcı veri hatalarını türlerine göre sınıflandırır ve veri profili çıkarır.
Modül 1
Hata Türleri
  • Eksik değer: NULL, NaN, boş string ve sentinel (-999) ayrımı
  • Tip uyuşmazlığı: sayısal alanda metin, tarih formatı karışıklığı
  • Aralık/etki alanı ihlali: negatif yaş, 100 üzeri yüzde
  • Çelişki: şehir ile posta kodu tutarsızlığı
  • Tekrar eden kayıtlar ve bulanık (fuzzy) duplikasyon
  • Referans bütünlüğü: karşılığı olmayan foreign key değeri
Modül 2
Veri Profili
  • df.describe() ve df.info() ile hızlı özet
  • Sütun bazında null oranı: df.isna().mean()
  • Kardinalite ve benzersiz değer sayımı nunique()
  • value_counts() ile dağılım ve beklenmedik kategoriler
  • ydata-profiling ile otomatik profil raporu
  • Histogram ve kutu grafiğiyle aykırı değer görselleştirme
Modül 3
Tamlık ve Tutarlılık
  • Tamlık (completeness) oranı hesaplama
  • Tekillik (uniqueness) ve anahtar bütünlüğü kontrolü
  • Zaman damgalarında kronolojik tutarlılık
  • Çapraz alan tutarlılığı: başlangıç < bitiş tarihi
  • Birim tutarlılığı: kg/lb, TRY/USD karışıklığı
  • Metin alanlarında kodlama ve boşluk temizliği
Modül 4
Kalite Metrikleri
  • Altı boyut: tamlık, doğruluk, tutarlılık, güncellik, tekillik, geçerlilik
  • Her boyut için ölçüm formülü tanımlama
  • Kabul eşiği (threshold) belirleme
  • Kalite skor kartı (scorecard) oluşturma
  • Hata kaynağını izleme (lineage) notasyonu
  • Düzenli raporlama için metrik tablosu tasarımı
Günün hedefiKatılımcı şema ve iş kuralı tabanlı doğrulama kuralları tasarlar.
Modül 1
Şema Doğrulama
  • JSON Schema ile zorunlu alan ve tip tanımı
  • Pydantic model ile tip ve kısıt doğrulama
  • pandera ile DataFrame şema kontratı
  • Nullable, unique ve değer aralığı tanımları
  • Nested yapı ve dizi doğrulaması
  • Şema sürümleme ve geriye uyumluluk
Modül 2
Format Doğrulama
  • Regex ile e-posta, telefon, TC/vergi no kalıpları
  • Tarih/saat ayrıştırma ve ISO 8601 kontrolü
  • IBAN ve kredi kartı için checksum (Luhn)
  • Enum/etki alanı listesi ile değer kontrolü
  • Sayısal hassasiyet ve ondalık ayraç normalizasyonu
  • Unicode normalizasyonu ve karakter seti kontrolü
Modül 3
İş Kuralı Doğrulama
  • Alanlar arası kural: indirim <= toplam tutar
  • Koşullu zorunluluk: ülke=TR ise il zorunlu
  • Toplam/alt toplam mutabakatı
  • Zaman serisinde ani sıçrama (spike) kuralı
  • Referans tabloyla eşleşme (lookup) doğrulaması
  • Çoklu kayıt kuralı: müşteri başına tek aktif abonelik
Modül 4
Kaynakta Engelleme
  • SQL CHECK, NOT NULL ve UNIQUE kısıtları
  • FOREIGN KEY ile referans bütünlüğü
  • Trigger ile karmaşık doğrulama
  • Giriş formunda istemci + sunucu doğrulaması
  • API katmanında şema doğrulama (request validation)
  • Hata mesajı tasarımı ve kullanıcıya geri bildirim
Günün hedefiKatılımcı tekrarlanabilir bir doğrulama ve izleme hattı kurar.
Modül 1
Great Expectations
  • Expectation Suite oluşturma
  • expect_column_values_to_not_be_null kullanımı
  • expect_column_values_to_be_between ile aralık
  • expect_column_values_to_match_regex ile format
  • Checkpoint ile toplu çalıştırma
  • Data Docs ile otomatik kalite raporu
Modül 2
Veri Temizleme
  • Eksik değer doldurma: ortalama, medyan, ileri/geri doldurma
  • Aykırı değer için IQR ve z-skoru ile kırpma
  • Tekrar eden kayıt silme drop_duplicates()
  • Standartlaştırma: trim, lower, normalize
  • Bulanık eşleştirme ile tekilleştirme (recordlinkage)
  • Düzeltme log'u ve orijinal değer saklama
Modül 3
Hat Entegrasyonu
  • Doğrulamayı ETL adımı olarak ekleme
  • Başarısız doğrulamada hattı durdurma (fail-fast)
  • Karantina (quarantine) tablosuna yönlendirme
  • CI/CD içinde pre-merge veri testi
  • Airflow DAG içinde doğrulama görevi
  • Sürüm ve veri değişiklik takibi
Modül 4
İzleme ve Uyarı
  • Kalite metriklerini zaman serisi olarak kaydetme
  • Eşik aşımında e-posta/Slack uyarısı
  • Kalite panosu (dashboard) kurulumu
  • Veri drift ve dağılım kayması tespiti
  • SLA ve kalite hedeflerini raporlama
  • Kök neden analizi ve geri bildirim döngüsü

Eğitim Kazanımları

Program sonunda katılımcılar:

✅
Hata Sınıflandırma

Veri hatalarını türlerine göre sistematik olarak sınıflandırabilirsiniz.

✅
Profil Çıkarma

Bir veri setinin kalite profilini pandas ile hızla çıkarabilirsiniz.

✅
Şema Doğrulama

Pydantic ve JSON Schema ile şema kontratları tanımlayabilirsiniz.

✅
Format Kontrolü

Regex ve checksum ile format ve geçerlilik denetimi yapabilirsiniz.

✅
İş Kuralı

Alanlar arası ve koşullu iş kurallarını kodlayabilirsiniz.

✅
Kaynakta Engelleme

SQL kısıtları ile hatalı veriyi girişte engelleyebilirsiniz.

✅
Otomasyon

Great Expectations ile tekrarlanabilir doğrulama hattı kurabilirsiniz.

✅
İzleme

Kalite metriklerini izleyip eşik aşımında uyarı üretebilirsiniz.

Kimler İçin Uygundur?

  • Veri analistleri
  • veri mühendisleri
  • veri kalitesinden sorumlu yazılımcılar için uygundur

Sıkça Sorulan Sorular

Bu eğitim kimler için uygundur?
Veri analistleri, veri mühendisleri ve veri kalitesinden sorumlu yazılımcılar için uygundur.
Hangi araçlar kullanılıyor?
pandas, ydata-profiling, Pydantic, pandera, JSON Schema ve Great Expectations kullanılır.
Önceden Python bilmek şart mı?
Temel pandas deneyimi yeterlidir; ileri Python gerekmez.
Doğrulama CI hattına entegre edilebilir mi?
Evet, Great Expectations checkpoint'leri CI/CD ve Airflow içinde çalıştırılır.
Sertifika veriliyor mu?
Eğitim sonunda Digital Vizyon Akademi Katılım ve Başarı Sertifikası verilir.

Sertifikalandırma

Bu eğitim Digital Vizyon Akademi Başarı Sertifikası ile tamamlanır.

Eğitim başında “Ön Test”, bitiminde “Son Test” uygulanarak gelişim ölçümlenir. Değerlendirme formunu dolduran katılımcılar sertifikalarını alır. Sertifikanızın geçerliliğini Sertifika Sorgulama sayfasından doğrulayabilirsiniz.

Örnek Sertifika d Digital Vizyon AKADEMİ KATILIM SERTİFİKASI Bu sertifika [Katılımcı Adı Soyadı] adlı katılımcının aşağıdaki eğitim programını başarıyla tamamladığını belgeler. Data Errors & Validation Eğitimi Sertifika Kodu DV-2026XX00 Tarih 26.10.2026 Yetkili İmza DV AKADEMİ

Eğitim Bilgileri

Süre3 gün
SeviyeOrta Seviye
FormatOnline / Yüz Yüze / Hibrit
Sertifika✓ Var
Hemen Bilgi Al
İlgili Eğitimler

Bu Eğitimle Birlikte Tercih Edilenler

Veri Analizi ve İstatistikImplementing a Lakehouse with Microsoft Fabric - Applied Skills Workshop Eğitimi
Veri ve Analitik Eğitimleri

Implementing a Lakehouse with Microsoft Fabric - Applied Skills Workshop Eğitimi

2 günOrtaOnline / Yüz Yüze / Hibrit

Senaryo tabanlı Fabric Lakehouse atölyesi: gerçek iş vakasında veri alımı, medallion dönüşüm, optimizasyon ve DirectLake raporlamayı challenge formatında uygula

Detayları Gör →
Veri Analizi ve İstatistikImplementing BI Infrastructure Eğitimi
Veri ve Analitik Eğitimleri

Implementing BI Infrastructure Eğitimi

3 günOrtaOnline / Yüz Yüze / Hibrit

Veri ambarı, boyutsal modelleme, ETL, SSAS semantic model, raporlama, gateway, RLS güvenlik ve izleme ile kurumsal BI altyapısını uçtan uca kurmayı öğrenin.

Detayları Gör →
Veri Analizi ve İstatistikImplementing Information Protection and Data loss Prevention by using Microsoft Purview - Applied Skills workshop Eğitimi
Veri ve Analitik Eğitimleri

Implementing Information Protection and Data loss Prevention by using Microsoft Purview - Applied Skills workshop Eğitimi

3 günOrtaOnline / Yüz Yüze / Hibrit

Microsoft Purview ile sınıflandırma, duyarlılık etiketleri, otomatik etiketleme, DLP politikaları, endpoint DLP ve olay yönetimini senaryo tabanlı uygulayın.

Detayları Gör →
Veri Analizi ve İstatistikImplementing Real Time Intelligence with Microsoft Fabric - Applied Skills Workshop Eğitimi
Veri ve Analitik Eğitimleri

Implementing Real Time Intelligence with Microsoft Fabric - Applied Skills Workshop Eğitimi

2 günOrtaOnline / Yüz Yüze / Hibrit

Senaryo tabanlı Fabric Real-Time Intelligence atölyesi: akış vakasında Eventstream, Eventhouse/KQL, zaman serisi, pano ve Data Activator'ı challenge formatında

Detayları Gör →
Veri Analizi ve İstatistikImporting & Exporting Data Eğitimi
Veri ve Analitik Eğitimleri

Importing & Exporting Data Eğitimi

2 günTemelOnline / Yüz Yüze / Hibrit

CSV, JSON, XML, Excel, veritabanı ve API'den veri içe/dışa aktarma, karakter kodlama, Türkçe karakter ve doğrulama tekniklerini uygulamalı öğrenin.

Detayları Gör →
+90 (501) 369 40 14 WhatsApp [email protected] LinkedIn