Yapay Zeka Sistem Sertleştirme ve Bütünlük Eğitimi

Eğitim Hakkında

Bu eğitim, yapay zeka platformlarını veri toplama aşamasından model servislemeye kadar sertleştirmek ve veri ile modelin bütünlüğünü doğrulanabilir kılmak isteyen güvenlik ve platform ekipleri için hazırlanmış ileri düzey bir programdır. Katılımcılar tedarik zinciri kontrolleri, model imzalama, Kubernetes ve servis sertleştirme, izleme ve YZ olay müdahalesini uygulamalı olarak kurar.

Neden Bu Eğitim?

Uçtan Uca Bütünlük. Veri kökeninden model imzasına ve AI-BOM'a kadar YZ tedarik zincirinin her halkasını doğrulanabilir kılın.

Katmanlı Sertleştirme. Eğitim kümeleri, model servisleri ve etmen çalışma zamanı için somut ve denetlenebilir kontroller uygulayın.

Olaya Hazırlık. YZ'ye özgü tespit kuralları, geri alma prosedürleri ve tatbikatlarla olası bir olaya hazırlıklı olun.

“Güvenilir yapay zeka iyi niyetle değil; kökeni kanıtlanmış veri, imzalı modeller ve her katmanda sertleştirilmiş altyapıyla kurulur.”

Ön Koşullar

Linux ve Konteyner — Linux komut satırı, Docker imajları ve konteyner çalışma mantığında uygulamalı deneyim.
Kubernetes Temeli — Pod, servis, isim alanı ve kubectl ile temel küme yönetimi konularına aşinalık.
Güvenlik Bilgisi — Kimlik ve erişim yönetimi, şifreleme ve güvenli yapılandırma ilkelerini biliyor olmak.
ML Yaşam Döngüsü — Model eğitimi, model kaydı ve servisleme adımlarının genel işleyişine kavramsal aşinalık.

Eğitim İçeriği

Programın gün gün akışı aşağıdadır. Bir güne tıklayarak o günün modüllerini ve içeriklerini görebilirsiniz.

Günün hedefiYZ platformunun varlıklarını ve güven sınırlarını belirlemek, tehdit modeli çıkarmak, standartlara dayalı güvenlik temel çizgisi oluşturmak ve erişim kontrollerini kurmak.

Modül 1

YZ Sistemlerinin Güvenlik Mimarisi

YZ yaşam döngüsü bileşenleri: veri, eğitim, kayıt ve servis
Varlık envanteri: veri seti, model, istem ve vektör veritabanı
Güven sınırları ve ayrıcalıklı bileşenlerin belirlenmesi
Bulut YZ servislerinde paylaşılan sorumluluk modeli
Güvenli referans mimari: ağ bölütleme ve sıfır güven
Vaka: ShadowRay ile açıkta kalan Ray kümelerinin istismarı

Modül 2

Tehdit Modelleme ve Risk Değerlendirmesi

MITRE ATLAS ve OWASP listeleriyle tehdit kataloğu
STRIDE ile YZ bileşeni bazlı tehdit analizi
NIST AI RMF ile risk haritalama ve önceliklendirme
Google SAIF ve benzeri güvenli YZ çerçeveleri
Risk kaydı ve kontrol eşleme matrisi
Atölye: Kurumsal YZ platformu için tehdit modeli

Modül 3

Güvenlik Temel Çizgisi ve Standartlar

ISO/IEC 42001 YZ yönetim sistemi kontrolleri
ISO/IEC 27001 kontrollerinin YZ varlıklarına uyarlanması
CIS Benchmark ile Linux, Docker ve Kubernetes sertleştirme
NCSC ve CISA güvenli YZ sistem geliştirme rehberi
EU AI Act Madde 15: doğruluk, sağlamlık ve siber güvenlik
Uygulama: YZ güvenlik temel çizgisi kontrol listesi

Modül 4

Kimlik, Erişim ve Gizli Bilgi Yönetimi

Veri, model ve servisler için en az yetki ve RBAC
İş yükü kimliği ve kısa ömürlü kimlik bilgileri
HashiCorp Vault ile API anahtarı ve gizli bilgi yönetimi
Not defteri ortamlarında kimlik bilgisi sızıntısı riski
Laboratuvar: Model servisine yetkilendirme katmanı ekleme
Günün değerlendirmesi ve tedarik zinciri gününe köprü

Günün hedefiVeri kökenini ve kalitesini doğrulamak, zararlı model dosyalarını tespit etmek, modelleri imzalayıp dağıtımda doğrulamak ve YZ malzeme listesiyle bağımlılıkları yönetmek.

Modül 1

Veri Bütünlüğü ve Köken Takibi

Eğitim verisinin kaynağı, lisansı ve köken (provenance) kaydı
DVC ile veri sürümleme ve özet (hash) doğrulama
Veri doğrulama: şema, dağılım ve anomali kontrolleri
Zehirleme belirtilerini yakalayan veri kalite kapıları
Etiketleme süreçlerinde içeriden tehdit kontrolleri
Laboratuvar: Great Expectations ile veri doğrulama kapısı

Modül 2

Model Dosyası Güvenliği

Pickle serileştirmesinde keyfi kod yürütme riski
safetensors ve ONNX gibi daha güvenli model formatları
ModelScan ve Fickling ile zararlı model taraması
Hugging Face deposu kullanımında güvenlik kontrolleri
Model dosyalarında gizlenmiş arka kapı ve bütünlük riski
Laboratuvar: Zararlı pickle dosyasının tespiti ve dönüşümü

Modül 3

Model İmzalama ve Kaynak Doğrulama

Sigstore ve OpenSSF model imzalama yaklaşımı
SLSA seviyeleri ile yapı (build) bütünlüğü
in-toto ile eğitim hattı adımlarının doğrulanması
Model kaydında imza doğrulamalı yükleme politikası
Kubernetes kabul denetleyicisiyle imzasız modeli engelleme
Laboratuvar: Modeli imzalama ve dağıtımda doğrulama

Modül 4

YZ Malzeme Listesi ve Bağımlılıklar

CycloneDX ML-BOM ve SPDX 3.0 AI profili ile AI-BOM
ML kütüphanelerinde bağımlılık ve zafiyet taraması
Trivy ve Grype ile konteyner imajı taraması
Üçüncü taraf model ve API sağlayıcı risk değerlendirmesi
Laboratuvar: Bir ML hizmeti için AI-BOM oluşturma
Günün özeti ve altyapı sertleştirme gününe hazırlık

Günün hedefiEğitim altyapısını ve model servislerini sertleştirmek, LLM ve etmen çalışma zamanı kontrollerini uygulamak ve güvenlik ile bütünlük testlerini CI hattına eklemek.

Modül 1

Eğitim Altyapısının Sertleştirilmesi

GPU kümeleri, Ray ve Kubeflow bileşenlerinin saldırı yüzeyi
Kubernetes ağ politikaları ve isim alanı yalıtımı
Jupyter ve MLflow arayüzlerinin kimlik doğrulamayla korunması
Kontrol noktası (checkpoint) ve depolama şifrelemesi
Çok kiracılı GPU paylaşımında yalıtım riskleri
Laboratuvar: kube-bench ile küme sertleştirme denetimi

Modül 2

Model Servisleme Güvenliği

vLLM, Triton ve KServe için güvenli yapılandırma
API ağ geçidi, oran sınırlama ve kötüye kullanım koruması
Model çalma ve aşırı sorgulamaya karşı savunmalar
Girdi boyutu sınırları ve kaynak tüketme saldırıları
Konteyner sertleştirme: salt okunur ve root olmayan çalışma
Laboratuvar: Sertleştirilmiş model servis dağıtımı

Modül 3

LLM ve Etmen Çalışma Zamanı Kontrolleri

Sistem istemi, araç çıktısı ve bağlam için güven ayrımı
Araç çağrılarında izin listesi ve yetki sınırlama
RAG veri kaynaklarında belge düzeyi yetkilendirme
Girdi-çıktı koruma rayları ve politika motoru
MCP sunucularının yalıtımı ve güven doğrulaması
Laboratuvar: Etmen aracını gVisor kum havuzunda yalıtma

Modül 4

Sağlamlık ve Bütünlük Testleri

Dağıtım öncesi güvenlik kabul testleri
Çekişmeli sağlamlık testlerinin CI hattına eklenmesi
Kırmızı takım bulgularının sertleştirme işlerine dönüşümü
Model davranış regresyonu ve beklenmeyen değişiklik tespiti
Uygulama: CI hattında güvenlik ve bütünlük kapıları
Günün değerlendirmesi ve izleme ile müdahale gününe köprü

Günün hedefiYZ bileşenlerine özgü izleme ve tespit kuralları kurmak, YZ olay müdahale planını tatbik etmek, denetim kanıtlarını hazırlamak ve sertleştirme projesini sunmak.

Modül 1

Güvenlik İzleme ve Tespit

YZ bileşenleri için kayıt stratejisi: istem, araç ve erişim
OpenTelemetry ile model ve etmen iz kayıtları
SIEM'de YZ bileşenlerine özgü tespit kuralları
Falco ile konteyner çalışma zamanı anomali tespiti
Model ağırlıklarında yetkisiz değişiklik izleme
Laboratuvar: Şüpheli model erişimi için tespit kuralı

Modül 2

YZ Olay Müdahalesi

YZ olay türleri: sızıntı, zehirleme, jailbreak, kötüye kullanım
Olay müdahale planının YZ senaryolarına uyarlanması
Modeli geri alma, devre dışı bırakma ve karantinaya alma
Adli inceleme: istem kayıtları, model sürümü, veri kökeni
Bildirim yükümlülükleri: KVKK ve EU AI Act ciddi olay
Tatbikat: Zehirlenmiş model senaryosunda masa başı çalışma

Modül 3

Denetim, Uyum ve Sürekli İyileştirme

ISO/IEC 42001 iç denetimi için kanıt toplama
Model kartı, sistem kartı ve güvenlik dokümantasyonu
Güvenlik metrikleri ve yönetime raporlama
Tedarikçi ve üçüncü taraf YZ hizmeti denetimi
Olgunluk modeli ile sertleştirme yol haritası
Atölye: YZ güvenlik olgunluğu öz değerlendirmesi

Modül 4

Sertleştirme Projesi ve Kapanış

Grup projesi: örnek YZ platformunun uçtan uca sertleştirilmesi
Tehdit modeli, kontrol matrisi ve kalan risk raporu
Proje sunumları ve teknik geri bildirim oturumu
Eğitim değerlendirmesi ve interaktif Soru-Cevap
Sertifika takdimi ve kontrol listelerinin teslimi
İleri öğrenme kaynakları ve kapanış oturumu

Eğitim Kazanımları

Mimari ve Tehdit Modeli — YZ platformunun varlıklarını, güven sınırlarını ve tehditlerini ATLAS ve STRIDE ile haritalayabileceksiniz.
Güvenlik Temel Çizgisi — ISO/IEC 42001, CIS Benchmark ve EU AI Act Madde 15'e dayalı ölçülebilir bir kontrol seti tanımlayabileceksiniz.
Veri Bütünlüğü — DVC ve veri doğrulama kapılarıyla eğitim verisinin kökenini, sürümünü ve kalitesini güvence altına alabileceksiniz.
Model Dosyası Güvenliği — ModelScan ve Fickling ile zararlı model dosyalarını tespit edip safetensors gibi güvenli formatlara geçebileceksiniz.
İmza ve Köken — Sigstore, SLSA ve kabul denetleyicileriyle yalnızca doğrulanmış modellerin dağıtılmasını sağlayabileceksiniz.
Altyapı Sertleştirme — Kubernetes, model servisleri ve etmen çalışma zamanı için yalıtım ve erişim kontrollerini uygulayabileceksiniz.
İzleme ve Tespit — OpenTelemetry ve Falco ile YZ bileşenlerine özgü şüpheli etkinlikleri tespit eden kurallar yazabileceksiniz.
Olay Müdahalesi — Model geri alma, adli inceleme ve bildirim adımlarını içeren bir YZ olay müdahale planı hazırlayacaksınız.

Kimler İçin Uygundur?

Bulut ve platform güvenlik mühendisleri
DevSecOps ve MLOps ekipleri
güvenlik mimarları
SOC ve olay müdahale uzmanları ile YZ platformu işleten altyapı ekipleri.

Sıkça Sorulan Sorular

Yapay Zeka Sistem Sertleştirme ve Bütünlük Eğitimi kimler için uygundur?

Program; bulut ve platform güvenlik mühendisleri, DevSecOps ve MLOps ekipleri, güvenlik mimarları, SOC ve olay müdahale uzmanları ile kurum içinde yapay zeka platformu işleten altyapı ekipleri için tasarlanmıştır.

Eğitim ne kadar sürer ve nasıl ilerler?

Eğitim 4 tam gün ve 16 modülden oluşur. Güvenlik mimarisi ve temel çizgi, veri ve model tedarik zinciri bütünlüğü, altyapı ile çalışma zamanı sertleştirme ve son gün izleme, olay müdahalesi, denetim ve sertleştirme projesi işlenir.

Katılım için hangi teknik bilgiler gerekiyor?

Linux komut satırı, Docker ve temel Kubernetes yönetimi deneyimi ile kimlik ve erişim yönetimi gibi bilgi güvenliği ilkelerine hakimiyet beklenir. Model geliştirme deneyimi gerekmez; ML yaşam döngüsüne kavramsal aşinalık yeterlidir.

Bu eğitim Yapay Zeka Güvenliği: İleri Teknikler Eğitimi'nden nasıl ayrılır?

İleri Teknikler programı saldırı yöntemlerini ve model düzeyindeki savunmaları araştırma derinliğinde işler. Bu program ise savunma ve operasyon odaklıdır; tedarik zinciri, altyapı, servis ve çalışma zamanı sertleştirmesi ile izleme ve olay müdahalesini ele alır.

Eğitimde hangi araçlar kullanılıyor, sertifika veriliyor mu?

DVC, Great Expectations, ModelScan, Fickling, Sigstore, in-toto, CycloneDX, Trivy, kube-bench, HashiCorp Vault, gVisor, OpenTelemetry ve Falco kullanılır. Programı tamamlayan katılımcılar Digital Vizyon Akademi sertifikası alır.

Sertifikalandırma

Bu eğitim Katılım Sertifikası ile tamamlanır.

Eğitim başında “Ön Test”, bitiminde “Son Test” uygulanarak gelişim ölçümlenir. Değerlendirme formunu dolduran katılımcılar sertifikalarını alır. Sertifikanızın geçerliliğini Sertifika Sorgulama sayfasından doğrulayabilirsiniz.

Örnek Sertifika

YAPAY ZEKA SİSTEM SERTLEŞTİRME VE BÜTÜNLÜK EĞİTİMİ

Eğitim Hakkında

Neden Bu Eğitim?

Ön Koşullar

Eğitim İçeriği

YZ Sistemlerinin Güvenlik Mimarisi

Tehdit Modelleme ve Risk Değerlendirmesi

Güvenlik Temel Çizgisi ve Standartlar

Kimlik, Erişim ve Gizli Bilgi Yönetimi

Veri Bütünlüğü ve Köken Takibi

Model Dosyası Güvenliği

Model İmzalama ve Kaynak Doğrulama

YZ Malzeme Listesi ve Bağımlılıklar

Eğitim Altyapısının Sertleştirilmesi

Model Servisleme Güvenliği

LLM ve Etmen Çalışma Zamanı Kontrolleri

Sağlamlık ve Bütünlük Testleri

Güvenlik İzleme ve Tespit

YZ Olay Müdahalesi

Denetim, Uyum ve Sürekli İyileştirme

Sertleştirme Projesi ve Kapanış

Eğitim Kazanımları

Kimler İçin Uygundur?

Sıkça Sorulan Sorular

Sertifikalandırma

Eğitim Bilgileri

Benzer Programlar

Yapay Zeka Güvenliğine Giriş Eğitimi

Yapay Zeka Kurumsal Strateji Yönetimi Eğitimi

Yapay Zeka Küresel Yönetişim Çerçeveleri Eğitimi