Yapay Zeka Güvenliği: İleri Teknikler Eğitimi

Eğitim Hakkında

Bu eğitim, makine öğrenmesi modellerine ve LLM sistemlerine yönelik ileri saldırı tekniklerini ve etkili savunmaları derinlemesine öğrenmek isteyen güvenlik araştırmacıları için hazırlanmış ileri düzey bir programdır. Katılımcılar kaçınma, zehirleme, arka kapı, gizlilik ve LLM jailbreak saldırılarını kontrollü laboratuvarlarda uygular ve savunmaları uyarlanabilir saldırılarla test eder.

Neden Bu Eğitim?

Araştırma Derinliği. PGD, AutoAttack, GCG ve LiRA gibi literatürde referans kabul edilen saldırıları kodla uygulayarak öğrenin.

Dürüst Değerlendirme. Gradyan maskeleme gibi tuzaklardan kaçınarak savunmaları uyarlanabilir saldırılarla gerçekçi biçimde ölçün.

Etmen Çağına Hazır. Araç zehirleme, bellek manipülasyonu ve çok modlu enjeksiyon gibi etmen sistemlerine özgü saldırıları tanıyın.

“Bir savunmanın değeri, onu tasarlayanın değil, onu aşmak için en iyi çabayı gösteren saldırganın karşısında ortaya çıkar.”

Ön Koşullar

Derin Öğrenme — PyTorch ile CNN ve transformer modelleri eğitmiş, gradyan ve optimizasyon mantığını bilmek.
Güvenlik Deneyimi — Tehdit modelleme, sızma testi veya güvenlik araştırması alanında uygulamalı deneyim.
LLM Güvenliği Temeli — OWASP LLM Top 10 ve istem enjeksiyonu kavramlarına pratik düzeyde aşinalık.
GPU Ortamı — En az 16 GB bellekli GPU erişimi olan bulut not defteri veya iş istasyonu.

Eğitim İçeriği

Programın gün gün akışı aşağıdadır. Bir güne tıklayarak o günün modüllerini ve içeriklerini görebilirsiniz.

Günün hedefiÇekişmeli ML tehdit modelini kurmak, beyaz ve kara kutu kaçınma saldırılarını uygulamak ve çekişmeli eğitim ile sertifikalı sağlamlık savunmalarını değerlendirmek.

Modül 1

Çekişmeli Makine Öğrenmesi Temelleri

Tehdit modeli: saldırgan bilgisi, yeteneği ve hedefi
Beyaz kutu, gri kutu ve kara kutu saldırı senaryoları
Lp normları ve algılanamaz bozulma (perturbation)
NIST AI 100-2 çekişmeli makine öğrenmesi taksonomisi
Adversarial Robustness Toolbox (ART) mimarisine giriş
Laboratuvar: ART ortamı ve hedef modellerin hazırlanması

Modül 2

Gradyan Tabanlı Kaçınma Saldırıları

FGSM ve yinelemeli PGD saldırılarının matematiği
Carlini-Wagner optimizasyon tabanlı saldırısı
AutoAttack ile güvenilir sağlamlık ölçümü
Hedefli ve hedefsiz saldırılar, başarı metrikleri
Gradyan maskeleme ve yanıltıcı savunma değerlendirmeleri
Laboratuvar: PGD ile görüntü sınıflandırıcıya saldırı

Modül 3

Kara Kutu ve Fiziksel Dünya Saldırıları

Aktarılabilirlik (transferability) ve vekil model saldırıları
Sorgu tabanlı saldırılar: HopSkipJump ve skor tabanlı yöntemler
Çekişmeli yamalar ve nesne tespit modellerine saldırı
Zararlı yazılım sınıflandırıcılarına kaçınma teknikleri
TextAttack ile NLP modellerine çekişmeli saldırılar
Laboratuvar: Kara kutu API'ye sorgu tabanlı saldırı

Modül 4

Kaçınma Saldırılarına Karşı Savunmalar

Çekişmeli eğitim (adversarial training) ve maliyeti
Rastgele yumuşatma ile sertifikalı sağlamlık
Girdi dönüşümü ve tespit tabanlı savunmaların sınırları
RobustBench ile sağlamlık kıyaslaması
Laboratuvar: Çekişmeli eğitimle sağlamlığı iyileştirme
Günün değerlendirmesi ve zehirleme gününe köprü

Günün hedefiEğitim verisini ve model yaşam döngüsünü hedef alan zehirleme ve arka kapıları denemek, gizlilik saldırılarıyla veri sızıntısını ölçmek ve model bütünlüğünü korumak.

Modül 1

Veri Zehirleme Saldırıları

Erişilebilirlik ve bütünlük hedefli zehirleme
Etiket çevirme ve gradyan eşleştirmeli zehirleme
Temiz etiketli (clean-label) zehirleme saldırıları
Web ölçekli veri setlerinde zehirleme riski
Veri temizleme ve sağlam istatistik tabanlı savunmalar
Laboratuvar: Etiket çevirme zehirlemesinin etkisini ölçme

Modül 2

Arka Kapı Saldırıları ve Tespiti

BadNets ve tetikleyici tabanlı arka kapı mekanizması
Görünmez tetikleyiciler ve dinamik arka kapılar
Önceden eğitilmiş modellerde ve ince ayarda arka kapı
Neural Cleanse ve aktivasyon kümeleme ile tespit
İnce budama (fine-pruning) ile arka kapı giderme
Laboratuvar: Arka kapı yerleştirme ve tespit denemesi

Modül 3

Gizlilik ve Model Çıkarım Saldırıları

Üyelik çıkarımı: gölge model ve LiRA yaklaşımı
Model tersine çevirme (model inversion) saldırıları
Model çalma: sorgu tabanlı işlev kopyalama
LLM'lerden eğitim verisi çıkarımı ve ezber ölçümü
Diferansiyel gizlilik ve çıktı kısıtlamasıyla savunma
Laboratuvar: ML Privacy Meter ile gizlilik denetimi

Modül 4

Model Bütünlüğü ve Fikri Mülkiyet Koruması

Model filigranlama (watermarking) ve parmak izi
LLM çıktılarında filigran ve tespit yöntemleri
Model imzalama ve kriptografik bütünlük doğrulama
Serileştirme saldırıları: pickle riskleri ve safetensors
Vaka: Açık model deposundan zararlı model yüklenmesi
Günün özeti ve LLM saldırıları gününe hazırlık

Günün hedefiLLM'lere optimizasyon tabanlı ve otomatik jailbreak saldırıları uygulamak, etmenlere saldırı zincirleri kurmak ve kurumsal YZ kırmızı takım programı tasarlamak.

Modül 1

Büyük Dil Modellerine Optimizasyon Saldırıları

GCG ile otomatik çekişmeli sonek (suffix) üretimi
Çok örnekli (many-shot) jailbreak ve uzun bağlam riski
LLM ile LLM'e saldırı: PAIR ve TAP yaklaşımları
Güvenlik hizalamasını bozan ince ayar saldırıları
Açık ağırlıklı modellerde güvenlik korumasının kaldırılması
Laboratuvar: Açık ağırlıklı modelde otomatik jailbreak

Modül 2

Etmen ve Çok Modlu Sistem Saldırıları

Dolaylı istem enjeksiyonu zincirleri ve veri sızdırma
Araç zehirleme ve MCP sunucu güven zinciri saldırıları
Bellek zehirlemesi ve kalıcı etmen manipülasyonu
Görsel ve ses girdileriyle çok modlu enjeksiyon
AgentDojo ile etmen güvenliği kıyaslaması
Laboratuvar: Araç kullanan etmende saldırı zinciri

Modül 3

İleri Savunmalar ve Güvenli Etmen Mimarisi

Talimat hiyerarşisi ve güvenilmeyen içerik ayrımı
CaMeL gibi yetenek tabanlı güvenli etmen tasarımları
Temsil mühendisliği ve devre kesici yaklaşımları
Saldırı tespiti için sınıflandırıcı ve anomali izleme
Savunmaların uyarlanabilir saldırılarla değerlendirilmesi
Laboratuvar: Savunmanın uyarlanabilir saldırıyla testi

Modül 4

YZ Kırmızı Takım Programı ve Kapanış

Kurumsal YZ kırmızı takım programının kapsamı ve kuralları
MITRE ATLAS vaka çalışmalarıyla tehdit istihbaratı
Bulgu derecelendirme, raporlama ve sorumlu ifşa süreci
Uygulama: Kapsamlı YZ saldırı değerlendirme raporu
Eğitim değerlendirmesi, Soru-Cevap ve sertifika takdimi
İleri araştırma kaynakları ve kapanış oturumu

Eğitim Kazanımları

Tehdit Modelleme — Saldırganın bilgi, yetenek ve hedefine göre çekişmeli ML tehdit modellerini NIST taksonomisiyle tanımlayabileceksiniz.
Kaçınma Saldırıları — PGD, Carlini-Wagner, AutoAttack ve sorgu tabanlı saldırılarla modellerin sağlamlığını ölçebileceksiniz.
Sağlamlık Savunmaları — Çekişmeli eğitim ve rastgele yumuşatma ile savunma kurup gradyan maskeleme tuzaklarını fark edebileceksiniz.
Zehirleme ve Arka Kapı — Temiz etiketli zehirleme ve arka kapı saldırılarını uygulayıp Neural Cleanse gibi yöntemlerle tespit edebileceksiniz.
Gizlilik Denetimi — LiRA ve ML Privacy Meter ile üyelik çıkarımı riskini ölçüp modelin veri sızıntısını raporlayabileceksiniz.
LLM Saldırıları — GCG, PAIR ve çok örnekli jailbreak tekniklerini kontrollü ortamda uygulayıp etkilerini analiz edebileceksiniz.
Etmen Güvenliği — Araç zehirleme ve bellek manipülasyonu gibi etmen saldırılarına karşı güvenli mimari önerileri geliştirebileceksiniz.
Kırmızı Takım Programı — Kurumunuz için kapsamı, kuralları ve raporlama süreci tanımlı bir YZ kırmızı takım programı tasarlayacaksınız.

Kimler İçin Uygundur?

YZ kırmızı takım üyeleri
güvenlik araştırmacıları
ML güvenlik mühendisleri
sızma testi uzmanları ve güvenlik kritik modeller geliştiren makine öğrenmesi ekipleri.

Sıkça Sorulan Sorular

Yapay Zeka Güvenliği: İleri Teknikler Eğitimi kimler için uygundur?

Program; YZ kırmızı takım üyeleri, güvenlik araştırmacıları, ML güvenlik mühendisleri, sızma testi uzmanları ve güvenlik kritik alanlarda model geliştiren makine öğrenmesi ekipleri için tasarlanmıştır.

Eğitim ne kadar sürer ve hangi konuları kapsar?

Eğitim 3 tam gün ve 12 modülden oluşur. İlk gün kaçınma saldırıları ve sağlamlık, ikinci gün zehirleme, arka kapı ve gizlilik saldırıları, üçüncü gün LLM ve etmenlere ileri saldırılar ile kurumsal kırmızı takım programı işlenir.

Katılım için hangi ön koşullar gerekiyor?

PyTorch ile derin öğrenme modeli eğitme deneyimi, güvenlik testi veya araştırması geçmişi ve OWASP LLM Top 10 ile istem enjeksiyonu kavramlarına aşinalık beklenir. Laboratuvarlar için GPU erişimli bir ortam gerekir.

Laboratuvarlarda hangi araçlar kullanılıyor ve etik sınırlar nasıl korunuyor?

Adversarial Robustness Toolbox, TextAttack, RobustBench, ML Privacy Meter ve AgentDojo gibi araçlar kullanılır. Tüm saldırılar yalnızca eğitim için hazırlanmış yerel modeller ve izole ortamlarda, yetkili test ve sorumlu ifşa ilkelerine uygun olarak yürütülür.

Bu eğitimden önce hangi program önerilir, sertifika veriliyor mu?

LLM güvenliğine yeni başlayan ekipler için önce Büyük Dil Modeli Uygulamalarında Güvenlik ve Değerlendirme Eğitimi önerilir. Programı tamamlayan katılımcılar Digital Vizyon Akademi sertifikası alır.

Sertifikalandırma

Bu eğitim Katılım Sertifikası ile tamamlanır.

Eğitim başında “Ön Test”, bitiminde “Son Test” uygulanarak gelişim ölçümlenir. Değerlendirme formunu dolduran katılımcılar sertifikalarını alır. Sertifikanızın geçerliliğini Sertifika Sorgulama sayfasından doğrulayabilirsiniz.

Örnek Sertifika

YAPAY ZEKA GÜVENLİĞİ: İLERİ TEKNİKLER EĞİTİMİ

Eğitim Hakkında

Neden Bu Eğitim?

Ön Koşullar

Eğitim İçeriği

Çekişmeli Makine Öğrenmesi Temelleri

Gradyan Tabanlı Kaçınma Saldırıları

Kara Kutu ve Fiziksel Dünya Saldırıları

Kaçınma Saldırılarına Karşı Savunmalar

Veri Zehirleme Saldırıları

Arka Kapı Saldırıları ve Tespiti

Gizlilik ve Model Çıkarım Saldırıları

Model Bütünlüğü ve Fikri Mülkiyet Koruması

Büyük Dil Modellerine Optimizasyon Saldırıları

Etmen ve Çok Modlu Sistem Saldırıları

İleri Savunmalar ve Güvenli Etmen Mimarisi

YZ Kırmızı Takım Programı ve Kapanış

Eğitim Kazanımları

Kimler İçin Uygundur?

Sıkça Sorulan Sorular

Sertifikalandırma

Eğitim Bilgileri

Benzer Programlar

Yapay Zeka Güvenliğine Giriş Eğitimi

Yapay Zeka Kurumsal Strateji Yönetimi Eğitimi

Yapay Zeka Küresel Yönetişim Çerçeveleri Eğitimi