Çıkarım maliyetini doğru boyutlandırarak düşürün
Bu eğitim, derin öğrenme modellerinin çıkarım (inference) aşamasında maliyet ve performans dengesini ele alır. DVA'da 2 gün süren, Türkçe ve laboratuvar destekli bir programdır.
Derin öğrenme çıkarım iş yüklerinde GPU maliyet optimizasyonu
Bu eğitim, derin öğrenme modellerinin çıkarım (inference) aşamasında maliyet ve performans dengesini ele alır. Elastic Inference accelerator boyutları (eia2.medium-xlarge), EC2 ve SageMaker endpoint'lerine ekleme, TensorFlow ve MXNet için EI-enabled çalışma zamanı, GPU, CPU ve Inferentia karşılaştırması, gecikme ve verim ölçümü, otomatik ölçekleme, CloudWatch izleme ve servisin yaşam döngüsü nedeniyle Inferentia, Graviton ve SageMaker Inference Recommender'a geçiş stratejileri işlenir.
2 Gün. Her gün dört modül; Hızlandırma ve Dağıtım ile başlar, Ölçüm, Optimizasyon ve Geçiş ile tamamlanır; her modül kısa anlatım ve laboratuvar uygulamasıyla ilerler.
Orta Seviye — Derin öğrenme çıkarımında GPU hızlandırmayı maliyet verimli kullanma ve alternatiflere geçiş.
Katılımcılar örnek bir görüntü sınıflandırma modelini farklı donanım seçeneklerinde sunar; gecikme, verim ve maliyeti ölçerek karşılaştırma tablosu çıkarır.
Tam GPU yerine ihtiyaca uygun hızlandırıcı seçerek çıkarım maliyetini düşürürsünüz.
CPU, GPU, EI ve Inferentia seçeneklerini gerçek ölçümle kıyaslarsınız.
Servis yaşam döngüsünü bilerek güncel alternatiflere taşıma yol haritası çıkarırsınız.
Eğitimden verim almak için faydalı olacak bilgi ve ortam gereksinimleri
TensorFlow veya PyTorch ile eğitilmiş bir modeli yükleyip çıkarım yapma deneyimi beklenir.
Laboratuvarlar için ücretsiz katman veya eğitmenin yönlendirdiği bir AWS hesabı kullanılır; ücretli kaynaklar önceden belirtilir.
IaaS, PaaS, SaaS ayrımı ve paylaşılan sorumluluk modeli hakkında genel bilgi yeterlidir.
AWS Management Console'da gezinme ve temel komut satırı kullanımı rahatça yapılabilmelidir.
Programın gün gün akışı aşağıdadır. Bir güne tıklayarak o günün modüllerini ve içeriklerini görebilirsiniz.
Program sonunda katılımcılar:
Çıkarım Maliyeti Sorunu kapsamında eğitim ve çıkarım kaynak profili farkı ve elastic Inference fikri: kesirli GPU çalışmalarını laboratuvarda uygulayabilir hale geleceksiniz.
Mimari ve Ağ kapsamında EI accelerator'ın instance'a ağ üzerinden bağlanması ve IAM politikası ve servis rolü çalışmalarını laboratuvarda uygulayabilir hale geleceksiniz.
EC2 ile Çıkarım kapsamında deep Learning AMI kullanımı ve model dışa aktarma: SavedModel çalışmalarını laboratuvarda uygulayabilir hale geleceksiniz.
SageMaker Endpoint'leri kapsamında endpoint yapılandırmasında accelerator_type ve endpoint oluşturma ve çağırma çalışmalarını laboratuvarda uygulayabilir hale geleceksiniz.
Performans Ölçümü kapsamında gecikme (p50/p95/p99) ve verim ve batch boyutu etkisi çalışmalarını laboratuvarda uygulayabilir hale geleceksiniz.
Donanım Karşılaştırması kapsamında CPU, GPU, EI ve Inferentia sonuçları ve graviton üzerinde CPU çıkarımı çalışmalarını laboratuvarda uygulayabilir hale geleceksiniz.
Inferentia ve Alternatiflere Geçiş kapsamında AWS Inferentia / Neuron SDK'ya genel bakış ve sageMaker Inference Recommender çalışmalarını laboratuvarda uygulayabilir hale geleceksiniz.
Üretim İşletimi kapsamında otomatik ölçekleme politikası ve model sürümleme ve canary çalışmalarını laboratuvarda uygulayabilir hale geleceksiniz.
Bu eğitim Digital Vizyon Akademi Başarı Sertifikası ile tamamlanır.
Eğitim başında “Ön Test”, bitiminde “Son Test” uygulanarak gelişim ölçümlenir. Değerlendirme formunu dolduran katılımcılar sertifikalarını alır. Sertifikanızın geçerliliğini Sertifika Sorgulama sayfasından doğrulayabilirsiniz.
Dell - Cloud Services Management eğitimi: Bulut Servis Yaşam Döngüsü, Servis Kataloğu, SLA, OLA ve UC. 2 gün uygulamalı program, DVA Katılım ve Başarı Sertifika
Detayları Gör →
Designing and Implementing Cloud Connectivity (ENCC) eğitimi: Bulut Ağ Modelleri, IPsec ve IKEv2. 3 gün uygulamalı program, DVA Katılım ve Başarı Sertifikası.
Detayları Gör →
Designing and Implementing Cloud Connectivity eğitimi: Hibrit Bağlantı Modelleri, IPsec VPN Uygulaması. 2 gün uygulamalı program, DVA Katılım ve Başarı Sertifik
Detayları Gör →
Designing for Cloud & Hybrid Identity eğitimi: Bulut Kimliğine Giriş, Entra Connect ve Cloud Sync. 2 gün uygulamalı program, DVA Katılım ve Başarı Sertifikası.
Detayları Gör →
Developing Cloud-Native Applications with Microservices Architectures eğitimi: Mikroservis Mimarisi. 3 gün uygulamalı program, DVA Katılım ve Başarı Sertifikası
Detayları Gör →