Cursusaanbod

Preparing Machine Learning Models for Deployment

  • Packaging models with Docker
  • Exporting models from TensorFlow and PyTorch
  • Versioning and storage considerations

Model Serving on Kubernetes

  • Overview of inference servers
  • Deploying TensorFlow Serving and TorchServe
  • Setting up model endpoints

Inference Optimization Techniques

  • Batching strategies
  • Concurrent request handling
  • Latency and throughput tuning

Autoscaling ML Workloads

  • Horizontal Pod Autoscaler (HPA)
  • Vertical Pod Autoscaler (VPA)
  • Kubernetes Event-Driven Autoscaling (KEDA)

GPU Provisioning and Resource Management

  • Configuring GPU nodes
  • NVIDIA device plugin overview
  • Resource requests and limits for ML workloads

Model Rollout and Release Strategies

  • Blue/green deployments
  • Canary rollout patterns
  • A/B testing for model evaluation

Monitoring and Observability for ML in Production

  • Metrics for inference workloads
  • Logging and tracing practices
  • Dashboards and alerting

Security and Reliability Considerations

  • Securing model endpoints
  • Network policies and access control
  • Ensuring high availability

Summary and Next Steps

Vereisten

  • An understanding of containerized application workflows
  • Experience with Python-based machine learning models
  • Familiarity with Kubernetes fundamentals

Audience

  • ML engineers
  • DevOps engineers
  • Platform engineering teams
 14 Uren

Leveringsopties

PRIVÉGROEPSTRAINING

Onze identiteit draait om het leveren van precies wat onze klanten nodig hebben.

  • Pre-cursusgesprek met uw trainer
  • Aanpassing van de leerervaring om uw doelen te bereiken -
    • Op maat gemaakte overzichten
    • Praktische, praktische oefeningen met gegevens / scenario's die herkenbaar zijn voor de cursisten
  • Training gepland op een datum naar keuze
  • Gegeven online, op locatie/klaslokaal of hybride door experts die ervaring uit de echte wereld delen

Private Group Prices RRP from €4560 online delivery, based on a group of 2 delegates, €1440 per additional delegate (excludes any certification / exam costs). We recommend a maximum group size of 12 for most learning events.

Neem contact met ons op voor een exacte offerte en om onze laatste promoties te horen


OPENBARE TRAINING

Kijk op onze public courses

Reviews (5)

Voorlopige Aankomende Cursussen

Gerelateerde categorieën