CONTACT ONS

Cursusaanbod

EXO Infrastructure as Code

  • Overzicht van EXO-implementatiepatronen: single-node, multi-node en RDMA-clusters
  • Automatisering van afhankelijkheidsinstallaties (Xcode, uv, Node.js, Rust) met configuratiebeheer
  • Het gebruik van Nix flakes voor reproduceerbare EXO-bouwprocessen en ontwikkelaarsomgevingen
  • Het schrijven van Ansible-playbooks of shellscripts voor onbemande clusterprovisioning

Reproduceerbare Builds en CI-integratie

  • Vastzetten van afhankelijkheden en bouwen van de dashboard in CI-pipelines
  • Het uitvoeren van EXO-smoke-tests in GitHub Actions of GitLab CI-runners
  • Het maken van golden images en snapshot-gebaseerde rollback-workflows voor macOS- en Linux-VM's
  • Versiebeheer van aangepaste modelkaarten naast applicatiecode

Clusterdiscoverie en netwerkautomatisering

  • Configuratie van mDNS en statische DNS voor betrouwbare libp2p-node-discoverie
  • Automatisering van het aanmaken van netwerkprofielen en Thunderbolt-bridgebeheer op macOS
  • Het gebruik van aangepaste namespaces (EXO_LIBP2P_NAMESPACE) om dev-, staging- en prod-clusters te scheiden
  • Firewallregels en netwerksegmentatie voor multi-tenantomgevingen

Opslag en Modelleefcyclusbeheer

  • Het ontwerpen van EXO_MODELS_DIRS- en EXO_MODELS_READ_ONLY_DIRS-strategieën
  • Het monteren van NFS- of SAN-shares als read-only modelrepository's voor snelle provisioning
  • Garbage collection van verouderde caches en beleid voor het behouden van versiedichte gewichten
  • Automatisering van vooraf gedownloade modellen en healthchecks vóór rollende updates

Monitoring en Alerting

  • Het verzenden van EXO-logs naar gecentraliseerde logging (ELK, Loki of Splunk)
  • Het bouwen van Grafana-dashboards op basis van EXO_TRACING_ENABLED-output
  • Alerting bij wijzigingen in clusterlidmaatschap, OOM-gebeurtenissen en pieken in inferentielaytime
  • Korrelatie tussen macmon-hardwaretelemetrie en regressies in modelprestaties

Updates, Rollback en Disaster Recovery

  • Voorbereiden van EXO-binary-updates op een canary-node vóór implementatie over de gehele vloot
  • Modelniveau rollback: schakelen tussen gekwantiseerde versies zonder opnieuw downloaden
  • Back-up en herstel van clustertoestand, aangepaste namespaces en gecachte gewichten
  • Documenteren van recovery-runbooks voor scenario's waarbij het volledige cluster opnieuw moet worden gebouwd

Beveiliging en Compliance

  • Toepassen van TLS op de reverse-proxylaag (nginx, traefik) voor het dashboard en API
  • Implementeren van API-rate limiting en IP-whitelisting voor EXO-eindpunten
  • Scheiden van clusters via VLAN's en zero-trust-netwerkbeleid
  • Auditing van toegang en bijhouden van een inventaris van geïmplementeerde modellen en versies

Vereisten

  • Ervaring met DevOps-praktijken (CI/CD, IaC, containerorchestratie)
  • Vertrouwdheid met macOS- of Linux-systeemadministratie en pakketbeheer
  • Begrip van netwerkprincipes, DNS en opslagconcepten

Doelgroep

  • DevOps-engineers
  • Infrastructuurarchitecten
  • SRE's die verantwoordelijk zijn voor on-premise AI-werklasten
 21 Uren

Aangepaste bedrijfsopleiding

Opleidingsoplossingen ontworpen exclusief voor bedrijven.

  • Aangepaste inhoud: We passen de syllabus en praktijkopdrachten aan naar de echte doelen en behoeften van uw project.
  • Voor flexibel schema: Datums en tijden aangepast aan het rooster van uw team.
  • Formaat: Online (live), In-company (bij uw kantoren) of Hybride.
Investering

Prijs per privégroep, online live training, startend vanaf 4800 € + BTW*

Neem contact met ons op voor een exacte offerte en om onze laatste promoties te horen

Reviews (2)

Voorlopige Aankomende Cursussen

Gerelateerde categorieën