CONTACT ONS

Cursusaanbod

Offline EXO-implementatie

  • EXO_OFFLINE gebruiken om internettoegang tijdens de runtime te voorkomen
  • Modellen vooraf laden in EXO_MODELS_READ_ONLY_DIRS vanaf vertrouwde interne mirrors
  • Integriteit van modelgewichten verifiëren met SHA-256-checksums en ondertekende modelkaarten
  • EXO uitvoeren in air-gapped netwerken zonder afhankelijkheden van HuggingFace

Dashboard- en API-toegangscontrole

  • Reverse proxies (nginx, Caddy) installeren en configureren met TLS-terminatie
  • Implementeren van role-based access control voor het EXO-dashboard en REST API
  • macOS sleutelbos of Linux pass gebruiken om geheimen op te slaan voor API-authenticatie
  • Administratieve eindpunten beperken tot specifieke bron-IP-bereiken

Clusterisolatie en netwerkbeveiliging

  • EXO-clusters segmenteren met EXO_LIBP2P_NAMESPACE en VLANs
  • Host-firewalls (macOS-toepassingsfirewall, iptables, nftables) configureren voor EXO-poorten
  • Ongeautoriseerde apparaatontdekking en rogue node-injectie voorkomen
  • libp2p-verkeer tussen nodes versleutelen wanneer RDMA niet beschikbaar is

Modelgovernance en provenance

  • Een intern modelregister bouwen met goedgekeurde modellenlijsten en metadata
  • Kwantificeerde gewichten (4-bit, 8-bit) taggen en versiebeheer alongside source-checkpoints
  • Afdwingen dat alleen specifieke HuggingFace-repos of interne artifacts kunnen worden geladen
  • Modellineage, licentievoorwaarden en acceptabele-gebruikbeleid documenteren

Audit logging en compliance

  • EXO-logforwarding configureren naar onveranderlijke audit trails (SIEM, WORM-opslag)
  • API-aanroeplogs corrigeren met gebruikersidentiteit en tijdstempel
  • Modelinstantiecreatie, -verwijdering en inferentie-aanvragen vastleggen
  • Periodieke compliance-rapporten genereren voor interne en externe auditors

Threat modeling en incident response

  • Bedreigingen identificeren: data-exfiltratie via modeloutputs, prompt-injectie, side-channel-leaks
  • Promptmonitoring en contentfilteringspipeline implementeren
  • Incident response runbooks maken voor clustercompromis-scenario's
  • Geblokkeerde nodes isoleren, forensische logs behouden en schone omgevingen herbouwen

Fysieke beveiliging en hardwaregrenzen

  • Thunderbolt-poorten beveiligen tegen ongeautoriseerde RDMA-kabelverbindingen
  • Beveiligde enclaves en Apple Silicon hardware attestation gebruiken waar van toepassing
  • Fysieke toegang tot geclusterde Macs en gedeelde opslag controleren
  • Hardwarelevenscyclus en decommissioningprocedures documenteren

Regelgeving overwegingen

  • EXO-implementaties in kaart brengen naar GDPR, HIPAA en SOC 2-vereisten
  • Gegevensresidentie handhaven door inferentie lokaal te houden
  • Documenteren van vendor supply-chain risico's (MLX, EXO, modelgewichten)
  • Voorbereiden op AI-governancekaders zoals EU AI Act Article 53

Vereisten

  • Ervaring met EXO of een andere lokale LLM-runtime
  • Begrip van Unix-bestandssysteemrechten en netwerk-ACLs
  • Vertrouwdheid met TLS/SSL-certificaatbeheer en basisprincipes van encryptie

Doelgroep

  • Security engineers
  • Compliance officers
  • AI-infrastructuurbeheerders die met gevoelige gegevens werken
 14 Uren

Aangepaste bedrijfsopleiding

Opleidingsoplossingen ontworpen exclusief voor bedrijven.

  • Aangepaste inhoud: We passen de syllabus en praktijkopdrachten aan naar de echte doelen en behoeften van uw project.
  • Voor flexibel schema: Datums en tijden aangepast aan het rooster van uw team.
  • Formaat: Online (live), In-company (bij uw kantoren) of Hybride.
Investering

Prijs per privégroep, online live training, startend vanaf 3200 € + BTW*

Neem contact met ons op voor een exacte offerte en om onze laatste promoties te horen

Reviews (1)

Voorlopige Aankomende Cursussen

Gerelateerde categorieën