Red Teaming AI Systems: Offensive Security for ML Models Training Cursus

Deze door een docent geleide, live training (online of ter plaatse) is gericht op interimbedrijfsleiders die willen begrijpen hoe ze AI-systemen verantwoordelijk en in overeenstemming met opkomende wereldwijde kaders zoals de EU AI Act, GDPR, ISO/IEC 42001 en de U.S. Executive Order on AI kunnen beheersen en beveiligen.

Aan het einde van deze training kunnen de deelnemers:

• De juridische, ethische en regelgevende risico's van het gebruik van AI over verschillende afdelingen begrijpen.
• Grote AI-governance kaders interpreteren en toepassen (EU AI Act, NIST AI RMF, ISO/IEC 42001).
• Beveiligings-, audit- en toezichtbeleid voor AI-implementatie in het bedrijf opstellen.
• Aanvullende inkoop- en gebruikrichtlijnen voor derde partij- en eigen AI-systemen ontwikkelen.

Artificial Intelligence (AI) voegt nieuwe dimensies van operationele risico's, governance-uitdagingen en cybersecurity-blootstelling toe voor overheidsinstanties en -afdelingen.

Deze door een instructeur geleide live training (online of op locatie) is gericht op IT- en risicoprofessionals in de publieke sector met beperkte ervaring in AI, die willen leren hoe ze AI-systeem kunnen evalueren, monitoren en veiligstellen in een overheids- of reguleringscontext.

Aan het einde van deze training kunnen de deelnemers:

• Slechtjes begrijpen van de belangrijkste risicoconcepten die betrekking hebben op AI-systeem, inclusief bias, onvoorspelbaarheid en modeldrift.
• AI-specifieke governance- en auditkaders toepassen zoals NIST AI RMF en ISO/IEC 42001.
• Cybersecurity bedreigingen herkennen die AI-modellen en datapijplijnen treffen.
• Doorlopen cross-departementale risicobeheersingsplannen en beleidsuitlijning voor AI-implementatie.

Formaat van de cursus

• Interactieve lezingen en discussie over gebruiksscenario's in de publieke sector.
• Oefeningen met AI-governancekaders en beleidskaarten.
• Scenario-gebaseerde bedreigingsmodellering en risicobeoordeling.

Aanpassingsopties voor de cursus

• Om een aangepaste training voor deze cursus te vragen, neem dan contact met ons op om dit te regelen.

Deze docentgeleide, live training (online of op locatie) is bedoeld voor IT-professionals op begin- tot middel-niveau die AI TRiSM in hun organisaties willen begrijpen en implementeren.

Na deze training kunnen de deelnemers:

• De kernbegrippen en de belangrijkheid van het beheer van AI-trust, risico en veiligheid begrijpen.
• Risico's die gepaard gaan met AI-systemen identificeren en verminderen.
• Veiligheidsbestreksingen voor AI implementeren.
• De regelgeving en ethische overwegingen voor AI begrijpen.
• Strategieën ontwikkelen voor effectief AI-beheer en -bestuur.

Deze instructeurgeleide, live training in Nederland (online of op locatie) is gericht op AI-ontwikkelaars, architecten en productmanagers op tussen- en gevorderd niveau die risico's willen identificeren en verminderen die verband houden met LLM-gestuurde toepassingen, waaronder prompt injectie, datalekken en ongefilterde uitvoer, terwijl ze veiligheidscontroles zoals invoervalidatie, mens-in-de-schijf toezicht en uitvoerbeveiligingen integreren.

Na deze training zullen de deelnemers in staat zijn om:

• De kernkwetsbaarheden van LLM-gebaseerde systemen te begrijpen.
• Veilige ontwerpprincipes toe te passen op de architectuur van LLM-apps.
• Tools zoals Guardrails AI en LangChain te gebruiken voor validatie, filtering en veiligheid.
• Technieken zoals sandboxing, red teaming en mens-in-de-schijf beoordeling te integreren in productiekwaliteitslijnen.

Deze door een instructeur geleide, live-training (online of op locatie) is gericht op professionals op het gebied van AI en cybersecurity op tussenliggend niveau die de beveiligingskwetsbaarheden specifiek voor AI-modellen en -systemen willen begrijpen en aanpakken, met name in sterk gereguleerde sectoren zoals financiële dienstverlening, databeheer en advies.

Na afloop van deze training zullen de deelnemers in staat zijn om:

• De soorten aanvalsvrienden die AI-systeem en methoden om zich te verdedigen te begrijpen.
• Modelversterkingstechnieken te implementeren om machine learning-pijplijnen te beveiligen.
• Gegevensbeveiliging en integriteit te waarborgen in machine learning-modellen.
• De wettelijke nalevingsvereisten met betrekking tot AI-beveiliging te navigeren.

Deze door een instructeur geleide, live training (online of op locatie) is gericht op beginnende IT-beveiligings-, risico- en nalevingsprofessionals die fundamentele AI-beveiligingsconcepten, bedreigingsvectoren en wereldwijde kaders zoals NIST AI RMF en ISO/IEC 42001 willen begrijpen.

Aan het einde van deze training kunnen de deelnemers:

• De unieke beveiligingsrisico's die worden geïntroduceerd door AI-systemen begrijpen.
• Bedreigingsvectoren zoals adversaire aanvalen, data-vervuiling en modelinversie identificeren.
• Fundamentele governance-modellen zoals de NIST AI Risk Management Framework toepassen.
• AI-gebruik afstemmen op opkomende normen, nalevingsrichtlijnen en ethische principes.

Deze door een instructeur geleide, live training (online of ter plaatse) is gericht op professionals op gevorderd niveau die technieken zoals federated learning, secure multiparty computation, homomorphic encryption en differential privacy willen implementeren en evalueren in echte machine learning pipelines.

Aan het einde van deze training kunnen de deelnemers:

• De belangrijkste privacybehoudende technieken in ML begrijpen en vergelijken.
• Federated learning systemen implementeren met behulp van open-source frameworks.
• Differential privacy toepassen voor veilige gegevensdeling en modeltraining.
• Encryptie en veilige computatietechnieken gebruiken om modelinvoer en -uitvoer te beschermen.

Deze door instructeurs geleide, live training (online of ter plaatse) is gericht op medewerkers met tussenkennis op het gebied van ingenieurs en beveiligingsspecialisten die AI-modellen die op de rand zijn ingezet willen beschermen tegen bedreigingen zoals tampering, datalekken, adversaire invoer en fysieke aanvallen.

Aan het einde van deze training zullen de deelnemers in staat zijn om:

• Beveiligingsrisico's in AI-oplossingen op de rand te identificeren en beoordelen.
• Tamper-resistente en versleutelde inferentie technieken toe te passen.
• Modellen op de rand te versterken en gegevenspijplijnen te beveiligen.
• Bedreigingsbeperkingsstrategieën specifiek voor ingebedde en beperkte systemen te implementeren.

Deze door een instructeur geleide live-training (online of op locatie) is bedoeld voor machine learning- en cyberbeveiligingsprofessionals op intermiddelair niveau die de opkomende bedreigingen tegen AI-modellen willen begrijpen en verminderen. Ze gebruiken zowel conceptuele kaders als praktische verdedigingen zoals robust training en differentiële privacy.

Na afloop van deze training zullen de deelnemers in staat zijn om:

• Specifieke AI-bedreigingen zoals adversarische aanvallen, inversie en vergiftiging te identificeren en te classificeren.
• Gebruik maken van tools zoals de Adversarial Robustness Toolbox (ART) om aanvallen te simuleren en modellen te testen.
• Praktische verdedigingen toe te passen, zoals adversarische training, ruisinjectie en privacybehoudende technieken.
• Bedreigingsbewuste model-evaluatiestrategieën te ontwerpen in productieomgevingen.