Geavanceerde AI-beveiliging voor ontwikkelaars Training Cursus

Dag 1 — Diepgaande behandeling van AI-beveiliging bij agents

Sessie 1 — 09:30 tot 10:50 · Herhaling en uitgebreide behandeling van prompt-injectie

• Korte herinnering aan de OWASP Top 10 voor LLM’s (2025) – basisreferentiepunt
• Gevorderde vormen van prompt-injectie: indirecte injectie, meerdere interactiestappen en cross-modale aanvallen
• Technieken voor jailbreak-aanvallen en methodologieën voor beveiliging
• Lekken in systeemprompten en patronen voor informatieextraktie
• Interactieve Slido-enquête: "Welk hulpmiddel is momenteel het meest kwetsbaar in uw agents?"

Pauze — 10:50 tot 11:10

Sessie 2 — 11:10 tot 12:30 · Beveiliging van AI-pipelines — Gegevens, modellen en RAG

• Integreit van trainingsdata: manipulatie, achterdeurtjes en herkomstbewijs
• Risico’s in modelketens: aanpassingspipelines, adaptermodellen en controle op registratieprocessen
• Specifieke kwetsbaarheden in RAG-systemen: manipulatie van vectordatabases, contextvervorming en data-ophaalproblemen
• Beveiliging van embeddingtechnologie: welke informatie uit embeddings lekken kan en hoe deze te beschermen
• Praktische oefening (~30 minuten): Deelnemers manipuleren opzettelijk een kleine RAG-database en voeren vervolgens beveiligingsmaatregelen door. Na afloop vindt groepsdebrief plaats.

Lunch — 12:30 tot 13:20

Sessie 3 — 13:20 tot 14:40 · OWASP Top 10 voor Agent-gebaseerde toepassingen (2026) — Deel 1

• Manipulatie van doelstellingen door agents en verandering in oorspronkelijke opdrachten
• Misbruik van gereedschapsrechten en escalatie via meerdere hulpmiddelen
• Verschillende vormen van geheugenmanipulatie: permanente, episodische of gedeelde gegevensopslag
• Uitbuiting van plannings- en redeneerprocessen door agents
• Identiteits- en authenticatiemechanismes binnen agent-systemen
• Korte live-demonstratie: Een aanval die een eenvoudig planningsagent afleidt van zijn doelstellingen

Pauze — 14:40 tot 15:00

Sessie 4 — 15:00 tot 16:30 · OWASP Top 10 voor Agent-gebaseerde toepassingen (2026) — Deel 2 + Beveiliging van MCP

• Architectuur en vertrouwensniveaus binnen MCP-omgevingen
• Beveiligingsmaatregelen voor MCP-servers: authenticatie, rechtmatige toegang tot tools en beleidslijnen
• Aanvallen op meerstappenworkflows: opeenvolgende aanvalspogingen en kettingreacties in systeemfouten
• Communicatie tussen meerdere agents en vertrouwensverhoudingen
• Zichtbaarheid van agent-activiteiten en forensische verwerking mogelijkheden
• Afsluiting Dag 1: Iedere deelnemer identificeert één belangrijke kwetsbaarheid in zijn eigen agentsysteem
• Q&A

Dag 2 — Red-teaming, architectuurontwerp en incidentbestrijding

Sessie 1 — 09:30 tot 10:50 · Red-teaming voor AI — Methodologie

• Wat red-teaming in de context van AI inhoudt (en waarin het verschilt van traditionele penetratietesting)
• Gepubliceerde frameworks: MITRE ATLAS, toewijzing aan OWASP Agentic Top 10 en NIST AI RMF
• Scopebepaling bij red-teaming opdrachten voor LLM’s of agentsystemen
• Handmatige aanvalsmethoden: prompt-engineering, jailbreak-bibliotheken en doelstelling-override-technieken
• Gebruikte hulpmiddelen en automatisering: Garak, PyRIT, Promptfoo en eigens ontworpen testomgevingen
• Ethiek, veiligheidseisen en verantwoordelijk gedrag bij beveiligingsvondsten in AI-systemen

Pauze — 10:50 tot 11:10

Sessie 2 — 11:10 tot 12:30 · Praktische red-teaming-oefeningen

• Uitgebreide praktijkopdracht (~60 minuten): In duo’s werken deelnemers aan een specifiek, meerstappenagent-systeem met drie bekende kwetsbaarheden. Elke groep schrijft een korte rapportage over hun bevindingen: route van de aanval, mogelijke gevolgen en voorgestelde mitigatiemaatregelen.
• Gebundeld uitwisselen van ervaringen binnen de hele groep

Lunch — 12:30 tot 13:20

Sessie 3 — 13:20 tot 14:40 · Beveiligingsarchitectuur voor agent-gebaseerde AI binnen overheden

• Beveiliging van agentsystemen via isolatie, sandboxtechnieken en beperking van potentiële schadegebieden
• Het opstellen van veilige gereedschapslijsten: goedkeuringsmechanismes, parameterscontrole en inspectie van output
• Modellen waarbij menselijke bevestiging nodig is vóór uitvoering door agents
• Beperkingen op verwerking van gevoelige informatie: waar persoonsgegevens of vertrouwelijke overheidsdata wel en niet mogen worden gebruikt
• Naleving van Britse AI-beleid, NIST AI RMF en ISO/IEC 42001-standaarden
• Praktijkcasus: gedetailleerde analyse van een werkelijk bestaande overheids-AI-service

Pauze — 14:40 tot 15:00

Sessie 4 — 15:00 tot 16:30 · Incidentrespons, handboekontwikkeling en afsluiting

• Specifieke incidentcategorieën in AI: prompt-injecties met escalatief gevolg, ongeoorloofd gebruik van hulpmiddelen, datalekken via agents en abnormaal modelgedrag
• Aanwijzingen voor detectie en loggen bij agent-activiteiten
• Structuur van een responshandboek: beperking van gevolgen, verwijdering van oorzaak, herstel en analyse van lespunten
• Afsluitende opdracht (~45 minuten): Iedere deelnemer creëert een éénpagig handboek met beveiligingsmaatregelen voor een eigen domeingebonden AI-service
• Implementatieplanning: acties in de komende 30, 60 en 90 dagen
• Aanbevolen literatuur, bronnenlijsten en verdere ontwikkelingsstappen
• Q&A en einde van de cursus