Grondbeginselen van AI-beveiliging voor ontwikkelaars Training Cursus

Sessie 1 – 09:30 tot 10:50 · De wereld van AI-beveiliging voor ontwikkelaars

• Wat maakt AI-beveiliging uniek? Het verschil tussen traditionele applicatiebeveiliging en nieuwe dreigingen in de AI-wereld.
• Een korte rondleiding door de AI-architectuur: basismodellen, fine-tuning, RAG-technieken, agents en waar bepaalde risico’s zich voordoen.
• Waarom overheidsdiensten extra kwetsbaar zijn: gevoeligheid van data, transparantievereisten en regelgeving (UK AI Principles, DPA 2018, GDPR).
• Een overzicht van de OWASP Top 10 voor grote taalmodellen (2025).
• Interactieve Slido-enquête: ‘Welke AI-functie vindt uw team het moeilijkst beveiligen?’

Pauze – 10:50 tot 11:10

Sessie 2 – 11:10 tot 12:30 · OWASP Top 10 voor grote taalmodellen (2025) – Deel 1

• LLM01: Prompt Injection – directe en indirecte aanvallen, met echte praktijkvoorbeelden.
• LLM02: Lekken van gevoelige informatie – wat AI-modellen onbedoeld prijsgeven en waarom dat gebeurt.
• LLM03: De leveringsketen – oorsprong van modellen, risico’s rond derden-plugins en Hugging Face.
• LLM04: Data- en modelvergiftiging – basisprincipes voor het behouden van de integriteit van trainingsdata.
• LLM05: Onjuist beheer van uitvoer – waarom het belangrijk is om output van AI-modellen als invoer te beschouwen.
• Korte live-demonstratie: een aanval via prompt injection op een voorbeeld-chatbot.

Lunch – 12:30 tot 13:20

Sessie 3 – 13:20 tot 14:40 · OWASP Top 10 voor grote taalmodellen (2025) – Deel 2 en praktische oefeningen

• LLM06: Overmatig toekennen van macht aan AI-systemen – hanteren van het principe ‘least privilege’ bij het toekennen van rechten.
• LLM07: Lekken van systeemprompten – wat er kan gebeuren wanneer prompt-informatie onbedoeld naar buiten komt.
• LLM08: Kwetsbaarheden in vectoren en embedding-technieken – risico’s specifiek voor RAG-systemen.
• LLM09: Misinformatie en overmatig vertrouwen in AI – hoe ‘hallucinaties’ een beveiligingsprobleem kunnen vormen.
• LLM10: Onbeperkt verbruik van resources – risico’s zoals overbelasting door grote vraag naar rekenkracht en dataopslag.
• Praktische oefening (~30 minuten): deelnemers proberen een klein, op een taalmodel gebaseerd systeem te hacken en vervolgens beveiligen. Iedereen test ten minste één vorm van prompt injection en implementeert daarna een passende oplossing. Aan het einde volgt een gezamenlijke bespreking.

Pauze – 14:40 tot 15:00

Sessie 4 – 15:00 tot 16:30 · Beveiliging van AI-diensten voor de overheid + Afsluiting

• Veilige ontwerppatronen: invoercontrole, filtering van uitvoer en andere beveiligingsmaatregelen.
• Authenticatie, autorisatie en sessiebeheer voor eindpunten die gebruikmaken van AI-technologieën.
• Logging, monitoring en procedures bij incidenten binnen AI-omgevingen.
• Bescherming van data: wanneer een DPIA nodig is voor AI-functies en hoe artikel 22 van de UK GDPR praktisch toe te passen is.
• Praktische uitwerking: het opstellen van een eenvoudig dreigingsmodel voor een eigen AI-functie.
• Implementatieplanning: elke deelnemer formuleert drie snelle verbeteringen die zij in hun werkproces willen doorvoeren.
• Q&A, aanbevolen leesmateriaal en vervolgstappen.