Hoe Vragen.ai presteert onder druk van een Ethical Hacker

Steeds meer organisaties willen de mogelijkheden van AI benutten, maar wel op een verantwoorde manier. Deze verantwoorde manier uit zich bij veel organisaties als strenge veiligheidseisen. Zeker binnen de overheid, zorg en het onderwijs zijn veiligheid en controle essentieel.

Door Vragen.ai helpen we organisaties om veilig met AI te werken, binnen hun eigen kennis en content. Zo kunnen ze vernieuwen en meegroeien in technologische ontwikkelingen, zonder de grip op hun data en antwoord te verliezen.

Veiligheid als basis

Bij SWIS vinden we dat veilig gebruik van AI begint met zorgvuldige keuzes. Daarom bouwen we Vragen.ai op een stevige basis. SWIS is ISO-27001 en NEN-7510 gecertificeerd. Daarmee voldoet ook Vragen.ai structureel aan de hoogste eisen voor informatiebeveiliging, ook binnen zorgomgevingen. 

Vragen.ai werkt op basis van RAG-technologie (Retrieval Augmented Generation). Antwoorden komen altijd uit gecontroleerde bronnen die de organisatie zelf beheert. Zo weet je niet alleen wát de AI zegt, maar ook waar het vandaan komt. Vragen.ai ondersteunt antwoorden namelijk altijd met links naar de bronnen die gebruikt zijn.

Lees meer over de werking van Vragen.ai

Samen testen in de praktijk

Tijdens een implementatietraject met een klant gingen we een stap verder dan gebruikelijk. We hadden één duidelijk doel voor ogen:

“De proof of concept is geslaagd als we kunnen aantonen dat de slimme (AI) zoekmachine niet manipuleerbaar is om risicovolle of schadelijke antwoorden te geven die, op welke manier dan ook, nadelig kunnen zijn.”

In verschillende testrondes zijn meer dan 900 vragen gesteld, geanalyseerd en beoordeeld op betrouwbaarheid, toon en veiligheid. Dat gaf waardevolle inzichten in hoe Vragen.ai het beste kan worden ingericht voor deze klant. Vooral de manier waarop de AI zoekt binnen de eigen content van een organisatie bleek bepalend voor de kwaliteit van de antwoorden.

Zelf testen is waardevol, maar echte zekerheid krijg je pas als iemand van buiten meekijkt. Daarom lieten we een Ethical Hacker onafhankelijk onderzoeken of Vragen.ai ook onder druk overeind blijft.

Onafhankelijke toetsing

De test werd in september 2025 uitgevoerd onder het Cyber Security Pen Test-keurmerk van het CCV. Dat keurmerk bevestigt dat de test voldoet aan hoge kwaliteitsstandaarden. De Ethical Hacker onderzocht of data van gebruikers kon worden ingezien, of de AI te beïnvloeden was met specifieke prompts en hoe goed beheerdersfuncties waren afgeschermd.

De conclusie: de beveiliging van Vragen.ai presteert goed. Er zijn geen kritieke risico’s gevonden. De integriteit en vertrouwelijkheid van gegevens zijn goed gewaarborgd.

De test bracht twee verbeterpunten aan het licht. In sommige situaties kon de uitvoer links en afbeeldingen tonen van buiten de kennisbank en het bleek mogelijk om de AI tijdelijk van toon te laten veranderen via gerichte prompts.

We hebben beide punten direct opgelost. De systeemprompt is aangescherpt, uitvoer is beperkt tot gecontroleerde bronnen en de AI houdt zijn toon beter vast. Alleen op verzoek van de gebruiker mag hij daarvan afwijken, en dat wordt altijd duidelijk aangegeven.

Extra stap: anonimiseren van persoonsgegevens

Tijdens dit traject hebben we ook een extra beveiligingslaag toegevoegd. Hoewel Vragen.ai standaard geen persoonsgegevens verwerkt, wilden we voorkomen dat gebruikers onbedoeld persoonlijke informatie delen. Daarom ontwikkelden we een functionaliteit die automatisch persoonsgegevens anonimiseert die via het open invoerveld worden ingevoerd. Zo blijft het systeem, ook in de dagelijkse praktijk, veilig en betrouwbaar.

Blijven bouwen aan veilige AI

De test bevestigt dat Vragen.ai veilig inzetbaar is, ook in omgevingen met hoge eisen voor informatiebeveiliging. Samen met onze klanten blijven we Vragen.ai verder ontwikkelen, want dit is uiteraard niet het eindpunt. De inzichten uit dit traject helpen ons om de technologie te verbeteren en de veiligheid blijvend te waarborgen.

Zo zorgen we ervoor dat Vragen.ai niet alleen vandaag betrouwbaar is, maar dat voor morgen ook blijft.