AI ten dienste van preventie door burgers: nuttig, maar onder controle

Wanneer een fraudecampagne start, zijn de eerste signalen vaak minuscuul: drie burgers sturen hetzelfde sms'je door, een vereniging meldt een valse factuur, een bank ziet een domein opduiken dat bijna identiek is aan het hare. Afzonderlijk lijken die elementen ruis. Snel samengebracht kunnen ze een campagne blootleggen voordat die zich uitbreidt.

Precies bij dat verbindende werk kan artificiële intelligentie preventie door burgers echt helpen. Niet door de analist te vervangen of in de plaats van de burger te beslissen, maar door de tijd tussen de eerste melding en een bruikbare waarschuwing te verkorten.

Vertrekken van een concreet probleem

Het woord ‘AI’ trekt makkelijk vage projecten aan. Preventie vereist integendeel dat je vertrekt van een meetbare vraag: kunnen we sneller zien dat meerdere berichten bij dezelfde fraude horen? Kunnen we uitleggen waarom een link gevaarlijk is? Kunnen we een samenhangende waarschuwing in de landstalen opstellen zonder dagen te moeten wachten?

In 2025 werden bijna tien miljoen verdachte berichten naar Safeonweb doorgestuurd. Dat volume overstijgt wat een menselijk team een voor een kan onderzoeken. Belgische mechanismen zoals BAPS gebruiken die meldingen om kwaadaardige links te identificeren en internetgebruikers om te leiden naar een waarschuwingspagina.

AI kan de eerste sortering verbeteren, maar de waarde komt van de volledige keten: eenvoudig melden, snel analyseren, valideren, proportioneel blokkeren en duidelijk terugkoppelen naar het publiek.

Wat de machine goed kan

Een systeem kan berichten samenbrengen waarvan de woorden verschillen, maar het scenario identiek is. Het kan opsporen dat meerdere domeinen dezelfde bank nabootsen, de gebruikte nummers of adressen eruit halen en meldingen rangschikken naar urgentie.

Het kan ook helpen om:

• een campagne te herkennen die tegelijk via sms, e-mail en berichtenapps circuleert;
• variaties in meerdere talen op te sporen;
• de meest blootgestelde sectoren of regio's te identificeren;
• honderd meldingen samen te vatten voor de analist;
• een eerste versie van een waarschuwing voor te stellen, afgestemd op het betrokken publiek.

Die taken zijn repetitief, omvangrijk en voldoende gestructureerd om baat te hebben bij automatisering. Ze maken menselijke tijd vrij voor onderzoek, contact met slachtoffers en beslissingen met gevolgen.

Wat de machine niet alleen kan beslissen

Een recent domein is niet noodzakelijk frauduleus. Een dringend verzoek kan legitiem zijn. Een bericht dat in de ene gemeente ongewoon is, kan in een andere normaal zijn.

Het systeem kent niet altijd de sociale en institutionele context. Het kan een officiële campagne verwarren met een nabootsing of te veel gewicht geven aan een populair signaal. Als de trainingsgegevens vooral Franstalige meldingen bevatten, kunnen de resultaten in het Duits of het Nederlands minder goed zijn.

De beslissing om te blokkeren, een beschuldiging te publiceren of informatie aan een overheid door te geven, moet dus omkaderd blijven. Hoe groter de impact op mensen, hoe meer menselijke validatie, traceerbaarheid en beroepsmogelijkheden nodig zijn.

De waarschuwing uitleggen

Een doeltreffende waarschuwing toont niet alleen ‘gevaarlijke website’. Ze geeft een reden die de persoon kan begrijpen:

• het adres bootst een officiële dienst na, maar gebruikt een ander domein;
• de site vraagt een bankcode die nooit mag worden doorgegeven;
• meerdere onafhankelijke meldingen beschrijven hetzelfde scenario;
• het domein werd recent aangemaakt en verwijst door naar een pagina die al met fraude in verband werd gebracht.

Die uitleg vervult twee functies. Ze helpt om nu te beslissen en ontwikkelt een reflex voor de volgende poging. Ze laat ook een legitieme site toe een onterechte blokkering te betwisten.

Een goed preventiesysteem wil dus niet alleen gelijk hebben. Het wil genoeg elementen tonen zodat zijn beslissing kan worden gecontroleerd.

Een realistische dag in een burgersysteem

Om 8.15 uur sturen meerdere mensen een sms door over een zogenaamde energieterugbetaling. De tekst verschilt telkens een beetje en de links gebruiken vijf domeinen.

Het systeem groepeert de berichten, noteert de gelijkenissen en stelt vast dat de pagina's dezelfde huisstijl kopiëren. Om 8.30 uur bekijkt een analist het geheel, raadpleegt de nagebootste organisatie en bevestigt de fraude. De domeinen worden aan de beschermingsmechanismen toegevoegd. Een waarschuwing die in het Frans werd opgesteld, wordt aangepast in het Nederlands en het Duits en daarna nagelezen.

Om 9 uur beschikken gemeenten, banken en verenigingen over een samenhangende boodschap om te verspreiden. Nieuwe meldingen verrijken de bestaande campagne in plaats van twaalf aparte dossiers te creëren.

Dat scenario vereist geen ‘algemene AI’. Het vereist een goede doorstroming van informatie, modellen die tot één taak zijn beperkt en een team dat snel kan beslissen.

Aanvallers gebruiken dezelfde tools

Fraudeurs produceren nettere teksten, passen hun scenario's aan meerdere talen aan en verzamelen automatisch openbare informatie. Synthetische stemmen maken bepaalde verzoeken overtuigender. AI laat hen vooral toe volume en snelheid op te drijven.

Het antwoord kan niet bestaan uit het blind automatiseren van de verdediging. Het moet combineren:

• sterke authenticatie die bestand is tegen phishing;
• onafhankelijke procedures om betalingen te controleren;
• snel blokkeren van gekende infrastructuur;
• eenvoudig advies om een verdachte interactie te onderbreken;
• steun aan slachtoffers zonder schuldgevoel aan te praten.

Technische preventie en het menselijke vermogen om te zeggen ‘ik stop en ik controleer’ versterken elkaar.

De gegevens van melders beschermen

Een doorgestuurd bericht kan een naam, een dossiernummer, een adres of een privégesprek bevatten. Niet al die elementen zijn nodig om een campagne te herkennen.

Het platform moet persoonsgegevens zo snel mogelijk maskeren of verwijderen, de toegang beperken, raadplegingen loggen en een bewaartermijn vastleggen. Gegevens die worden gebruikt om een model te trainen of te testen, moeten gescheiden blijven van operationele dossiers en het voorwerp zijn van een uitdrukkelijke beslissing.

Ook een vicieuze cirkel moet worden vermeden: steeds meer berichten verzamelen omdat ‘het model daar misschien beter van wordt’. De vraag moet omgekeerd zijn: welke minimale hoeveelheid volstaat om het doel te bereiken?

Indicatoren die het publiek begrijpt

Een systeem dat wordt gefinancierd om burgers te beschermen, zou meer moeten publiceren dan een abstract nauwkeurigheidspercentage.

Nuttige indicatoren zijn:

• de tijd tussen de eerste melding en de gevalideerde waarschuwing;
• het aandeel blokkeringen dat werd betwist en daarna opgeheven;
• de kwaliteit van de resultaten in elke landstaal;
• het aantal bezoeken dat werd omgeleid weg van een frauduleus domein;
• de hoeveelheid persoonsgegevens die automatisch werd verwijderd;
• de reactietijd wanneer iemand om een correctie vraagt.

Die cijfers dwingen om naar het werkelijke nut te kijken, niet alleen naar de technische prestaties van het model.

De capaciteit openstellen voor actoren op het terrein

Gemeenten, scholen, verenigingen en kleine bedrijven ontvangen waardevolle signalen, maar hebben zelden een gestructureerd kanaal om ze te delen. Eenvoudige, gedocumenteerde formaten zouden het mogelijk maken een campagne te melden zonder de volledige inhoud van een dossier door te geven.

Omgekeerd hebben lokale actoren waarschuwingen nodig die meteen bruikbaar zijn: een korte beschrijving, de handelingen die je moet vermijden, de officiële contactgegevens en een datum van bijwerking. Een open interface betekent niet dat gevoelige gegevens openbaar worden; het betekent dat preventie-informatie herbruikbaar wordt.

Officiële bronnen

• Safeonweb — phishing blijft Belgische internetgebruikers treffen (FR)
• CCB — de cyberrealiteit in België in 2025 (FR)
• BOSA — Charter voor verantwoord AI-gebruik bij de overheid