Intelligence artificielle
L’IA au service de la prévention citoyenne : utile, mais sous contrôle
L’IA peut rapprocher des milliers de signalements et accélérer une alerte, à condition que les humains gardent la décision et que les données restent protégées.
Dans cet article
Lorsqu’une campagne de fraude commence, les premiers signaux sont souvent minuscules : trois citoyens transfèrent le même SMS, une association signale une fausse facture, une banque voit apparaître un domaine presque identique au sien. Pris séparément, ces éléments ressemblent à du bruit. Rassemblés rapidement, ils peuvent révéler une campagne avant qu’elle ne prenne de l’ampleur.
C’est dans ce travail de rapprochement que l’intelligence artificielle peut réellement aider la prévention citoyenne. Pas en remplaçant l’analyste ou en décidant à la place du citoyen, mais en réduisant le temps entre le premier signalement et une alerte utile.
Partir d’un problème concret
Le mot « IA » attire facilement des projets vagues. La prévention exige au contraire de commencer par une question mesurable : pouvons-nous repérer plus vite que plusieurs messages appartiennent à la même fraude ? Pouvons-nous expliquer pourquoi un lien est dangereux ? Pouvons-nous produire une alerte cohérente dans les langues nationales sans attendre plusieurs jours ?
En 2025, près de dix millions de messages suspects ont été transmis à Safeonweb. Ce volume dépasse ce qu’une équipe humaine peut examiner un par un. Les mécanismes belges comme BAPS utilisent ces signalements pour identifier des liens malveillants et détourner les internautes vers une page d’avertissement.
L’IA peut améliorer le tri initial, mais la valeur vient de la chaîne complète : signalement simple, analyse rapide, validation, blocage proportionné et retour clair vers le public.
Ce que la machine peut bien faire
Un système peut rapprocher des messages dont les mots diffèrent mais dont le scénario est identique. Il peut détecter que plusieurs domaines imitent la même banque, extraire les numéros ou adresses utilisés et classer les signalements par urgence.
Il peut aussi aider à :
- reconnaître une campagne qui circule simultanément par SMS, courriel et messagerie ;
- repérer les variations dans plusieurs langues ;
- identifier les secteurs ou régions les plus exposés ;
- résumer une centaine de signalements pour l’analyste ;
- proposer une première version d’alerte adaptée au public concerné.
Ces tâches sont répétitives, volumineuses et suffisamment structurées pour bénéficier de l’automatisation. Elles libèrent du temps humain pour l’enquête, le contact avec les victimes et les décisions qui ont des conséquences.
Ce que la machine ne sait pas décider seule
Un domaine récent n’est pas nécessairement frauduleux. Une demande urgente peut être légitime. Un message inhabituel dans une commune peut être normal dans une autre.
Le système ne connaît pas toujours le contexte social et institutionnel. Il peut confondre une campagne officielle avec une imitation ou donner trop de poids à un signal populaire. Si les données d’entraînement contiennent surtout des signalements francophones, les résultats peuvent être moins bons en allemand ou en néerlandais.
La décision de bloquer, publier une accusation ou transmettre une information à une autorité doit donc rester encadrée. Plus l’impact sur les personnes est important, plus la validation humaine, la traçabilité et le recours sont nécessaires.
Expliquer l’alerte
Un avertissement efficace ne se contente pas d’afficher « site dangereux ». Il donne un motif que la personne peut comprendre :
- l’adresse imite un service officiel mais utilise un autre domaine ;
- le site demande un code bancaire qui ne devrait jamais être transmis ;
- plusieurs signalements indépendants décrivent le même scénario ;
- le domaine a été créé récemment et redirige vers une page déjà associée à une fraude.
Cette explication remplit deux fonctions. Elle aide à décider maintenant et développe un réflexe pour la prochaine tentative. Elle permet aussi à un site légitime de contester un blocage erroné.
Un bon système de prévention ne cherche donc pas seulement à avoir raison. Il cherche à montrer assez d’éléments pour que sa décision puisse être vérifiée.
Une journée réaliste dans un dispositif citoyen
À 8 h 15, plusieurs personnes transfèrent un SMS concernant un prétendu remboursement énergétique. Le texte varie légèrement et les liens utilisent cinq domaines.
Le système regroupe les messages, relève les ressemblances et constate que les pages reproduisent la même identité visuelle. À 8 h 30, un analyste examine l’ensemble, consulte l’organisation imitée et confirme la fraude. Les domaines sont ajoutés aux mécanismes de protection. Une alerte rédigée en français est adaptée en néerlandais et en allemand, puis relue.
À 9 h, les communes, banques et associations disposent d’un message cohérent à relayer. Les nouveaux signalements enrichissent la campagne au lieu de créer douze dossiers séparés.
Ce scénario n’exige pas une « IA générale ». Il exige une bonne circulation de l’information, des modèles limités à une tâche et une équipe capable de décider vite.
Les attaquants utilisent les mêmes outils
Les fraudeurs produisent des textes plus propres, adaptent leurs scénarios à plusieurs langues et collectent automatiquement des informations publiques. Les voix synthétiques rendent certaines demandes plus convaincantes. L’IA permet surtout d’augmenter le volume et la vitesse.
La réponse ne peut pas consister à automatiser aveuglément la défense. Elle doit combiner :
- authentification forte et résistante au phishing ;
- procédures indépendantes pour vérifier les paiements ;
- blocage rapide des infrastructures connues ;
- conseils simples pour interrompre une interaction suspecte ;
- soutien aux victimes sans culpabilisation.
La prévention technique et la capacité humaine à dire « j’arrête et je vérifie » se renforcent mutuellement.
Protéger les données des signalants
Un message transféré peut contenir un nom, un numéro de dossier, une adresse ou une conversation privée. Ces éléments ne sont pas tous nécessaires pour reconnaître une campagne.
La plateforme doit masquer ou supprimer les données personnelles dès que possible, limiter l’accès, journaliser les consultations et fixer une durée de conservation. Les données utilisées pour entraîner ou tester un modèle doivent être séparées des dossiers opérationnels et faire l’objet d’une décision explicite.
Il faut également éviter un cercle vicieux : collecter toujours plus de messages parce que « cela pourrait améliorer le modèle ». La question à poser est inverse : quelle quantité minimale permet d’atteindre l’objectif ?
Des indicateurs que le public peut comprendre
Un système financé pour protéger les citoyens devrait publier autre chose qu’un taux abstrait de précision.
Les indicateurs utiles sont :
- le délai entre le premier signalement et l’alerte validée ;
- la proportion de blocages contestés puis annulés ;
- la qualité des résultats dans chaque langue nationale ;
- le nombre de consultations détournées d’un domaine frauduleux ;
- le volume de données personnelles supprimées automatiquement ;
- le temps de réponse lorsqu’une personne demande une correction.
Ces chiffres obligent à regarder l’utilité réelle, pas la seule performance technique du modèle.
Ouvrir la capacité aux acteurs de terrain
Les communes, écoles, associations et petites entreprises reçoivent des signaux précieux, mais disposent rarement d’un canal structuré pour les partager. Des formats simples et documentés permettraient de faire remonter une campagne sans transmettre tout le contenu d’un dossier.
Dans l’autre sens, les acteurs locaux ont besoin d’alertes prêtes à être utilisées : une description courte, les gestes à éviter, les coordonnées officielles et une date de mise à jour. Une interface ouverte ne signifie pas rendre publiques les données sensibles ; elle signifie rendre réutilisable l’information de prévention.
Sources officielles
Informations éditoriales
- Rédaction
- Jeremy Kraft
- Dernière vérification
- Méthode
- Sources publiques, vérification éditoriale et conseils proportionnés.
