Künstliche Intelligenz
KI im Dienst der bürgernahen Prävention: nützlich, aber unter Kontrolle
KI kann Tausende Meldungen zusammenführen und eine Warnung beschleunigen, sofern Menschen die Entscheidung behalten und die Daten geschützt bleiben.
Jeremy Kraft · 6 Min. Lesezeit
In diesem Artikel
Wenn eine Betrugskampagne beginnt, sind die ersten Signale oft winzig: Drei Bürger leiten dieselbe SMS weiter, ein Verein meldet eine gefälschte Rechnung, eine Bank bemerkt eine Domain, die ihrer eigenen fast gleicht. Einzeln betrachtet wirken diese Elemente wie Rauschen. Schnell zusammengeführt, können sie eine Kampagne aufdecken, bevor sie sich ausbreitet.
Genau bei diesem Zusammenführen kann künstliche Intelligenz der bürgernahen Prävention wirklich helfen. Nicht indem sie den Analysten ersetzt oder anstelle der Bürger entscheidet, sondern indem sie die Zeit zwischen der ersten Meldung und einer brauchbaren Warnung verkürzt.
Von einem konkreten Problem ausgehen
Das Wort „KI“ zieht leicht vage Projekte an. Prävention verlangt dagegen, von einer messbaren Frage auszugehen: Können wir schneller erkennen, dass mehrere Nachrichten zum selben Betrug gehören? Können wir erklären, warum ein Link gefährlich ist? Können wir eine einheitliche Warnung in den Landessprachen erstellen, ohne mehrere Tage zu warten?
2025 wurden fast zehn Millionen verdächtige Nachrichten an Safeonweb weitergeleitet. Diese Menge übersteigt das, was ein menschliches Team einzeln prüfen kann. Belgische Mechanismen wie BAPS nutzen diese Meldungen, um bösartige Links zu erkennen und Internetnutzer auf eine Warnseite umzuleiten.
KI kann die erste Sichtung verbessern, doch der Wert entsteht durch die gesamte Kette: einfache Meldung, schnelle Analyse, Überprüfung, verhältnismäßige Sperrung und klare Rückmeldung an die Öffentlichkeit.
Was die Maschine gut kann
Ein System kann Nachrichten zusammenführen, deren Wortlaut sich unterscheidet, deren Szenario aber identisch ist. Es kann erkennen, dass mehrere Domains dieselbe Bank imitieren, die verwendeten Nummern oder Adressen herausziehen und Meldungen nach Dringlichkeit ordnen.
Es kann auch helfen,
- eine Kampagne zu erkennen, die gleichzeitig per SMS, E-Mail und Messenger kursiert;
- Varianten in mehreren Sprachen aufzuspüren;
- die am stärksten betroffenen Sektoren oder Regionen zu ermitteln;
- hundert Meldungen für den Analysten zusammenzufassen;
- einen ersten, auf die Zielgruppe zugeschnittenen Warnungsentwurf vorzuschlagen.
Diese Aufgaben sind repetitiv, umfangreich und strukturiert genug, um von Automatisierung zu profitieren. Sie schaffen menschliche Zeit für Ermittlungen, den Kontakt mit Opfern und Entscheidungen mit Folgen.
Was die Maschine nicht allein entscheiden kann
Eine neu registrierte Domain ist nicht zwangsläufig betrügerisch. Eine dringende Anfrage kann legitim sein. Eine Nachricht, die in einer Gemeinde ungewöhnlich ist, kann in einer anderen normal sein.
Das System kennt nicht immer den sozialen und institutionellen Kontext. Es kann eine offizielle Kampagne mit einer Nachahmung verwechseln oder einem populären Signal zu viel Gewicht beimessen. Enthalten die Trainingsdaten vor allem französischsprachige Meldungen, können die Ergebnisse auf Deutsch oder Niederländisch schwächer ausfallen.
Die Entscheidung, zu sperren, eine Anschuldigung zu veröffentlichen oder Informationen an eine Behörde weiterzugeben, muss daher eingerahmt bleiben. Je größer die Auswirkungen auf Menschen, desto mehr braucht es menschliche Prüfung, Nachvollziehbarkeit und Einspruchsmöglichkeiten.
Die Warnung erklären
Eine wirksame Warnung zeigt nicht bloß „gefährliche Website“ an. Sie nennt einen Grund, den die Person verstehen kann:
- die Adresse imitiert einen offiziellen Dienst, nutzt aber eine andere Domain;
- die Website verlangt einen Bankcode, der niemals weitergegeben werden darf;
- mehrere unabhängige Meldungen beschreiben dasselbe Szenario;
- die Domain wurde kürzlich angelegt und leitet auf eine Seite weiter, die bereits mit Betrug in Verbindung gebracht wurde.
Diese Erklärung erfüllt zwei Aufgaben. Sie hilft, jetzt zu entscheiden, und entwickelt einen Reflex für den nächsten Versuch. Sie ermöglicht es außerdem einer seriösen Website, eine irrtümliche Sperrung anzufechten.
Ein gutes Präventionssystem will also nicht nur recht haben. Es will genug Belege zeigen, damit seine Entscheidung überprüft werden kann.
Ein realistischer Tag in einem bürgernahen System
Um 8.15 Uhr leiten mehrere Menschen eine SMS über eine angebliche Energierückerstattung weiter. Der Text variiert leicht, und die Links nutzen fünf Domains.
Das System gruppiert die Nachrichten, erfasst die Ähnlichkeiten und stellt fest, dass die Seiten dasselbe Erscheinungsbild kopieren. Um 8.30 Uhr prüft ein Analyst das Ganze, fragt bei der nachgeahmten Organisation nach und bestätigt den Betrug. Die Domains werden in die Schutzmechanismen aufgenommen. Eine auf Französisch verfasste Warnung wird ins Niederländische und Deutsche übertragen und anschließend gegengelesen.
Um 9 Uhr verfügen Gemeinden, Banken und Vereine über eine einheitliche Botschaft zum Weitergeben. Neue Meldungen ergänzen die bestehende Kampagne, statt zwölf getrennte Vorgänge zu erzeugen.
Dieses Szenario erfordert keine „allgemeine KI“. Es erfordert einen guten Informationsfluss, auf eine Aufgabe beschränkte Modelle und ein Team, das schnell entscheiden kann.
Angreifer nutzen dieselben Werkzeuge
Betrüger erstellen sauberere Texte, passen ihre Szenarien an mehrere Sprachen an und sammeln automatisch öffentliche Informationen. Synthetische Stimmen machen bestimmte Anfragen überzeugender. Vor allem erlaubt ihnen KI, Volumen und Tempo zu steigern.
Die Antwort kann nicht darin bestehen, die Abwehr blind zu automatisieren. Sie muss Folgendes verbinden:
- starke, phishingresistente Authentifizierung;
- unabhängige Verfahren zur Überprüfung von Zahlungen;
- schnelle Sperrung bekannter Infrastruktur;
- einfache Ratschläge, um eine verdächtige Interaktion abzubrechen;
- Unterstützung für Opfer ohne Schuldzuweisung.
Technische Prävention und die menschliche Fähigkeit, zu sagen „Ich halte inne und prüfe“, verstärken sich gegenseitig.
Die Daten der Meldenden schützen
Eine weitergeleitete Nachricht kann einen Namen, ein Aktenzeichen, eine Adresse oder ein privates Gespräch enthalten. Nicht alle diese Elemente sind nötig, um eine Kampagne zu erkennen.
Die Plattform muss personenbezogene Daten so früh wie möglich schwärzen oder löschen, den Zugriff beschränken, Einsichtnahmen protokollieren und eine Aufbewahrungsfrist festlegen. Daten, die zum Training oder Testen eines Modells verwendet werden, müssen von operativen Akten getrennt sein und Gegenstand einer ausdrücklichen Entscheidung sein.
Außerdem gilt es, einen Teufelskreis zu vermeiden: immer mehr Nachrichten zu sammeln, weil „das Modell dadurch besser werden könnte“. Die Frage muss umgekehrt lauten: Welche Mindestmenge genügt, um das Ziel zu erreichen?
Indikatoren, die die Öffentlichkeit versteht
Ein System, das zum Schutz der Bürger finanziert wird, sollte mehr veröffentlichen als eine abstrakte Trefferquote.
Nützliche Indikatoren sind:
- die Zeit zwischen der ersten Meldung und der bestätigten Warnung;
- der Anteil der Sperrungen, die angefochten und dann aufgehoben wurden;
- die Qualität der Ergebnisse in jeder Landessprache;
- die Zahl der Aufrufe, die von einer betrügerischen Domain umgeleitet wurden;
- die Menge der automatisch gelöschten personenbezogenen Daten;
- die Reaktionszeit, wenn jemand eine Korrektur verlangt.
Diese Zahlen zwingen dazu, auf den tatsächlichen Nutzen zu schauen und nicht nur auf die technische Leistung des Modells.
Die Fähigkeit für Akteure vor Ort öffnen
Gemeinden, Schulen, Vereine und kleine Unternehmen erhalten wertvolle Signale, haben aber selten einen strukturierten Kanal, um sie zu teilen. Einfache, dokumentierte Formate würden es ermöglichen, eine Kampagne zu melden, ohne den gesamten Inhalt einer Akte weiterzugeben.
Umgekehrt brauchen lokale Akteure sofort einsetzbare Warnungen: eine kurze Beschreibung, die zu vermeidenden Handlungen, die offiziellen Kontaktdaten und ein Aktualisierungsdatum. Eine offene Schnittstelle bedeutet nicht, sensible Daten öffentlich zu machen; sie bedeutet, Präventionsinformationen wiederverwendbar zu machen.
Offizielle Quellen
Redaktionelle Angaben
- Verfasst von
- Jeremy Kraft
- Zuletzt geprüft
- Methode
- Öffentliche Quellen, redaktionelle Prüfung und verhältnismäßige Empfehlungen.
Diskussion
Kommentare
Noch kein Kommentar. Eröffnen Sie die Diskussion gern mit einer Frage oder Ihrem eigenen Erfahrungsbericht.