KI-Kriminalität nimmt zu. Deswegen veröffentlicht die US-Sicherheitsbehörde Ratschläge, wie man sich dagegen wappnet.
Ralf Liebhold/shutterstock.com
Die digitale Neuauflage des Enkeltricks, Phishing-Attacken oder andere KI-gestützte Angriffe: All das zeigt, das Kriminelle mit generativer KI Betrugsmaschen glaubwürdiger und effizienter machen. Mit der Technologie erstellen Cyberkriminelle neue, weitgehend fehlerfreie Inhalte auf Foundation von Benutzereingaben. So vermeiden die Verbrecher typische Warnsignale für Betrug, wie Rechtschreib- oder Grammatikfehler.
Da KI-generierte, synthetische Inhalte schwer zu erkennen sind, liefert das FBI Beispiele, wie solche Technologien in betrügerischen Plänen eingesetzt werden:
KI-generierter Textual content
Kriminelle nutzen generative KI, um überzeugende Inhalte für Betrugsmaschen wie
- Social Engineering,
- Phishing,
- Finanzbetrug und
- Kryptowährungs-Anlagebetrug
zu erstellen.
Sie setzen KI ein, um täuschend echte Social-Media-Profile zu erstellen, Nachrichten schneller automatisiert zu generieren und weitgehend fehlerfrei zu übersetzen. Zudem integrieren sie KI-Chatbots in betrügerische Web sites, um Opfer gezielt zu manipulieren und auf schädliche Hyperlinks zu lenken.
KI-generierte Bilder
Auch die Macht der Bilder wird von Kriminellen mithilfe von KI-Era missbraucht. Sie erstellen etwa realistisch wirkende Inhalte für Betrugsmaschen wie Social Engineering, Identitätsdiebstahl, Anlagebetrug und Sextortion. Dazu zählen
- glaubwürdige Profilfotos,
- gefälschte Ausweisdokumente und
- Bilder für fiktive Social-Media-Profile.
Zudem verwenden die Betrüger KI, um fingierte Bilder von Prominenten, Naturkatastrophen oder globalen Konflikten zu erstellen. So sollen Opfer etwa durch falsche Werbung, betrügerische Spendenaktionen oder Marktmanipulationen in die Irre geführt werden. Ähnliche Inhalte werden auch in der privaten Kommunikation genutzt, um das Vertrauen von Opfern zu gewinnen.
KI-generiertes Audio
Zwar aufwendiger, aber auch immer beliebter sind KI-generierte Audiodateien. Beim sogenannten Vocal Cloning geben sich Kriminelle als Verwandte oder bekannte Persönlichkeiten aus und versuchen Zahlungen zu erpressen. Sie erstellen realistische Stimmen, um in Krisensituationen finanzielle Hilfe oder Lösegeld zu fordern.
Zudem setzen sie solche Audiodateien ein, um sich Zugang zu Bankkonten zu verschaffen, indem sie sich am Telefon als Kontoinhaber ausgeben.
KI-generierte Movies
Bewegte Bilder bleiben von der Kreativität der Kriminellen ebenso nicht verschont. Immer häufiger erstellen sie KI-generierte Movies, um Prominente täuschend echt zu imitieren. Sie setzen diese Movies in
- Echtzeit-Videochats,
- privater Kommunikation und
- irreführenden Werbematerialien
ein.
Solche Deepfakes kommen meist bei Anlagebetrug und Social Engineering zum Einsatz, um die Betrugsmasche glaubwürdiger zu machen.
Tipps, um sich zu schützen
Um sich vor Betrügereien mit generativer KI zu schützen, rat das FBI deshalb zu folgenden Maßnahmen:
- Familien sollten sich ein auf geheimes Wort einigen, um Identitäten zu verifizieren.
- Es gilt, verstärkt auf Unstimmigkeiten in Bildern, Movies oder Stimmen sowie Tonfall und Wortwahl von Anrufern zu achten.
- Die eigene On-line-Präsenz sollte reduziert, Social-Media-Konten auf “privat” gestellt und Inhalte nur mit vertrauten Personen geteilt werden.
- Verdächtige Anrufe sollten direkt bei der betreffenden Organisation überprüft, keine sensiblen Informationen weitergeben und keine finanziellen Transaktionen mit Unbekannten getätigt werden.
