Stimmen-Cloning so einfach wie nie

Es ist wohl ein Extrembeispiel, soll sich aber letztes Jahr in Hongkong so zugetragen haben: Ein Finanzangestellter eines multinationalen Finanzunternehmens überwies 25 Millionen Dollar (rund 23 Millionen Euro) an Betrüger. Getäuscht wurde der Mitarbeiter in einer Videokonferenz mit vermeintlichen Kolleginnen und Kollegen, die ihm das auftrugen. Aber keiner dieser Akteure war echt. Die Polizei ging von einem Deepfake-Angriff aus, also einer Attacke mittels realistisch wirkender Medieninhalte, die durch Techniken der künstlichen Intelligenz abgeändert, erzeugt oder verfälscht worden sind.

Auch wenn es sich hier nicht um einen alltäglichen Schwindel handelt, sind solche Betrugsversuche stark im Kommen. Das bestätigt Alexander Bartel: „Vor allem im Bereich Stimmen-Cloning haben sich die Möglichkeiten erheblich erweitert.“ Das betreffe nicht nur Personen, die in der Öffentlichkeit stehen, so der Experte für Cybersicherheit, der an der Hochschule Neu-Ulm lehrt, weiter.

„Es gibt ja inzwischen frei nutzbare Tools, mit denen sich zum Beispiel mittels eines kurzen Audiomitschnitts in einer Länge zwischen zehn bis 20 Sekunden jede Stimme perfekt klonen lässt“, ergänzt Jan Schäfer, Fachberater für Extended Reality am Digitalisierungszentrum Ulm | Alb-Donau Biberach | Neu-Ulm.

Daher warnt auch das Bundesamt für Sicherheit in der Informationstechnik in einem aktuellen Bericht: „Generative KI-Modelle können kriminelle Nutzende dabei unterstützen, eine andere Identität vorzutäuschen.

Dadurch können sie ihre eigentlichen Absichten verschleiern, um ein Opfer beispielsweise zur Preisgabe vertraulicher Informationen, zur Tätigung von Überweisungen oder zur Installation von Schadsoftware auf einem privaten oder beruflichen Gerät zu verleiten.“

Eine neue Dimension durch Künstliche Intelligenz hat sich vor allem im Segment der Phishing-Mails (E-Mail mit der Aufforderung zum Besuch einer gefälschten Website, über die Betrüger versuchen, beispielsweise Bankzugangsdaten zu erhalten) aufgetan. Darauf weist Felix Kuhlenkamp hin. Der IT-Sicherheitsexperte ist Bereichsleiter Sicherheitspolitik beim Digitalverband Bitkom: „Früher wurden tausende solcher Mails in der Absicht verschickt, dass sie vielleicht einige potenzielle Opfer erreichen. Aber mittels KI können solche Angriffe nun viel zielgenauer durchgeführt werden.“ Dazu könnten anvisierte Zielpersonen bereits zuvor besser durchleuchtet und entsprechende Informationen für gefälschte Sprachanrufe oder Videos verwendet werden. „Man muss es ganz klar sagen“, mahnt Bartel „diejenigen, die cyberkriminell agieren möchten, haben mit generativer KI deutlich schnellere, umfangreichere und vermutlich auch präzisere Möglichkeiten, Angriffe zu fahren.“

Auch wenn die Bitkom-Studie für das Jahr 2024 verzeichnet, dass nur sechs Prozent aller Cyberangriffe, die Schaden verursacht haben, von Deep Fakes oder Robo-Calls (Telefonanrufe mit einer voraufgezeichneten Nachricht) stammten, waren sich 83 Prozent der Befragten sicher, dass Künstliche Intelligenz die Gefahrenlage für die Wirtschaft verschärft. 61 Prozent glaubten aber ebenso, dass KI dazu beitragen kann, die IT-Sicherheit deutlich zu verbessern.

„Eine absolut richtige Einschätzung“, kommentiert Kuhlenkamp dieses Umfrageergebnis. Aktuell kann KI als „automatisierte Betrugserkennung“ hilfreich sein, so der Experte weiter. Besonders bei der Erkennung sowie Abwehr von Phishing-Mails kann die Technologie zum Einsatz kommen. Oder bei der Identifizierung von Eindringlingen in die Netzwerke von Unternehmen. Als Vorsorge-Tool bieten sich auch ein „Honeypot“ an. Das ist ein Cyber-Sicherheitsmechanismus, bei dem Cyberkriminelle mithilfe eines speziell gestalteten Angriffsziels von echten Zielen weggelockt werden. Gleichzeitig können damit aber auch Informationen zur Identität sowie zu den Methoden und Motiven von Angreifern gesammelt werden.

Vorbild für einen „Honeypot“ können beliebige digitale Assets sein, beispielsweise Software-Anwendungen, Server oder das Netzwerk selbst. Der Angreifer soll dadurch glauben, dass er Zugriff auf das echte System hat, und Zeit in dieser kontrollierten Umgebung verbringen. Damit können dann ebenfalls Techniken, Fähigkeiten und Kompetenz der Kriminellen beurteilt werden.

„Grundsätzlich sollten aber immer auch die allgemeinen Sicherheitsregeln und Hinweise für Cybersicherheit gelten“ betont der Bereichsleiter Sicherheitspolitik der Bitkom, etwa die Zweifaktor-Authentifizierung: Neben etwa einem Passwort ist ein zweiter Identitätsnachweis notwendig, um Zugang zu Netzwerken oder Daten zu erhalten. Die Zahl der digitalen Angriffe auf deutsche Unternehmen jedenfalls ist 2024 weiter angestiegen, so hat es eine Studie der Bitkom errechnet. 74 Prozent der Firmen waren demnach von Datendiebstahl betroffen, während ein Gesamtschaden durch Cybercrime von 178,6 Milliarden Euro verursacht wurde, wobei Ransomware (Schadprogramme, die den Computer sperren oder Daten verschlüsseln, um ein Lösegeld zu erpressen) und Phishing die häufigsten Angriffsformen darstellten.

Doch auch analoge Angriffe nehmen zu, insbesondere beim Diebstahl physischer Dokumente und der Abhörung von Gesprächen. Unternehmen investieren verstärkt in IT-Sicherheit, die nun 17 Prozent ihres IT-Budgets ausmacht, und betrachten IT-Sicherheit zunehmend als Teil ihrer digitalen Souveränität. Viele erkennen die Risiken in ihren Lieferketten, ein Notfallplan fehlt jedoch häufig. [!]
Wilfried Urbe

Kriminalität im digitalen Raum 

Ermittlungsarbeit Grenzen, Tarnung, internationale Banden: Digitale Delikte stellen Ermittler vor große Herausforderungen und machen die Aufklärung oft zum Kraftakt.

Während Attacken aus der digitalen Welt immer gefährlicher und zahlreicher werden, lässt die Verfolgung solcher Straftaten noch zu wünschen übrig. „Die Angreifer sind in der Regel nur sehr schwer zu identifizieren“, benennt der Professor für Agile Software Engineering an der Hochschule Neu-Ulm, Alexander Bartel, einen wichtigen Grund. Inwiefern macht es Sinn, die Kriminellen aus dem Netz zu verfolgen? Das sei stets eine Einzelfallentscheidung, ist sich der Experte sicher: „Natürlich muss man versuchen, die Angriffe in irgendeiner Form zu isolieren sowie forensisch nachzuvollziehen, aber das hat meistens eine internationale Dimension, wobei verschiedenste Strafverfolgungsbehörden zusammenarbeiten müssen. Und das allein ist schon eine Herausforderung.“ 

Laut eines Berichts des Digitalverbandes Bitkom stammten im Jahr 2024 70 Prozent aller Betrugsversuche von organisierten Banden, 20 Prozent von ausländischen Geheimdiensten. Der Täterkreis war vor allem in China und Russland beheimatet. Das belegen die Daten von Unternehmen, die im letzten Jahr von Datendiebstahl oder Industriespionage betroffen waren. Für die Strafverfolgung und Bekämpfung von Cyberkriminalität sind in Deutschland zunächst die Landeskriminalämter und auf Bundesebene das Bundeskriminalamt (BKA) zuständig. Das BKA nimmt zudem eine koordinierende Funktion als Zentralstelle wahr.

Da allerdings kein Staat dieses grenzüberschreitende Problem für sich allein lösen kann, ist eine gute internationale Zusammenarbeit unabdingbar. Daher haben die internationalen Ermittlungsbehörden Europol und Interpol eine besondere Bedeutung.

Im Bereich von Cybercrime spielt bei Europol vor allem das European Cybercrime Centre eine wichtige Rolle - etwa bei der Unterstützung operativer Maßnahmen der Mitgliedstaaten, bei der Auswertung von Daten und beim Austausch von polizeilichen Erkenntnissen.

Vor kurzem hat das BKA übrigens nach eigenen Angaben den „bisher größten Schlag“ gegen Cyber-Kriminelle weltweit erzielt. In einer internationalen Aktion wurden acht Verdächtige festgenommen und zehn internationale Haftbefehle erlassen.

Gemeinsam mit der Generalstaatsanwaltschaft Frankfurt am Main Zentralstelle zur Bekämpfung der Internetkriminalität (ZIT) schaltete das BKA die Webseiten „nulled.to “ und „cracked.io “ ab. Dabei wurden über 100 Server und mehr als 1.300 kriminell genutzte Web-Adressen deaktiviert. Die international koordinierte Operation “Talent“, die unter deutscher Führung und mit Unterstützung von Europol durchgeführt wurde, umfasste sieben Durchsuchungen in zehn Ländern. Dabei beschlagnahmten die Ermittler insgesamt 67 Geräte, darunter 17 Server, zwölf Online-Konten und zwölf illegale Domains. Zudem wurden ein Zahlungsdienstleister und ein Hosting-Anbieter vom Netz genommen, die eng mit den Plattformen verknüpft waren. Die Behörden stellten Vermögenswerte im mittleren sechsstelligen Bereich sicher.

Auch Strafverfolgungsbehörden aus den USA, Australien, Spanien, Griechenland, Rumänien, Italien und Frankreich beteiligten sich an der Aktion. Seit fast einem Jahrzehnt galten „nulled.to “ und „cracked.io “ mit rund fünf Millionen registrierten Nutzerkonten als zentrale Handelsplätze der Underground Economy. Laut Europol dienten sie als Drehscheibe für Cyber-Baden-Würt-Kriminelle, die dort gestohlene Daten, Schadsoftware und Hacking-Tools anboten. Die Ermittler gehen davon aus, dass die Betreiber eine Million Euro an kriminellen Gewinnen erzielten. Das BKA teilte mit, dass die Ermittlungen bereits im März 2024 begonnen hatten. Das Cybercrime-Zentrum Baden-Württemberg kann ebenfalls auf Erfolge verweisen: Nach mehrjährigen„intensiven internationalen Ermittlungen“ ist es in Zusammenarbeit mit dem Landeskriminalamt Baden-Württemberg sowie der Staatsanwaltschaft Stuttgart gelungen, einen 45-jährigen ukrainischen Staatsangehörigen als den mutmaßlichen Cybererpresser der Württembergischen Staatstheater Stuttgart zu identifizieren und festzunehmen. So teilte es der Karlsruher Oberstaatsanwalt Mirko Heim mit: „Er steht unter Verdacht, der Gruppierung, GandCrab' anzugehören, die mit der illegalen Verschlüsselung von Daten Geld von ihren Opfern erpresst hat.“

Auch mehrere Hersteller von medizinischen Produkten gehörten zu den Geschädigten dieser Angriffe. Bis zu 15.000 US-Dollar in digitalen Währungen verlangten die Täter von ihren Opfern. Allein den betroffenen Unternehmen in Baden-Württemberg sei ein wirtschaftlicher Schaden von fast zweieinhalb Millionen Euro entstanden. Insgesamt soll die Gruppierung Verluste von mehreren 100 Millionen Euro verursacht haben. Jan Schäfer schließlich, Fachberater für Extended Reality am Digitalisierungszentrum Ulm | Alb-Donau Biberach | Neu-Ulm, mahnt, dass vor allem auf EU-Ebene stringentere Gesetze zur Eindämmung von Cyber-Kriminalität greifen sollten: „Und da sollten dann auch Plattformbetreiber wie Meta oder X stärker in die Pflicht genommen werden, gerade wenn es um die Verbreitung von Desinformation geht.“ [!]
Wilfried Urbe

Geballte Expertise

Zur Person

Jan Schäfer ist Fachberater für Mixed-, Virtual- sowie Augmented-Reality am Digitalisierungszentrum Ulm | Alb-Donau | Biberach | Neu-Ulm e.V. Davor war der Dipl. Kommunikationsdesigner viele Jahre als Entwickler und Gestalter tätig.

Zur Person

Felix Kuhlenkamp ist Bereichsleiter Sicherheitspolitik bei Bitkom. Er verantwortet die Arbeit an der Schnittstelle von Informationssicherheit und digitalen Technologien. Schwerpunkt: Die nationalen und europäischen Cybersicherheitsgesetze.

Zur Person

Alexander Bartel ist Professor für Agile Software Engineering an der Hochschule Neu-Ulm. Sein Forschungsschwerpunkt liegt in der Verbindung von Software-Engineering-Prinzipien mit praktischen Anwendungen der Künstlichen Intelligenz

Cyberkriminalität in Deutschland

Die Bedrohungslage durch Cyberkriminalität ist anhaltend hoch. Ein Indikator dafür ist die Polizeiliche Kriminalstatistik (PKS), die 131.391 in Deutschland verübte Cybercrime-Fälle für das Jahr 2024 ausweist. Bei weiteren 201.877 Straftaten handelt es sich um Taten, die vom Ausland oder einem unbekannten Ort aus verübt wurden.

Dabei verharrt die Aufklärungsquote bei den Cybercrime-Delikten im Inland mit 32 Prozent deutlich unterhalb der Aufklärungsquote der Gesamt-PKS von 58 Prozent. Laut BKA bleiben Ransomware, DDOS-Angriffe und Phishing die prägenden Bedrohungen im Cyberraum.