Digital
International

Deepfake: Telegram-Bot verbreitet gefälschte Nacktbilder von Frauen

Telegram-Bot verbreitet gefälschte Nacktbilder von Frauen

Nacktbilder von sich will wohl keiner im Internet finden. Doch nun wurde bekannt, dass ein Netzwerk auf Telegram gefälschte Nacktfotos von Hunderttausenden Frauen verbreitet hat – und das ohne ihr Wissen.
23.10.2020, 09:14
Mehr «Digital»
Bett frau romantisch love sex nackt beziehungen liebe
Bild: Shutterstock
Ein Artikel von
t-online

Ein Bot hat auf bestimmten Kanälen des Messengerdienstes Telegram  Nacktfotos von mehr als hunderttausend Frauen ohne ihre Kenntnis angefertigt und öffentlich verbreitet. In wenigen Fällen waren auch Bilder von Minderjährigen dabei. Das berichtet das Sicherheitsunternehmen Sensity in einem aktuellen Bericht.

Bei einem Bot handelt es sich um ein automatisiertes Computerprogramm, das für verschiedene Zwecke eingesetzt werden kann. In diesem Fall können Nutzer dem Bot das Foto einer bekleideten Frau schicken: Nach einigen Minuten liefert der Algorithmus ein gefälschtes Nacktfoto der Person und veröffentlicht dieses auf seinem Kanal, für alle Nutzer einsehbar. «Der Bot kann diesen Prozess nur erfolgreich bei Fotos von Frauen ausführen», schreiben die Sicherheitsforscher von Sensity in ihrem Bericht. Das Unternehmen bezeichnet die Technologie als «Deepfake bot».

Die Verwendung des Telegram-Bots ist an sich kostenlos. Gratis-Bilder gibt das System aber nur mit Wasserzeichen aus. Wer kein Wasserzeichen wolle, kann laut Sensity eine Gebühr von etwa 1.50 Dollar zahlen.

Die Grafik von Sensity zeigt, wie die gefälschten Fotos erstellt und verbreitet werden.
Die Grafik von Sensity zeigt, wie die gefälschten Fotos erstellt und verbreitet werden. Bild: Sensity

Code von DeepNude genutzt

Laut Sensity nutzt der Bot für seine Manipulation vermutlich die Software DeepNude. Die wurde im Sommer 2019 bekannt und konnte ebenfalls gefälschte Nacktfotos von Frauen erstellen. Nach Medienberichten nahmen die Macher der Software die DeepNude-Website aber am 28. Juni 2019 vom Netz – unter anderem, weil sie «Missbrauch» der Software befürchteten.

Später stellte sich heraus, dass die DeepNude-Macher die Lizenz für die Software an Unbekannte verkauft hatten. Mittlerweile wurde der Code der Software laut Sensity auch nachgebaut und auf verschiedenen Seiten gefunden.

Vor allem in Osteuropa verbreitet

Die Forscher fanden sieben Telegram-Kanäle, die mit dem Bot zusammenhingen und bis zum Untersuchungszeitraum im Juli 2020 von etwa 103'000 Nutzern besucht worden waren. Ein Grossteil der User stammt dabei laut eigenen Angaben aus «Russland, Belarus, Kasachstan und der gesamten ehemaligen Sowjetunion». Das ergab eine Umfrage auf dem Hauptkanal des Bots.

Daneben wurde der Bot auch über VKontakte verbreitet, einem russischen sozialen Netzwerk ähnlich wie Facebook . Auf Anfrage der britischen «BBC» kommentierte VKontakte jedoch, dass es solche Inhalte oder Links auf der Plattform nicht dulde und «Gemeinschaften blockiere, die sie verbreiten.»

Telegram hat sich bisher nicht zum Fall geäussert. Der Messenger fiel in der Vergangenheit immer wieder negativ auf, beispielsweise als Propagandaplattform für Verschwörungsanhänger. Mehr dazu lesen Sie hier .

Betroffenen drohen viele Gefahren

«BBC» hat nach eigenen Angaben den Bot mit Einverständnis einer Testpersonen ausprobiert. Keines der Ergebnisse sei dabei besonders realistisch gewesen. Auf Anfrage des «BBC» zum Thema sagt der Administrator der Telegram-Gruppen des Bots: «Mir ist das alles recht egal. Das ist Unterhaltung, die keine Gewalt mit sich bringt. Niemand wird jemanden damit erpressen, da die Qualität sehr unrealistisch ist.»

Die Sicherheitsforscher von Sensity sehen das aber anders und warnen vor möglichen Folgen solcher gefälschter Fotos: So können die betroffenen Frauen mit den Bildern erpresst oder öffentlich erniedrigt werden, schreiben die Forscher in ihrem Bericht.

Auch die Autorin und politische Analystin Nina Jankowicz warnte vor ähnlichen Gefahren. Dem Nachrichtenportal «BuzzFeed News» erklärt sie, dass das Programm Auswirkungen für Frauen überall haben könnte, «insbesondere in konservativeren Ländern wie Russland.»

So könnten Betroffene durch gefälschte Fotos ihre Arbeit und somit den Lebensunterhalt verlieren. «Im Grunde genommen werden diese Deepfakes entweder dazu benutzt, um eine kranke Fantasie eines verschmähten Liebhabers, Freundes oder eines Perversen zu erfüllen», sagte Jankowicz zu «BuzzFeed News». «Oder sie werden als potenzielles Erpressungsmaterial benutzt.»

(avr/t-online)

DANKE FÜR DIE ♥
Würdest du gerne watson und unseren Journalismus unterstützen? Mehr erfahren
(Du wirst umgeleitet, um die Zahlung abzuschliessen.)
5 CHF
15 CHF
25 CHF
Anderer
twint icon
Oder unterstütze uns per Banküberweisung.
Nackt bei der Fashion Week Paris
1 / 19
Nackt bei der Fashion Week Paris
Stell dir mal vor, in Paris ist mal wieder Fashion Week – und die Models tragen bloss Haut und Knochen Haar. Was das Ganze soll? Die Erklärung: ...
quelle: getty images europe / francois durand
Auf Facebook teilenAuf X teilen
Diese Deepfakes musst du gesehen haben
Video: watson
Das könnte dich auch noch interessieren:
3 Kommentare
Weil wir die Kommentar-Debatten weiterhin persönlich moderieren möchten, sehen wir uns gezwungen, die Kommentarfunktion 24 Stunden nach Publikation einer Story zu schliessen. Vielen Dank für dein Verständnis!
Die beliebtesten Kommentare
avatar
Unterwasser
23.10.2020 09:37registriert Oktober 2020
Der wichtigste Punkt ist: Die Qualität ist heute noch sehr unrealistisch, aber man muss kein Hellseher sein um vorauszusehen, dass solche Deepfakes in Zukunft kaum mehr mit blossem Auge erkennbar sein werden.

Deshalb hier nochmals ein Weckruf: Wegen Deepfakes ist das Heraufladen von Photos auf Social Media (egal welche Plattform) vermutlich das riskanteste was man aus Datenschutz-Perspektive tun kann. Dagegen sind alle gesammelten Likes, Kommentare oder Suchanfragen harmlos.
625
Melden
Zum Kommentar
3
So krass nahm Cyberkriminalität zu – und so oft trifft es dein Omi
Die neuen Zahlen vom Bundesamt für Statistik zeigen: Im digitalen Raum ist die Kriminalität auch im letzten Jahr massiv angewachsen. Opfer sind aber nicht nur ältere Personen – im Gegenteil.

Die neuste Kriminalitätsstatistik des Bundesamts für Statistik zeigt neue Rekordwerte. Über eine halbe Million Mal wurde im Jahr 2023 ein Vorfall gemeldet. Das sind 14 Prozent mehr Straftaten als noch im Jahr zuvor. Die digitale Kriminalität verzeichnet gar eine Zunahme von 31,5 Prozent. Doch wo im Online-Universum werden wir eigentlich am häufigsten übers Ohr gehauen?

Zur Story