Digital
Apps

Gradient AI Photo Editor: App verblüfft und verärgert Smartphone-User

Bild

Geschmacklos, rassistisch? Diese Foto-App sorgt mit einer neuen Funktion für Aufregung

Wie FaceApp verspricht die Gradient-App raffinierte Fotomanipulationen mithilfe von künstlicher Intelligenz. Doch es gibt gleich mehrere Probleme.
25.09.2020, 05:5525.09.2020, 16:24
Mehr «Digital»

Erinnerst du dich an FaceApp?

Das war die Foto-App, die 2019 für Furore sorgte, weil man damit auf Knopfdruck altern konnte.

Nun wird es noch viel krasser.

Die Gradient-App macht aus Weissen Schwarze und Asiaten. Und umgekehrt. Das funktioniert innert Sekunden, mithilfe raffinierter Algorithmen und Künstlicher Intelligenz.

«Finden Sie Ihre Zwillinge aus Brasilien, Asien, Europa und Indien.»
Werbeversprechen der App-Entwickler

Allerdings hat die faszinierende Bildmanipulations-Technik ihre Schattenseiten und sorgt für Proteste.

Was ist das für eine App?

In den App-Stores fürs iPhone und für Android wird sie als «Gradient: AI Photo Editor» aufgeführt.

Bild

Gradient analysiert die von Usern hochgeladenen Fotos und verändert das Aussehen von Personen grundlegend. Die Gesichter von Weissen, bzw. hellhäutigen Personen, werden transformiert in Schwarze und Asiaten. Wobei die Verwandlung auch in umgekehrter Richtung möglich ist.

Lassen wir zunächst die Bilder sprechen...

Wer ist das?

Bild

Die Auflösung:

Surprise

Und wer ist das?

Bild

Die Auflösung:

Surprise

Vermarktet wird die App auch als «Gradient: AI Fortune Teller», das ist eine weitere Funktion, die anhand des Aussehens auf humorvolle Art die Zukunft voraussagt.

Doch für Schlagzeilen sorgte die vor wenigen Tagen lancierte Funktion «AI Face», auf Deutsch «KI-Gesichts-Collage». US-Promis rühren dafür bei Twitter und Instagram die Werbetrommel.

Bild
screenshot: twitter

Und bei TikTok war es die Influencerin Danielle Cohn.

Bild
screenshot: tiktok

Wo ist der Haken?

Es gibt mehrere, wie wir gleich sehen.

Der US-Sender CNN berichtete kritisch über die App, die ermögliche, «die ethnische Zugehörigkeit» in Fotos zu ändern. Laut Bericht steht die App in den Vereinigten Staaten unter Beschuss, weil sie «digitales Blackfacing» fördere.

Bild
screenshot: twitter

Die Gradient-App bot Smartphone-Nutzern auch eine Einschätzung zur Herkunft («Schätzung der Ethnizität») an. Auch dabei kam angeblich Künstliche Intelligenz zum Einsatz. Allerdings ist diese Funktion nicht mehr auffindbar.

Elvis war 39 Prozent jüdischer Abstammung? Diese fragwürdige, auf der App-Website angepriesene Funktion ist bei der von watson getesteten iPhone-Version nicht verfügbar.
Elvis war 39 Prozent jüdischer Abstammung? Diese fragwürdige, auf der App-Website angepriesene Funktion ist bei der von watson getesteten iPhone-Version nicht verfügbar. screenshot: gradient.photo

Was ist Blackfacing?

Als Blackfacing (in etwa Gesichtsschwärzung) wird gemäss Wikipedia die Darstellung schwarzer Menschen durch dunkel geschminkte Menschen heller Hautfarbe bezeichnet. Die Ursprünge dieser heute höchst umstrittenen Theater-Tradition reichen über zweihundert Jahre zurück.

Bild
bild: wikimedia commons
«In Mode kam das Blackfacing ab dem 19. Jahrhundert bei den sogenannten Minstrel-Shows in den USA. Für die Unterhaltungsshows stellten weisse Schauspieler klischeehaft schwarze Sklaven dar. Dafür malten sie sich dunkel an und zeichneten sich übertrieben dicke Lippen. In dieser Kostümierung präsentierten sie sich als dümmlich-naive, teils boshafte, aber doch immerfort gut gelaunte Schwarze. Dabei schwang mit, dass die Sklaverei doch gar nicht so schlimm war.»
quelle: deutsche welle

Blackfacing wurde und wird unter anderem in der Niederlande bei den jährlichen Nikolausumzügen – in Gestalt des Zwarte Pieten – zelebriert. Dabei kommt es auch regelmässig zu Protesten durch Antirassismus-Organisationen.

Im August 2020 kündigte Facebook an, verstärkt gegen die Verbreitung rassistischer Stereotype vorzugehen, wie sie bei typischen Blackfacing-Aufnahmen vorkommen. Dazu gehörten gemäss einer hochrangigen Managerin schwarze Schminke, dicke Lippen und Kraushaar-Perücken.

Du fragst dich, was das mit der Gradient-App zu tun hat?

Hier kommt digitales Blackfacing ins Spiel, wie Fachleute in den Vereinigten Staaten zu erklären versuchen.

«‹Digital Blackface› ist, wenn Nichtschwarze die Bilder und Stimmen von Schwarzen benutzen, um Gefühle oder Phänomene zu erklären.»
Jardin Dogan, Psychologin

Wenn man ein animiertes GIF verschickt, das eine dunkelhäutige Person zeigt, die wild tanzt und wie verrückt mit den Augen rollt, ist das eindeutig digitales Blackfacing. Denn so würden negative Stereotypen über Schwarze zementiert, erklärte Jordan. Nämlich dass sie übermässig animiert, laut, aggressiv, wütend, hypersexuell und vieles mehr seien.

Digital Blackfacing sei auch eine Form der kulturellen Aneignung, weil Nichtschwarze eine Hautfarbe annehmen, die sie nach Belieben ablegen und annehmen können, während die tatsächlichen Schwarzen gezwungen seien, sich täglich mit den Folgen ihrer Herkunft zu konfrontieren, ohne das Privileg, sie loszulassen, wenn sie nicht mehr «cool» sei.

Die Debatte ende nicht beim Blackfacing, hielt die Deutsche Welle in einem online verfügbaren Artikel fest. Genauso zweifelhaft sei die Imitation von Menschen aus Südamerika, Nahost oder Indien (Brownfacing), Asiaten (Yellowfacing) oder nordamerikanischen Ureinwohnern (Redfacing).

Mit der App wird zudem die Vorstellung gefördert, schwarz, weiss, indisch, brasilianisch, etc. seien trennscharf abgrenzbare Identifikationsmerkmale – was sie ja eben nicht sind. Die App fördert die Zementierung der Unterschiede.

Was kostet die App?

Die Gradient-App kann gratis ausprobiert werden. Laut Entwicklern beträgt der konstenlose Testzeitraum 3 Tage. Allerdings könne schon vor Ablauf der Testphase eine monatliche Gebühr von 21 Franken fällig werden, warnten angeblich betroffene User im Internet: Wenn man nicht 24 Stunden vor Ablauf der Frist kündige, werde der relativ hohe Abopreis kassiert. Sicher ist: Das einfache Deinstallieren, bzw. Löschen der App auf dem Smartphone reicht nicht aus. iPhone- und Android-User müssen das Probeabo aktiv kündigen.

Bild
bild: watson

Wem gehören die Fotos?

Die Entwicklerfirma schreibt in den Nutzungsbedingungen, sie beanspruche nicht das Eigentum an den hochgeladenen und über die Gradient-App bearbeiteten Inhalte.

Doch der Teufel steckt im Detail. Weiter heisst es:

«Sie gewähren Gradient hiermit eine nicht-exklusive, vollständig bezahlte und gebührenfreie, übertragbare, unterlizenzierbare, weltweite Lizenz zur Nutzung Ihrer Inhalte zur Bereitstellung unseres Dienstes, vorbehaltlich der Datenschutzrichtlinie.»
quelle: gradient.photo

Das bedeutet, dass App-User die uneingeschränkten Urheberrechte an den Fotos besitzen sollten, die sie hochladen. Sonst drohen juristische und finanzielle Konsequenzen.

Auf der sicheren Seite ist man, wenn nur eigene Fotos hochgeladen werden – natürlich auf eigene Gefahr. Oder wenn man gemeinfreie Bilder verwendet. Wie zum Beispiel die vom Weissen Haus veröffentlichten Präsidentenporträts.

Bild

Wer steckt dahinter?

Die US-Firma Ticket to the Moon, Inc.

Die auf der Gradient-Website angegebene Postadresse in Las Vegas, Nevada, deutet auf eine Briefkastenfirma hin.

Als Firmengründer fungieren Vladyslav Urazov und Bogdan Matveev, die als «Enthusiasten der künstlichen Intelligenz und des maschinellen Lernens» beschrieben werden.

Bild
screenshot: linkedin

Urazov ist ein 22-jähriger IT-Unternehmer aus der Ukraine. 2018 sorgte er für Schlagzeilen, als er die mit Viktor Koch und weiteren Ukrainern gegründete Teleport-App ans US-Unternehmen Snap verkaufte. Für 8 Millionen Dollar. Die auf künstlicher Intelligenz basierende Foto-Bearbeitungs-Technologie ermöglicht es Snapchat-Usern, auf den hochgeladenen Bildern innert Sekunden die Haarfarbe zu ändern.

Nach dem Deal liess Urazov verlauten, dass er mit seinen Partnern einen Risiko-Investmentfonds anlege, um Start-ups zu fördern im Bereich Künstliche Intelligenz. Er gab sich zuversichtlich, in die Liga der sogenannten «Unicorns» aufzusteigen, also derjenigen Neufirmen, die eine Marktbewertung von einer Milliarde US-Dollar oder mehr aufweisen.

Wie steht's um den Datenschutz?

Eine berechtigte Frage, angesichts der Verlockung für Smartphone-User, über die Gradient-App Fotos von sich selbst und Dritten auf einen fremden Server hochzuladen.

In welchen Rechenzentren die Fotos gespeichert und allenfalls weiterverwendet werden, ist nicht bekannt. Die Entwicklerfirma versichert in der Datenschutzrichtlinie, dass keine persönlichen User-Daten an Dritte weitergegeben würden.

Erstmals für Schlagzeilen gesorgt hatte der «Gradient Foto Editor» im vergangenen Oktober. Neben diversen Foto-Filtern sollte die App den Usern mithilfe von Künstlicher Intelligenz zeigen, welchen prominenten Personen sie ähnlich sahen. Und schon damals wurden in Medienberichten Bedenken bezüglich der Datenschutzbestimmungen geäussert.

Gibt's eine Altersbeschränkung?

Ja. In den Nutzungsbedingungen steht, man müsse mindestens 13 Jahre alt sein, um den Dienst nutzen zu können.

Bei in der Europäischen Union (EU) ansässigen Personen gilt ein Mindestalter von 16 Jahren. Dies wegen der Anforderungen der Datenschutz-Grundverordnung (DSGVO). Als Kontaktstelle in der EU wird ein Büro in Tschechien genannt.

Und jetzt du!

Was hältst du von der Gradient-App?

Quellen

DANKE FÜR DIE ♥
Würdest du gerne watson und unseren Journalismus unterstützen? Mehr erfahren
(Du wirst umgeleitet, um die Zahlung abzuschliessen.)
5 CHF
15 CHF
25 CHF
Anderer
twint icon
Oder unterstütze uns per Banküberweisung.
25 Produkte, die du wirklich online kaufen kannst
1 / 27
25 Produkte, die du wirklich online kaufen kannst
Gefängniszelle aus dem Jahre 1899 (ungefähr) für zwei Insassen mit Betten, Elwood (Illinois). bild: instagram

Auf Facebook teilenAuf X teilen
SwissCovid-App noch nicht installiert? Wir helfen dir
Video: watson
Das könnte dich auch noch interessieren:
61 Kommentare
Weil wir die Kommentar-Debatten weiterhin persönlich moderieren möchten, sehen wir uns gezwungen, die Kommentarfunktion 24 Stunden nach Publikation einer Story zu schliessen. Vielen Dank für dein Verständnis!
Die beliebtesten Kommentare
avatar
ch.vogel
25.09.2020 07:19registriert Mai 2014
Das Fragwürdigste an der ganzen Sache finde ich das Monatsabo für 21 Franken.

Aber dass man sich wegen Rassismus aufregt, wenn die App ja in jede Richtung funktioniert, nicht bloss weiss -> schwarz verstehe ich nun wirklich nicht.
Ist ja nicht so, dass die App Karikatur-Bilder ausspuckt z.B. mit extrem dicken Lippen und nem Dutt mit Knochen als Frisur...

Wie soll man es denn bitteschön richtig machen?

Beauty-Filter sind okay, Haarfarbe wechseln ebenfalls, AI-basiertes Altern/Verjüngen und Mann<>Frau Transformationen sind witzig, aber wehe man wagt sich an die Hautfarbe?
105322
Melden
Zum Kommentar
avatar
Linda Diaz
25.09.2020 06:20registriert Januar 2020
Bin mal gespannt wie viele Kiddies den Scheiss nur schnell ausprobieren wollen, und danach mit Rechnungen eingedeckt werden!
3719
Melden
Zum Kommentar
avatar
felixJongleur
25.09.2020 07:43registriert Dezember 2014
Ist es nicht sogar völkerverständigend und antirassistisch, wenn man sich auch als Mensch mit einer anderen Hautfarbe sehen kann?
2137
Melden
Zum Kommentar
61
Wir haben «TopSpin 2K25» angespielt – und finden es grosses Tennis!
Mehr als eine Dekade nach «TopSpin 4» haucht 2K dem Tennis-Klassiker neues Leben ein. Wenn der Publisher es nicht mit den Mikrotransaktionen übertreibt, erwartet uns eine exzellente Sport-Sim.

Im Jahr 2011 galt «TopSpin 4» als DIE Tennis-Simulation schlechthin. Nun kehrt der Sportspiel-Klassiker nach langer Abstinenz spielerisch verfeinert und technisch mächtig aufgekrempelt auf PC und Konsole zurück. Reicht das für den Grand Slam oder geht aufgrund der «Game as a Service»-Pläne schon der Aufschlag ins Netz? Im ersten Hands-on in «TopSpin 2K25» sind wir dieser und anderen Fragen für euch nachgegangen.

Zur Story