Wieder einmal ist X, vormals Twitter, Schauplatz einer erbitterten Auseinandersetzung. Während Fans die Plattform mit der Forderung »Respektiert Taylor Swift« zu fluten versuchen, gehen immer wieder gefälschte Bilder viral, die den Popstar in pornografischen Posen zeigen.

Obwohl sogenannte Deepfakes auf X explizit verboten sind, hat die Plattform sehr spät reagiert, als ein solches Motiv von Taylor Swift am Donnerstag auf der Plattform auftauchte. Wie »The Verge« berichtet , wurde ein bestimmtes Posting 45 Millionen Mal angezeigt und 24.000 Mal weiterverbreitet, bevor es nach 17 Stunden von der Plattform verschwand. Zahlreiche weitere Accounts verbreiten das Motiv weiterhin.

Gegenkampagne mit geringem Erfolg

Seit Elon Musk Twitter im Oktober 2022 übernommen hatte, wurde ein großer Teil der Moderatoren entlassen. Um die Verbreitung der Bilder zu erschweren, starteten Fans des Popstars eine Eigeninitiative. Sie posteten massenhaft offizielle Bilder des Popstars, um dem Deepfake-Porno die Aufmerksamkeit zu entziehen. Wer nach Taylor Swift sucht, sollte auf diese Weise die Fälschungen gar nicht zu Gesicht bekommen. Zudem meldeten sie die Deepfakes massenhaft an den Twitter-Support.

Dies hat nur teilweise geklappt: Zwar sind die AI-Bilder derzeit nicht mehr auf der Trends-Liste von X zu finden, doch X liefert weiterhin prominent Fake-Pornos und sogar Phishing-Links aus, wenn man nach dem Namen des Popstars sucht.

Trolle vom Erfolg überrascht

Wie »404 Media« recherchiert hat , stammt das Bild aus einer Telegram-Gruppe, die sich auf die Produktion von Deepfakes spezialisiert hat. Offenbar waren die Mitglieder selbst überrascht davon, wie weit sich das Motiv auf X verbreitete, und fürchteten, selbst in den Fokus der Aufmerksamkeit zu geraten.

Der Fall zeigt die Probleme bei der Moderation von KI-generierten Inhalten. Zwar weigern sich die meisten kommerziellen Angebote, Bilder von Prominenten oder Politikern auszugeben, doch mit relativ einfachen Tricks kann man die Sperren umgehen. Sobald eine Lücke geschlossen wird, werden in Foren wie der Telegram-Gruppe neue Tipps ausgetauscht, wie man die Filter der Bildergeneratoren überlisten kann.