In den letzten Tagen kursierten auf X (ehemals Twitter) KI-generierte, sexuell eindeutige Bilder von Taylor Swift, das jüngste Beispiel für die Verbreitung gefälschter KI-generierter Pornografie und die Herausforderung, deren Verbreitung zu verhindern.

Eines der prominentesten Beispiele für die Politik der Plattform. Der Beitrag war etwa 17 Stunden lang auf der Plattform verfügbar, bevor er gelöscht wurde.

Doch als die Benutzer begannen, über den viralen Beitrag zu diskutieren, begannen sich die Bilder zu verbreiten und auf anderen Konten erneut gepostet zu werden. Viele bleiben stehen, und Seitdem ist eine Flut neuer Grafikfälschungen aufgetaucht. In einigen Regionen ist der Begriff „Taylor Swift AI“ zu einem Trendthema geworden, das die Bilder einem breiteren Publikum zugänglich macht.

Swift-Fans spammen die Plattform mit Spam, um explizite Fälschungen zu verbergen

Swifts Fangemeinde kritisierte X dafür, dass viele Beiträge so lange online bleiben durften. Als Reaktion darauf überschwemmten die Fans die Hashtags, die zur Verbreitung der Bilder verwendet wurden, mit Posts, die stattdessen echte Clips von Swifts Auftritten bewerben, um die expliziten Fälschungen zu verbergen.

Der Vorfall verdeutlicht die sehr reale Herausforderung, Deepfake-Pornos und KI-generierte Bilder von echten Menschen zu stoppen. Einige KI-Bildgeneratoren verfügen über Einschränkungen, die die Produktion von Nacktbildern, pornografischen und fotorealistischen Bildern von Prominenten verhindern, viele andere bieten einen solchen Dienst jedoch nicht ausdrücklich an. Die Verantwortung für die Verhinderung der Verbreitung falscher Bilder liegt oft bei sozialen Plattformen – was selbst in den besten Zeiten schwierig sein kann und noch schwieriger für ein Unternehmen wie X, das seine Moderationsfähigkeiten ausgehöhlt hat.

Das Unternehmen wird derzeit von der EU wegen Vorwürfen untersucht, dass es zur „Verbreitung illegaler Inhalte und Desinformation“ genutzt wird, und es wird zu seinen Krisenprotokollen befragt, nachdem Berichten zufolge auf der Plattform falsche Aussagen über den Krieg zwischen Israel und der Hamas verbreitet wurden.

By rb8jg

Leave a Reply

Your email address will not be published. Required fields are marked *