Millionen von Menschen haben diese Woche in den sozialen Medien gefälschte, sexuell eindeutige, von der KI generierte Bilder von Taylor Swift entdeckt, was für viele die Notwendigkeit verdeutlicht, den potenziell schädlichen Einsatz von KI-Technologie zu regulieren.

Der Pressesprecher des Weißen Hauses sagte am Freitag gegenüber ABC News, er sei „beunruhigt“ über das, was mit Swift online passiert sei, und dass der Kongress „gesetzgeberische Maßnahmen ergreifen sollte“.

„Wir sind alarmiert über Berichte über die Verbreitung von Bildern, die Sie gerade präsentiert haben – genauer gesagt gefälschte Bilder, und es ist alarmierend“, sagte Karine Jean-Pierre, Pressesprecherin des Weißen Hauses, gegenüber der Korrespondentin des Weißen Hauses von ABC News, Karen L . Travers.

„Da Social-Media-Unternehmen ihre eigenen, unabhängigen Entscheidungen über das Content-Management treffen, glauben wir, dass sie eine wichtige Rolle bei der Durchsetzung ihrer eigenen Regeln spielen müssen, um die Verbreitung von Fehlinformationen und intimen Bildern zu verhindern, die nicht von echten Menschen einvernehmlich stammen“, fügte sie hinzu.

FOTO: Taylor Swift tritt währenddessen auf der Bühne auf "Taylor Swift |  Der Rundgang durch die Epochen" im Allianz Parque am 24. November 2023 in Sao Paulo.

Taylor Swift tritt während der „Taylor Swift |“-Show auf der Bühne auf The Eras Tour“ im Allianz Parque am 24. November 2023 in Sao Paulo.

Buda Mendes/tas23/Getty Images

Jean-Pierre hob einige der Maßnahmen hervor, die die Regierung in letzter Zeit zu diesen Themen ergriffen hat, darunter: die Einrichtung einer Task Force zur Bekämpfung von Online-Belästigung und -Missbrauch, und das Justizministerium hat die erste nationale Unterstützungslinie rund um die Uhr für Überlebende des Image eingeführt -basierter sexueller Missbrauch.

Und das Weiße Haus ist nicht allein: Empörte Fans waren überrascht, als sie erfuhren, dass es in den Vereinigten Staaten kein Bundesgesetz gibt, das jemanden daran hindern oder davon abhalten würde, nicht einvernehmliche Deepfake-Bilder zu erstellen und zu teilen.

Aber letzte Woche erneuerte der Abgeordnete Joe Morelle seine Bemühungen um die Verabschiedung eines Gesetzes, das die nicht einvernehmliche Weitergabe expliziter, digital veränderter Bilder zu einem Bundesverbrechen machen würde, das mit Gefängnisstrafen und Geldstrafen geahndet werden könnte.

„Wir hoffen auf jeden Fall, dass die Nachrichten von Taylor Swift dazu beitragen werden, Dynamik aufzubauen und die Unterstützung für unseren Gesetzentwurf zu erhöhen, der, wie Sie wissen, ihre genaue Situation mit straf- und zivilrechtlichen Sanktionen angehen würde“, sagte ein Sprecher. Morelles Worte gegenüber ABC News.

Der Kongressabgeordnete, ein Demokrat aus New York, hat den überparteilichen „Preventing Deepfakes of Intimate Images Act“ verfasst, der derzeit an den Justizausschuss des Repräsentantenhauses verwiesen wird.

Deepfake-Pornografie wird oft als bildbasierter sexueller Missbrauch beschrieben – ein Begriff, der auch die Erstellung und Weitergabe intimer, nicht künstlicher Bilder umfasst.

Musste ein Nutzer vor einigen Jahren angesichts der rasanten Fortschritte in der KI-Technologie noch über ein gewisses Maß an technischen Fähigkeiten verfügen, um KI-generierte Inhalte zu erstellen, geht es heute nur noch darum, eine App herunterzuladen oder auf ein paar Schaltflächen zu klicken.

Heute sagen Experten, dass es eine ganze kommerzielle Branche gibt, die von der Erstellung und Weitergabe digital fabrizierter Inhalte lebt, die offenbar sexuellen Missbrauch zum Thema haben. Einige der Websites, die diese Fälschungen verbreiten, haben Tausende zahlende Mitglieder.

Letztes Jahr sorgte eine Stadt in Spanien für internationale Schlagzeilen, nachdem mehrere junge Schülerinnen berichteten, sie hätten gefälschte Nacktbilder von sich erhalten, die mit einer „App“ erstellt worden waren, einem leicht zugänglichen und mit künstlicher Intelligenz betriebenen „Ausziehtool“, was eine breitere Debatte über den Schaden auslöste Diese Tools können es. Ursache.

Die sexuell eindeutigen Swift-Bilder wurden wahrscheinlich mit einem Text-zu-Bild-Konvertierungstool mit künstlicher Intelligenz erstellt. Einige Bilder wurden auf der Social-Media-Plattform X, früher bekannt als Twitter, geteilt.

Berichten zufolge wurde ein Beitrag, in dem Screenshots der gefälschten Bilder geteilt wurden, mehr als 45 Millionen Mal aufgerufen, bevor das Konto am Donnerstag gesperrt wurde.

Am frühen Freitagmorgen teilte das Sicherheitsteam von

„Die Veröffentlichung von Bildern nicht einvernehmlicher Nacktheit (NCN) ist auf X strengstens verboten und wir haben eine Null-Toleranz-Politik gegenüber dieser Art von Inhalten“, heißt es in der Erklärung. Stellungnahme. „Wir beobachten die Situation genau, um sicherzustellen, dass weitere Verstöße sofort behoben und die Inhalte entfernt werden. Wir sind bestrebt, eine sichere und respektvolle Umgebung für alle Benutzer aufrechtzuerhalten.“

Stefan Turkheimer, Vizepräsident für öffentliche Ordnung bei RAINN, einer gemeinnützigen Organisation zur Bekämpfung sexueller Übergriffe, sagte, dass jeden Tag „mehr als 100.000 Bilder und Videos wie dieses im Internet verbreitet werden, ein echter Virus.“ wütend auf Taylor Swift und noch wütender auf die Millionen von Menschen, die nicht über die Ressourcen verfügen, wieder Autonomie über ihre Bilder zu erlangen. »

By rb8jg

Leave a Reply

Your email address will not be published. Required fields are marked *