KI kann nicht nur Bilder erzeugen, sondern auch Bilder manipulieren. Kommerzielle Bildbearbeitungsprogramme haben derartige Features bereits zum Retuschieren oder für Freistellungen oder Ähnliches eingebaut. Eine miesere Variante sind sogenannte „Undress“-Dienste. Auf derartigen Websites kann man ein Foto einer Person hochladen und diese anschließend virtuell mithilfe der KI „entkleiden“.
Derartige Websites können etwa zu Zwecken des sexuellen Missbrauchs, Rachepornografie, Kinderpornografie, Erpressung oder Cybermobbing eingesetzt werden. Die Stadt San Francisco geht nun mit einer Klage gegen 16 derartige Websitebetreiber vor. Nach Ansicht der Kläger verstoßen die Internetangebote gegen kalifornische Gesetze und gegen US-Gesetze. Die Opfer befinden sich unter anderem in Kalifornien und sind meist Frauen und Mädchen.
Internationale Zusammenarbeit notwendig
Inwiefern die Stadt der Firmen habhaft werden wird, ist bisher unklar. Einige Betreiber befinden sich im Ausland, etwa in Serbien oder Estland. Trotzdem hat San Francisco das Klageverfahren bekommen und möchte erreichen, dass die betreffenden Websites abgeschaltet werden. Im besten Falle sollen Strafzahlungen durchgesetzt werden, um eine abschreckende Wirkung zu erreichen.
Für die Strafverfolgung ist die Stadt auf internationale Hilfe der Behörden angewiesen. Das könnte funktionieren, denn auch die Bevölkerung dieser Länder ist als Opfer betroffen und kaum jemand will ein Wachstum der Deepfake-Branche sehen. In mehreren Ländern wird an Gesetzgebungen gegen Deepfakes gearbeitet oder darüber diskutiert. Erschreckenderweise wurden die betroffenen Webseiten im Jahr 2024 bereits über 200 Millionen Mal besucht. Das Problem hat also bereits große Dimensionen angenommen. Diese Klage von San Francisco könnte also ein erster wichtiger Schritt im internationalen Kampf gegen den Missbrauch von KI-basierten Technologien sein.
Mehr dazu lesen:
- Klage der Stadt San Francisco gegen die Anbieterfirmen, 14.08.2024
- City Attorney to Announce Legal Action on AI Exploitation, 15.08.2024