Bereits vor mehreren Monaten hatte ich Studienbeispiele auf Mastodon getrötet, bei denen ChatGPT verwendet wurde. Die Autoren waren bei ihrer Arbeit so schlampig, dass typische KI-Antworten in den Dokumenten leicht auffindbar waren. Für seriöse Studien sollte so etwas unmöglich sein, denn der Review-Prozess sollte solchen Unfug aufdecken.
...weiterlesen "Wachsende Gefahr durch KI-generierte Fake-Studien in der Wissenschaft"Kategorie: Missbrauch künstlicher Intelligenz
Deepfake-Bedrohung wächst: San Francisco geht gegen Webseiten mit KI-Bildmanipulation vor
KI kann nicht nur Bilder erzeugen, sondern auch Bilder manipulieren. Kommerzielle Bildbearbeitungsprogramme haben derartige Features bereits zum Retuschieren oder für Freistellungen oder Ähnliches eingebaut. Eine miesere Variante sind sogenannte „Undress“-Dienste. Auf derartigen Websites kann man ein Foto einer Person hochladen und diese anschließend virtuell mithilfe der KI „entkleiden“.
...weiterlesen "Deepfake-Bedrohung wächst: San Francisco geht gegen Webseiten mit KI-Bildmanipulation vor"
Chatbot Grok von X produziert Falschinformationen zur US-Wahl
Der Chatbot Grok von Elon Musks Plattform X ist in den Schlagzeilen. Es war aufgefallen, dass die KI wiederholt ungenaue oder falsche Angaben zur US-Wahl macht. Wahlleiter aus mehreren Bundesstaaten hatten daraufhin Warnungen ausgesprochen. Die KI kam angeblich auch nicht damit klar, dass sich US-Präsidenten Joe Biden aus dem Rennen um die Präsidentschaft verabschiedet hat.
...weiterlesen "Chatbot Grok von X produziert Falschinformationen zur US-Wahl"
Datenschutz im Visier: Noyb reicht Beschwerden gegen X in neun EU-Ländern ein
Die europäische Datenschutz-Organisation Noyb hat in neun EU-Ländern Beschwerden gegen die von Elon Musk geführte Online-Plattform X eingereicht. Nach Angaben der Initiative wurde in Belgien, Frankreich, Griechenland, Irland, Italien, den Niederlanden, Österreich, Polen und Spanien ein „Dringlichkeitsverfahren“ gemäß Artikel 66 DSGVO beantragt.
...weiterlesen "Datenschutz im Visier: Noyb reicht Beschwerden gegen X in neun EU-Ländern ein"
Achtung: Promis und Öffis durch Deepfake-Welle heimgesucht.
Deepfakes machen mal wieder Negativschlagzeilen. Jetzt hat es auch Moderatoren vom öffentlich-rechtlichen Rundfunk erwischt, die angeblich für irgendwelche Dinge werben. Für Betrüger ist es leicht, an entsprechendes Bild- und Video-Rohmaterial zu kommen, denn Nachrichtensprecher sind stundenlang live. In letzter Zeit scheinen angeblich lukrative Geldanlagen auf betrügerischen Investment-Plattformen mit gefälschten Videos beworben zu werden.
...weiterlesen "Achtung: Promis und Öffis durch Deepfake-Welle heimgesucht."
Propaganda mit KI: Die Gefahr von Desinformation und Doppelgänger-Kampagnen
Schon seit vielen Jahren gibt es internationale Akteure, die über Botnetzwerke und Sockenpuppen-Accounts die öffentliche Meinung durch Falschmeldungen beeinflussen. Je intensiver die globalpolitischen Konflikte werden, desto gefährlicher wird das Ausmaß dieser Manipulationen für demokratische Staaten.
...weiterlesen "Propaganda mit KI: Die Gefahr von Desinformation und Doppelgänger-Kampagnen"
Ferrari entging knapp einem Deepfake-Betrug
Ferrari ist knapp einem versuchten Identitätsbetrug entkommen. Ziel des Angriffs war ein Topmanager des Unternehmens. Per Messenger-Nachrichten von einem gefälschten Profil und Deepfake-Telefonanruf wurde der Ferrari-Chef Benedetto Vigna erstaunlich professionell imitiert. Die KI-Stimmensynthese ist inzwischen so gut, dass auch Dialekte oder Akzente täuschend echt nachgeahmt werden können.
...weiterlesen "Ferrari entging knapp einem Deepfake-Betrug"
Deepfake-Skandal in den USA: Wie Robocalls Wähler manipulieren sollten
In den USA sieht sich Steve Kramer mit schwerwiegenden Anklagen konfrontiert. Er hat automatisierte Anrufe, sogenannte Robocalls, mit einer künstlich generierten Stimme des US-Präsidenten Joe Biden durchgeführt. Solche Deepfakes sind ein typischer Fall von KI-Missbrauch. Die Anrufe forderten Wähler dazu auf, nicht an der Vorwahl in New Hampshire teilzunehmen. Wieso macht jemand so etwas? Kramer hat sich an einer Kampagne eines Politikers der Demokraten beteiligt, der Präsidentschaftskandidat werden wollte.
...weiterlesen "Deepfake-Skandal in den USA: Wie Robocalls Wähler manipulieren sollten"
KI im Fokus: Datenschutz und Ethik als zentrale Herausforderungen für Unternehmen
Wenn Unternehmen – oder ihren Managern – hohe Gewinne vor den Augen schweben, dann können der Datenschutz und die Ethik beim Einsatz von KI schnell zu kurz kommen. Viele Firmen investieren enorme Summen in neue KI-Systeme, um aus ihren Prozessen mehr Profit herauszuquetschen. Wer jedoch glaubt, der Einsatz künstlicher Intelligenz würde eines Tages in der Zukunft geregelt werden, der vergisst, dass heutige Einsatzzwecke bereits existierenden Gesetzen unterliegen.
...weiterlesen "KI im Fokus: Datenschutz und Ethik als zentrale Herausforderungen für Unternehmen"
Zwei Anwälte in New York wegen Missbrauch von ChatGPT verurteilt
Ein Bundesrichter in New York, USA, hat die Anwälte Peter LoDuca und Steven Schwartz sowie ihre Kanzlei Levidow, Levidow & Oberman zu einer Geldstrafe von jeweils 5000 US-Dollar verurteilt. Die Anwälte wollten sich ihr Leben leichter machen und ließen von ChatGPT juristische Dokumente erstellen. Nach der Einreichung bei Gericht stellte man erstaunt fest, dass in den Dokumenten erfundene Gerichtsentscheidungen offenbar mit Richtern zitiert wurden.
...weiterlesen "Zwei Anwälte in New York wegen Missbrauch von ChatGPT verurteilt"