Hallo zusammen,
ich habe es bestimmt an der einen oder anderen Stelle schon mal kundgetan: Ich habe eine massive Abneigung gegenüber Chatbots und KI, die aktuell omnipräsent als irgendeine eierlegende Wollmilchsau verkauft wird. Ich habe dabei gar nicht wirklich Angst, dass KI Menschen komplett ersetzt. Was mir vielmehr Sorgen macht, ist der völlig sorglose und rücksichtslose Umgang damit und wie schnell das dazu führt, dass Menschen verlernen, Dinge kritisch zu hinterfragen oder selber zu erkennen.
Nun habe ich aber ein Anliegen, mit dem ich mich an euch wenden möchte, weil mittlerweile auch Betrüger KI für sich entdeckt haben.
Jeder von euch kennt das vermutlich. Ich selber lasse mir auch nur sehr ungern Geld per PayPal Waren und Dienstleistungen schicken und manchmal sind schöne Uhren einfach zu weit entfernt, um sie persönlich abzuholen. Gleichzeitig verstehe ich aber auch absolut jeden Verkäufer, der PayPal wegen Gebühren, möglicher Probleme mit dem Finanzamt oder sonstigen Themen vermeiden möchte.
Wenn Verkäufer ansonsten seriös wirken und keine offensichtlichen "Red Flags" vorhanden sind, bin ich irgendwann meist an dem Punkt angekommen, wo ich sage: „Schick mir bitte einfach ein Bild der Uhr vor unserem Chat oder neben einer aktuellen Zeitung.“ So konnte man zumindest halbwegs verifizieren, dass die Person die Uhr tatsächlich besitzt. Natürlich bleibt trotzdem ein Risiko, aber es grenzt es wenigstens etwas ein.
Nun ist mir allerdings tatsächlich aufgefallen, dass mittlerweile selbst solche Bilder gefälscht werden.
Ich war kürzlich an einer Heuer dran und hatte heute genau diese Situation. Der Verkäufer wirkte zunächst absolut seriös. Ich bat ihn dann um ein Bild der Uhr neben einer Tageszeitung. Das angehängte Bild habe ich daraufhin bekommen.
Dem ungeübten, oder vielleicht gealterten Auge fällt hier eventuell erstmal nichts auf.
Wenn man genauer hinschaut und weiß, worauf man achten muss, ist das aber klar.
Habe dann um noch etwas Zeit zu verschwenden nach einem Bild mit der Uhr vor dem Gesicht gefragt und da wirds schon klarer:
Hier beide Bilder mit einigen Auffälligkeiten markiert:
KI, je nach Modell, tut sich bei Bild und Videogenerierung auf immer sehr schwer logische Dinge und Abfolgen darzustellen und vor allem konsistent über mehrere Dinge hinweg.
Weitere "Tells":
- Korrekte Textzeichen: Längere Wörter, Schilder oder Logos enden oft in Buchstabensalat oder Kauderwelsch.
- Komplexe Hand- und Fußanatomie: Zu viele Finger, unnatürliche Biegungen oder miteinander verschmolzene Gliedmaßen.
- Interaktion zwischen Objekten: Wenn eine Hand einen Gegenstand genau umschließen soll (z. B. einen Faden einfädeln), wirkt es oft unplatziert.
- Physikalische Logik: Schatten, Spiegelungen oder Flüssigkeiten (wie fließendes Wasser) unvollständig oder physikalisch unmöglich dargestellt.
- Große Menschenmengen: Einzelne Gesichter im Hintergrund verschwimmen schnell zu gruseligen, entstellten Masken.
- Exakte Verneinungen: Anweisungen wie „ein Zimmer ohne Stuhl“ führen paradoxerweise fast immer dazu, dass die KI erst recht einen Stuhl generiert.
- Überlappende Geometrie: Komplexe, ineinander verschlungene Strukturen wie Fahrradketten, Strickmuster oder feine Gittermatten.
Noch schlimmer finde ich allerdings das zweite Beispiel:
VK hatte zwei Uhren inseriert, ich bat um ein Bild der beiden nebeneinander, da ich die Yema kaufen wollte.
Was fällt euch hier auf?
Was erkennt ihr hier? Nichts? Na ja, ein unsauberer Druck, der aber auch französische Uhrmacherkunst der 60er sein könnte.
Aber ansonsten?
--> Es gibt nichts Offensichtliches.
Und ganz ehrlich: Ich selber hätte niemals erkannt, dass dieses Bild gefälscht ist.
Der einzige Grund, warum ich es feststellen konnte: Gemini hinterlegt versteckte Wasserzeichen in generierten Bildern, die man reverse prüfen kann:
Gemini Chat
Diese Wasserzeichen sind optisch abgebildet, unsichtbar und lassen sich nicht entfernen. Sie sind auch nicht entfernbar, wenn man einen Screenshot o. ä. vom Bild macht.
Gemini, kann aber nur seine eigenen Wasserzeichen erkennen! Andere wie z. B. ChatGPT machen diesen Schritt Richtung Sicherheit nicht. Müssen sie ja auch nicht, die Politik pennt mal wieder komplett.
Genialer weise löscht Kleinanzeigen in solchen Fällen, zumindest wenn es gemeldet wurde und der schwachsinnige Algorithmus das dann auch erkennt, die Anzeigen einfach so, dass man sie nicht mal mehr aufrufen könnte und bei der Polizei eine Anzeige erstatten.
Ich muss euch ganz ehrlich sagen, ich werde einen Bogen um diese Plattform machen. Ich weiss nicht mehr, wie ich damit umgehen soll. Das Hobby macht immer weniger Spaß, weil gefühlt nur noch Betrüger unterwegs sind.
Und auch an dieser Stelle wünsche ich diesen Leuten wirklich alles erdenklich Schlechte.
Ich wollte euch einfach warnen, dass selbst solche Verifizierungsbilder mittlerweile offenbar keinerlei Sicherheit mehr bieten. Selbst wenn Chatverlauf, Historie, Preis und Auftreten absolut glaubwürdig wirken, können die Bilder trotzdem komplett gefälscht sein.
Es bleibt somit nur noch ein Videocall, mit dem Restrisiko, dass die Uhr einfach nicht verschickt wird, oder eben die Abholung. Und generell ist es auch bei Videocalls nur eine Frage der Zeit, bis auch die perfekt gefälscht sind.
In diesem Sinne, lasst euch nicht veräppeln, ein Angebot muss nicht "zu gut um wahr zu sein" sein, es kann auch einfach so Betrug sein.
