Facebook ist voll von KI-generiertem Spam, und es ist wahrscheinlich seine eigene Schuld

Forscher haben 120 Facebook-Spam- und Betrugsseiten untersucht, die jeweils mindestens 50 KI-generierte Bilder gepostet haben.

Schwimmend zwischen den Großbuchstaben deiner Verwandten und Leuten, die versuchen, einen Wohnzimmerschrank aus Vorkriegszeiten für 20 Euro zu verkaufen, könntest du virale Fotos von Jesusstatuen aus Garnelen bemerkt haben. Diese Fotos sind tatsächlich KI-generiert – und eine neue Analyse von Stanford und Georgetown (die noch nicht von Experten geprüft wurde) fand heraus, dass Facebooks Algorithmus diesen gefälschten Bildern einen riesigen Schub gibt.

Die Forscher untersuchten 120 Facebook-Spam- und Betrugsseiten, die jeweils mindestens 50 KI-generierte Bilder gepostet haben. Insgesamt hatten die analysierten Beiträge Hunderte Millionen Interaktionen, größtenteils von echten Menschen, die ernsthaft auf die “Kunst” reagierten, ohne zu wissen, dass die Bilder tatsächlich von KIs erstellt wurden.

Im dritten Quartal 2023 war ein Beitrag mit einem KI-generierten Bild unter den 20 meistgesehenen Inhalten der Plattform. 404media.co berichtete, dass einige dieser Spam-Seiten sogar Facebook-Anzeigen kaufen. Interaktion mit Garnelen-Jesus belohnt dich mit mehr verfluchten Bildern Facebooks “Für dich vorgeschlagen”-Newsfeed, den die App 2022 zu verwenden begann, um Beiträge von Personen und Seiten, denen du nicht folgst, zusammenzustellen, scheint diese KI-Albtraumbilder zu bevorzugen. Wenn du mit einem KI-Bild interagierst, siehst du nicht mehr Bilder basierend auf dem Inhalt des Bildes… du bekommst einfach mehr KI-generierte Bilder.

Was gewinnen die Seiten daraus? Früher posteten sie diese Clickbait-Links wie “Du wirst nie glauben, was Katy Perry gesagt hat!” Aber in den letzten Jahren wurden Beiträge mit darin verlinkten Artikeln (einschließlich Nachrichten ) vom Algorithmus von Facebook gedrosselt. Also beschlossen die Betrüger zu innovieren: Jetzt posten die Seiten ein Bild und fügen dann Links zu von Werbung überladenen Clickfarmen oder zwielichtigen Dropshipping-Seiten in den Kommentaren hinzu.