Wann haben Sie zuletzt einem Video in Ihren sozialen Medien misstraut? Früher selten, aber in letzter Zeit immer öfter? Dann geht es Ihnen so wie vielen: Bisher konnten wir scrollen, liken und teilen, im Vertrauen darauf, dass das Gezeigte zumindest im Kern echt ist. Doch unser digitales Vertrauen bröckelt – dank AI Slop.
„AI Slop“, so nennen die Forscher einer brandneuen Studie von AI Forensics die Flut synthetisch und zugleich schlampig generierter, irreführender Inhalte, die unsere Feeds offenbar jeden Tag ein wenig mehr überschwemmt: Die Experten sehen in ihrer Untersuchung eine Welle aus synthetischen Videos, Bildern und Stories über uns hereinbrechen. Und die Zahlen, die sie dazu nennen, sind gelinde gesagt „alarmierend“: Laut Studie enthält jedes vierte TikTok-Video in den Top-Suchergebnissen KI-generierte Bilder. Bei Hashtags wie #health, #history oder #trump wohlgemerkt.
Das Perfide daran: Nur die Hälfte davon ist überhaupt als KI gekennzeichnet. Trotz Digital Services Act und aller Versprechen der Plattformen, es besser zu machen.
Wenn Kaninchen zum kollektiven Augenöffner für AI Slop werden
Ein aktuelles Beispiel? Das beginnt mit einem harmlosen Post, und rüttelt seitdem die Gemüter auf:
„Ich habe gerade die Überwachungskamera überprüft und … ich glaube, wir haben Gastperformer im Garten!“ schrieb TikTok-Nutzerin „rachelthecatlovers“ Ende Juli 2025.
Das Video dazu: Acht Sekunden Magie. Ein nächtlicher Garten. Ein Trampolin. Darauf: hüpfende Kaninchen. Die Sprungfedern quietschen, die Nachtsichtkamera rauscht. Die kleine, vermeintliche Doku erreicht 200 Millionen Views in vier Tagen und satte 22,8 Millionen User schicken ihre Herzchen:
Dann allerdings, ebenfalls quasi über Nacht, folgte auf den süßen Traum das kollektive Erwachen, angestoßen von aufmerksamen, kritischen Usern. Denn nicht nur die Kaninchen waren erfunden, denn eines verschwand während seiner nächtlichen Performance, ein anderes wechselte gar sein Erscheinungsbild. Nein, alles daran war synthetisch: die Szene, das Setting, sogar der quietschende Sprungfeder-Soundtrack – inklusive der typischen Überwachungskamera-Ästhetik mit all ihren Unzulänglichkeiten. Irgendwie genial und verstörend zugleich.
„Das ist die erste KI, die mich jemals erwischt hat 😭😭😭“, kommentierte ein User. 665.700 Menschen stimmten zu. Eine Nutzerin namens Sydney Benjamin drehte sogar ein Video über ihre Scham: Sie hatte den Clip an ihre beste Freundin geschickt: Als „gebildete Person“ fühlt sie sich hinters Licht geführt. (siehe auch diesen Spiegel-Artikel dazu).
Warum traf es so viele? Die Antwort liegt in diesem Fall in der Perfektion der Imperfektion. Die KI, bzw. die Creatorin nutzte unsere eigene Medienerfahrung als Waffe. Wir kennen verwackelte Überwachungsvideos. Wir vertrauen ihrer schlechten Qualität. Ein kreativer Geniestreich.
Das System dahinter: Die AI-Slop-Maschinerie
Tatsächlich sind diese KI-Kaninchen nur winzige Hüpfer in einem viel größeren Ausmaß an Täuschung.
86 Prozent aller KI-Videos auf TikTok stammen von „Agentic AI Accounts“ – auch das enthüllt die AI Forensics-Studie. Das sind Accounts, die wie digitale Fabriken funktionieren. Sie produzieren Content am Fließband, testen, was funktioniert, passen an, produzieren mehr. Diese automatisierten Redaktionen haben keine Haltung, dafür aber offenbar eine erstaunliche Anpassungsfähigkeit. Sie erreichen so im besten Fall 30 bis 60 Millionen Views mit einem Video. Der Clou: Die Bilder sind zu über 80 Prozent fotorealistisch. Damit verschwimmt auch die Grenze zwischen Echt und Fake bis zur Unkenntlichkeit.
Und die Plattformen schauen zu, statt einzugreifen, denn ihr Geschäftsmodell belohnt, was Engagement weckt. Ihnen ist es (noch) egal, ob das nun echt oder KI-generierter Content ist: Mehr Klicks bedeuten mehr Daten und damit mehr Geld. Ein Teufelskreis, angetrieben von ökonomischem Interesse und belohnt von unserem Klickverhalten.
AI Slop: Wenn nichts mehr sicher scheint
Aber was macht das mit uns? „olivesongs11“ komponierte nach dem Kaninchen-Gate einen Song, von dem diese dramatische Zeile hängen bleibt: „Woher weiß ich, dass der Himmel wirklich sonnig ist?“ Das ist mehr als Poesie. Ein Weckruf.
Die älteren unter uns erinnern sich an dieser Stelle vielleicht an den Film. „Die Truman-Show“ und an den den Moment, in dem dem Protagonisten der Scheinwerfer vor die Füße fällt. „Das ist ja mal ein…!“ entfährt es ihm, dann er bricht den Satz ab, da er den Scheinwerfer als Teil der Kulisse seines unechten Lebens erkennt. Dann geht er weiter und stellt sich der Realität seiner neuen Welt.
Die Erosion des digitalen Vertrauens in die Plattformen dank AI Slop hat auch bei uns begonnen. Nicht mit einem lauten Knall, sondern mit leise quietschenden Sprungfedern trampolinspringender Vierbeiner. Unsere medienpraktische Intuition – jahrzehntelang geschult an echten Bildern – scheint in diesem Fall zur Achillesferse geworden zu sein: Die KI gibt uns nicht die Perfektion (das beherrscht sie auch gar nicht) sondern das in diesem Fall das gewohnt Unperfekte in der Optik einer Überwachungskamera: Ein trojanisches Pferd für unsere Medienkompetenz (um noch eine weitere Metapher zu nutzen).
Ein (fast) tierischer Weckruf
All jenen, die jetzt das KI-Endzeitszenario beschwören, sei entgegnet: Nur Mut! Die Zukunft gehört nicht den Täuschern, sondern den Aufklärern. Nicht der Resignation, sondern der Resilienz. Nicht den Technologie-Verweigerern, sondern denen, die KI bewußt einsetzen möchten.
Sicherlich stehen wir an einem Scheideweg: Werden wir zu einer Gesellschaft des permanenten Misstrauens? Und delegieren die Maßnahmen an „die Politik“? Oder finden wir neue Wege des Vertrauens und gehen die ersten Schritte gemeinsam?
Indem wir Plattformen in die Pflicht nehmen, klare und sinnvolle KI-Labels zu etablieren und sichtbar zu platzieren und diese Maßnahmen technisch durchzusetzen. Der Digital Service Act der EU gibt nur den weiten Rahmen vor – was fehlt ist der Wille, Konkretes und die Konsequenz in der Umsetzung. Es sollte allerdings auch im eigenen Interesse der Plattformen sein, ihr eigenes Geschäftsmodell langfristig sichern, bevor sich Menschen gelangweilt, verschämt, verletzt und enttäuscht vom AI Slop abwenden.
Indem wir Medienkompetenz als Alltagspraxis denken: Wer Bilder wie Texte lesen kann, wer Formate durchschaut statt nur konsumiert, wird zum souveränen Medienmenschen.
Und indem wir Echtheit als Haltung kultivieren. Ob als Unternehmen, Creator, oder Marke: Wer sich zeigt, statt zu inszenieren und dabei tatsächlich auch KI bewußt und transparent und mit Mehrwert für alle Beteiligten nutzt, gewinnt am Ende ihr Vertrauen – und auf damit langfristig auch Sichtbarkeit.
Die kleinen KI-Kaninchen mögen uns getäuscht haben. Aber sie haben uns auch etwas geschenkt: einen Weckruf. Die Chance, bewusster hinzusehen, kritischer zu hinterfragen und am Ende menschlich zu bleiben in einer Welt voller künstlicher Perfektion.
Denn hier folgt die Moral der Geschichte: Je mehr Maschinen uns imitieren, desto wertvoller wird das unverwechselbar Menschliche.
Schreibe einen Kommentar