Im ersten Teil ging es darum, was KI leistet und wo sie scheitert. In diesem Teil werden wir uns anschauen, was als Ergebnis herauskommt, und um Behauptungen, die einer Prüfung nicht standhalten. Dabei gelten dieselben Fragen wie im ersten Teil:
- Sind die Daten öffentlich?
- Lassen sich die Ergebnisse reproduzieren?
- Wer hat sie veröffentlicht, und hat derjenige etwas zu verkaufen?
„AI Slop“
Die meisten Menschen haben den Begriff „AI Slop“ schon einmal gehört. Gemeint sind KI-generierte Inhalte von geringer Qualität. Der Begriff wird verwendet, weil überall dieselben Designmuster, Satzstrukturen und Formulierungen erkennbar sind. Dies lässt sich typischerweise in LinkedIn-Beiträgen, auf Websites sowie bei identischen oder sehr ähnlichen Bildern beobachten.
Mit dem Aufstieg der KI ist dies überall zu beobachten, und es handelt sich dabei um ein sehr reales Phänomen. Graphite untersuchte 55.400 URLs, die zwischen Januar 2020 und März 2026 veröffentlicht wurden. Seit der Einführung von ChatGPT im November 2022 stieg der Anteil der KI-generierten Artikel im Internet innerhalb der ersten 12 Monate auf 36%. Nach 24 Monaten lag er bereits bei 48%. Im Q4 2025 überholten KI-generierte Inhalte sogar kurzzeitig von Menschen verfasste Inhalte, doch seitdem liegt der Anteil bei etwa 50%1011.
Source: AI Now Writes as Many Online Articles as Humans — Five Percent
Graphite stellte unter anderem fest, dass KI-generierte Inhalte größtenteils weder in Google-Suchen noch in Antworten von ChatGPT auftauchen12.
Die Studie stützt sich auf das Common-Crawl-Archiv. Dies erfasst aufgrund von Paywalls viele von Menschen verfasste Texte nicht. Außerdem messen die Detektoren statistische Muster, nicht die Qualität.
Man könnte annehmen, dass unterschiedliche Prompts auch zu unterschiedlichen Ergebnissen führen. Dies ist jedoch nicht der Fall. Eine Studie13, die sich speziell damit befasst, zeigt, dass der Homogenisierungseffekt (verschiedene Nutzer, die unabhängig voneinander arbeiten und ähnliche Ergebnisse produzieren) auch nach der Änderung der Prompts und Parameter bestehen blieb.
In drei vorab registrierten Studien wurden 2.200 Bewerbungsaufsätze analysiert14. Besonders problematisch ist, dass der Homogenisierungseffekt sogar noch stärker ausfiel, als die Forscher das Modell so anpassten, dass eine größere Vielfalt möglich war. Die erzeugten Aufsätze waren dadurch zwar vielfältiger als von Menschen verfasste Texte, ähnelten sich aber inhaltlich dennoch stärker.
Für einzelne Nutzer ist dieser Effekt nicht sichtbar. Ihre Beiträge erscheinen nach wie vor abwechslungsreich. Er wird erst deutlich, wenn man sie als Gruppe betrachtet. Das Modell schlägt vielen verschiedenen Menschen dieselben Ideen vor.
Behauptungen
Manche Menschen befürworten KI, andere lehnen sie ab. Das ist bei nahezu jeder neuen Technologie so. Es gibt Befürworter und Gegner und jede Firma behauptet, ihr Modell sei besser als das der anderen. Gleichzeitig tauchen immer wieder Artikel auf, in denen Behauptungen aufgestellt werden, die sich später als völlig falsch herausstellen.
Hier sind drei Beispiele, jeweils geprüft nach denselben Fragen wie am Anfang:
- Hat der Betroffene die Behauptung bestätigt?
- Kann jemand anderes sie überprüfen?
Erste KI-gestützte Ransomware
Im August 2025 gab ESET bekannt, die erste KI-gestützte Ransomware entdeckt zu haben. Diese Darstellung war jedoch irreführend.
Tatsächlich hatten Forscher der NYU Tandon School of Engineering im Rahmen ihres Experiments „Ransomware 3.0“ eine Probe auf VirusTotal hochgeladen. ESET griff diese Probe von VirusTotal auf und verkündete sie als in freier Wildbahn gefundene Malware. Das war’s1516.
Georgia KI-Rechenzentrum hat 29 Millionen Gallonen Wasser entnommen
Zahlreiche Schlagzeilen behaupteten, ein KI-Rechenzentrum in Georgia habe unbefugt 29 Millionen Gallonen (110 Millionen Liter) Wasser entnommen. Das US-County habe davon nichts gewusst. Das für den Bau verantwortliche Unternehmen musste keine Geldstrafe zahlen17. Diese Darstellung ist allerdings nicht korrekt.
Tatsächlich zahlte das Unternehmen die nachträglich berechneten Gebühren. Die Ursache für die erhöhte gemessene Wasserentnahme war die Einführung der intelligenten Wasserzähler durch das US-County selbst. Außerdem wurde das Wasser größtenteils für Bauarbeiten verwendet.
Das US-County nahm die Behauptung der unbefugten Entnahme später zurück18.
NANDA-Projekt
Im August 2025 veröffentlichten Forscher des MIT Media Lab (NANDA-Projekt) einen Bericht, der behauptet, dass „95 % der KI-Projekte von Unternehmen keinen Ertrag bringen“. Der Bericht verbreitete sich viral und wird bis heute von vielen KI-Kritikern zitiert. Allerdings weist dieser Bericht einige Probleme auf.
- Erstens basierte er auf nur 150 Interviews, 350 Mitarbeiterbefragungen und 300 öffentlichen Implementierungen. Aus diesen Daten wurde der Wert von 95% abgeleitet und als statistische Angabe veröffentlicht, ohne dass diese aufgrund der geringen Samplemenge wirklich belastbar ist.
- Zweitens verlieh der Bezug zum MIT dem Bericht zusätzliche Glaubwürdigkeit. Einige der Beteiligten sind zwar mit dem MIT verbunden, im Bericht selbst stand aber, dass das MIT nicht offiziell dahintersteht.
- Drittens handelte es sich nur um einen vorläufigen Bericht. Er wurde aber nie einem Peer-Review unterzogen.
- Viertens endet der Bericht mit einer Werbung für NANDA (ein Projekt des MIT Media Lab), das agentische KI-Lösungen für eine Unternehmensmitgliedschaft im Wert von 250.000 Dollar anbot19.
Das macht die Zahl nicht automatisch falsch. Sie ist dadurch aber deutlich weniger belastbar, als sie vermuten lässt.
In diesem Teil ging es um KI-generierte Inhalte und um Behauptungen, die sich beim Nachprüfen nicht halten. Im letzten Teil schauen wir uns den Preis an (Geld, Umweltauswirkungen).
Quellen:
[10] AI Now Writes as Many Online Articles as Humans — Five Percent
[11] AI-written web pages haven’t overwhelmed human-authored content, study finds
[12] https://graphite.io/five-percent/ai-content-in-search-and-llms
[13] Homogenization Effects of Large Language Modelson Human Creative Ideation
[15] ESET discovers PromptLock, the first AI-powered ransomware | | ESET
[16] NYU team behind AI-powered malware dubbed ‘PromptLock’ | CyberScoop
[18] ESET discovers PromptLock, the first AI-powered ransomware | | ESET
[19] NYU team behind AI-powered malware dubbed ‘PromptLock’ | CyberScoop
