AI Slop - und wie du navigierst ohne unterzugehen

Ich lese gerade ein Buch das meine Sicht auf... alles ändert.

Factfulness von Hans Rosling.

Falls du es nicht kennst: Es geht darum, wie Medien, Statistiken und unser eigenes Gehirn uns eine komplett verzerrte Weltsicht geben. Die Welt ist nicht so schlecht wie wir denken. Wir fokussieren auf Negativität. Wir übersehen Fortschritt. Wir lassen uns von Dramatik manipulieren.

Das Buch macht Hoffnung.

Aber dann fiel mir was auf.

Während ich über Medien-Verzerrung las, chattete ich parallel mit ChatGPT. Und plötzlich wurde mir klar:

Das Problem mit AI ist dasselbe wie mit Medien.

Nur schlimmer. Weil AI produziert nicht nur verzerrte Inhalte.

AI produziert Masse.

Und in dieser Masse? Versteckt sich ein neues Problem.

In der Forschung gibt es dafür einen Begriff: AI Slop.

Slop ist so etwas wie dünner Brei. Abfall. Minderwertige Masse.

Und genau das spucken die AI-Systeme aus: Synthetischen Müll.

Perfekt formuliert. Professionell klingend. Überzeugend strukturiert.

Aber falsch oder von minderwertiger Qualität.

Nicht immer. Nicht überall. Aber oft genug, dass es gefährlich wird.

Letzte Woche. Ich arbeite mit KQL (Kusto Query Language).

Für diejenigen die es nicht kennen: KQL ist eine Abfragesprache für große Datenmengen. Microsoft nutzt sie. Sehr spezifisch. Sehr technisch.

Ich brauche Code. Ich frage ChatGPT.

Antwort kommt. Sieht gut aus. Perfekt formatiert. Mit Erklärungen.

Ich kopiere. Ich teste. Es funktioniert nicht.

Syntax-Error. Die Funktion die ChatGPT verwendet hat? Existiert nicht.

Okay. Passiert. Ich frage nach.

"Das funktioniert nicht. Diese Funktion gibt es nicht in KQL."

ChatGPTs Antwort:

"Doch, die Funktion existiert. Hier ist die korrekte Syntax. Versuche es so."

Zweiter Versuch. Wieder falsch.

"Nein, das funktioniert immer noch nicht. Diese Funktion ist nicht Teil von KQL."

ChatGPT:

"Entschuldigung für die Verwirrung. Du hast Recht, lass mich das korrigieren."

Dann: Wieder falscher Code.

Dritter Versuch. Gleiches Spiel.

Und hier ist das Problem: ChatGPT beharrt darauf dass es funktioniert. Obwohl es offensichtlich ist, dass es nicht funktionieren KANN.

Perfekte Grammatik. Überzeugende Erklärungen. Confidence = 100%. Richtigkeit = 0%.

Das ist AI Slop.

Zugegeben: Es ist schon wesentlich besser geworden.

Vor einem Jahr? Noch schlimmer. Heute? Viel besser.

Aber das Problem bleibt:

AI produziert nicht nur falsche Infos. AI produziert falsche Infos mit absoluter Confidence.

Und das ist der Kern-Unterschied zu Google-Suche:

Kein "vielleicht". Kein "könnte sein". Nur: "So ist es."

Auch wenn es Schwachsinn ist.

Hier kommt der Kreis zurück zu Factfulness.

Hans Rosling zeigt: Medien verzerren, weil Drama besser verkauft als Fakten.

AI verzerrt, weil es auf Masse trainiert wurde - und Masse enthält Müll.

Factfulness lehrt: "Überprüfe deine Annahmen. Hinterfrage die Narrative."

Bei AI gilt dasselbe. Nur dringender.

Ich bin weiterhin ein AI Enthusiast. Ich nutze AI täglich. Dieser Newsletter wird mit AI geschrieben (Interview-Mich-Prompt (du kennst ihn) und meine 20 %).

Aber ich bin kein blinder Follower.

AI ist mächtig. Und gefährlich.

Hier ist wie du navigierst.

Ich habe mir ein Framework abgeschaut. Das Prinzip wurde meines Wissens nicht von einer einzelnen Person erfunden. Es ist eine Zusammenführung bewährter Methoden aus Wissenschaft, Journalismus und Geheimdienst-Arbeit.

F.A.C.T. steht für:

Gehen wir es durch. Mit meinem KQL-Beispiel.

Was wird genau behauptet?

Nicht: "ChatGPT hat mir Code gegeben."

Sondern: "Diese spezifische KQL-Funktion existiert und funktioniert so."

Leitfragen:

In meinem Fall:

ChatGPT behauptet: "Die Funktion summarize_advanced() existiert in KQL und macht X."

Klar. Konkret. Überprüfbar.

Wer steht hinter dieser Info?

ChatGPT = AI Language Model.

Leitfragen:

Bei AI:

In meinem Fall:

ChatGPT hat möglicherweise keinen direkten Zugang zu KQL-Dokumentation. Es "rät" basierend auf Pattern-Matching.

Rote Flagge. Weiter zu C.

Finde unabhängige Quellen.

Tools für Code/Tech (beispielhaft):

Tools für Facts (beispielhaft):

In meinem Fall:

Ich google: "KQL summarize_advanced function"

Ergebnis: Null Treffer in Microsoft Docs.

Stack Overflow: Niemand verwendet diese Funktion.

GitHub: Keine Repos mit dieser Funktion.

Fazit: Die Funktion existiert nicht.

Kann ich die Original-Quelle sehen?

Bei Code: Kann ich den Code selbst testen? Bei Statistiken: Kann ich die Rohdaten sehen? Bei Studien: Kann ich das Paper lesen?

Leitfragen:

In meinem Fall:

Ich teste den Code. Er funktioniert nicht.

Ich checke Microsoft Docs: Funktion nicht dokumentiert.

Ich checke KQL Reference: Funktion existiert nicht.

Primärquelle = Microsoft (Hersteller von KQL).

Wenn Microsoft sagt "existiert nicht" > ChatGPT sagt "existiert" → ChatGPT lügt.

Case closed.

Manchmal merkst du es schon bevor du den vollen Check machst.

Erkennungsmerkmal #1: Zu perfekte Formulierung

Wenn jeder Satz perfekt sitzt. Keine Umgangssprache. Keine Persönlichkeit.

Red Flag.

Menschen schreiben nicht perfekt. AI schon.

Erkennungsmerkmal #2: Fehlende konkrete Quellen

"Studies show..." - Welche Studien? "Experts say..." - Welche Experten? "It's been proven..." - Von wem? Wann? Wo?

Wenn AI auf Quellen verweist die es nicht nennen kann: Slop.

Erkennungsmerkmal #3: Übermäßige Confidence bei komplexen Themen

Komplexe Themen haben Nuancen. Unsicherheiten. "Es kommt drauf an."

Wenn AI bei komplexen Fragen 100% confident antwortet ohne Einschränkungen?

Slop-Alarm.

In meinem KQL-Fall: ChatGPT war 100% confident. Bei jeder falschen Antwort.

Das hätte mein erstes Zeichen sein müssen.

Hans Rosling lehrt in Factfulness:

"Die Welt ist nicht so schlecht wie Medien uns glauben machen. Aber sie ist auch nicht perfekt. Die Wahrheit liegt in den Daten."

Bei AI gilt:

"AI ist nicht so schlecht wie Kritiker sagen. Aber es ist auch nicht perfekt. Die Wahrheit liegt in der Verifikation."

Beide - Medien und AI - produzieren verzerrte Realitäten.

Medien: Drama verkauft besser als Normalität. AI: Confidence verkauft besser als "Ich weiß es nicht."

Die Lösung ist dieselbe:

Überprüfe. Hinterfrage. Verifiziere.

Rosling zeigt: Wenn du die Daten checkst, sieht die Welt besser aus als gedacht.

Ich zeige: Wenn du AI-Antworten checkst, bleibst du auf der sicheren Seite.

Du nutzt AI. Ich weiß es.

ChatGPT, Claude, Gemini - egal.

Die Frage ist nicht OB du AI nutzt. Sondern WIE.

Hier ist mein Rat:

1. Nutze AI als Co-Pilot, nicht als Autopilot

AI gibt dir Richtung. Du entscheidest.

AI schreibt den ersten Draft. Du editierst.

AI schlägt Lösungen vor. Du verifizierst.

2. Wende F.A.C.T. bei kritischen Entscheidungen an

Code? Check es. Fakten für Präsentation? Cross-verify. Medizinische Infos? Trace the evidence.

Je wichtiger die Entscheidung, desto wichtiger der Check.

3. Erkenne die Erkennungsmerkmale

Zu perfekt? Slop. Keine Quellen? Slop. 100% Confidence bei komplexem Thema? Slop.

Dein Bullshit-Detektor ist dein bester Freund.

Ich liebe AI. Ich nutze AI täglich.

Aber ich liebe es MIT offenen Augen.

Factfulness lehrt: "Sei weder Optimist noch Pessimist. Sei Possibilist - und überprüfe die Fakten."

Bei AI: Sei weder Fanboy noch Hater. Sei Navigator - und nutze F.A.C.T.

AI ist mächtig. AI ist gefährlich.

Mit F.A.C.T. bist du sicher unterwegs.

Nutze F.A.C.T. diese Woche.

Einmal. Bei einer AI-Antwort die wichtig ist.

Code, Fakten, Strategien - egal.

Gehe durch die 4 Schritte:

Kommentiere oder Antworte mir.

Sag mir:

Ich will wissen ob F.A.C.T. für dich funktioniert. Oder ob ich es noch schärfen kann.

AI Slop ist real.

Perfekt formuliert. Überzeugend strukturiert. Oft falsch.

Aber du bist nicht hilflos.

F.A.C.T. gibt dir ein System. Um zu navigieren. Ohne unterzugehen.

Factfulness zeigt: Die Welt ist besser als Medien sagen.

F.A.C.T. zeigt: AI ist nützlicher wenn du weißt wie du checkst.

Bleib kritisch. Bleib enthusiastisch.

Und check deine verdammten Quellen.

P.S.: Factfulness von Hans Rosling. Lies es. Es ändert wie du Nachrichten, Statistiken und die Welt siehst.