Preprint-Server verschärfen Moderation, während KI-Junk-Science Repositories überschwemmt

Die Moderations-Ausweitung, die jetzt in der Preprint-Infrastruktur sichtbar ist, ist ein vorhersehbarer Effekt zweiter Ordnung von zwei konvergierenden Drücken: der Kommodifizierung von plausibel aussehenden wissenschaftlichen Texten via LLMs und dem Reputationsschaden, den Preprint-Ökosysteme während und nach COVID-19 durch das Hosting von hochkarätiger Desinformation erlitten haben.

Die Kernspannung ist architektonisch. Plattformen wie bioRxiv wurden explizit als Low-Friction-Depositionssysteme entworfen — das Wertversprechen war Geschwindigkeit und Offenheit, mit dem impliziten Vertrag, dass nachgelagerte Leser (Forschende, Journalisten) ihre eigenen kritischen Filter anwenden würden. Dieser Vertrag ist zusammengebrochen. Zitierung von Preprints durch Nicht-Spezialisten-Publikum, kombiniert mit den nahezu null Grenzkosten für die Generierung strukturell kohärenter, aber wissenschaftlich hohler Manuskripte, hat die Risikokalkulation für Server-Betreiber verschoben.

Aktuelle Moderationsreaktionen fallen in drei breite Kategorien: (1) automatisiertes Screening auf KI-generierte Inhalte mit Tools wie GPTZero oder hausinternen Klassifikatoren — an den Rändern unzuverlässig und spielbar; (2) erweiterte menschliche Triage, die schlecht skaliert und inkonsistente redaktionelle Urteilsfindung einführt; und (3) gestaffelte Sichtbarkeitssysteme oder „Flagging"-Systeme, die offene Deposition bewahren, während sie Risikosignale für Leser sichtbar machen. Der dritte Ansatz ist epistemisch ehrlicher, erfordert aber UI-Investitionen und riskiert Flag-Blindheit über die Zeit.

Die Vorarbeit hier ist aufschlussreich. SSRN führte vor Jahren grundlegendes Screening ein; arXiv hat lange Moderator-Netzwerke mit domänenspezifischer Expertise genutzt. Keines hat das Volumenproblem gelöst, und keines sah sich der aktuellen Rate von KI-gestützten Einreichungen gegenüber. Die Frage ist nicht, ob eine gewisse Moderation notwendig ist — das ist sie eindeutig — sondern ob die entstehenden Rahmenwerke transparent, konsistent angewendet und resistent gegen Scope-Creep in Richtung ideologischer oder methodologischer Gatekeeping sein werden.

Offene Fragen, die es zu verfolgen gilt: Werden Moderationsstandards über Server hinweg konvergieren oder fragmentieren auf Weise, die Arbitrage schafft (böswillige Akteure leiten Einreichungen zur am wenigsten gescreenten Plattform)? Wird sich KI-Erkennungstooling schnell genug verbessern, um operativ nützlich zu sein, oder bleibt es eine Haftung, die falsch-positive Ergebnisse gegen legitime nicht-englische Muttersprachler erzeugt? Und kritisch — wer finanziert das? Moderation im großen Maßstab ist teuer, und die meisten Preprint-Server laufen auf dünnen institutionellen Margen. Wenn große Geldgeber (NIH, Wellcome, Gates) Infrastruktur-Support nicht als Priorität behandeln, wird die Last ungleich fallen, wahrscheinlich Server benachteiligend, die den Globalen Süden bedienen.