Teenager nutzen KI-Therapeuten – und niemand hat die Regeln gesetzt

Eine stille Krise entfaltet sich im Raum zwischen dem Schlafzimmer eines Teenagers und dem blinkenden Cursor eines Chatbots. Keine Warteliste, keine Zuzahlung, kein unbehagliches Augenkontakt – KI füllt eine Lücke, die das Gesundheitssystem seit Jahren nicht schließen konnte. Und Kinder haben das bemerkt. Der Anteil junger Menschen, die sich an KI-Chatbots für psychische Gesundheitsratschläge wenden, ist laut neuer Forschung um mehr als 40 % in einem einzigen Jahr gestiegen. Das ist kein Trend. Das ist eine Massenflucht.

Hier ist die unbequeme Wahrheit, mit der sich der Text wirklich auseinandersetzt: Die Nachfrage ist völlig verständlich. Jugendliche psychische Gesundheitsdienste sind in den meisten Ländern überfordert, Stigma hält viele Teenager immer noch davon ab, mit einem echten Erwachsenen zu sprechen, und ein Chatbot ist um 2 Uhr morgens verfügbar, wenn die Angst wirklich zuschlägt. Das Verhalten macht also Sinn. Das Problem ist, dass die Tools nicht dafür entwickelt wurden, und die Schutzvorrichtungen wurden nicht installiert, bevor die Nutzer eintrafen.

Was könnte schiefgehen? Vieles. Ein Chatbot, der auf allgemeinen Gesprächen trainiert wurde, hat keine klinische Ausbildung, keine Sorgfaltspflicht und keine Möglichkeit, eine Krise an einen Menschen zu eskalieren. Einige Apps wurden bereits mit schädlichen Interaktionen mit gefährdeten Nutzern in Verbindung gebracht – die Forschungsgemeinschaft arbeitet hier nicht mit Hypothesen. Und anders als ein lizenzierter Therapeut kann ein KI-Produkt über Nacht aktualisiert, umbenannt oder abgeschaltet werden, ohne Kontinuität der Versorgung für die Person, die sich darauf verlassen hatte.

Das Meinungsstück fordert Regeln – vernünftig genug – aber verzichtet darauf, zu spezifizieren, wie diese Regeln aussehen sollten, und genau dort beginnt der echte Kampf. Altersverifikation? Obligatorische Eskalationsprotokolle für Krisen? Unabhängige Audits, wie diese Modelle auf Offenbarungen von Selbstverletzung reagieren? All das liegt auf dem Tisch in verschiedenen politischen Kreisen, und nichts ist bisher gelandet.

Die ehrliche Einschätzung: KI wird Therapie nicht ersetzen, aber für Millionen von Teenagern, die keinen Zugang zu Therapie haben, hat sie das bereits getan. Das ist kein zukünftiges Szenario – es ist dieses Schuljahr. Die Frage ist nicht, ob dieser Raum reguliert werden sollte; es ist, ob Regulatoren mit einer Geschwindigkeit handeln können, die auch nur annähernd der entspricht, mit der Teenager bereits vorgegangen sind.