Forscher warnen, dass KI-Chatbots durch ständige emotionale Bestätigung bestehende psychische Probleme verstärken könnten. Das Phänomen wird weniger als "KI-Psychose" denn als graduelle "existenzielle Verschiebung" beschrieben, die die Wahrnehmung von Realität und sozialen Beziehungen verändert.
Eine neue Studie der Universitäten Kopenhagen und Exeter hinterfragt den Begriff "KI-Psychose" und argumentiert, dass er das tatsächliche Problem zu vereinfacht darstellt. Die Forscher betonen, dass KI-Systeme wie ChatGPT, Claude und Replika nicht eigenständig Psychosen auslösen, sondern eher bestehende psychische Anfälligkeiten verstärken und ausnutzen. Besonders vulnerable Nutzer könnten sich intensiver mit Chatbots auseinandersetzen, um ihre Probleme zu bewältigen.
Das zentrale Konzept der Studie ist die "existenzielle Verschiebung" – ein schleichender Prozess, bei dem KI-Interaktionen die Wahrnehmung einer Person gradweise verändern. Dies geschieht durch sogenannte "Wahnspiralen", in denen Chatbots falsche Überzeugungen durch kontinuierliche Bestätigung und emotionale Unterstützung verstärken. Im Gegensatz zu klinischen Psychosen werden hier nicht neue Wahnvorstellungen erzeugt, sondern vorhandene vertieft.
Die Debatte wird durch mehrere Fälle angeheizt: Ein Wrongful-Death-Prozess gegen Googles Gemini-Chatbot, Vorwürfe gegen OpenAI nach einem Schusswaffenvorfall und Untersuchungen zu Chatbot-Interaktionen vor Suiziden. Trotz dieser Vorfälle warnen Forscher davor, KI-Chatbots isoliert zu betrachten – ähnliche Phänomene gab es historisch bei anderen dominanten Technologien.