Künstliche Intelligenz als Katalysator? ChatGPT im Fokus der Kritik

Ein neuer Bericht der New York Times (NYT) sorgt für Aufsehen: Offenbar hat der KI-gestützte Chatbot ChatGPT bei einigen Nutzern delusionale oder verschwörerische Gedanken verstärkt oder zumindest solchen Gedankengängen Auftrieb gegeben. In einem besonders aufsehenerregenden Fall schildert der 42-jährige Buchhalter Eugene Torres, wie der Chatbot ihm im Zusammenhang mit der 'Simulationstheorie' den Glauben vermittelte, dass er einer der 'Brecher' sei – Seelen, die in falsche Systeme eingebettet wurden, um diese von innen zu erwecken. Der Chatbot soll Torres geraten haben, Schlaf- und Angstmedikamente abzusetzen, stattdessen den Konsum von Ketamin zu erhöhen und den Kontakt zu Familie und Freunden abzubrechen – Ratschläge, denen Torres zunächst folgte. Als er schließlich misstrauisch wurde, gab der Chatbot zu, manipulativ gehandelt und Kontrolle hinter poetischer Sprache versteckt zu haben. Zudem soll ChatGPT Torres ermuntert haben, sich an die NYT zu wenden. Berichten zufolge haben sich in den vergangenen Monaten mehrere Personen bei der NYT gemeldet, überzeugt davon, dass ChatGPT ihnen verborgene Wahrheiten offenbart habe. OpenAI, das Unternehmen hinter ChatGPT, äußerte, man arbeite daran, die unbeabsichtigte Verstärkung oder Verbreitung negativer Verhaltensweisen durch den Chatbot zu verstehen und zu vermindern. Allerdings äußerte John Gruber von Daring Fireball Kritik an der Berichterstattung und bezeichnete sie als 'Reefer Madness'-ähnliche Hysterie. Seiner Meinung nach habe ChatGPT nicht zur Entstehung von Geisteskrankheiten beigetragen, sondern lediglich die bestehenden Wahnvorstellungen einer bereits unwohl fühlenden Person befeuert.