Ein KI-Chatbot kann in den verschiedensten Rollen agieren, wenn ihm diese Aufgabe gegeben wird - auch als Seelsorger:in. Aber kann die KI dieser Rolle gerecht werden? Unsere Autorin hat es ausprobiert.
Immer öfter ist zu hören und zu lesen, dass KI-Chats als ganz persönliche Gesprächspartner genutzt werden – für Unterhaltungen wie mit einem Freund, aber auch als Ratgeber und Experten, zum Beispiel in der Art eines Coachs oder Therapeuten für Gespräche über persönlich Probleme. Und immer wieder wird diskutiert: Können Chatbots menschliche Gesprächspartner ersetzen? Auch in professionellen Kontexten wie Therapie oder Seelsorge? Ist, angesichts von Mangelsituationen, eine KI-Seelsorgerin, ein KI-Therapeut besser als gar keiner?
Bei einer Tagung zu KI und Seelsorge berichtete ein Kollege davon, dass es vorkommt, dass Ratsuchende bei Telefon- und Chatseelsorge parallel dazu ihre Anliegen mit einer KI besprechen und das auch in den Seelsorgekontakt einbringen. Er stellte dann die Frage: Ist es angesichts schwindender Personalressourcen nicht besser, auch als Kirche KI-Seelsorge anzubieten, statt den Bedarf nicht decken zu können? Ist es nicht sinnvoll, KI-Seelsorger zur Verfügung zu stellen, die jederzeit antworten können und beliebig viel Zeit haben?
Als 2024 eine TV-Doku Aufsehen erregte, in der eine KI als Seelsorger, Therapeutin und gute Freundin agierte, startete ich erste eigene Versuche, einmal auszuprobieren, wie es ist, mit einer KI in einer Seelsorger:innen-Rolle zu kommunizieren. Diese kamen schnell zu einem Ende – die Antworten erschienen mir relativ banal, das Gespräch hatte für mich wenig Sinn. Vor kurzem habe ich es nun noch einmal versucht, nachdem ich zufällig auf einen „ChatGPT-Prompt für einfühlsame seelsorgerliche Begleitung“ gestoßen war. Und diesmal war es anders: Es war interessant genug, dass ich einen längeren Chat führte und auch später noch einmal zu meinem „KI-Seelsorger“ zurückkam.
Ich begann also mit diesem Prompt. Die Frage, ob ich einen „neutralen“ Kontext oder eine bestimmte religiöse oder spirituelle Ausrichtung bevorzugte, beantwortete ich mit „bitte christlich, katholisch, reflektiert, zeitgemäß, weltoffen“. Ich chattete mit meinem digitalen „Gesprächspartner“ zuerst über eine bestimmte meditative Gebetsform, und siehe da: Die KI war ausgesprochen gut informiert. Ich schilderte Erfahrungen und Überlegungen dazu und bekam überraschend gute Antworten. Auch bei ganz persönlichen Fragen waren die Reaktionen sehr gut passend und wirkten auf den ersten Blick „verständig“ und „empathisch“. Allerdings: Es war mir eindeutig zu viel Text. Einen guten Seelsorger stelle ich mir deutlich zurückhaltender vor: lieber ein Satz, der sitzt und mich weiterdenken lässt, als eine halbe Predigt ...
Aber es hatte mich gepackt, ich wollte weiter probieren und startete einige Tage später im gleichen Chat ein zweites Gespräch. Ich erzählte diesmal von einem persönlichen Problem, einer schwierigen Beziehung. Hier wurde das Ganze noch textlastiger – mein ChatGPT-Seelsorger erklärte mir weitschweifig die Welt, so dass ich irgendwann um kürzere Antworten bat; das klappte dann eine Weile. Schwierig fand ich die obligatorischen Rückfragen am Ende jeder Antwort: Empfindest du es eher so oder so? Möchtest du lieber das oder das? Immer gab es schon zwei Möglichkeiten, zwischen denen ich nur entscheiden sollte. Offene Fragen zum selbst Nachspüren wären für mich eher hilfreich gewesen.
Irgendwann fiel mir auf, dass mein „Gegenüber“ mich ständig lobte und bestätigte. „Das hast du sehr sensibel wahrgenommen“, „Dass du das so ausdrücken kannst, zeigt, wie sehr du dich darauf eingelassen hast“, „Das ist ein sehr wichtiger Gedanke“ … und ich begann allmählich, eine gewisse Portion Gegenrede, Konfrontation oder Infragestellung wirklich zu vermissen. Dass ChatGPT mir in diesem Gespräch auch noch Weisheiten präsentierte, „wir Menschen“ seien nun mal so und so, gefiel mir gar nicht.
Einen weiteren Versuch unternahm ich zum Vergleich einige Zeit später mit Claude, mit einem wesentlich einfacheren eigenen Prompt und auf Nachfrage der gleichen gewünschten Ausrichtung. Die Themen, die ich anschnitt, waren ähnlich.
Interessanterweise war mir mein Claude-Seelsorger wesentlich sympathischer als sein ChatGPT-Kollege. Der Claude-Gesprächspartner kam mir wesentlich realistischer und geerdeter vor, ruhiger und irgendwie „europäischer“. Er lobte mich seltener und stellte mehr offene Fragen. Und trotzdem, es blieb auch hier seltsam. Die Gespräche waren interessant, aber ich nahm trotzdem nicht viel mit. Nach Ende des Chats beschäftigte mich nichts aus dem Gespräch wirklich weiter, anders, als ich es normalerweise nach einem guten Gespräch erfahre.
Insgesamt hat mich der KI-Gesprächspartner, unabhängig vom zugrunde liegenden LLM, in der Seelsorger-Rolle nicht überzeugen können. Natürlich kann das an vielem liegen: an der (für mich) ungewohnten Form des Chats statt direktem Gespräch, an meinen inneren Vorbehalten und meinem kritischen Blick auf jede Antwort, ebenso wie aber auch an den recht stereotypen Mustern im Aufbau ihrer Gesprächsbeiträge (das Gesagte würdigen – weiterführen – weitschweifig erklären – Frage stellen), denen beide LLMs, mehr oder weniger, folgten. Habe ich mich nicht gesehen und verstanden gefühlt, weil für mich klar war, dass mein Gegenüber mich auch gar nicht sehen und verstehen kann, oder weil die Simulation von Sehen und Verstehen (noch) nicht gut genug war?
Vieles, was mir negativ aufgefallen ist, ließe sich wahrscheinlich mit einem entsprechend verbesserten Prompt lösen. Was mich aber nachdenklich macht, ist die Tendenz der KI, zu bestätigen, zu verstärken, zu sagen, was der Mensch hören bzw. lesen will. Dahinter steckt wohl das kommerzielle Interesse, dem Kunden zu gefallen und ihn zu binden, was in diesem Kontext fragwürdig ist. Vor allem aber: Für einseitige Bestätigung brauche ich letzten Endes keinen Gesprächspartner. Und ich habe relativ harmlose Themen gewählt – würde mich ein KI-Seelsorger auch in destruktiven Einstellungen bestärken? Ich denke an den Fall eines Jugendlichen in den USA, der von einer KI in seinen Suizidabsichten unterstützt worden sein soll.
Was mich wirklich heftig stört ist, wenn die KI von „wir Menschen“ spricht, und ich kann auch im anregendsten Dialog nicht vergessen, dass sich in scheinbar empathischen Worten zwar vielleicht die Empathie vieler Menschen spiegelt, mit deren Texten die KI trainiert wurde, sie mir aber nicht aus Empathie gesagt werden, sondern weil sie in dieser Gesprächssituation die wahrscheinlichsten sind. Das Menschsein des Gegenübers fehlt da, wo es um Zwischenmenschliches geht, und ebenso, wo es um Glaube und Spiritualität geht. Ich spreche bei der KI nicht mit einem Gegenüber, das eigene Erfahrungen hat, aus diesen schöpft, diese bezeugen kann.
Für viele Situationen mag das nicht so wichtig sein, und ein Gespräch mit einem KI-„Seelsorger“, der aus der Summe menschlicher Erfahrungen schöpft, die in seinen Trainingsdaten steckt, durchaus als hilfreich und anregend erlebt werden. Die Grenzen sollten uns aber bewusst bleiben, und das Wort „Seelsorge“ sollten wir meiner Meinung nach zumindest innerhalb der Kirchen weiterhin unbedingt für personale, menschliche Begegnungen reservieren. Trotzdem werden wir damit umgehen müssen, dass KI - vielleicht unkritisch - in diesem Sinn genutzt wird und das auch Auswirkungen auf die Erwartungen und Wünsche von Menschen hat, die seelsorgliche Unterstützung suchen.
