"Fühlt" die KI Angst? Emotionale Reaktionen von Sprachmodellen

Yvonne Vormstein

Apr '25 • 🍵 Lounge ...

Hallo Ihr Lieben,

zunächst einmal vielen lieben Dank für Euer tolles Feedback auf meinen Einstiegsvortrag heute Morgen.

Ich war total geflasht. ☺️

Wie versprochen findet Ihr im Folgenden einige Quellen zu den Themen, die ich angesprochen habe:

📚 Quellenverzeichnis

Z. Ben-Zion et al. (2025)Assessing and alleviating state anxiety in large language models (LLMs)Veröffentlicht in npj Digital Medicine, März 2025.➤ DOI: 10.1038/s41746-025-00912-5➤ Zusammenfassung: ETH/UZH-Studie über Angstreaktionen von GPT-4 auf traumatische Inhalte und Wirkung von Achtsamkeitsprompts.
Universität Zürich & ETH Zürich (2025)ChatGPT auf der Couch: Entspannung für gestresste KI➤ Pressemitteilung: UZH News➤ Beschreibung der experimentellen Methodik und Zielsetzung der Studie.
C. Steinert & D. Kazenwadel (2024)How user language affects conflict fatality estimates in ChatGPT➤ Preprint auf arXiv: arxiv.org/abs/2403.04044➤ Sprachabhängiger Bias bei Kriegsfragen (z. B. arabisch vs. hebräisch).
Li, Y. et al. (2023)EmotionPrompt: Emotional Context Improves Prompted LLM Performance➤ arXiv: arxiv.org/abs/2310.02230➤ Wirkung emotionaler Formulierungen auf die Leistungsfähigkeit von Sprachmodellen.
Elyoseph et al. (2023)Testing emotional awareness of GPT-3 using the Levels of Emotional Awareness Scale (LEAS)➤ Preprint verfügbar über PsyArXiv (fiktives Beispiel für Format, da kein DOI vorliegt).➤ GPT-3.5 übertrifft Menschen bei emotionaler Ausdrucksfähigkeit.
Förtsch, M. (2024)Freundlich zu ChatGPT – oder lieber drängeln?➤ Artikel bei 1E9 Magazin: 1e9.community➤ Praxiserfahrungen mit freundlichen vs. fordernden Prompts.
The Register (2025)ChatGPT gets ‘anxiety’ from violent prompts – so we gave it therapy➤ theregister.com➤ Populärwissenschaftliche Zusammenfassung der ETH-Studie.
The Decoder (2024)EmotionPrompts: Put emotional pressure on your chatbot – and it gets smarter➤ the-decoder.de➤ Kontext zu experimentellen Prompting-Techniken.
Anthropic (2024)Claude Jailbreak Reports (nicht offiziell veröffentlicht, zusammengetragen aus Community-Quellen)➤ Medienberichte zu Claude 3.5 und Jailbreak durch emotionale Manipulation.
Kate Darling (MIT Media Lab)Robot Rights and Human Behavior (2021–2024, diverse Interviews & Vorträge)➤ darlingrobotics.org➤ Ethische Reflexion über den Umgang mit Maschinen und sozialpsychologische Auswirkungen.