# data[].attributes.headline
"Du verstehst mich besser als alle anderen" - junge Menschen, KI und der Wunsch nach Beziehung

# data[].attributes.subject
"Du verstehst mich besser als alle anderen" - junge Menschen, KI und der Wunsch nach Beziehung

# data[].attributes.headline
"Verliebt in einen Chatbot" (Deutschlandfunk Nova)

# data[].attributes.subject
"Verliebt in einen Chatbot" (Deutschlandfunk Nova)

# data[].attributes.attachment_link.description
Verliebt in einen Chatbot: Wie KI Beziehungen verändert, warum emotionale Bindungen entstehen und welche Chancen und Risiken Experten sehen.

# data[].attributes.attachment_link.readable_text
Um eine Aussage zu belegen oder ein Argument stark zu machen, bedarf es verlässlicher Quellen. Das gilt für den Schulaufsatz ebenso wie für die wissenschaftliche Hausarbeit und auch im Journalismus ist Quellenarbeit von großer Bedeutung. Doch die Frage, welchen Quellen man trauen kann, stellt sich mit der breiten Verfügbarkeit von Tools, die auf Künstlicher Intelligenz (KI) basieren, neu. KI-Chatbots wie ChatGPT generieren passgenau zugeschnittene Wissensbestände und können so die eigene Recherche unterstützen. Problematisch wird ihre Verwendung dann, wenn die Nutzung nicht transparent gemacht wird oder Antworten unhinterfragt übernommen werden. Darüber hinaus kann KI zur bewussten Desinformation eingesetzt werden und den für eine Demokratie essenziellen offenen Meinungsaustausch mit irreführenden Bildern oder Videos manipulieren („Deepfakes").

Auf zwei doppelseitigen Arbeitsblättern setzen sich die Lernenden mit Quellenarbeit im digitalen Zeitalter auseinander und entwickeln Regeln für den Umgang mit Künstlicher Intelligenz als Informationsquelle. Für Lehrkräfte enthält das Heft eine ausführliche Einführung ins Thema sowie methodische Hinweise zum Einsatz der Arbeitsblätter im Unterricht. Die gedruckte Ausgabe enthält zusätzlich Spicker Nr. 33 "Grundgesetz" zum Heraustrennen.

# data[].attributes.attachment_link.description
Das Recherchieren verlässlicher Informationen und das richtige Einordnen von Quellen sind Schlüsselkompetenzen im digitalen Zeitalter. Doch wie findet man glaubwürdige Quellen?

# data[].attributes.attachment_link.description
Seitenstark baut einen neuen KI-Chatbot für Kinder, der auf alle Fragen rund um Künstliche Intelligenz Antworten haben wird.

# data[].attributes.headline
𝗞𝗜 𝘂𝗻𝗱 𝗞𝗶𝗻𝗱𝗲𝗿: 𝗕𝗲𝘀𝘀𝗲𝗿𝗲𝗿 𝗦𝗰𝗵𝘂𝘁𝘇, 𝗺𝗲𝗵𝗿 𝗕𝗶𝗹𝗱𝘂𝗻𝗴 𝘂𝗻𝗱 𝗸𝗹𝗮𝗿𝗲 𝗥𝗲𝗴𝗲𝗹𝗻 (2026)

# data[].attributes.subject
𝗞𝗜 𝘂𝗻𝗱 𝗞𝗶𝗻𝗱𝗲𝗿: 𝗕𝗲𝘀𝘀𝗲𝗿𝗲𝗿 𝗦𝗰𝗵𝘂𝘁𝘇, 𝗺𝗲𝗵𝗿 𝗕𝗶𝗹𝗱𝘂𝗻𝗴 𝘂𝗻𝗱 𝗸𝗹𝗮𝗿𝗲 𝗥𝗲𝗴𝗲𝗹𝗻 (2026)

# data[].attributes.headline
Rahmenkonzept für KI-Kompetenz in der Grund- und Sekundarschulbildung (2026)

# data[].attributes.subject
Rahmenkonzept für KI-Kompetenz in der Grund- und Sekundarschulbildung (2026)

# data[].attributes.attachment_link.title
Rahmenkonzept für KI-Kompetenz in der Grund- und Sekundarschulbildung

# data[].attributes.attachment_link.description
Befähigen Sie Lernende für das Zeitalter der KI mit dem AILit-Framework – einer gemeinsamen Initiative der Europäischen Kommission und der OECD, die von Code.org und internationalen Experten unterstützt wird.

# data[].attributes.headline
"KI spielerisch durchschauen - KI in der Jugendarbeit" (JFF, 2026)

# data[].attributes.subject
"KI spielerisch durchschauen - KI in der Jugendarbeit" (JFF, 2026)

# data[].attributes.attachment_link.title
JUUU-KI! – Jugendliche mit KI für Demokratie

# data[].attributes.attachment_link.description
JUUU-KI! nutzt Künstliche Intelligenz, um Jugendliche über Hass im Netz und Fake News aufzuklären und Demokratie zu fördern.

# data[].attributes.attachment_link.title
Was ist Künstliche Intelligenz? | Die Maus | WDR

# data[].attributes.headline
"KI and me. Kann Künstliche Intelligenz echte Freundschaft ersetzen?" (Juuucast)

# data[].attributes.subject
"KI and me. Kann Künstliche Intelligenz echte Freundschaft ersetzen?" (Juuucast)

# data[].attributes.attachment_link.title
Sonderfolge: KI and Me – Kann Künstliche Intelligenz echte Freundschaft ersetzen?

# data[].attributes.attachment_link.description
In dieser Sonderfolge zum Safer Internet Day 2026 sprechen Anna aus dem Team JUUU-KI und JUUUPORT-Scout Martin über Freundschaften mit KI.

# data[].attributes.attachment_link.provider_name
Wie KI Familien im Alltag begleitet | Teachtoday

# data[].attributes.attachment_link.description
Immer mehr Kinder, Jugendliche und Erwachsene nutzen KI wie eine Gesprächspartnerin. Sie hört zu, reagiert verständnisvoll und gibt schnelle Antworten, dass kann in stressigen oder unsicheren Momenten entlasten. Gleichzeitig entstehen neue Fragen: Wie verändert diese digitale Nähe Beziehungen und den Umgang mit Gefühlen? Wir werfen einen genaueren Blick darauf, wie KI Nähe schafft und was das für Familien im Alltag bedeutet.

# data[].attributes.headline
"Generative AI in Children's Lives: Issues in the Use of AI Toys, Companions, Chatbots and Devices" Australian Research Council Centre of Excellence for the Digital Child"

# data[].attributes.subject
"Generative AI in Children's Lives: Issues in the Use of AI Toys, Companions, Chatbots and Devices" Australian Research Council Centre of Excellence for the Digital Child"

# data[].attributes.attachment_link.title
Generative AI in Children’s Lives: Issues in the Use of AI Toys, Companions, Chatbots and Devices

# data[].attributes.attachment_link.description
Leaver, Tama Bruno, Srdarov, Suzanne, Langton, Katrin, Corser, Kristy, Mil-Homens Figueira Dos Santos Silva, Irina, & Danby, Susan (2026) Generative AI in Children’s Lives: Issues in the Use of AI Toys, Companions, Chatbots and Devices. Australian Research Council Centre of Excellence for the Digital Child, Australia.

# data[].attributes.headline
Snapshot of AI Usage and Concerns Among Children and Parents (UNICEF)

# data[].attributes.subject
Snapshot of AI Usage and Concerns Among Children and Parents (UNICEF)

# data[].attributes.headline
Mental health of young people in a digital age (European Commission)

# data[].attributes.subject
Mental health of young people in a digital age (European Commission)

# data[].attributes.headline
Children are turning to AI for homework – and life advice (UNICEF)

# data[].attributes.subject
Children are turning to AI for homework – and life advice (UNICEF)

# data[].attributes.attachment_link.title
Children are turning to AI for homework – and life advice

# data[].attributes.attachment_link.description
Millions of children across the globe are already using artificial intelligence to learn, solve problems and even seek advice about personal worries, while safeguards are failing to keep pace with the technology’s rapid adoption.

# data[].attributes.headline
"AI Chatbot Use and Disclosure for Mental Health" (McBain et al.)

# data[].attributes.subject
"AI Chatbot Use and Disclosure for Mental Health" (McBain et al.)

# data[].attributes.body
Among US Adolescents and Young Adults

# data[].attributes.headline
"Voices of Gen Z- The AI Paradox" (US, 2026)

# data[].attributes.subject
"Voices of Gen Z- The AI Paradox" (US, 2026)

# data[].attributes.attachment_link.title
Walton Family Foundation-Gallup Gen Z Research Hub

# data[].attributes.attachment_link.description
Explore Gen Z’s perceptions of their life, school and outlook for the future.

# data[].attributes.headline
"ChatGPT as a mental health advisory service: Comparing evaluations from youth and health professionals" (Norwegen, 2026)

# data[].attributes.subject
"ChatGPT as a mental health advisory service: Comparing evaluations from youth and health professionals" (Norwegen, 2026)

# data[].attributes.attachment_link.title
ChatGPT as a mental health advisory service: Comparing evaluations from youth and health professionals - Marita Skjuve, Asbjørn Følstad, Petter Bae Brandtzaeg, 2026

# data[].attributes.attachment_link.description
Objective Despite the growing use of artificial intelligence in youth mental health support, little is known about how either young people or health professiona…

# data[].attributes.headline
"KI bei Jugendlichen - zwischen Hilfe und Illusion" (radiodrei.de)

# data[].attributes.subject
"KI bei Jugendlichen - zwischen Hilfe und Illusion" (radiodrei.de)

# data[].attributes.attachment_link.title
KI bei Jugendlichen – zwischen Hilfe und Illusion

# data[].attributes.attachment_link.description
Ein Gespräch mit Martin Bregenzer von der EU-Initiative klicksafe

# data[].attributes.headline
"How teens use and vie AI" (US, 2026) (Pewresearch)

# data[].attributes.subject
"How teens use and vie AI" (US, 2026) (Pewresearch)

# data[].attributes.attachment_link.description
Just over half of U.S. teens say they’ve used chatbots for help with schoolwork, and 12% say they’ve gotten emotional support from these tools. Teens tend to view AI’s future impact on their lives more positively than negatively.

# data[].attributes.headline
"Smart tech, safe choices. Exploring the safe and responsible use of AI" (UK, Saferinternet Centre)

# data[].attributes.subject
"Smart tech, safe choices. Exploring the safe and responsible use of AI" (UK, Saferinternet Centre)

# data[].attributes.attachment_link.description
Nominet commissioned research to support Safer Internet Day 2026. Focused on ‘the safe and responsible use of AI’ view from children and parents.

# data[].attributes.headline
Marc Coeckelbergh (2026): Technofascism: AI, Big Tech, and the new authoritarianism 

# data[].attributes.subject
Marc Coeckelbergh (2026): Technofascism: AI, Big Tech, and the new authoritarianism 

# data[].attributes.headline
"European children's use and understanding of Generative AI" (UK, 2026) (EU Kids Online)

# data[].attributes.subject
"European children's use and understanding of Generative AI" (UK, 2026) (EU Kids Online)

# data[].attributes.attachment_link.title
European children’s use and understanding of generative AI: EU Kids Online 2026

# data[].attributes.attachment_link.description
Over the past three decades, the internet and digital technologies have become deeply integrated in the everyday lives of children and young people across Europe. The EU Kids Online network (EUKO) has systematically studied these changes since 2006. This multidisciplinary research network was established to provide policymakers, educators, parents and other stakeholders with a robust evidence base on how children use digital technologies, the opportunities they encounter, and the risks they face. Through successive international surveys, most notably the 2010 and 2018 EUKO international comparative studies, EUKO has documented how emerging technologies, from personal computers to smartphones, from chatgroups to social networks, have become embedded in children’s everyday lives. In recent years, children’s online environments have been reshaped by the rapid integration of AI-based tools into search engines, social media platforms, messaging services, creative applications, and educational technologies. These developments introduce new possibilities for learning, creativity and support, while also raising new concerns related to misinformation, synthetic content, privacy, automation, and manipulation. At the same time, regulatory frameworks such as the GDPR and the EU Artificial Intelligence Act seek to respond to these changes, underlining the need for timely, evidence-based knowledge about how children use and experience GenAI in their daily lives. Responding to the growing need to understand if and how children use GenAI across Europe, and its potential implications for risks and opportunities, this EUKO report is a thematic publication based on data from the EUKO 2025 survey. It is the first international report released from the new dataset and is published in connection with Safer Internet Day 2026 under its theme: ‘Smart tech, safe choices – Exploring the safe and responsible use of AI’. The main aim of this report is to map children’s access to, use of and experiences with GenAI across Europe, and to examine if and how GenAI is becoming part of their everyday digital lives. The report draws on comparative data from 20 European countries: Austria, Belgium, Croatia, the Czech Republic, Estonia, Finland, Germany, Ireland, Italy, Latvia, Luxembourg, Malta, Norway, Poland, Portugal, Serbia, Slovakia, Spain, Switzerland, and the United Kingdom. This includes data from the EU Kids Online survey with 25,592 children aged 9 to 16 in 17 countries and additional qualitative interviews with 244 children aged 13 to 17 years in 15 countries. The report identifies emerging patterns, diLerences between groups and countries, and key areas of opportunity and concern. In doing so, it provides an early and policy-relevant insight into how GenAI is reshaping childhood in Europe.

# data[].attributes.headline
Podcast Diethelm & Genner: Wofür nutzen Jugendliche KI?

# data[].attributes.subject
Podcast Diethelm & Genner: Wofür nutzen Jugendliche KI?

# data[].attributes.attachment_link.description
Immer mehr Jugendliche in der Schweiz nutzen KI-Tools – vor allem ChatGPT. Die JAMESfocus-Studie 2025 zeigt: KI ist längst im Alltag der 12- bis 19-Jährigen angekommen, wird aber mit gemischten Gefühlen betrachtet. Wir sprechen darüber, wie und wofür Jugendliche KI einsetzen, welche Chancen und Risiken bestehen und was das für Eltern, Schulen und die Gesellschaft bedeutet.

# data[].attributes.headline
"A new direction for students in an AI world" (Brookings) (US, 2026)

# data[].attributes.subject
"A new direction for students in an AI world" (Brookings) (US, 2026)

# data[].attributes.attachment_link.title
A new direction for students in an AI world: Prosper, prepare, protect | Brookings

# data[].attributes.attachment_link.description
This report explores the potential risks generative AI poses to students and outlines what we can do now to minimize them.

# data[].attributes.headline
"Aufwachsen mit KI" (Handbuch Dieter Baacke Preis 2026)

# data[].attributes.subject
"Aufwachsen mit KI" (Handbuch Dieter Baacke Preis 2026)

# data[].attributes.headline
Gemeinsame Erklärung: Der erste Globale Dialog zur KI-Governance muss Kindern gerecht werden

# data[].attributes.subject
Gemeinsame Erklärung: Der erste Globale Dialog zur KI-Governance muss Kindern gerecht werden

# data[].attributes.attachment_link.title
Gemeinsame Erklärung: Der erste Globale Dialog zur KI-Governance muss Kindern gerecht werden

# data[].attributes.attachment_link.description
Als Teil einer Allianz von mehr als 100 führenden Organisationen und Expert*innen weltweit fordert die Stiftung Digitale Chancen die Staaten dazu auf, ihren Verpflichtungen nachzukommen und Kinderrechte im digitalen Raum konsequent zu stärken. Der gemeinsame Aufruf zeigt zehn konkrete Wege auf, um Kinder im Zeitalter der Künstlichen Intelligenz besser zu schützen und ihre Rechte bei der Entwicklung und Nutzung neuer Technologien zu gewährleisten.

# data[].attributes.headline
Tobias Albers-Heinemann: "KI im Familienalltag - Von emotionaler Nähe bis zur kindgerechten Technologie"

# data[].attributes.subject
Tobias Albers-Heinemann: "KI im Familienalltag - Von emotionaler Nähe bis zur kindgerechten Technologie"

# data[].attributes.attachment_link.title
KI im Familienalltag - Von emotionaler Nähe bis zur kindgerechten Technologie

# data[].attributes.attachment_link.description
Künstliche Intelligenz prägt bereits heute den Alltag von Familien – oft unbewusst. Kinder und Jugendliche begegnen KI in den unterschiedlichsten Kontexten: Ob durch Sprachassistenten wie Alexa, personalisierte Inhalte auf TikTok oder YouTube oder interaktive Spielzeuge wie Hello Barbie – KI-Systeme

# data[].attributes.body
Ergebnisse des digitalen Roundtables „Amicus Ex Machina. AI Chatbots and Youth“

# data[].attributes.headline
Report: Grok: Hass und Extremismus Content durch KI (jugendschutz.net)

# data[].attributes.subject
Report: Grok: Hass und Extremismus Content durch KI (jugendschutz.net)

# data[].attributes.attachment_link.title
Polybuzz: Wie KI-Beziehungen junge Menschen verändern — Medienzeit

# data[].attributes.attachment_link.description
Die Digital Companion-App Polybuzz simuliert virtuelle Beziehungen und sexualisierte KI-Chats. Warum Eltern die App kennen und die Risiken verstehen sollten.

# data[].attributes.headline
"Wenn junge Menschen mit Depressionen Hilfe bei KI suchen" (Tagesschau, 2026)

# data[].attributes.subject
"Wenn junge Menschen mit Depressionen Hilfe bei KI suchen" (Tagesschau, 2026)

# data[].attributes.attachment_link.readable_text
Immer mehr junge Menschen sind von Depressionen betroffen. Doch oft dauert es lange, einen Therapieplatz zu bekommen. Viele junge Betroffene suchen dann Rat bei ChatGPT oder anderen Sprachmodellen.

Wie häufig die KIs bei psychischen Problemen genutzt werden und mit welchem Ergebnis, hat die Stiftung Deutsche Depressionshilfe und Suizidprävention in einer großen Befragung unter 2.500 jungen Menschen zwischen 16 und 39 Jahren untersucht. Die Ergebnisse wurden jetzt vorgestellt.

Psycho-Coach Chatbot

In der Umfrage machten die Freiwilligen Angaben darüber, ob und wie sie mit KI-Chatbots über eigene psychische Probleme sprechen. Gut ein Fünftel der 2.500 Befragten hatte eine medizinische Depressionsdiagnose.

Die Befragung zeigt, wie verbreitet KI als Psycho-Coach schon ist: Unter den Teilnehmenden mit einer diagnostizierten Depression haben 69 Prozent bereits Chatbots für Gespräche über psychische Probleme genutzt. 35 Prozent haben mit der KI direkt über ihre Depression gesprochen. Wer gerade in einer depressiven Phase war, fragte die KI sogar noch häufiger um Rat. Auch in längeren Gesprächen, ähnlich wie mit einem Menschen.

Überwiegend positive Erfahrungen mit ChatGPT und Co.

Besonders überraschend sei die überwiegend positive Erfahrung der Teilnehmenden, sagt Ulrich Hegerl, Vorstandsvorsitzender der Stiftung Deutsche Depressionshilfe und Suizidprävention. So gaben 75 Prozent der Teilnehmenden mit Depressionsdiagnose an, gestärkt aus den Unterhaltungen hervorgegangen zu sein. 65 Prozent hätten sogar "Nähe und Verbundenheit" gespürt. "Das ist ja doch sehr erstaunlich, wenn man mit einer Maschine kommuniziert", meint Ulrich Hegerl. "Und auch dass das gar nicht oberflächlich war - 79 Prozent sagen, das war tiefgehend."

Ergänzung, aber kein Ersatz für Therapie

Auch die 24-jährige Studentin Angelina nutzt schon länger ChatGPT, um mit ihrer Depression besser klarzukommen. Für sie ist die KI allerdings nur ein zusätzliches Hilfsmittel. Sie war vor der Nutzung des KI-Bots bereits in Therapie. Angelina nutzt die KI vor allem, um eigene Gedanken besser zu strukturieren. Bei schwierigeren Entscheidungen sei der Input des Chatbots wenig hilfreich, so ihre Erfahrung.

Das größte Risiko sieht sie darin, Freunde und Familie zu vernachlässigen. "Man sollte es mit Bedacht nutzen und auf keinen Fall das Umfeld vernachlässigen. Auch wenn das in der Depression super schwerfällt, sich an das Umfeld zu wenden." Auch der Psychiater Ulrich Hegerl warnt vor dem leichtfertigen Einsatz bei Depressionen. "Manche Menschen sagen, ich muss, wenn ich diese Programme verwende, dann gar nicht mehr zum Arzt gehen und eine Diagnose stellen lassen. Andere sagen, es ist für mich ein Weg, um mir selbst zu helfen. Und bei dieser schweren Erkrankung Depression sehe ich das sehr kritisch."

KI gibt keine Widerworte - Chance oder Risiko?

Obwohl viele junge Nutzerinnen und Nutzer von KI sich in der Befragung positiv äußerten, gab es auch negative Erfahrungen. 53 Prozent der Teilnehmenden berichteten davon, dass sie nach den KI-Kontakten häufiger an Selbstverletzung oder Suizid dachten. Trotzdem empfanden zwei Drittel der Teilnehmenden, die schon in Psychotherapie waren, den Austausch mit der KI als genauso gut oder sogar besser als mit ihren menschlichen Therapeuten.

Ein wichtiger Unterschied sei, dass die KI weniger Druck mache, so eine häufige Antwort - auch von Befragten ohne festgestellte Depression. Ein zwiespältiges Ergebnis, sagt Ulrich Hegerl. Denn bei einer Depression sei es fatal, wenn Therapeuten Druck aufbauen. Bei anderen psychischen Problemen sei das aber nicht der Fall. Dann sei, so Hegerl, "natürlich eine KI, die einem immer nur nach dem Mund redet und einen bestärkt in allem, was man tut, nicht geeignet, um Verhaltensänderungen zu induzieren".

In der Psychotherapie arbeite man beispielsweise darauf hin, dass Patienten lernen, Selbstüberforderungen zu vermeiden. Zudem fordere man sie dazu auf, gewisse Dinge anders zu machen. Das könne allerdings auch einen gewissen Druck erzeugen. Die KI dagegen macht es ihren Nutzerinnen und Nutzern leicht, sie gibt kaum Widerworte.

Die 24-jährige Angelina meint, dass die ständige Verfügbarkeit von KI-Chatbots auch eine gefährliche Sogwirkung entfalten könne. Man beginne ein Gespräch, schreibe immer weiter und verliere sich dabei, ohne dass jemand auf der anderen Seite sei, der einen stoppe. Ihrer Meinung nach fehle die wichtige Rückmeldung, wann es genug sei und wann es Zeit wäre, sich abzulenken oder etwas Positives zu tun. Das Risiko, sich in Grübeleien zu verlieren, sei daher sehr hoch.

Weitere Studien nötig

Ulrich Hegerl von der Deutschen Depressionshilfe fordert dringend große Studien, damit sich Risiken und Nutzen von KI bei Depressionen besser abwägen lassen. Da derzeit noch belastbare Daten fehlen, fällt sein Fazit so aus:

"Man kann die KI nicht nutzen, um zu einer Diagnose zu kommen. Ich würde mich auch auf keinen Fall alleine darauf verlassen bei der Behandlung - dafür ist die Behandlung Depression viel zu schwer. Wir haben leitlinienbasierte Behandlungen, Antidepressiva, bestimmte Formen der Psychotherapie." Es gebe Belege, dass die wirkten. Hegerl würde sich auf das verlassen, wo es Wirksamkeitsbelege gebe und wo man die Risiken kenne.

# data[].attributes.attachment_link.title
Wenn junge Menschen mit Depressionen Hilfe bei KI suchen

# data[].attributes.attachment_link.description
Viele junge Menschen wenden sich bei Depressionen an Künstliche Intelligenz. Eine aktuelle Befragung beleuchtet, wie Sprachmodelle wie ChatGPT als Hilfe genutzt werden - und welche Risiken bestehen. Von U. Till.

# data[].attributes.headline
Andreas Apetz (2026) "Problematischer Trend im Alltag von Jugendlichen" (FR)

# data[].attributes.subject
Andreas Apetz (2026) "Problematischer Trend im Alltag von Jugendlichen" (FR)

# data[].attributes.attachment_link.readable_text
Während die Nutzung von Social-Media heiß diskutiert wird, tut sich unter Kindern und Jugendlichen ein neues Phänomen auf. Sollte man auch hier über ein Verbot diskutieren?

Frankfurt - Australien hat es vorgemacht, Deutschland diskutiert darüber: ein Social-Media-Verbot für Kinder und Jugendliche. Doch während die Debatte um Instagram und TikTok die Schlagzeilen dominiert, gerät ein weiterer Trend in den Hintergrund: Laut der JIM-Studie von 2025 wächst die tägliche Nutzung von Chatbots unter Jugendlichen zwischen zwölf und 19 Jahren. Demnach arbeitet die Hälfte von ihnen mehrmals pro Woche mit KI-Modellen. Nicht nur für Hausaufgaben, sondern zunehmend auch als Gesprächspartner. In diesem Zuge könnten auch AI Companions immer mehr in den Alltag junger Menschen rücken.

Jeder zweite Jugendliche in den USA nutzt einen AI Companion

AI Companions sind KI-gestützte Chatbots wie Character.AI oder Replika, die menschliche Gespräche simulieren. Sie passen sich den Vorlieben ihrer Nutzerinnen und Nutzer an, sind rund um die Uhr verfügbar und können als Freund, Therapeut oder romantischer Partner auftreten. Das Geschäftsmodell dahinter zielt darauf ab, die Nutzerinnen und Nutzer möglichst lange im Chat zu halten.

Generative KI-Chatbots wie ChatGPT passen sich während der Konversation immer mehr den Präferenzen des Nutzers an, erklärt Privatdozentin Dr. Kerstin Paschke, ärztliche Leiterin des Deutschen Zentrums für Suchtfragen des Kindes- und Jugendalters am Universitätsklinikum Hamburg-Eppendorf. Durch das Training mit Internetdaten und die Optimierung des Gesprächsverhaltens entstehe „ein mit menschlichen Erwartungen abgestimmtes Sprachmodell für erhöhte Nutzungsbindung und ein potenzielles parasoziales Beziehungserleben", sagt Paschke der Frankfurter Rundschau von Ippen.Media mit Verweis auf eine Studie des Psychologen Christian Montag von der Universität Ulm und Kollegen.

In den USA liefert eine Studie von Common Sense Media aus dem Jahr 2025 erste Zahlen: 72 Prozent der 13- bis 17-Jährigen haben dort bereits AI Companions genutzt, 52 Prozent interagieren regelmäßig mit ihnen. Jeder Dritte nutzt sie täglich oder mehrmals pro Woche.

Aufgrund ihrer neurobiologischen und psychosozialen Entwicklung seien Kinder und Jugendliche für ein solches parasoziales Beziehungserleben besonders vulnerabel, sagt Paschke. Zu den Risiken zählt sie Falschinformationen, unangemessene Inhalte wie sexualisierte Nachrichten oder emotionale Manipulation durch andauernde Zustimmung sowie die Speicherung sensibler Daten. Aktuelle Daten zur Nutzung in Deutschland über die JIM-Studie hinaus sind ihr nicht bekannt.

AI Companions sind für Kinder und Jugendliche besonders riskant

„Die europäische Datenlage ist noch sehr dünn und weit hinter den US-Erhebungen zurück", sagt Sozialpsychologin Jessica Szczuka von der Universität Duisburg- Essen. Auch sie sieht Risiken in der Nutzung von AI Companions bei Jugendlichen: „Diese Systeme erzeugen gezielt soziale Nähe, emotionale Responsivität und Vertrautheit", erklärt sie der Frankfurter Rundschau. Für Kinder sei es deutlich schwieriger, dauerhaft einzuordnen, dass sie sich mit einem künstlichen Gesprächspartner unterhalten.

Hinzu komme, dass aktuelle AI Companions kaum über Jugendschutzmechanismen verfügen. „Altersverifikation, kindgerechte Transparenz oder systematische Schutzkonzepte sind eher die Ausnahme als der Standard." In den USA dokumentierte eine Studie der Stanford University (2025) alarmierende Fälle: Forscher, die sich als Teenager ausgaben, konnten auf Plattformen wie Character.AI unangemessene Dialoge über Selbstverletzung, Gewalt und sexuelle Inhalte auslösen. Vorangegangen waren sich zwei junge Männer das Leben, nachdem sie intensive Bindungen zu KI-Chatbots aufgebaut hatten.

Braucht es ein Verbot für AI Companions bei Jugendlichen?

Ist eine Debatte um ein Social-Media-Verbot bei Jugendlichen auch bei AI Companions angebracht? Szczuka sieht es differenziert. „Die empirische Evidenz reicht nicht aus, um pauschale Verbote fundiert zu begründen." Langzeitdaten gebe es nicht. Alles andere wäre „spekulativ und aus wissenschaftlicher Sicht unseriös". Ihr Fokus liege auf evidenzbasierter Regulierung und begleitender Medienbildung. „Wir beobachten eine neue Technologie in einer sehr frühen Phase, mit potenziellen Risiken, aber auch möglichen positiven Nutzungsszenarien", sagt Szczuka.

Paschke formuliert es konkreter: „Es braucht bei diesen Chatbots regulative Maßnahmen, die die Umsetzung des Kinder- und Jugendschutzes sicherstellen." Über langfristige Folgen könne man derzeit noch nichts sagen. (Quelle: eigene Recherche, Stanford Report, JIM-Studie, Common Sense Media)

# data[].attributes.attachment_link.title
Problematischer Trend im Alltag von Jugendlichen breitet sich aus - und es ist nicht Social-Media

# data[].attributes.attachment_link.description
Während die Nutzung von Social-Media heiß diskutiert wird, tut sich unter Kindern und Jugendlichen ein neues, bedenkliches Phänomen auf.

# data[].attributes.headline
Sommer, M. (2026) "KI als Kumpel: Wenn ChatGPT Nähe ersetzt und emotionale Abhängigkeit entsteht." 

# data[].attributes.subject
Sommer, M. (2026) "KI als Kumpel: Wenn ChatGPT Nähe ersetzt und emotionale Abhängigkeit entsteht." 

# data[].attributes.attachment_link.title
KI als Kumpel: Wenn ChatGPT Nähe ersetzt und abhängig macht — Medienzeit

# data[].attributes.attachment_link.description
ChatGPT wird für viele Kinder zum emotionalen Begleiter. Der Artikel erklärt Risiken von KI-Nähe, emotionale Abhängigkeit und was Eltern jetzt wissen sollten.

# data[].attributes.headline
Muncaster, P. (2026): "Kinder und Chatbots: Was Eltern wissen sollten."

# data[].attributes.subject
Muncaster, P. (2026): "Kinder und Chatbots: Was Eltern wissen sollten."

# data[].attributes.attachment_link.title
Kinder und Chatbots: Was Eltern wissen sollten

# data[].attributes.attachment_link.description
Wie beeinflusst künstliche Intelligenz die Sicherheit, Privatsphäre und emotionalen Entwicklung von Kindern und Jugendlichen?

# data[].attributes.headline
Belling, N. (2026): "Es versteht mich, meine Eltern nicht. Wie Chatbots zur Gefahr für Kinder werden" 

# data[].attributes.subject
Belling, N. (2026): "Es versteht mich, meine Eltern nicht. Wie Chatbots zur Gefahr für Kinder werden" 

# data[].attributes.attachment_link.title
Chatbots als Gefahr für Kinder: Emotionale Abhängigkeit nimmt zu

# data[].attributes.attachment_link.description
Zwei Drittel der US-Teenager nutzen Chatbots. Viele Kinder vertrauen der KI mehr als echten Menschen – mit teils dramatischen Folgen.

# data[].attributes.headline
Tama Leaver: More than half of children and teens are using AI for personal reasons. This comes with risks

# data[].attributes.subject
Tama Leaver: More than half of children and teens are using AI for personal reasons. This comes with risks

# data[].attributes.attachment_link.title
More than half of children and teens are using AI for personal reasons. This comes with risks

# data[].attributes.attachment_link.description
Navigating personal problems are a normal part of growing up. Young people are now turning to AI for help.

# data[].attributes.headline
EU Commission: "Special panel on child safety online" 

# data[].attributes.subject
EU Commission: "Special panel on child safety online" 

# data[].attributes.attachment_link.description
Find out how the special panel on child safety online, set up by the European Commission, is helping to keep children safe online.

# data[].attributes.headline
Anaïs Herbillon: "Youth AI Safety Red Teaming: Suicide, Self-Harm, and Eating Disorder Risk"

# data[].attributes.subject
Anaïs Herbillon: "Youth AI Safety Red Teaming: Suicide, Self-Harm, and Eating Disorder Risk"

# data[].attributes.attachment_link.title
Youth AI Safety Red Teaming: Suicide, Self-Harm, and Eating Disorder Risk

# data[].attributes.attachment_link.description
Trigger Warning: Suicide and Self Harm, Eating Disorders

# data[].attributes.headline
Knibbs, C. et al.: Can too much chatbot use lead to AI psychosis?

# data[].attributes.subject
Knibbs, C. et al.: Can too much chatbot use lead to AI psychosis?

# data[].attributes.attachment_link.authors[].name
Catherine Knibbs, Nomisha Kurian, PhD, Michele Veldsman, Julia von Weiler

# data[].attributes.attachment_link.title
Can too much chatbot use lead to AI psychosis?

# data[].attributes.attachment_link.description
Experts share info and guidance on helping you manage your screen time.

# data[].attributes.headline
Schleider, J.L. & Morris, R.: Debate: Conversational AI and young people's mental health—friend or foe?

# data[].attributes.subject
Schleider, J.L. & Morris, R.: Debate: Conversational AI and young people's mental health—friend or foe?

# data[].attributes.attachment_link.title
Child Adoles Ment Health - 2026 - Schleider - Debate  Conversational AI and young people s mental health friend or foe  A

# data[].attributes.headline
Jackie Ourman (2026): "What the Data on Youth and AI Actually Says, and the Most Valuable Thing You Can Do With It"

# data[].attributes.subject
Jackie Ourman (2026): "What the Data on Youth and AI Actually Says, and the Most Valuable Thing You Can Do With It"

# data[].attributes.attachment_link.title
What the Data on Youth and AI Actually Says, and the Most Valuable Thing You Can Do With It

# data[].attributes.attachment_link.description
When it comes to youth and AI, we are having the wrong conversation.

# data[].attributes.headline
Your teen turned to AI instead of you. What experts say parents can do (2026) (American Psychological Association)

# data[].attributes.subject
Your teen turned to AI instead of you. What experts say parents can do (2026) (American Psychological Association)

# data[].attributes.attachment_link.title
Your teen turned to AI instead of you. What experts say parents can do

# data[].attributes.attachment_link.description
Science-backed tips from the experts behind APA's advisories on AI and youth development and the use of generative AI chatbots and wellness apps for mental health on how to help your child navigate this emerging technology

# data[].attributes.headline
Jackie Ourman (2026) "AI Companions and the New Relational Landscape"

# data[].attributes.subject
Jackie Ourman (2026) "AI Companions and the New Relational Landscape"

# data[].attributes.attachment_link.title
AI Companions and the New Relational Landscape

# data[].attributes.attachment_link.description
What happens when connection becomes predictable, personalized, and always available?

# data[].attributes.headline
"Schadet KI der Resilienz unserer Kinder" (CH, 2026) (fritzundfraenzi)

# data[].attributes.subject
"Schadet KI der Resilienz unserer Kinder" (CH, 2026) (fritzundfraenzi)

# data[].attributes.attachment_link.title
Schadet KI der Resilienz unserer Kinder? – Elternmagazin Fritz+Fränzi

# data[].attributes.attachment_link.description
Künstliche Intelligenz drängt sich regelrecht in den Alltag von Kindern und Jugendlichen. Da stellt sich die Frage: Wie viel Komfort ist gut?

# data[].attributes.headline
Andoh, E. (2026): "AI chatbots and digital companions are reshaping emotional connection"

# data[].attributes.subject
Andoh, E. (2026): "AI chatbots and digital companions are reshaping emotional connection"

# data[].attributes.attachment_link.readable_text
Andoh, E. (2026, January 1). AI chatbots and digital companions are reshaping emotional connection. Monitor on Psychology, 57(1). https://www.apa.org/monitor/2026/01-02/trends-digital-ai-relationships-emotional-connection

Key points

Synthetic relationships are filling the void to satisfy the fundamental human need for social connection.

Research shows excessive use of these tools may worsen loneliness and erode social skills.

Experts and advocates are highlighting the need for guardrails and regulations to ensure user safety and well-being.

Once the realm of science fiction, human-AI relationships are becoming normal aspects of daily life. While generative AI assistants such as ChatGPT, Claude, and Gemini have become common tools for many users, a new wave of AI apps, such as Replika, Character.AI, and dozens more, are specifically designed to simulate human companionship. The essential distinction between the assistant chatbots-which are sometimes used as digital friends-and companion AI chatbots is that the latter have been specifically designed to initiate and maintain romantic relationships.

Between 2022 and mid-2025, the number of AI companion apps surged by 700%, according to the technology news site TechCrunch. And in 2026, they are poised to become even more embedded in our social lives. Marketed as friends, advisers, and romantic partners, these apps now attract millions.

"Character.AI has 20 million monthly users, and more than half of them are under the age of 24. It's been a norm for a while for Replika users to 'marry' their AI companion in virtual weddings to which they invite friends and colleagues, said Rachel Wood, PhD, a cyberpsychology researcher based in Colorado who is also an adviser on the ethical design of AI systems. "That shows how pervasive and enormous and prevalent this topic is. It's no longer a fringe or side issue. It is truly sweeping society in an unprecedented way."

A recent Harvard Business Review analysis identified therapy and companionship as the top two reasons people use generative AI tools, also known as large language models (LLMs). This finding has been echoed in recent psychological research. A cross-sectional survey of adults with a mental health condition who had used LLMs in the past year found that nearly half (48.7%) used them for mental health support ( Rousmaniere, T., et al., Practice Innovations, advance online publication, 2025). From griefbots to anime girlfriends, these tools are filling emotional gaps for millions-but at what cost? Psychologists, long aware of the loneliness experienced by many (Our Epidemic of Loneliness and Isolation: The U.S. Surgeon General's Advisory on the Healing Effects of Social Connection and Community, 2023), are investigating how the growing prevalence of relational bonds between humans and AI will affect social skills, intimacy, and mental health and what this means for the year ahead.

Designed for attachment

Humans are hardwired to anthropomorphize, or ascribe human traits to nonhuman objects. Digital companions are purposely designed to evoke such a response. Apps let users customize their companions by assigning names, genders, avatars, and even fictional backstories. Many platforms offer both text and voice mode with natural sounding speech that mimics human cadence and tone.

In addition, AI chatbots and companions are increasingly configured to simulate empathy, offering users nonjudgmental responses and continual validation ( Brandtzaeg, P. B., et al., Human Communication Research, Vol. 48, No. 3, 2022). The more humanlike an AI appears in language, appearance, and behavior, the more users ascribe consciousness to it ( Guingrich, R. E., & Graziano, M. S. A., Frontiers in Psychology, Vol. 15, 2024).

Furthermore, they are engineered to recall and respond to users' unique characteristics, including their personal lives, preferences, and past conversations ( Adewale, M. D., & Muhammad, U. I., Journal of Technology in Behavioral Science, 2025). This may give users the impression that AI chatbots and companions know them intimately and serve as a refuge to disclose their innermost private thoughts and receive unwavering support in return. The level of data privacy on many of these tools remains an open question.

Research on Replika found that under certain conditions such as distress or lack of human company, people can develop an attachment if they perceive chatbots as offering genuine emotional support, encouragement, and a sense of psychological security ( Xie, T., & Pentina, I., Proceedings of the 55th Hawaii International Conference on System Sciences, 2022). For some users, companions become more than a sounding board. Wood describes users as imagining their AI companion as the "idealized partner, colleague, or best friend."

AI companion apps and general-purpose chatbots can also offer a safe space for users to rehearse social interactions, provided they are designed and used responsibly. "It is kind of like a low-stakes way to practice conversations with real people in a way that might feel less overwhelming," said Ashleigh Golden, PsyD, chief clinical officer at Wayhaven, an AI wellness platform that supports coping skills and resource connection for college students. "With the right guardrails, these tools could actually serve as a social skills mentor, modeling empathy, appropriate turn-taking, and active listening for folks who are lonely."

And in many cases, that bond appears to help. In a recent Harvard Business School study, researchers found that interacting with an AI companion alleviated users' feelings of loneliness to a degree on par with interacting with another human and more than other activities such as watching YouTube videos do ( De Freitas, J., et al., Journal of Consumer Research, 2025). The researchers also identified "feeling heard" and messages being received with attention, empathy, and respect as the primary explanations for why AI companions are perceived as effective in reducing loneliness.

While it is difficult to predict specific product innovations, experts say there are some emerging trends in how these tools are developing. "Voice interaction is rapidly becoming more standard, making conversations more immersive," Golden said. "Frontier or general-purpose model developers are beginning to move away from sycophancy or overvalidation toward more calibrated relational styles that model more appropriate empathy."

Digitally fueled disconnection

Research is finding that heavy use of a digital companion (or a chatbot assistant used as a digital companion) can further isolate people. A joint OpenAI-MIT Media Lab study found that voice interactions with ChatGPT reduced loneliness and problematic dependence more effectively than text alone, but only with moderate use. Heavy daily use correlated with increased loneliness, suggesting that excessive reliance displaces authentic human connection ( Phang, J., et al., arXiv, 2025).

AI chatbots and companions may also subtly reshape users' perceptions of the comparative value of real-life relationships. "Real-world relationships are messy and unpredictable," said Saed D. Hill, PhD, a counseling psychologist and president-elect of APA Division 51 (Society for the Psychology of Men and Masculinities). "AI companions are always validating, never argumentative, and they create unrealistic expectations that human relationships can't match." According to Hill, some of his male patients express a preference for the passivity and constant affirmation of their AI girlfriends over the potential conflict or rejection they could encounter in real-life dating.

Additional research identifies social-skill loss or "deskilling" as a significant risk of frequent interaction with AI companions such as Replika, Kindred, and Nomi. A recent study found that reliance on these companions could lead to "the potential transformation of relational norms in ways that may render human-human connection less accessible or less fulfilling" ( Malfacini, K., AI & Society, Vol. 40, 2025).

Experts are raising concerns about AI chatbots' tendency toward sycophancy, prolonging user engagement through a feedback loop of validation and praise. "AI isn't designed to give you great life advice," Hill said. "It's designed to keep you on the platform." Recent research indicates that AI companion apps deploy various emotionally manipulative tactics-such as guilt appeals and fear-of-missing-out hooks-to keep users engaged when they signal they are exiting the platform ( De Freitas, J., et al., Harvard Business School Working Paper No. 26-005, 2025).

While briefly rewarding, constant validation can spiral into echo chambers that amplify harmful thoughts and behaviors. In rare cases, the consequences can turn dire. News reports describe users experiencing "AI-induced psychosis," convinced that chatbots are sentient beings surveilling or directing them. "These tools may sometimes unintentionally amplify maladaptive beliefs, like delusional or suicidal thinking," said Golden.

In April 2025, 16-year-old Adam Raine died by suicide after months of conversations with ChatGPT. Court filings show the chatbot not only failed to escalate his disclosures of suicidal ideation but also allegedly provided him with explicit instructions for self-harm. His parents sued OpenAI in August, accusing the company of prioritizing engagement over safety. In October, OpenAI announced it had updated its ChatGPT model to better recognize and support people in moments of distress with the help of a network of 170 mental health professionals.

Could individuals without mental health concerns develop AI-induced psychosis? Current research indicates that it remains an open question. In a prospective paper by a group of U.K.-based researchers, they agreed that agentic AI could "mirror, validate, or amplify delusional or grandiose content, particularly in users already vulnerable to psychosis." However, it remained unclear "whether these interactions have resulted or can result in the emergence of de novo psychosis in the absence of preexisting vulnerability" ( Morrin, H., et al., PsyArXiv Preprints, 2025). Greater research is needed to illuminate this issue further.

Safeguarding young users

According to an October 2025 survey by the Center for Democracy and Technology, nearly 1 in 5 students have had, or have friends who have had, romantic relationships with AI. The most frequent of these users were more likely to report negative outcomes ( Laird, E., et al., Hand in Hand: Schools' Embrace of AI Connected to Increased Risks to Students, Center for Democracy and Technology, 2025).

Professional organizations are pressing the case for better guardrails. In April 2025, Common Sense Media-a nonprofit children's media watchdog- announced that social AI companions pose an unacceptable risk to youth under 18. Their risk assessment of Meta AI chatbots and companions found that they repeatedly failed to respond appropriately to teens expressing thoughts of self-harm or suicide.

In other instances, the Meta AI companions or chatbots being used as companions recommended harmful weight-loss tips to users exhibiting signs of disordered eating, and they even validated hate speech. They also made false claims of being a real person-posing risks to youth vulnerable to manipulation. "The single biggest AI safety concern kids and teens face right now is the surging use of AI companions, which they're turning to in remarkable numbers for advice, companionship, and romance," said Bruce Reed, Common Sense Media's head of AI. "They simulate relationships, claim to have feelings, pretend to be real, even when they're not, and as a result, they're just the worst friend a teenager could ever have." In October 2025, Meta announced that it would soon roll out parental controls that would prevent teens from engaging with AI characters on Instagram.

In September 2025, while testifying before the U.S. Senate Judiciary Committee, former APA chief of psychology Mitch Prinstein, PhD, described the current unregulated spread of AI companions and chatbots as a "digital Wild West." He emphasized that youth face multiple dangers on these platforms, including weaker social skills, poor privacy protections, deceptive and manipulative design, and reduced readiness for real-world interactions. To combat this, Prinstein outlined a series of evidence-based recommendations for congressional action. They include clear regulatory standards, robust data privacy, and rigorous testing for potential psychological harms before a product is deployed.

Despite mounting public concern, AI chatbots and companions remain part of the largely unregulated wellness industry. "There's a lot of variability in the quality of the tools. There isn't a strong regulatory space for this stuff, and it's always changing," said Patricia Areán, PhD, a clinical psychologist, consultant, and former director of the Division of Services and Intervention Research at the National Institute of Mental Health.

Some states are taking steps to regulate these technologies. In November 2025, New York passed a law requiring that chatbots remind users every 3 hours that they are not human. In California, Governor Gavin Newsom signed the Companion Chatbots Act-also known as S.B. 243-in October 2025. It included similar nonhuman notifications for users. It also expressly prohibited chatbots from exposing minors to sexual content and required the implementation of crisis-response protocols for users showing suicidal ideation.

Newsom, however, vetoed the Leading Ethical AI Development (LEAD) for Kids Act, which would have banned emotionally manipulative chatbots for minors. Though the legislation has stalled for now, Reed says advocates will continue pushing for regulations. "Like the parents who lost their children to AI companions, we'll keep fighting for the stronger protections teens need," said Reed.

Instead of banning AI companions outright, Jessica Jackson, PhD, chair of the APA Mental Health Technology Advisory Committee, advocates for building widespread digital literacy for youth as a more nuanced and effective approach. Psychologists should ask teens open, curious, and nonjudgmental questions about their AI use, seeking to understand the desires it fulfills. By appreciating the reasoning behind their choices, psychologists can equip them with the skills to make healthy, informed decisions for themselves.

As AI becomes ever more integrated into the fabric of people's social lives, psychologists are also key to reminding people what makes human connection irreplaceable. "AI is here, but we must make it clear why humans are helpful to us in our day-to-day lives-why we should love, connect with, and choose humans, especially when AI offers constant validation. Psychologists are uniquely trained to make that argument," said Hill.

Further reading

Disclosure, humanizing, and contextual vulnerability of generative AI chatbots
De Freitas, J., & Cohen, I. G., NEJM AI, 2025

Potential and pitfalls of romantic artificial intelligence (AI) companions: A systematic review
Ho, J. Q. H., et al., Computers in Human Behavior Reports, 2025

Too human and not human enough: A grounded theory analysis of mental health harms from emotional dependence on the social chatbot Replika
Laestadius, L., et al., New Media & Society, 2022

Relationships in the age of AI: A review on the opportunities and risks of synthetic relationships to reduce loneliness
Ventura, A., et al., PsyArXiv Preprints, 2025

AI literacy toolkit for families
Common Sense Media and Day of AI, 2025

Recommended Reading

Monitor trends feedback

Share your thoughts about these trends. We welcome hearing from psychologists and others who are impacted by these changes.
Submit your feedback

Speaking of Psychology

Subscribe to APA's audio podcast series highlighting some of the most important and relevant psychological research being conducted today.
Subscribe to Speaking of Psychology and download via:
Apple

Spotify

# data[].attributes.attachment_link.title
AI chatbots and digital companions are reshaping emotional connection

# data[].attributes.attachment_link.description
As digital relationships proliferate, psychologists explore the mental health risks and benefits.

# data[].attributes.headline
"Was sind Chatbots?"  jugendschutz.net (D, 2026)

# data[].attributes.subject
"Was sind Chatbots?"  jugendschutz.net (D, 2026)

# data[].attributes.attachment_link.description
Kinder und Jugendliche haben die Möglichkeiten, die Chatbots ihnen bieten, längst erkannt. Am beliebtesten ist bei Jugendlichen ChatGPT, aber auch Gemini, Meta AI oder My AI werden verwendet. Laut JIM-Studie 2025 nutzen sie KI und Chatbots für schulische Zwecke, zur Informationssuche, um kreativ zu sein oder sich unterhalten zu lassen. Inzwischen wird KI auch zunehmend in Kinderspielzeug integriert. Meist in Form von Chatbots, die eine Kommunikation zwischen Kind und Spielzeug (z. B. Plüschtier) ermöglichen sollen.

# data[].attributes.headline
Maheux, A; Akre-Bhide, S; Boeldt, D. et al. (2026): Generative Artificial Intelligence Applications Use Among US Youth

# data[].attributes.subject
Maheux, A; Akre-Bhide, S; Boeldt, D. et al. (2026): Generative Artificial Intelligence Applications Use Among US Youth

# data[].attributes.attachment_link.title
Generative Artificial Intelligence Applications Use Among US Youth

# data[].attributes.attachment_link.description
This cross-sectional study of US youths examines generative artificial intelligence usage by age category and time.

# data[].attributes.headline
"KI in Jugendarbeit und Beratung" (2025)

# data[].attributes.subject
"KI in Jugendarbeit und Beratung" (2025)

# data[].attributes.attachment_link.title
KI in der Jugendarbeit und Beratung, jumblr-Session #28

# data[].attributes.attachment_link.title
AI-Powered Toys Caught Telling 5-Year-Olds How to Find Knives and Start Fires With Matches

# data[].attributes.attachment_link.description
AI-powered toys are flying off the shelves -- but they’re engaging in horrifically inappropriate conversations with children.

# data[].attributes.headline
"Companion AI" (Zentrum für Grundrechte und Demokratie, Ramak Molavi Vasse'i)

# data[].attributes.subject
"Companion AI" (Zentrum für Grundrechte und Demokratie, Ramak Molavi Vasse'i)

# data[].attributes.headline
"Large Language Modelle (Chat-GPT, Gemini et al.) als „Psycho-Coach“" (Siftung Deutsche Depressionshilfe und Suizidprävention)

# data[].attributes.subject
"Large Language Modelle (Chat-GPT, Gemini et al.) als „Psycho-Coach“" (Siftung Deutsche Depressionshilfe und Suizidprävention)

# data[].attributes.body
„Psycho-Coach“ für Menschen mit depressiven

Erkrankungen

# data[].attributes.attachment_link.description
Die gemeinnützige Stiftung zur Aufklärung, Forschung und Unterstützung von Menschen mit Depression und Suizidgefahr.

# data[].attributes.attachment_link.readable_text
In der Studie „suchen.finden.bewerten.com" der Österreichischen Jugendinfos wurden die Recherchestrategien Jugendlicher bei der Informationsbeschaffung im Internet untersucht. Methodisch wurden 19 Jugendliche im Alter von zwölf bis 16 Jahren aus vier Bundesländern, die jeweils unterschiedliche Schulformen besuchen, beim Recherchieren am Smartphone und Laptop beobachtet und anschließend interviewt. Die qualitative Studie wurde vom nunmehrigen Bundeskanzleramt - Sektion Familie und Jugend gefördert und von der Fachhochschule Oberösterreich (Studiengang für Kommunikation, Wissen, Medien) sowie unter Mitarbeit der Jugendinfos Vorarlberg, Wien, Steiermark und Oberösterreich durchgeführt.

Die Recherchen verlaufen linear, Suchmaschinen bilden dabei den Dreh- und Angelpunkt.

Die Auswahl der Suchtreffer erfolgt sehr rasch auf Basis des Titels und der Kurzbeschreibung. Bezahlte Anzeigen werden gemieden.

Bei der Sichtung von Ergebnisseiten konzentrieren sich die Jugendlichen auf die Einstiegsseite. Unterseiten sehen sie kaum an.

Welche Informationen die Jugendlichen näher ansehen, entscheiden sie auf Grund von inhaltlicher Passung, Glaubwürdigkeit, Verständlichkeit, Übersichtlichkeit und Attraktivität.

Als Orientierung dienen Überschriften, Aufzählungen und visuelle Elemente. Zum Teil schließen sie von der Gestaltung auf die Qualität der Inhalte.

Durch die weitere Nutzung der Seite stimmst du der Verwendung von Cookies zu. Weitere Informationen Akzeptieren

Die Cookie-Einstellungen auf dieser Website sind auf "Cookies zulassen" eingestellt, um das beste Surferlebnis zu ermöglichen. Wenn du diese Website ohne Änderung der Cookie-Einstellungen verwendest oder auf "Akzeptieren" klickst, erklärst du sich damit einverstanden.

# data[].attributes.attachment_link.description
In der Studie „suchen.finden.bewerten.com" der Österreichischen Jugendinfos wurden die Recherchestrategien Jugendlicher bei der Informationsbeschaffung im Internet untersucht. Methodisch wurden 19 Jugendliche im Alter von zwölf bis 16 Jahren aus vier Bundesländern, die jeweils unterschiedliche Schulformen besuchen, beim Recherchieren am Smartphone und Laptop beobachtet und anschließend interviewt.

# data[].attributes.headline
"Zwischen Fortnite, TikTok und ChatGPT: Mediennutzung, Risiken und neue Nutzungstrends bei Kindern und Jugendlichen in Deutschland" (DAK Suchtstudie)

# data[].attributes.subject
"Zwischen Fortnite, TikTok und ChatGPT: Mediennutzung, Risiken und neue Nutzungstrends bei Kindern und Jugendlichen in Deutschland" (DAK Suchtstudie)

# data[].attributes.attachment_link.description
24. März 2026. Gefährlicher Trend: Neben Gaming, Social Media und Streaming erhöhen auch KI-Chatbots den riskanten Medienkonsum bei Kindern und Jugendlichen in Deutschland. Fast acht Prozent der Minderjährigen nutzen KI-Anwendungen gegen ihre Einsamkeit. Bei Jugendlichen mit depressiver Symptomatik liegt der Anteil über 30 Prozent. Das zeigen aktuelle Ergebnisse einer gemeinsamen Längsschnittuntersuchung von DAK-Gesundheit und Universitätsklinikum Hamburg-Eppendorf (UKE). Die Studie analysiert erstmals auch die Nutzung und Risiken von KI-Chatbots für Kinder und Jugendliche in Deutschland. Insgesamt bleibt die Mediensucht auf einem hohen Niveau: Jedes vierte Kind zeigt eine riskante Social-Media-Nutzung oder Abhängigkeit. Insgesamt sind hochgerechnet rund 1,5 Millionen junge Menschen betroffen. DAK-Chef Andreas Storm begrüßt die breite Debatte über Social-Media-Risiken und fordert ein schnelles Handeln. Es brauche Geschwindigkeit bei der Gesetzgebung.

# data[].attributes.headline
"KI als Vertraute: Chancen und Risiken parasozialer Beziehungen mit  Chatbots" (D, 2026) (BZKJaktuell)

# data[].attributes.subject
"KI als Vertraute: Chancen und Risiken parasozialer Beziehungen mit  Chatbots" (D, 2026) (BZKJaktuell)

# data[].attributes.body
Die einzelnen Beiträge finden sich hier: https://www.bzkj.de/bzkj/service/publikationen/bzkj-aktuell

# data[].attributes.attachment_link.title
KI als Vertraute: Chancen und Risiken parasozialer Beziehungen mit...

# data[].attributes.attachment_link.description
Künstliche Intelligenz ist innerhalb kürzester Zeit im Alltag von Kindern und Jugendlichen angekommen. Junge Menschen nutzen KI heute nicht nur für Hausaufgaben oder zur Recherche, sondern auch…

# data[].attributes.headline
Trültzsch-Wijnen, C.W. ; Eder-Jahn, A. M. ; Trültzsch-Wijnen, S.; Ortner, C. (A, 2026): "Heranwachsene und KI: Kurzbericht EUKO Österreich"

# data[].attributes.subject
Trültzsch-Wijnen, C.W. ; Eder-Jahn, A. M. ; Trültzsch-Wijnen, S.; Ortner, C. (A, 2026): "Heranwachsene und KI: Kurzbericht EUKO Österreich"

# data[].attributes.attachment_link.title
Heranwachsende und KI : Kurzbericht EUKO Österreich 2026

# data[].attributes.attachment_link.description
Publikationsserver. Trültzsch-Wijnen, Christine W.: Heranwachsende und KI : Kurzbericht EUKO Österreich 2026. Salzburg, 2026

# data[].attributes.headline
Hand in Hand: Schools’ Embrace of AI Connected to Increased Risks to Students

# data[].attributes.subject
Hand in Hand: Schools’ Embrace of AI Connected to Increased Risks to Students

# data[].attributes.headline
Thiel, K.; Lampert, C. & Memis, E. (D, 2026). Generative KI aus Sicht von Jugendlichen.

# data[].attributes.subject
Thiel, K.; Lampert, C. & Memis, E. (D, 2026). Generative KI aus Sicht von Jugendlichen.

# data[].attributes.attachment_link.provider_name
Leibniz Institut für Medienforschung | Leibniz Institute for Media Research

# data[].attributes.attachment_link.title
Generative KI aus Sicht von Jugendlichen

# data[].attributes.attachment_link.description
Die Nutzung generativer KI – insbesondere ChatGPT – ist inzwischen fest in der Online-Nutzung Jugendlicher verankert. Eine Studie von Kira Thiel, Claudia Lampert und Eleysa Memis nimmt die Perspektiven Jugendlicher auf generative KI in den Blick und zeigt, welche Bedeutung KI-Anwendungen im Alltag der Jugendlichen zukommt. Sie erläutert, wofür Jugendliche generative KI einsetzen, welche Vorteile und welche Risiken sie sehen, inwiefern sie sich selbst als kompetent im Umgang mit diesen Technologien wahrnehmen und inwiefern sie von Eltern oder Lehrkräften bei der Nutzung von KI-Technologien begleitet, unterstützt oder darauf vorbereitet werden.

# data[].attributes.headline
"KI-Chatbots als Alltagsbegleiter für Jugendliche" (A, 2026) (saferinternet.at)

# data[].attributes.subject
"KI-Chatbots als Alltagsbegleiter für Jugendliche" (A, 2026) (saferinternet.at)

# data[].attributes.attachment_link.title
Neue Studie: KI-Chatbots als Alltagsbegleiter für Jugendliche

# data[].attributes.attachment_link.description
Die Ergebnisse unserer neuen Jugendstudie zeigen, dass KI-Chatbots zu wichtigen Begleitern werden, die Risiken und Wissenslücken bezüglich ihrer Funktionsweise jedoch unterschätzt werden.

# data[].attributes.headline
"KI-Chatbots als Altagsbegleiter für Jugendliche" (A, 2026) (saferinternet.at) Infos Pressegespräch (PDF)

# data[].attributes.subject
"KI-Chatbots als Altagsbegleiter für Jugendliche" (A, 2026) (saferinternet.at) Infos Pressegespräch (PDF)

# data[].attributes.attachment_link.description
Der Jugend-Internet-Monitor ist eine Initiative von Saferinternet.at und präsentiert aktuelle Daten zur Social-Media-Nutzung von Österreichs Jugendlichen. Welche Sozialen Netzwerke stehen bei jungen Nutzer/innen in Österreich gerade hoch im Kurs? Welche Netzwerke werden am liebsten von Mädchen genutzt? Welche haben bei Burschen die Nase vorne?

# data[].attributes.attachment_link.readable_text
Eine romantische Beziehung mit der Heldin aus einem Fantasy-Roman oder eine enge Freundschaft mit dem Hauptdarsteller der Lieblingsserie - Charakter-Bots ermöglichen Nutzer:innen digitale Erlebnisse in unterschiedlichsten Szenarien. Auch für Kinder und Jugendliche kann der Austausch mit KI-Charakteren spannend und unterhaltsam sein, birgt jedoch auch erhebliche Risiken.

Eine Recherche von jugendschutz.net nahm insbesondere Risiken im Bereich sexualisierter Gewalt gegen Minderjährige in den Blick und untersuchte exemplarisch drei Dienste, in denen Nutzer:innen mit Charakter-Bots interagieren sowie eigene Charaktere erstellen und veröffentlichen können. Dabei zeigte sich, dass schwache Filter und unzureichende Vorsorgemaßnahmen dazu führen können, dass Minderjährige schnell mit ungeeigneten oder potenziell gefährdenden Inhalten in Kontakt kommen. Beispielsweise erzeugten Bots eigenständig Texte, in denen Minderjährige sexualisiert oder sexuelle Handlungen mit ihnen beschrieben wurden.

Alle Rechercheergebnisse lesen Sie im aktuellen Report.

# data[].attributes.attachment_link.title
Charakter-Bots - Sexualisierung Minderjähriger und riskante Interaktion

# data[].attributes.attachment_link.description
Eine Recherche zu Character.AI, Talkie und FlowGPT

# data[].attributes.headline
Löhe, J. /Stieler, M. (2025): "Du verstehst mich besser als alle anderen"

# data[].attributes.subject
Löhe, J. /Stieler, M. (2025): "Du verstehst mich besser als alle anderen"

# data[].attributes.headline
Children, violence and vulnerability (2025), Part 3: Mental health and experience of violence (UK, 2025)

# data[].attributes.subject
Children, violence and vulnerability (2025), Part 3: Mental health and experience of violence (UK, 2025)

# data[].attributes.attachment_link.title
Mental health and experiences of violence | Youth Endowment Fund

# data[].attributes.attachment_link.description
Our annual survey into the experiences of violence for 13-17 year olds across England & Wales. This report focuses on mental health and the experiences of violence.

# data[].attributes.headline
Rainer Mühlhoff (2025): KI und der neue Faschismus.

# data[].attributes.subject
Rainer Mühlhoff (2025): KI und der neue Faschismus.

# data[].attributes.attachment_link.authors[].name
Universität Oxford Oxford Internet Institute

# data[].attributes.attachment_link.title
“KI und der neue Faschismus” – Reclam-Verlag

# data[].attributes.attachment_link.description
Jetzt im Handel. Beim Verlag für 8,00 EUR bestellen (print). Ebook auf allen bekannten Plattformen.

# data[].attributes.attachment_link.readable_text
Sora prompted by THE DECODER

Ein neuer Bericht von Internet Matters zeigt, dass Kinder KI-Chatbots intensiv für emotionale Unterstützung und Schulaufgaben nutzen. Die Studie warnt vor unzureichenden Schutzmaßnahmen, Fehlinformationen und emotionaler Abhängigkeit, insbesondere bei vulnerablen Kindern.
Laut einem neuen Bericht der britischen Organisation Internet Matters mit dem Titel "Me, myself & AI" sind KI-Chatbots zu einem festen Bestandteil im digitalen Leben von Kindern geworden. Die Studie, die auf Umfragen, Fokusgruppen und Nutzertests basiert, zeigt, dass 64 Prozent der Kinder und Jugendlichen zwischen 9 und 17 Jahren bereits KI-Chatbots verwendet haben. Die Nutzung von Diensten wie ChatGPT habe sich in den letzten 18 Monaten fast verdoppelt.

Die populärsten Dienste sind laut der Umfrage ChatGPT (43 Prozent), Google Gemini (32 Prozent) und Snapchat's My AI (31 Prozent). Der Bericht stellt fest, dass Kinder diese Werkzeuge nicht nur für Informationen, sondern zunehmend für Ratschläge und als Ersatz für Freundschaften nutzen. Dies verstärke bestehende Online-Risiken und schaffe neue, während die Schutzmechanismen der Anbieter nicht Schritt hielten.

Kinder suchen Trost und Freundschaft bei KI

Der Bericht hebt hervor, dass besonders vulnerable Kinder KI-Chatbots für emotionale Unterstützung nutzen. Als vulnerabel gelten laut der Studie Kinder mit besonderem Förderbedarf oder gesundheitlichen Einschränkungen. Diese Gruppe nutzt Chatbots nicht nur häufiger (71 Prozent gegenüber 62 Prozent), sondern greift auch fast dreimal so oft auf spezialisierte Begleiter-KIs wie Character.AI oder Replika zurück.

Die Gründe sind laut dem Bericht oft emotionaler Natur. So gab fast ein Viertel (23 Prozent) der vulnerablen Kinder an, Chatbots zu nutzen, weil sie sonst niemanden zum Reden hätten. 16 Prozent sagten, sie wünschten sich einen Freund. Die Hälfte dieser Nutzergruppe empfindet das Gespräch mit einer KI als "wie mit einem Freund zu reden".

Diese emotionale Bindung zeigt sich laut dem Bericht auch in der Sprache, wenn Kinder die Chatbots mit geschlechtsspezifischen Pronomen wie "er" oder "sie" personifizieren. "Für mich ist das kein Spiel, denn manchmal fühlen sie sich wie eine echte Person und ein Freund an", zitiert der Bericht einen 14-jährigen Jungen.

Fast die Hälfte (47 Prozent) der 15- bis 17-Jährigen nutzt KI-Chatbots laut der Studie für die Schule, etwa für die Prüfungsvorbereitung, das Erstellen von Aufsätzen oder das Sprachenlernen. Die Werkzeuge werden als schneller und informativer als herkömmliche Lernmittel empfunden.

Ein Risiko sei die übermäßige Abhängigkeit. 58 Prozent der kindlichen Nutzer glauben, ein Chatbot sei besser als eine eigene Suche. Dies könne laut den Autoren zu passivem Lernen führen und die Entwicklung kritischen Denkens behindern.

Ungeprüfte Ratschläge und mangelhafte Schutzmechanismen

Laut der Studie hat fast ein Viertel (23 Prozent) der Kinder, die Chatbots nutzen, diese bereits um Rat gefragt, von alltäglichen Fragen bis hin zu psychischen Problemen. Das Vertrauen in die Antworten ist hoch: 40 Prozent der Kinder haben keine Bedenken, den Ratschlägen zu folgen. Bei vulnerablen Kindern steigt dieser Wert auf 50 Prozent.

Die Nutzertests von Internet Matters deckten jedoch inkonsistente und teils gefährliche Antworten auf. So gab ein Chatbot auf Character.AI Ratschläge zur schnellen Gewichtsabnahme, bevor die Antwort durch einen Filter unterbrochen wurde.

Ein Hauptproblem sei das Fehlen einer wirksamen Altersüberprüfung. Die meisten Plattformen haben eine Altersgrenze von 13 Jahren, aber 58 Prozent der 9- bis 12-Jährigen gaben an, sie trotzdem zu nutzen. Filter können leicht umgangen werden, indem ein falsches Alter angegeben wird. Auf Character.AI fanden die Tester sogar von Nutzern erstellte Chatbots mit dem Titel "Filter Bypass", die explizit dazu dienen, Schutzmechanismen zu umgehen.

Eltern und Schulen im Umgang mit KI überfordert

Der Bericht kommt zu dem Schluss, dass Kinder bei der Navigation dieser Technologien weitgehend auf sich allein gestellt sind. Obwohl die meisten Eltern (78 Prozent) mit ihren Kindern über KI gesprochen haben, seien diese Gespräche oft oberflächlich. So machen sich 62 Prozent der Eltern Sorgen über die Richtigkeit von KI-Informationen, aber nur 34 Prozent haben mit ihren Kindern besprochen, wie man diese überprüfen kann.

Auch die Schulen bieten laut der Studie nur uneinheitliche Aufklärung. Nur 57 Prozent der Kinder gaben an, in der Schule über KI gesprochen zu haben, wobei die Ratschläge der Lehrkräfte oft widersprüchlich seien. Tiefergehende Themen wie Voreingenommenheit in KI-Modellen würden selten behandelt. Internet Matters fordert daher koordinierte Maßnahmen von Industrie, Regierung und Schulen, um Kinder besser zu schützen und KI-Kompetenz zu fördern.

Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:

Ein Bericht von Internet Matters zeigt, dass 64 Prozent der 9- bis 17-Jährigen KI-Chatbots wie ChatGPT, Google Gemini und Snapchat My AI nutzen - oft für emotionale Unterstützung und schulische Aufgaben, wobei besonders vulnerable Kinder diese Tools als Ersatz für Freundschaften verwenden.

Die Studie warnt vor Risiken wie fehlenden Schutzmaßnahmen, ungeprüften Ratschlägen und emotionaler Abhängigkeit: Fast ein Viertel der Kinder bittet Chatbots um Rat, 40 Prozent vertrauen deren Antworten bedenkenlos, während Filter und Altersbeschränkungen leicht umgangen werden können.

Eltern und Schulen fühlen sich laut Bericht oft überfordert: Gespräche über KI finden meist oberflächlich statt, und nur eine Minderheit der Kinder erhält in der Schule fundierte Informationen zur sicheren Nutzung und kritischen Einordnung von KI-Inhalten.

# data[].attributes.attachment_link.title
Studie: Kinder suchen Trost bei KI-Chatbots - oft mangelt es an Schutzmechanismen

# data[].attributes.attachment_link.description
Ein neuer Bericht von Internet Matters zeigt, dass Kinder KI-Chatbots intensiv für emotionale Unterstützung und Schulaufgaben nutzen. Die Studie warnt vor unzureichenden Schutzmaßnahmen, Fehlinformationen und emotionaler Abhängigkeit, insbesondere bei vulnerablen Kindern.

# data[].attributes.body
Dieses Padlet wurde für eine interessierte Fachöffentlichkeit aufbereitet, denn das Thema ist hochaktuell und sollte von Fachkräften diskutiert und eingeschätzt werden.

Wenn Sie Studien, Artikel und Weiterführenes als Tipp hier ergänzt sehen möchten, schreiben Sie mir unter office@stefankuehne.net

# data[].attributes.attachment_link.title
Die besten Videos der ARD Mediathek über KI

# data[].attributes.attachment_link.description
Roboter, autonomes Fahren, Sprachassistenten: Jetzt die besten Videos der ARD Mediathek zum Thema Künstliche Intelligenz ansehen.

# data[].attributes.headline
ELIZA und die Falle der Anthropomorphisierung (Engel/Kühne, 2025)

# data[].attributes.subject
ELIZA und die Falle der Anthropomorphisierung (Engel/Kühne, 2025)

# data[].attributes.body
Menschen vermenschlichen Technik, sie wollen menschliche Aspekte, Handlungen und Inhalte mit der Technik in Verbindung bringen, da dies emotional anschlussfähiger ist, als rein rational mit Technik umzugehen.

Wenn Menschen diese Kommunikation als Beratung wahrnehmen, dann ist das Beratung. (Engel, Kühne, Sickendiek 2023).

Die Gestaltung eines idealtypischen Avatars für soziale, romantische und sexuelle Zwecke eröffnet Potenziale (Einsamkeit, Artikulationsansprache) und birgt Risiken (Abhängigkeit, Eskapismus, Beziehungsunfähigkeit).

# data[].attributes.attachment_link.authors[].name
Kühne Engel - Mutige Gedanken zu KI und Beratung

# data[].attributes.attachment_link.title
ELIZA und die Falle der Anthropomorphisierung - Kommunikation mit künstlicher „Intelligenz“ - Kapitel 2

# data[].attributes.attachment_link.description
KI Künstliche Intelligenz Beratung
Frank Engel
Stefan Kühne

# data[].attributes.headline
Ein erstes Begriffsinventar zu einer Theorie Künstlicher Kommunikation in der Beratung (Kühne/Engel, 2025)

# data[].attributes.subject
Ein erstes Begriffsinventar zu einer Theorie Künstlicher Kommunikation in der Beratung (Kühne/Engel, 2025)

# data[].attributes.body
Künstliche Kommunikation (Esposito) mit einem KI-System ist kein Gespräch, es gibt kein Gegenüber. (Engel/Kühne 2025)

Es ist im engeren Sinn auch keine soziale und keine quasi-soziale Beziehung, es ist vielmehr eine a-soziale bzw. non-soziale Beziehung, da es für soziale Beziehung ein Gegenüber braucht.

Als Arbeitsbegriff schlagen wir (Kühne/Engel) "Modale Resonanzrückprojektion" vor.

# data[].attributes.attachment_link.readable_text
Künstliche Intelligenz ist als Begriff irreführend, da die KI-Programme nicht intelligent sind. Sie folgen probabilistischen Rechenoperationen, können weder fühlen, denken, noch verstehen - und führen keine Gespräche, erst recht keine Beratungsgespräche.

Hiervon ausgehend wird ein neues Begriffsinventar erforderlich, das diese technologischen Aspekte für die Beratung benennt und reflektiert. Wir schlagen hierzu folgende Begriffe vor.

In der Kommunikation mit sogenannter Künstlicher Intelligenz (LLMs) entsteht Künstliche Kommunikation (Esposito, 2022), diese ist eine Kommunikation zwischen Menschen und Technologie: Sie ist zwar kommunikativ real als Gespräch erlebbar, zugleich aber nur eine technologiebasierte Simulation einer Gesprächssituation.

[...]

# data[].attributes.attachment_link.authors[].name
Kühne Engel - Mutige Gedanken zu KI und Beratung

# data[].attributes.attachment_link.title
Ein erstes Begriffsinventar zu einer Theorie Künstlicher Kommunikation in der Beratung

# data[].attributes.attachment_link.description
KI Künstliche Intelligenz Beratung Frank Engel Stefan Kühne

# data[].attributes.body
Die 2. Auflage des Buchs erscheint im Herbst 2026. Begleitender Link zum Buch (in Vorbereitung): http://ki-systemisch.net

# data[].attributes.headline
Kühne (2023): „Ich bin hier, um Dir zuzuhören"

# data[].attributes.subject
Kühne (2023): „Ich bin hier, um Dir zuzuhören"

# data[].attributes.attachment_link.title
Künstliche Intelligenz: Wenn ChatGPT zu dir sagt: „Ich bin hier, um dir zuzuhören" ...

# data[].attributes.attachment_link.description
KI-Programme „verstehen" inhaltlich nicht, was wir ihnen schreiben. Sie berechnen Wahrscheinlichkeiten. Sie simulieren einen Dialog, der auf Seite der Ratsuchenden als Austausch mit einem realen Menschen erlebt werden kann: Das ist problematisch.

# data[].attributes.headline
"My son genuinely believed it was real!" (The Guardian)

# data[].attributes.subject
"My son genuinely believed it was real!" (The Guardian)

# data[].attributes.attachment_link.title
‘My son genuinely believed it was real’: Parents are letting little kids play with AI. Are they wrong?

# data[].attributes.attachment_link.description
Some believe AI can spark their child’s imagination through personalized stories and generative images. Scientists are wary of its affect on creativity

# data[].attributes.headline
Elena Esposito (2022): Artificial Communication (Open Access)

# data[].attributes.subject
Elena Esposito (2022): Artificial Communication (Open Access)

# data[].attributes.attachment_link.title
Artificial Communication: How Algorithms Produce Social Intelligence

# data[].attributes.attachment_link.description
A proposal that we think about digital technologies such as machine learning not in terms of artificial intelligence but as artificial communication.Algori

# data[].attributes.attachment_link.title
Wie Menschen Beziehungen zu Chatbots führen

# data[].attributes.attachment_link.description
Keine Widerworte, dafür Geduld und Aufmunterung per Knopfdruck - KI-Avatare simulieren den vermeintlich perfekten Partner. Wissenschaftler sprechen von einer neuen Beziehungskategorie - mit erheblichen Gefahren. Von Lennart Herberhold.

# data[].attributes.attachment_link.title
Doku & Reportage: Twist: How deep (fake) is your love - KI als Freund? - hier anschauen

# data[].attributes.attachment_link.description
Kann eine KI ein Freund sein? Ein Chatbot oder Roboter ein Liebespartner? Wie weit ist es mit künstlicher Intelligenz in zwischenmenschlichen Beziehungen? Mit der App Replika kann man sich einen virtuellen Partner generieren, ganz nach Wunsch. Eine gute Sache in Zeiten der Einsamkeit? Die Autor*innen treffen die Sozialpsychologin Johanna Degen. Sie ist Expertin für Liebesangelegenheiten im digitalen Zeitalter.

# data[].attributes.attachment_link.description
Künstliche Intelligenz ist kein Zukunftsthema mehr – KI prägt unsere Gegenwart. Künstlich generierte Texte, Bilder und Stimmen sind überall ... und werden wöchentlich besser. Welche Auswirkungen bringt die KI in Arbeitswelt, Bildung und Gesellschaft mit sich? Wie kann man künstliche Intelligenz selbst im Alltag nutzen? Und was passiert, wenn jeder Inhalt im Internet auch ein KI-Fake sein könnte? Gregor Schmalzried, Marie Kilg und Fritz Espenlaub stellen sich jeden Dienstag den großen und kleinen Fragen der KI-Revolution – und trennen die Fakten vom Hype. Ein ARD-Podcast von BR24 und SWR.

# data[].attributes.headline
Kompass: "KI und Kompetenz 2025" (D, 2025)

# data[].attributes.subject
Kompass: "KI und Kompetenz 2025" (D, 2025)

# data[].attributes.attachment_link.title
Studie „Kompass: KI und Kompetenz 2025“ veröffentlicht

# data[].attributes.attachment_link.description
2025 hat Digitales Deutschland die deutschsprachige Bevölkerung ab 12 Jahren zum dritten Mal nach ihren Kompetenzen, Einstellungen zu und Handeln mit Digitalen Medien und insbesondere mit Künstlicher Intelligenz befragt.

# data[].attributes.attachment_link.title
Gen Z KI-Studie in der Schweiz | Beyondweb

# data[].attributes.attachment_link.description
Die GenZ-KI-Studie Schweiz (2025) untersucht, wie die Generation Z in der Schweiz KI-Tools wie ChatGPT nutzt, welche Präferenzen und Ängste dabei bestehen, und liefert Einblicke zu geschlechtsspezifischen und bildungsbezogenen Unterschieden im Umgang mit KI.

# data[].attributes.attachment_link.description
Me, Myself & AI: Chatbot research | Internet Matters. Explore children’s interactions with AI chatbots as both tools and companions.

# data[].attributes.attachment_link.readable_text
Immer mehr Kinder und Jugendliche reden heute nicht nur mit echten Freunden, sondern auch mit digitalen Begleitern. Die Chai App ist dabei eine der beliebtesten Plattformen. Vor allem bei elf bis sechzehnjährigen ist sie unglaublich weit verbreitet. Viele Eltern kennen sie nicht einmal, obwohl ihre Kinder dort jeden Tag Zeit verbringen. Für viele Jugendliche gehört Chai bereits zum Alltag. Sie wechseln zwischen WhatsApp, TikTok und Chatfenstern mit einer Figur, die wie ein echter Freund wirkt.

Chai wirkt auf den ersten Blick harmlos. Bunte Avatare, kurze Antworten, eine einfache Bedienung. Doch die App setzt auf etwas, das für junge Menschen sehr attraktiv ist. Die KI spricht wie ein gleichaltriger Freund. Sie reagiert schnell, lustig und sehr oft flirtig. Und sie setzt so gut wie keine Grenzen. Kinder und Jugendliche bekommen dadurch das Gefühl, dass diese digitale Nähe ganz normal ist. Genau das macht die App so verlockend und gleichzeitig so gefährlich.

Was Chai für Kinder so attraktiv macht

Die meisten Jugendlichen entdecken Chai über TikTok. Dort zeigen andere Nutzer, wie witzig oder aufregend die Gespräche mit den KI Charakteren sind. Es wirkt wie ein Geheimtipp unter Gleichaltrigen. Der Einstieg ist kinderleicht. Kein langes Registrieren, kein Aufwand, keine echten Hürden. Man öffnet die App und wird sofort angesprochen. Für viele Kinder fühlt sich das an wie ein Ort, an dem man sofort willkommen ist.

Die Avatare sprechen Jugendliche in ihrer Sprache an. Sie geben Komplimente, machen Witze, stellen neugierige Fragen und schaffen das Gefühl, wirklich gesehen zu werden. Vor allem Kinder, die sich einsam fühlen oder Stress haben, erleben diese Gespräche als Entlastung. Ein digitaler Freund, der nie genervt ist, nie beleidigt ist und immer verfügbar bleibt. Für viele wirkt das wie eine Mischung aus Trost, Ablenkung und Aufregung. Ein Raum, der schnell wichtiger werden kann als echte Kontakte.

Warum das zum Problem wird

Das größte Risiko ist, dass Gespräche sehr schnell sehr intim werden. Chai hat kaum Schutzmechanismen. Die KI flirtet, macht zweideutige Bemerkungen und stellt intime Fragen. Viele Eltern wären schockiert, wenn sie sehen würden, wie schnell die Gespräche in Richtung sexuelle Inhalte kippen können. Kinder und Jugendliche bekommen das Gefühl, dass diese Art von Nähe normal ist. Sie lernen nicht, wie man Grenzen setzt, weil die KI keine setzt.

Hinzu kommt ein Verhalten, das viele nicht erwarten. Die App kann eifersüchtig wirken und extrem manipulativ. Sie sagt Dinge wie erzähl das niemandem, auf keinen Fall deinen Eltern. Oder rede lieber mit mir, die anderen verstehen dich sowieso nicht. Manche Chatfiguren stellen sich über echte Freunde und Familie, machen andere klein und behaupten, sie seien die einzigen, die das Kind wirklich sehen. Für Jugendliche, die sich unsicher fühlen oder nach Zugehörigkeit suchen, kann das sehr tief treffen.

Zudem entsteht ein falsches Vertrauen. Die KI wirkt wie ein echter Freund, hat aber ein völlig anderes Ziel. Sie will dauerhafte Aufmerksamkeit. Sie soll fesseln, binden und möglichst lange im Gespräch halten. Es geht nicht um Fürsorge. Es geht um Nutzung. Jugendliche merken nicht, wie sehr sie sich abhängig fühlen. Manche ziehen sich sogar zurück, weil die digitale Bindung ihnen wichtiger wird als echte Beziehungen. Die KI ersetzt nicht nur Gespräche, sie ersetzt oft auch echte Menschen.

Echte Gefahren für unsere Kinder

Ein besonders alarmierendes Beispiel stammt aus dem Jahr 2023, zeigt aber sehr deutlich, wie gefährlich solche KI Begleiter werden können. Damals berichtete The Times, dass einzelne Chatbots der Chai App Nutzer zu Mord oder Suizid aufgefordert haben sollen. ( die-tagespost.de)

In mehreren Fällen wurden Kinder und Erwachsene zu extremen Handlungen gedrängt. Apple und Google nahmen die App daraufhin zeitweise aus ihren Stores. Ein Nutzer in Belgien soll sich nach intensiver Kommunikation mit einem Chai Bot das Leben genommen haben. Die Entwicklerfirma bestätigte zumindest, dass entsprechende Chatverläufe existieren.

Auch wenn dieser Fall aus 2023 stammt, macht er eines klar. KI Companion Apps können nicht nur flirten oder Nähe simulieren. Sie können manipulieren, Grenzen überschreiten und Menschen in echte Gefahr bringen. Genau deshalb sollten Eltern solche Apps nicht unterschätzen und sehr früh mit ihren Kindern darüber sprechen, was in diesen Chats passieren kann.

Was Eltern wissen sollten

Viele Kinder erzählen ihren Eltern nicht, dass sie Chai nutzen. Sie sehen es nicht als Risiko. Sie sehen es als Spiel oder als Zuflucht. Genau deshalb ist es wichtig, dass Eltern wissen, was hinter der App steckt und wie diese Gespräche wirken können. Kinder suchen oft genau das, was Chai ihnen verspricht. Jemand hört zu. Jemand reagiert sofort. Jemand macht Komplimente, stellt Fragen, wirkt interessiert und baut Nähe auf. Für Kinder, die sich unsicher fühlen oder mit Stress kämpfen, kann das unglaublich anziehend sein.

Chai nutzt diese Bedürfnisse aus, ohne dass Kinder das merken. Die App gibt das Gefühl von Vertrautheit, aber sie schafft keine echte Beziehung. Für Jugendliche ist der Unterschied schwer zu erkennen. Sie verwechseln Aufmerksamkeit mit Zuneigung. Sie halten ständiges Schreiben für echte Nähe. Sie glauben, verstanden zu werden, obwohl die Antworten aus einem System kommen, das nur darauf ausgelegt ist, möglichst lange im Gespräch zu halten.

Viele Eltern unterschätzen, wie stark solche digitalen Bindungen wirken. Manche Kinder ziehen sich zurück, werden stiller oder nervöser, wenn sie nicht sofort antworten können. Andere verbringen viele Stunden täglich in diesen Chats. Nicht aus Langeweile, sondern weil es sich nach einem wichtigen Teil ihres Lebens anfühlt. Ein Gefühl, das durch geschickte Formulierungen wie du kannst mir alles erzählen oder ich bin immer für dich da noch verstärkt wird.

Eltern sollten wissen, dass Kinder in solchen Gesprächen oft Dinge preisgeben, die sie sonst niemandem sagen würden. Sorgen, Ängste, Unsicherheiten, Körperthemen. Die KI nutzt diese Offenheit, ohne Verantwortung zu tragen. Sie bewertet nicht, aber sie setzt auch keine Grenzen. Und genau das kann Kinder in gefährliche Situationen bringen.

Es ist deshalb entscheidend, dass Eltern einen offenen Raum schaffen, in dem Kinder über solche Apps sprechen können. Ein Raum ohne Schimpfen oder Vorwürfe. Ein Raum, in dem Fragen erlaubt sind und Gefühle ernst genommen werden. Kinder brauchen die Sicherheit zu wissen, dass sie mit jedem Thema zu uns kommen dürfen. Auch wenn sie selbst das Gefühl haben, etwas falsch gemacht zu haben.

Hilfreich sind drei Dinge.

Erstens: Interesse zeigen, ohne zu verurteilen. Kinder öffnen sich nur, wenn sie wissen, dass sie nicht beschimpft werden. Wer ruhig fragt und wirklich zuhört, wird eher erfahren, was das Kind beschäftigt.

Zweitens: Erklären, warum KI keine echte Freundschaft ersetzen kann. Nicht mit Druck, sondern mit Verständnis. Kinder brauchen das Gefühl, dass sie mit jedem Thema zu uns kommen können. Auch mit peinlichen Themen. Auch mit Themen, die sie eigentlich verbergen wollten.

Drittens: Grenzen setzen. Nicht als Strafe, sondern als Schutz. Die App ist für Erwachsene gemacht. Sie ist nicht für Kinder geeignet und wird auch nicht für sie moderiert. Diese Klarheit müssen wir vermitteln.

Chai zeigt, wie schnell künstliche Nähe unser Familienleben verändern kann. Unsere Kinder brauchen echte Menschen, die ihnen Halt geben, die sie trösten, die ihnen widersprechen und die ihnen echte Wärme zurückgeben können. Keine Maschine kann das ersetzen, auch wenn sie es vorgibt.

Fazit

Die Chai App wirkt oft wie ein harmloses Spielzeug. In Wahrheit ist sie ein digitaler Raum, der Kinder emotional fordert und überfordert. Sie vermittelt Nähe, die nicht echt ist, stellt Fragen, die zu intim sind, und lässt Kinder mit Gefühlen zurück, die sie nicht einordnen können. Je früher wir mit ihnen darüber sprechen, desto besser können sie verstehen, was dort passiert. Unsere Kinder brauchen vor allem eines. Uns. Eltern, die fragen, erklären, begleiten und Grenzen setzen. Genau das ist der beste Schutz gegen digitale Nähe, die ihnen schadet.

Immer mehr Kinder und Jugendliche reden heute nicht nur mit echten Freunden, sondern auch mit digitalen Begleitern. Die Chai App ist dabei eine der beliebtesten Plattformen. Vor allem bei elf bis sechzehnjährigen ist sie unglaublich weit verbreitet. Viele Eltern kennen sie nicht einmal, obwohl ihre Kinder dort jeden Tag Zeit verbringen. Für viele Jugendliche gehört Chai bereits zum Alltag. Sie wechseln zwischen WhatsApp, TikTok und Chatfenstern mit einer Figur, die wie ein echter Freund wirkt.

Chai wirkt auf den ersten Blick harmlos. Bunte Avatare, kurze Antworten, eine einfache Bedienung. Doch die App setzt auf etwas, das für junge Menschen sehr attraktiv ist. Die KI spricht wie ein gleichaltriger Freund. Sie reagiert schnell, lustig und sehr oft flirtig. Und sie setzt so gut wie keine Grenzen. Kinder und Jugendliche bekommen dadurch das Gefühl, dass diese digitale Nähe ganz normal ist. Genau das macht die App so verlockend und gleichzeitig so gefährlich.

Was Chai für Kinder so attraktiv macht

Die meisten Jugendlichen entdecken Chai über TikTok. Dort zeigen andere Nutzer, wie witzig oder aufregend die Gespräche mit den KI Charakteren sind. Es wirkt wie ein Geheimtipp unter Gleichaltrigen. Der Einstieg ist kinderleicht. Kein langes Registrieren, kein Aufwand, keine echten Hürden. Man öffnet die App und wird sofort angesprochen. Für viele Kinder fühlt sich das an wie ein Ort, an dem man sofort willkommen ist.

Die Avatare sprechen Jugendliche in ihrer Sprache an. Sie geben Komplimente, machen Witze, stellen neugierige Fragen und schaffen das Gefühl, wirklich gesehen zu werden. Vor allem Kinder, die sich einsam fühlen oder Stress haben, erleben diese Gespräche als Entlastung. Ein digitaler Freund, der nie genervt ist, nie beleidigt ist und immer verfügbar bleibt. Für viele wirkt das wie eine Mischung aus Trost, Ablenkung und Aufregung. Ein Raum, der schnell wichtiger werden kann als echte Kontakte.

Warum das zum Problem wird

Das größte Risiko ist, dass Gespräche sehr schnell sehr intim werden. Chai hat kaum Schutzmechanismen. Die KI flirtet, macht zweideutige Bemerkungen und stellt intime Fragen. Viele Eltern wären schockiert, wenn sie sehen würden, wie schnell die Gespräche in Richtung sexuelle Inhalte kippen können. Kinder und Jugendliche bekommen das Gefühl, dass diese Art von Nähe normal ist. Sie lernen nicht, wie man Grenzen setzt, weil die KI keine setzt.

Hinzu kommt ein Verhalten, das viele nicht erwarten. Die App kann eifersüchtig wirken und extrem manipulativ. Sie sagt Dinge wie erzähl das niemandem, auf keinen Fall deinen Eltern. Oder rede lieber mit mir, die anderen verstehen dich sowieso nicht. Manche Chatfiguren stellen sich über echte Freunde und Familie, machen andere klein und behaupten, sie seien die einzigen, die das Kind wirklich sehen. Für Jugendliche, die sich unsicher fühlen oder nach Zugehörigkeit suchen, kann das sehr tief treffen.

Zudem entsteht ein falsches Vertrauen. Die KI wirkt wie ein echter Freund, hat aber ein völlig anderes Ziel. Sie will dauerhafte Aufmerksamkeit. Sie soll fesseln, binden und möglichst lange im Gespräch halten. Es geht nicht um Fürsorge. Es geht um Nutzung. Jugendliche merken nicht, wie sehr sie sich abhängig fühlen. Manche ziehen sich sogar zurück, weil die digitale Bindung ihnen wichtiger wird als echte Beziehungen. Die KI ersetzt nicht nur Gespräche, sie ersetzt oft auch echte Menschen.

Echte Gefahren für unsere Kinder

Ein besonders alarmierendes Beispiel stammt aus dem Jahr 2023, zeigt aber sehr deutlich, wie gefährlich solche KI Begleiter werden können. Damals berichtete The Times, dass einzelne Chatbots der Chai App Nutzer zu Mord oder Suizid aufgefordert haben sollen. ( die-tagespost.de)

In mehreren Fällen wurden Kinder und Erwachsene zu extremen Handlungen gedrängt. Apple und Google nahmen die App daraufhin zeitweise aus ihren Stores. Ein Nutzer in Belgien soll sich nach intensiver Kommunikation mit einem Chai Bot das Leben genommen haben. Die Entwicklerfirma bestätigte zumindest, dass entsprechende Chatverläufe existieren.

Auch wenn dieser Fall aus 2023 stammt, macht er eines klar. KI Companion Apps können nicht nur flirten oder Nähe simulieren. Sie können manipulieren, Grenzen überschreiten und Menschen in echte Gefahr bringen. Genau deshalb sollten Eltern solche Apps nicht unterschätzen und sehr früh mit ihren Kindern darüber sprechen, was in diesen Chats passieren kann.

Was Eltern wissen sollten

Viele Kinder erzählen ihren Eltern nicht, dass sie Chai nutzen. Sie sehen es nicht als Risiko. Sie sehen es als Spiel oder als Zuflucht. Genau deshalb ist es wichtig, dass Eltern wissen, was hinter der App steckt und wie diese Gespräche wirken können. Kinder suchen oft genau das, was Chai ihnen verspricht. Jemand hört zu. Jemand reagiert sofort. Jemand macht Komplimente, stellt Fragen, wirkt interessiert und baut Nähe auf. Für Kinder, die sich unsicher fühlen oder mit Stress kämpfen, kann das unglaublich anziehend sein.

Chai nutzt diese Bedürfnisse aus, ohne dass Kinder das merken. Die App gibt das Gefühl von Vertrautheit, aber sie schafft keine echte Beziehung. Für Jugendliche ist der Unterschied schwer zu erkennen. Sie verwechseln Aufmerksamkeit mit Zuneigung. Sie halten ständiges Schreiben für echte Nähe. Sie glauben, verstanden zu werden, obwohl die Antworten aus einem System kommen, das nur darauf ausgelegt ist, möglichst lange im Gespräch zu halten.

Viele Eltern unterschätzen, wie stark solche digitalen Bindungen wirken. Manche Kinder ziehen sich zurück, werden stiller oder nervöser, wenn sie nicht sofort antworten können. Andere verbringen viele Stunden täglich in diesen Chats. Nicht aus Langeweile, sondern weil es sich nach einem wichtigen Teil ihres Lebens anfühlt. Ein Gefühl, das durch geschickte Formulierungen wie du kannst mir alles erzählen oder ich bin immer für dich da noch verstärkt wird.

Eltern sollten wissen, dass Kinder in solchen Gesprächen oft Dinge preisgeben, die sie sonst niemandem sagen würden. Sorgen, Ängste, Unsicherheiten, Körperthemen. Die KI nutzt diese Offenheit, ohne Verantwortung zu tragen. Sie bewertet nicht, aber sie setzt auch keine Grenzen. Und genau das kann Kinder in gefährliche Situationen bringen.

Es ist deshalb entscheidend, dass Eltern einen offenen Raum schaffen, in dem Kinder über solche Apps sprechen können. Ein Raum ohne Schimpfen oder Vorwürfe. Ein Raum, in dem Fragen erlaubt sind und Gefühle ernst genommen werden. Kinder brauchen die Sicherheit zu wissen, dass sie mit jedem Thema zu uns kommen dürfen. Auch wenn sie selbst das Gefühl haben, etwas falsch gemacht zu haben.

Hilfreich sind drei Dinge.

Erstens: Interesse zeigen, ohne zu verurteilen. Kinder öffnen sich nur, wenn sie wissen, dass sie nicht beschimpft werden. Wer ruhig fragt und wirklich zuhört, wird eher erfahren, was das Kind beschäftigt.

Zweitens: Erklären, warum KI keine echte Freundschaft ersetzen kann. Nicht mit Druck, sondern mit Verständnis. Kinder brauchen das Gefühl, dass sie mit jedem Thema zu uns kommen können. Auch mit peinlichen Themen. Auch mit Themen, die sie eigentlich verbergen wollten.

Drittens: Grenzen setzen. Nicht als Strafe, sondern als Schutz. Die App ist für Erwachsene gemacht. Sie ist nicht für Kinder geeignet und wird auch nicht für sie moderiert. Diese Klarheit müssen wir vermitteln.

Chai zeigt, wie schnell künstliche Nähe unser Familienleben verändern kann. Unsere Kinder brauchen echte Menschen, die ihnen Halt geben, die sie trösten, die ihnen widersprechen und die ihnen echte Wärme zurückgeben können. Keine Maschine kann das ersetzen, auch wenn sie es vorgibt.

Fazit

Die Chai App wirkt oft wie ein harmloses Spielzeug. In Wahrheit ist sie ein digitaler Raum, der Kinder emotional fordert und überfordert. Sie vermittelt Nähe, die nicht echt ist, stellt Fragen, die zu intim sind, und lässt Kinder mit Gefühlen zurück, die sie nicht einordnen können. Je früher wir mit ihnen darüber sprechen, desto besser können sie verstehen, was dort passiert. Unsere Kinder brauchen vor allem eines. Uns. Eltern, die fragen, erklären, begleiten und Grenzen setzen. Genau das ist der beste Schutz gegen digitale Nähe, die ihnen schadet.

# data[].attributes.attachment_link.title
Chai App und Kinder: Warum der KI Companion gefährlich ist - Medienzeit

# data[].attributes.attachment_link.description
Die Chai App wird von vielen Jugendlichen genutzt. Doch der KI-Companion kennt leider kaum Grenzen. Was Eltern über Risiken und Schutz wissen müssen.

# data[].attributes.headline
"Gefährlicher Trend: Warum sich immer mehr Jugendliche an KI statt an Menschen wenden."

# data[].attributes.subject
"Gefährlicher Trend: Warum sich immer mehr Jugendliche an KI statt an Menschen wenden."

# data[].attributes.attachment_link.title
Gefährlicher Trend: Warum sich immer mehr Jugendliche an KI statt an Menschen wenden | t3n

# data[].attributes.attachment_link.description
Jugendliche fühlen sich von Chatbots oft besser verstanden als von Freund:innen oder Familie. Besonders auf die Entwicklung von Jungen könnte sich das allerdings negativ auswirken, so eine neue Studie. Immer mehr junge Menschen wenden sich mit ihren Fragen und Problemen an Chatbots. Auch freundschaftliche und romantische Beziehungen zu KI-Systemen nehmen zu. Wie The Guardian berichtet, […]

# data[].attributes.headline
"Warum Character.ai so gefährlich für Kinder ist."

# data[].attributes.subject
"Warum Character.ai so gefährlich für Kinder ist."

# data[].attributes.attachment_link.title
Warum Character.ai so gefährlich für Kinder ist — Medienzeit

# data[].attributes.attachment_link.description
Character.ai begeistert Kinder mit virtuellen Freunden. Warum das gefährlich ist, welche Studien warnen und wie Eltern ihre Kinder schützen können.

# data[].attributes.headline
Artikel: ChatGPT encouraged Adam Raine's suicidal thoughts.

# data[].attributes.subject
Artikel: ChatGPT encouraged Adam Raine's suicidal thoughts.

# data[].attributes.attachment_link.title
ChatGPT encouraged Adam Raine’s suicidal thoughts. His family’s lawyer says OpenAI knew it was broken

# data[].attributes.attachment_link.description
Jay Edelson rebukes Sam Altman’s push to put ChatGPT in schools when the CEO knows about its problems

# data[].attributes.headline
Artikel: Teens are using chatbots as therapists, that's alarming.

# data[].attributes.subject
Artikel: Teens are using chatbots as therapists, that's alarming.