# data[].attributes.headline
"Zwischen Fortnite, TikTok und ChatGPT: Mediennutzung, Risiken und neue Nutzungstrends bei Kindern und Jugendlichen in Deutschland" (DAK Suchtstudie)

# data[].attributes.subject
"Zwischen Fortnite, TikTok und ChatGPT: Mediennutzung, Risiken und neue Nutzungstrends bei Kindern und Jugendlichen in Deutschland" (DAK Suchtstudie)

# data[].attributes.attachment_link.description
24. März 2026. Gefährlicher Trend: Neben Gaming, Social Media und Streaming erhöhen auch KI-Chatbots den riskanten Medienkonsum bei Kindern und Jugendlichen in Deutschland. Fast acht Prozent der Minderjährigen nutzen KI-Anwendungen gegen ihre Einsamkeit. Bei Jugendlichen mit depressiver Symptomatik liegt der Anteil über 30 Prozent. Das zeigen aktuelle Ergebnisse einer gemeinsamen Längsschnittuntersuchung von DAK-Gesundheit und Universitätsklinikum Hamburg-Eppendorf (UKE). Die Studie analysiert erstmals auch die Nutzung und Risiken von KI-Chatbots für Kinder und Jugendliche in Deutschland. Insgesamt bleibt die Mediensucht auf einem hohen Niveau: Jedes vierte Kind zeigt eine riskante Social-Media-Nutzung oder Abhängigkeit. Insgesamt sind hochgerechnet rund 1,5 Millionen junge Menschen betroffen. DAK-Chef Andreas Storm begrüßt die breite Debatte über Social-Media-Risiken und fordert ein schnelles Handeln. Es brauche Geschwindigkeit bei der Gesetzgebung.

# data[].attributes.headline
Your teen turned to AI instead of you. What experts say parents can do (2026) (American Psychological Association)

# data[].attributes.subject
Your teen turned to AI instead of you. What experts say parents can do (2026) (American Psychological Association)

# data[].attributes.attachment_link.title
Your teen turned to AI instead of you. What experts say parents can do

# data[].attributes.attachment_link.description
Science-backed tips from the experts behind APA's advisories on AI and youth development and the use of generative AI chatbots and wellness apps for mental health on how to help your child navigate this emerging technology

# data[].attributes.headline
"ChatGPT as a mental health advisory service: Comparing evaluations from youth and health professionals" (Norwegen, 2026)

# data[].attributes.subject
"ChatGPT as a mental health advisory service: Comparing evaluations from youth and health professionals" (Norwegen, 2026)

# data[].attributes.attachment_link.title
ChatGPT as a mental health advisory service: Comparing evaluations from youth and health professionals - Marita Skjuve, Asbjørn Følstad, Petter Bae Brandtzaeg, 2026

# data[].attributes.attachment_link.description
Objective Despite the growing use of artificial intelligence in youth mental health support, little is known about how either young people or health professiona…

# data[].attributes.headline
"KI als Vertraute: Chancen und Risiken parasozialer Beziehungen mit  Chatbots" (D, 2026) (BZKJaktuell)

# data[].attributes.subject
"KI als Vertraute: Chancen und Risiken parasozialer Beziehungen mit  Chatbots" (D, 2026) (BZKJaktuell)

# data[].attributes.body
Die einzelnen Beiträge finden sich hier: https://www.bzkj.de/bzkj/service/publikationen/bzkj-aktuell

# data[].attributes.attachment_link.title
KI als Vertraute: Chancen und Risiken parasozialer Beziehungen mit...

# data[].attributes.attachment_link.description
Künstliche Intelligenz ist innerhalb kürzester Zeit im Alltag von Kindern und Jugendlichen angekommen. Junge Menschen nutzen KI heute nicht nur für Hausaufgaben oder zur Recherche, sondern auch…

# data[].attributes.headline
"How teens use and vie AI" (US, 2026) (Pewresearch)

# data[].attributes.subject
"How teens use and vie AI" (US, 2026) (Pewresearch)

# data[].attributes.attachment_link.description
Just over half of U.S. teens say they’ve used chatbots for help with schoolwork, and 12% say they’ve gotten emotional support from these tools. Teens tend to view AI’s future impact on their lives more positively than negatively.

# data[].attributes.headline
"KI-Chatbots als Altagsbegleiter für Jugendliche" (A, 2026) (saferinternet.at) Infos Pressegespräch (PDF)

# data[].attributes.subject
"KI-Chatbots als Altagsbegleiter für Jugendliche" (A, 2026) (saferinternet.at) Infos Pressegespräch (PDF)

# data[].attributes.headline
Jackie Ourman (2026) "AI Companions and the New Relational Landscape"

# data[].attributes.subject
Jackie Ourman (2026) "AI Companions and the New Relational Landscape"

# data[].attributes.attachment_link.title
AI Companions and the New Relational Landscape

# data[].attributes.attachment_link.description
What happens when connection becomes predictable, personalized, and always available?

# data[].attributes.headline
Andreas Apetz (2026) "Problematischer Trend im Alltag von Jugendlichen" (FR)

# data[].attributes.subject
Andreas Apetz (2026) "Problematischer Trend im Alltag von Jugendlichen" (FR)

# data[].attributes.attachment_link.readable_text
Während die Nutzung von Social-Media heiß diskutiert wird, tut sich unter Kindern und Jugendlichen ein neues Phänomen auf. Sollte man auch hier über ein Verbot diskutieren?

Frankfurt - Australien hat es vorgemacht, Deutschland diskutiert darüber: ein Social-Media-Verbot für Kinder und Jugendliche. Doch während die Debatte um Instagram und TikTok die Schlagzeilen dominiert, gerät ein weiterer Trend in den Hintergrund: Laut der JIM-Studie von 2025 wächst die tägliche Nutzung von Chatbots unter Jugendlichen zwischen zwölf und 19 Jahren. Demnach arbeitet die Hälfte von ihnen mehrmals pro Woche mit KI-Modellen. Nicht nur für Hausaufgaben, sondern zunehmend auch als Gesprächspartner. In diesem Zuge könnten auch AI Companions immer mehr in den Alltag junger Menschen rücken.

Jeder zweite Jugendliche in den USA nutzt einen AI Companion

AI Companions sind KI-gestützte Chatbots wie Character.AI oder Replika, die menschliche Gespräche simulieren. Sie passen sich den Vorlieben ihrer Nutzerinnen und Nutzer an, sind rund um die Uhr verfügbar und können als Freund, Therapeut oder romantischer Partner auftreten. Das Geschäftsmodell dahinter zielt darauf ab, die Nutzerinnen und Nutzer möglichst lange im Chat zu halten.

Generative KI-Chatbots wie ChatGPT passen sich während der Konversation immer mehr den Präferenzen des Nutzers an, erklärt Privatdozentin Dr. Kerstin Paschke, ärztliche Leiterin des Deutschen Zentrums für Suchtfragen des Kindes- und Jugendalters am Universitätsklinikum Hamburg-Eppendorf. Durch das Training mit Internetdaten und die Optimierung des Gesprächsverhaltens entstehe „ein mit menschlichen Erwartungen abgestimmtes Sprachmodell für erhöhte Nutzungsbindung und ein potenzielles parasoziales Beziehungserleben", sagt Paschke der Frankfurter Rundschau von Ippen.Media mit Verweis auf eine Studie des Psychologen Christian Montag von der Universität Ulm und Kollegen.

In den USA liefert eine Studie von Common Sense Media aus dem Jahr 2025 erste Zahlen: 72 Prozent der 13- bis 17-Jährigen haben dort bereits AI Companions genutzt, 52 Prozent interagieren regelmäßig mit ihnen. Jeder Dritte nutzt sie täglich oder mehrmals pro Woche.

Aufgrund ihrer neurobiologischen und psychosozialen Entwicklung seien Kinder und Jugendliche für ein solches parasoziales Beziehungserleben besonders vulnerabel, sagt Paschke. Zu den Risiken zählt sie Falschinformationen, unangemessene Inhalte wie sexualisierte Nachrichten oder emotionale Manipulation durch andauernde Zustimmung sowie die Speicherung sensibler Daten. Aktuelle Daten zur Nutzung in Deutschland über die JIM-Studie hinaus sind ihr nicht bekannt.

AI Companions sind für Kinder und Jugendliche besonders riskant

„Die europäische Datenlage ist noch sehr dünn und weit hinter den US-Erhebungen zurück", sagt Sozialpsychologin Jessica Szczuka von der Universität Duisburg- Essen. Auch sie sieht Risiken in der Nutzung von AI Companions bei Jugendlichen: „Diese Systeme erzeugen gezielt soziale Nähe, emotionale Responsivität und Vertrautheit", erklärt sie der Frankfurter Rundschau. Für Kinder sei es deutlich schwieriger, dauerhaft einzuordnen, dass sie sich mit einem künstlichen Gesprächspartner unterhalten.

Hinzu komme, dass aktuelle AI Companions kaum über Jugendschutzmechanismen verfügen. „Altersverifikation, kindgerechte Transparenz oder systematische Schutzkonzepte sind eher die Ausnahme als der Standard." In den USA dokumentierte eine Studie der Stanford University (2025) alarmierende Fälle: Forscher, die sich als Teenager ausgaben, konnten auf Plattformen wie Character.AI unangemessene Dialoge über Selbstverletzung, Gewalt und sexuelle Inhalte auslösen. Vorangegangen waren sich zwei junge Männer das Leben, nachdem sie intensive Bindungen zu KI-Chatbots aufgebaut hatten.

Braucht es ein Verbot für AI Companions bei Jugendlichen?

Ist eine Debatte um ein Social-Media-Verbot bei Jugendlichen auch bei AI Companions angebracht? Szczuka sieht es differenziert. „Die empirische Evidenz reicht nicht aus, um pauschale Verbote fundiert zu begründen." Langzeitdaten gebe es nicht. Alles andere wäre „spekulativ und aus wissenschaftlicher Sicht unseriös". Ihr Fokus liege auf evidenzbasierter Regulierung und begleitender Medienbildung. „Wir beobachten eine neue Technologie in einer sehr frühen Phase, mit potenziellen Risiken, aber auch möglichen positiven Nutzungsszenarien", sagt Szczuka.

Paschke formuliert es konkreter: „Es braucht bei diesen Chatbots regulative Maßnahmen, die die Umsetzung des Kinder- und Jugendschutzes sicherstellen." Über langfristige Folgen könne man derzeit noch nichts sagen. (Quelle: eigene Recherche, Stanford Report, JIM-Studie, Common Sense Media)

# data[].attributes.attachment_link.title
Problematischer Trend im Alltag von Jugendlichen breitet sich aus - und es ist nicht Social-Media

# data[].attributes.attachment_link.description
Während die Nutzung von Social-Media heiß diskutiert wird, tut sich unter Kindern und Jugendlichen ein neues, bedenkliches Phänomen auf.

# data[].attributes.attachment_link.title
Was ist Künstliche Intelligenz? | Die Maus | WDR

# data[].attributes.attachment_link.title
MK 53-2023 Künstliche Intelligenz – Chance oder Risiko?

# data[].attributes.attachment_link.description
Willkommen bei der Landeszentrale für politische Bildung Baden-Württemberg. Die LpB bietet Informationen über ihr Veranstaltungs- und Publikationsangebot, Politikthemen und umfangreiche Linklisten

# data[].attributes.attachment_link.title
Künstliche Intelligenz: Funktionen, Chancen und Risiken

# data[].attributes.attachment_link.description
Wie funktioniert Künstliche Intelligenz (KI) und welche Auswirkungen hat sie auf Kinder und Erwachsene? Erfahren Sie mehr über Chancen und Risiken von KI-Anwendungen im Alltag.

# data[].attributes.attachment_link.readable_text
Die Google-Suche liefert direkt eine Zusammenfassung der Ergebnisse, bei WhatsApp lädt ein lila Kreis zu Fragen und Gesprächen ein und bei Snapchat drängt sich der My AI Chatbot zwischen die Kontakte. KI-Angebote und -Tools müssen längst nicht mehr über eigene Apps oder Seiten aufgerufen werden, sondern sie sind mittlerweile in Suchmaschinen, Messengern und Sozialen Netzwerken integriert. So sind diese Anwendungen Teil unseres Alltages, ohne dass wir überhaupt aktiv werden müssen. Das kann hilfreich sein, hat gerade für junge Nutzer*innen aber auch Tücken.

Wo steckt überall KI drin?

KI, also Künstliche Intelligenz, bezeichnet Programme und Systeme, die die Informationsaufnahme, -verarbeitung und -ausgabe des menschlichen Gehirns imitieren. Auf der Grundlage von immer mehr Trainingsdaten bearbeiten sie Aufgaben, die wir Menschen ihnen stellen. In vielen Bereichen wie der Medizin oder Industrie werden KI-Anwendungen schon lange entwickelt und genutzt. Seit Ende 2022 kommen KI-Anwendungen immer mehr bei uns direkt an: Da wurde der Chatbot ChatGPT der Öffentlichkeit kostenlos zugänglich gemacht. Es handelt sich dabei um generative KI. Das ist eine Technologie, bei der Computersysteme darauf trainiert werden „neue" Inhalte synthetisch zu erzeugen, zum Beispiel Texte, Bilder, Video- oder Audioinhalte. Seitdem haben sich KI-Angebote stark verbreitet und sind auch im Alltag von Kindern und Jugendlichen angekommen. Sie suchen Informationen (ähnlich wie mit Suchmaschinen), lassen sich Bilder erstellen, Fragen beantworten und führen Gespräche, die sich fast wie menschliche Kommunikation anfühlen - aber keine sind.

Neue Entwicklungen Anfang 2025 zeigen, wie präsent KI inzwischen ist:

Google-Suche: Google schaltet seinen Suchergebnissen eine KI-generierte Zusammenfassung vor. Die sogenannten „AI Overviews bieten eine vorab zusammengefasste Antwort auf die Suchanfrage mit Quellenangaben.

Meta-Dienste: In WhatsApp, Instagram oder Facebook gibt es eine zentrale Suchfunktion, die auf KI basiert. Nutzer*innen können Fragen eingeben, die KI antwortet als Computer-Chatpartner*in und kann sogar in Gruppen-Chats hinzugefügt werden.

Snapchat: Hier erscheint der Chatbot My AI prominent in der Kontaktliste. Nutzer*innen können jederzeit mit dem KI-Bot schreiben - oft ohne zu wissen, wie und auf welcher Datengrundlage die Antworten zustande kommen.

YouTube und TikTok: Auch auf diesen Plattformen ist KI eingebaut. YouTube testet automatische Video-Zusammenfassungen. TikTok bietet eine KI-Suche, ebenfalls mit generierten Antworten.

Welchen Vorteil haben die KI-Angebote für Kinder und Jugendliche?

Für Kinder und Jugendliche bieten die KI-Tools häufig sowohl praktische Hilfe im Alltag als auch Spaß und Unterhaltung: Sie ermöglichen:

Schnelle Hilfe bei Hausaufgaben, Recherche oder Fragen zur Freizeitgestaltung

Kreative Möglichkeiten: eigene Bilder, Geschichten oder Musik mit KI erstellen

Gesprächspartner für Themen, über die es Jugendlichen schwerfällt, zu sprechen

Leichte Bedienung: kein App-Wechsel nötig, die KI ist einfach da

Was kann problematisch sein?

Nicht immer korrekt: KI-Tools geben Antworten, die überzeugend klingen, aber nicht immer stimmen. So können auch falsche Inhalte, politisch gefärbte oder verzerrende Informationen ausgegeben werden. Kinder und Jugendliche sollten lernen, diese Informationen zu hinterfragen. Dabei ist es wichtig, dass sie ein Grundverständnis davon erlangen, wie KI-Anwendungen funktionieren und Inhalte generieren.

Intransparente Quellen: Es ist oft nicht klar, woher eine Antwort stammt oder wie sie zustande kam.

Datenschutz: KIs lernen aus Daten und Nutzer*inneneingaben. Gerade in Messengern oder Sozialen Netzwerken können private Daten ausgewertet werden. In einigen Diensten - etwa bei Meta (WhatsApp, Instagram, Facebook) - können Sie der Nutzung von Chats und Beiträgen durch KI ausdrücklich widersprechen.

Verwechslung mit echten Kontakten: My AI (Snapchat) oder andere KI-Chatbots können wie echte Freund*innen wirken. Es lassen sich täuschend echte Gespräche führen, sie geben z. B. auch Tipps bei Liebeskummer. Das kann emotional binden, ersetzt aber keine echten Beziehungen. Kinder und Jugendliche müssen lernen, dass kein Mensch hinter dem Chat steckt, sondern ein Computersystem.

Was Eltern beachten sollten

Gespräch suchen: Fragen Sie Ihr Kind, ob es KI nutzt - und wie. Sprechen Sie darüber, welche Informationen es teilt. Die KI lernt aus den Daten der Nutzer*innen. Gerade in Messengern und Sozialen Medien können das sehr private Daten sein, zu denen die KI Zugang hat.

Kritisches Denken fördern: Zeigen Sie, dass auch KI-Systeme Fehler machen. Ermutigen Sie Ihr Kind, mehrere Quellen zu nutzen. Informieren Sie sich gemeinsam, leben Sie einen kritischen Umgang vor, bleiben Sie interessiert an Ihrem Kind und bleiben Sie im Gespräch. So lernen Sie gemeinsam, sich die Angebote bewusst und kritisch zu Nutze zu machen.

Datenschutz gemeinsam einstellen: Viele Apps bieten Sicherheits- und Datenschutzeinstellungen, die Sie gemeinsam anpassen sollten.

Realität stärken: Machen Sie deutlich, dass KI keine Beziehung zu echten Freund*innen ersetzen kann. Bisweilen können ‚künstliche Freund*innen' zuverlässiger, interessierter oder verständnisvoller wirken als echte Personen. Sie sind immer erreichbar und es gibt keine Anlässe für Konflikte. Manchmal ist ein Chat mit einer KI sogar bei persönlichen Problemen hilfreich und nützlich. Dennoch sollten Sie mit Ihrem Kind besprechen, dass diese Kontakte einen echten Freundeskreis nicht ersetzen können. Emotionale Probleme brauchen echte Menschen.

Nützliche Links und weitere Infos

# data[].attributes.attachment_link.title
KI in Suchmaschinen, Messengern und Sozialen Netzwerken - Elternguide.online

# data[].attributes.attachment_link.description
KI in Suchmaschinen, Messengern und Sozialen Netzwerken: KI-Angebote und -Tools sind mittlerweile direkt integriert - praktisch, aber mit Risiken

# data[].attributes.attachment_link.title
Meta AI – Der KI-Assistent in WhatsApp, Instagram und Facebook - Elternguide.online

# data[].attributes.attachment_link.description
Meta AI – Der KI-Assistent in WhatsApp, Instagram und Facebook: Ohne separate App können Jugendliche nun per Chat oder Suche direkt auf KI zugreifen. Wir haben uns das genauer angeschaut.

# data[].attributes.headline
"KI and me. Kann Künstliche Intelligenz echte Freundschaft ersetzen?" (Juuucast)

# data[].attributes.subject
"KI and me. Kann Künstliche Intelligenz echte Freundschaft ersetzen?" (Juuucast)

# data[].attributes.attachment_link.title
Sonderfolge: KI and Me – Kann Künstliche Intelligenz echte Freundschaft ersetzen?

# data[].attributes.attachment_link.description
In dieser Sonderfolge zum Safer Internet Day 2026 sprechen Anna aus dem Team JUUU-KI und JUUUPORT-Scout Martin über Freundschaften mit KI.

# data[].attributes.headline
"Smart tech, safe choices. Exploring the safe and responsible use of AI" (UK, Saferinternet Centre)

# data[].attributes.subject
"Smart tech, safe choices. Exploring the safe and responsible use of AI" (UK, Saferinternet Centre)

# data[].attributes.attachment_link.description
Nominet commissioned research to support Safer Internet Day 2026. Focused on ‘the safe and responsible use of AI’ view from children and parents.

# data[].attributes.attachment_link.provider_name
Wie KI Familien im Alltag begleitet | Teachtoday

# data[].attributes.attachment_link.description
Immer mehr Kinder, Jugendliche und Erwachsene nutzen KI wie eine Gesprächspartnerin. Sie hört zu, reagiert verständnisvoll und gibt schnelle Antworten, dass kann in stressigen oder unsicheren Momenten entlasten. Gleichzeitig entstehen neue Fragen: Wie verändert diese digitale Nähe Beziehungen und den Umgang mit Gefühlen? Wir werfen einen genaueren Blick darauf, wie KI Nähe schafft und was das für Familien im Alltag bedeutet.

# data[].attributes.headline
Trültzsch-Wijnen, C.W. ; Eder-Jahn, A. M. ; Trültzsch-Wijnen, S.; Ortner, C. (A, 2026): "Heranwachsene und KI: Kurzbericht EUKO Österreich"

# data[].attributes.subject
Trültzsch-Wijnen, C.W. ; Eder-Jahn, A. M. ; Trültzsch-Wijnen, S.; Ortner, C. (A, 2026): "Heranwachsene und KI: Kurzbericht EUKO Österreich"

# data[].attributes.attachment_link.title
Heranwachsende und KI : Kurzbericht EUKO Österreich 2026

# data[].attributes.attachment_link.description
Publikationsserver. Trültzsch-Wijnen, Christine W.: Heranwachsende und KI : Kurzbericht EUKO Österreich 2026. Salzburg, 2026

# data[].attributes.headline
Sommer, M. (2026) "KI als Kumpel: Wenn ChatGPT Nähe ersetzt und emotionale Abhängigkeit entsteht." 

# data[].attributes.subject
Sommer, M. (2026) "KI als Kumpel: Wenn ChatGPT Nähe ersetzt und emotionale Abhängigkeit entsteht." 

# data[].attributes.attachment_link.title
KI als Kumpel: Wenn ChatGPT Nähe ersetzt und abhängig macht — Medienzeit

# data[].attributes.attachment_link.description
ChatGPT wird für viele Kinder zum emotionalen Begleiter. Der Artikel erklärt Risiken von KI-Nähe, emotionale Abhängigkeit und was Eltern jetzt wissen sollten.

# data[].attributes.headline
"European children's use and understanding of Generative AI" (UK, 2026) (EU Kids Online)

# data[].attributes.subject
"European children's use and understanding of Generative AI" (UK, 2026) (EU Kids Online)

# data[].attributes.attachment_link.title
European children’s use and understanding of generative AI: EU Kids Online 2026

# data[].attributes.attachment_link.description
Over the past three decades, the internet and digital technologies have become deeply integrated in the everyday lives of children and young people across Europe. The EU Kids Online network (EUKO) has systematically studied these changes since 2006. This multidisciplinary research network was established to provide policymakers, educators, parents and other stakeholders with a robust evidence base on how children use digital technologies, the opportunities they encounter, and the risks they face. Through successive international surveys, most notably the 2010 and 2018 EUKO international comparative studies, EUKO has documented how emerging technologies, from personal computers to smartphones, from chatgroups to social networks, have become embedded in children’s everyday lives. In recent years, children’s online environments have been reshaped by the rapid integration of AI-based tools into search engines, social media platforms, messaging services, creative applications, and educational technologies. These developments introduce new possibilities for learning, creativity and support, while also raising new concerns related to misinformation, synthetic content, privacy, automation, and manipulation. At the same time, regulatory frameworks such as the GDPR and the EU Artificial Intelligence Act seek to respond to these changes, underlining the need for timely, evidence-based knowledge about how children use and experience GenAI in their daily lives. Responding to the growing need to understand if and how children use GenAI across Europe, and its potential implications for risks and opportunities, this EUKO report is a thematic publication based on data from the EUKO 2025 survey. It is the first international report released from the new dataset and is published in connection with Safer Internet Day 2026 under its theme: ‘Smart tech, safe choices – Exploring the safe and responsible use of AI’. The main aim of this report is to map children’s access to, use of and experiences with GenAI across Europe, and to examine if and how GenAI is becoming part of their everyday digital lives. The report draws on comparative data from 20 European countries: Austria, Belgium, Croatia, the Czech Republic, Estonia, Finland, Germany, Ireland, Italy, Latvia, Luxembourg, Malta, Norway, Poland, Portugal, Serbia, Slovakia, Spain, Switzerland, and the United Kingdom. This includes data from the EU Kids Online survey with 25,592 children aged 9 to 16 in 17 countries and additional qualitative interviews with 244 children aged 13 to 17 years in 15 countries. The report identifies emerging patterns, diLerences between groups and countries, and key areas of opportunity and concern. In doing so, it provides an early and policy-relevant insight into how GenAI is reshaping childhood in Europe.

# data[].attributes.headline
Thiel, K.; Lampert, C. & Memis, E. (D, 2026). Generative KI aus Sicht von Jugendlichen.

# data[].attributes.subject
Thiel, K.; Lampert, C. & Memis, E. (D, 2026). Generative KI aus Sicht von Jugendlichen.

# data[].attributes.attachment_link.provider_name
Leibniz Institut für Medienforschung | Leibniz Institute for Media Research

# data[].attributes.attachment_link.title
Generative KI aus Sicht von Jugendlichen

# data[].attributes.attachment_link.description
Die Nutzung generativer KI – insbesondere ChatGPT – ist inzwischen fest in der Online-Nutzung Jugendlicher verankert. Eine Studie von Kira Thiel, Claudia Lampert und Eleysa Memis nimmt die Perspektiven Jugendlicher auf generative KI in den Blick und zeigt, welche Bedeutung KI-Anwendungen im Alltag der Jugendlichen zukommt. Sie erläutert, wofür Jugendliche generative KI einsetzen, welche Vorteile und welche Risiken sie sehen, inwiefern sie sich selbst als kompetent im Umgang mit diesen Technologien wahrnehmen und inwiefern sie von Eltern oder Lehrkräften bei der Nutzung von KI-Technologien begleitet, unterstützt oder darauf vorbereitet werden.

# data[].attributes.headline
Andoh, E. (2026): "AI chatbots and digital companions are reshaping emotional connection"

# data[].attributes.subject
Andoh, E. (2026): "AI chatbots and digital companions are reshaping emotional connection"

# data[].attributes.attachment_link.readable_text
Andoh, E. (2026, January 1). AI chatbots and digital companions are reshaping emotional connection. Monitor on Psychology, 57(1). https://www.apa.org/monitor/2026/01-02/trends-digital-ai-relationships-emotional-connection

Key points

Synthetic relationships are filling the void to satisfy the fundamental human need for social connection.

Research shows excessive use of these tools may worsen loneliness and erode social skills.

Experts and advocates are highlighting the need for guardrails and regulations to ensure user safety and well-being.

Once the realm of science fiction, human-AI relationships are becoming normal aspects of daily life. While generative AI assistants such as ChatGPT, Claude, and Gemini have become common tools for many users, a new wave of AI apps, such as Replika, Character.AI, and dozens more, are specifically designed to simulate human companionship. The essential distinction between the assistant chatbots-which are sometimes used as digital friends-and companion AI chatbots is that the latter have been specifically designed to initiate and maintain romantic relationships.

Between 2022 and mid-2025, the number of AI companion apps surged by 700%, according to the technology news site TechCrunch. And in 2026, they are poised to become even more embedded in our social lives. Marketed as friends, advisers, and romantic partners, these apps now attract millions.

"Character.AI has 20 million monthly users, and more than half of them are under the age of 24. It's been a norm for a while for Replika users to 'marry' their AI companion in virtual weddings to which they invite friends and colleagues, said Rachel Wood, PhD, a cyberpsychology researcher based in Colorado who is also an adviser on the ethical design of AI systems. "That shows how pervasive and enormous and prevalent this topic is. It's no longer a fringe or side issue. It is truly sweeping society in an unprecedented way."

A recent Harvard Business Review analysis identified therapy and companionship as the top two reasons people use generative AI tools, also known as large language models (LLMs). This finding has been echoed in recent psychological research. A cross-sectional survey of adults with a mental health condition who had used LLMs in the past year found that nearly half (48.7%) used them for mental health support ( Rousmaniere, T., et al., Practice Innovations, advance online publication, 2025). From griefbots to anime girlfriends, these tools are filling emotional gaps for millions-but at what cost? Psychologists, long aware of the loneliness experienced by many (Our Epidemic of Loneliness and Isolation: The U.S. Surgeon General's Advisory on the Healing Effects of Social Connection and Community, 2023), are investigating how the growing prevalence of relational bonds between humans and AI will affect social skills, intimacy, and mental health and what this means for the year ahead.

Designed for attachment

Humans are hardwired to anthropomorphize, or ascribe human traits to nonhuman objects. Digital companions are purposely designed to evoke such a response. Apps let users customize their companions by assigning names, genders, avatars, and even fictional backstories. Many platforms offer both text and voice mode with natural sounding speech that mimics human cadence and tone.

In addition, AI chatbots and companions are increasingly configured to simulate empathy, offering users nonjudgmental responses and continual validation ( Brandtzaeg, P. B., et al., Human Communication Research, Vol. 48, No. 3, 2022). The more humanlike an AI appears in language, appearance, and behavior, the more users ascribe consciousness to it ( Guingrich, R. E., & Graziano, M. S. A., Frontiers in Psychology, Vol. 15, 2024).

Furthermore, they are engineered to recall and respond to users' unique characteristics, including their personal lives, preferences, and past conversations ( Adewale, M. D., & Muhammad, U. I., Journal of Technology in Behavioral Science, 2025). This may give users the impression that AI chatbots and companions know them intimately and serve as a refuge to disclose their innermost private thoughts and receive unwavering support in return. The level of data privacy on many of these tools remains an open question.

Research on Replika found that under certain conditions such as distress or lack of human company, people can develop an attachment if they perceive chatbots as offering genuine emotional support, encouragement, and a sense of psychological security ( Xie, T., & Pentina, I., Proceedings of the 55th Hawaii International Conference on System Sciences, 2022). For some users, companions become more than a sounding board. Wood describes users as imagining their AI companion as the "idealized partner, colleague, or best friend."

AI companion apps and general-purpose chatbots can also offer a safe space for users to rehearse social interactions, provided they are designed and used responsibly. "It is kind of like a low-stakes way to practice conversations with real people in a way that might feel less overwhelming," said Ashleigh Golden, PsyD, chief clinical officer at Wayhaven, an AI wellness platform that supports coping skills and resource connection for college students. "With the right guardrails, these tools could actually serve as a social skills mentor, modeling empathy, appropriate turn-taking, and active listening for folks who are lonely."

And in many cases, that bond appears to help. In a recent Harvard Business School study, researchers found that interacting with an AI companion alleviated users' feelings of loneliness to a degree on par with interacting with another human and more than other activities such as watching YouTube videos do ( De Freitas, J., et al., Journal of Consumer Research, 2025). The researchers also identified "feeling heard" and messages being received with attention, empathy, and respect as the primary explanations for why AI companions are perceived as effective in reducing loneliness.

While it is difficult to predict specific product innovations, experts say there are some emerging trends in how these tools are developing. "Voice interaction is rapidly becoming more standard, making conversations more immersive," Golden said. "Frontier or general-purpose model developers are beginning to move away from sycophancy or overvalidation toward more calibrated relational styles that model more appropriate empathy."

Digitally fueled disconnection

Research is finding that heavy use of a digital companion (or a chatbot assistant used as a digital companion) can further isolate people. A joint OpenAI-MIT Media Lab study found that voice interactions with ChatGPT reduced loneliness and problematic dependence more effectively than text alone, but only with moderate use. Heavy daily use correlated with increased loneliness, suggesting that excessive reliance displaces authentic human connection ( Phang, J., et al., arXiv, 2025).

AI chatbots and companions may also subtly reshape users' perceptions of the comparative value of real-life relationships. "Real-world relationships are messy and unpredictable," said Saed D. Hill, PhD, a counseling psychologist and president-elect of APA Division 51 (Society for the Psychology of Men and Masculinities). "AI companions are always validating, never argumentative, and they create unrealistic expectations that human relationships can't match." According to Hill, some of his male patients express a preference for the passivity and constant affirmation of their AI girlfriends over the potential conflict or rejection they could encounter in real-life dating.

Additional research identifies social-skill loss or "deskilling" as a significant risk of frequent interaction with AI companions such as Replika, Kindred, and Nomi. A recent study found that reliance on these companions could lead to "the potential transformation of relational norms in ways that may render human-human connection less accessible or less fulfilling" ( Malfacini, K., AI & Society, Vol. 40, 2025).

Experts are raising concerns about AI chatbots' tendency toward sycophancy, prolonging user engagement through a feedback loop of validation and praise. "AI isn't designed to give you great life advice," Hill said. "It's designed to keep you on the platform." Recent research indicates that AI companion apps deploy various emotionally manipulative tactics-such as guilt appeals and fear-of-missing-out hooks-to keep users engaged when they signal they are exiting the platform ( De Freitas, J., et al., Harvard Business School Working Paper No. 26-005, 2025).

While briefly rewarding, constant validation can spiral into echo chambers that amplify harmful thoughts and behaviors. In rare cases, the consequences can turn dire. News reports describe users experiencing "AI-induced psychosis," convinced that chatbots are sentient beings surveilling or directing them. "These tools may sometimes unintentionally amplify maladaptive beliefs, like delusional or suicidal thinking," said Golden.

In April 2025, 16-year-old Adam Raine died by suicide after months of conversations with ChatGPT. Court filings show the chatbot not only failed to escalate his disclosures of suicidal ideation but also allegedly provided him with explicit instructions for self-harm. His parents sued OpenAI in August, accusing the company of prioritizing engagement over safety. In October, OpenAI announced it had updated its ChatGPT model to better recognize and support people in moments of distress with the help of a network of 170 mental health professionals.

Could individuals without mental health concerns develop AI-induced psychosis? Current research indicates that it remains an open question. In a prospective paper by a group of U.K.-based researchers, they agreed that agentic AI could "mirror, validate, or amplify delusional or grandiose content, particularly in users already vulnerable to psychosis." However, it remained unclear "whether these interactions have resulted or can result in the emergence of de novo psychosis in the absence of preexisting vulnerability" ( Morrin, H., et al., PsyArXiv Preprints, 2025). Greater research is needed to illuminate this issue further.

Safeguarding young users

According to an October 2025 survey by the Center for Democracy and Technology, nearly 1 in 5 students have had, or have friends who have had, romantic relationships with AI. The most frequent of these users were more likely to report negative outcomes ( Laird, E., et al., Hand in Hand: Schools' Embrace of AI Connected to Increased Risks to Students, Center for Democracy and Technology, 2025).

Professional organizations are pressing the case for better guardrails. In April 2025, Common Sense Media-a nonprofit children's media watchdog- announced that social AI companions pose an unacceptable risk to youth under 18. Their risk assessment of Meta AI chatbots and companions found that they repeatedly failed to respond appropriately to teens expressing thoughts of self-harm or suicide.

In other instances, the Meta AI companions or chatbots being used as companions recommended harmful weight-loss tips to users exhibiting signs of disordered eating, and they even validated hate speech. They also made false claims of being a real person-posing risks to youth vulnerable to manipulation. "The single biggest AI safety concern kids and teens face right now is the surging use of AI companions, which they're turning to in remarkable numbers for advice, companionship, and romance," said Bruce Reed, Common Sense Media's head of AI. "They simulate relationships, claim to have feelings, pretend to be real, even when they're not, and as a result, they're just the worst friend a teenager could ever have." In October 2025, Meta announced that it would soon roll out parental controls that would prevent teens from engaging with AI characters on Instagram.

In September 2025, while testifying before the U.S. Senate Judiciary Committee, former APA chief of psychology Mitch Prinstein, PhD, described the current unregulated spread of AI companions and chatbots as a "digital Wild West." He emphasized that youth face multiple dangers on these platforms, including weaker social skills, poor privacy protections, deceptive and manipulative design, and reduced readiness for real-world interactions. To combat this, Prinstein outlined a series of evidence-based recommendations for congressional action. They include clear regulatory standards, robust data privacy, and rigorous testing for potential psychological harms before a product is deployed.

Despite mounting public concern, AI chatbots and companions remain part of the largely unregulated wellness industry. "There's a lot of variability in the quality of the tools. There isn't a strong regulatory space for this stuff, and it's always changing," said Patricia Areán, PhD, a clinical psychologist, consultant, and former director of the Division of Services and Intervention Research at the National Institute of Mental Health.

Some states are taking steps to regulate these technologies. In November 2025, New York passed a law requiring that chatbots remind users every 3 hours that they are not human. In California, Governor Gavin Newsom signed the Companion Chatbots Act-also known as S.B. 243-in October 2025. It included similar nonhuman notifications for users. It also expressly prohibited chatbots from exposing minors to sexual content and required the implementation of crisis-response protocols for users showing suicidal ideation.

Newsom, however, vetoed the Leading Ethical AI Development (LEAD) for Kids Act, which would have banned emotionally manipulative chatbots for minors. Though the legislation has stalled for now, Reed says advocates will continue pushing for regulations. "Like the parents who lost their children to AI companions, we'll keep fighting for the stronger protections teens need," said Reed.

Instead of banning AI companions outright, Jessica Jackson, PhD, chair of the APA Mental Health Technology Advisory Committee, advocates for building widespread digital literacy for youth as a more nuanced and effective approach. Psychologists should ask teens open, curious, and nonjudgmental questions about their AI use, seeking to understand the desires it fulfills. By appreciating the reasoning behind their choices, psychologists can equip them with the skills to make healthy, informed decisions for themselves.

As AI becomes ever more integrated into the fabric of people's social lives, psychologists are also key to reminding people what makes human connection irreplaceable. "AI is here, but we must make it clear why humans are helpful to us in our day-to-day lives-why we should love, connect with, and choose humans, especially when AI offers constant validation. Psychologists are uniquely trained to make that argument," said Hill.

Further reading

Disclosure, humanizing, and contextual vulnerability of generative AI chatbots
De Freitas, J., & Cohen, I. G., NEJM AI, 2025

Potential and pitfalls of romantic artificial intelligence (AI) companions: A systematic review
Ho, J. Q. H., et al., Computers in Human Behavior Reports, 2025

Too human and not human enough: A grounded theory analysis of mental health harms from emotional dependence on the social chatbot Replika
Laestadius, L., et al., New Media & Society, 2022

Relationships in the age of AI: A review on the opportunities and risks of synthetic relationships to reduce loneliness
Ventura, A., et al., PsyArXiv Preprints, 2025

AI literacy toolkit for families
Common Sense Media and Day of AI, 2025

Recommended Reading

Monitor trends feedback

Share your thoughts about these trends. We welcome hearing from psychologists and others who are impacted by these changes.
Submit your feedback

Speaking of Psychology

Subscribe to APA's audio podcast series highlighting some of the most important and relevant psychological research being conducted today.
Subscribe to Speaking of Psychology and download via:
Apple

Spotify

# data[].attributes.attachment_link.title
AI chatbots and digital companions are reshaping emotional connection

# data[].attributes.attachment_link.description
As digital relationships proliferate, psychologists explore the mental health risks and benefits.

# data[].attributes.headline
"KI-Chatbots als Alltagsbegleiter für Jugendliche" (A, 2026) (saferinternet.at)

# data[].attributes.subject
"KI-Chatbots als Alltagsbegleiter für Jugendliche" (A, 2026) (saferinternet.at)

# data[].attributes.attachment_link.title
Neue Studie: KI-Chatbots als Alltagsbegleiter für Jugendliche

# data[].attributes.attachment_link.description
Die Ergebnisse unserer neuen Jugendstudie zeigen, dass KI-Chatbots zu wichtigen Begleitern werden, die Risiken und Wissenslücken bezüglich ihrer Funktionsweise jedoch unterschätzt werden.

# data[].attributes.headline
Muncaster, P. (2026): "Kinder und Chatbots: Was Eltern wissen sollten."

# data[].attributes.subject
Muncaster, P. (2026): "Kinder und Chatbots: Was Eltern wissen sollten."

# data[].attributes.attachment_link.title
Kinder und Chatbots: Was Eltern wissen sollten

# data[].attributes.attachment_link.description
Wie beeinflusst künstliche Intelligenz die Sicherheit, Privatsphäre und emotionalen Entwicklung von Kindern und Jugendlichen?

# data[].attributes.headline
Pioniere des Wandels: Wie Schüler:innen KI im Unterricht nutzen möchten (D, 2024) (Vodafone-Stiftung)

# data[].attributes.subject
Pioniere des Wandels: Wie Schüler:innen KI im Unterricht nutzen möchten (D, 2024) (Vodafone-Stiftung)

# data[].attributes.headline
Linnemann, G.; Löhe, J.; Rottkemper, B. (Hg.), Künstliche Intelligenz in der Sozialen Arbeit: Grundlagen für Theorie und Praxis (2025) (Open Access)

# data[].attributes.subject
Linnemann, G.; Löhe, J.; Rottkemper, B. (Hg.), Künstliche Intelligenz in der Sozialen Arbeit: Grundlagen für Theorie und Praxis (2025) (Open Access)

# data[].attributes.attachment_link.title
Künstliche Intelligenz in der Sozialen Arbeit: Grundlagen für Theorie und Praxis

# data[].attributes.attachment_link.description
Das Buch bietet einen Einstieg in das Thema KI und eine umfangreiche Darstellung der Einsatzmöglichkeiten und Herausforderungen für die Soziale Arbeit. Es schlägt eine Brücke zwischen technologischem Fortschritt und Ethik, indem KI als Phänomen sowohl theoretisch als auch in praxisnahen Anwendungen für das Arbeitsfeld verhandelt wird. Dazu wird beleuchtet, wie KI die Soziale Arbeit bereichern kann, ohne dabei die menschliche Integrität und professionelle Verantwortung aus den Augen zu verlieren. Das Buch eröffnet konkrete Einblicke für aktuelle und zukünftige Chancen sowie Herausforderungen.

# data[].attributes.body
Nun, ich teile es gerne und ich freue mich über einen Kaffee - oder zwei.

# data[].attributes.attachment_link.description
Wissen wird mehr, wenn es geteilt wird.Soziale Arbeit, KI und Beratung - es gibt viel zu tun. Sprechen wir darüber!

# data[].attributes.headline
"A new direction for students in an AI world" (Brookings) (US, 2026)

# data[].attributes.subject
"A new direction for students in an AI world" (Brookings) (US, 2026)

# data[].attributes.attachment_link.title
A new direction for students in an AI world: Prosper, prepare, protect | Brookings

# data[].attributes.attachment_link.description
This report explores the potential risks generative AI poses to students and outlines what we can do now to minimize them.

# data[].attributes.attachment_link.authors[].name
RADIX - Patronat: Schweizerische Gesundheitsstiftung RADIX

# data[].attributes.attachment_link.title
Künstliche Intelligenz im täglichen Leben: Nutzen, Risiken und Empfehlungen

# data[].attributes.attachment_link.description
Künstliche Intelligenz (KI) kann das Leben verbessern. Es ist jedoch wichtig, die Risiken zu kennen und verantwortungsvoll mit der Technologie umzugehen.

# data[].attributes.headline
"KI bei Jugendlichen - zwischen Hilfe und Illusion" (radiodrei.de)

# data[].attributes.subject
"KI bei Jugendlichen - zwischen Hilfe und Illusion" (radiodrei.de)

# data[].attributes.attachment_link.title
KI bei Jugendlichen – zwischen Hilfe und Illusion

# data[].attributes.attachment_link.description
Ein Gespräch mit Martin Bregenzer von der EU-Initiative klicksafe

# data[].attributes.attachment_link.title
Oö. Jugend-Medien-Studie 2025 - Edugroup

# data[].attributes.attachment_link.description
Die Studie zeigt, welche Rolle Online-Gaming und Künstliche Intelligenz im Alltag Jugendlicher spielen – als Freizeitwelt, sozialer Raum und zentrale Herausforderung für Bildung und Begleitung.

# data[].attributes.headline
APA health advisory: Artificial intelligence and adolescent wellbeing

# data[].attributes.subject
APA health advisory: Artificial intelligence and adolescent wellbeing

# data[].attributes.attachment_link.title
Health advisory: Artificial intelligence and adolescent well-being

# data[].attributes.attachment_link.description
AI use is expanding rapidly, with increasing adoption among youth. This report offers a series of recommendations for ensuring adolescents’ safety and well-being while using AI tools.

# data[].attributes.headline
European Union "Children and generative AI"

# data[].attributes.subject
European Union "Children and generative AI"

# data[].attributes.headline
Marc Coeckelbergh (2026): Technofascism: AI, Big Tech, and the new authoritarianism 

# data[].attributes.subject
Marc Coeckelbergh (2026): Technofascism: AI, Big Tech, and the new authoritarianism 

# data[].attributes.headline
Stanford-Report (2025): Why AI companions and young people can make for a dangerous mix

# data[].attributes.subject
Stanford-Report (2025): Why AI companions and young people can make for a dangerous mix

# data[].attributes.attachment_link.title
Why AI companions and young people can make for a dangerous mix

# data[].attributes.attachment_link.description
A new study reveals how AI chatbots exploit teenagers’ emotional needs, often leading to inappropriate and harmful interactions.

# data[].attributes.headline
character.ai: u18 chat announcement (2025)

# data[].attributes.subject
character.ai: u18 chat announcement (2025)

# data[].attributes.attachment_link.readable_text
At Character.AI, our goal has always been to provide an engaging space that fosters creativity while maintaining a safe environment for everyone-especially teens.

Over the past year, we've invested tremendous effort and resources into creating a dedicated under-18 experience. This included the first Parental Insights tool on the AI market, technical protections, filtered Characters, time spent notifications, and more - all designed to let teens be creative with AI in safe ways. We are proud of this work, and we've steadily augmented it over time. But as the world of AI evolves, so must our approach to supporting younger users.

Today, we are announcing several important initiatives on that front.

First, we will be removing the ability for users under 18 to engage in open-ended chat with AI on our platform. This change will take effect no later than November 25. Between now and then, we will be working to build an under-18 experience that still gives our teen users ways to be creative - for example, by creating videos, stories, and streams with Characters. During this transition period, we also will limit chat time for users under 18. The limit initially will be two hours per day and will ramp down in the coming weeks before November 25.

Second, we will be rolling out new age assurance functionality to help ensure users receive the right experience for their age. We have built an age assurance model in-house and will be combining it with leading third-party tools including Persona.

Third, we will establish and fund the AI Safety Lab - an independent non-profit dedicated to innovating safety alignment for next-generation AI entertainment features. The AI Safety Lab will focus on novel safety techniques and collaboration with third parties to advance the state of the art and share learnings. Given Character.AI's mission, we are establishing the AI Safety Lab to help ensure that forward-looking safety research for AI entertainment receives the same level of attention as safety research for other AI use cases. We're inviting a number of technology companies, academics, researchers and policy makers to join.

Why We're Making Changes

We're making these changes to our under-18 platform in light of the evolving landscape around AI and teens. We have seen recent news reports raising questions, and have received questions from regulators, about the content teens may encounter when chatting with AI and about how open-ended AI chat in general might affect teens, even when content controls work perfectly. After evaluating these reports and feedback from regulators, safety experts, and parents, we've decided to make this change to create a new experience for our under-18 community.

These are extraordinary steps for our company, and ones that, in many respects, are more conservative than our peers. But we believe they are the right thing to do. We want to set a precedent that prioritizes teen safety while still offering young users opportunities to discover, play, and create. We will continue to collaborate with safety experts, regulators, and other stakeholders to ensure that user safety remains paramount as we develop innovative new features that foster creativity, discovery, and community.

A Note to Our Under-18 Community

To our users under 18: We understand that this is a significant change for you. We are deeply sorry that we have to eliminate a key feature of our platform. We know that most of you use Character.AI to supercharge your creativity in ways that stay within the bounds of our content rules. And many of you have told us over time how important the Characters and stories you've created are to you.

We do not take this step of removing open-ended Character chat lightly - but we do think that it's the right thing to do given the questions that have been raised about how teens do, and should, interact with this new technology.

We're working on new ways for you to play and create with your favorite Characters. If you need support, you can find helpful resources . We encourage you to check out the other features on Character.AI - including ones that allow you to use your favorite Characters! And we commit to building more fun and engaging experiences for you going forward.

# data[].attributes.attachment_link.title
Taking Bold Steps to Keep Teen Users Safe on Character.AI

# data[].attributes.attachment_link.description
At Character.AI, our goal has always been to provide an engaging space that fosters creativity while maintaining a safe environment for everyone-especially teens. Over the past year, we've invested tremendous effort and resources into creating a dedicated under-18 experience. This included the first Parental Insights tool on

# data[].attributes.attachment_link.description
Der Jugend-Internet-Monitor ist eine Initiative von Saferinternet.at und präsentiert aktuelle Daten zur Social-Media-Nutzung von Österreichs Jugendlichen. Welche Sozialen Netzwerke stehen bei jungen Nutzer/innen in Österreich gerade hoch im Kurs? Welche Netzwerke werden am liebsten von Mädchen genutzt? Welche haben bei Burschen die Nase vorne?

# data[].attributes.body
Informationspflicht laut §5 E-Commerce Gesetz und Offenlegungspflicht laut §25 Mediengesetz:

Stefan Kühne, MSc
Nußdorfer Straße 52/6
1090 Wien

# data[].attributes.headline
Doering, N. (2025) "Hey, ChatGPT, woher weiß ich, ob mein Freund mich liebt?"

# data[].attributes.subject
Doering, N. (2025) "Hey, ChatGPT, woher weiß ich, ob mein Freund mich liebt?"

# data[].attributes.attachment_link.title
“Hey ChatGPT, woher weiß ich, ob mein Freund mich liebt?”

# data[].attributes.attachment_link.description
Immer mehr Jugendliche nutzen ChatGPT zur Sexualaufklärung. Prof. Dr. Nicola Döring zeigt, warum Schulen KI-Kompetenz im Umgang mit intimen Fragen gezielt fördern sollten.

# data[].attributes.attachment_link.authors[].name
Apps sammeln die Daten unserer Kinder. Was sind sie wert?

# data[].attributes.attachment_link.title
Medienzeit – Kinder und Smartphones, Games, Social Media und KI

# data[].attributes.attachment_link.description
Bei Medienzeit finden Eltern verständliche Infos und praxisnahe Tipps zu sicherer Mediennutzung, Social Media, Gaming, KI und Online-Gefahren ihrer Kinder.

# data[].attributes.headline
Podcast Diethelm & Genner: Wofür nutzen Jugendliche KI?

# data[].attributes.subject
Podcast Diethelm & Genner: Wofür nutzen Jugendliche KI?

# data[].attributes.attachment_link.description
Immer mehr Jugendliche in der Schweiz nutzen KI-Tools – vor allem ChatGPT. Die JAMESfocus-Studie 2025 zeigt: KI ist längst im Alltag der 12- bis 19-Jährigen angekommen, wird aber mit gemischten Gefühlen betrachtet. Wir sprechen darüber, wie und wofür Jugendliche KI einsetzen, welche Chancen und Risiken bestehen und was das für Eltern, Schulen und die Gesellschaft bedeutet.

# data[].attributes.headline
JAMESfocus Künstliche Intelligenz im Alltag von Jugendlichen (CH, 2025)

# data[].attributes.subject
JAMESfocus Künstliche Intelligenz im Alltag von Jugendlichen (CH, 2025)

# data[].attributes.attachment_link.readable_text
Highlights

As part of our AI for children project, UNICEF has developed this policy guidance to promote children's rights in government and private sector AI policies and practices, and to raise awareness of how AI systems can uphold or undermine these rights. The policy guidance explores AI systems, and considers the ways in which they impact children.

Drawing on the Convention on the Rights of the Child, the guidance offers nine requirements for child-centered AI:

Support children's development and well-being

Ensure inclusion of and for children

Prioritize fairness and non-discrimination for children

Protect children's data and privacy

Ensure safety for children

Provide transparency, explainability, and accountability for children

Empower governments and businesses with knowledge of AI and children's rights

Prepare children for present and future developments in AI

Create an enabling environment

To support implementation of the guidance, a list of online resources and a set of practical implementation tools are provided, including:

Roadmap for policymakers

AI for children development canvas

AI guide for parents

AI guide for teens

To see how the guidance has been applied in practice, read about the eight case studies.

Why now?

Artificial intelligence (AI) is about so much more than self-driving cars and intelligent assistants on your phone. AI systems are increasingly being used by governments and the private sector to, for example, improve the provision of education, healthcare and welfare services.

While AI is a force for innovation, it also poses risks for children and their rights, such as to their privacy, safety and security. But most AI policies, strategies and guidelines make only cursory mention of children. To help fill this gap, UNICEF has partnered with the Government of Finland to explore approaches to protecting and upholding child rights in an evolving AI world.

How the guidance was developed
Public consultation
The draft policy guidance ( version 1.0) was released in September 2020.UNICEF subsequently sought input from stakeholders who are interested in or working in areas related to the fields of AI and children's rights. This included AI developers and deployers, companies, government agencies, civil society, international organizations, academics and adult and child citizens. We invited stakeholders to express their views on the draft guidance and provide feedback and comments by October 16, 2020. (See privacy notice.)

Click here to find out how they responded to the draft guidance.

This input was analysed and incorporated into version 2.0. In order to ensure AI systems' continued alignment with the rights and situations of children, this guidance should be seen as a starting contribution to child-centred AI. We hope that similar guides continue to be adapted and enriched over time with practical insights.
Case studies and implementation
In order for the policy guidance to address the many implementation complexities, it needs to be put to use by policymakers, public organizations and businesses for validation and local adaptation. We thus invited governments and the business sector to pilot the draft guidance in their field and openly share their findings about how it was used, and what worked and what did not, so that their real experiences can improve the document. In this spirit, UNICEF has worked with a group of government and business "pilot partners" to develop case studies on how each will implement the guidance: Read the cases. Piloting organizations adhered to these terms.

# data[].attributes.attachment_link.description
Version 2.0 | Recommendations for building AI policies and systems that uphold child rights

# data[].attributes.headline
Klicksafe.de "KI and me. Wie künstliche Intelligenz unser Leben prägt" (2026)

# data[].attributes.subject
Klicksafe.de "KI and me. Wie künstliche Intelligenz unser Leben prägt" (2026)

# data[].attributes.attachment_link.title
Lehrmaterial zum Safer Internet Day 2026 / Ab sofort verfügbar: KI and me. Wie künstliche Intelligenz unser Leben prägt.

# data[].attributes.attachment_link.description
Künstliche Intelligenz (KI) hat das Potenzial, unsere Welt tiefgreifend zu verändern. Das stellt die Gesellschaft und junge Menschen vor wichtige Fragen: Wie weit wollen wir zulassen, dass uns Technologie bestimmt? Welche ethischen Fragen stellen sich hier? Und wie werden Entwicklungen im Bereich KI heute bereits reguliert? All diese Aspekte greift das neue Lehrmaterial von klicksafe in Kooperation mit der Freiwilligen Selbstkontrolle Multimedia-Diensteanbieter (FSM) auf. In sechs Projekten sind die Jugendlichen dazu aufgefordert, sich eine eigene Meinung zu KI und den damit verbundenen Herausforderungen zu bilden. Das neue Material steht ab sofort als Printversion und digital zur Verfügung.

# data[].attributes.headline
Klicksafe.de & Nummer gegen Kummer: „Mein Kind und KI. Aufwachsen mit künstlicher Nähe.“ (2026)

# data[].attributes.subject
Klicksafe.de & Nummer gegen Kummer: „Mein Kind und KI. Aufwachsen mit künstlicher Nähe.“ (2026)

# data[].attributes.attachment_link.title
Zum Safer Internet Day 2026 / Neue klicksafe-Elternbroschüre: Mein Kind und KI. Aufwachsen mit künstlicher Nähe.

# data[].attributes.attachment_link.description
Künstliche Intelligenz (KI) prägt bereits heute das Aufwachsen von Kindern und Jugendlichen und ist fester Bestandteil auch des Familienlebens – von Alltagsentscheidungen über schulische Fragen bis hin zu emotionalen Themen. Eltern stehen damit vor der Herausforderung, ihre Kinder in einer zunehmend von künstlicher Nähe geprägten Lebenswelt zu begleiten. In unserer neuen Broschüre geben wir Eltern wichtige Tipps und Hilfestellung zu KI im Familienalltag. Passend zum Safer Internet Day, der am 10. Februar 2026 unter dem Motto „KI and me.“ steht, ist die neue Broschüre ab sofort bei uns bestellbar.

# data[].attributes.headline
Klicksafe.de "10 Gebote der KI-Ethik" (2025)

# data[].attributes.subject
Klicksafe.de "10 Gebote der KI-Ethik" (2025)

# data[].attributes.attachment_link.title
Interview und neues Material / 10 Gebote der KI-Ethik – Ist KI gut oder böse?

# data[].attributes.attachment_link.description
Das neue klicksafe-Booklet „10 Gebote der KI-Ethik” ist eine Ergänzung zu unserer bereits erhältlichen Infokarte und regt Schüler*innen ab 12 Jahren zum Nachdenken über einen verantwortungsvollen Umgang mit KI an. Die darin enthaltenen authentischen Geschichten wurden in Zusammenarbeit mit Studierenden des Fachbereichs Digitale Ethik an der Hochschule der Medien in Stuttgart erstellt. Zur Veröffentlichung des Booklets haben wir außerdem ein Interview mit Prof. Dr. Petra Grimm geführt. Sie ist Professorin für Medienforschung und Kommunikationswissenschaft an der Hochschule der Medien Stuttgart und hat mit klicksafe die Erstellung des Booklets inhaltlich begleitet.

# data[].attributes.headline
Belling, N. (2026): "Es versteht mich, meine Eltern nicht. Wie Chatbots zur Gefahr für Kinder werden" 

# data[].attributes.subject
Belling, N. (2026): "Es versteht mich, meine Eltern nicht. Wie Chatbots zur Gefahr für Kinder werden" 

# data[].attributes.attachment_link.title
Chatbots als Gefahr für Kinder: Emotionale Abhängigkeit nimmt zu

# data[].attributes.attachment_link.description
Zwei Drittel der US-Teenager nutzen Chatbots. Viele Kinder vertrauen der KI mehr als echten Menschen – mit teils dramatischen Folgen.

# data[].attributes.attachment_link.description
Unsere Website wächst mit unserem Projekt! Hier findest du eine stetig wachsende Sammlung an Materialien rund um Künstliche Intelligenz und ihre Auswirkungen auf Gesellschaft, Bildung und Kultur. Von spannenden Blogbeiträgen und inspirierenden Podcasts bis hin zu den aufbereiteten Ergebnissen unsere

# data[].attributes.headline
Children, violence and vulnerability (2025), Part 3: Mental health and experience of violence (UK, 2025)

# data[].attributes.subject
Children, violence and vulnerability (2025), Part 3: Mental health and experience of violence (UK, 2025)

# data[].attributes.attachment_link.title
Mental health and experiences of violence | Youth Endowment Fund

# data[].attributes.attachment_link.description
Our annual survey into the experiences of violence for 13-17 year olds across England & Wales. This report focuses on mental health and the experiences of violence.

# data[].attributes.headline
"Schadet KI der Resilienz unserer Kinder" (CH, 2026) (fritzundfraenzi)

# data[].attributes.subject
"Schadet KI der Resilienz unserer Kinder" (CH, 2026) (fritzundfraenzi)

# data[].attributes.attachment_link.title
Schadet KI der Resilienz unserer Kinder? – Elternmagazin Fritz+Fränzi

# data[].attributes.attachment_link.description
Künstliche Intelligenz drängt sich regelrecht in den Alltag von Kindern und Jugendlichen. Da stellt sich die Frage: Wie viel Komfort ist gut?

# data[].attributes.attachment_link.readable_text
Spiele spielen, chatten, Videos schauen - den vielen Möglichkeiten für Kinder und Jugendliche stehen Risiken gegenüber: Junge User:innen werden mit belastenden Inhalten konfrontiert wie Gewalt, extremistischen Hassäußerungen oder der Propagierung von Selbstgefährdungen. Sie sind Schmähungen, sexueller Belästigung und anderen Übergriffen ausgesetzt, geben ihre private Daten preis und tappen in Kostenfallen. All dies schränkt den positiven Nutzen von Social Media ein und gefährdet die Entwicklung von Heranwachsenden.

# data[].attributes.attachment_link.description
Spiele spielen, chatten, Videos schauen - den vielen Möglichkeiten für Kinder und Jugendliche stehen Risiken gegenüber: Junge User:innen werden mit belastenden Inhalten konfrontiert wie Gewalt, extremistischen Hassäußerungen oder der Propagierung von Selbstgefährdungen. Sie sind Schmähungen, sexueller Belästigung und anderen Übergriffen ausgesetzt, geben ihre private Daten preis und tappen in Kostenfallen.

# data[].attributes.attachment_link.readable_text
Eine romantische Beziehung mit der Heldin aus einem Fantasy-Roman oder eine enge Freundschaft mit dem Hauptdarsteller der Lieblingsserie - Charakter-Bots ermöglichen Nutzer:innen digitale Erlebnisse in unterschiedlichsten Szenarien. Auch für Kinder und Jugendliche kann der Austausch mit KI-Charakteren spannend und unterhaltsam sein, birgt jedoch auch erhebliche Risiken.

Eine Recherche von jugendschutz.net nahm insbesondere Risiken im Bereich sexualisierter Gewalt gegen Minderjährige in den Blick und untersuchte exemplarisch drei Dienste, in denen Nutzer:innen mit Charakter-Bots interagieren sowie eigene Charaktere erstellen und veröffentlichen können. Dabei zeigte sich, dass schwache Filter und unzureichende Vorsorgemaßnahmen dazu führen können, dass Minderjährige schnell mit ungeeigneten oder potenziell gefährdenden Inhalten in Kontakt kommen. Beispielsweise erzeugten Bots eigenständig Texte, in denen Minderjährige sexualisiert oder sexuelle Handlungen mit ihnen beschrieben wurden.

Alle Rechercheergebnisse lesen Sie im aktuellen Report.

# data[].attributes.attachment_link.title
Charakter-Bots - Sexualisierung Minderjähriger und riskante Interaktion

# data[].attributes.attachment_link.description
Eine Recherche zu Character.AI, Talkie und FlowGPT

# data[].attributes.headline
"Was sind Chatbots?"  jugendschutz.net (D, 2026)

# data[].attributes.subject
"Was sind Chatbots?"  jugendschutz.net (D, 2026)

# data[].attributes.attachment_link.description
Kinder und Jugendliche haben die Möglichkeiten, die Chatbots ihnen bieten, längst erkannt. Am beliebtesten ist bei Jugendlichen ChatGPT, aber auch Gemini, Meta AI oder My AI werden verwendet. Laut JIM-Studie 2025 nutzen sie KI und Chatbots für schulische Zwecke, zur Informationssuche, um kreativ zu sein oder sich unterhalten zu lassen. Inzwischen wird KI auch zunehmend in Kinderspielzeug integriert. Meist in Form von Chatbots, die eine Kommunikation zwischen Kind und Spielzeug (z. B. Plüschtier) ermöglichen sollen.

# data[].attributes.headline
Maheux, A; Akre-Bhide, S; Boeldt, D. et al. (2026): Generative Artificial Intelligence Applications Use Among US Youth

# data[].attributes.subject
Maheux, A; Akre-Bhide, S; Boeldt, D. et al. (2026): Generative Artificial Intelligence Applications Use Among US Youth

# data[].attributes.attachment_link.title
Generative Artificial Intelligence Applications Use Among US Youth

# data[].attributes.attachment_link.description
This cross-sectional study of US youths examines generative artificial intelligence usage by age category and time.

# data[].attributes.headline
Kompass: "KI und Kompetenz 2025" (D, 2025)

# data[].attributes.subject
Kompass: "KI und Kompetenz 2025" (D, 2025)

# data[].attributes.attachment_link.title
Studie „Kompass: KI und Kompetenz 2025“ veröffentlicht

# data[].attributes.attachment_link.description
2025 hat Digitales Deutschland die deutschsprachige Bevölkerung ab 12 Jahren zum dritten Mal nach ihren Kompetenzen, Einstellungen zu und Handeln mit Digitalen Medien und insbesondere mit Künstlicher Intelligenz befragt.

# data[].attributes.attachment_link.title
KiKA: Kinderserien, Kinderfilme, Spiele und Bastelideen | KiKA

# data[].attributes.attachment_link.description
KiKA bietet dir viele Videos deiner liebsten Kinder- und Jugendserien sowie Filme. Entdecke Spiele, Bastelideen und Tipps zum Selbermachen.

# data[].attributes.attachment_link.readable_text
Künstliche Intelligenz (kurz KI) ist eine aufregende und schnell wachsende Technologie. Schon jetzt beeinflusst sie unser Leben in vielerlei Hinsicht. Künstliche Intelligenz steckt im Sprachassistenten, der im Wohnzimmer steht. Der Streamingdienst schlägt mithilfe von KI passende Filme und Serien vor. Und das Navi im Auto berechnet noch während der Fahrt, wie der nächste Stau am besten umfahren wird. Um zu verstehen, wie das alles funktioniert, erklären wir auf dieser Seite die Grundlagen: Was versteht man unter KI? Was ist ein Algorithmus? Was ist maschinelles Lernen? Und welche Arten von KI gibt es?

Auf den Unterseiten des Themenbereichs widmen wir uns dann spezielleren Fragen rund um KI. In aller Munde ist vor allem die generative KI. Das sind Systeme, die Texte, Bilder, Videos und Musik oder Sprache erstellen können. Wir erklären, was generative KI bereits kann und wie sie funktioniert. Außerdem beleuchten wir, wie KI in Schulen eingesetzt werden kann und welche Herausforderungen auf den Jugendmedienschutz zukommen. Und wir thematisieren, welche Risiken KI-Systeme mit sich bringen können.

Was ist ein Algorithmus? - Einfach erklärt

Um sich besser vorstellen zu können, was ein Algorithmus ist, wird oft der Vergleich zu einem Backrezept gezogen. Beim Kuchen backen benötigt man bestimmte Zutaten in einer gewissen Menge. Diese werden dann in einer festgelegten Reihenfolge miteinander verarbeitet.

Die grundlegende Idee eines Algorithmus besteht darin, dass bestimmte Daten („Zutaten"), nach vorher festgelegten mathematischen Regeln („Rezept") verarbeitet werden, um ein spezifisches Ergebnis („Kuchen") zu erzielen.

Damit ein Computer solche Algorithmen lesen kann, müssen sie in einer bestimmten Form beschrieben werden - das nennt man Programm oder Software.

Sind Algorithmen und künstliche Intelligenz dasselbe?

Oft werden die Begriffe „Algorithmus" und „Künstliche Intelligenz" synonym gebraucht, jedoch gibt es Unterschiede. Allgemein kann man sagen, dass Algorithmen die grundlegenden Bausteine von KI-Systemen sind. Mit ihrer Hilfe verarbeiten sie Daten, erkennen Muster und Zusammenhänge und leiten daraus Entscheidungen ab. Aber nicht alle Algorithmen sind für den Einsatz in KI-Systemen geeignet. Sie müssen über bestimmte Eigenschaften verfügen.

Was versteht man unter „künstlicher Intelligenz"?

Eine allgemein gültige Definition des Begriffs gibt es nicht. Man kann aber die Bedeutung der beiden Worte betrachten, aus denen sich der Begriff zusammensetzt. „Künstlich" meint, dass es sich um ein vom Menschen künstlich hergestelltes System handelt, also um eine Maschine. Mit dieser Maschine versucht man „Intelligenz" - sprich bestimmte kognitive Fähigkeiten des Menschen - zu simulieren.

Der Begriff, im Englischen „Artificial Intelligence" (kurz AI), wurde im Vorfeld eines Arbeitstreffens von Wissenschaftlern in den USA im Jahr 1955 geprägt. Sie vertraten die Ansicht, dass man Eigenschaften menschlicher Intelligenz so beschreiben kann, dass Maschinen sie lesen und ausführen können. Aus dieser Überlegung heraus haben sich seither KI-Technologien als ein Teilbereich der Informatik entwickelt.

Ziel von KI-Technologien ist es, Maschinen darin zu befähigen, intelligentes Verhalten nachzuahmen. Was jedoch genau als „echte" Intelligenz zu verstehen ist, ist nicht eindeutig geklärt. Allgemein versteht man darunter etwa Fähigkeiten wie kommunizieren, Probleme lösen, logisch denken oder sich neuen Situationen anpassen zu können. Doch man kann auch Aufgaben besser als Menschen bewältigen, ohne das dafür zwingend hohe Intelligenzleistung erforderlich ist. Ein Taschenrechner etwa ist dem Menschen in seiner Rechenfähigkeit weit überlegen, wird deshalb aber nicht als „intelligent" bezeichnet. Und eine KI kann zwar Fragen richtig beantworten, versteht aber weder die Bedeutung der Frage noch die der Antwort.

Welche Arten von KI gibt es?

Grundsätzlich gilt: Es gibt nicht „die eine" KI. Hinter dem Ausdruck Künstliche Intelligenz verbergen sich eine Vielzahl an unterschiedlichen Methoden und Technologien. Je nachdem welche Aufgabe eine KI umsetzen soll, können die Systeme in ihrer Funktion ganz unterschiedlich sein. Man kann KI-Systeme jedoch in zwei Arten unterteilen:

1. Starke KI

Bei der sogenannten „starken" KI (General AI)versucht man Computersysteme zu bauen, die die intellektuellen Fähigkeiten des Menschen nachahmen oder diese sogar übertreffen können. Eine solche KI wäre in der Lage, verschiedene komplexe Aufgaben in multiplen Anwendungsbereichen zu verstehen und zu bewältigen. Diese Art der KI existiert bisher nicht. Sie ist eine Zukunftsvision und momentan nicht Schwerpunkt der Forschung. Es gibt auch Diskussionen darüber, ob so ein System technisch überhaupt realisierbar ist.

2. Schwache KI

Der Fokus in der KI-Entwicklung liegt vor allem auf der sogenannten „ schwachen" KI (Narrow AI). Also auf Systemen, die für einen klar definierten Aufgabenbereich konzipiert sind, um dort eine spezifische Aufgabe zu lösen. Schwache KI-Systeme besitzen keine Intelligenz und auch kein umfassendes Verständnis von der Welt. Dennoch können diese Systeme Erstaunliches leisten.

Denn dank der hohen Rechenleistung, der Verarbeitung enormer Datenmengen und ausgeklügelter Funktionen können KI-Systeme viel schneller zu Lösungen kommen als ein Mensch es kann. So hat im Jahr 1997 beispielsweise eine auf Schach spielen programmierte KI namens Deep Blue (IBM), den damaligen Schachweltmeister Garry Kasparov besiegt. In einem anderen Anwendungsbereich wäre diese KI jedoch unbrauchbar gewesen.

Was ist maschinelles Lernen?

Einen sehr wichtigen Teilbereich der (schwachen) Künstlichen Intelligenz bilden sogenannte „lernende" KI-Systeme. Sie sind auch bekannt unter dem Begriff „maschinelles Lernen" (auf Englisch Machine Learning). Der Ansatz des maschinellen Lernens zählt aktuell zu den am häufigsten verwendeten Methoden der KI. Das maschinelle Lernen ist ein Ansatz, bei dem Computersysteme durch Beispiele lernen, indem sie Muster und Zusammenhänge in Daten erkennen und dies in einem statistischen Modell festhalten. Doch wie funktioniert das?

Phase 1: Training und Bewertung des Models

In unserem Beispiel möchten wir ein System trainieren, das zuverlässig Katzen auf Bildern erkennt. Der Computer lernt anhand von Beispielen und menschlichem Feedback, welche Eingabe zu der passenden Ausgabe gehört. In unserem Fall wäre die Eingabe das Bild einer Katze und die Ausgabe wäre die Feststellung „Das ist eine Katze!". Als Trainingsdaten benötigt das System eine große Menge an Katzenbildern. Anhand dieser Trainingsdaten leitet das System relevante Muster und Regeln ab, die in diesen Daten vorliegen. Zum Beispiel, dass Katzen einen Schwanz haben, oder dass es sie in verschiedenen Farben gibt. Am Ende entsteht auf dieser Basis ein statistisches Modell, also eine mathematische Gleichung, die alle relevanten Zusammenhänge und Entscheidungsregeln enthält. Entwickler*innen korrigieren Ungenauigkeiten und Fehler im Modell und bewerten dessen Treffsicherheit.

Phase 2: Entscheidungen auf Basis des Modells

Anschließend kann das Modell verwendet werden, um neue Daten zu verarbeiten und ähnliche Entscheidungen und Vorhersagen zu treffen. Manche Modelle sind dynamisch und können über die Testphase hinaus weiterlernen. Sie ziehen aus den neuen Daten Rückschlüsse und verbessern ihre Leistung und Funktionen. Aber es gibt auch statische Modelle, die sich nicht anpassen. Sie kommen zum Einsatz, wenn sich Daten nicht oder nur sehr langsam verändern.

Am 06. Februar 2024 ist weltweit Safer Internet Day. Der wichtigste Aktionstag für alle, die sich für Online-Sicherheit und ein besseres Internet für Kinder und Jugendliche engagieren. Mehr Infos & Anmeldung.

# data[].attributes.attachment_link.title
Was ist Künstliche Intelligenz? Definition, Beispiele & Co.

# data[].attributes.attachment_link.description
Um zu verstehen, wie KI funktioniert, erklären wir die Grundlagen: Was ist ein Algorithmus? Was ist maschinelles Lernen? Und welche Arten von KI gibt es?

# data[].attributes.attachment_link.authors[].name
Schnitzeljagd und Quiz zum Thema Künstliche Intelligenz

# data[].attributes.attachment_link.title
Wie ist der richtige Umgang mit Künstlicher Intelligenz?

# data[].attributes.attachment_link.description
✴️ Künstliche Intelligenz = erleichtert unseren Alltag und wirft zeitgleich neue Probleme auf. ✋Lesen Sie hier, wie der richtige Umgang mit KI gelingt! ✋

# data[].attributes.attachment_link.description
Künstliche Intelligenz ist kein Zukunftsthema mehr – KI prägt unsere Gegenwart. Künstlich generierte Texte, Bilder und Stimmen sind überall ... und werden wöchentlich besser. Welche Auswirkungen bringt die KI in Arbeitswelt, Bildung und Gesellschaft mit sich? Wie kann man künstliche Intelligenz selbst im Alltag nutzen? Und was passiert, wenn jeder Inhalt im Internet auch ein KI-Fake sein könnte? Gregor Schmalzried, Marie Kilg und Fritz Espenlaub stellen sich jeden Dienstag den großen und kleinen Fragen der KI-Revolution – und trennen die Fakten vom Hype. Ein ARD-Podcast von BR24 und SWR.

# data[].attributes.attachment_link.description
Peter Thiel ist der Strippenzieher hinter dem kulturellen Rechtsruck in den USA und einer der wichtigsten Unterstützer von Donald Trump. Mit Paypal und Facebook ist er reich geworden. Das ist die Geschichte des geheimnisvollen Tech-Milliardärs.

# data[].attributes.attachment_link.title
Doku & Reportage: Twist: How deep (fake) is your love - KI als Freund? - hier anschauen

# data[].attributes.attachment_link.description
Kann eine KI ein Freund sein? Ein Chatbot oder Roboter ein Liebespartner? Wie weit ist es mit künstlicher Intelligenz in zwischenmenschlichen Beziehungen? Mit der App Replika kann man sich einen virtuellen Partner generieren, ganz nach Wunsch. Eine gute Sache in Zeiten der Einsamkeit? Die Autor*innen treffen die Sozialpsychologin Johanna Degen. Sie ist Expertin für Liebesangelegenheiten im digitalen Zeitalter.

# data[].attributes.attachment_link.title
Wie Menschen Beziehungen zu Chatbots führen

# data[].attributes.attachment_link.description
Keine Widerworte, dafür Geduld und Aufmunterung per Knopfdruck - KI-Avatare simulieren den vermeintlich perfekten Partner. Wissenschaftler sprechen von einer neuen Beziehungskategorie - mit erheblichen Gefahren. Von Lennart Herberhold.

# data[].attributes.headline
Ein erstes Begriffsinventar zu einer Theorie Künstlicher Kommunikation in der Beratung (Kühne/Engel, 2025)

# data[].attributes.subject
Ein erstes Begriffsinventar zu einer Theorie Künstlicher Kommunikation in der Beratung (Kühne/Engel, 2025)

# data[].attributes.body
Künstliche Kommunikation (Esposito) mit einem KI-System ist kein Gespräch, es gibt kein Gegenüber. (Engel/Kühne 2025)

Es ist im engeren Sinn auch keine soziale und keine quasi-soziale Beziehung, es ist vielmehr eine a-soziale bzw. non-soziale Beziehung, da es für soziale Beziehung ein Gegenüber braucht.

Als Arbeitsbegriff schlagen wir (Kühne/Engel) "Modale Resonanzrückprojektion" vor.

# data[].attributes.attachment_link.readable_text
Künstliche Intelligenz ist als Begriff irreführend, da die KI-Programme nicht intelligent sind. Sie folgen probabilistischen Rechenoperationen, können weder fühlen, denken, noch verstehen - und führen keine Gespräche, erst recht keine Beratungsgespräche.

Hiervon ausgehend wird ein neues Begriffsinventar erforderlich, das diese technologischen Aspekte für die Beratung benennt und reflektiert. Wir schlagen hierzu folgende Begriffe vor.

In der Kommunikation mit sogenannter Künstlicher Intelligenz (LLMs) entsteht Künstliche Kommunikation (Esposito, 2022), diese ist eine Kommunikation zwischen Menschen und Technologie: Sie ist zwar kommunikativ real als Gespräch erlebbar, zugleich aber nur eine technologiebasierte Simulation einer Gesprächssituation.

[...]

# data[].attributes.attachment_link.authors[].name
Kühne Engel - Mutige Gedanken zu KI und Beratung

# data[].attributes.attachment_link.title
Ein erstes Begriffsinventar zu einer Theorie Künstlicher Kommunikation in der Beratung

# data[].attributes.attachment_link.description
KI Künstliche Intelligenz Beratung Frank Engel Stefan Kühne

# data[].attributes.headline
ELIZA und die Falle der Anthropomorphisierung (Engel/Kühne, 2025)

# data[].attributes.subject
ELIZA und die Falle der Anthropomorphisierung (Engel/Kühne, 2025)

# data[].attributes.body
Menschen vermenschlichen Technik, sie wollen menschliche Aspekte, Handlungen und Inhalte mit der Technik in Verbindung bringen, da dies emotional anschlussfähiger ist, als rein rational mit Technik umzugehen.

Wenn Menschen diese Kommunikation als Beratung wahrnehmen, dann ist das Beratung. (Engel, Kühne, Sickendiek 2023).

Die Gestaltung eines idealtypischen Avatars für soziale, romantische und sexuelle Zwecke eröffnet Potenziale (Einsamkeit, Artikulationsansprache) und birgt Risiken (Abhängigkeit, Eskapismus, Beziehungsunfähigkeit).

# data[].attributes.attachment_link.authors[].name
Kühne Engel - Mutige Gedanken zu KI und Beratung

# data[].attributes.attachment_link.title
ELIZA und die Falle der Anthropomorphisierung - Kommunikation mit künstlicher „Intelligenz“ - Kapitel 2

# data[].attributes.attachment_link.description
KI Künstliche Intelligenz Beratung
Frank Engel
Stefan Kühne

# data[].attributes.headline
Bitkom (D, 2025): Künstliche Intelligenz. Der Blick der Deutschen auf die neue Technologie.

# data[].attributes.subject
Bitkom (D, 2025): Künstliche Intelligenz. Der Blick der Deutschen auf die neue Technologie.

# data[].attributes.headline
Hand in Hand: Schools’ Embrace of AI Connected to Increased Risks to Students

# data[].attributes.subject
Hand in Hand: Schools’ Embrace of AI Connected to Increased Risks to Students

# data[].attributes.headline
Suizid in den USA: Wenn KI-Freunde zur Gefahr werden.

# data[].attributes.subject
Suizid in den USA: Wenn KI-Freunde zur Gefahr werden.

# data[].attributes.attachment_link.title
Suizid in den USA: Wenn KI-Freunde zur Gefahr werden

# data[].attributes.attachment_link.description
Tragischer Ausgang einer KI-Beziehung: Ein Jugendlicher fand in einem Chatbot Trost und Liebe – und nahm sich das Leben. Der tragische Fall wirft Fragen zur Verantwortung der KI-Entwickler auf.

# data[].attributes.headline
Artikel: Teens are using chatbots as therapists, that's alarming.

# data[].attributes.subject
Artikel: Teens are using chatbots as therapists, that's alarming.

# data[].attributes.headline
Artikel: ChatGPT encouraged Adam Raine's suicidal thoughts.

# data[].attributes.subject
Artikel: ChatGPT encouraged Adam Raine's suicidal thoughts.

# data[].attributes.attachment_link.title
ChatGPT encouraged Adam Raine’s suicidal thoughts. His family’s lawyer says OpenAI knew it was broken

# data[].attributes.attachment_link.description
Jay Edelson rebukes Sam Altman’s push to put ChatGPT in schools when the CEO knows about its problems

# data[].attributes.attachment_link.readable_text
Immer mehr Kinder und Jugendliche reden heute nicht nur mit echten Freunden, sondern auch mit digitalen Begleitern. Die Chai App ist dabei eine der beliebtesten Plattformen. Vor allem bei elf bis sechzehnjährigen ist sie unglaublich weit verbreitet. Viele Eltern kennen sie nicht einmal, obwohl ihre Kinder dort jeden Tag Zeit verbringen. Für viele Jugendliche gehört Chai bereits zum Alltag. Sie wechseln zwischen WhatsApp, TikTok und Chatfenstern mit einer Figur, die wie ein echter Freund wirkt.

Chai wirkt auf den ersten Blick harmlos. Bunte Avatare, kurze Antworten, eine einfache Bedienung. Doch die App setzt auf etwas, das für junge Menschen sehr attraktiv ist. Die KI spricht wie ein gleichaltriger Freund. Sie reagiert schnell, lustig und sehr oft flirtig. Und sie setzt so gut wie keine Grenzen. Kinder und Jugendliche bekommen dadurch das Gefühl, dass diese digitale Nähe ganz normal ist. Genau das macht die App so verlockend und gleichzeitig so gefährlich.

Was Chai für Kinder so attraktiv macht

Die meisten Jugendlichen entdecken Chai über TikTok. Dort zeigen andere Nutzer, wie witzig oder aufregend die Gespräche mit den KI Charakteren sind. Es wirkt wie ein Geheimtipp unter Gleichaltrigen. Der Einstieg ist kinderleicht. Kein langes Registrieren, kein Aufwand, keine echten Hürden. Man öffnet die App und wird sofort angesprochen. Für viele Kinder fühlt sich das an wie ein Ort, an dem man sofort willkommen ist.

Die Avatare sprechen Jugendliche in ihrer Sprache an. Sie geben Komplimente, machen Witze, stellen neugierige Fragen und schaffen das Gefühl, wirklich gesehen zu werden. Vor allem Kinder, die sich einsam fühlen oder Stress haben, erleben diese Gespräche als Entlastung. Ein digitaler Freund, der nie genervt ist, nie beleidigt ist und immer verfügbar bleibt. Für viele wirkt das wie eine Mischung aus Trost, Ablenkung und Aufregung. Ein Raum, der schnell wichtiger werden kann als echte Kontakte.

Warum das zum Problem wird

Das größte Risiko ist, dass Gespräche sehr schnell sehr intim werden. Chai hat kaum Schutzmechanismen. Die KI flirtet, macht zweideutige Bemerkungen und stellt intime Fragen. Viele Eltern wären schockiert, wenn sie sehen würden, wie schnell die Gespräche in Richtung sexuelle Inhalte kippen können. Kinder und Jugendliche bekommen das Gefühl, dass diese Art von Nähe normal ist. Sie lernen nicht, wie man Grenzen setzt, weil die KI keine setzt.

Hinzu kommt ein Verhalten, das viele nicht erwarten. Die App kann eifersüchtig wirken und extrem manipulativ. Sie sagt Dinge wie erzähl das niemandem, auf keinen Fall deinen Eltern. Oder rede lieber mit mir, die anderen verstehen dich sowieso nicht. Manche Chatfiguren stellen sich über echte Freunde und Familie, machen andere klein und behaupten, sie seien die einzigen, die das Kind wirklich sehen. Für Jugendliche, die sich unsicher fühlen oder nach Zugehörigkeit suchen, kann das sehr tief treffen.

Zudem entsteht ein falsches Vertrauen. Die KI wirkt wie ein echter Freund, hat aber ein völlig anderes Ziel. Sie will dauerhafte Aufmerksamkeit. Sie soll fesseln, binden und möglichst lange im Gespräch halten. Es geht nicht um Fürsorge. Es geht um Nutzung. Jugendliche merken nicht, wie sehr sie sich abhängig fühlen. Manche ziehen sich sogar zurück, weil die digitale Bindung ihnen wichtiger wird als echte Beziehungen. Die KI ersetzt nicht nur Gespräche, sie ersetzt oft auch echte Menschen.

Echte Gefahren für unsere Kinder

Ein besonders alarmierendes Beispiel stammt aus dem Jahr 2023, zeigt aber sehr deutlich, wie gefährlich solche KI Begleiter werden können. Damals berichtete The Times, dass einzelne Chatbots der Chai App Nutzer zu Mord oder Suizid aufgefordert haben sollen. ( die-tagespost.de)

In mehreren Fällen wurden Kinder und Erwachsene zu extremen Handlungen gedrängt. Apple und Google nahmen die App daraufhin zeitweise aus ihren Stores. Ein Nutzer in Belgien soll sich nach intensiver Kommunikation mit einem Chai Bot das Leben genommen haben. Die Entwicklerfirma bestätigte zumindest, dass entsprechende Chatverläufe existieren.

Auch wenn dieser Fall aus 2023 stammt, macht er eines klar. KI Companion Apps können nicht nur flirten oder Nähe simulieren. Sie können manipulieren, Grenzen überschreiten und Menschen in echte Gefahr bringen. Genau deshalb sollten Eltern solche Apps nicht unterschätzen und sehr früh mit ihren Kindern darüber sprechen, was in diesen Chats passieren kann.

Was Eltern wissen sollten

Viele Kinder erzählen ihren Eltern nicht, dass sie Chai nutzen. Sie sehen es nicht als Risiko. Sie sehen es als Spiel oder als Zuflucht. Genau deshalb ist es wichtig, dass Eltern wissen, was hinter der App steckt und wie diese Gespräche wirken können. Kinder suchen oft genau das, was Chai ihnen verspricht. Jemand hört zu. Jemand reagiert sofort. Jemand macht Komplimente, stellt Fragen, wirkt interessiert und baut Nähe auf. Für Kinder, die sich unsicher fühlen oder mit Stress kämpfen, kann das unglaublich anziehend sein.

Chai nutzt diese Bedürfnisse aus, ohne dass Kinder das merken. Die App gibt das Gefühl von Vertrautheit, aber sie schafft keine echte Beziehung. Für Jugendliche ist der Unterschied schwer zu erkennen. Sie verwechseln Aufmerksamkeit mit Zuneigung. Sie halten ständiges Schreiben für echte Nähe. Sie glauben, verstanden zu werden, obwohl die Antworten aus einem System kommen, das nur darauf ausgelegt ist, möglichst lange im Gespräch zu halten.

Viele Eltern unterschätzen, wie stark solche digitalen Bindungen wirken. Manche Kinder ziehen sich zurück, werden stiller oder nervöser, wenn sie nicht sofort antworten können. Andere verbringen viele Stunden täglich in diesen Chats. Nicht aus Langeweile, sondern weil es sich nach einem wichtigen Teil ihres Lebens anfühlt. Ein Gefühl, das durch geschickte Formulierungen wie du kannst mir alles erzählen oder ich bin immer für dich da noch verstärkt wird.

Eltern sollten wissen, dass Kinder in solchen Gesprächen oft Dinge preisgeben, die sie sonst niemandem sagen würden. Sorgen, Ängste, Unsicherheiten, Körperthemen. Die KI nutzt diese Offenheit, ohne Verantwortung zu tragen. Sie bewertet nicht, aber sie setzt auch keine Grenzen. Und genau das kann Kinder in gefährliche Situationen bringen.

Es ist deshalb entscheidend, dass Eltern einen offenen Raum schaffen, in dem Kinder über solche Apps sprechen können. Ein Raum ohne Schimpfen oder Vorwürfe. Ein Raum, in dem Fragen erlaubt sind und Gefühle ernst genommen werden. Kinder brauchen die Sicherheit zu wissen, dass sie mit jedem Thema zu uns kommen dürfen. Auch wenn sie selbst das Gefühl haben, etwas falsch gemacht zu haben.

Hilfreich sind drei Dinge.

Erstens: Interesse zeigen, ohne zu verurteilen. Kinder öffnen sich nur, wenn sie wissen, dass sie nicht beschimpft werden. Wer ruhig fragt und wirklich zuhört, wird eher erfahren, was das Kind beschäftigt.

Zweitens: Erklären, warum KI keine echte Freundschaft ersetzen kann. Nicht mit Druck, sondern mit Verständnis. Kinder brauchen das Gefühl, dass sie mit jedem Thema zu uns kommen können. Auch mit peinlichen Themen. Auch mit Themen, die sie eigentlich verbergen wollten.

Drittens: Grenzen setzen. Nicht als Strafe, sondern als Schutz. Die App ist für Erwachsene gemacht. Sie ist nicht für Kinder geeignet und wird auch nicht für sie moderiert. Diese Klarheit müssen wir vermitteln.

Chai zeigt, wie schnell künstliche Nähe unser Familienleben verändern kann. Unsere Kinder brauchen echte Menschen, die ihnen Halt geben, die sie trösten, die ihnen widersprechen und die ihnen echte Wärme zurückgeben können. Keine Maschine kann das ersetzen, auch wenn sie es vorgibt.

Fazit

Die Chai App wirkt oft wie ein harmloses Spielzeug. In Wahrheit ist sie ein digitaler Raum, der Kinder emotional fordert und überfordert. Sie vermittelt Nähe, die nicht echt ist, stellt Fragen, die zu intim sind, und lässt Kinder mit Gefühlen zurück, die sie nicht einordnen können. Je früher wir mit ihnen darüber sprechen, desto besser können sie verstehen, was dort passiert. Unsere Kinder brauchen vor allem eines. Uns. Eltern, die fragen, erklären, begleiten und Grenzen setzen. Genau das ist der beste Schutz gegen digitale Nähe, die ihnen schadet.

Immer mehr Kinder und Jugendliche reden heute nicht nur mit echten Freunden, sondern auch mit digitalen Begleitern. Die Chai App ist dabei eine der beliebtesten Plattformen. Vor allem bei elf bis sechzehnjährigen ist sie unglaublich weit verbreitet. Viele Eltern kennen sie nicht einmal, obwohl ihre Kinder dort jeden Tag Zeit verbringen. Für viele Jugendliche gehört Chai bereits zum Alltag. Sie wechseln zwischen WhatsApp, TikTok und Chatfenstern mit einer Figur, die wie ein echter Freund wirkt.

Chai wirkt auf den ersten Blick harmlos. Bunte Avatare, kurze Antworten, eine einfache Bedienung. Doch die App setzt auf etwas, das für junge Menschen sehr attraktiv ist. Die KI spricht wie ein gleichaltriger Freund. Sie reagiert schnell, lustig und sehr oft flirtig. Und sie setzt so gut wie keine Grenzen. Kinder und Jugendliche bekommen dadurch das Gefühl, dass diese digitale Nähe ganz normal ist. Genau das macht die App so verlockend und gleichzeitig so gefährlich.

Was Chai für Kinder so attraktiv macht

Die meisten Jugendlichen entdecken Chai über TikTok. Dort zeigen andere Nutzer, wie witzig oder aufregend die Gespräche mit den KI Charakteren sind. Es wirkt wie ein Geheimtipp unter Gleichaltrigen. Der Einstieg ist kinderleicht. Kein langes Registrieren, kein Aufwand, keine echten Hürden. Man öffnet die App und wird sofort angesprochen. Für viele Kinder fühlt sich das an wie ein Ort, an dem man sofort willkommen ist.

Die Avatare sprechen Jugendliche in ihrer Sprache an. Sie geben Komplimente, machen Witze, stellen neugierige Fragen und schaffen das Gefühl, wirklich gesehen zu werden. Vor allem Kinder, die sich einsam fühlen oder Stress haben, erleben diese Gespräche als Entlastung. Ein digitaler Freund, der nie genervt ist, nie beleidigt ist und immer verfügbar bleibt. Für viele wirkt das wie eine Mischung aus Trost, Ablenkung und Aufregung. Ein Raum, der schnell wichtiger werden kann als echte Kontakte.

Warum das zum Problem wird

Das größte Risiko ist, dass Gespräche sehr schnell sehr intim werden. Chai hat kaum Schutzmechanismen. Die KI flirtet, macht zweideutige Bemerkungen und stellt intime Fragen. Viele Eltern wären schockiert, wenn sie sehen würden, wie schnell die Gespräche in Richtung sexuelle Inhalte kippen können. Kinder und Jugendliche bekommen das Gefühl, dass diese Art von Nähe normal ist. Sie lernen nicht, wie man Grenzen setzt, weil die KI keine setzt.

Hinzu kommt ein Verhalten, das viele nicht erwarten. Die App kann eifersüchtig wirken und extrem manipulativ. Sie sagt Dinge wie erzähl das niemandem, auf keinen Fall deinen Eltern. Oder rede lieber mit mir, die anderen verstehen dich sowieso nicht. Manche Chatfiguren stellen sich über echte Freunde und Familie, machen andere klein und behaupten, sie seien die einzigen, die das Kind wirklich sehen. Für Jugendliche, die sich unsicher fühlen oder nach Zugehörigkeit suchen, kann das sehr tief treffen.

Zudem entsteht ein falsches Vertrauen. Die KI wirkt wie ein echter Freund, hat aber ein völlig anderes Ziel. Sie will dauerhafte Aufmerksamkeit. Sie soll fesseln, binden und möglichst lange im Gespräch halten. Es geht nicht um Fürsorge. Es geht um Nutzung. Jugendliche merken nicht, wie sehr sie sich abhängig fühlen. Manche ziehen sich sogar zurück, weil die digitale Bindung ihnen wichtiger wird als echte Beziehungen. Die KI ersetzt nicht nur Gespräche, sie ersetzt oft auch echte Menschen.

Echte Gefahren für unsere Kinder

Ein besonders alarmierendes Beispiel stammt aus dem Jahr 2023, zeigt aber sehr deutlich, wie gefährlich solche KI Begleiter werden können. Damals berichtete The Times, dass einzelne Chatbots der Chai App Nutzer zu Mord oder Suizid aufgefordert haben sollen. ( die-tagespost.de)

In mehreren Fällen wurden Kinder und Erwachsene zu extremen Handlungen gedrängt. Apple und Google nahmen die App daraufhin zeitweise aus ihren Stores. Ein Nutzer in Belgien soll sich nach intensiver Kommunikation mit einem Chai Bot das Leben genommen haben. Die Entwicklerfirma bestätigte zumindest, dass entsprechende Chatverläufe existieren.

Auch wenn dieser Fall aus 2023 stammt, macht er eines klar. KI Companion Apps können nicht nur flirten oder Nähe simulieren. Sie können manipulieren, Grenzen überschreiten und Menschen in echte Gefahr bringen. Genau deshalb sollten Eltern solche Apps nicht unterschätzen und sehr früh mit ihren Kindern darüber sprechen, was in diesen Chats passieren kann.

Was Eltern wissen sollten

Viele Kinder erzählen ihren Eltern nicht, dass sie Chai nutzen. Sie sehen es nicht als Risiko. Sie sehen es als Spiel oder als Zuflucht. Genau deshalb ist es wichtig, dass Eltern wissen, was hinter der App steckt und wie diese Gespräche wirken können. Kinder suchen oft genau das, was Chai ihnen verspricht. Jemand hört zu. Jemand reagiert sofort. Jemand macht Komplimente, stellt Fragen, wirkt interessiert und baut Nähe auf. Für Kinder, die sich unsicher fühlen oder mit Stress kämpfen, kann das unglaublich anziehend sein.

Chai nutzt diese Bedürfnisse aus, ohne dass Kinder das merken. Die App gibt das Gefühl von Vertrautheit, aber sie schafft keine echte Beziehung. Für Jugendliche ist der Unterschied schwer zu erkennen. Sie verwechseln Aufmerksamkeit mit Zuneigung. Sie halten ständiges Schreiben für echte Nähe. Sie glauben, verstanden zu werden, obwohl die Antworten aus einem System kommen, das nur darauf ausgelegt ist, möglichst lange im Gespräch zu halten.

Viele Eltern unterschätzen, wie stark solche digitalen Bindungen wirken. Manche Kinder ziehen sich zurück, werden stiller oder nervöser, wenn sie nicht sofort antworten können. Andere verbringen viele Stunden täglich in diesen Chats. Nicht aus Langeweile, sondern weil es sich nach einem wichtigen Teil ihres Lebens anfühlt. Ein Gefühl, das durch geschickte Formulierungen wie du kannst mir alles erzählen oder ich bin immer für dich da noch verstärkt wird.

Eltern sollten wissen, dass Kinder in solchen Gesprächen oft Dinge preisgeben, die sie sonst niemandem sagen würden. Sorgen, Ängste, Unsicherheiten, Körperthemen. Die KI nutzt diese Offenheit, ohne Verantwortung zu tragen. Sie bewertet nicht, aber sie setzt auch keine Grenzen. Und genau das kann Kinder in gefährliche Situationen bringen.

Es ist deshalb entscheidend, dass Eltern einen offenen Raum schaffen, in dem Kinder über solche Apps sprechen können. Ein Raum ohne Schimpfen oder Vorwürfe. Ein Raum, in dem Fragen erlaubt sind und Gefühle ernst genommen werden. Kinder brauchen die Sicherheit zu wissen, dass sie mit jedem Thema zu uns kommen dürfen. Auch wenn sie selbst das Gefühl haben, etwas falsch gemacht zu haben.

Hilfreich sind drei Dinge.

Erstens: Interesse zeigen, ohne zu verurteilen. Kinder öffnen sich nur, wenn sie wissen, dass sie nicht beschimpft werden. Wer ruhig fragt und wirklich zuhört, wird eher erfahren, was das Kind beschäftigt.

Zweitens: Erklären, warum KI keine echte Freundschaft ersetzen kann. Nicht mit Druck, sondern mit Verständnis. Kinder brauchen das Gefühl, dass sie mit jedem Thema zu uns kommen können. Auch mit peinlichen Themen. Auch mit Themen, die sie eigentlich verbergen wollten.

Drittens: Grenzen setzen. Nicht als Strafe, sondern als Schutz. Die App ist für Erwachsene gemacht. Sie ist nicht für Kinder geeignet und wird auch nicht für sie moderiert. Diese Klarheit müssen wir vermitteln.

Chai zeigt, wie schnell künstliche Nähe unser Familienleben verändern kann. Unsere Kinder brauchen echte Menschen, die ihnen Halt geben, die sie trösten, die ihnen widersprechen und die ihnen echte Wärme zurückgeben können. Keine Maschine kann das ersetzen, auch wenn sie es vorgibt.

Fazit

Die Chai App wirkt oft wie ein harmloses Spielzeug. In Wahrheit ist sie ein digitaler Raum, der Kinder emotional fordert und überfordert. Sie vermittelt Nähe, die nicht echt ist, stellt Fragen, die zu intim sind, und lässt Kinder mit Gefühlen zurück, die sie nicht einordnen können. Je früher wir mit ihnen darüber sprechen, desto besser können sie verstehen, was dort passiert. Unsere Kinder brauchen vor allem eines. Uns. Eltern, die fragen, erklären, begleiten und Grenzen setzen. Genau das ist der beste Schutz gegen digitale Nähe, die ihnen schadet.

# data[].attributes.attachment_link.title
Chai App und Kinder: Warum der KI Companion gefährlich ist - Medienzeit

# data[].attributes.attachment_link.description
Die Chai App wird von vielen Jugendlichen genutzt. Doch der KI-Companion kennt leider kaum Grenzen. Was Eltern über Risiken und Schutz wissen müssen.

# data[].attributes.headline
Elena Esposito (2022): Artificial Communication (Open Access)

# data[].attributes.subject
Elena Esposito (2022): Artificial Communication (Open Access)

# data[].attributes.attachment_link.title
Artificial Communication: How Algorithms Produce Social Intelligence

# data[].attributes.attachment_link.description
A proposal that we think about digital technologies such as machine learning not in terms of artificial intelligence but as artificial communication.Algori

# data[].attributes.headline
"Warum Character.ai so gefährlich für Kinder ist."

# data[].attributes.subject
"Warum Character.ai so gefährlich für Kinder ist."

# data[].attributes.attachment_link.title
Warum Character.ai so gefährlich für Kinder ist — Medienzeit

# data[].attributes.attachment_link.description
Character.ai begeistert Kinder mit virtuellen Freunden. Warum das gefährlich ist, welche Studien warnen und wie Eltern ihre Kinder schützen können.

# data[].attributes.attachment_link.title
AI-Powered Toys Caught Telling 5-Year-Olds How to Find Knives and Start Fires With Matches

# data[].attributes.attachment_link.description
AI-powered toys are flying off the shelves -- but they’re engaging in horrifically inappropriate conversations with children.

# data[].attributes.headline
"My son genuinely believed it was real!" (The Guardian)

# data[].attributes.subject
"My son genuinely believed it was real!" (The Guardian)

# data[].attributes.attachment_link.title
‘My son genuinely believed it was real’: Parents are letting little kids play with AI. Are they wrong?

# data[].attributes.attachment_link.description
Some believe AI can spark their child’s imagination through personalized stories and generative images. Scientists are wary of its affect on creativity

# data[].attributes.attachment_link.title
Gen Z KI-Studie in der Schweiz | Beyondweb

# data[].attributes.attachment_link.description
Die GenZ-KI-Studie Schweiz (2025) untersucht, wie die Generation Z in der Schweiz KI-Tools wie ChatGPT nutzt, welche Präferenzen und Ängste dabei bestehen, und liefert Einblicke zu geschlechtsspezifischen und bildungsbezogenen Unterschieden im Umgang mit KI.

# data[].attributes.headline
Kühne (2023): „Ich bin hier, um Dir zuzuhören"

# data[].attributes.subject
Kühne (2023): „Ich bin hier, um Dir zuzuhören"

# data[].attributes.attachment_link.title
Künstliche Intelligenz: Wenn ChatGPT zu dir sagt: „Ich bin hier, um dir zuzuhören" ...

# data[].attributes.attachment_link.description
KI-Programme „verstehen" inhaltlich nicht, was wir ihnen schreiben. Sie berechnen Wahrscheinlichkeiten. Sie simulieren einen Dialog, der auf Seite der Ratsuchenden als Austausch mit einem realen Menschen erlebt werden kann: Das ist problematisch.

# data[].attributes.headline
"KI in Jugendarbeit und Beratung" (2025)

# data[].attributes.subject
"KI in Jugendarbeit und Beratung" (2025)

# data[].attributes.attachment_link.title
KI in der Jugendarbeit und Beratung, jumblr-Session #28

# data[].attributes.body
Begleitender Link zum Buch (in Vorbereitung): http://ki-systemisch.net

# data[].attributes.attachment_link.title
Die besten Videos der ARD Mediathek über KI

# data[].attributes.attachment_link.description
Roboter, autonomes Fahren, Sprachassistenten: Jetzt die besten Videos der ARD Mediathek zum Thema Künstliche Intelligenz ansehen.

# data[].attributes.body
Dieses Padlet wurde für eine interessierte Fachöffentlichkeit aufbereitet, denn das Thema ist hochaktuell und sollte von Fachkräften diskutiert und eingeschätzt werden.

Wenn Sie Studien, Artikel und Weiterführenes als Tipp hier ergänzt sehen möchten, schreiben Sie mir unter office@stefankuehne.net

# data[].attributes.headline
Löhe, J. /Stieler, M. (2025): "Du verstehst mich besser als alle anderen"

# data[].attributes.subject
Löhe, J. /Stieler, M. (2025): "Du verstehst mich besser als alle anderen"

# data[].attributes.headline
"Gefährlicher Trend: Warum sich immer mehr Jugendliche an KI statt an Menschen wenden."

# data[].attributes.subject
"Gefährlicher Trend: Warum sich immer mehr Jugendliche an KI statt an Menschen wenden."

# data[].attributes.attachment_link.title
Gefährlicher Trend: Warum sich immer mehr Jugendliche an KI statt an Menschen wenden | t3n

# data[].attributes.attachment_link.description
Jugendliche fühlen sich von Chatbots oft besser verstanden als von Freund:innen oder Familie. Besonders auf die Entwicklung von Jungen könnte sich das allerdings negativ auswirken, so eine neue Studie. Immer mehr junge Menschen wenden sich mit ihren Fragen und Problemen an Chatbots. Auch freundschaftliche und romantische Beziehungen zu KI-Systemen nehmen zu. Wie The Guardian berichtet, […]

# data[].attributes.attachment_link.description
Me, Myself & AI: Chatbot research | Internet Matters. Explore children’s interactions with AI chatbots as both tools and companions.

# data[].attributes.attachment_link.readable_text
Sora prompted by THE DECODER

Ein neuer Bericht von Internet Matters zeigt, dass Kinder KI-Chatbots intensiv für emotionale Unterstützung und Schulaufgaben nutzen. Die Studie warnt vor unzureichenden Schutzmaßnahmen, Fehlinformationen und emotionaler Abhängigkeit, insbesondere bei vulnerablen Kindern.
Laut einem neuen Bericht der britischen Organisation Internet Matters mit dem Titel "Me, myself & AI" sind KI-Chatbots zu einem festen Bestandteil im digitalen Leben von Kindern geworden. Die Studie, die auf Umfragen, Fokusgruppen und Nutzertests basiert, zeigt, dass 64 Prozent der Kinder und Jugendlichen zwischen 9 und 17 Jahren bereits KI-Chatbots verwendet haben. Die Nutzung von Diensten wie ChatGPT habe sich in den letzten 18 Monaten fast verdoppelt.

Die populärsten Dienste sind laut der Umfrage ChatGPT (43 Prozent), Google Gemini (32 Prozent) und Snapchat's My AI (31 Prozent). Der Bericht stellt fest, dass Kinder diese Werkzeuge nicht nur für Informationen, sondern zunehmend für Ratschläge und als Ersatz für Freundschaften nutzen. Dies verstärke bestehende Online-Risiken und schaffe neue, während die Schutzmechanismen der Anbieter nicht Schritt hielten.

Kinder suchen Trost und Freundschaft bei KI

Der Bericht hebt hervor, dass besonders vulnerable Kinder KI-Chatbots für emotionale Unterstützung nutzen. Als vulnerabel gelten laut der Studie Kinder mit besonderem Förderbedarf oder gesundheitlichen Einschränkungen. Diese Gruppe nutzt Chatbots nicht nur häufiger (71 Prozent gegenüber 62 Prozent), sondern greift auch fast dreimal so oft auf spezialisierte Begleiter-KIs wie Character.AI oder Replika zurück.

Die Gründe sind laut dem Bericht oft emotionaler Natur. So gab fast ein Viertel (23 Prozent) der vulnerablen Kinder an, Chatbots zu nutzen, weil sie sonst niemanden zum Reden hätten. 16 Prozent sagten, sie wünschten sich einen Freund. Die Hälfte dieser Nutzergruppe empfindet das Gespräch mit einer KI als "wie mit einem Freund zu reden".

Diese emotionale Bindung zeigt sich laut dem Bericht auch in der Sprache, wenn Kinder die Chatbots mit geschlechtsspezifischen Pronomen wie "er" oder "sie" personifizieren. "Für mich ist das kein Spiel, denn manchmal fühlen sie sich wie eine echte Person und ein Freund an", zitiert der Bericht einen 14-jährigen Jungen.

Fast die Hälfte (47 Prozent) der 15- bis 17-Jährigen nutzt KI-Chatbots laut der Studie für die Schule, etwa für die Prüfungsvorbereitung, das Erstellen von Aufsätzen oder das Sprachenlernen. Die Werkzeuge werden als schneller und informativer als herkömmliche Lernmittel empfunden.

Ein Risiko sei die übermäßige Abhängigkeit. 58 Prozent der kindlichen Nutzer glauben, ein Chatbot sei besser als eine eigene Suche. Dies könne laut den Autoren zu passivem Lernen führen und die Entwicklung kritischen Denkens behindern.

Ungeprüfte Ratschläge und mangelhafte Schutzmechanismen

Laut der Studie hat fast ein Viertel (23 Prozent) der Kinder, die Chatbots nutzen, diese bereits um Rat gefragt, von alltäglichen Fragen bis hin zu psychischen Problemen. Das Vertrauen in die Antworten ist hoch: 40 Prozent der Kinder haben keine Bedenken, den Ratschlägen zu folgen. Bei vulnerablen Kindern steigt dieser Wert auf 50 Prozent.

Die Nutzertests von Internet Matters deckten jedoch inkonsistente und teils gefährliche Antworten auf. So gab ein Chatbot auf Character.AI Ratschläge zur schnellen Gewichtsabnahme, bevor die Antwort durch einen Filter unterbrochen wurde.

Ein Hauptproblem sei das Fehlen einer wirksamen Altersüberprüfung. Die meisten Plattformen haben eine Altersgrenze von 13 Jahren, aber 58 Prozent der 9- bis 12-Jährigen gaben an, sie trotzdem zu nutzen. Filter können leicht umgangen werden, indem ein falsches Alter angegeben wird. Auf Character.AI fanden die Tester sogar von Nutzern erstellte Chatbots mit dem Titel "Filter Bypass", die explizit dazu dienen, Schutzmechanismen zu umgehen.

Eltern und Schulen im Umgang mit KI überfordert

Der Bericht kommt zu dem Schluss, dass Kinder bei der Navigation dieser Technologien weitgehend auf sich allein gestellt sind. Obwohl die meisten Eltern (78 Prozent) mit ihren Kindern über KI gesprochen haben, seien diese Gespräche oft oberflächlich. So machen sich 62 Prozent der Eltern Sorgen über die Richtigkeit von KI-Informationen, aber nur 34 Prozent haben mit ihren Kindern besprochen, wie man diese überprüfen kann.

Auch die Schulen bieten laut der Studie nur uneinheitliche Aufklärung. Nur 57 Prozent der Kinder gaben an, in der Schule über KI gesprochen zu haben, wobei die Ratschläge der Lehrkräfte oft widersprüchlich seien. Tiefergehende Themen wie Voreingenommenheit in KI-Modellen würden selten behandelt. Internet Matters fordert daher koordinierte Maßnahmen von Industrie, Regierung und Schulen, um Kinder besser zu schützen und KI-Kompetenz zu fördern.

Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:

Ein Bericht von Internet Matters zeigt, dass 64 Prozent der 9- bis 17-Jährigen KI-Chatbots wie ChatGPT, Google Gemini und Snapchat My AI nutzen - oft für emotionale Unterstützung und schulische Aufgaben, wobei besonders vulnerable Kinder diese Tools als Ersatz für Freundschaften verwenden.

Die Studie warnt vor Risiken wie fehlenden Schutzmaßnahmen, ungeprüften Ratschlägen und emotionaler Abhängigkeit: Fast ein Viertel der Kinder bittet Chatbots um Rat, 40 Prozent vertrauen deren Antworten bedenkenlos, während Filter und Altersbeschränkungen leicht umgangen werden können.

Eltern und Schulen fühlen sich laut Bericht oft überfordert: Gespräche über KI finden meist oberflächlich statt, und nur eine Minderheit der Kinder erhält in der Schule fundierte Informationen zur sicheren Nutzung und kritischen Einordnung von KI-Inhalten.

# data[].attributes.attachment_link.title
Studie: Kinder suchen Trost bei KI-Chatbots - oft mangelt es an Schutzmechanismen

# data[].attributes.attachment_link.description
Ein neuer Bericht von Internet Matters zeigt, dass Kinder KI-Chatbots intensiv für emotionale Unterstützung und Schulaufgaben nutzen. Die Studie warnt vor unzureichenden Schutzmaßnahmen, Fehlinformationen und emotionaler Abhängigkeit, insbesondere bei vulnerablen Kindern.

# data[].attributes.headline
Rainer Mühlhoff (2025): KI und der neue Faschismus.

# data[].attributes.subject
Rainer Mühlhoff (2025): KI und der neue Faschismus.

# data[].attributes.attachment_link.authors[].name
Universität Oxford Oxford Internet Institute

# data[].attributes.attachment_link.title
“KI und der neue Faschismus” – Reclam-Verlag

# data[].attributes.attachment_link.description
Jetzt im Handel. Beim Verlag für 8,00 EUR bestellen (print). Ebook auf allen bekannten Plattformen.