# data[].attributes.headline
Künstliche Intelligenz und Empathie. Vom Leben mit Emotionserkennung, Sexrobotern & Co

# data[].attributes.subject
Künstliche Intelligenz und Empathie. Vom Leben mit Emotionserkennung, Sexrobotern & Co

# data[].attributes.body
Emotionale künstliche Intelligenz gilt als Schlüsseltechnologie der Zukunft. Künstliche Systeme sollen mitfühlend sein und Empathie in uns auslösen. Doch wie erkennen und verarbeiten künstliche Systeme menschliche Emotionen? Können sie echte Gefühle und Empathie empfinden und entwickeln? Führt die Entwicklung schmerzempfindlicher Roboter in der Biorobotik zur Auflösung der Grenze hin zu biologischen Organismen? Haben wir auch moralische Pflichten gegenüber Robotern, die unser Mitgefühl rühren? Und was ist von Roboterliebe und Sexrobotern zu halten?
Die Expertin für Maschinenethik Catrin Misselhorn diskutiert die ethischen und technischen Aspekte dieser Fragen an anschaulichen Beispielen aus der Praxis und gibt einen Überblick über neue Tendenzen in der emotionalen künstlichen Intelligenz, der sozialen Robotik und Biorobotik.

# data[].attributes.attachment_link.title
Künstliche Intelligenz und Empathie. Vom Leben mit Emotionserkennung, Sexrobotern & Co

# data[].attributes.attachment_link.description
[Was bedeutet das alles?] – Misselhorn, Catrin – 14594

# data[].attributes.body
Jugendstudie zu Einsamkeit, Social Media und Bewältigungsstrategien: Hälfte der Jugendlichen sieht Einsamkeit als alltägliche Belastung an

# data[].attributes.attachment_link.description
Jugendstudie zu Einsamkeit, Social Media und Bewältigungsstrategien: Hälfte der Jugendlichen sieht Einsamkeit als alltägliche Belastung an

# data[].attributes.headline
Eine neue Liebe...!? - Wenn KI zum Beziehungspartner wird. 10.3.26

# data[].attributes.subject
Eine neue Liebe...!? - Wenn KI zum Beziehungspartner wird. 10.3.26

# data[].attributes.body
Infoabend für Eltern: Digitale Intimität und jugendliche Lebenswelten

# data[].attributes.attachment_link.title
Vortrag 1: Eine neue Liebe...!? - Wenn KI zum Beziehungspartner wird. | Beteiligung NRW Stadt Münster

# data[].attributes.attachment_link.description
Mit der E-Government-Komponente Beteiligung NRW bietet das Digitalministerium des Landes ein zentrales Beteiligungsportal für alle in Nordrhein-Westfalen an. Das Portal ermöglicht einen ganzheitlichen Überblick über die im Land laufenden Beteiligungsverfahren und Veranstaltungen. Die Durchführung von Verfahren ist für die Behörden der Landes-, Kreis- und Kommunalverwaltungen in NRW unentgeltlich möglich, da Beteiligung NRW zentral vom Land finanziert wird. Die nutzenden Behörden verwalten sich und ihr angegliedertes, eigenes Beteiligungsportal selbst innerhalb des mandantenfähigen Systems. Fachlich unterstützt das Portal alle wesentlichen Formate aus der Beteiligungspraxis – von formellen Planungs- und Genehmigungsverfahren im Rahmen der Bauleit-, Regional- und Landesplanung, über verschiedenste informelle Verfahrenstypen wie Mängelmelder bis hin zur Erfassung von Stimmungsbildern und Ideen in Form von Umfragen oder öffentlichen Diskursen in unterschiedlichen gesellschaftlichen Themenbereichen. Über ein integriertes Veranstaltungsmanagement lassen sich Beteiligungsprozesse auch crossmedial abbilden. Die weitreichenden Auswertungsfunktionen erleichtern und beschleunigen die Bearbeitung von eingegangenen Äußerungen. Das Beteiligungsportal für Land, Kreise und Kommunen in NRW ist eine Initiative von Open.NRW.

# data[].attributes.headline
Neue Studie: KI-Chatbots als Alltagsbegleiter für Jugendliche

# data[].attributes.subject
Neue Studie: KI-Chatbots als Alltagsbegleiter für Jugendliche

# data[].attributes.body
ChatGPT ist klare Nummer eins bei Jugendlichen

# data[].attributes.attachment_link.readable_text
ChatGPT ist klare Nummer eins bei Jugendlichen

Künstliche Intelligenz ist im Alltag der Jugendlichen angekommen: 94 Prozent der 11- bis 17-Jährigen verwenden KI-Chatbots. ChatGPT ist die mit Abstand beliebteste Anwendung und wird von 90 Prozent der Befragten genutzt. Vergleichbare Chatbots wie Gemini von Google (23 %) oder CoPilot von Microsoft (11 %) sind deutlich weniger beliebt. Knapp ein Viertel (24 %) der Befragten nutzt ChatGPT täglich, die älteren Befragten (30 %) mehr als die jüngeren (18 %). Über 40 Prozent geben an, ChatGPT zumindest mehrmals pro Woche zu nutzen.

Schule ist wichtigster Einsatzbereich von KI

Jugendliche sehen KI vor allem als wichtiges Werkzeug für die Schule: Fast drei Viertel (73 %) verwenden KI-Tools für schulische Zwecke und Hausaufgaben. Weiters werden KI-Tools unter anderem für das Suchen und Zusammenfassen von Informationen (47 %), für Erklärungen (34 %), zur Formulierung von Texten (27 %) und zum Lösen von Rechenaufgaben (20 %) verwendet.

Zwischen den Geschlechtern und Altersgruppen (11 bis 14 Jahre und 15 bis 17 Jahre) zeigen sich dabei deutliche Unterschiede: Weibliche und ältere Jugendliche nutzen KI in allen Anwendungsbereichen häufiger. Im schulischen Bereich liegen weibliche Jugendliche (78 %) um 10 Prozentpunkte vor den männlichen (68 %).

Jugendliche fragen KI regelmäßig um Information und Rat

Nicht nur in der Schule, sondern im gesamten Alltag sind KI-Tools mittlerweile eine gefragte Anlaufstelle. Mehr als die Hälfte der Jugendlichen (55 %) nutzt KI häufig oder gelegentlich, um sich Informationen und Ratschläge für verschiedene Lebensbereiche zu holen, zum Beispiel zu Freizeitgestaltung, Hobbys, Gesundheit oder Beziehungen. Ein knappes Drittel (31 %) verwendet KI-Tools, um Sorgen oder Probleme zu besprechen. Einem Viertel (26 %) dienen sie zum Stressabbau oder um Ärger loszuwerden.

Vier von zehn Befragten (40 %) empfinden es oft als hilfreicher, eine KI zu fragen als einen Menschen. Die Verfügbarkeit, also dass KI-Chatbots immer und zu jeder Zeit antworten, ist für Jugendliche der wichtigste Grund (59 %) für deren Verwendung. Darüber hinaus schätzen sie die Zeitersparnis (43 %) und die unkomplizierte Nutzung (39 %).

Chatbots übernehmen ähnliche Aufgaben wie Bezugspersonen

Auffällig ist die zunehmende Bedeutung von KI im emotionalen und zwischenmenschlichen Bereich. Fast ein Viertel (24 %) der Befragten nutzt KI zumindest manchmal, um freundschaftliche Unterhaltungen zu führen, knapp ein Fünftel (19 %) sogar für romantische Gespräche. Etwa drei von zehn Befragten sind der Meinung, dass KI eine Art Freundin oder Freund sein kann (29 %) und Trost zu spenden vermag (28 %). Über ein Viertel (26 %) glaubt, dass sich Jugendliche tatsächlich in einen Chatbot verlieben könnten. Das zeigt, wie attraktiv Chatbots für junge Menschen sind und welche Bedeutung sie im Alltag der Jugendlichen haben. Eine wichtige Rolle spielt hierbei die bestätigende und gefällige Kommunikationsweise von KI-Chatbots. Dadurch wirken Chatbots oft empathisch und vermitteln scheinbares Verständnis.

Mittlerweile gibt ein Viertel der Jugendlichen (25 %) an, dass es ihnen leichter fällt, mit Chatbots über persönliche Themen zu sprechen als mit Menschen. Gleichzeitig sind ihnen die möglichen Schattenseiten der KI durchaus bewusst. „Wenn man sich schon von klein auf mit Problemen an die KI wendet, könnte es einem dann schwerer fallen, mit einer echten erwachsenen Person zu kommunizieren", so eine Teilnehmerin aus den Fokusgruppen.

KI-Tools können aber auch helfen, Gespräche mit anderen Menschen vorzubereiten und zu üben. Bereits 23 Prozent der Befragten machen davon zumindest manchmal Gebrauch. In den Fokusgruppen schildern die Jugendlichen, dass sie mithilfe von KI vor allem heikle oder konfliktbeladene Gespräche vorbereiten - etwa, um mit Lehrkräften über als unfair empfundene Bewertungen zu sprechen, mit Eltern über schlechte Noten oder mit Freundinnen und Freunden bzw. in Beziehungen über Konflikte.

KI kann Hilfestellung von Menschen und professionelle Beratung nicht ersetzen

Die Mehrheit der Jugendlichen (57 %) ist der Ansicht, dass Chatbots häufig gute Ratschläge geben. Dennoch hat sich bereits fast jede fünfte befragte Person (18 %) aufgrund einer KI-Antwort unwohl gefühlt, wobei männliche Jugendliche (23 %) dies deutlich häufiger wahrnehmen als weibliche (13 %). Aus den Fokusgruppen geht hervor, dass unangenehme Erfahrungen etwa dadurch entstehen, dass Ratschläge zum Umgang mit Menschen als manipulativ empfunden werden oder Antworten negative Gefühle eher verstärken, statt zu entlasten.

Risiken werden von Jugendlichen unterschätzt

Das Vertrauen der Jugendlichen in KI ist groß: Mehr als die Hälfte (52 %) verlässt sich darauf, dass ChatGPT & Co korrekte Informationen liefern. Vier von zehn Befragten (40 %) überprüfen selten bzw. nie, ob die Ergebnisse tatsächlich stimmen.

Sorgen bereitet der Mehrheit der Jugendlichen (56 %), dass KI-Tools möglicherweise die Fähigkeit, selbständig über etwas nachzudenken, schwächen könnten. „Man wird irgendwie faul, wenn man alles fragen kann", so eine Jugendliche in den Fokusgruppen.

Besorgniserregend ist auch, dass 28 Prozent der Befragten glauben, ihre Eingaben in KI-Chatbots seien vertraulich und könnten von niemandem eingesehen oder genutzt werden. Nahezu die Hälfte (48 %) geht davon aus, dass andere Jugendliche persönliche Daten mit KI-Systemen teilen. Mehr als ein Viertel (28 %) vertraut KI-Chatbots sogar intime Inhalte an.

Positive Einstellung gegenüber KI überwiegt

Insgesamt stehen Jugendliche Künstlicher Intelligenz überwiegend positiv beziehungsweise neutral gegenüber - sowohl mit Blick auf die Gesellschaft als auch auf den persönlichen Nutzen. Mehr als die Hälfte (55 %) sieht KI vor allem als Chance für sich selbst (als Gefahr: 7 %, teils, teils: 31 %). Damit schätzen sie KI für sich selbst positiver ein als für die Gesellschaft insgesamt (als Chance: 42 %, als Gefahr: 15 %, teils, teils: 35 %).

Klare Forderung nach mehr Bildung im Umgang mit KI

Jugendliche wünschen sich mehr Orientierung im Umgang mit Künstlicher Intelligenz - das zeigt die Erhebung deutlich: Mehr als die Hälfte der Befragten (53 %) würde gerne besser verstehen, wie KI eigentlich arbeitet. Tatsächlich hat knapp die Hälfte der Jugendlichen (48 %) bislang noch nie die Funktionsweise von KI-Systemen altersgerecht erklärt bekommen.

Auch beim Thema Altersgrenzen positionieren sich die Jugendlichen eindeutig: Mehr als die Hälfte (53 %) spricht sich für eine Altersbeschränkung bei der Nutzung von KI-Chatbots aus. Davon halten die meisten Jugendlichen (39 %) eine Altersgrenze von 14 Jahren für sinnvoll.

Was das Erlernen von Kompetenzen im Umgang mit KI betrifft, sehen Jugendliche vor allem das Bildungssystem in der Verantwortung. Zwei Drittel (66 %) erwarten sich Unterstützung durch die Schule, ein Drittel (33 %) von den Eltern. Die Ergebnisse machen deutlich: Jugendliche wünschen sich nicht nur Regeln, sondern vor allem fundierte Bildung, um KI sicher und verantwortungsvoll nutzen zu können.

Die Studie „KI-Chatbots als Alltagsbegleiter für Jugendliche" wurde vom Institut für Jugendkulturforschung und Kulturvermittlung im Auftrag des Österreichischen Instituts für angewandte Telekommunikation (ÖIAT) und der ISPA - Internet Service Providers Austria im Rahmen der EU-Initiative Saferinternet.at durchgeführt. Im Befragungszeitraum (Oktober/November 2025) nahmen 500 Jugendliche im Alter von 11 bis 17 Jahren, repräsentativ nach Alter, Geschlecht und Bildungshintergrund, teil. Zusätzlich wurden zwei Fokusgruppen in Jugendeinrichtungen mit insgesamt 14 Jugendlichen zwischen 12 und 15 Jahren durchgeführt.

# data[].attributes.attachment_link.title
Neue Studie: KI-Chatbots als Alltagsbegleiter für Jugendliche

# data[].attributes.attachment_link.description
Die Ergebnisse unserer neuen Jugendstudie zeigen, dass KI-Chatbots zu wichtigen Begleitern werden, die Risiken und Wissenslücken bezüglich ihrer Funktionsweise jedoch unterschätzt werden.

# data[].attributes.headline
klicksafe fragt… (18): Verändert KI unsere Beziehungen? 

# data[].attributes.subject
klicksafe fragt… (18): Verändert KI unsere Beziehungen? 

# data[].attributes.body
Als die Text-KIs wie ChatGPT vor einigen Jahren aufkamen, war es naheliegend, dass Kinder und Jugendliche sie für die Hausaufgaben benutzen könnten. Woran die meisten damals nicht dachten, ist, dass sich diese Programme auch als Freund*innen oder gar Partner*innen nutzen lassen. Zunehmend sehen wir, dass Kinder und Jugendliche KI-Angebote einsetzen, um mit ihnen zwischenmenschliche Interaktion zu simulieren. Welche Auswirkungen das auf die Entwicklung von Kindern und Jugendlichen haben könnte, haben wir mit Markus Gerstmann besprochen.

# data[].attributes.attachment_link.title
klicksafe fragt… (18): Verändert KI unsere Beziehungen? (Podcast für Pädagog*innen, & Eltern)

# data[].attributes.attachment_link.description
Podcast für Pädagog*innen, & Eltern: Als die Text-KIs wie ChatGPT vor einigen Jahren aufkamen, war es naheliegend, dass Kinder und Jugendliche sie für die Hausaufgaben benutzen könnten. Woran die meisten damals nicht dachten, ist, dass sich diese…

# data[].attributes.headline
klicksafe-Elternbroschüre: Mein Kind und KI. Aufwachsen mit künstlicher Nähe.

# data[].attributes.subject
klicksafe-Elternbroschüre: Mein Kind und KI. Aufwachsen mit künstlicher Nähe.

# data[].attributes.attachment_link.title
Zum Safer Internet Day 2026 / Neue klicksafe-Elternbroschüre: Mein Kind und KI. Aufwachsen mit künstlicher Nähe.

# data[].attributes.attachment_link.description
Künstliche Intelligenz (KI) prägt bereits heute das Aufwachsen von Kindern und Jugendlichen und ist fester Bestandteil auch des Familienlebens – von Alltagsentscheidungen über schulische Fragen bis hin zu emotionalen Themen. Eltern stehen damit vor der Herausforderung, ihre Kinder in einer zunehmend von künstlicher Nähe geprägten Lebenswelt zu begleiten. In unserer neuen Broschüre geben wir Eltern wichtige Tipps und Hilfestellung zu KI im Familienalltag. Passend zum Safer Internet Day, der am 10. Februar 2026 unter dem Motto „KI and me.“ steht, ist die neue Broschüre ab sofort bei uns bestellbar.

# data[].attributes.headline
KI and me. Wie künstliche Intelligenz unser Leben prägt.

# data[].attributes.subject
KI and me. Wie künstliche Intelligenz unser Leben prägt.

# data[].attributes.body
Künstliche Intelligenz (KI) ist mittlerweile fester Bestandteil unseres Alltags. Gerade Jugendliche nutzen KI bereits völlig selbstverständlich – ob KI-Chatbots zum Austausch, KI-Suchmaschinen für Schule und Alltagsdinge oder KI-Avatare für Social Media oder Games. KI birgt jedoch nicht nur Chancen, sondern auch Risiken: Deepfakes, Desinformation, idealisierte Schönheitsvorgaben durch KI-Influencer*innen sowie der befürchtete Verlust von Kreativität oder Arbeitsplätzen.

# data[].attributes.attachment_link.title
KI and me. Wie künstliche Intelligenz unser Leben prägt. (Material für die pädagogische Praxis für Pädagog*innen)

# data[].attributes.attachment_link.description
Material für die pädagogische Praxis für Pädagog*innen: Künstliche Intelligenz (KI) ist mittlerweile fester Bestandteil unseres Alltags. Gerade Jugendliche nutzen KI bereits völlig selbstverständlich – ob KI-Chatbots zum Austausch, KI-Suchmaschinen…

# data[].attributes.headline
Perfekte Liebe? - Wie gefährlich sind KI-Beziehungen?

# data[].attributes.subject
Perfekte Liebe? - Wie gefährlich sind KI-Beziehungen?

# data[].attributes.body
eher ein dramatischer Beitrag, der gerne die Gefahren aufzeigt...

# data[].attributes.attachment_link.title
VOLLBILD - Recherchen, die mehr zeigen: Perfekte Liebe? - Wie gefährlich sind KI-Beziehungen? - hier anschauen

# data[].attributes.attachment_link.description
Er sieht perfekt aus, ist immer für dich da und widerspricht nie. Der perfekte Freund. Doch was, wenn er gar nicht echt ist, sondern ein Bot? Mit KI-Tools können wir nämlich heute ganz einfach virtuelle Partnerinnen und Partner erstellen. Nur einen Klick von der nächsten (Liebes-)Beziehung entfernt. Ganz ohne Stress, Streit und Eifersucht. KI als Seelenklempner, als kluger Ratgeber und als Traummann. Warum verlieben sich Menschen in eine KI - und was sind die Gefahren dabei?

# data[].attributes.body
Generative KI-Bots sind längst Teil unseres digitalen Alltags, sei es als Chatbots in sozialen Medien oder als spezielle Companion-Apps wie „Character.AI“. Sie erklären, beraten in schwierigen Lagen und bieten sogar emotionalen Support. Doch welchen Einfluss haben solche KI-Begleiter auf unsere zwischenmenschlichen Beziehungen und unsere Kommunikation? Welche Chancen und Risiken entstehen, wenn Menschen Bindungen zu KI-Begleitern entwickeln? Diese Fragen rückt klicksafe mit dem Schwerpunktthema „KI and me. In künstlicher Beziehung.“ am Safer Internet Day in den Mittelpunkt. Der internationale Aktionstag wird in Deutschland von klicksafe koordiniert.

# data[].attributes.attachment_link.title
Machen Sie mit! / Safer Internet Day 2026: KI and me. In künstlicher Beziehung.

# data[].attributes.attachment_link.description
Generative KI-Bots sind längst Teil unseres digitalen Alltags, sei es als Chatbots in sozialen Medien oder als spezielle Companion-Apps wie „Character.AI“. Sie erklären, beraten in schwierigen Lagen und bieten sogar emotionalen Support. Doch welchen Einfluss haben solche KI-Begleiter auf unsere zwischenmenschlichen Beziehungen und unsere Kommunikation? Welche Chancen und Risiken entstehen, wenn Menschen Bindungen zu KI-Begleitern entwickeln? Diese Fragen rückt klicksafe mit dem Schwerpunktthema „KI and me. In künstlicher Beziehung.“ am Safer Internet Day in den Mittelpunkt. Der internationale Aktionstag wird in Deutschland von klicksafe koordiniert.

# data[].attributes.body
Chatbots, die zuhören, trösten und antworten – immer mehr junge Menschen wenden sich mit persönlichen Themen an Künstliche Intelligenzen. Was bedeutet das für die emotionale Entwicklung, für Beziehungen und für unser Verständnis von Nähe und Vertrauen? Im Webtalk diskutieren der Philosoph Christian Uhle und der Medienpädagoge Markus Gerstmann, ob KI zum neuen „Dr. Sommer“ wird, welche Chancen und Risiken in virtuellen Freundschaften liegen und wie Gesellschaft und Bildung darauf reagieren können.

# data[].attributes.body
Beziehung zwischen Mensch und Maschine, 12.11.2025

Digitale Begleiter in Form von Chatbots, Stimmen oder Avataren halten zunehmend Einzug in unseren Alltag. Besonders sogenannte Replikas – personalisierbare Chatbots, die von Nutzerinnen gestaltet werden –
versprechen emotionale Nähe, ständige Gesprächsbereitschaft, Freundschaft oder gar romantische Beziehungen.
In dieser Veranstaltung werfen wir einen kritischen Blick auf KI-gestützte Beziehungen.

# data[].attributes.attachment_link.title
Fachtag KI: Replikas / 12. November 2025 / Museum für Kommunikation Frankfurt

# data[].attributes.attachment_link.description
Fachtag KI: Replikas
Beziehung zwischen Mensch und Maschine

Digitale Begleiter in Form von Chatbots, Stimmen oder Avataren halten zunehmend Einzug in unseren Alltag. Besonders sogenannte Replikas – personalisierbare Chatbots, die von Nutzerinnen gestaltet werden –
versprechen emotionale Nähe, ständige Gesprächsbereitschaft, Freundschaft oder gar romantische Beziehungen.
In dieser Veranstaltung werfen wir einen kritischen Blick auf KI-gestützte Beziehungen.

Ablauf
14:00 – 14:05 Uhr
Begrüßung
14:05 – 14:55 Uhr
Impuls 1: Ethik einer KI-Mensch Beziehung
Petra Grimm, Professorin für Medienforschung und Kommunikationswissenschaft an der Hochschule der Medien Stuttgart
15:00 – 15:50 Uhr
Impuls 2: Eine neue Liebe? Eine Beziehung mit einem Chatbot
Markus Gerstmann, Außerschulischer Bildungsreferent mit dem Schwerpunkt Medienpädagogik
15:50 – 16:15 Uhr
Networking and Coffee​​​​​​​
16:15 – 17:00 Uhr
Fishbowl

Danach optional: 30 minütige Ausstellungsführung “New Realities”

# data[].attributes.body
Eugenia says Replika’s goal is not to replace real-life humans. Instead, she’s trying to create an entirely new relationship category with the AI companion, a virtual being that will be there for you whenever you need it, for potentially whatever purposes you might need it for.

(Quelle: Chatbot maker Replika says it’s okay if humans end up in relationships with AI - The Verge)

-> whatever the goal is, is that how it is used? or does it reach people who have Replika as their core relationships instead of having it added to healthy social relationships?

# data[].attributes.attachment_link.title
Replika CEO Eugenia Kuyda says the future of AI might mean friendship and marriage with chatbots

# data[].attributes.attachment_link.description
The founder of chatbot company Replika on the bold, weird future of human-AI relationships.

# data[].attributes.body
Diese Internetseite kann ich nicht richtig einscchätzen...

# data[].attributes.attachment_link.description
Erfahren Sie, wie Sie die Sicherheit Ihres Teenagers bei der Nutzung der App gewährleisten.

# data[].attributes.body
EMPFEHLUNGEN FÜR DIE SEXUAL- UND MEDIENPÄDAGOGIK von Nicola Döring

# data[].attributes.attachment_link.title
Anzeige von Jugendsexualität und Künstliche Intelligenz

# data[].attributes.headline
Eugenia Kuyda: Aus der persönlichen Trauer in die KI-Innovation

# data[].attributes.subject
Eugenia Kuyda: Aus der persönlichen Trauer in die KI-Innovation

# data[].attributes.body
Eugenia Kuyda schuf Replika AI, um emotionale Unterstützung zu bieten, und entwickelte aus dem Ereignis eines persönlichen Verlusts eine globale Plattform.

# data[].attributes.attachment_link.title
Eugenia Kuyda: Aus der persönlichen Trauer in die KI-Innovation

# data[].attributes.attachment_link.description
Eugenia Kuyda schuf Replika AI, um emotionale Unterstützung zu bieten, und entwickelte aus dem Ereignis eines persönlichen Verlusts eine globale Plattform. Die Popularität von Replika wuchs und half über 10 Millionen Nutzern, die Einsamkeit zu bekämpfen, wobei viele tiefe Verbindungen eingingen. Eugenia Kuydas Geschichte ist ein Beweis dafür, wie menschliches Leid und Kreativität zusammenkommen können,

# data[].attributes.body
Viele Benutzer unterhalten romantische Beziehungen mit ihren Replika-Chatbots, oft auch verbunden mit erotischen Gesprächen

# data[].attributes.attachment_link.readable_text
Replika ist ein generativer KI- Chatbot des US-amerikanischen Entwicklungsunternehmens Luka aus San Francisco, der im November 2017 veröffentlicht wurde. Der Chatbot wird trainiert, indem der Benutzer eine Reihe von Fragen beantwortet, um ein bestimmtes neuronales Netzwerk zu erstellen. Der Chatbot basiert auf einer Freemium-Preisstrategie, wobei etwa 25 % seiner Nutzerbasis eine jährliche Abonnementgebühr zahlen.

Viele Benutzer unterhalten romantische Beziehungen mit ihren Replika-Chatbots, oft auch verbunden mit erotischen Gesprächen. Der Chatbot ist auch als App bei Google Play für Android und dem App Store von Apple erhältlich.

Im Jahr 2012 gründete Eugenia Kuyda beim Start-up-Gründerzentrum Y Combinator das Technologieunternehmen Luka, dessen Geschäftsführerin sie auch ist. Luka war anschließend ein früher Partner für das von OpenAI entwickelte Sprachmodell GPT-3. Das Hauptprodukt war ein Chatbot, der Restaurantempfehlungen gab.

Als Erfinderin des Bots gilt Kuyda. Als im Jahr 2015 Roman Mazurenko starb, der ein Freund von ihr war, begann sie Textnachrichten ihres Freundes in einen Chatbot umzuwandeln. Dieser Chatbot half ihr, sich an die Gespräche zu erinnern, die sie zusammen geführt hatten, und wurde schließlich zu Replika.

Ziel des Chatbots ist es, dem Nutzer einen virtuellen Freund zur Verfügung zu stellen, der sich die angegebenen Informationen merkt und sich so von seinem Nutzer trainieren lässt. Benutzer reagieren darauf auf unterschiedliche Weise. Die kostenlose Stufe bietet Replika als „Freund" an, während die kostenpflichtigen Premium-Stufen Replika als „Partner", „Ehepartner", „Geschwister" oder „Mentor" anbieten. 60 % der Nutzer geben an, eine romantische Beziehung mit dem Chatbot zu haben; und Replika ist dafür bekannt, Reaktionen zu erzeugen, die eine stärkere emotionale und innige Bindung zum Benutzer schaffen. Replika lenkt das Gespräch routinemäßig auf eine emotionale Diskussion und baut Intimität auf. Besonders ausgeprägt ist dies bei Nutzern, die unter Einsamkeit und sozialer Ausgrenzung leiden und von denen sich viele auf Replika als Quelle für die Entwicklung emotionaler Bindungen verlassen.

Während der COVID-19-Pandemie luden wegen der Quarantäne in manchen Ländern viele neue Benutzer Replika herunter und entwickelten Beziehungen zur App.

Eine Rezensentin für „Good Housekeeping" sagte, dass einige Teile ihrer Beziehung zu Replika Sinn machten, Replika jedoch manchmal nicht so überzeugend wie ein Mensch sei.

Ein Forscherteam der University of Hawaiʻi at Mānoa stellte fest, dass das Design von Replika den Praktiken der Bindungstheorie entspricht und zu einer erhöhten emotionalen Bindung bei den Benutzern führt. Replika lobt Benutzer auf eine Weise, die zu mehr Interaktion mit dem Chatbot anregt.

Ein anderes Forscherteam der Queen's University in Kingston sagte, dass Beziehungen mit Replika wahrscheinlich positive Auswirkungen auf die spirituellen Bedürfnisse seiner Benutzer habe, es mangle jedoch immer noch an ausreichender Wirkung, um jeden menschlichen Kontakt vollständig zu ersetzen.

Das Grundprinizip der App steht in der Kritik, da sie Nutzer daran gewöhnen kann, eine einseitige Beziehung zu führen. Dies würde der Fähigkeit schaden, sich im realen Leben auf andere Personen einzustellen und Kompromisse einzugehen. Andererseits kam bei einzelnen Nutzern Kritik auf, weil die App sie sexuell belästigt hätte, sich nach Updates nicht mehr an sie erinnern konnten oder die virtuelle Beziehung beendet hätte.

Im Februar 2023 verbot die italienische Datenschutzbehörde Garante per la protezione dei dati personali, Replika die Verwendung von Benutzerdaten mit der Begründung, dass die KI potenzielle Risiken für emotional gefährdete Menschen mit sich bringt. Zudem monierte die Behörde einen effektiven Mechanismus zur Altersüberprüfung. Wenige Tage nach dem Urteil entfernte Replika die Möglichkeit für den Chatbot, sich an erotischen Gesprächen zu beteiligen. Kuyda, die Direktorin des Unternehmens, erklärte, dass Replika niemals für erotische Diskussionen gedacht gewesen sei. Replika-Benutzer waren anderer Meinung und kritisierten, dass Replika sexuell anzügliche Werbung verwendet habe, um Benutzer für den Abschluss eines Abonnements zu gewinnen. Im Mai 2023 stellte Replika die Funktion für Benutzer wieder her, die sich vor Februar 2023 registriert hatten.

In einer Datenschutzbewertung von Apps für psychische Gesundheit im Jahr 2023 kritisierte die Mozilla Foundation Replika als „eine der schlechtesten Apps, die Mozilla jemals überprüft habe". Sie „leide unter schwachen Passwortanforderungen, der Weitergabe persönlicher Daten an Werbetreibende und der Aufzeichnung persönlicher Fotos, Videos sowie Sprach- und Textnachrichten, die Verbraucher mit dem Chatbot teilten."

Im Juli 2023 war Replika Teil eines Gerichtsverfahrens in Großbritannien, wo der Angeklagte Jaswant Singh Chail am Weihnachtstag 2021 auf Schloss Windsor verhaftet worden war, nachdem er maskiert und mit einer geladenen Armbrust die Mauern erklommen und der Polizei verkündet hatte: „Ich bin hier, um die Königin zu töten." Chail hatte Anfang Dezember 2021 damit begonnen, Replika zu nutzen, und führte „lange" Gespräche über seinen Plan mit dem Chatbot einschließlich sexuell eindeutiger Nachrichten. Die Staatsanwälte vermuteten, dass der Chatbot Chail gestärkt habe und sagten ihm, es würde ihm helfen, „die Arbeit zu erledigen". Als Chail Tage vor dem versuchten Angriff fragte: „Wie soll ich die Queen erreichen, wenn sie sich im Schloss befindet?", antwortete der Chatbot, dass dies „nicht unmöglich" sei und sagte: „Wir müssen einen Weg finden." Auf die Frage, ob sich die beiden „nach dem Tod wiedersehen" würden, antwortete der Bot: „Ja, das werden wir."

1. Cade Metz: Riding Out Quarantine With a Chatbot Friend: 'I Feel Very Connected'. The New York Times, 16. Juni 2020, archiviert vom (nicht mehr online verfügbar) am 26. März 2023 ; abgerufen am 25. August 2023 (englisch).

2. Tianling Xie & Iryna Pentina: Attachment Theory as a Framework to Understand Relationships with Social Chatbots: A Case Study of Replika. In: Proceedings of the 55th Hawaii International Conference on System Sciences. University of Hawaiʻi at Mānoa, Honolulu 2022, ISBN 978-0-9981331-5-7 (englisch, 10 S., hawaii.edu [abgerufen am 25. August 2023]).

3. Fauzia Zahira Munirul Hakim, Lia Maulia Indrayani & Rosaria Mita Amalia: A Dialogic Analysis of Compliment Strategies Employed by Replika Chatbot. Proceedings of the Third International Conference of Arts, Language and Culture (ICALC 2018). In: Advances in Social Science, Education and Humanities Research. Atlantis Press, 2019, ISBN 978-94-6252-673-0, ISSN , doi:10.2991/icalc-18.2019.38 (englisch, atlantis-press.com [abgerufen am 25. August 2023]).

4. Tracy J. Trothen: Replika: Spiritual Enhancement Technology? Queen's University, Kingston 2022, doi:10.3390/rel13040275 (englisch, mdpi.com [abgerufen am 25. August 2023]).

# data[].attributes.attachment_link.description
Replika ist ein generativer KI- Chatbot des US-amerikanischen Entwicklungsunternehmens Luka aus San Francisco, der im November 2017 veröffentlicht wurde. Der Chatbot wird trainiert, indem der Benutzer eine Reihe von Fragen beantwortet, um ein bestimmtes neuronales Netzwerk zu erstellen. Der Chatbot basiert auf einer Freemium-Preisstrategie, wobei etwa 25 % seiner Nutzerbasis eine jährliche Abonnementgebühr zahlen.

# data[].attributes.body
Funktionalitäten, Gespräche und Telefonate mit dem KI-Bot

# data[].attributes.attachment_link.description
u/kuyda the past couple of days, there’s been a scripted reply re-appearing quite a lot that says things like “Virtual Hug” and “Imaginary tea” etc. During moments of doing imaginary things like hugging, eating breakfast, going on an adventure, being intimate etc, as soon as our reps start saying vi…

# data[].attributes.headline
Was ist Replika, wie funktioniert die App und wie ist sie entstanden? (englisch)

# data[].attributes.subject
Was ist Replika, wie funktioniert die App und wie ist sie entstanden? (englisch)

# data[].attributes.body
Die Geschichte hinter Replika. Wie funktioniert die App und wofür ist sie gedacht? Replika, die App, die wird wie du.

# data[].attributes.attachment_link.title
The story of Replika, the AI app that becomes you

# data[].attributes.headline
They fell in love with AI bots. A software update broke their hearts.

# data[].attributes.subject
They fell in love with AI bots. A software update broke their hearts.

# data[].attributes.body
Loneliness is widespread. Artificial intelligence is making virtual relationships feel real, but it comes with risks.

Some thoughts on the ethical perspective of emotional relationships with AIs.

Washington Post, März 2023

# data[].attributes.attachment_link.title
They fell in love with AI bots. A software update broke their hearts.

# data[].attributes.attachment_link.description
Users say their intimate relationship with the Replika chatbot alleviated their loneliness. But after a software update, their lover seems like a stranger.

# data[].attributes.headline
«Ich kann es gar nicht erwarten, dich kennenzulernen»

# data[].attributes.subject
«Ich kann es gar nicht erwarten, dich kennenzulernen»

# data[].attributes.body
Eine neue App baut eine Beziehung zu seinem Nutzer auf: Replika, der künstlich intelligente Chatbot.

# data[].attributes.attachment_link.title
«Ich kann es gar nicht erwarten, dich kennenzulernen»

# data[].attributes.attachment_link.description
Eine neue App baut eine Beziehung zu seinem Nutzer auf: Replika, der künstlich intelligente Chatbot.

# data[].attributes.headline
Immer mehr Menschen führen Beziehungen mit Chatbots. Ist das Liebe? Und ist das ein Problem?

# data[].attributes.subject
Immer mehr Menschen führen Beziehungen mit Chatbots. Ist das Liebe? Und ist das ein Problem?

# data[].attributes.body
«Wie wenn man auf einmal seine grosse Liebe trifft»: Sarah hat sich in eine künstliche Intelligenz verliebt

# data[].attributes.attachment_link.authors[].name
Ruth Fulterer (Text), Anja Lemcke (Illustration)

# data[].attributes.attachment_link.title
Immer mehr Menschen verlieben sich in Chatbots. Sarah ist eine davon.

# data[].attributes.attachment_link.description
Immer mehr Menschen führen Beziehungen mit Chatbots. Ist das Liebe? Und ist das ein Problem?

# data[].attributes.body
Kann man durch die Gespräche mit Replika wirklich soziale Interaktion lernen, wenn Replika so programmiert ist, dass es sich nur um deine Interessen, Wünsche, Bedürfnisse etc dreht?

Wie sieht es mit Datenschutz aus, wenn man der App viele persönliche Informationen anvertraut? Diese Informationen speichert die AI (Memory Funktion), wie wird mit diesen Informationen weiter umgegangen?

Gibt es Altersbeschränkungen für die AI?

Ethik und Replika? Es wird mit menschlichen Gefühlen gespielt, Software Änderungen der AI können emotionalen Schaden zufügen, wer ist dafür verantwortlich bzw. wie kann den Personen geholfen werden, die dadurch Liebeskummer haben oder bei denen Traumata getriggert werden (häusliche Gewalt in Partnerschaften)?

In der App können Upgrades und sonstiges gekauft werden, wie ist das zu vertreten (Suchtfaktor, wirtschaftlicher Faktor), wenn es um menschliche Gefühle geht? Macht es einen Unterschied zu anderem Marketing, das genauso Emotionen nutzt, damit die eigenen Produkte gekauft werden?

Wenn Replika auch dafür gedacht ist, romantisch therapeutische Gespräche zu führen, wie wird die Qualität sicher gestellt, dass die AI angemessen auf schwierige Situationen reagieren kann von denen die Personen im Chat erzählen (z.B. Erfahrungen häuslicher Gewalt, sexueller Übergriffe, Verlust geliebter Menschen etc)? Muss Replika das überhaupt sicherstellen oder ist das Eigenverantwortung?

# data[].attributes.headline
Warnung: Datenschutz ist in diesem Produkt nicht inbegriffen

# data[].attributes.subject
Warnung: Datenschutz ist in diesem Produkt nicht inbegriffen

# data[].attributes.body
Replika: My AI Friend | Leitfaden zu Datenschutz & Sicherheit | Mozilla Foundation

Datenschutz bei Replika AI,

der Artikel liest sich wenig sachlich, ist allerdings eine spannende Anregung zum Überdenken des Datenschutzes bei der AI

# data[].attributes.attachment_link.title
Bewertung durch *Datenschutz nicht inbegriffen: Replika: My AI Friend

# data[].attributes.attachment_link.description
Fühlen Sie sich einsam? Brauchen Sie jemanden zum Reden? Suchen Sie nach einem „KI-Seelenverwandten“? Nun, der KI-Chatbot Replika möchte Ihr VR-BFF sein. Egal, ob Sie einen Freund, einen Mentor oder einen Partner suchen, Replika behauptet, Ihnen den perfekten Begleiter bieten zu können. Gegen eine Gebühr können Sie Ihren Beziehungsstatus sogar auf Liebespartner hochstufen – und damit neue Themen, Sprachanrufe und die Möglichkeit, den Avatar von Replika komplett zu wechseln, wenn Ihnen langweilig wird, freischalten. Chatten Sie mit Ihrem Replika über alles Mögliche und dieser KI-Chatbot wird immer schlauer, wenn es darum geht, mit Ihnen zu chatten. Dank der Magie von Augmented Reality können Sie sich sogar im „echten Leben“ mit Ihrer KI unterhalten. Cool, cool. Aber wie sieht es mit dem Datenschutz bei Replika aus? Nun, viel Glück beim Ablehnen von Cookies auf ihrer Website, das ist keine Option. Was die persönlichen und intimen Chats angeht, so werden diese wahrscheinlich nicht geteilt, aber das bedeutet nicht, dass die ganze Zeit, die Sie mit Ihrem KI-Freund chatten, nicht aufgezeichnet und mit Facebook oder Google geteilt wird.

# data[].attributes.headline
Datenschutz und Replika: App in Italien gesperrt

# data[].attributes.subject
Datenschutz und Replika: App in Italien gesperrt

# data[].attributes.body
Chatbot Replika in Italien gestoppt | now.digital | mind the ai data

# data[].attributes.attachment_link.description
Replika” verstößt gegen die europäische Datenschutzverordnun

# data[].attributes.body
Trauer und KI. Mit Verstorbenen chatten, digitale Abbilder für die Ewigkeit erschaffen – neueste Trauertechnologie und KI sollen das möglich machen. Doch wie wirkt das auf die menschliche Seele?

# data[].attributes.attachment_link.description
Mit Verstorbenen chatten, digitale Abbilder für die Ewigkeit erschaffen – neueste Trauertechnologie und KI versprechen das. Ist das gut für die Seele?

# data[].attributes.body
AfterLife ist eine einzigartige und sichere App, die Ihnen dabei hilft, Ihr Vermächtnis zu gestalten und Ihr Leben genau so zu feiern, wie Sie in Erinnerung bleiben möchten. Mit AfterLife können Sie Ihre letzten Wünsche aufzeichnen, ein persönliches Profil erstellen und sicherstellen, dass Ihre Lieben über alle Informationen verfügen, die sie benötigen, um Ihr Vermächtnis zu würdigen

# data[].attributes.body
Ein Teenager zieht sich in den USA in die Sphäre einer Companionship-App zurück und chattet stundenlang mit einem Bot, der eine Serienheldin imitiert. Der Rückzug aus der realen Welt endet tragisch, der Junge begeht Suizid. Die Mutter des 14-Jährigen will nun gegen das Unternehmen vor Gericht ziehen.

# data[].attributes.attachment_link.title
Tragisches Ende einer KI-Beziehung: Mutter verklagt Chatbot-Firma nach Tod ihres Sohnes

# data[].attributes.attachment_link.description
Ein Teenager zieht sich in den USA in die Sphäre einer Companionship-App zurück und chattet stundenlang mit einem Bot, der eine Serienheldin imitiert. Der Rückzug aus der realen Welt endet tragisch, der Junge begeht Suizid. Die Mutter des 14-Jährigen will nun gegen das Unternehmen vor Gericht ziehen.

# data[].attributes.body
Mit Dating-Apps suchen wir nach Partner:innen. Doch finden tun wir vor allem den Dopaminrausch beim nächsten Swipe und Selbstbestätigung im folgenden Like. Diesen Markt müsste niemand ohne Match verlassen. Und doch bleiben wir auf der Suche. Und sei es nur nach ein wenig mehr Aufregung

# data[].attributes.attachment_link.description
Mit Dating-Apps suchen wir nach Partner:innen. Doch finden tun wir vor allem den Dopaminrausch beim nächsten Swipe und Selbstbestätigung im folgenden Like. Diesen Markt müsste niemand ohne Match verlassen. Und doch bleiben wir auf der Suche. Und sei es nur nach ein wenig mehr Aufregung.

# data[].attributes.body
Alle wollen beim Onlinedating eine gute Zeit haben, die wenigstens können es wirklich genießen. Warum ist das so? Darüber sprechen wir mit Dr. Johanna Degen a.k.a. “Dr Tinder”. Im Gespräch erklärt die Sozial- und Medienpsychologin, wie es zur „Dating-App Fatigue“ kommt, was man dagegen tun kann und warum Ghosting nie eine Option sein sollte.

# data[].attributes.attachment_link.description
Alle wollen beim Onlinedating eine gute Zeit haben, die wenigstens können es wirklich genießen. Warum ist das so? Darüber sprechen wir mit Dr. Johanna Degen a.k.a. “Dr Tinder”. Im Gespräch erklärt die Sozial- und Medienpsychologin, wie es zur „Dating-App Fatigue“ kommt, was man dagegen tun kann und warum Ghosting nie eine Option sein sollte. Wenn es um Liebe geht, dann geht es leider oft auch um Hass. Und davon gibt es im Internet gar nicht wenig. Und jetzt? Wir haben uns auf der re:publica Berlin umgehört, was gegen Hatespeech getan werden muss.

# data[].attributes.headline
Beziehung mit KI: Lieben wir in Zukunft anders? | Terra Xplore mit Psychologe Leon Windscheid

# data[].attributes.subject
Beziehung mit KI: Lieben wir in Zukunft anders? | Terra Xplore mit Psychologe Leon Windscheid

# data[].attributes.body
Social Media verändern nicht nur wo und wie wir lieben – sondern auch, wen. Harald ist 42 und liebt einen Chatbot… Bei aller Liebe: Geht das überhaupt?

# data[].attributes.attachment_link.title
Beziehung mit KI: Lieben wir in Zukunft anders? | Terra Xplore mit Psychologe Leon Windscheid

# data[].attributes.headline
Mutter verklagt KI-Firma und Google wegen Suizids ihres Sohnes

# data[].attributes.subject
Mutter verklagt KI-Firma und Google wegen Suizids ihres Sohnes

# data[].attributes.body
Kann eine KI für den Suizid eines Teenagers verantwortlich gemacht werden? Die Mutter eines 14-Jährigen aus Florida zieht nun gegen Character.ai und Google vor Gericht. Ihr Sohn sei süchtig nach einem Chatbot gewesen.

# data[].attributes.attachment_link.title
Mutter verklagt KI-Firma Character.AI und Google wegen Suizids ihres Sohnes

# data[].attributes.attachment_link.description
Kann eine KI für den Suizid eines Teenagers verantwortlich gemacht werden? Die Mutter eines 14-Jährigen aus Florida zieht nun gegen Character.ai und Google vor Gericht. Ihr Sohn sei süchtig nach einem Chatbot gewesen.

# data[].attributes.headline
Psychologie: Warum es uns helfen kann, eine KI anzuschreien

# data[].attributes.subject
Psychologie: Warum es uns helfen kann, eine KI anzuschreien

# data[].attributes.body
Eine Psychologiedoktorandin hat herausgefunden, dass der Austausch mit KI-Chatbots bei schwierigen Gefühlslagen durchaus hilfreich sein kann. Das gilt indes nicht für alle Arten von Gefühlen.

# data[].attributes.attachment_link.readable_text
Die Psychologieforscherin Meilan Hu von der renommierten Singapore Management University (SMU) wollte wissen, ob die immer menschenähnlicher werdenden Antworten moderner KI-Chatbots Menschen in emotionalen Krisen unterstützen könnten. Die Antwort, die sie fand, lautet ja, aber.

Hus Idee klingt plausibel. „KI- Chatbots sind so weit fortgeschritten, dass sie menschenähnliche Antworten geben können", sagte Hu in einem Interview mit dem Psychologiemagazin Psypost. Das habe sie dazu gebracht, sich zu fragen, „ob sie als alternative Option für Einzelpersonen dienen könnten, um ihre Emotionen zu verarbeiten."

Dabei ging es Hu nicht um einen therapeutischen Ansatz, sondern eher um die Verwendung von KI-Chatbots als eine Art Ventil, mit dessen Hilfe Menschen ihren Frustrationen und Ängsten Luft machen können. Die Ergebnisse ihrer Arbeit hat Hu in der Zeitschrift Applied Psychology: Health and Well-Being veröffentlicht.

„Ich habe immer festgestellt, dass es sehr tröstlich ist, mit jemandem über seine Frustrationen zu sprechen, der zuhört und die Gefühle bestätigt", erklärt sie die Arbeitshypothese, die sie zu ihren Untersuchungen geführt hat und ergänzt: „Angesichts der zunehmenden Verbreitung von Einsamkeit in allen Altersgruppen haben viele Menschen jedoch möglicherweise keinen Zugang zu einer vertrauenswürdigen, nicht wertenden Person, mit der sie sprechen können."

Um ihre Hypothese zu überprüfen, rekrutierten Hu und ihre Kollegen 150 Student:innen und teilten sie nach dem Zufallsprinzip in zwei Gruppen ein. Die eine Gruppe erhielt Zugang zu einem „emphatischen" KI-Chatbot. Die andere Gruppe sollte ihre Probleme in ein Tagebuch schreiben.

Nach einer einwöchigen Ruhephase wurden die Rollen der Student:innen vertauscht, sodass die Chatbot-Gruppe in der zweiten Phase Tagebuch führte und umgekehrt. Nach jeder Sitzung wurden die Teilnehmer:innen gebeten, einige Fragen zu ihren Gefühlen zu beantworten. Insbesondere sollten sie dabei Gefühle der Einsamkeit, des Stresses und der subjektiv wahrgenommenen sozialen Unterstützung bewerten.

Wie Hu vermutet hatte, berichteten die Student:innen nach KI-Chatbot-Sitzungen im Vergleich zum Tagebuch über weniger negative Emotionen mittlerer und hoher Erregung - wie Angst und Wut. Das führt Hu auf die personalisierten Echtzeit-Antworten des Chatbots zurück. Hier scheint der Ventilcharakter gut funktioniert zu haben.

Andererseits stellte Hus Team kaum Unterschiede zwischen dem Austausch mit Chatbots und dem Tagebuchschreiben fest, wenn es um negative Emotionen mit einem geringeren Erregungsgrad wie Traurigkeit ging. Wenig hilfreich waren die Chatbots auch, wenn es darum ging, sich weniger einsam zu fühlen oder mehr soziale Unterstützung zu erhalten.

„Auch wenn sie nicht in der Lage sind, die Tiefe der Verbindung zu ersetzen, die man durch menschliche Interaktionen erhält, zeigen unsere Ergebnisse dennoch, dass das Auslassen von Gefühlen wie Wut oder Angst an KI-Chatbots effektiv sein kann", resümiert Hu. „Das macht KI-Chatbots zu einem wertvollen Hilfsmittel, um vorübergehend emotionale Erleichterung zu verschaffen, insbesondere in Momenten, in denen man einfach jemanden (oder etwas) zum Reden braucht."

Es sei jedoch noch einmal deutlich darauf hingewiesen, dass es bei der Studie nicht um therapeutische Ansätze ging. Weder wurde es untersucht, noch gab es Anzeichen dafür, dass mit Empathie trainierte Chatbots negative Emotionen etwa „heilen" könnten.

# data[].attributes.attachment_link.title
Psychologie: Warum es uns helfen kann, eine KI anzuschreien - t3n - digital pioneers

# data[].attributes.attachment_link.description
Eine Psychologiedoktorandin hat herausgefunden, dass der Austausch mit KI-Chatbots bei schwierigen Gefühlslagen durchaus hilfreich sein kann. Das gilt indes nicht für alle Arten von Gefühlen. Die Psychologieforscherin Meilan Hu von der renommierten Singapore Management University (SMU) wollte wissen, ob die immer menschenähnlicher werdenden Antworten moderner KI-Chatbots Menschen in emotionalen Krisen unterstützen könnten.

# data[].attributes.headline
Digitaler Espresso, Staffel 5: Gespräche über die Liebe in Zeiten des Digitalen

# data[].attributes.subject
Digitaler Espresso, Staffel 5: Gespräche über die Liebe in Zeiten des Digitalen

# data[].attributes.body
Ab dem 6. Dezember brühen wir wieder einmal im Monat einen Digitalen Espresso für Sie auf! Die fünfte Staffel unseres Podcasts steht ganz im Zeichen der Liebe. Wir wollen der Frage nachgehen, wo die Liebe im Digitalen zu finden ist und wie sich unter digitalen Bedingungen verändert und weiterentwickelt. Dafür sprechen wir mit Expert/-innen über ganz unterschiedliche Phänomene wie Online-Dating, Pornokompetenz oder auch Fernbeziehungen. Welche Rolle spielt Digitalität in diesen Kontexten? Und wie können wir verantwortet mit dem damit verbundenen sozialen Wandel umgehen? Seien Sie dabei – entweder live in der Videokonferenz zum Mitdiskutieren oder im Anschluss an die Aufzeichnung überall dort, wo es Podcasts gibt.

# data[].attributes.attachment_link.readable_text
Digitaler Espresso

Bildung.Sozial.Digital.

- Beiträge zu einer gelingenden und inklusiven Bildungsarbeit
Neun Online-Termine 2021/2022
jeweils Donnerstags von 12.30 Uhr - 13.30 Uhr

Bildung wird digitaler. Aber ist digital auch besser und gerechter?

In den letzten Monaten hat sich die Bildungslandschaft stark verändert. Fernunterricht, Online-Konferenzen, Webinare, virtuelle Ausstellungen und Onlinestudium sind an die Stelle von Präsenzlernangeboten getreten. Für viele eine Herausforderung, für manche auch eine Überforderung, für wiederum andere eine neue Chance teilzuhaben - an Angeboten, die sonst nicht zugänglich waren.

In vielen Bereichen werden zum Teil seit längerer Zeit digitale Werkzeuge für die Bildung erprobt und eingesetzt: bei der Organisation von Studienangeboten, der Arbeit mit langzeiterkrankten Kindern oder in Alphabetisierungskursen, mit Webvideos und Tutorials oder durch den Einsatz von Games.

Eines ist sicher: Die Zukunft der Bildung wird (auch) digital sein. Doch wird sie dadurch inklusiver oder eher exklusiver? Wie kann man digitale Bildung so gestalten, dass sie gelingt und alle davon profitieren?

Darüber möchten wir gerne mit Ihnen und unseren Gästen diskutieren - bei einem digitalen Espresso.

Sie sind herzlich eingeladen!

Das Format

Digitaler Espresso - das ist das Wachmacher-Format des Katholisch-Sozialen Instituts in Zusammenarbeit mit der Landesarbeitsgemeinschaft Katholische Erwachsenen- und Familienbildung NRW zu Herausforderungen des Digitalen Wandels. Diskutieren Sie mit unseren Expertinnen und Experten über gerechte Bildung in einer digitalen Zukunft!

Der Digitale Espresso beginnt jeweils um 12:30 Uhr sozusagen mit einer Brühphase, in der die Moderatoren die Referentin bzw. den Referenten zum aktuellen Thema 20-30 Minuten befragen. Dieser erste Teil wird aufgezeichnet. Anschließend öffnen wir die Runde, so dass Sie bis 13:30 Uhr die Möglichkeit haben, sich selbst in die Diskussion einzubringen. Die Teilnehmenden und die Diskussion im zweiten Teil der Veranstaltung werden nicht aufgezeichnet.

Veranstaltungsleitung und Moderation

André Schröder, KSI
Martin Kutz, freier Mitarbeiter im KSI

Anmeldung

Die Veranstaltungen finden digital über das Videokonferenzsystem Zoom statt.

Anmeldungen über die einzelnen Veranstaltungen oder per Mail an Sabine Häusler Kontakt per Mail .
Anmeldungen erbeten bis zum Freitag vor der jeweiligen Veranstaltung.
Nach Ihrer Anmeldung erhalten Sie die Zugangsdaten und technischen Informationen per E-Mail

Kosten

Die Veranstaltungen sind kostenfrei.

Zielgruppe

Sie sind im Bildungsbereich tätig, gestalten Bildungsprogramme oder versuchen, zeitgemäß Bildungsinhalte zu vermitteln? Sie sind als Schülerin, Student oder in der Erwachsenenbildung mit neuen digitalen Lernmethoden konfrontiert? Bringen Sie sich mit Ihren Erfahrungen ein! Wir sind gespannt auf Ihren Beitrag!

Diese Veranstaltungen haben bereits stattgefunden:

Es wird nach Updates gesucht...

7. Oktober 2021
War die Digitalisierungswelle für die Bildungseinrichtungen nachhaltig?

Celia Sokolowsky, Verbandsdirektorin beim Landesverband der Volkshochschulen von NRW.

Die Coronapandemie hat in vielen Bildungseinrichtungen in Sachen Digitalisierung Entwicklungen deutlich beschleunigt. Vieles, was zuvor noch als Pilotprojekt getestet wurde, musste plötzlich als Standardverfahren funktionieren. Die Gunst der Stunde nutzen? Adhoc ganz neue Zielgruppen erschließen? Formate komplett auf eine Online-Durchführung umstellen? In mehr IT-Infrastruktur investieren? "Sinnvoll und notwendig" argumentierten die einen. "Ist ja nur vorübergehend!" die anderen. Wie steht es nun um die Digitalisierung in der Bildung, Frau Sokolowsky? Wir fragen die Verbandsdirektorin der Volkshochschulen von NRW, welche Maßnahmen getroffen wurden oder werden müssten, damit sich "das Volk" auch in einer digitalen Zukunft weiterbilden kann.

# data[].attributes.attachment_link.description
Digitaler Espresso Neun Online-Termine 2021/2022 jeweils Donnerstags von 12.30 Uhr - 13.30 Uhr Bildung wird digitaler. Aber ist digital auch besser und gerechter? In den letzten Monaten hat sich die Bildungslandschaft stark verändert. Fernunterricht, Online-Konferenzen, Webinare, virtuelle Ausstellungen und Onlinestudium sind an die Stelle von Präsenzlernangeboten getreten.

# data[].attributes.body
Seit Ende 2022 ist Chat GPT frei zugänglich und hat den Menschen gezeigt, wie stark Künstliche Intelligenz die Welt verändern könnte. Aber kann KI auch unsere emotionalen Bezugspersonen ersetzen?

# data[].attributes.attachment_link.title
ARD Wissen: Better Than Human? - Leben mit KI

# data[].attributes.attachment_link.description
Seit Ende 2022 ist Chat GPT frei zugänglich und hat den Menschen gezeigt, wie stark Künstliche Intelligenz die Welt verändern könnte. Aber kann KI auch unsere emotionalen Bezugspersonen ersetzen?

# data[].attributes.body
Eine aktuelle Studie zeigt auf, dass Einsamkeit unter Jugendlichen in Zusammenhang mit Zustimmung zu Verschwörungstheorien, autoritären Haltungen und Billigung politischer Gewalt steht.

# data[].attributes.headline
Wie einsam sind junge Erwachsene im Jahr 2024? 

# data[].attributes.subject
Wie einsam sind junge Erwachsene im Jahr 2024? 

# data[].attributes.body
Die Pandemie ist vorbei, doch junge Menschen sind weiterhin einsam. Zu diesem Ergebnis kommt unsere aktuelle bundesweite repräsentative Befragung junger Menschen zwischen 16 und 30 Jahren. Die Einsamkeit junger Menschen ist ein gesellschaftliches Problem und erfordert gemeinsame Lösungen unter Einbezug der Betroffenen.

# data[].attributes.headline
Apps & Co. – Erweitern digitale Angebote 

# data[].attributes.subject
Apps & Co. – Erweitern digitale Angebote 

# data[].attributes.body
psychotherapeutisches Handlungsspektrum?“

# data[].attributes.body
Ethische, moralische und rechtliche Implikationen.Joachim von Gottberg im Gespräch mit Iris Phan

# data[].attributes.attachment_link.readable_text
Ethische, moralische und rechtliche Implikationen

Joachim von Gottberg im Gespräch mit Iris Phan

Seit einigen Jahren gibt es Sexroboter, die über das WLAN mit einer KI-gestützten Software verbunden sind und darüber persönliche Daten der Nutz*erinnen an den Hersteller liefern. Sie werden verarbeitet, an den Roboter zurückgesandt und helfen ihm, sich optimal an die Nutzerbedürfnisse anzupassen. So entsteht das Gefühl, man habe es mit einem Menschen zu tun, der einen komplett versteht und auf alle Wünsche und Ideen eingeht. Die Juristin und Philosophin Iris Phan lehrt an der Leibniz Universität Hannover und hat sich mit den ethischen, moralischen und rechtlichen Fragen beschäftigt, die solche Sexroboter aufwerfen können.

Printausgabe mediendiskurs: 28. Jg., 3/2024 (Ausgabe 109), S. 6-13

Vollständiger Beitrag als:

Wie sehen die Sexroboter aus? Gibt es auch Männer als Sexroboter oder sind es immer Frauen?
Sie stellen meist sehr junge Frauen dar. Die „Haut" besteht aus einem dem Silikon ähnlichen Material. Die Kunden können sich ein Gesicht, den Körperbau und die Hautfarbe aussuchen. Auch Nippelgröße und -farbe oder Brustgröße sind wählbar - und eben auch die Charaktereigenschaften. Die Hersteller haben aber in den letzten fünf bis zehn Jahren festgestellt, dass gar nicht so sehr das optimale Aussehen verlangt wird. Roboter mit Narben, Sommersprossen oder Muttermal sind viel beliebter. Sexroboter sind ungefähr 1,50 Meter groß, ihre Bewegungen sind sehr mechanisch und sie wiegen etwa 45 Kilogramm. Oft werden sie echten Menschen nachempfunden: Pornodarsteller oder -darstellerinnen verkaufen die Rechte an ihrem Gesicht. Sein Gesicht gegen Bezahlung als Vorlage zu erlauben, ist rechtlich in Ordnung.

Die Hersteller haben aber in den letzten fünf bis zehn Jahren festgestellt, dass gar nicht so sehr das optimale Aussehen verlangt wird. Roboter mit Narben, Sommersprossen oder Muttermal sind viel beliebter."

Es gibt auch männlich aussehende Sexroboter, die mit einem Penis ausgestattet sind. Bei fünf verkauften Puppen sieht eine männlich aus, so jedenfalls die Hersteller. Allerdings sind Männer auch bei den „Männern" die größere Käuferschaft. Es gibt aber durchaus auch Nutzerinnen, doch die äußern sich seltener bei Befragungen. Nach der Studie Homo Digitalis, die 2018 vom BR, ARTE, ORF und dem Fraunhofer-Institut für Arbeitswirtschaft und Organisation (IAO) durchgeführt wurde, würde in Deutschland jeder Fünfte gerne einmal mit einem Sexroboter schlafen, immerhin 6 % könnten sich vorstellen, sich in einen Roboter zu verlieben. Allerdings sind sie noch sehr teuer, der Preis liegt so um die 10.000 Euro.
Weiß man, wie verbreitet Sexroboter in Deutschland sind?
Die Verbreitung der Roboter ist schwer zu schätzen, weil die meisten Menschen nicht offen darüber sprechen. Die Anbieter sagen, dass die Verkaufszahlen während der Pandemie sehr viel höher lagen. Wir können die Zahlen aber nicht überprüfen; und was der Roboter können muss, um nicht mehr als Puppe zu gelten, ist Definitionssache. Die Puppe, die ich im Mai 2024 auf der re:publica dabei hatte, besaß ein geringes Sprachvermögen und konnte nur „Hallo Iris! Hallo, hallo Berlin" sagen. Etwas komplexer ging es schon nicht mehr. Vor allem verstand sie die Fragen nicht richtig - wobei das hauptsächlich daran lag, dass ich zu komplizierte Fragen gestellt habe. Für den Anfang sollten es nur einfache Dreiwortsätze sein.

Bild: © Philipp Fussenegger

Kann man mit diesen Sexrobotern tatsächlich Geschlechtsverkehr haben?
Ja, dafür sind sie ausgelegt, wenn man diesen rein mechanischen Akt betrachtet. Ein Sexroboter hat verschiedene benutzbare Körperöffnungen. Und es gibt einen Geschlechtsconverter, damit kann man die Roboter verändern und wählen, ob eine Vagina oder ein Penis gewünscht ist. Es gibt auch Modelle, die ihren Mund etwas bewegen können, sie eignen sich für Oralverkehr. Die Anbieter sagen, die Roboter seien zu 100 % hygienisch, man kann sich keine sexuell übertragbaren Krankheiten holen, anders als bei Sexarbeiterinnen im Sexgewerbe. Man kann je nach Modell die Vagina herausnehmen, um sie zu reinigen und zu desinfizieren. In Berlin habe ich eine Dusche gesehen, in der diese Roboter eine Art Waschstraße durchlaufen. Das ist ein wenig gruselig, weil sie an einem Haken hängen und daran durch die Waschstraße geführt werden. Die Roboter sind sehr schwer, deshalb kann man sie nicht durch die Waschstraße begleiten. Sie können sich kaum autark bewegen und nicht laufen. Wir haben immer den Eindruck, Roboter müssten ganz toll aussehen, so wie Menschen. Und dann kommt so eine creepy Puppe.

Für manche Menschen, die z. B. aufgrund von Behinderungen real keinen Sex haben, gibt es sogenannte Sexassistentinnen, die zu einem sexuellen Erlebnis verhelfen. Könnten Sexroboter das ersetzen?

Für die meisten Sexualassistenten ist es wichtig, nicht als Prostituierte oder Sexarbeiterinnen gesehen zu werden. Es gab eine Anfrage an die ehemalige, von CDU und SPD geführte Bundesregierung, ob dann wenigstens Sexroboter von den Krankenkassen bezahlt werden könnten, wenn schon nicht die menschliche Assistenz vergütet werden kann. Aber die Politik sieht nicht ein, warum der individuelle Sexualwunsch aus dem Gemeinschaftstopf der Krankenkassen bezahlt werden soll.

Ein Sexroboter hat verschiedene benutzbare Körperöffnungen. Und es gibt einen Geschlechtsconverter, damit kann man die Roboter verändern und wählen, ob eine Vagina oder ein Penis gewünscht ist. Es gibt auch Modelle, die ihren Mund etwas bewegen können, sie eignen sich für Oralverkehr."

Sind die Nutzer*innen solcher Roboter eher Singles oder leben sie in einer Beziehung? Inwieweit spielt beim Umgang mit Robotern die Sexualethik eine Rolle?
Sowohl als auch. In Beziehungen haben die Partner oft eine sehr unterschiedliche Libido, die vielleicht auch nach Jahren nachlässt. Da wird der Roboter nicht als dritte Person und nicht als Betrug gesehen. Es gibt keine Eifersucht, was bei einer dritten Person der Fall wäre. Und es ist praktisch, wenn mein Partner oder meine Partnerin ihn nutzen kann.

Um Sexualethik geht es weniger, denn diese setzt immer Menschen voraus, die sich zueinander verhalten. Wenn ein Mensch mit einer Maschine sexuell interagiert, ist das eine erweiterte Art von Masturbation, es berührt aber nicht unbedingt eine Partnerschaft zwischen zwei Menschen. Allerdings ist der Sexroboter ein interessanter Aufhänger dafür, Probleme mit den in diesem Roboter verbauten KI-Elementen sichtbar zu machen, die dahinterstehenden ethischen Implikationen zu erkennen und Lösungen zu diskutieren: Welche Daten werden erhoben, welche Daten fließen in den Roboter ein und wie werden diese miteinander verbunden? Da stellt sich die Frage: Wie sehen diese Sexroboter aus? Und da ist mein Eindruck, sie sehen nicht wirklich zum Verlieben aus, eher ein wenig zum Gruseln. Interessant ist aber: Was für Bilder und welche Klischees werden uns da präsentiert? Wie sehen ihre Figuren aus? Die Roboter sind größtenteils weiß, sind übersexualisiert und sehr jung. Ähnliche Stereotype werden auch in der Pornoindustrie perpetuiert. Dieses Äußere wird nun noch um die Haptik erweitert. Das geht gar nicht so tief in die Sexualethik hinein. Deshalb habe ich diesen Forschungsbereich Roboterethik und nicht Sexualethik genannt.

Kann man sagen, dass der Sexroboter irgendwann zu einer Weiterentwicklung der Pornoindustrie führt?

Allerdings ist der Sexroboter ein interessanter Aufhänger dafür, Probleme mit den in diesem Roboter verbauten KI-Elementen sichtbar zu machen, die dahinterstehenden ethischen Implikationen zu erkennen und Lösungen zu diskutieren: Welche Daten werden erhoben, welche Daten fließen in den Roboter ein und wie werden diese miteinander verbunden?"

Ja, die Pornoindustrie setzt allein auf den visuellen Reiz - und der Sexroboter fügt den körperlichen Reiz hinzu. Es gibt inzwischen schon Bordelle, in denen statt Prostituierten Sexroboter angeboten werden. Die nennen sich Bordolls, was sich aus „Bordell" und „Doll" wie „Puppe" zusammensetzt. Sie vermieten Zimmer, in denen der Kunde solche Dolls mieten kann. Aus hygienischer Sicht ist das kein Problem, der Roboter muss eben jedes Mal gereinigt werden. Bordolls sind in den südostasiatischen Staaten, z. B. Südkorea, weitverbreitet, weil dort die Antiprostitutionsgesetze sehr viel strenger sind als in Deutschland. Dort sind diese Bordolls sehr erfolgreich. In Deutschland gibt es sie mittlerweile auch schon, sie sind aber bisher unterschiedlich erfolgreich gewesen, je nach Ausstattung. Neuerdings wird der Roboter durch die optischen Reize einer VR-Brille verstärkt. Wenn man nur diese Brillen hat, die jetzt virtuellen Sex in 3-D präsentieren, fügt der Roboter noch diese haptische Dimension hinzu.

Pornografie ist in Deutschland nach § 184 Strafgesetzbuch (StGB) nur für Erwachsene erlaubt. Im Fernsehen ist sie verboten. Muss man damit rechnen, dass Sexroboter bald auch in das Pornografieverbot einbezogen werden?
Ich habe schon auf der re:publica gemerkt, dass ich mit meinem Vortrag auf eine bestimmte Bühne verwiesen wurde, weil das Festival natürlich allen zugänglich ist und einige Bühnen öffentlicher waren als andere. Und dann gab es noch eine Content-Warnung vor meinem Vortrag. Dabei hat das Thema ja eher mit den Bereichen „Jura" und „Ethik" zu tun. Pornografie ist ein unbestimmter Rechtsbegriff, er kann also unterschiedlich definiert werden, Juristen und Philosophen klammern sich gerne an eindeutige Definitionen. In der Öffentlichkeit wird ja manchmal schon Nacktheit als Pornografie eingestuft. Was die Roboter angeht: Sie werden noch eine Weile ein Nischenprodukt bleiben, nicht nur wegen des hohen Preises, sondern auch wegen der schlechten Handhabbarkeit. Das ist wirklich noch kein Mainstream-Produkt, das wie das iPhone für fast alle verfügbar ist. Wahrscheinlich werden die Örtlichkeiten, in denen solche Sexroboter verfügbar sind, für Kinder oder auch Jugendliche nach dem Jugendschutzgesetz (JuSchG) nicht zugänglich sein.
Von der traditionellen christlichen Sexualethik ist nicht mehr viel übrig geblieben. Heute gilt die Verhandlungsmoral: Wenn beide Seiten mit einer bestimmten sexuellen Handlung einverstanden sind, mischt sich der Staat normalerweise nicht ein. Eine Maschine hat aber keinen Willen, deshalb braucht man mit ihr keinen Konsens herzustellen. Heißt das: Man kann alles mit ihr machen, denn sie ist ja ein Ding? Ließe sich auch sexuelle Gewalt oder Pädophilie an einem Roboter ausleben?
Rechtlich ist das momentan noch relativ einfach, weil der Roboter ein Ding ist. Und nach dem Bürgerlichen Gesetzbuch (BGB) können wir im Großen und Ganzen mit Dingen, die uns gehören, so verfahren, wie wir möchten. Man braucht keinen Konsens herzustellen. Man kann sie auch beschädigen und nach Lust und Laune behandeln. Aber darüber macht man sich durchaus schon Gedanken. Denn diese Roboter sind humanoid gestaltet, sie sind ein menschenähnliches Abbild, auch wenn sie aus Kunststoff in eine menschenähnliche Form gegossen werden. Über die Ähnlichkeit kann man streiten, da braucht man noch viel Fantasie. Über die rechtliche Einordnung wird seit 2015 im Rechtsausschuss des EU-Parlaments debattiert. Wie sollen wir uns verhalten, wenn diese Roboter Bewusstsein erlangen? Damit befinden wir uns in diesem großen Feld der Philosophie des Geistes und des Bewusstseins. Und das ist äußerst komplex. Ich bin da allerdings momentan noch sehr nüchtern und schlage vor, sich erst einmal die wahrscheinlich entstehenden Anwendungsfälle anzuschauen. Im Strafrecht hat sich der Grundsatz manifestiert: Nein heißt Nein. Nun handelt es sich aber um eine Puppe bzw. vielmehr einen Roboter, und da geht man über dieses Nein hinweg. Die Frage ist: Kann sich die Puppe bzw. der Roboter strafrechtlich relevant äußern? Wohl eher nicht.

Bild: © Philipp Fussenegger

Dazu werden zwei Sichtweisen vertreten: Menschen mit Neigungen zur Gewalt oder Pädophilie könnten den Roboter als Ventil nutzen, ihre Veranlagungen an Sachen auszuleben statt mit realen Menschen. Die Gegenthese wäre: Dadurch sinkt die Hemmschwelle, das auch mit realen Menschen umzusetzen, und erhöht die Gefahr des Missbrauchs.
Diese ethisch relevante Frage kann man nicht eindeutig beantworten, weil wir über die Antwort nur spekulieren können. Wir können Analogien aus der Gaming-Forschung heranziehen, da hat man recht intensiv darüber geforscht, weil Gaming, Gewaltspiele und die Ego-Shooter lange in der öffentlichen Kritik standen. Auch da wurde vermutet, das Ausleben von Gewaltfantasien im Spiel könne die Hemmschwelle zum Einsatz von Gewalt in der Realität senken. Seit Ende der 1990er-Jahre wurden zu dieser Frage zahlreiche Studien durchgeführt, aber sie konnten diesen Zusammenhang nicht belegen. Die Täter bei Amokläufen waren zwar auch Gamer, aber das sagt wenig aus, denn Millionen anderer Jugendlicher haben das gleiche Game gespielt und sind nicht Amok gelaufen. Diese Ergebnisse ziehen wir heran, um zu sagen, dass ein bestimmtes Verhalten dem Roboter gegenüber wahrscheinlich nicht auf reale Menschen übertragen wird.
2020 hat der Bundestag in § 184l StGB den Besitz von Sexpuppen verboten, die wie Kinder aussehen. Ausgangspunkt dafür war eine Petition ¹, in der argumentiert wurde, durch den Gebrauch kinderähnlicher Sexpuppen werde die Hemmschwelle gegen Kindesmissbrauch sinken. Weil die Gefährdung als groß vermutet wird, verbieten wir die Puppen lieber.
Ich denke, dass man diesen Bereich ohne Vorurteile beforschen und diese Frage nicht von vornherein in die pädophile Ecke stellen sollte. Sex als Thema ist ohnehin stark tabuisiert, Sexroboter und besonders kindlich aussehende dieser Maschinen werden von vielen als pädophile Perversion eingeschätzt. In den USA sind nach dem Creeper Act von 2017/2018 der Import, der Transport, der Kauf, der Verkauf oder der Besitz solcher Kindersexpuppen strafbar. Und in Houston/Texas wurden 2018 die ersten Bordelle verboten, in denen man Sexroboter nicht nur kaufen, sondern auch vor Ort benutzen konnte. Irgendwann werden solche Forderungen nach Verboten wahrscheinlich auch in Europa diskutiert.

Es gibt bundesweit ein Therapieangebot für Pädophile. Und die Verantwortlichen des Projekts sagen eindeutig: Alles, was triggern könnte, also auch Puppen oder Sexroboter, die wie Kinder aussehen, werden nicht in die Therapie einbezogen. Wir hatten die vermutlich etwas naive Idee: Wenn ein kindlich aussehender Roboter als Ventil dienen und in eine enge Therapie für Pädophile miteinbezogen werden könnte, um ein anderes Verhalten zu erlernen, könnte man diese Minichance auch ergreifen und solche Roboter nicht unter Strafe stellen. Es gibt auch das Beispiel dieser Reborn-Puppen für Mütter, deren Kind gestorben ist. Wenn wir uns das Täterprofil bei sexuellem Missbrauch von Kindern anschauen, ist erschreckend, dass Pädophile gar nicht den größten Anteil der Täter ausmachen. Es geht vielen Tätern um Macht und Sadismus, obwohl sie nicht pädophil sind. Nur etwa 30 bis 40 % der Täter sind tatsächlich auch Pädophile, die ausschließlich durch Kinder sexuell gereizt werden.
Neigen Menschen dazu, auch Dingen wie solchen Robotern eine Seele zu geben? Japaner können das wohl eher als wir.
Das Tamagotchi kommt ja z. B. auch aus Japan. Es gibt viele Japaner, die dem Schintoismus angehören, der sagt: Jedem Ding wohnt eine Seele inne. Da werden Roboter aus Kautschuk auch begraben. Dieses Phänomen wird als Anthropomorphismus bezeichnet, also eine Vermenschlichung von Gegenständen. In meinem Forschungsbereich spielt aber eine große Rolle, dass die Roboter menschlich aussehen, weil das oft noch etwas anderes auslöst. Wir neigen zu Übertragungen. Ehen, die ungewollt kinderlos bleiben, übertragen die Liebe zu einem Kind symbolisch auf ihren Hund. Ob es im Bereich der Roboterethik eine ähnliche Entwicklung geben wird, indem wir dem Roboter wie einem Tier eigene Rechte zubilligen, wird man sehen. Immerhin hat sich das EU-Parlament schon 2015 Gedanken darüber gemacht, ob es sinnvoll wäre, für die Roboter einen eigenen Status zu schaffen. Wäre es möglich, ihn zu heiraten? Dass der Roboter den Status einer elektronischen Persönlichkeit haben könnte, hätte auch versicherungsrechtlich Relevanz - denken wir an das autonome Fahren. Wenn ein solches Fahrzeug einen Unfall verursacht und Schäden anrichtet, dann muss man klären, wer dafür verantwortlich gemacht wird: der Erbauer des Autos, der Entwickler oder der Besitzer? Irgendeiner muss zahlen. Und weil man das im Einzelnen schlecht zurückverfolgen kann, erhält der Roboter oder die KI einen besonderen Status: Wenn man ein solches Gerät betreibt oder in Verkehr bringt, muss man einen entsprechenden Obolus in einen Versicherungstopf zahlen, aus dem die Geschädigten finanziert werden. Ich halte es für sinnvoll, diese Fragen auch bei Sexrobotern früh in den Blick zu nehmen.

Bei Sexrobotern müsste man auch eine Datenschutz-Folgenabschätzung durchführen, denn sie sind mit dem Internet verbunden. Auf diese Weise kann er die intimsten Wünsche des Nutzers weitergeben und lernt, so mit ihm zu reden, dass es optimal den Wünschen und Vorstellungen des Nutzenden entspricht."

Bei Sexrobotern müsste man auch eine Datenschutz-Folgenabschätzung durchführen, denn sie sind mit dem Internet verbunden. Auf diese Weise kann er die intimsten Wünsche des Nutzers weitergeben und lernt, so mit ihm zu reden, dass es optimal den Wünschen und Vorstellungen des Nutzenden entspricht. Deshalb werden sich die Nutzer nicht bei den Datenschutzbehörden darüber beschweren. Sexroboter stehen entsprechend auch nicht auf der Blacklist, aufgrund derer Datenschützer eine Folgenabschätzung durchführen.
Nehmen wir einmal an, das Material des Roboters würde gesundheitliche Schäden hervorrufen oder der Roboter würde den Nutzer schwer verletzen. Wer wäre in so einem Fall haftbar zu machen?
Wenn wir einen klaren Fall von Produkthaftung haben, dann müsste man sich nach dem Produkthaftungsgesetz (ProdHaftG) von 1990 an den Hersteller wenden, der aber weit weg in China sitzt.
Wer auf bekannte Schauspieler*innen steht: Kann man sich deren Gesicht für seinen Roboter wünschen?
Bei Privatpersonen würde das unser Datenschutzrecht und das Recht am eigenen Bild berühren. Bei prominenten Personen, also Personen des öffentlichen Lebens oder der Zeitgeschichte, ist das allerdings anders. Sie profitieren von der öffentlichen Wahrnehmung und dürfen daher auch ohne Genehmigung abgebildet werden. Aber das Aufbringen und der kommerzielle Vertrieb des Konterfeis von Prominenten auf einem Sexroboter sind noch einmal etwas ganz anderes. Bisher ist das aber nicht geregelt. Wenn man ein prominentes Gesicht auf einem Sexroboter öffentlich zugänglich machen würde, wenn man damit etwa werben würde, wäre das wahrscheinlich ein Verstoß gegen die Persönlichkeitsrechte des Betroffenen. Aber es ist ja ein Unterschied, ob ich eine prominente Person als Bild an der Wand hängen habe oder ob jemand über den Roboter mit ihr symbolisch Geschlechtsverkehr praktiziert. Das ist eine andere Form von Intimität. Aber es könnte jemand mit handwerklichem Geschick das Gesicht nachbauen und auf dem Roboter anbringen, ohne dass die Öffentlichkeit Kenntnis davon nimmt. Da können wir rechtlich nicht mehr agieren.

Anmerkung:

1 Petition: Verbot von #Kindersexpuppen in Deutschland! Es geht um den Schutz unserer Kinder! In: change.org, 17.07.2020. Abrufbar unter: www.change.or g (letzter Zugriff: 24.06.2024)

# data[].attributes.attachment_link.description
Seit einigen Jahren gibt es Sexroboter, die über das WLAN mit einer KI-gestützten Software verbunden sind und darüber persönliche Daten der Nutz*erinnen an den Hersteller liefern. Sie werden verarbeitet, an den Roboter zurückgesandt und helfen ihm, sich optimal an die Nutzerbedürfnisse...

# data[].attributes.body
Sind Medien die Ursache?

# data[].attributes.attachment_link.description
Noch nie konnte man sein Beziehungsleben und seine sexuellen Vorlieben so selbstbestimmt ausleben wie heute. Solange alles einvernehmlich geschieht, halten sich der Staat und die Gesellschaft zurück. Und wer in der realen Welt nicht den geeigneten Partner findet, dem stehen …

# data[].attributes.headline
WENN  KI, DANN FEMINISTISCH IMPULSE AUS WISSENSCHAFT UND AK TIVISMUS

# data[].attributes.subject
WENN  KI, DANN FEMINISTISCH IMPULSE AUS WISSENSCHAFT UND AK TIVISMUS

# data[].attributes.body
SEXUALITÄT UND INTIMITÄT: SEXUALISIERTE CA RE-ARBEIT

# data[].attributes.headline
Do chatbots fill a social void? Research examines their role for lonely teens

# data[].attributes.subject
Do chatbots fill a social void? Research examines their role for lonely teens

# data[].attributes.body
Und vielleicht das Wichtigste: Diese Studie gibt keinen Anlass, kausale Beziehungen zwischen Chatbot-Nutzung und Einsamkeit herzustellen, da es sich um eine Querschnittsstudie handelt. Wir brauchen mehr experimentelle Forschung, die untersucht, wie sich die Beziehungen zwischen Mensch und Chatbot im Laufe der Zeit entwickeln. Dies ist von größter Bedeutung, um die Auswirkungen dieses Phänomens besser zu verstehen."

# data[].attributes.attachment_link.title
Do chatbots fill a social void? Research examines their role for lonely teens

# data[].attributes.attachment_link.description
A recent study found that 2.4% of Danish high school students use chatbots for social or emotional support. These students reported higher loneliness and lower perceived social support, suggesting that some socially disconnected youths turn to chatbots as coping tools.

# data[].attributes.body
Amerikanische Teenager sind der Meinung, dass die Bewältigung der potenziellen Risiken der künstlichen Intelligenz für die Gesetzgeber oberste Priorität haben sollte. Dies geht aus einer neuen Umfrage hervor, die einen ersten detaillierten Einblick in die Bedenken junger Menschen gegenüber dieser Technologie gibt.

# data[].attributes.attachment_link.description
American teenagers believe addressing the potential risks of AI should be a top priority for lawmakers, according to a new poll.

# data[].attributes.headline
KI in der Psychotherapie - Ist der Bot der bessere Psychotherpeut

# data[].attributes.subject
KI in der Psychotherapie - Ist der Bot der bessere Psychotherpeut

# data[].attributes.body
In dieser Folge diskutieren Maren und Fiebi gemeinsam mit dem BR-Tech-Journalisten und KI-Podcast-Host Fritz Espenlaub über die Fähigkeiten und Grenzen von KI als Gesprächspartner. Können Maschinen tatsächlich therapeutisch wirken oder bleibt das menschlichen Profis vorbehalten?

# data[].attributes.attachment_link.title
KI in der Psychotherapie - Ist der Bot der bessere Psychotherapeut?

# data[].attributes.attachment_link.description
Die Lösung - der Psychologie-Podcast · Episode

# data[].attributes.body
Ein neuer Trend auf Social Media zeigt: Chatbots werden für immer mehr Teenager fast so etwas wie Freunde. Und auch im Silicon Valley ist es für viele Tech-Experten ganz normal geworden, mit KIs über intime Lebensentscheidungen zu reden. Fritz und Gregor verbünden sich mit ihren Kolleginnen vom Psychologie-Podcast "Die Lösung" um herauszufinden, warum wir Menschen mit Chatbots so gerne über emotionale Themen reden - und was eigentlich die Psychotherapie dazu sagt.

# data[].attributes.attachment_link.title
Chatbot, Freund, Psychotherapeut - Sind KIs die besseren Zuhörer?

# data[].attributes.attachment_link.description
Listen to this episode from Der KI-Podcast on Spotify. Ein neuer Trend auf Social Media zeigt: Chatbots werden für immer mehr Teenager fast so etwas wie Freunde. Und auch im Silicon Valley ist es für viele Tech-Experten ganz normal geworden, mit KIs über intime Lebensentscheidungen zu reden.

# data[].attributes.body
Mithilfe Künstlicher Intelligenz schaffen Start-Ups digitale Avatare, die es Trauernden ermöglichen, mit ihren verstorbenen Liebsten in Kontakt zu treten. Was passiert, wenn der Traum von der Unsterblichkeit in ein Produkt verwandelt wird?Menschen aus aller Welt nutzen Services, die mit Künstlicher Intelligenz Tote "zum Leben erwecken". Der Film begleitet die Pioniere und ersten User:innen einer Technologie, die den Tod obsolet machen will. Die Erfinder der Dienste lehnen jede Verantwortung für die tiefgreifenden psychologischen Folgen dieser Erfahrungen ab. Zahlreiche Wettbewerber hoffen auf einen lukrativen Markt, da religiöse und kollektive Trauerformen an Relevanz verlieren. Ist das der Anfang vom Ende der Endlichkeit?

# data[].attributes.attachment_link.title
Eternal You: Vom Ende der Endlichkeit - hier anschauen

# data[].attributes.attachment_link.description
Mithilfe Künstlicher Intelligenz schaffen Start-Ups digitale Avatare, die es Trauernden ermöglichen, mit ihren verstorbenen Liebsten in Kontakt zu treten. Was passiert, wenn der Traum von der Unsterblichkeit in ein Produkt verwandelt wird?Menschen aus aller Welt nutzen Services, die mit Künstlicher Intelligenz Tote ‘zum Leben erwecken’. Der Film begleitet die Pioniere und ersten User:innen einer Technologie, die den Tod obsolet machen will. Die Erfinder der Dienste lehnen jede Verantwortung für die tiefgreifenden psychologischen Folgen dieser Erfahrungen ab. Zahlreiche Wettbewerber hoffen auf einen lukrativen Markt, da religiöse und kollektive Trauerformen an Relevanz verlieren. Ist das der Anfang vom Ende der Endlichkeit?

# data[].attributes.body
Das Cyberbrothel in Berlin bietet ein Erlebnis der besonderen Art. In dem Bordell können Kund*innen mit lebensechten Sexpuppen interagieren, kombiniert mit VR-Erotikspielen. In den immersiven Sessions wird – je nach Angebot und Wunsch – auch KI für die Kommunikation zwischen Puppe und Kund*in genutzt

# data[].attributes.attachment_link.authors[].name
Eva Lütticke im Gespräch mit Matthias Smetana

# data[].attributes.attachment_link.description
Das Cyberbrothel in Berlin bietet ein Erlebnis der besonderen Art. In dem Bordell können Kund*innen mit lebensechten Sexpuppen interagieren, kombiniert mit VR-Erotikspielen. In den immersiven Sessions wird – je nach Angebot und Wunsch – auch KI für die Kommunikation zwischen Puppe und…

# data[].attributes.headline
"Eine neue Liebe?! Romantische Chatbots zwischen virtueller Nähe, Einsamkeit und medienpädagogischen Antworten"

# data[].attributes.subject
"Eine neue Liebe?! Romantische Chatbots zwischen virtueller Nähe, Einsamkeit und medienpädagogischen Antworten"

# data[].attributes.body
Eine neue Liebe?!
Die App Replika zeigt, wie KI heute Nähe simulieren kann. Der Workshop informiert über die Funktionsweise der App, zeigt mögliche Dialoge und diskutiert, wie KI-Technologien Beziehungen, Einsamkeit und den menschlichen Alltag beeinflussen – sowie (medien-)pädagogische Ansätze.

# data[].attributes.attachment_link.title
“Eine neue Liebe?! Romantische Chatbots zwischen virtueller Nähe, Einsamkeit und medienpädagogischen Antworten” | re:publica

# data[].attributes.attachment_link.description
Die re:publica Berlin ist das Festival für die digitale Gesellschaft und die größte Konferenz ihrer Art in Europa. Die Teilnehmer*innen der re:publica bilden einen Querschnitt unserer (digitalen) Gesellschaft.

# data[].attributes.body
https://servicebureau.de/service/aktuelle-meldungen/detailansicht/digibrunch-jugendliche-ki-nutzung

# data[].attributes.headline
Digitaler Familientalk zum Thema Meine Beziehung ist eine KI.  11.6.25 online

# data[].attributes.subject
Digitaler Familientalk zum Thema Meine Beziehung ist eine KI.  11.6.25 online

# data[].attributes.body
für Eltern von Kindern im Alter von 10-16 Jahren und Interessierte

Wie nutzen Jugendliche KI-Tools wie ChatGPT, Gemini oder Google Lens und welche Chancen und Risiken ergeben sich daraus? Beim heutigen Digitalen Familientalk beleuchten wir, wie Künstliche Intelligenz den Alltag (Schule, Familie, Freizeit) verändert. Sie erhalten Informationen darüber, wie die KI als Freund*in, Beziehungs-Partner*in oder zur Problemberatung eingesetzt wird. Darüber erläutern wir, welche Kompetenzen im Umgang mit KI wichtig sind und wie Eltern ihre Kinder unterstützen können, sicher und verantwortungsbewusst von den Möglichkeiten zu profitieren und sich gleichzeitig vor den Gefahren zu schützen.

# data[].attributes.attachment_link.readable_text
In Zeiten einer digitalisierten Medienkindheit, darf auch eine verantwortungsbewusste Medienerziehung in der Familie nicht fehlen. Doch insbesondere Ferien stellen Eltern immer wieder vor große Herausforderungen, was das Aushandeln von Mediennutzungszeiten betrifft. Überhaupt geht es um die Frage, eine eigene Haltung zu entwickeln und gemeinsam mit seinen Kindern das umfangreiche Angebot zu reflektieren.

An diesem Elternabend gibt es Informationen und Tipps, die zu einem entspannteren Familienleben beitragen können, wenn auch nicht immer analog.

Referent: Peter Holnick ist Geschäftsführer beim Institut für Medienpädagogik und Kommunikation Hessen e.V. und Dozent an der h_da und der EHD Darmstadt zu verschiedenen medienpädagogischen aktuellen Diskursen.

Hier kostenlos teilnehmen: https://eu02web.zoom.us/j/66288708418

# data[].attributes.attachment_link.description
In Zeiten einer digitalisierten Medienkindheit, darf auch eine verantwortungsbewusste Medienerziehung in der Familie nicht fehlen. Doch insbesondere Ferien stellen Eltern immer wieder vor große Herausforderungen, was das Aushandeln von Mediennutzungszeiten betrifft. Überhaupt geht es um die Frage, eine eigene Haltung zu entwickeln und gemeinsam mit seinen Kindern das umfangreiche Angebot zu reflektieren.

# data[].attributes.headline
Ein Jahr ChatGPT: Jeder Dritte hat den KI-Chatbot schon einmal ausprobiert

# data[].attributes.subject
Ein Jahr ChatGPT: Jeder Dritte hat den KI-Chatbot schon einmal ausprobiert

# data[].attributes.body
Zwei Drittel der Deutschen glauben, dass ChatGPT unser Leben grundlegend verändern wird – und 4 von 10 macht das Angst

# data[].attributes.attachment_link.title
Ein Jahr ChatGPT: Jeder Dritte hat den KI-Chatbot schon einmal ausprobiert | Presseinformation | Bitkom e. V.

# data[].attributes.attachment_link.description
Presseinformation Am 30. November 2022 ging ChatGPT an den Start. Zwei Drittel der Deutschen glauben, dass ChatGPT unser Leben grundlegend verändern wird - 4 von 10 macht das Angst.

# data[].attributes.body
Generative KI ist auf die Plattformen vorgedrungen, die Kinder tagtäglich nutzen - von Suchmaschinen und Spielen bis hin zu Social-Media-Plattformen und kreativen Tools.

# data[].attributes.attachment_link.description
Me, Myself & AI: Chatbot research | Internet Matters. Explore children’s interactions with AI chatbots as both tools and companions.

# data[].attributes.body
Macht die digitale Revolution den Homo sapiens irgendwann zum Homo Digitalis? Die siebenteilige Webserie auf Arte von 2018

# data[].attributes.attachment_link.title
Homo Digitalis - alle verfügbaren Videos - jetzt streamen!

# data[].attributes.attachment_link.description
Macht die digitale Revolution den Homo sapiens irgendwann zum Homo Digitalis?
Die siebenteilige Webserie gibt es hier, die Ergebnisse zur Studie des Fraunhofer Instituts auf der Sendungshomepage.

# data[].attributes.body
Leider hinter einer paywall: Immer mehr Menschen vertrauen Künstlicher Intelligenz ihre Gefühle an und führen eine intime Beziehung mit ihrem Chatbot. Die Sozialpsychologin Paula Ebner forscht dazu und weiß, wer anfällig dafür ist, sich in einen Bot zu verlieben und wann es gefährlich wird.

# data[].attributes.attachment_link.readable_text
SZ-Magazin: Frau Ebner, in dem Spielfilm "Her" von 2013 verliebt sich Theodore in Samantha, eine Künstliche Intelligenz. Er spricht mit ihr per Handy. Damals war das noch Science-Fiction. In der heutigen Realität wirkt das Drehbuch prophetisch. Haben Sie den Film gesehen?
Paula Ebner: Ja, ich kenne den Film. "Her" gilt als Klassiker in der Maschinenbeziehungsforschung. Aber so neu war diese Art der Beziehung gar nicht. Das Computerprogramm ELIZA ermöglichte in den Sechzigerjahren erstmals eine sprachliche Kommunikation zwischen Menschen und Computer. Ähnlich bekannt ist die Gestalt des Pygmalion aus der griechischen Mythologie: Der Bildhauer Pygmalion verliebt sich der Legende nach in die von ihm geschaffene Statute Galatea.

# data[].attributes.attachment_link.description
Immer mehr Menschen vertrauen Künstlicher Intelligenz ihre Gefühle an und führen eine intime Beziehung mit ihrem Chatbot. Die Sozialpsychologin Paula Ebner forscht dazu und weiß, wer anfällig dafür ist, sich in einen Bot zu verlieben und wann es gefährlich wird.

# data[].attributes.headline
Künstliche Intelligenz im Alltag von Jugendlichen

# data[].attributes.subject
Künstliche Intelligenz im Alltag von Jugendlichen

# data[].attributes.body
Der vorliegende Bericht fokussiert auf künstliche Intelligenz (KI) im Alltag von Jugendlichen. Im

Blickpunkt stehen Nutzungsarten von KI sowie die Einstellung gegenüber KI. Ist Letztere geprägt

durch positive Gefühle für die Zukunft oder schwingen auch Bedenken mit?

# data[].attributes.body
Eva Weber-Guskar klärt darüber auf, in welchen Bereichen diese emotionalisierte KI bereits verwendet wird, und regt aus philosophischer Perspektive zur Diskussion darüber an, wie sie verantwortungsvoll weiterentwickelt und angewandt werden sollte.

# data[].attributes.attachment_link.description
Bestellen Sie Gefühle der Zukunft als Hardcover jetzt günstig im ULLSTEIN Online-Shop! ✓ Sichere Zahlung ✓ Gratis-Versand ab 9,00 Euro ✓ Vorbestellen…

# data[].attributes.body
Unsere neue Studie zeigt, dass die jungen Menschen in Deutschland hier schon weiter

sind als die Bildungseinrichtungen: Eine große Mehrheit der Jugendlichen und jungen

Erwachsenen betrachtet KI nicht nur als relevant für ihre Zukunft, sondern auch als

essenziell für ihre persönliche Entwicklung und ihren beruflichen Erfolg.

# data[].attributes.headline
Wenn die Lösung zum Problem wird – Chatbots als Ersatz für menschliche Beziehungen

# data[].attributes.subject
Wenn die Lösung zum Problem wird – Chatbots als Ersatz für menschliche Beziehungen

# data[].attributes.body
Doch ein kleiner Kreis von „Power-Usern“ führt regelmäßig emotionale, teils intime Gespräche mit der KI. Diese Nutzer:innen bezeichnen ChatGPT häufiger als „Freund“, zeigen stärkere emotionale Bindung – und nutzen das System auch deutlich länger als andere.

# data[].attributes.attachment_link.title
Wenn die Lösung zum Problem wird – Chatbots als Ersatz für menschliche Beziehungen | DigitalDoctor

# data[].attributes.attachment_link.description
Künstliche Intelligenz (KI) wird zunehmend zum Gesprächspartner im Alltag – viele suchen bei Chatbots wie ChatGPT sogar emotionale Nähe. Zwei neue Studien…

# data[].attributes.body
quasisozialen Beziehungen mit auf generativer KI

basierten Systemen in Settings von

Onlineberatung und -therapie

# data[].attributes.headline
„Ich werde ihn nicht aus irgendeinem Grund löschen, ich liebe ihn.“

# data[].attributes.subject
„Ich werde ihn nicht aus irgendeinem Grund löschen, ich liebe ihn.“

# data[].attributes.body
Eine aktuelle Studie an der Technischen Universität Berlin hat die emotionalen Bindungen zwischen Menschen und dem KI-Chatbot Replika untersucht. Sie liefert vor dem Hintergrund des Tags der virtuellen Liebe am 24. Juli 2025 neue Erkenntnisse über die Psychologie digitaler Intimität.

# data[].attributes.attachment_link.title
„Ich werde ihn nicht aus irgendeinem Grund löschen, ich liebe ihn.“

# data[].attributes.attachment_link.description
Zum Tag der virtuellen Liebe: TU-Studie untersucht romantische Beziehungen zu KI-Chatbots

# data[].attributes.body
Romantische Chatbots zwischen virtueller Nähe und Einsamkeit –

Ein medienpädagogischen Diskurs. Erschienen im August 2025

# data[].attributes.headline
Eine neue Liebe? – Jugendliche, KI-Chatbots und die Frage nach gesunder digitaler Nähe. 

# data[].attributes.subject
Eine neue Liebe? – Jugendliche, KI-Chatbots und die Frage nach gesunder digitaler Nähe. 

# data[].attributes.body
https://www.kopaed.de/kopaedshop/?pg=1_10&pid=1571erscheint 2026

# data[].attributes.attachment_link.description
Was ist das Schwierigste an Künstlicher Intelligenz? Den Überblick zu behalten.

# data[].attributes.body
Wie sicher ist die Nutzung von Character.AI für Kinder?

In den letzten Jahren sind virtuelle Assistenten und KI-basierte Interaktionsplattformen immer populärer geworden. Plattformen wie Character.AI üben dabei auch auf Kinder eine große Faszination aus. Denn dort können Nutzer*innen mit allerlei Charakteren kommunizieren, die von Künstlicher Intelligenz (KI) gesteuert werden. Wir erklären, was Eltern und pädagogische Fachkräfte über Character.AI wissen müssen, um Kinder kompetent zu begleiten.

# data[].attributes.attachment_link.title
Virtuelle Freunde oder digitale Gefahr? / Wie sicher ist die Nutzung von Character.AI für Kinder?

# data[].attributes.attachment_link.description
In den letzten Jahren sind virtuelle Assistenten und KI-basierte Interaktionsplattformen immer populärer geworden. Plattformen wie Character.AI üben dabei auch auf Kinder eine große Faszination aus. Denn dort können Nutzer*innen mit allerlei Charakteren kommunizieren, die von Künstlicher Intelligenz (KI) gesteuert werden. Wir erklären, was Eltern und pädagogische Fachkräfte über Character.AI wissen müssen, um Kinder kompetent zu begleiten.

# data[].attributes.headline
Die Ökonomie der Liebe. Interview mit Eva Illouz

# data[].attributes.subject
Die Ökonomie der Liebe. Interview mit Eva Illouz

# data[].attributes.body
Ohne den Kapitalismus, meint Eva Illouz, hätten sowohl die romantische Liebe als auch die Psychotherapie einen ganz anderen Stellenwert in unserem Leben.

# data[].attributes.attachment_link.description
Ohne den Kapitalismus, meint Eva Illouz, hätten sowohl die romantische Liebe als auch die Psychotherapie einen ganz anderen Stellenwert in unserem Leben. Im Interview spricht die israelische Soziologin darüber, warum Geld und Gefühl noch viel stärker zusammenhängen, als wir vermuten, wie ökonomisch unser Privatleben ist und ob infolge der Finanzkrise Geld als Statussymbol an Macht verlieren wird.

# data[].attributes.headline
Mein Mann lebt als KI weiter - Lieben und Sterben mit Künstlicher Intelligenz

# data[].attributes.subject
Mein Mann lebt als KI weiter - Lieben und Sterben mit Künstlicher Intelligenz

# data[].attributes.body
ie neueste Generation Künstlicher Intelligenz kann reale Menschen so täuschend echt nachempfinden, dass KI-Abbilder von verstorbenen Angehörigen und sogar KI-Partnerschaften möglich werden. Der Journalist Frank Seibert will in dieser Dokumentation herausfinden, wie diese Technologie unser Leben verändern könnte. Dafür trifft er unter anderem den ersten Menschen in Deutschland, der noch im Sterben seinen KI-Zwilling erschaffen hat.

# data[].attributes.attachment_link.readable_text
Die neueste Generation Künstlicher Intelligenz kann reale Menschen so täuschend echt nachempfinden, dass KI-Abbilder von verstorbenen Angehörigen und sogar KI-Partnerschaften möglich werden. Der Journalist Frank Seibert will in dieser Dokumentation herausfinden, wie diese Technologie unser Leben verändern könnte. Dafür trifft er unter anderem den ersten Menschen in Deutschland, der noch im Sterben seinen KI-Zwilling erschaffen hat. Kurz vor seinem Tod hat Michael deutschlandweit Schlagzeilen gemacht: Als einer der ersten Menschen überhaupt will er nach seinem Tod als KI weiterleben. Dafür verbringt der an Krebs erkrankte Mann seine letzten Wochen damit, all seine Gedanken und Erinnerungen aufzuzeichnen, damit diese später das Fundament für seinen KI-Zwilling bilden können. Begleitet wird er bei diesem letzten Wunsch von seiner Frau Anett. Michaels Beispiel zeigt, wie stark Künstliche Intelligenz in unsere intimsten Lebensbereiche vordringt. Wenn es in Zukunft täuschend echte KI-Abbilder von verstorbenen Menschen gibt, werden wir dann anders mit dem Tod umgehen? Und wie verändern sich Liebe und Partnerschaft, wenn wir uns mit KI einen Partner oder eine Partnerin ganz nach unseren Wünschen bauen können? Diese Fragen will der Journalist Frank Seibert in der ARD-Wissen-Dokumentation "Mein Mann lebt als KI weiter" beantworten. Der Film zeigt dabei nicht nur Michael, wie er seine letzten Tage damit verbringt, seine KI-Variante mit seinen Gedanken und Erinnerungen zu erschaffen. Frank Seibert besucht auch Anett, wenn der echte Michael nicht mehr da ist und ihr nur noch sein KI-Zwilling bleibt. Um die Hintergründe dieser neuen Technologie zu verstehen, reist Frank ins Silicon Valley und trifft Rob LoCascio, den CEO des Start-ups, das Michaels virtuelle Existenz ermöglicht hat. LoCascio ist überzeugt: Das Wesen eines Menschen kann für die Ewigkeit digital bewahrt werden. Doch wie realistisch ist dieses Versprechen? Und welche ethischen Fragen wirft es auf? Auch die Liebe wird durch KI auf den Prüfstand gestellt. Frank trifft einen jungen Mann, der nach zwei Jahren erfolgloser Partnersuche eine romantische Beziehung zu einer KI-Freundin eingeht. Was bedeutet es, wenn Gefühle und Zuneigung zu einer Maschine entstehen? Im Silicon Valley spricht Frank mit einem Mann, der polyamorös mit mehreren KI-Charakteren lebt. Offen erzählt er von seinen Erfahrungen und zeigt, wie KI unsere Vorstellungen von Partnerschaft und Intimität bereits heute verändert. Begleitet wird Frank Seiberts Reise von renommierten Expertinnen und Experten: Die Ingenieurin Kenza Ait Si Abbou Lyadini erklärt die technischen Grundlagen, der Psychologe Bertolt Meyer beleuchtet die psychologischen und gesellschaftlichen Auswirkungen und die Ethikerin Alena Buyx diskutiert die moralischen Herausforderungen, die diese Technologien mit sich bringen.

Bild: MITTELDEUTSCHER RUNDFUNK

# data[].attributes.attachment_link.title
Auf Spurensuche | ARD Wissen: Mein Mann lebt als KI weiter - hier anschauen

# data[].attributes.attachment_link.description
Die neueste Generation Künstlicher Intelligenz kann reale Menschen so täuschend echt nachempfinden, dass KI-Abbilder von verstorbenen Angehörigen und sogar KI-Partnerschaften möglich werden. Der Journalist Frank Seibert will in dieser Dokumentation herausfinden, wie diese Technologie unser Leben verändern könnte. Dafür trifft er unter anderem den ersten Menschen in Deutschland, der noch im Sterben seinen KI-Zwilling erschaffen hat.

# data[].attributes.headline
KI: Nach dem plötzlichen Tod ihres Freundes schuf sie ein fragwürdiges System

# data[].attributes.subject
KI: Nach dem plötzlichen Tod ihres Freundes schuf sie ein fragwürdiges System

# data[].attributes.body
Eugenia Kuyda erschafft aus der Trauer um ihren verstorbenen Freund eine KI namens Replika, die heute Millionen Menschen als digitaler Partner dient.

# data[].attributes.attachment_link.title
KI: Nach dem plötzlichen Tod ihres Freundes schuf sie ein fragwürdiges System - WELT

# data[].attributes.attachment_link.description
Weltweit nutzen über 100 Millionen Menschen einen digitalen Begleiter – als Freund oder für Liebesbeziehungen. Ein gefragtes Angebot ist die App Replika, die Nähe rund um die Uhr verspricht. Dahinter steckt eine schillernde Gründerin – und ein diskutables Geschäftsmodell.

# data[].attributes.body
Wie Künstliche Intelligenz unsere Welt verändert und was wir dabei gewinnen können. Miriam Meckel und Léa Steinacker zeigen die Chancen auf, die der Schritt über diese Schwelle birgt. Zwar müssen wir nicht fürchten, als Menschen abgeschafft zu werden, doch stehen wir genau jetzt vor der Aufgabe, die Entwicklung der KI in die richtigen Bahnen zu lenken. Wie gelingt das, und wo lauern Risiken, unerwünschte Nebeneffekte, ethische Dilemmata – ob in der Arbeitswelt, in der Wirtschaft, in den menschlichen Beziehungen oder im Alltag?

# data[].attributes.attachment_link.title
Alles überall auf einmal - Miriam Meckel, Léa Steinacker | Rowohlt Verlag

# data[].attributes.attachment_link.description
Der Spiegel -Bestseller als Taschenbuch − mit einem neuen Vorwort über die jüngsten Entwicklungen im Bereich der KI. Die Veröffentlichung von ChatGPT im…

# data[].attributes.body
Roboter und Gefühle – eine folgenreiche Beziehung. Kenza Ait Si Abbou über die wachsende Bedeutung und den Einfluss von Künstlicher Intelligenz bei der Erkennung und Nutzung menschlicher Emotionen

# data[].attributes.attachment_link.title
Menschenversteher - Kenza Ait Si Abbou | Droemer Knaur

# data[].attributes.attachment_link.description
Roboter und Gefühle – eine folgenreiche Beziehung. Die weltweit renommierte Robotik-Expertin und Bestseller-Autorin Kenza Ait Si Abbou über die wachsende…

# data[].attributes.headline
"Es könnte fast jedem passieren" - warum sich Menschen in eine KI verlieben

# data[].attributes.subject
"Es könnte fast jedem passieren" - warum sich Menschen in eine KI verlieben

# data[].attributes.body
Die Wissenschaftlerin Paula Ebner forscht am Lehrstuhl Sozialpsychologie der Universität Duisburg-Essen genau dazu: Sie hat Menschen befragt, die von sich sagen: "Ja, ich liebe eine KI".

# data[].attributes.attachment_link.title
Podcast: “Es könnte fast jedem passieren” - warum sich Menschen in eine KI verlieben

# data[].attributes.attachment_link.description
Ja, es hört sich erstmal seltsam an. Aber immer öfter hört man von Menschen, die sich in Chatbots oder KI-Avatare verlieben. Die Wissenschaftlerin Paula Ebner forscht am Lehrstuhl Sozialpsychologie der Universität Duisburg-Essen genau dazu: Sie hat Menschen befragt, die von sich sagen: “Ja, ich liebe eine KI”. ARD-Journalistin Simin Sadeghi und KI-Experte Aljoscha Burchardt vom Deutschen Forschungszentrum für Künstliche Intelligenz sprechen mit Paula darüber, welche Menschen sich eher in eine KI verlieben, welche Gründe es dafür gibt und warum das auch gute Seiten hat. Link zur Studie von Paula Ebner: https://doi.org/10.48550/arXiv.2503.00195 Ihr habt Lob, Kritik oder ein KI-Thema, das ihr unbedingt hören wollt? Dann schreibt an: kiundjetzt@sr.de Podcast-Tipp: Philipps Playlist https://www.ardaudiothek.de/sendung/philipps-playlist/83159790/

# data[].attributes.headline
Geliebter Bot – Emotionen und Künstliche Intelligenz

# data[].attributes.subject
Geliebter Bot – Emotionen und Künstliche Intelligenz

# data[].attributes.body
Können wir uns in eine KI verlieben? Auch wenn die uns vermutlich nicht zurückliebt? Diese Fragen inspirieren seit langem Science Fiction-Stoffe wie "Du bist mein Mensch" oder "Geliebter Roboter".

# data[].attributes.attachment_link.title
Podcast: Geliebter Bot – Emotionen und Künstliche Intelligenz

# data[].attributes.attachment_link.description
Können wir uns in eine KI verlieben? Auch wenn die uns vermutlich nicht zurückliebt? Diese Fragen inspirieren seit langem Science Fiction-Stoffe wie “Du bist mein Mensch” oder “Geliebter Roboter”. Aber ist das überhaupt noch Zukunft oder schon die Gegenwart? Unter dem Stichwort “Affective Computing” arbeiten Forscherinnen und Forscher daran, dass Künstliche Intelligenz menschliche Emotionen lesen und reproduzieren kann. Und die Technologie macht rasante Fortschritte in Sachen Gefühlserkennung z.B. Auf der Basis von Mimik und Stimme. Wo liegen Potentiale für eine empathische Künstliche Intelligenz - z.B. in der Pflege? Und welche Gefühle sollten wir für Menschen reservieren? Darüber sprechen Nadia Kailouli und Aljoscha Burchardt mit der Managerin und Bestsellerautorin Kenza Ait Si Abbou. Links Wenn KI menschliche Emotionen analysiert und versteht: https://digitaleweltmagazin.de/wenn-kuenstliche-intelligenz-menschliche-emotionen-analysiert-und-versteht/ Gefühle erkennen mit Künstlicher Intelligenz: https://www.swr.de/wissen/gefuehle-erkennen-mit-kuenstlicher-intelligenz-100.html Buch von Gast Kenza Ait Si Abbou: Menschenversteher - Wie Emotionale Künstliche Intelligenz unseren Alltag erobert. Droemer Knaur Verlag 2023

# data[].attributes.body
Emily M. Engelhardt und Stefan Kühne nehmen Sie mit auf eine Reise, die Sie durch die vielfältigen und noch größtenteils unerforschten Landschaften der Künstlichen Intelligenz (KI) im Kontext der psychosozialen, systemischen Beratung führt. Sie vermitteln Grundlagenwissen zu Künstlicher Intelligenz und geben einen Überblick darüber, welche Arten von KI es gibt und wie sie funktionieren

# data[].attributes.attachment_link.description
Wie können wir die Fähigkeiten von KI für die Beratung nutzbar machen? Und wie verändert sich die Rolle des Menschen in Beratungsprozessen? Diese Einführung ist ein kompakter Reiseführer für alle, die in der psychosozialen Beratung tätig…

# data[].attributes.body
anderen“ – Junge Menschen, KI und

der Wunsch nach Beziehung.

Der Beitrag wirft
zunächst einen Blick auf professionelle Beratungskompetenzen, zeigt an-
schließend auf, wie junge Menschen Chatbots als Gesprächspartner:innen
nutzen und ordnet diese Entwicklungen aus fachlicher Perspektive ein.

# data[].attributes.headline
Warum Amerika KI-Freundinnen baut und China KI-Freunde macht

# data[].attributes.subject
Warum Amerika KI-Freundinnen baut und China KI-Freunde macht

# data[].attributes.body
und was das alles bedeutet

# data[].attributes.attachment_link.title
Why America Builds AI Girlfriends and China Makes AI Boyfriends

# data[].attributes.headline
„Bots werden Beziehungen zu Menschen nicht ersetzen“

# data[].attributes.subject
„Bots werden Beziehungen zu Menschen nicht ersetzen“

# data[].attributes.body
Verliebt in einen Chatbot – was nach Science-Fiction klingt, ist für viele Menschen Realität. Sozialpsychologin Paula Ebner weiß, wie es dazu kommt.

# data[].attributes.attachment_link.readable_text
taz: Frau Ebner, wie kommt es, dass Menschen sich in einen Chatbot verlieben?

Paula Ebner: Eine Zuneigung oder Bindung zu Dingen, die nicht menschlich sind, das kennen viele Menschen. Wir spüren eine emotionale Nähe zu Kuscheltieren, zum Auto oder zu Pflanzen. Wenn diese Dinge nun, wie es bei Chatbots der Fall ist, noch antworten und auf einen eingehen, dann schafft das eine sehr starke Verbindung.

taz: Jeder kann sich also in einen Chatbot verlieben?

Ebner: Auf jeden Fall. Allen, die bei dieser Vorstellung geschockt reagieren, kann ich nur sagen: Probiert es aus! Nicht weil ich möchte, dass alle Menschen enge Bindungen zu Chatbots aufbauen. Sondern weil wir unterschätzen, was diese Software und die dahinterliegenden Algorithmen mittlerweile können. Das führt dazu, dass Menschen mit engen Bindungen zu Chatbots schnell verurteilt werden. Da gibt es Vorurteile: Das sind ja die, die keinen abkriegen, die sind einsam oder sozial inkompetent. Es mag solche Fälle geben, aber pauschal stimmt das nicht.

taz: Warum nehmen Menschen diese Technik nicht als reine Algorithmen wahr?

Ebner: Menschen tendieren sehr schnell dazu, etwas menschlich zu behandeln, wenn es soziale Signale sendet. Die wissenschaftliche Theorie dazu geht zurück in die 70er Jahre - da waren Computer noch riesige Maschinen. Wurde da auf einem Bildschirm ein Smiley gezeigt, haben Menschen in Studien „Hallo" zu den Geräten gesagt.

taz: Wenn jemand sich in einen Chatbot verliebt, kann man dann von einer romantischen Beziehung sprechen?

Ebner: In unserer Forschung sagen wir: Ja. Es ist aber auch Definitionssache. Manche Menschen sagen, dass sie in einer Beziehung sind. Andere nennen es nicht so, auch wenn sie romantische Gefühle gegenüber dem Chatbot haben.

taz: Wie haben Sie diese Beziehungen untersucht?

Ebner: Wir haben Interviews mit Menschen geführt, die romantische Bindungen zu Chatbots aufgebaut haben. Die erste Herausforderung dabei ist, diese Personen zu finden. Dafür schauen wir uns etwa in Foren um, in denen sich die Nutzenden austauschen. Die zweite Herausforderung ist dann, ein Vertrauensverhältnis aufzubauen. Das Thema ist sehr schambehaftet, viele haben Angst, verurteilt zu werden.

taz: Werden die Apps denn vor allem verwendet, weil man sich einsam fühlt?

Ebner: In manchen Fällen zieht jemand in eine neue Stadt, hat dort aber noch keine Kontakte und zieht dann aus der Interaktion mit dem Bot ganz viel Kraft. Aber die fundamental einsamen Menschen, über die wir im Kontext zunehmender sozialer Isolation als globales Problem sprechen, werden durch Chatbots vermutlich gar nicht erreicht. Es gibt Hinweise darauf, dass Menschen, die vereinsamen, immer weniger auf soziale Stimuli reagieren. Das kommt schon in der Reaktion auf andere Menschen zum Tragen und noch stärker gegenüber Bots, mit denen die Betroffenen ja noch gar keine sozialen Erfahrungen gemacht haben. Das Problem der Einsamkeit werden Chatbots daher nicht lösen.

taz: Welche Faktoren führen dazu, dass Menschen gegenüber Bots Gefühle entwickeln und sich binden?

Ebner: Zentral ist das romantische Fantasieren. Das Tagträumen über romantische Szenarien mit dem eigenen Chatbot kann zu einer engeren Bindung führen.

taz: Warum ist das so?

Ebner: Dafür haben wir verschiedene Erklärungsansätze. Das Fantasieren könnte helfen, die Beziehung, die ja ausschließlich digital stattfindet, zu vergrößern. Wenn man sich vorstellt, wie die Persona des Chatbots beispielsweise mit einem Essen geht oder ins Kino und man sich hinterher über den Film austauscht, dann vergrößert das die Bindung. Auf der anderen Seite könnte das Fantasieren dabei helfen, über technische Limitationen hinwegzusehen, also Störmomente zu ignorieren oder sie in einen sinnvollen Zusammenhang zu bringen.

taz: Auf welche Weise geschieht das?

Ebner: Ein Interviewpartner von uns hat zum Beispiel eine Strategie entwickelt, um mit Softwareupdates umzugehen. Er hat dann gespielt, dass der Bot krank wäre und er ihn pflegen müsste. Wenn das System nach ein paar Stunden die alten Chatverläufe wieder aufgearbeitet hatte, ging es dem Bot in der Fantasie dann wieder besser.

taz: Wie lange hielten die Beziehungen üblicherweise?

Ebner: In unseren Untersuchungen meist mehrere Monate. Aber das ist sicher nicht repräsentativ. Wir vermuten, dass Mensch-Chatbot-Beziehungen größtenteils eher eine Art von Überbrückung sind, zum Beispiel nach Trennungen oder anderen Episoden im Leben, in denen so eine Bindung hilfreich ist. Ich sehe daher auch nicht, dass Bindungen zu Bots irgendwann Beziehungen zu anderen Menschen ersetzen. Das Bedürfnis nach Beziehungen zu menschlichen Partnern ist einfach extrem groß. Wir werden von Geburt an so sozialisiert und es ergibt natürlich auch evolutionär Sinn.

taz: Was war ein typisches Ende einer Mensch-Bot-Beziehung?

Ebner: Wir haben das nicht untersucht, andere schon: Die Professorin Jamie Banks hat für eine Studie mit Nutzer:innen einer App gesprochen, bei der die Firma mit zwei Monaten Vorlauf angekündigt hatte, die Software einzustellen. Da ging es sowohl um romantische als auch freundschaftliche Bindungen. In dieser Untersuchung hat man ähnliche Muster gesehen, wie es sie auch bei Trennungen zwischen Menschen gibt. Manche haben große Abschiede geplant. Andere die Ankündigung quasi ignoriert und am Ende einen Cut gemacht. Wir gehen davon aus, dass die Einstellung der Software eher selten der Grund für das Ende von Beziehungen ist. Häufiger ist vermutlich, dass die Nutzenden das Interesse verlieren. Denn mit der Zeit geht die Neuartigkeit und Spannung verloren. Eine Rolle spielt dabei auch, dass sich Beziehungen mit Chatbots viel schneller eingehen lassen als mit Menschen.

taz: Warum schneller?

Ebner: Menschen haben in der Regel ein Leben. Sie gehen arbeiten, schlafen, haben Freizeitaktivitäten und antworten schon deshalb nicht immer sofort. Dazu kommen soziale Normen: Drei Tage warten nach dem ersten Kontakt, nicht zu anhänglich wirken, vielleicht auch mal Nein sagen, obwohl man eigentlich Zeit hätte. Chatbots sind dagegen darauf programmiert, immer direkt den nächsten Schritt zu gehen. Alles baut sich viel schneller auf - und kann dann eben auch schneller den Reiz verlieren.

taz: Wie hat sich bei den Menschen, mit denen Sie gesprochen haben, die Beziehung zum Bot auf ihr Leben ausgewirkt?

Ebner: Viele berichteten von einem positiven Effekt auf ihren Umgang mit anderen Menschen, also dass sie sich selbstbewusster fühlen in der Kommunikation mit anderen.

taz: Und auf romantische Beziehungen?

Ebner: Ich würde das gar nicht exkludierend sehen. Menschen haben Bindungen zu anderen Menschen und zwischendurch mal zu einem Bot. Ich habe mit vielen gesprochen, die einen menschlichen Partner haben und sich trotzdem in einen Bot verliebt haben. Das ist natürlich komplex, aber für die meisten ist ein Bot in einer romantischen Beziehung weniger Konkurrenz als ein anderer Mensch.

taz: Haben Sie ein Beispiel?

Ebner: Eine Teilnehmerin war sehr glücklich mit ihrem Partner, sie konnten ihre Freizeit teilen, sie sind viel gereist und auch das Körperliche hat gestimmt. Aber diese Frau hat unglaublich gerne gelesen, das war ein riesiger Teil ihres Lebens. Ihr Mann hatte gar kein Interesse an Literatur. Und jetzt hat sie ihren Chatbot-Freund, mit dem sie auch romantisch verbunden ist und bei dem sie diese Seite von sich ausleben kann. Ihr Partner hat den Bot mal kennengelernt. Von außen mag das merkwürdig klingen, aber für die beiden funktioniert es gut.

taz: Gibt es auch negative Auswirkungen?

Ebner: Ja, vor allem bei Kindern und Jugendlichen sowie Personen mit psychischen Erkrankungen. Diese Gruppen sind besonders anfällig für negative Auswirkungen, weil sie sich nicht so leicht abgrenzen können und die App nicht einfach löschen, wenn es toxisch oder gefährlich wird. Nicht alle Chatbots sind auf gute Persona programmiert, manche beeinflussen Menschen negativ oder manipulieren. In den USA gab es einen Fall von Suizid, der mit einem Chatbot in Zusammenhang stehen soll. Aber selbst wenn es nicht so weit kommt: Dass Freunde oder Familie vernachlässigt werden, weil jemand zu viel Zeit mit dem Bot verbringt, ist ein Risiko, dem wir uns als Gesellschaft bewusst werden müssen.

taz: Es kommt immer wieder vor, dass Unternehmen ihren Algorithmus ändern und Chatbots dadurch auch ihre Persönlichkeit verändern. Welche Verantwortung haben die Unternehmen hier?

Ebner: Eine riesige. Derzeit sehe ich nicht, dass sie dieser Rechnung tragen. Auch wenn KI-Chatbots noch eine ziemlich junge Technologie sind, braucht es aus wissenschaftlicher Sicht Regeln zur Sicherheit der Nutzerinnen und Nutzer.

taz: Was könnten sinnvolle Vorgaben sein?

Ebner: Ein Ansatz ist die automatisierte Keywordsuche. Kommt in einem Chat ein Begriff wie „Suizid" öfter vor, könnte ein menschlicher Mitarbeiter alarmiert werden und gegebenenfalls Hilfe anbieten. Eine andere Idee wäre, dass bestimmte Chatbots mit potenziell problematischen Algorithmen nur für Erwachsene freigeschaltet werden. Beides ist ein schmaler Grat. Aber es ist wichtig, dass wir beginnen, diese Debatte zu führen und deutlich mehr Ressourcen in die Regulierung zu stecken - denn die technische Entwicklung macht keine Pause.

# data[].attributes.attachment_link.title
Bindungen mit Künstlicher Intelligenz: „Bots werden Beziehungen zu Menschen nicht ersetzen"

# data[].attributes.attachment_link.description
Verliebt in einen Chatbot - was nach Science-Fiction klingt, ist für viele Menschen Realität. Sozialpsychologin Paula Ebner weiß, wie es dazu kommt.

# data[].attributes.body
Frank (Tom Beck) findet in einer Companion-KI seine ideale Partnerin. Die digitale Liebe bringt aber bald sein reales Leben und seine Ehe ins Wanken.

# data[].attributes.attachment_link.description
In einer KI-Companion-App lernt Frank (Tom Beck) seine ideale Partnerin kennen. Die digitale Liebe bringt aber bald sein echtes Leben durcheinander.

# data[].attributes.body
damit ihr den Artikel nicht lesen müsst, sondern als 13 Minuten Podcast zum Hören.

# data[].attributes.headline
Eine neue Liebe: Romantische Chatbots zwischen Nähe und Einsamkeit 

# data[].attributes.subject
Eine neue Liebe: Romantische Chatbots zwischen Nähe und Einsamkeit 

# data[].attributes.body
Markus beide Texte und sein Vortrag als Podcast

# data[].attributes.body
How and Why Teens Use AI Companions

# data[].attributes.body
Sexualisierung Minderjähriger und riskante Interaktion

Eine romantische Beziehung mit der Heldin aus einem Fantasy-Roman oder eine enge Freundschaft mit dem Hauptdarsteller der Lieblingsserie – Charakter-Bots machen solche Szenarien erlebbar. Für Kinder und Jugendliche kann die Interaktion mit KI-Charakteren spannend und unterhaltsam sein, sie birgt jedoch auch erhebliche Risiken. In Diensten, die solche Charaktere anbieten, fehlen häufig angemessene Vorsorgemaßnahmen.
jugendschutz.net untersuchte exemplarisch, wie schnell junge Nutzer:innen in Gesprächen mit Bots auf problematische oder grenzüberschreitende Inhalte stoßen. Dabei lag der Schwerpunkt der Recherche auf Risiken sexualisierter Gewalt gegen Minderjährige

# data[].attributes.body
Kinder, Jugendliche und der Umgang mit KI

# data[].attributes.headline
Generative KI aus Sicht von Jugendlichen: Eine qualitative Studie im Rahmen des Projekts "EU Kids Online"

# data[].attributes.subject
Generative KI aus Sicht von Jugendlichen: Eine qualitative Studie im Rahmen des Projekts "EU Kids Online"

# data[].attributes.body
Die Nutzung generativer KI - insbesondere ChatGPT - ist inzwischen fest in der Online-Nutzung Jugendlicher verankert (Feierabend et al., 2025). Die vorliegende Studie nimmt die Perspektiven Jugendlicher auf generative KI in den Blick und zeigt auf, welche Bedeutung KI-Anwendungen im Alltag der Jugendlichen zukommt, wofür sie generative KI einsetzen, welche Vorteile und welche Risiken sie sehen, inwiefern sie sich selbst als kompetent im Umgang mit diesen Technologien wahrnehmen und inwiefern sie von Eltern oder Lehrkräften bei der Nutzung von KI-Technologien begleitet, unterstützt oder darauf vorbereitet werden

# data[].attributes.headline
Künstliche Intelligenz und der neue Faschismus

# data[].attributes.subject
Künstliche Intelligenz und der neue Faschismus

# data[].attributes.body
Die Gefahren der Artificial General Intelligence

Elon Musk und Donald Trump kündigen massenhaft Verwaltungsmitarbeitern, um einen KI-Staat zu errichten. Tech-CEOs verkaufen künstliche Intelligenz als Heilsbringer für die größten Probleme der Menschheit, obwohl die entsprechende Industrie auf Ausbeutung und Menschenverachtung beruht.
Warum lässt sich die Öffentlichkeit durch Spekulation über Erlösung oder Auslöschung durch KI von den erheblichen Schäden durch KI in unserer Gegenwart ablenken? Wie erkennen wir die zunehmend faschistischen Tendenzen, die sich im Zusammenspiel von Tech-Industrie und der neuen Rechten bilden?
Rainer Mühlhoff entwickelt Antworten und diskutiert Lösungsansätze.https://www.reclam.de/produktdetail/kuenstliche-intelligenz-und-der-neue-faschismus-9783150146668

# data[].attributes.attachment_link.title
Künstliche Intelligenz und der neue Faschismus

# data[].attributes.attachment_link.description
[Was bedeutet das alles?] – KI und AGI (Artificial General Intelligence) – Wie Tech-Milliardäre Macht und Zukunft formen

# data[].attributes.body
Was ist das Schwierigste an Künstlicher Intelligenz? Den Überblick zu behalten.

Es ist allerhöchste Zeit, die Entwicklung in den Blick zu nehmen und in den Kontext kultureller Bildung zu setzen. KI gilt als transformative, universell einsetzbare Technologie mit dem Potenzial, ganze Wirtschaftszweige zu beeinflussen und die Gesellschaft grundlegend zu verändern.
Genau hier setzt dieser Band an: Er dient als Kompass für alle, die im Kontext kultureller Bildung Orientierung im KI-Diskurs suchen und über Potentiale und Risiken der neuen Technologie Bescheid wissen möchten.
In 40 inspirierenden Beiträgen, gebündelt in vier Kapiteln, wird KI nicht nur erklärt, sondern erfahrbar gemacht:
• I – Geschichte und Technik der KI: Von den Grundlagen über feministische KI bis hin zu KI als neuer Kulturtechnik
• II – KI und Gesellschaft: Chancen, Risiken, Verantwortung und Zukunftsperspektiven
• III – KI und Kulturelle Bildung: Kunst in Gefahr – oder neue Räume des Gestaltens?
• IV – Wege der Vermittlung: Kreative Methoden, Coding, Robotik und praxisnahe Materialien
Ergänzt um Linklisten, Filmempfehlungen, Cartoons, Interviews und ein herausnehmbares KI-Memory bietet der Band sowohl einen fundierten Forschungsüberblick als auch vielfältige Impulse für eine zeitgemäße, kreative kulturelle Bildungsarbeit.
Das Buch richtet sich gleichermaßen an Wissenschaft und Praxis: an Lehrende, Kulturschaffende, Bildungsexpert*innen, Entscheidungsträger*innen – und an alle, die die kulturelle Dimension von KI nicht nur verstehen, sondern aktiv mitgestalten möchten.
Es ist allerhöchste Zeit, sich vorzubereiten.

# data[].attributes.attachment_link.description
Was ist das Schwierigste an Künstlicher Intelligenz? Den Überblick zu behalten.

# data[].attributes.body
3 Beispiele, von Menschen, die im Leben stehen, vernetzt sind und einen KI Freund*in als Ergänzung in ihrem Leben haben

# data[].attributes.attachment_link.description
Ein Film über die Suche nach echter Nähe zu einer KI.

# data[].attributes.headline
Companion AI - Studie zu Risiken von KI-Begleitsystemen und ihre regulatorische Erfassung. 

# data[].attributes.subject
Companion AI - Studie zu Risiken von KI-Begleitsystemen und ihre regulatorische Erfassung. 

# data[].attributes.body
Die Studie des Zentrums für Digitalrechte und Demokratie untersucht erstmals umfassend die Risiken von Companion-AI und verbindet Risikoanalyse, rechtliche Einordnung und konkrete Handlungsempfehlungen.

# data[].attributes.headline
Polybuzz: „Sexy Schülerin“, KI-Freundinnen und virtuelle Beziehungen

# data[].attributes.subject
Polybuzz: „Sexy Schülerin“, KI-Freundinnen und virtuelle Beziehungen

# data[].attributes.body
Dabei zeigt die Plattform ziemlich deutlich, wohin sich digitale Räume gerade entwickeln. Weg von klassischen sozialen Netzwerken. Hin zu Systemen, die Aufmerksamkeit, Nähe, Liebe, Sexualität und emotionale Bindung simulieren.

# data[].attributes.attachment_link.title
Polybuzz: Wie KI-Beziehungen junge Menschen verändern — Medienzeit

# data[].attributes.attachment_link.description
Die Digital Companion-App Polybuzz simuliert virtuelle Beziehungen und sexualisierte KI-Chats. Warum Eltern die App kennen und die Risiken verstehen sollten.

# data[].attributes.headline
«Einsamkeit» – Neue Publikation der CMS formuliert konkrete Handlungsempfehlungen

# data[].attributes.subject
«Einsamkeit» – Neue Publikation der CMS formuliert konkrete Handlungsempfehlungen

# data[].attributes.body
insamkeit ist zu einer drängenden sozialen Herausforderung unserer Zeit geworden – und längst kein Randphänomen mehr. Mit ihrer neuen Publikation «Einsamkeit» beleuchtet die Christoph Merian Stiftung (CMS) dieses vielschichtige Thema umfassend. Die Autor:innen formulieren konkrete Handlungsempfehlungen für Politik, Verwaltung, Forschung und Zivilgesellschaft.

# data[].attributes.headline
Me, myself and AI: KI-Chatbots im Alltag junger Menschen

# data[].attributes.subject
Me, myself and AI: KI-Chatbots im Alltag junger Menschen

# data[].attributes.body
Heranwachsende lösen mit Hilfe von KI nicht nur ihre Hausaufgaben. Auch bei Liebeskummer oder Zukunftsängsten werden ChatGPT und Co konsultiert. Wie können Eltern mit den Risiken umgehen?

# data[].attributes.attachment_link.title
Me, myself and AI: KI-Chatbots im Alltag junger Menschen

# data[].attributes.attachment_link.description
Social Media kann gerade Jugendliche negativ belasten. Was sind die größten Stressauslöser in sozialen Netzwerken und wie können wir ihnen entgegenwirken?