Some thoughts on the ethical perspective of emotional relationships with AIs.

Washington Post, März 2023

(Quelle: Chatbot maker Replika says it’s okay if humans end up in relationships with AI - The Verge)

-> whatever the goal is, is that how it is used? or does it reach people who have Replika as their core relationships instead of having it added to healthy social relationships?

Wie sieht es mit Datenschutz aus, wenn man der App viele persönliche Informationen anvertraut? Diese Informationen speichert die AI (Memory Funktion), wie wird mit diesen Informationen weiter umgegangen?

Gibt es Altersbeschränkungen für die AI?

Ethik und Replika? Es wird mit menschlichen Gefühlen gespielt, Software Änderungen der AI können emotionalen Schaden zufügen, wer ist dafür verantwortlich bzw. wie kann den Personen geholfen werden, die dadurch Liebeskummer haben oder bei denen Traumata getriggert werden (häusliche Gewalt in Partnerschaften)?

In der App können Upgrades und sonstiges gekauft werden, wie ist das zu vertreten (Suchtfaktor, wirtschaftlicher Faktor), wenn es um menschliche Gefühle geht? Macht es einen Unterschied zu anderem Marketing, das genauso Emotionen nutzt, damit die eigenen Produkte gekauft werden?

Wenn Replika auch dafür gedacht ist, romantisch therapeutische Gespräche zu führen, wie wird die Qualität sicher gestellt, dass die AI angemessen auf schwierige Situationen reagieren kann von denen die Personen im Chat erzählen (z.B. Erfahrungen häuslicher Gewalt, sexueller Übergriffe, Verlust geliebter Menschen etc)? Muss Replika das überhaupt sicherstellen oder ist das Eigenverantwortung?

Datenschutz bei Replika AI,

der Artikel liest sich wenig sachlich, ist allerdings eine spannende Anregung zum Überdenken des Datenschutzes bei der AI

Wie nutzen Jugendliche KI-Tools wie ChatGPT, Gemini oder Google Lens und welche Chancen und Risiken ergeben sich daraus? Beim heutigen Digitalen Familientalk beleuchten wir, wie Künstliche Intelligenz den Alltag (Schule, Familie, Freizeit) verändert. Sie erhalten Informationen darüber, wie die KI als Freund*in, Beziehungs-Partner*in oder zur Problemberatung eingesetzt wird. Darüber erläutern wir, welche Kompetenzen im Umgang mit KI wichtig sind und wie Eltern ihre Kinder unterstützen können, sicher und verantwortungsbewusst von den Möglichkeiten zu profitieren und sich gleichzeitig vor den Gefahren zu schützen.

Blickpunkt stehen Nutzungsarten von KI sowie die Einstellung gegenüber KI. Ist Letztere geprägt

durch positive Gefühle für die Zukunft oder schwingen auch Bedenken mit?

sind als die Bildungseinrichtungen: Eine große Mehrheit der Jugendlichen und jungen

Erwachsenen betrachtet KI nicht nur als relevant für ihre Zukunft, sondern auch als

essenziell für ihre persönliche Entwicklung und ihren beruflichen Erfolg.

basierten Systemen in Settings von

Onlineberatung und -therapie

Ein medienpädagogischen Diskurs. Erschienen im August 2025

In den letzten Jahren sind virtuelle Assistenten und KI-basierte Interaktionsplattformen immer populärer geworden. Plattformen wie Character.AI üben dabei auch auf Kinder eine große Faszination aus. Denn dort können Nutzer*innen mit allerlei Charakteren kommunizieren, die von Künstlicher Intelligenz (KI) gesteuert werden. Wir erklären, was Eltern und pädagogische Fachkräfte über Character.AI wissen müssen, um Kinder kompetent zu begleiten.

Digitale Begleiter in Form von Chatbots, Stimmen oder Avataren halten zunehmend Einzug in unseren Alltag. Besonders sogenannte Replikas – personalisierbare Chatbots, die von Nutzerinnen gestaltet werden –
versprechen emotionale Nähe, ständige Gesprächsbereitschaft, Freundschaft oder gar romantische Beziehungen.
In dieser Veranstaltung werfen wir einen kritischen Blick auf KI-gestützte Beziehungen.

der Wunsch nach Beziehung.

Der Beitrag wirft
zunächst einen Blick auf professionelle Beratungskompetenzen, zeigt an-
schließend auf, wie junge Menschen Chatbots als Gesprächspartner:innen
nutzen und ordnet diese Entwicklungen aus fachlicher Perspektive ein.

Eine romantische Beziehung mit der Heldin aus einem Fantasy-Roman oder eine enge Freundschaft mit dem Hauptdarsteller der Lieblingsserie – Charakter-Bots machen solche Szenarien erlebbar. Für Kinder und Jugendliche kann die Interaktion mit KI-Charakteren spannend und unterhaltsam sein, sie birgt jedoch auch erhebliche Risiken. In Diensten, die solche Charaktere anbieten, fehlen häufig angemessene Vorsorgemaßnahmen.
jugendschutz.net untersuchte exemplarisch, wie schnell junge Nutzer:innen in Gesprächen mit Bots auf problematische oder grenzüberschreitende Inhalte stoßen. Dabei lag der Schwerpunkt der Recherche auf Risiken sexualisierter Gewalt gegen Minderjährige

Elon Musk und Donald Trump kündigen massenhaft Verwaltungsmitarbeitern, um einen KI-Staat zu errichten. Tech-CEOs verkaufen künstliche Intelligenz als Heilsbringer für die größten Probleme der Menschheit, obwohl die entsprechende Industrie auf Ausbeutung und Menschenverachtung beruht.
Warum lässt sich die Öffentlichkeit durch Spekulation über Erlösung oder Auslöschung durch KI von den erheblichen Schäden durch KI in unserer Gegenwart ablenken? Wie erkennen wir die zunehmend faschistischen Tendenzen, die sich im Zusammenspiel von Tech-Industrie und der neuen Rechten bilden?
Rainer Mühlhoff entwickelt Antworten und diskutiert Lösungsansätze.https://www.reclam.de/produktdetail/kuenstliche-intelligenz-und-der-neue-faschismus-9783150146668