Richtlinien für den Einsatz von KI/AI im psychosozialen und psychotherapeutischen Bereich by Stefan Kuehne

Ziel

office33 — 2026-07-02 07:58:15 UTC

In meinen Seminaren und Vorträgen zu den Themen "KI in der psychosozialen und psychotherapeutischen Arbeit" stelle ich immer wieder fest, dass bei höchstens einem Viertel der Teilnehmer:innen Klarheit darüber herrscht, ob und wie KI-Systeme in der organisatorischen und inhaltlichen Arbeit genutzt werden kann und soll.

Dieses Padlet versammelt öffentlich zugängliche Richtlinien und Guidelines für den Einsatz von KI/AI in diesen Arbeitsfeldern. Damit soll es ermöglicht werden, sich an den bereits verfügbaren Richtlinien zu orientieren, um Richtlinien für den eigenen Arbeitsbereich rasch entwickeln und umsetzen zu können.

Kontakt: office@stefankuehne.net

Aufbau

office33 — 2026-07-02 07:58:29 UTC

Das Padlet ist nach Ländern gegliedert, denn in verschiedenen Ländern gelten für die einzelnen Berufsgruppen verschiedene Gesetze und Regelungen.

Daher unterscheiden sich die einzelnen Richtlinien in manchen Aspekten.

Zur Recherche der einzelnen Dokumente wurden verschiedene KI-Tools zur Unterstützung genutzt, darunter ChatGPT 5.5 (hoch) und Perplexity.

Da diese Systeme aber auch nur eine beschränkte Weltsicht haben, war auch Google erneut hilfreich.

Nutzung

office33 — 2026-07-02 08:06:57 UTC

Dieses Padlet ist ein öffentliches Padlet, das bedeutet, dass Sie es gerne nutzen und teilen dürfen.

Ich freue mich, wenn Sie bei der Nutzung, Verwertung und Teilung auf dieses Padlet als Quelle hinweisen.

Und wenn Sie selbst gute Richtlinien haben, dann gerne her damit.

Wissen wird mehr, wenn es geteilt wird.

Eigenwerbung

office33 — 2026-07-02 08:12:51 UTC

Natürlich dient dieses Padlet und die dazu eingesetzte Arbeit auch der Eigenwerbung.

Ich spreche zu diesen Themen, gebe Seminare und begleite Organisationen in der Reflexion zu Prozessen der digitalen Transformation.

Und das seit 25 Jahren.

Ja: Meine grauen Haare sind echt. :-)

Informationen unter

https://www.stefankuehne.net

http://www.kühne-engel.eu

Bundespsycho-therapeutenkammer: „Administrative KI in Ihrer Praxis“ (2026)

office33 — 2026-07-02 08:22:38 UTC

Die BPtK-Praxis-Info ist derzeit eine der wichtigsten deutschen Quellen für Psychotherapeut:innen. Sie behandelt KI-Anwendungen wie Terminorganisation, Abrechnung, Transkription, Berichtsentwürfe und Dokumentation, aber nicht primär KI zur Diagnostik oder Behandlung. Zentrale Punkte sind Datenschutz, Schweigepflicht, EU AI Act, Medizinprodukterecht, kritische Prüfung von KI-Ausgaben und die fortbestehende persönliche Verantwortung der Psychotherapeut:innen.

KBV: "Künstliche Intelligenz in der vertragsärztlichen und psychotherapeutischen Versorgung" (2025)

office33 — 2026-07-02 08:24:07 UTC

Die KBV formuliert sehr klar: KI kann unterstützen, aber nicht ersetzen. Ärzt:innen und Psychotherapeut:innen behalten die Behandlungsverantwortung; KI-Entscheidungen brauchen menschliche Aufsicht, transparente Anwendung und DSGVO-konformen Umgang mit Patientendaten. Bei KI-Systemen mit medizinischer Zweckbestimmung verweist die KBV außerdem auf Hochrisiko- bzw. Medizinproduktanforderungen.

EU: "Artificial Intelligence in healthcare"

office33 — 2026-07-02 08:25:40 UTC

Für den psychotherapeutischen Bereich ist der EU AI Act besonders relevant, sobald KI-Systeme medizinische Zwecke erfüllen, etwa Diagnostik, Therapieentscheidung, Monitoring oder Risikobewertung. Die EU-Kommission nennt medizinische KI-Systeme als Hochrisiko-Anwendungen, die Anforderungen an Risikomanagement, Datenqualität, Nutzerinformation und menschliche Aufsicht erfüllen müssen.

EU: "Article 50: Transparency obligations"

office33 — 2026-07-02 08:27:38 UTC

Für patient:innen- oder klient:innenseitige Chatbots ist außerdem relevant, dass Menschen informiert werden müssen, wenn sie direkt mit einem KI-System interagieren; Kennzeichnungspflichten gelten auch für synthetische Inhalte und bestimmte Formen von Emotionserkennung oder biometrischer Kategorisierung.

Datenschutzkonferenz: "Orientierungshilfe Künstliche Intelligenz und Datenschutz" (2024)

office33 — 2026-07-02 08:29:56 UTC

Die Datenschutzkonferenz bietet keine Psychotherapie-Leitlinie, aber eine wichtige datenschutzrechtliche Orientierung für Organisationen, die KI einsetzen. Für psychotherapeutische und psychosoziale Settings ist sie wegen Gesundheitsdaten, Schweigepflicht, Zweckbindung, Transparenz und Datenschutz-Folgenabschätzung besonders relevant.

BACP: "„Counselling and AI: Good practice for counsellors“ (o.J.)

office33 — 2026-07-02 09:07:21 UTC

Die britische BACP liefert eine der praxisnächsten counselling-spezifischen Orientierungen. Kernthemen sind informierte Einwilligung, Vertraulichkeit, Umgang mit Notizen, vulnerable Klient:innen, therapeutische Beziehung, Re-Contracting bei KI-Nutzung und die Pflicht, identifizierende Klientendaten nicht in ungeeignete KI-Systeme hochzuladen.

ACA: "Recommendations for Client Use and Caution of AI" (o.J.)

office33 — 2026-07-02 09:10:50 UTC

Die American Counseling Association betont, dass Klient:innen verstehen müssen, was KI-Tools leisten können und was nicht. KI sei kein direkter Ersatz für menschliche Counselor; Datenschutz, Vertraulichkeit, rechtliche Vorgaben, Grenzen der Tools, falsche oder verzerrte Informationen und realistische Erwartungen müssen aktiv thematisiert werden.

APA: "AI in Psychological Practice and Mental Health" (2025)

office33 — 2026-07-02 09:13:13 UTC

Die American Psychological Association stellt aktuelle Orientierung zu KI in Psychologie und psychischer Gesundheit bereit. Leitmotiv ist: KI soll menschliche Entscheidung ergänzen, nicht ersetzen; Psycholog:innen bleiben für finale Entscheidungen verantwortlich und dürfen KI-Ausgaben nicht blind übernehmen. APA-Ressourcen adressieren außerdem Bias, Datenschutz, Patientensicherheit und den Umgang mit Klient:innen, die selbst GenAI-Chatbots oder Mental-Health-Apps nutzen.

APA: "Your patients are using AI. Here’s how to talk with them about it." (2026)

office33 — 2026-07-02 09:14:31 UTC

Ergänzend gibt die APA wichtige Hinweise, wie man gut mit Klient:innen (die KI nutzen) darüber Ins Gespräch kommen kann und worauf dabei zu achten ist.

Utah Office of AI Policy: "Best Practices for AI by Mental Health Therapists" (2025)

office33 — 2026-07-02 09:16:09 UTC

Diese US-Leitlinie ist sehr konkret für lizenzierte Mental-Health-Therapeut:innen. Sie behandelt therapeutische, supervisorische und ausbildungsbezogene KI-Nutzung. Zentrale Anforderungen sind informierte Einwilligung, Prüfung von Datenpraktiken, Kompetenz der Therapeut:innen, kritische Prüfung von KI-Texten, KI nur als Ergänzung und besondere Vorsicht bei patientenseitiger KI-Interaktion

New Zealand Psychologists Board: "Guidelines for the Use of AI in Psychology" (2025)

office33 — 2026-07-02 09:19:37 UTC

Diese Guidelines sind stark berufsrechtlich orientiert. Sie betonen, dass Psycholog:innen für KI-Ausgaben verantwortlich bleiben, KI-Ausgaben auf Fehler und Bias prüfen müssen und KI nicht als Ersatz für professionelle psychologische Verantwortung verstanden werden darf. Die Guidelines sind als Ergänzung zum Ethics Code gedacht und sollen wegen der schnellen Entwicklung regelmäßig überprüft werden.

Australian Clinical Psychology Association: "Practice Guidance on AI-Assisted Tools" (2025)

office33 — 2026-07-02 09:25:18 UTC

Die ACPA unterscheidet zwischen offenen, öffentlichen KI-Systemen und geschlossenen, gesicherten KI-Systemen. Sie warnt ausdrücklich davor, Klientendaten in offene KI-Systeme einzugeben, insbesondere für Diagnostik oder Behandlungsempfehlungen, ohne explizite schriftliche Einwilligung und geeignete Schutzmaßnahmen. Außerdem betont sie KI-Kompetenz, Haftung, Vertraulichkeit, Bias, Dokumentationsprüfung und mögliche Medizinprodukt-Regulierung.

Ahpra, Psychology Board of Australia: "Meeting your professional obligations when using Artificial Intelligence in healthcare" (fortlaufend)

office33 — 2026-07-02 09:28:13 UTC

Die australische Regulierungsseite formuliert übergreifende Prinzipien für KI im Gesundheitswesen: Verantwortlichkeit, Verständnis des Tools, Transparenz, informierte Einwilligung sowie Beachtung ethischer und rechtlicher Anforderungen

WHO: "Ethics and Governance of AI for Health"

office33 — 2026-07-02 09:36:19 UTC

Die WHO-Leitlinie behandelt Chancen und Risiken großer multimodaler KI-Modelle im Gesundheitswesen, etwa für Diagnostik, klinische Versorgung, Patient:inneninformationen, Verwaltung, Ausbildung, Forschung und Arzneimittelentwicklung. Sie betont zugleich zentrale Gefahren wie falsche oder verzerrte Antworten, Datenschutz- und Sicherheitsrisiken, Automatisierungsbias, Kompetenzverlust, ungleichen Zugang, ökologische Belastungen sowie unklare Verantwortung und Haftung. Für einen verantwortungsvollen Einsatz empfiehlt die WHO ethische Leitprinzipien wie menschliche Autonomie, Sicherheit, Transparenz, Rechenschaftspflicht, Inklusion, Nachhaltigkeit sowie klare Governance durch Entwickler, Anbieter, Einrichtungen, Regierungen und internationale Zusammenarbeit.

UNESCO: "Recommendation on the Ethics of AI" (o.J.)

office33 — 2026-07-02 09:41:37 UTC

Die UNESCO-Empfehlung zur Ethik der Künstlichen Intelligenz formuliert einen globalen Orientierungsrahmen, damit KI dem Wohl von Menschen, Gesellschaften, Umwelt und Ökosystemen dient und Schäden verhindert werden. Im Mittelpunkt stehen Menschenrechte, Menschenwürde, Fairness, Nichtdiskriminierung, Vielfalt, Inklusion, Transparenz, Sicherheit, Verantwortung, Nachhaltigkeit und menschliche Kontrolle, insbesondere bei folgenreichen Entscheidungen. Die Mitgliedstaaten werden aufgefordert, diese Werte durch Gesetze, Richtlinien, ethische Folgenabschätzungen, Datenpolitik, Bildung, internationale Zusammenarbeit und Monitoring praktisch

Social Work England: "Understanding the emerging use of artificial intelligence (AI) in social work education and practice in England" (2025)

office33 — 2026-07-02 09:46:27 UTC

Social Work England hat 2025 Forschung zu KI-Nutzung, Risiken, beruflicher Vorbereitung und Auswirkungen auf professionelle Standards beauftragt; die Ergebnisse sprechen für einen national abgestimmten Ansatz, aktualisierte Standards und Einbezug von Menschen mit gelebter Erfahrung.

Caritas der Diözese Rottenburg-Stuttgart: "Richtlinie zur Nutzung generativer KI" (2025)

office33 — 2026-07-02 09:49:03 UTC

"Mit dieser Richtlinie wollen wir die Rahmenbedingungen für einen guten Umgang mit KI abstecken und dazu ermutigen, sich im Verband mit KI zu beschäftigen, sie auszuprobieren und Voraussetzungen für eine kritisch-konstruktive Auseinandersetzung mit KI zu schaffen."

Singh, V. et al.: "Clinical Practice Guidelines on using artificial intelligence and gadgets for mental health and well‑being" (2024)

office33 — 2026-07-02 10:02:16 UTC

PACFA: "Integrating Artificial Intelligence inCounselling and Psychotherapy" (2026)

office33 — 2026-07-02 10:05:16 UTC

Der Leitfaden erklärt, dass KI in Beratung und Psychotherapie nur mit sorgfältiger fachlicher Prüfung eingesetzt werden sollte: Praktiker:innen bleiben vollständig verantwortlich für klinische Entscheidungen, Dokumentation und Datenschutz, müssen Klient:innen transparent informieren und insbesondere bei Aufzeichnung, Transkription oder Verarbeitung sensibler Daten eine ausdrückliche Einwilligung einholen. Zudem betont das Dokument Risiken wie Fehler, Verzerrungen, Datenschutzverletzungen und Überabhängigkeit von KI und empfiehlt daher eine risikobasierte Prüfung, menschliche Kontrolle, laufende Evaluation, Supervision sowie die Einhaltung australischer rechtlicher und ethischer Standards

BPS/Global Psychology Alliance: "Top 10 Principles for Understanding Artificial Intelligence in Psychology" (2026)

office33 — 2026-07-02 10:18:12 UTC

Das Dokument fasst zehn Grundprinzipien für den verantwortungsvollen Einsatz von KI in der Psychologie zusammen: Psycholog:innen sollen KI nur ethisch, transparent und mit informierter Zustimmung nutzen, ihre fachliche Verantwortung behalten, menschliche Aufsicht sicherstellen und sich auf wissenschaftlich validierte, geeignete Tools stützen. Besonders betont werden psychologische Sicherheit, Schadensvermeidung, der kritische Umgang mit algorithmischen Verzerrungen sowie gerechter Zugang und inklusive Gestaltung, damit KI bestehende Ungleichheiten nicht verstärkt, sondern verantwortungsvoll in Forschung und Praxis integriert wird.

BASW: "Generative AI and Social Work: Initial Guidance for Practice and Ethics" (2025)

office33 — 2026-07-02 10:25:35 UTC

Das BASW-Dokument gibt erste ethische Leitlinien zum Einsatz generativer KI in der Sozialen Arbeit: GenAI kann zwar Verwaltungsaufwand reduzieren und die Praxis unterstützen, muss aber stets kritisch geprüft werden, da Risiken wie Verzerrungen, Halluzinationen, Transkriptionsfehler, mangelnde Kontextsensibilität und Datenschutzprobleme bestehen. Sozialarbeiter:innen bleiben für die Nutzung und Überprüfung von KI-Ergebnissen verantwortlich, sollten sensible personenbezogene Daten nicht ohne informierte Zustimmung in generische Tools eingeben und benötigen klare Schulung, Arbeitgeberrichtlinien, Datenschutz- und Gleichstellungsprüfungen sowie regulatorische Vorgaben; KI soll Beziehungspraxis stärken, nicht höhere Fallzahlen oder Stellenabbau rechtfertigen.

BMASGPK: "Richtlinie Online-Psychotherapie" (2025)

office33 — 2026-07-02 10:30:03 UTC

Die Richtlinie zur Online-Psychotherapie legt fest, dass psychotherapeutische Leistungen in Österreich grundsätzlich vorrangig in Präsenz erfolgen sollen und Online-Psychotherapie nur bei fachlich oder örtlich begründeter Notwendigkeit sowie im Einvernehmen mit Patient:innen zulässig ist. Sie muss synchron audio- oder videobasiert stattfinden, dokumentiert werden und alle Berufspflichten wie Verschwiegenheit, Aufklärung, Fortbildung, Datensicherheit und fachliche Verantwortung erfüllen. Berufsangehörige müssen über spezifische Kenntnisse im Online-Setting verfügen, die Eignung laufend prüfen, Grenzen und Risiken transparent machen und bei fehlender Entscheidungsgrundlage oder Gefahrenbeherrschung auf Präsenz- oder andere Hilfsangebote verweisen; KI-Systeme, Apps und Chats dürfen psychotherapeutische Behandlung nicht ersetzen, sondern höchstens unterstützend eingesetzt werden.

Kühne/Engel: "Handreichung für Ratsuchende und den Einsatz von Künstlicher Intelligenz" (2026)

office33 — 2026-07-02 10:31:27 UTC

Die Handreichung erklärt Ratsuchenden, wie sie KI-Programme wie ChatGPT sinnvoll und sicher nutzen können: KI eignet sich vor allem zur ersten Orientierung, zum Strukturieren von Gedanken, für Zusammenfassungen, Übersetzungen, Entwürfe oder Checklisten, sollte aber bei sensiblen Rechts-, Gesundheits-, psychologischen oder aktuellen Fragen nur mit Vorsicht verwendet werden. Empfohlen wird, der KI ein klares Ziel, ausreichend Kontext, gewünschtes Format und Tonfall vorzugeben, keine sensiblen Daten einzugeben, Antworten kritisch zu prüfen, Quellen zu verlangen und mögliche Fehler, Verzerrungen oder „Halluzinationen“ zu beachten. Bei wichtigen, riskanten oder persönlichen Themen ersetzt KI keine professionelle Beratung; Ratsuchende sollen Ergebnisse daher mit Fachpersonen besprechen und in Notfällen sofort Notruf oder Krisendienste kontaktieren.

CTC/OPA: "Guidelines for the Use of Artificial Intelligence (AI) in Psychology" (2026)

office33 — 2026-07-02 10:38:10 UTC

Die Richtlinie der Ohio Psychological Association gibt praxisnahe Empfehlungen für den Einsatz von KI in der Psychologie: KI-Tools sollen sorgfältig ausgewählt, sicher, HIPAA-konform, wirksam geprüft und für den jeweiligen Arbeitskontext geeignet sein. Psycholog:innen bleiben verantwortlich, müssen sich fortbilden, Grenzen wie Fehlinformationen, Bias und Überabhängigkeit beachten, informierte Einwilligung einholen, Vertraulichkeit schützen und KI-Ergebnisse kritisch prüfen. Besonders bei Diagnostik, Lehre, Supervision, Forschung, Publikationen und Beratung soll KI nur unterstützend eingesetzt werden; endgültige fachliche Entscheidungen müssen bei den Psycholog:innen liegen.

Yegan, P. (2025): "Ethical Decision-Making Guidelines for Mental HealthClinicians in the Artificial Intelligence (AI) Era"

office33 — 2026-07-02 10:40:21 UTC

Gardiner, H. & Mutebi, N. (2025): "AI and mental healthcare: ethical and regulatory considerations"

office33 — 2026-07-02 10:42:13 UTC

Der POSTnote-Bericht des britischen Parlaments fasst die ethischen und regulatorischen Fragen rund um KI in der psychischen Gesundheitsversorgung zusammen: KI kann Verwaltung, Forschung, Diagnostik und Behandlung unterstützen, bringt aber erhebliche Risiken mit sich, etwa Datenschutzprobleme, Cybersecurity, algorithmische Verzerrungen, Diskriminierung, digitale Ausgrenzung, unzuverlässige oder halluzinierte Antworten generativer KI sowie ungeklärte Fragen zu Transparenz, Verantwortung und Haftung. Besonders betont wird, dass KI-Tools je nach Einsatzkontext unterschiedlich reguliert sind – etwa als NHS-Anwendungen, Medizinprodukte, weniger regulierte Wellness-Apps oder allgemeine Chatbots – und dass belastbare Langzeitstudien, klare Evidenzstandards, bessere Datenqualität, menschliche Aufsicht sowie koordinierte regulatorische Maßnahmen nötig sind, um Chancen verantwortungsvoll zu nutzen und Risiken für vulnerable Nutzer:innen zu begrenzen.

AWO: "Leitlinien für den verantwortungsvollen KI-Einsatz (in der AWO)"

office33 — 2026-07-02 12:19:26 UTC

Der Entwurf beschreibt KI-Leitlinien der AWO, die sich an den Werten Freiheit, Gleichheit, Gerechtigkeit, Solidarität und Toleranz orientieren: KI soll Teilhabe, Unterstützung und Zugang zu Informationen fördern, darf aber menschliche Verantwortung, persönliche Kontakte und Entscheidungsfreiheit nicht ersetzen. Besonders betont werden Menschenrechte, Diskriminierungsfreiheit, Transparenz, Barrierefreiheit, Datenschutz, Schulung, Diversität, soziale und ökologische Nachhaltigkeit sowie eine offene Auseinandersetzung mit Chancen und Risiken, damit KI verantwortungsvoll, inklusiv und gemeinwohlorientiert eingesetzt wird.

Wittmer, D. (2026): "Ethische und rechtliche Dimensionen des Einsatzes von KI-Technologie in der Sozialen Arbeit und Leitlinien zur informierten Einwilligung der Klientel" (in: DiMe, 2(1))

office33 — 2026-07-02 12:21:42 UTC

Der Beitrag untersucht den Einsatz von KI in der Sozialen Arbeit aus ethischer und rechtlicher Perspektive und betont, dass KI zwar Chancen für Effizienz, Fallanalyse, Unterstützung und Forschung bietet, zugleich aber Risiken wie Datenschutzprobleme, algorithmische Verzerrungen, Fehlinformationen, unklare Verantwortlichkeiten und die Gefährdung professioneller Beziehungsarbeit mit sich bringt.

Weaver, G., Gillon, F. et al. (2025): Working with OpenAI: A guide for Social Workers.

office33 — 2026-07-02 12:43:59 UTC

Der Leitfaden der University of Strathclyde erklärt Sozialarbeiter:innen, wie OpenAI- und andere KI-Tools verantwortungsvoll genutzt werden können: KI kann bei Recherche, Zusammenfassungen, Formulierungen, Ideenentwicklung, Übersetzungen oder administrativen Aufgaben unterstützen, darf aber professionelle Urteilsfähigkeit, Beziehungsgestaltung und ethisches Denken nicht ersetzen. Besonders betont werden Datenschutz, Vertraulichkeit, Transparenz gegenüber Klient:innen, kritische Prüfung von KI-Ergebnissen sowie das Verbot, sensible Fallinformationen in öffentliche oder nicht freigegebene KI-Tools einzugeben; KI soll daher nur als unterstützendes Werkzeug und nicht als Ersatz für fachliche Verantwortung eingesetzt werden.

DCV: "KI im Coaching"

office33 — 2026-07-02 20:39:35 UTC

Der DCV beschreibt Künstliche Intelligenz im Coaching als hilfreiches Werkzeug, das Coachingprozesse ergänzen kann, etwa bei Vor- und Nachbereitung, Strukturierung, Dokumentation, Evaluation und zusätzlichen Reflexionsimpulsen. KI könne professionelle Coachingarbeit jedoch nicht ersetzen, weil menschliche Beziehung, Vertrauen, Empathie, Präsenz, ethische Urteilskraft und Prozessverantwortung zentrale Bestandteile von Coaching bleiben. Daher müsse der Einsatz von KI transparent, datenschutzkonform, fachlich reflektiert und nur mit entsprechender Kompetenz sowie informierter Einwilligung bei personenbezogenen Daten erfolgen. Besonders in Krisen, bei psychischen Belastungen oder existenziellen Themen dürfe KI menschliche Begleitung nicht ersetzen; außerdem warnt der DCV vor Datenschutzrisiken, Verzerrungen und einer Entprofessionalisierung durch unreflektierte Automatisierung.

Boeckle et al. (2025): "Positionspapier zur Digitalisierung in der Psychotherapie in Österreich"

office33 — 2026-07-03 06:16:21 UTC

Das Positionspapier beschreibt, wie Digitalisierung, Online-Psychotherapie, digitale Gesundheitsanwendungen und KI die Psychotherapie in Österreich erweitern können, etwa durch besseren Zugang, flexiblere Versorgung, Unterstützung in Praxisführung, Ausbildung und Forschung. Zugleich betont es zentrale Risiken wie Datenschutz, Qualitätskontrolle, therapeutische Beziehung, Krisenmanagement und unklare rechtliche Rahmenbedingungen; deshalb fordert es verbindliche Zertifizierungen, digitale Kompetenzen in der Ausbildung und eine starke Einbindung von Psychotherapeut:innen, damit digitale Angebote die Psychotherapie fachlich ergänzen, aber nicht ersetzen.