# data[].attributes.body
Geschlechterrollen auf TikTok und Insta damit kombinieren

Wie und wo begegnen uns die Bilder eigentlich?

Und wo werden sie hergestellt?

# data[].attributes.attachment_link.readable_text
Wer im Internet Bilder von sich postet, landet oft in der Vergleichsfalle. Insbesondere junge Menschen sehen sich durchgehend mit Bildern von Menschen konfrontiert, die schöner, erfolgreicher und beliebter als man selbst zu sein scheinen.

Nun verschärft sich dieses Problem: Denn wer heute im Internet unterwegs ist, vergleicht sich dort immer wieder nicht nur mit Bildern von echten Menschen. Sondern auch mit Menschen, die gar nicht wirklich existieren.

Neuer Schönheitsstandard: KI-generierte Gesichter

Seit letztem Jahr sind KI-Bildgeneratoren zum Alltagsphänomen im Internet geworden. Programme wie Midjourney und DALL-E erstellen in Sekundenschnelle noch nie dagewesene Grafiken. Manchmal, wie bei einem viralen Bild von Papst Franziskus im Daunenmantel, werden die Bilder genutzt, um echte Personen darzustellen. Viel öfter jedoch zeigen sie Menschen, die gar nicht wirklich existieren.

Wenn eine KI Bilder generiert, dann fällt oft direkt auf: Die abgebildeten Personen sind attraktiv, schlank und muskulös. KI-generierte Männer haben meist markante Kiefer, volles Haar und den Körperbau von Hochleistungssportlern. KI-generierte Frauen dafür volle Lippen, große Augen und makellose Haut. Und da diese Bilder zunehmend das Internet bestimmen, bedeutet das: Viele Menschen, die wir online sehen, sind nicht nur unrealistisch attraktiv. Sie sind möglicherweise sogar unmöglich attraktiv, weil sie nicht echt sind.

Warum KI-generierte Bilder mehrheitlich so aussehen? Ein wichtiger Grund sind die Trainingsdaten der KI. Denn die KI-Systeme werden mit realen Fotos trainiert. Darunter sind jedoch kaum Alltags-Schnappschüsse, sondern vor allem Bilder aus Magazinen, Screenshots aus Hollywood-Filmen und TV-Shows. Die Welt der KI ist dominiert von geschminkten Models, und deshalb generiert sie auf Anfrage auch vor allem geschminkte Models.

# data[].attributes.attachment_link.title
Künstlich schön: Wenn KI bestimmt, wie wir aussehen

# data[].attributes.attachment_link.description
Moderne KI-Filter verwandeln jedes Gesicht in Echtzeit in eine scheinbar perfekte Model-Variante. Können wir irgendeinem Gesicht im Internet noch trauen?

# data[].attributes.body
Auszubildende der Stadt Frankfurt

Zweites Ausbildungsjahr

18 Teilnehmende voraussichtlich

Gruppe kennt sich, eine Klasse

Gemischtgeschlechtliche Gruppe

Kooperationspartner: Jugendbildungswerk Frankfurt

# data[].attributes.body
Innovativ Methoden

# data[].attributes.attachment_link.readable_text
Digitaltechnologische Entwicklungen haben den Ruf, in höchstem Maße disruptiv zu sein. Als radikale Technologien verbessern sie nicht nur bestehende Prozesse, sondern revolutionieren unseren Blick auf Ziele und Möglichkeiten gesellschaftlichen Handelns. So haben etwa das Internet, soziale Netzwerke oder Smartphones tiefe Veränderungen bewirkt, beispielsweise in der Art und Weise, wie wir Wissen organisieren und unser Handeln koordinieren oder wie unsere Wirtschaft funktioniert. Auch vor Politik und Demokratie macht der digitaltechnologisch getriebene Strukturwandel nicht Halt. So wird etwa seit der Ausbreitung des öffentlichen Internets in den 1990er Jahren mit wechselnden Thesen, aber immer hoher Dringlichkeit, Digitalisierung als Gefahr oder Chance für die Demokratie diskutiert.

Es ist insofern nicht überraschend, dass auch in den jüngsten Auseinandersetzungen um Künstliche Intelligenz, die seit dem öffentlichen Launch von ChatGPT Ende 2022 ein neues Level erreicht hat, die Auswirkungen auf Demokratie zum wichtigen Thema geworden sind. Anknüpfend an die virulente Kritik an sozialen Medien und deren Auswirkungen auf den demokratischen Diskurs stehen dabei insbesondere die Risiken von Manipulation und Desinformation im Blickpunkt. Die demokratischen Herausforderungen, die durch eine breite gesellschaftliche Einbettung von KI in unser Alltagsleben entstehen, sind aber vielschichtiger, weshalb im Folgenden ein Überblick über Entwicklungspfade gegeben wird, der aufschlüsselt, wie sich demokratische Prozesse und demokratische Öffentlichkeit im sich wandelnden soziotechnischen Kontext verändern könnten.

Neue Dynamik

Künstliche Intelligenz ist nicht erst seit ChatGPT eine gesellschaftlich relevante Technologie. Genauer gesagt ist Künstliche Intelligenz überhaupt keine einzelne Technologie, sondern wird besser als eine kategoriale Bezeichnung für technologische Verfahren verstanden, die das Ziel haben, komplexe Probleme unabhängig und situationsgerecht zu lösen. Die Verfahren, mit denen dieses Ziel erreicht werden soll, sind dabei nur abstrakt von biologischen Fähigkeiten und Strukturen inspiriert. Künstliche Intelligenz unterscheidet sich von menschlicher Intelligenz auch dann, wenn bestimmte Leistungen oder Ergebnisse vergleichbar erscheinen. Zu analysieren ist daher, wie sich gesellschaftliche Kommunikationen und Prozesse ändern, wenn in ihr verschiedene Rationalitäten und Agenten zusammenwirken.

Seit Mitte des 20. Jahrhunderts lassen sich grob zwei Strategien unterscheiden, KI zu realisieren: Auf der einen Seite stehen Ansätze, die auf Klassifizierungen und der nach logischen Regeln operierenden Verarbeitung von Daten aufsetzen - sogenannte symbolische KI -, auf der anderen konnektionistische Verfahren, die auf maschinelles Lernen setzen und mittels neuronaler Netze versuchen, Probleme situationsgerechter zu analysieren, in Daten Muster und Wahrscheinlichkeiten zu bestimmen und diese Ergebnisse zu neuen Lösungen zu kombinieren.

Für den um 2010 einsetzenden und sich seitdem extrem beschleunigenden neuerlichen Aufschwung von KI sind insbesondere letztere Verfahren verantwortlich. Grundlegend für den Erfolg ist zum einen die Verfügbarkeit über enorm große Rechenkapazitäten, die zudem immer spezifischer für KI-Anwendungen ausgelegt werden; zum anderen der Zugriff auf riesige Datenmengen, die sich beispielsweise aus der Verlagerung und Vermessung von Alltagskommunikation in soziale Medien und die Allgegenwart von Sensoren und Kameras in Zeiten des mobilen Internets speist. Sichtbare Erfolge von KI-Verfahren - etwa durch Verbesserungen in den Bereichen Bilderkennung oder Übersetzungen - haben dann eine wirtschaftliche Dynamik ausgelöst, die wiederum verstärkend auf die Weiterentwicklung der Technologie wirkt. Große Sprachmodelle, die die Transformation von Text und anderen Medien erlauben, sind der jüngste Erfolg dieser Entwicklung. Sie resultieren in generativer KI, die die Mustererkennung analytischer Verfahren durch Vorhersagen und Rekombinationen fortschreibt und so neue Anwendungsfelder wie die Erzeugung von Text oder Videos erschließt.

Wie aber werden diese technologischen Veränderungen relevant für demokratische Prozesse? Wie immer in Untersuchungen, die sich der Schnittstelle von Technologie und Gesellschaft nähern, ist es wichtig, hier nicht die Technik zum alleinigen Akteur zu machen oder eine monolithische Logik aus ihr zu folgern. Untersucht werden muss vielmehr, wie die Konstellation, die aus der Verbindung von durch Technologie beförderten Handlungsmöglichkeiten, ökonomischen Anreizen, politischer Regulierung und gesellschaftlichen Nutzungspraktiken entsteht, in Bezug auf politische Kontexte Veränderungsimpulse erzeugt. Bezüglich der gegenwärtig dominanten Verfahren lohnt es sich dabei, drei Bereiche näher zu betrachten, in denen die fortgesetzte gesellschaftliche Adaption von KI-Anwendungen Impulse erzeugt, die die Art und Weise, wie wir Demokratie leben, betreffen. Der erste Bereich sind die Effekte auf die Struktur und Dynamik demokratischer Öffentlichkeit, die generative KI erzeugt. Der zweite Bereich betrifft den Einsatz von KI für die Zwecke des demokratischen Regierens. Drittens lohnt es sich, zu prüfen, inwiefern KI mittel- und langfristig die demokratische Teilhabe von Bürger*innen verändert.

Demokratische Öffentlichkeit

Vor 2022 drehte sich die Diskussion um die Transformation demokratischer Öffentlichkeit durch KI-Verfahren hauptsächlich um den Einsatz von KI in der Moderation von Inhalten auf sozialen Netzwerken, worin eine Verstärkung bereits bekannter Probleme mit der strukturellen und strukturierenden Macht von Plattformen gesehen wurde. Die Nutzungserfahrung vieler Menschen mit generativer KI hat aber einen neuen Fokus gebracht: Der transformative Anstoß geht nun von der Senkung der Kosten für die Erstellung und Veränderung kommunikativer Produkte aus. Die Möglichkeit, Bilder, Videos oder Stimmen in Echtzeit und überzeugend zu erschaffen oder zu verändern, oder auf Knopfdruck Texte zu jedwedem Thema und in jedwedem Stil entstehen zu lassen, erzeugt ein öffentliches Bewusstsein für eine potenziell revolutionäre Veränderungsdynamik. Generative KI verändert dabei auch Informationsumgebungen jenseits individueller Handlungsmöglichkeiten: So erlauben die Verfahren, Information und Kommunikation viel stärker maßzuschneidern, wie das Beispiel digitaler Assistenten zeigt, die in natürlicher Sprache mit uns plaudern und Informationen kuratieren. Was also sind die erwartbaren Auswirkungen auf das Verhältnis von Öffentlichkeit und Demokratie?

An erster Stelle steht die Befürchtung der epidemischen Zunahme von Desinformation. Generative KI ermöglicht sogenannte Deep Fakes, bei denen multimediale Inhalte wie Videos oder Tonaufnahmen erzeugt oder tiefgreifend verändert werden. Wie niedrigschwellig diese Form von Eingriffen ist, weiß jeder, der schon mal digitale Filter für Bilder oder Videos verwendet hat. Obwohl Manipulationen und Fälschungen immer schon Teil politischer Kommunikation waren, verschiebt generative KI hier die Gewichte: Viel mehr Akteure erhalten durch die Anwendungen die Möglichkeit, auch komplexe Medienarten schnell und täuschend echt zu verändern. Und gerade diesen Formaten wird ein besonders großer Einfluss auf den öffentlichen Diskurs zugeschrieben, da das, was wir sehen oder hören, oft einen größeren Eindruck macht, als das, was wir lesen. Die Manipulation solcher immersiven Medienformate gilt daher als subtil und tiefgreifend zugleich. Hinzu kommt, dass nicht nur die Qualität manipulativer Eingriffe steigt, sondern dass die neuen Möglichkeiten sich mit einem medialen Kontext verbinden, der ohnehin bereits als anfällig für Desinformation und Emotionalisierung gilt. Die Aufmerksamkeitsökonomie sozialer Medien mit ihren segmentierten Adressatengemeinschaften und hohem Erregungslevel ebenso wie die heute so wichtige Gruppenkommunikation in Messenger-Diensten macht es sowohl schwierig, Desinformationen zu entdecken, als auch diese dann erfolgreich zu kontern. Gerade strategisch agierende Akteure können daher durch generative KI profitieren und die entstehenden Potenziale ausnutzen, um etwa Radikalisierungsprozesse zu vertiefen.

Neben der gezielten Desinformation muss, zweitens, Misinformation zu den problematischen Auswirkungen von KI gezählt werden. Misinformation resultiert aus der immanenten Unzuverlässigkeit der angewandten Verfahren, die aus der Generierung neuer Inhalte durch die maschinelle Interpretation von Trainingsdaten erfolgt. Das heißt, mitunter „halluziniert" generative KI - sie schafft Zusammenhänge, ohne dass diese zu prüfen oder zu belegen wären. Dies geschieht in einer überzeugenden Weise, da die Verfahren ja gerade darauf ausgerichtet sind, menschliche Erwartungen zu erfüllen und oftmals Vorurteile fortgeschrieben werden, die gesellschaftlich verbreitet und daher in die Trainingsdaten eingeschrieben sind. Auf dieses Phänomen reflektiert zu reagieren, setzt hohe Medienkompetenz voraus, da die Autorität der Information groß und die Möglichkeit ihrer Überprüfung gering ist. KI-erzeugte Inhalte nicht als sinnvolle, sondern als allein der Form nach passende Ergebnisse zu interpretieren, erfordert einen deutlichen Bruch mit bisherigen Rezeptionsgewohnheiten.

Wenn Desinformation und Misinformation in einer Gesellschaft zunehmen, ist dies bereits für sich eine Herausforderung für den demokratischen Diskurs. Die Basis, auf der sich Gesellschaften austauschen und über Kompromisse verhandeln, wird kleiner, Fragmentierung wahrscheinlicher. Trotzdem ist offen, inwiefern die durch KI erzeugte Mis- und Desinformation tatsächlich qualitativ so bedeutsam ist, wie im öffentlichen Diskurs häufig unterstellt - und ob nicht auch Möglichkeiten gesellschaftlichen Anpassens und Lernens stärker hervorgehoben werden müssten. Schließlich sind demokratische Öffentlichkeiten in Gesellschaften wie Deutschland stark verschachtelt, sie sind geprägt von einem pluralistischen Mediensystem, breiter politischer Bildung und einer Vielzahl von alternativen Kommunikationswegen. Die Möglichkeiten, Öffentlichkeit mittels digitaler Artefakte großflächig und nachhaltig zu manipulieren, sind somit begrenzt. Die Gefahr für den öffentlichen Diskurs ist insofern weniger die kurzfristige Manipulation, sondern eher die langfristige Erosion der (infra-)strukturellen Bedingungen demokratischer Öffentlichkeit. Generative KI kann zu dieser beitragen, da schon der Vorwurf der Manipulierbarkeit über Zeit den Effekt haben kann, dass medialer und öffentlicher Kommunikation weniger vertraut wird. Diese Gefahr wird zusätzlich dadurch verschärft, dass generative KI verändert, wie wir uns in den überbordenden Informationsumwelten unserer Gegenwart bewegen. Chatbots und Assistenzsysteme wie auch die Veränderung von Suchmaschinen - weg von der Darstellung einer Liste an Verweisen hin zu einer autoritativ ausformulierten Antwort - bedeuten, sofern sie sich durchsetzen, gravierende Veränderungen unserer Mediennutzung, was in zwei Hinsichten in Bezug auf Demokratie relevant werden könnte.

Zum einen könnte die in der Forschung eigentlich schon länger angezweifelte Filterblasenhypothese neue Plausibilität bekommen. Diese besagt, dass algorithmische Verfahren, die Inhalte personalisieren, eine Vereinseitigung des Informationsangebots nach sich ziehen. Da Algorithmen selektieren, was wir ohnehin hören wollen, bewegten wir uns vorwiegend unter Gleichgesinnten, was demokratische Kompromisse und Perspektivwechsel erschwere. Obwohl diese These intuitiv plausibel und im öffentlichen Diskurs stark verbreitet ist, haben empirische Arbeiten die Existenz und die Effekte von Filterblasen stark relativiert. Generative KI könnte den für Suchmaschinen und soziale Netzwerke tendenziell widerlegten Argumenten aber neue Kraft verleihen, da die umfassende Vorstrukturierung der Kommunikation und das Verdecken von Komplexität durch gradlinige und direkte Antworten erneut als Vereinseitigung gedeutet werden könnte.

Ebenso offen, aber potenziell bedenklich sind die Auswirkungen, die generative KI auf die Ökonomie von Medien und Journalismus haben wird. Hier ist unter anderem zu fragen, wie mit journalistischen Inhalten Geld verdient werden kann, wenn die Schnittstelle zur Interaktion mit den Leser*innen oder Konsument*innen noch mehr in von Technologiekonzernen kontrollierte Umgebungen abwandert. Eine weitere Frage ist, wie sich die Trennung von informierten Eliten und desinteressiertem Publikum unter dem Einfluss der Technologie verändert.

KI und demokratisches Regieren

Die breite gesellschaftliche Adaption von KI-Verfahren bringt auch jenseits von generativer KI und öffentlichem Diskurs eine Reihe neuer Herausforderungen mit sich. Ein Bereich, der besondere Aufmerksamkeit verdient, ist die Veränderung demokratischer Regierungspraxis durch assistierte oder gar automatisierte Entscheidungssysteme. Diese finden in Europa, aber auch weltweit immer mehr Verbreitung und werden selbst dann weiter ausgebaut, wenn sich in der Praxis zeigt, dass viele der bisher eingesetzten Systeme die in sie gesetzten Erwartungen nicht erfüllen.

Für den anhaltenden Boom verantwortlich sind die zugeschriebenen analytischen Fertigkeiten von auf Mustererkennung spezialisierten KI-Verfahren. Diese befeuern Datensammlung und Anwendungsentwicklung und erhöhen die Erwartungen an eine datenzentrierte und effektive Politik. Präzisere Analyse sowie der Einsatz von Vorhersagen und Simulationen sollen Schwächen repräsentativdemokratischer Verfahren ausgleichen, zu denen ein beschränkter Zeithorizont, fehlende Responsivität in dynamischen Situationen und eine zu ungenaue Anwendung von Steuerungsinstrumenten gezählt werden. KI-basierte Verfahren sollen Politik besser machen und dadurch die Output-Legitimation demokratischer Systeme erhöhen. Hierbei wird an eine ältere Vorstellung von Politik angeknüpft, die schon in Statistik und Bürokratie ihren Ausdruck fand, sich nun aber zunehmend von der Verwaltung bis zur Zielformulierung und Planung von Politik erstreckt.

Öffentliche Machtausübung setzt in demokratischen Staaten ein besonders hohes Maß an Kontrolle voraus: Sie ist an Grund- und Bürgerrechte gebunden, muss Standards von Gleichheit und Gerechtigkeit genügen und in einer Weise ausgeübt werden, dass die ihr Unterworfenen nicht nur nachvollziehen können, wie sie regiert werden, sondern auch wirkungsvoll gegen Missbrauch und Fehlentwicklungen opponieren können. Der zunehmende Einsatz von KI-Verfahren birgt hierbei zahlreiche Herausforderungen.

Mit Blick auf Grundrechte und Gleichheitsfragen liegt die Schwierigkeit in der Logik der Fortschreibung vergangener Muster, in denen eine Reproduktion von Macht- und Statusasymmetrien angelegt ist. Muster werden hier zu Regeln, die sich dann wieder selbst bestätigen, wie es aus Fällen von predicitive policing bis hin zur Administration von Gesundheitsleistungen bekannt ist. Verstärkend wirkt, dass KI oft dort zum Einsatz kommt, wo ein besonderer Kostendruck herrscht und administrative Ressourcen gespart oder mit geringen Kosten stark ausgeweitet werden sollen, etwa bei der Grenzüberwachung. Gerade in diesen Bereichen werden daher vulnerable Gruppen oft zum Gegenstand einer sie benachteiligenden Entscheidungsfindung.

Mit Blick auf demokratische Normen der Kontrolle und Rechenschaftspflicht kommt ein weiteres Problem hinzu: die opake technische Struktur der auf maschinellem Lernen beruhenden KI-Verfahren und der Umstand, dass politische Institutionen sich für deren Entwicklung und Betrieb stark von der Infrastruktur und den Leistungen privatwirtschaftlicher Akteure abhängig machen. Ohne klare Regelungen, die sicherstellen, dass Kontrolle und Rechenschaft praktisch möglich bleiben, untergraben KI-Verfahren demokratische Verfahrensgarantien.

Dies wird zusätzlich davon überlagert, dass datengetriebenes Entscheidungshandeln oft als in Spannung stehend zu demokratischer Selbstbestimmung konzipiert wird. Die Kritik ist hier, dass Demokratien durch das Setzen auf KI-Verfahren sich einer hierarchischen Logik unterwerfen, die Daten fetischisiert und darüber die Möglichkeit partizipatorischer Selbstbestimmung negiert. Ironischerweise geht eine solche Position aber selbst von einem starken technologischen Imperativ aus, in dem die Fähigkeit gesellschaftlichen Handelns und demokratischer Politisierung von vornherein geringschätzt wird und darüber verpasst wird, dass es gerade in Bezug auf technologische Steuerung immer wieder zu wirkungsvoller Politisierung kommt.

Politische Partizipation

Werfen wir als Drittes einen Blick darauf, wie eine breite gesellschaftliche Aneignung von KI-Verfahren sich auf politische Teilhabe von Bürger*innen auswirken könnte. Verändert KI die Möglichkeiten und Modi politischer Partizipation? Antworten hierauf sind noch spekulativer als in den beiden zuvor betrachteten Feldern, was daran liegt, dass dies nicht nur von der Ausgestaltung der Anwendungen abhängt, sondern auch von der Anbindung und Akzeptanz im politischen System. Unterscheiden lassen sich zwei mögliche Richtungen - bottom-up und top-down - und eine Gegentendenz.

Eine Top-down-Intensivierung bedeutet, dass seitens der Politik unter Rückgriff auf KI-Anwendungen der Austausch mit den Bürger*innen gezielt ausgebaut wird. Dies liegt allgemein auf der Linie einer zunehmend kommunikativ auftretenden Politik, und es entspricht der Erwartung, dass Digitalisierung direkte und unmittelbare Kommunikation befördert. KI-Anwendungen könnten etwa eingesetzt werden, um Politik stärker reaktions- und erklärungsfähig zu machen, wie es etwa durch Chatbots heute schon im Bereich der Verwaltung versucht wird. Dies könnte zum Beispiel auch in der Unterstützung regelmäßiger deliberativer Verfahren zwischen Politik und diffuser Bürgerschaft münden. KI-Anwendungen könnten hier Beteiligungsumgebungen strukturieren, die Zusammenführung komplexer Debatten erlauben und nachvollziehbar machen, wie bürgerschaftliche Beteiligung wirksam wird. Obwohl hier demokratische Potenziale zu erkennen sind, wird zu beobachten sein, inwiefern und von wem neue Beteiligungsmöglichkeiten genutzt werden und ob es sich um „echte" Beteiligung oder eher um eine Form des Politmarketings handelt.

Aus Bottom-up-Perspektive wird in den Blick genommen, wie KI-Anwendungen dazu beitragen, dass neue Formen zivilgesellschaftlicher Selbstorganisation möglich werden oder neue Protest- und Aktionsformen entstehen. Dass Digitalisierung transformative Effekte in Bezug auf politisches Handeln haben kann, ist gut erforscht. Aktuell zeichnen sich hier aber noch keine vergleichbaren Impulse für KI-Anwendungen ab, da auf politisches Handeln zugeschnittene Nutzungspraktiken noch wenig ausgeprägt sind und eher auf politische Bildung und Information zielen.

Größer gedachte Vorschläge, die auf eine Umgestaltung des politischen Systems zielen, etwa indem sie den Einsatz von Bots als Agenten politischer Partizipation vorschlagen, sind selten und setzen eine demokratische Struktur voraus, die stärker direktdemokratisch orientiert ist. Wie bei der Top-down-Richtung wird auch bezüglich sich entwickelnder Bottom-up-Strukturen zudem kritisch zu fragen sein, inwiefern mehr Partizipationsmöglichkeiten gleiche Beteiligung fördern oder ob dadurch nicht eher bestehende Macht- und Ressourcenasymmetrien verstärkt werden.

Neben der Schaffung von Partizipationsmöglichkeiten wird in der wissenschaftlichen Literatur auch über eine Gegentendenz spekuliert, für deren Relevanz es bereits stärkere empirische Anhaltspunkte gibt: nämlich, dass sich demokratische Politik künftig weniger an der expliziten politischen Partizipation als vielmehr am messbaren Verhalten der Bürger*innen orientiert. Diese Tendenz ist darauf zurückzuführen, dass in datenreichen Gesellschaften Politik versucht ist, sich stärker durch die Analyse von Bevölkerungseinstellungen zu legitimieren. Für eine solche Entwicklung spricht, dass in komplexen Gesellschaften aufwendige Partizipationsformen häufig als sowohl ineffektiv als auch ungerecht gelten, einfache Partizipationsformen wie periodische Wahlen aber die hohen Beteiligungserwartungen nicht erfüllen. Der Rückgriff auf indirekte Messungen reaktiviert daher ein demokratisches Versprechen, wie es früher bereits demoskopische Verfahren gaben, dass nämlich eine neutrale und umfassende Berücksichtigung der breiten Ansichten und Belange der Bürgerschaft gerade dann stattfindet, wenn man auf Beobachtung statt auf Aktivierung setzt. KI soll hier eine adäquate und stets aktuelle „Lesbarkeit" der Bevölkerung herstellen, wobei zu fragen ist, ob damit nicht nur eine technokratische Depolitisierung befördert wird.

Ausblick

Die aufgezeigten potenziellen Entwicklungspfade demokratischer Praxis angesichts der zunehmenden gesellschaftlichen Einbettung von KI-Verfahren ergeben ein uneinheitliches und ambivalentes Bild. Künstliche Intelligenz ist nicht einfach eine rivalisierende Kraft zu demokratischen Prozessen, wie es populäre Kritiken nahelegen. Die transformative Wirkung der Entwicklung ist aber auch nicht nur begrenzt auf die wachsenden Möglichkeiten effektiver Manipulation. Es ist daher notwendig, die Verschlingung von KI-Technologien und demokratischen Entwicklungen kleinteiliger und mit Blick auf konkrete Dimensionen demokratischen Lebens nachzuvollziehen, um die Rekonfiguration der sich verschiebenden Handlungsmöglichkeiten von individuellen, staatlichen und privatwirtschaftlichen Akteuren besser zu verstehen.

Neben der Analyse schärft sich so der Blick dafür, dass eine aktive politische Gestaltung der digitaltechnologischen Entwicklung möglich und aus demokratischer Sicht sogar naheliegend ist. Anders als in früheren Phasen der Digitalisierung, in denen ein liberaler Imperativ vorherrschte, der eine gesellschaftlich positive Entwicklung unterstellte, wenn man technologische Innovation nur frei walten ließe, ist für KI-Verfahren schon zum jetzigen Zeitpunkt deutlich, dass es eine Notwendigkeit demokratisch sensibler Regulierung gibt. Aktuelle Vorschläge fokussieren dabei hauptsächlich Anwendungsszenarien (etwa Gesichtserkennung oder Deep Fakes) und die Frage der Datengrundlage von KI (Datenschutz und Copyright). Aus demokratischer Sicht muss darüber hinaus aber auch verstärkt auf gesellschaftliche Mitbestimmungsmöglichkeiten geachtet werden - und zwar in Hinblick auf Entwicklung, Anwendung und Einsatz von KI. Dies erschöpft sich nicht in der einfachen Forderung nach Transparenz, sondern meint die Etablierung eingriffsfähiger Institutionen, die in der Lage sind, öffentliche Interessen und bürgerliche und demokratische Rechte auch gegen technische Möglichkeiten und ökonomische Anreize stark zu machen.

# data[].attributes.attachment_link.description
Welche Effekte hat KI auf die Struktur demokratischer Öffentlichkeit? Welche Möglichkeiten ergeben sich für demokratisches Regieren? Und inwiefern verändert sich Teilhabe von Bürgerinnen und Bürgern?

# data[].attributes.headline
KI und Transformationsprozesse in der Arbeitswelt 

# data[].attributes.subject
KI und Transformationsprozesse in der Arbeitswelt 

# data[].attributes.body
z.B. Automobilindustrie

Wie an Angestellte in der Verwaltung anwenden?

# data[].attributes.body
Partizipativer Ansatz

# data[].attributes.body
BERLIN

MÜNCHEN

# data[].attributes.body
Nenne mir Beispiele von deutschen NGO, die sich mit KI befassen

ChatGPT

ChatGPT

Einige deutsche Nichtregierungsorganisationen (NGOs), die sich mit künstlicher Intelligenz (KI) befassen, sind:

1. AlgorithmWatch: Diese unabhängige NGO mit Sitz in Berlin untersucht und bewertet den Einsatz von algorithmischen Entscheidungssystemen in verschiedenen Bereichen, einschließlich KI. Sie setzen sich für Transparenz, Verantwortlichkeit und ethischen Umgang mit KI ein.

2. Stiftung Neue Verantwortung (SNV): SNV ist eine Denkfabrik mit Sitz in Berlin, die sich mit den Auswirkungen neuer Technologien auf Gesellschaft, Politik und Wirtschaft befasst. Sie beschäftigen sich auch intensiv mit KI und ihren sozialen, ethischen und politischen Implikationen.

3. Gesellschaft für Informatik (GI): Die GI ist die größte Fachgesellschaft für Informatik im deutschsprachigen Raum. Sie beschäftigt sich mit einer Vielzahl von Themen, darunter auch KI. Die GI organisiert regelmäßig Veranstaltungen, Konferenzen und Diskussionen rund um KI und fördert den fachlichen Austausch auf diesem Gebiet.

Diese Organisationen sind nur einige Beispiele für NGOs in Deutschland, die sich mit künstlicher Intelligenz befassen. Es gibt auch andere Gruppen, Forschungseinrichtungen und Initiativen, die sich mit diesem Thema beschäftigen und einen Beitrag zu einer breiteren Diskussion über die Entwicklung und den Einsatz von KI leisten.

You

Bitte nenne mit noch weitere Organisationen

ChatGPT

ChatGPT

Natürlich, hier sind weitere deutsche NGOs, die sich mit künstlicher Intelligenz befassen:

1. Das Zentrum für Künstliche Intelligenz (DFKI): Das DFKI ist das weltweit größte Forschungszentrum auf dem Gebiet der KI. Es hat Standorte in mehreren deutschen Städten, darunter Kaiserslautern, Saarbrücken, Bremen und Berlin. Das DFKI betreibt Grundlagenforschung sowie anwendungsorientierte Forschung und arbeitet eng mit der Industrie zusammen.

2. AI Ethics Lab: Das AI Ethics Lab ist eine unabhängige NGO mit Sitz in Berlin, die sich auf die ethischen Aspekte von KI konzentriert. Sie bieten Beratungsdienste, Schulungen und Forschung zu Themen wie Fairness, Transparenz, Verantwortlichkeit und Privatsphäre im Zusammenhang mit KI-Technologien an.

3. Digitale Gesellschaft e.V.: Diese Organisation mit Sitz in Berlin setzt sich für Bürgerrechte und Datenschutz im digitalen Zeitalter ein. Sie befassen sich auch mit den Auswirkungen von KI auf die Gesellschaft und setzen sich für eine verantwortungsvolle Nutzung dieser Technologien ein.

4. Bertelsmann Stiftung: Die Bertelsmann Stiftung ist eine der größten deutschen Stiftungen und beschäftigt sich mit einer Vielzahl von Themen, darunter auch KI. Sie führen Studien durch, organisieren Veranstaltungen und bieten Empfehlungen für politische Entscheidungsträger, um die Chancen von KI zu nutzen und gleichzeitig mögliche Risiken zu minimieren.

Diese Organisationen sind nur einige Beispiele für deutsche NGOs, die sich mit künstlicher Intelligenz befassen. Es gibt viele weitere Initiativen und Gruppen, die sich aktiv mit diesem Thema auseinandersetzen und einen Beitrag zu einer verantwortungsvollen Entwicklung und Nutzung von KI leisten.

# data[].attributes.body
Micro-Content: 12 Denkanstöße zu KI zur Nutzung in Lernangeboten: https://ebildungslabor.de/selbstlernkurse/micro-content-12-denkanstoesse-zu-ki-zur-nutzung-in-lernangeboten/

# data[].attributes.body
Yana - you are not alone: https://youarenotalone.ai/

Yana ist der weltweit erste AI-Chatbot, der dich mit allem supportet, was du brauchst, wenn du diskriminiert wurdest.

# data[].attributes.body
Aktivitäten und Unterrichtsmaterial

zu künstlicher Intelligenz ohne Strom

# data[].attributes.headline
Anwendungsbeispiele: chatGPT in der politischen Bildung

# data[].attributes.subject
Anwendungsbeispiele: chatGPT in der politischen Bildung

# data[].attributes.attachment_link.readable_text
Anfang des Jahres war künstliche Intelligenz in aller Munde. Alle wollten mit Programmen wie ChatGPT, Midjourney und Co spielen und arbeiten. Hitzige Debatten brachen los, vor allem wie Bildung im Zeitalter der künstlichen Intelligenzen aussehen wird. Seitdem ist alles wieder ein bisschen ruhiger geworden. Zeit also mal gemeinsam zu schauen, wie wir Künstliche Intelligenz nun ganz praktisch in unserer Bildungsarbeit einsetzen können...

Die digitale Revolution hat unsere Welt auf den Kopf gestellt, und die politische Bildung bleibt davon nicht unberührt. In einer Zeit, in der Informationen im Überfluss vorhanden sind und der Zugang zu Wissen einfacher denn je ist, stehen Multiplikator:innen der politischen Bildung vor der Herausforderung, effektive und zeitgemäße Methoden zu finden, um junge Menschen für politische Themen zu sensibilisieren und zu aktivieren. Eine vielversprechende Möglichkeit, dieses Ziel zu erreichen, besteht darin, Text-KIs (wie ChatGPT) in die politische Jugendbildung zu integrieren. In diesem Artikel werden wir erkunden, welche Prompts ("Prompts" sind die Sprachbefehle die der Künstlichen Intelligenz den Auftrag geben und die Regeln für diesen Auftrag definieren) für Multiplikator:innen der politischen Bildung besonders interessant sein könnten.

(Disclaimer: die Prompts wurden auf der Bezahlversion von OpenAi, ChatGPT 4.0 getestet. Andere Text-KIs reagieren auf die Prompts ggf. anders.)

1. ChatGPT als Debattenstarter:

ChatGPT kann als effektiver Debattenstarter dienen. Multiplikator:innen und Jugendliche können Fragen zu aktuellen politischen Themen entwickeln und mit Hilfe der KI erste Ideen sammeln. Jugendliche bekommen so die Möglichkeit einen ersten Einblick in das Thema zu erhalten und von dort gemeinsam weiter zu diskutieren.

Beispielprompt:

"Liste mir jeweils drei Vorteile und drei Nachteile zum Thema "Abschaffung der Schuldenbremse" auf."

2. Simulationen politischer Szenarien:

Durch die Verwendung von ChatGPT können Multiplikator:innen realistische politische Szenarien erstellen, in denen die Schüler:innen verschiedene Rollen übernehmen. ChatGPT kann dann verschiedene Rollen zugewiesen werden. Dies fördert das Verständnis für politische Prozesse und Entscheidungsfindung.

Beispielprompt:

3. Faktenüberprüfung und Medienkompetenz:

In einer Ära von Fake News und Desinformation ist es entscheidend, dass junge Menschen die Fähigkeiten zur Faktenüberprüfung entwickeln. ChatGPT kann genutzt werden, um gemeinsam mit den Jugendlichen Online-Quellen zu analysieren und zu bewerten. Gemeinsam kann man versuchen rauszufinden wo die Grenzen bzw. Grauzonen der KI verlaufen.

Beispielprompt:

4. Politische Philosophie und Ideengeschichte:

ChatGPT kann als eine Art virtuelle Lehrerin für politische Philosophie und Ideengeschichte dienen. Multiplikator:innen können die Jugendlichen auffordern, Fragen zu berühmten politischen Denker:innen und ihren Ideen zu stellen.

Beispielprompt:

5. Politische Simulationsspiele:

Interaktive politische Simulationsspiele sind eine effektive Methode, um das Verständnis für politische Prozesse zu vertiefen. Mit ChatGPT können Multiplikator:innen komplexe Szenarien und Entscheidungsbaumstrukturen erstellen, die die Jugendlichen durchlaufen und in denen sie politische Entscheidungen treffen müssen.

Beispielprompt:

6. Aktuelle Ereignisse und Analysen:

Schließlich können Multiplikator:innen ChatGPT verwenden, um aktuelle politische Ereignisse und Entwicklungen zu analysieren. Die Jugendlichen können gebeten werden, Fragen zu stellen oder kurze Analysen zu erstellen, um ihre politische Urteilsfähigkeit zu schärfen.

Beispielprompt:

ChatGPT für Quizze, Lückentexte, etc.

Egal ob Quizz, Lückentext, Multiple-Choice: TextKIs können hervorragend genutzt werden um einen ersten Entwurf für eine Wissenabfrage zu erstellen.

Beispielprompt:

Bonus: Was hat sich seither geändert?

Neulich las ich einen interessanten Tweet. Ein User stellte die Frage: "Wäre es nicht toll eine Website zu haben, in der man das Jahr seines Schulabschluss eingibt und dann sagt einem die Website, was seitdem wissenschaftlich wiederlegt wurde?!" Ich fand die Frage sehr spannend. Allerdings braucht es dafür keine extra programmierte Website. nach wenigen Versuchen hatte ich einen schönen Prompt.

Beispielprompt:

Insgesamt bietet die Integration von Text-KIs eine spannende Möglichkeit, die politische Jugendbildung aufzuwerten und junge Menschen für politische Themen zu begeistern. Es ist wichtig, dass Multiplikator:innen dabei darauf achten, die Technologie sinnvoll einzusetzen und die Jugendlichen zu ermutigen, kritisch zu denken und eigene Meinungen zu entwickeln. ChatGPT und ähnliche Anwendungen sind da und werden eingesetzt. Als politische Jugendbildner:innen haben wir die Aufgabe uns damit auseinanderzusetzen. Denn diese KIs können ein wertvolles Werkzeug sein, um die nächste Generation besser auf die Herausforderungen und Chancen unserer komplexen politischen Welt vorzubereiten.

Habt auch ihr spannende Prompts in eurem Bildungsalltag ausprobiert? Sendet uns eine Mail an Diese E-Mail-Adresse ist vor Spambots geschützt! Zur Anzeige muss JavaScript eingeschaltet sein!

Einen spannenden Blog-Beitrag zum Thema gibt es auch beim ebildungslabor: Zwei Übungen zum Prompting - seriös und quatschig!

# data[].attributes.attachment_link.title
Anwendungsbeispiele: chatGPT in der politischen Bildung

# data[].attributes.attachment_link.description
Anfang des Jahres war künstliche Intelligenz in aller Munde. Alle wollten mit Programmen wie ChatGPT, Midjourney und Co spielen und arbeiten. Hitzige Debatten brachen los, vor allem wie Bildung im Zeitalter der künstlichen Intelligenzen aussehen wird. Seitdem ist alles wieder ein bisschen ruhiger geworden.

# data[].attributes.attachment_link.readable_text
Wir freuen uns über das große Interesse an der Jugendaktion „Mensch, Maschine!".
Leider ist es nicht mehr möglich Materialien zu bestellen. Sie können sich die einzelnen Elemente des Spiels als Druckdateien herunterladen.

Auf dieser Seite finden Sie auch alle anderen Materialien zum Download.

Analog lernen, wie KI funktioniert? Das geht: mit dem Spiel „Mensch, Maschine!", das auf einem klassischen Spielbrett zeigt, wie Maschinelles Lernen aussehen kann. Angelehnt an das traditionelle „Bauernschach" können bis zu fünf Spielerinnen und Spieler Runde für Runde erleben, wie der Lernfortschritt der Maschine immer größer wird - und so nachvollziehen, wie sich menschliches Denken von der Arbeitsweise der Maschine unterscheidet.
Ziel des Spiels ist, die Gegnerin bzw. den Gegner zu schlagen, indem alle Figuren aus dem Spiel geworfen, die gegnerische Spielseite erreicht oder die Gegnerin bzw. der Gegner blockiert wird. Je mehr Runden gespielt werden, desto größer wird der Lernfortschritt der Maschine: Denn sie lernt, indem sie erfolglose Spielzüge einfach aus ihrem „Gedächtnis" streicht - und sie nicht noch einmal anwendet.
„Künstliche Intelligenz ist eine wichtige Zukunftstechnologie, die wir gezielt fördern und weiterentwickeln. Mit der Jugendaktion im Wissenschaftsjahr 2019 haben wir ein innovatives Bildungsangebot geschaffen, um KI für Kinder und Jugendliche spielerisch erlebbar zu machen. Zum einen können junge Menschen herausfinden, wie Maschinelles Lernen funktioniert. Zum anderen erfahren sie, welche Auswirkungen Künstliche Intelligenz auf unsere Zukunft hat. So erleben sie hautnah, welchen Beitrag Wissenschaft und Forschung leisten, um den technologischen Fortschritt zum Wohle der Gesellschaft zu gestalten."„Künstliche Intelligenz verändert heute schon nahezu alle Bereiche unserer Gesellschaft und greift schon heute tief in unser alltägliches Leben ein. Je eher Kinder und Jugendliche Möglichkeiten und Mechanismen dieser wichtigen Zukunftstechnologie kennenlernen, desto besser sind sie für ihre berufliche und auch private Entwicklung gerüstet".
Prof. Dr. Birgitt Riegraf, Präsidentin der Universität Paderborn
Bundesbildungsministerin Anja Karliczek, MdB

Die pädagogischen Materialien, die ergänzend zum Spiel angeboten werden und neben praktischen Arbeitsblättern spannende Fakten über KI enthalten, werden unter wissenschaftlicher Federführung der Universität Paderborn entwickelt und vom BMBF gemeinsam mit der Deutsche Telekom Stiftung unterstützt und veröffentlicht. Das Lehr- und Arbeitsmaterial vertieft die spielerische Auseinandersetzung mit dem Thema KI. In sechs Modulen erhalten die Lehrkräfte und Betreuerinnen und Betreuer in außerschulischen Bildungseinrichtungen Einblicke darin, wie KI funktioniert, welche ethischen Diskussionen sich mit ihrem Einsatz ergeben und in welchen Bereichen sie jetzt und in Zukunft eingesetzt werden kann.

Für die Jugendlichen steht begleitend ein Aktionsheft bereit: Spannende, überraschende Fakten zu KI und kreative Übungen führen sie gleichzeitig unterhaltsam und informativ an das Thema heran. So können sie auf spielerischem Wege ihr Wissen über KI erweitern.

# data[].attributes.attachment_link.authors[].name
Bundesministerium für Bildung und Forschung

# data[].attributes.attachment_link.description
Wir freuen uns über das große Interesse an der Jugendaktion „Mensch, Maschine!". Leider ist es nicht mehr möglich Materialien zu bestellen. Sie können sich die einzelnen Elemente des Spiels als Druckdateien herunterladen. Auf dieser Seite finden Sie auch alle anderen Materialien zum Download. Analog lernen, wie KI funktioniert?

# data[].attributes.headline
Modul 1 aus "KILE" (Produkt der FG Gute Arbeit)

# data[].attributes.subject
Modul 1 aus "KILE" (Produkt der FG Gute Arbeit)

# data[].attributes.body
KILE (KI LERNEINHEIT)

KI-Simulation mit der Hochschule Berlin

Ziel ist: Jugendliche sollen nachvollziehen wie ki-basierte Bewerbungsprozesse funktionieren.

Erklärung was maschinelles Lernen ist und anschließend können die Jugendlichen das ausprobieren

Wie lernt eine KI?

# data[].attributes.headline
Diverse kleine Anregungen für praktische Erfahrungenrund um das Thema KI sowie KI und Diskriminierung

# data[].attributes.subject
Diverse kleine Anregungen für praktische Erfahrungenrund um das Thema KI sowie KI und Diskriminierung

# data[].attributes.body
Diverse kleine Anregungen für praktische Erfahrungen

rund um das Thema KI sowie KI und Diskriminierung

# data[].attributes.body
Aus der Dlf Audiothek | KI verstehen | Diskriminierung durch KI – Welche Vorurteile hat Künstliche Intelligenz? 
https://share.deutschlandradio.de/dlf-audiothek-audio-teilen.html?audio_id=dira_DLF_30a73e60