# data[].attributes.body
1. Lese einmal gründlich das vorliegende Material.

2. Nenne die Beteiligten Akteure (Mitwirkende) in dem Projekt. A)Wer hat das Hologramm erstellt?

B) Aus welchem Grund (oder Gründen) wurde es erstellt?

C) Wie wurde das Projekt finanziert?

D) Wann wurde es erstellt?

Trage deine Ergebnisse ins Padlet ein.

3. Beurteile, welche Verantwortung Entwickler von ZeitzeugInnenhologrammen bei der Darstellung historischer Ereignisse haben

# data[].attributes.body
Erarbeitet die Grenzen und potenziellen Gefahren von ZeitzeugInnen-Hologrammen, insbesondere in Hinblick auf eine missbräuchliche Nutzung durch Künstliche Intelligenz (KI)

Lest die beigefügten Artikel. (Diese können auch gruppen-intern aufgeteilt werden.)

Tauscht euch in der Gruppe aus und fasst die wichtigsten Punkte, die in Bezug auf Grenzen und Gefahren von Hologrammen genannt werden, in diesem Dokument zusammen. Nehmt dabei insbesondere Bezug auf potenzielle Gefahren durch KI. Zusätzlich dazu könnt ihr eurer Vorwissen zu digitalen Medien sowie Zeitzeugen mit einbringen.

Die Ergebnisse werden im Anschluss gemeinsam verglichen. Bereitet euch daher darauf vor, dass ihr eure Ergebnisse der restlichen Klasse erläutern könnt.

Haltet eure Ergebnisse im beigefügten Arbeitsblatt 'Grenzen und Gefahren von Hologrammen' fest.

# data[].attributes.body
Untersucht die Perspektivität des Abba Naor Hologramms, nutzt hierfür euer Vorwissen und die Hologramm Anwendung von Eva Umlauf. Haltet eure Ergebnisse im beigefügten Arbeitsblatt fest. Hilfestellungen stehen in dem beigefügten Dokument. Tipp: Analysiert die Antworten der Beiden Hologramme zu den selben Fragen.

# data[].attributes.body
Nutzt zur Bearbeitung der Aufgaben und Sicherung eurer Ergebnisse dieses Arbeitsblatt!

# data[].attributes.attachment_link.title
Amazingly Simple Graphic Design Software – Canva

# data[].attributes.attachment_link.description
Amazingly Simple Graphic Design Software – Canva

# data[].attributes.attachment_link.title
LediZ (Lernen mit digitalen Zeugnissen) - XRXplorer School

# data[].attributes.attachment_link.description
LediZ (Lernen mit digitalen Zeugnissen) ist ein interdisziplinäres Projekt an der LMU München, das sich mit digitalen Möglichkeiten der Auseinandersetzung mit den nationalsozialistischen Gewaltverbrechen auf Grundlage von Überlebenden-Zeugnissen befasst. Zum Projektverbund LediZ zählen mittlerweile zahlreiche Teilprojekte: In Kooperation mit dem Leibniz-Rechenzentrum und der britischen Forever Holdings wurden zwischen 2018 und 2019 interaktive 3D-Zeugnisse der jüdischen […]

# data[].attributes.attachment_link.provider_name
Bundesministerium für Bildung und Forschung - BMBF Qualitätsoffensive Lehrerbildung

# data[].attributes.attachment_link.title
Präsentation der ersten interaktiven 3-D-Visualisierungen von Holocaust-Überlebenden in Deutschland durch Forscherinnen und Forscher der Ludwig-Maximilians-Universität München und des Leibniz-Rechenzentrums - BMBF Qualitätsoffensive Lehrerbildung

# data[].attributes.attachment_link.description
Seit Februar 2018 arbeitet das Münchner Projekt “Lernen mit digitalen Zeugnissen” (LediZ) an der virtuellen Darstellung von Zeitzeuginnen und Zeitzeugen des Holocaust. Im Rahmen einer Eröffnungsveranstaltung in Garching bei München wurden die interaktiven 3-D-Zeugnisse nun erstmals der Öffentlichkeit vorgestellt.

# data[].attributes.attachment_link.title
Holocaust im Unterricht - Zeitzeugen als Hologramme: Wie digitale Lösungen Nähe schaffen - Das Deutsche Schulportal

# data[].attributes.attachment_link.description
Lernen mit digitalen Zeitzeugen: Wie ein Projekt der LMU Holocaust-Überlebende in die Klassenzimmer bringt.

# data[].attributes.headline
Künstliche Intelligenz: Die Flut gefälschter Fakten

# data[].attributes.subject
Künstliche Intelligenz: Die Flut gefälschter Fakten

# data[].attributes.attachment_link.readable_text
Vergrößern

Professor Stefan Feuerriegel ist Leiter des Institute of Artificial Intelligence (AI) in Management der LMU und beschäftigt sich in seiner Forschung mit den Herausforderungen der Digitalisierungswelle. In einem kürzlich im Fachmagazin Nature Human Behaviour erschienenen Kommentar weist er auf die Gefahren hin, die durch KI-generierte Desinformation entstehen, und zeigt Wege auf, wie man diesen begegnen kann.
KI-Tools können inzwischen quasi auf Knopfdruck überzeugende Texte, Bilder, Stimmen und sogar Videos erzeugen. Können wir in Zukunft unseren Augen, unseren Ohren und unserem gesunden Menschenverstand überhaupt noch trauen?
Stefan Feuerriegel: Wie überzeugend solche künstlich erzeugten Inhalte sind, sieht man am Beispiel des Bildes von Papst Franziskus, das im Frühling viral ging. Bei diesem Bild konnte man als Laie kaum noch erkennen, ob das echt war. Solche Fälschungen konnten begabte Grafikerinnen und Grafiker natürlich auch früher schon erstellen, aber in diesem Fall war es eine Person, die auf die Schnelle Dutzende Versionen dieses Fotos produziert hat. Das hat gezeigt, was mittlerweile ganz einfach und ohne besondere Fähigkeiten möglich ist. Aktuell kriegen die KIs einzelne Details noch nicht so ganz hin, der Hintergrund stimmt manchmal nicht ganz, Hände tendieren noch dazu, zu viele oder zu wenige Finger zu haben. Aber die Technologie wird ja auf Hochtouren weiterentwickelt und optimiert. In den nächsten Monaten wird das schon ganz anders aussehen.
Was mach KI-generierte Fake News besonders gefährlich?
Leider sind die Fakes mit fehlerfreien Texten und authentischen Bildern inzwischen nicht nur sehr überzeugend, sondern man kann die Fehlinformationen dank KI auch personalisieren und individuell auf die Religion, das Geschlecht oder die politische Gesinnung der einzelnen Konsumenten abstimmen und in jeder Zielgruppe Hass oder Wut säen. Man kann einen Bot bauen, der nicht mehr einfach nur eine Nachricht postet, sondern ganz persönlich auf Facebook oder Twitter Menschen anschreibt und sogar auf Antworten reagiert und Unterhaltungen führt. Das geht bis hin zu Fake-Anrufen, bei denen man gezielt eine Stimme generiert, die so klingt wie ein Familienmitglied.

„Bei kriegerischen Konflikten spielen die Macht von Bildern und die Bedeutung der sozialen Medien eine große Rolle und können eine immense politische Sprengkraft entwickeln. Auch in diesem Kontext sehen wir neben herkömmlichen Fakes bereits den Einsatz von KI-generiertem Material."

Wenn man mit Tippfehlersuchen und Fingerzählen bald nicht mehr weiterkommt: Was sind die Anhaltspunkte, anhand derer wir die Fakes erkennen können?
Allein anhand des Inhalts gibt es keine. Oder zumindest bald nicht mehr. Entweder man verlässt sich darauf, dass man bestimmten Quellen vertrauen kann, oder man muss unabhängig recherchieren. Wobei Faktenfälscher natürlich auch mit KI erstellte Webseiten und Quellen platzieren können. In sozialen Netzwerken sind die Bilder außerdem so klein, dass man solche Fehler gar nicht mehr erkennen kann. Es kursieren Bilder und Videos im Netz, bei denen aufgrund der geringen Auflösung nicht mehr eindeutig geprüft werden kann, ob sie echt sind oder gefälscht. Das macht es schwer, Fehlinformation von echten Inhalten zu unterscheiden. Bei kriegerischen Konflikten spielen die Macht von Bildern und die Bedeutung der sozialen Medien zum Beispiel eine große Rolle und können eine immense politische Sprengkraft entwickeln. Auch in diesem Kontext sehen wir neben herkömmlichen Fakes bereits den Einsatz von KI-generiertem Material.
Treten wir gerade in ein neues Zeitalter der Desinformation ein?
Viele meiner Kolleginnen und Kollegen sagen, wir leben eigentlich schon in Zeiten von Fake News. Das Problem wird sich verschärfen. Die entscheidende Frage ist, wer nutzt diese neuen Möglichkeiten? Ich habe weniger Sorge, dass irgendjemand privat mit ChatGPT oder DALL·E Fehlinformationen streut. Der- oder diejenige hat selten die Reichweite und auch meist kein Interesse daran, einen großen Einfluss damit auszuüben. Wir müssen stattdessen auf die Akteure schauen, die diese Tools für großangelegte Desinformationskampagnen nutzen, sie gezielt kalibrieren oder sogar eigene Tools entwickeln, die keine eingebauten Sicherheitsmechanismen besitzen.

Das Problem ist vielen leider noch nicht bewusst. Wir wissen zwar, dass KI jetzt schöne Texte und Bilder produzieren kann, aber haben noch nicht auf dem Schirm, wie diese Technologie missbraucht werden kann.

Stefan Feuerriegel

Weiterlesen

Wirklich gefährlich wird es, wenn die großen Player ins Spiel kommen, vielleicht sogar ein staatlicher Akteur mit einer gewissen politischen Agenda, in einem nicht demokratischen Staat. Im Rahmen des russischen Überfalls auf die Ukraine sehen wir, dass ein großer Aufwand für prorussische Propaganda betrieben wird. Wieso sollten die dafür Verantwortlichen nicht auch mit den neuen Tools arbeiten, wenn die es ermöglichen, schneller zu reagieren und authentisch wirkende Inhalte in viel größeren Dimensionen zu produzieren? Es wäre naiv zu glauben, dass diese Möglichkeit nicht genutzt wird.
Kommen die Fact Checker da überhaupt noch hinterher?
Wir wissen, dass menschliche Fact Checker bis zu 24 Stunden brauchen, um eine Nachricht zu prüfen. In dieser Zeit kann sie längst viral gegangen sein. Gerade bei aktuellen Krisen ist das rechtzeitige Eindämmen von Fehlinformationen eine immense Herausforderung. Facebook und Twitter nutzen inzwischen generative KI, um Fake News automatisiert zu identifizieren. Momentan wird auch der Einsatz sogenannter Wasserzeichen diskutiert, anhand derer Plattformen KI-generierte Inhalte erkennen und rausfiltern können. Dafür müssen die Plattformen mitspielen. Es bringt nichts, wenn Twitter diese Möglichkeit nutzt, die Fehlinformation dann aber auf WhatsApp viral geht. Es kann außerdem immer noch Akteure geben, die sich nicht daran halten und ihre eigene KI ohne Wasserzeichen programmieren.
Wie kann man der Flut an KI-Fehlinformationen begegnen?
Ich persönlich bin noch viel vorsichtiger geworden bei den Inhalten, die ich konsumiere. Wir müssen viel mehr aufpassen, was wir lesen, gerade in den sozialen Netzwerken. Das Problem ist vielen leider noch nicht bewusst. Wir wissen zwar, dass KI jetzt schöne Texte und Bilder produzieren kann, aber haben noch nicht auf dem Schirm, wie diese Technologie missbraucht werden kann.

Die Plattformen müssen in die Pflicht genommen werden, sie sitzen an der Quelle der Informationen. Wir Nutzerinnen und Nutzer sehen nur die Posts, aber die Plattformen sehen, ob im Hintergrund irgendein Computerprogramm diese Inhalte sendet oder ein echter Mensch dahintersteckt. Die Betreiber der Netzwerke können zudem ihre Mitglieder daran erinnern, Informationen kritisch zu hinterfragen und zu überprüfen. Plattformen könnten auch viel mehr tun, um Fake News herauszufiltern - einige bemühen sich, andere weniger.

Wir brauchen Trainings zu Medienkompetenz und Digital Literacy, die Desinformationen durch KI berücksichtigen und sich stetig mit dem technischen Fortschritt weiterentwickeln.

Stefan Feuerriegel

Vergrößern

Als zweites Standbein müssen wir jeden Einzelnen und die breite Öffentlichkeit informieren und vorbereiten. Wir brauchen Trainings zu Medienkompetenz und Digital Literacy, die Desinformationen durch KI berücksichtigen und sich stetig mit dem technischen Fortschritt weiterentwickeln.

Und dann stellt sich drittens die Frage, was die Politik tun sollte und wie viel Regulierung sinnvoll ist. Das ist ein heikles Thema, weil Reibungspunkte mit dem Recht auf Meinungsfreiheit entstehen können. KI steht auch im EU-Parlament mittlerweile ganz oben auf der Tagesordnung. Ich glaube, wir können relativ zügig gute Lösungen erarbeiten, was regulatorische Rahmenbedingungen angeht.
Sind wir gewappnet für das, was auf uns zukommt? Wo ist die Forschung gefragt?
Nein, wir sind nicht ausreichend vorbereitet. Wir haben es mit einer neuen Technologie zu tun, die wir besser verstehen müssen, und da braucht es viel mehr Grundlagenforschung. Zum Glück wird, nicht zuletzt an der LMU, stark in dem Bereich geforscht. Die Linguistik, die Soziologie, die Politikwissenschaften und viele weitere Disziplinen beschäftigen sich mit diesem komplexen Themenbereich. Die Verhaltenswissenschaften arbeiten daran, überhaupt erst einmal zu verstehen, wie Menschen auf solche künstlich generierten Informationen reagieren. DieRechtsfakultät beschäftigt sich mit den rechtlichen Hürden und balanciert das hohe Gut der Meinungsfreiheit mit lösungsorientierten, umsetzbaren Ansätzen aus. Die Informatik muss herausfinden, was technologisch überhaupt machbar ist. Wir haben hier ein interdisziplinäres Umfeld, wo viele Forschungsbereiche gemeinsam eine Forschungsagenda entwickeln.

Stefan Feuerriegel, Renée DiResta, Josh A. Goldstein, Srijan Kumar, Philipp Lorenz-Spreen, Michael Tomz & Nicolas Pröllochs: Research can help to tackle AI-generated disinformation. Nature Human Behaviour 2023

Russlands Krieg gegen die Ukraine: Die Bot-Offensive zur Invasion
Weiterlesen

# data[].attributes.attachment_link.title
Künstliche Intelligenz: Die Flut gefälschter Fakten

# data[].attributes.attachment_link.description
KI-Experte Stefan Feuerriegel wirft einen Blick auf die Gefahr automatisierter Fake-News-Kampagnen und zeigt Möglichkeiten auf, wie man ihr begegnen kann.

# data[].attributes.body
Schaue den Videoausschnitt aus dem digitalen Zeitzeugenbericht von Abba Naor

1.) Ersten Eindruck festhalten

Schreibe in einem Satz auf, welchen ersten Eindruck du vom Hologramm Abba Naor gewonnen hast.

2.) Analysiere die Inszenierung

Notiere, welche Wirkung Bild, Sprache, Erzählweise, Kameraperspektive und die anderen Gestaltungsmerkmale auf dich ausüben.

3.) Kritische Reflektion

Überlege, warum Abba Naor in genau dieser Weise dargestellt wurde? Welche Wirkung soll durch die Gestaltung inszeniert werden?