# data[].attributes.body
Thema: Safer Internet Day - Wer füttert den Löwen - Algorithmen im Alltag
Uhrzeit: 7.Feb. 2023 18:00 Amsterdam, Berlin, Rom, Stockholm, Wien

Zoom-Meeting beitreten
https://us02web.zoom.us/j/83562567541

Meeting-ID: 835 6256 7541
Kenncode: SID23

# data[].attributes.body
18:00-19:30

# data[].attributes.attachment_link.readable_text
Was ist ein Algorithmus?

Ein Algorithmus ist im Prinzip eine Handlungsanweisung, die in mathematischen Formeln ausgedrückt wird und bei der in klaren Schritten definiert ist, wie ein Problem rechnerisch gelöst werden kann. Wir verwenden den Begriff aber vor allem in Bezug auf Software, die sich mal mehr oder mal weniger komplex, aus einer Reihe von Algorithmen zusammensetzt und Daten verarbeitet, um eine bestimmte Dienstleistung oder Funktion zu erfüllen.

Können Sie Beispiele nennen, in denen wir es im Alltag mit Algorithmen zu tun haben?

Quasi ununterbrochen: Die meisten von uns tragen Hochleistungsrechner im Hosentaschenformat mit sich - Smartphones, die durch Software gesteuert werden. Nahezu alle neueren Geräte enthalten Mikroprozessoren, deren Funktionsweise auf Algorithmen basiert. Konkret reicht das von der Zeitsteuerung der Waschmaschine über alle mögliche Anwendungssoftware im Privaten und professionellen Bereich bis hin zur Steuerung der Infrastruktur des Internets und der Stromversorgung.

Sie haben 2016 die Nichtregierungsorganisation AlgorithmWatch mitbegründet. Warum?

Da der Digitalisierungsgrad innerhalb unserer Gesellschaft permanent steigt, war es uns wichtig, einem Feld mehr Aufmerksamkeit zu widmen: Immer mehr Entscheidungen werden durch Software vorbereitet oder gar umgesetzt. Das halten wir nicht per se für schlecht, doch denken wir dort, wo gesellschaftliche Fragen berührt werden, müssen diese Systeme Automatischer Entscheidungsfindung (automated decision making, ADM) demokratischer Aufsicht und möglicherweise Kontrolle unterworfen werden. Sprich, wenn etwa Behörden beginnen würden, Entscheidungen über bestimmte Sozialleistungen automatisch zu gewähren oder zu versagen, sollte es von außen nachvollziehbar sein, wie das funktioniert.

Welche Chancen bieten Algorithmen für uns?

Eine stärkere Automatisierung in einigen Bereichen der Verwaltung könnte für alle Beteiligten hilfreich sein. Im Gesundheitsbereich gibt es zum Beispiel vielversprechende Entwicklungen, in denen Methoden des maschinellen Lernens die Diagnosemöglichkeiten für bestimmte Krankheitsbilder verbessern. In manchen Prozessen, etwa bei Bewerbungen für einen Job, könnte Software für mehr Fairness sorgen, weil Effekte menschlicher Stimmungen und Vorurteile minimiert werden.

Welche Gefahren sind mit Algorithmen für uns verbunden und wie können wir diesen begegnen?

Wenn Entscheidungen an Software delegiert werden, ist deren Qualität von wesentlicher Bedeutung. Wenn etwa Anwendungen anhand von Datensätzen trainiert werden, kann es hier schon zu Verzerrungen kommen und damit zu Diskriminierung. In den USA wird beispielsweise eine Software in Strafverfahren eingesetzt, die bei Strafgefangenen bewerten soll, ob sie nach einer Entlassung auf Bewährung wieder straffällig würden. Eine Untersuchung von Journalisten zeigte, dass die Software mit Statistik-Datensätzen gefüttert worden war, die rassistische Stereotype reproduzierte und Angehörigen bestimmter Bevölkerungsgruppen pauschal eine höhere Rückfallquote unterstellte. Um solchen Diskriminierungspotentialen durch automatisierte Entscheidungen begegnen zu können, muss es in teilhaberelevanten Sektoren möglich sein, Nachvollziehbarkeit über die Funktionsweise der Software herzustellen.

Brauchen wir Regeln für den Einsatz von Algorithmen und wie könnten diese aussehen?

Es gibt bereits Regulierung in manchen Industriesektoren, etwa im automatischen Handel mit Wertpapieren. Zudem sind auch in vielen Branchen und Gesellschaftsbereichen Aufsichtsbehörden vorhanden; möglicherweise müssen deren Aufgabengebiete nur angepasst oder erweitert werden und gar keine neuen Regeln her. Es ist schwer vorstellbar, dass ein Algorithmen-TÜV, wie ihn manche fordern, den vielfältigen Branchen und Feldern, in denen ADM-Systeme Einsatz finden (werden), gerecht werden kann.

Prinzipiell denken wir, dass automatisierte Entscheidungssysteme nicht als rein technologisches Thema, sondern unter sozio-technologischen Aspekten verstanden werden sollten. Entsprechend sollte im Bereich der Technologiegestaltung eine Risikofolgeabschätzung vorausgehen. Das würde beispielsweise bedeuten, dass bei den "Navis" im Auto und auf dem Smartphone andere Kriterien jenseits der schnellsten und effektivsten Verbindung berücksichtigt werden, z. B. ob Wohngebiete berührt werden oder die Strecken entlang von Naturschutzgebieten führt.

In welchen Bereichen möchten Sie Algorithmen gar nicht sehen und warum?

Im Bereich der Kriegsführung, aber auch in polizeilichen Aufgabengebieten, darf die Entscheidung über den Einsatz von Gewalt nicht Maschinen überlassen werden. Überwachungsmaßnahmen, bei denen etwa durch Gesichtserkennung vermeintliche Straftäter identifiziert werden sollen, sind aus bürgerrechtlicher Sicht zu Recht äußerst umstritten, da sie hohe Fehlerquoten aufweisen. Kurzum ließe sich sagen: Automatisierung, die unmittelbar in Freiheitsrechte und die körperliche Unversehrtheit eingreift, sollte mit großer Skepsis begegnet werden.

# data[].attributes.attachment_link.title
Wie Algorithmen unser Leben beeinflussen

# data[].attributes.attachment_link.description
Was ist ein Algorithmus? Ein Algorithmus ist im Prinzip eine Handlungsanweisung, die in mathematischen Formeln ausgedrückt wird und bei der in klaren Schritten definiert ist, wie ein Problem rechnerisch gelöst werden kann. Wir verwenden den Begriff aber vor allem in Bezug auf Software, die sich mal mehr oder mal weniger komplex, aus einer Reihe von Algorithmen zusammensetzt und Daten verarbeitet, um eine bestimmte Dienstleistung oder Funktion zu erfüllen.

# data[].attributes.attachment_link.readable_text
Algorithmen : Die digitale Manipulation

Tagtäglich beeinflussen uns Algorithmen - sei es, weil man sich Videos auf Youtube ansieht oder sich mit anderen Nutzern in sozialen Medien austauscht. Doch wenn man die psychologischen Tricks und ihre Funktionsweise kennt, kann man ihnen entgehen.

Die Corona-Pandemie hat vieles verändert, unter anderem hat sie das Misstrauen der Bürger gegenüber dem Staat geschürt. Nicht ganz unschuldig an diesem Prozess sind die sozialen Medien. Stellen Sie sich dazu eine fiktive Person namens Andreas vor, der besorgt ist, an Covid-19 zu erkranken. Da Andreas nicht alle Artikel zu dem Thema selbst lesen kann, ist er auf Tipps von Freunden angewiesen. Anfangs hält er nicht viel davon, wenn Leute behaupten, die Pandemie-Ängste seien übertrieben. Doch plötzlich verhängt die Regierung einen harten Lockdown, wodurch das Hotel, in dem er arbeitet, schließen muss.

Nun da Andreas' Job in Gefahr ist, fragt er sich, wie ernst die Bedrohung durch das neue Virus wirklich ist. Ein Kollege teilt einen Beitrag über "Corona-Panik", angeblich geschaffen von Pharmaunternehmen in Absprache mit korrupten Politikern. Nach einer kurzen Websuche findet Andreas schnell Artikel, die behaupten, Covid-19 sei nicht schlimmer als eine Grippe. Daraufhin wird er Teil einer Facebook-Gruppe, deren Mitglieder ebenfalls befürchten, durch die Pandemie arbeitslos zu werden. Mehrere seiner neuen Freunde planen, an einer Demonstration teilzunehmen, die ein Ende der Einschränkungen fordert, und Andreas schließt sich ihnen an. Er ist inzwischen überzeugt, Corona sei ein Schwindel.

Dieser Artikel ist enthalten in Spektrum Kompakt, Algorithmen im Alltag

Das Beispiel veranschaulicht, wie verschiedene kognitive Verzerrungen das Urteilsvermögen beeinflussen. So bevorzugen wir Informationen von Menschen, denen wir vertrauen; wir picken uns jene Fakten heraus, die gut zu dem passen, was wir bereits zu wissen meinen; wir messen Risiken, die uns persönlich betreffen, einen großen Stellenwert bei und sprechen vermehrt darüber. Dieses Verhalten stammt aus unserer evolutionären Vergangenheit, es hat sich über Zehntausende von Jahren als nützlich erwiesen: So hielt man sich etwa von einem bewachsenen Seeufer fern, weil jemand gesagt hatte, es gäbe dort Schlangen.

Doch die kognitiven Verzerrungen haben auch ihre Schattenseiten. Inzwischen manipulieren moderne Technologien die subjektive Wahrnehmung der Menschen raffiniert. Im anfangs angeführten Beispiel lenken Suchmaschinen Andreas auf Webseiten mit verschwörungstheoretischem Inhalt, und soziale Medien vernetzen ihn mit Gleichgesinnten, die seine Ängste nähren. Zudem können böswillige Akteure durch automatisierte Social-Media-Konten, die sich als Menschen ausgeben (so genannte Bots), die kognitiven Schwachstellen gezielt für ihre Zwecke ausnutzen.

1. Durch die Digitalisierung werden unsere kognitiven Verzerrungen vermehrt schädlich ausgenutzt.

2. So neigt man dazu, sich der Meinung Gleichgesinnter anzuschließen. Indem Suchmaschinen und soziale Medien das ausnutzen, entstehen Echokammern.

3. Die Gefahr lauert vor allem in Bots, die gezielt Fehlinformationen verbreiten, um ihre Ziele zu verfolgen - etwa eine bestimmte Gruppe vom Wählen abzuhalten.

Die fortschreitende Digitalisierung verstärkt das Problem. Blogs, Videos, Tweets und andere Beiträge lassen sich extrem schnell und einfach produzieren und über die ganze Welt verbreiten. Wegen der dabei entstehenden Informationsflut können wir nicht mehr objektiv entscheiden, welchen Inhalten wir unsere Aufmerksamkeit schenken. Daher ist es inzwischen wichtiger denn je, die kognitiven Verzerrungen sowie die Art und Weise, wie Algorithmen sie nutzen, zu verstehen.

Unsere Forschungsgruppen an der University of Warwick in England und am Observatory on Social Media (OSoMe, ausgesprochen "awesome") der Indiana University Bloomington in den USA führen deshalb Experimente und Simulationen durch, um das Verhalten von Nutzern sozialer Medien zu verstehen. Dabei verbinden wir die Erkenntnisse psychologischer Studien in Warwick mit Computermodellen aus Indiana. Zudem haben wir verschiedene Hilfsmittel entwickelt, um der Manipulation in sozialen Medien entgegenzuwirken. Einige Journalisten, zivilgesellschaftliche Organisationen und Einzelpersonen nutzen unsere Programme bereits und haben damit Akteure aufgespürt, die bewusst Fehlinformationen verbreiten.

Wettbewerb um die Aufmerksamkeit von Nutzern

Durch die Informationsflut im Internet ist ein regelrechter Wettbewerb um die Aufmerksamkeit der Menschen entstanden. Eine der ersten Folgen davon ist der Verlust qualitativ hochwertiger Informationen. Das OSoMe-Team verdeutlichte das mit mehreren Computersimulationen. Es stellte dabei die Nutzer sozialer Medien, so genannte Agenten, als Knotenpunkte in einem Netzwerk von Online-Bekanntschaften dar. In jedem Zeitschritt kann ein Nutzer entweder einen eigenen Beitrag erstellen oder einen aus seinem Nachrichtenfeed teilen. Um die begrenzte Aufnahmefähigkeit zu berücksichtigen, sehen die Agenten nur eine bestimmte Anzahl von Artikeln im oberen Bereich ihres Feeds.

Die Datenwissenschaftlerin Lilian Weng, inzwischen bei OpenAI, ließ die Simulation viele Zeitschritte durchlaufen und schränkte gleichzeitig die Aufmerksamkeit der Agenten zunehmend ein. Wie sie feststellte, entstand dabei eine ähnliche Verteilung von Beiträgen wie in den sozialen Medien: Die Wahrscheinlichkeit dafür, dass ein Inhalt x-mal geteilt wird, entspricht etwa 1⁄ x hoch einer Potenz a. Das führt zu einem "The-Winner-Takes-It-All"-Muster. Einige wenige Beiträge kennt so gut wie jeder, während die meisten anderen kaum wahrgenommen werden. Das Phänomen hat dabei nichts mit der Qualität der Inhalte zu tun, in der simulierten Welt spielte diese Eigenschaft zum Beispiel keine Rolle. Ob sich etwas verbreitete, ergab sich allein durch das Verhalten der Agenten mit begrenzter Aufmerksamkeit.

Um zu untersuchen, wie sich die Situation verändert, wenn die Agenten zusätzlich die Qualität von Beiträgen berücksichtigen, entwickelte die Informatikerin Xiaoyan Qiu eine weitere Simulation. Darin teilten die simulierten Accounts bevorzugt qualitativ hochwertige Beiträge - doch das verbesserte die Gesamtqualität der am häufigsten verbreiteten Inhalte kaum. Selbst wenn wir gut recherchierte Artikel lesen und teilen möchten, führt unsere begrenzte Aufnahmefähigkeit unweigerlich dazu, dass wir teilweise oder völlig unwahre Informationen weitergeben.

Informationsüberfluss | Unser persönlicher Social-Media-Newsfeed ist häufig so überlaufen, dass wir uns nur die ersten Beiträge ansehen und entscheiden, ob wir sie weiterverbreiten. Forscher vom Observatory on Social Media (OSoMe) an der Indiana University Bloomington haben dieses begrenzte Aufnahmevermögen simuliert. Jeder Knoten in ihrem Netzwerk entspricht einem Nutzer, der durch Linien mit anderen Konten verbunden ist, welche die geteilten Beiträge sehen. Untersuchungen haben ergeben, dass mit steigender Anzahl von Inhalten (nach rechts) die Qualität nachlässt (Kreise werden kleiner). Der Informationsüberfluss allein erklärt also schon, wie Fake News viral gehen.

Neben der eingeschränkten Aufmerksamkeit verstärken kognitive Verzerrungen das Problem erheblich. Das verdeutlichen mehrere Studien, die der Psychologe Frederic Bartlett 1932 durchführte. Dabei erzählte er Versuchspersonen die Legende von einem jungen Indianer, der Kriegsschreie hört, sie verfolgt und so in eine Schlacht zieht, die zu seinem Tod führt. Anschließend forderte Bartlett seine Probanden in Großbritannien auf, sich zu verschiedenen Zeiträumen - von Minuten bis zu Jahren später - an die verwirrende Erzählung zu erinnern. Die Testpersonen neigten mit der Zeit dazu, die kulturell ungewohnten Teile der Geschichte so zu verzerren, dass sie entweder verloren gingen oder sich in vertrautere Dinge verwandelten. Das tut unser Verstand ständig: Er passt neue Informationen an, damit sie mit dem, was wir bereits wissen, übereinstimmen. Wegen dieses so genannten Bestätigungsfehlers erinnern wir uns oft nur an jene Fakten, die unsere vorherrschende Meinung stützen.

Das ist äußerst schwer zu korrigieren. Wie Experimente immer wieder belegen, suchen Menschen selbst in ausgewogenen Berichterstattungen Beweise für das, was sie erwarten. Bei emotional aufgeladenen Themen wie dem Klimawandel können dieselben Informationen bei Personen unterschiedlicher Überzeugungen dazu führen, dass sich ihre jeweiligen Positionen verfestigen.

Wie Experimente immer wieder belegen, suchen Menschen selbst in ausgewogenen Berichterstattungen Beweise für das, was sie erwarten

Deshalb liefern Suchmaschinen und Social-Media-Plattformen personalisierte Empfehlungen auf Grundlage der riesigen Datenmengen, die sie über die Nutzer haben. Sie geben Beiträgen den Vorrang, die am besten zu unserer Meinung passen, und schirmen uns vor Inhalten ab, die diesem widersprechen.

Nir Grinberg und seine Mitarbeiter an der Northeastern University in Boston haben kürzlich eine Studie vorgelegt, der zufolge Konservative in den USA empfänglicher für Fehlinformationen sind. Als wir jedoch den Konsum von Beiträgen niedriger Qualität auf Twitter untersuchten, zeigten sich beide Seiten des politischen Spektrums anfällig, wenn auch nicht völlig symmetrisch: Republikaner halten Bots, die konservative Ideen fördern, eher für Menschen, während Demokraten konservative menschliche Nutzer häufig mit Bots verwechseln.

Menschen kopieren das Verhalten anderer, wie Vögel in einem Schwarm

Als Beispiel für eine weitere kognitive Verzerrung dient eine Situation, die sich im August 2019 in New York City ereignete. Damals hörten einige Menschen einen Knall, der wie ein Schuss klang, und liefen panisch davon. Von Angst erfasst, folgten ihnen schnell andere Personen, manche riefen sogar: "Achtung, Schütze!" Tatsächlich stammten die Geräusche von einem Motorrad mit einer Fehlzündung. Dennoch ist es in einer solchen Situation besser, erst zu rennen und später Fragen zu stellen. Wenn es an klaren Signalen fehlt, kopieren wir das Verhalten anderer, ähnlich wie es bei Vögeln im Schwarm passiert.

Derartige soziale Anpassungen sind allgegenwärtig. Das zeigte der Soziologe Matthew Salganik, damals an der Columbia University, zusammen mit seinen Kollegen 2006 in einer faszinierenden Studie, an der 14 000 Freiwillige teilnahmen. Wie sich dabei herausstellte, hören sich verschiedene Personen ähnliche Musikrichtungen an, wenn sie sehen können, was andere hören. Als Salganik mehrere Gruppen bildete, in denen man die Vorlieben der Menschen innerhalb eines solchen Kreises sehen konnte (aber nicht die anderer Gruppen), unterschied sich die musikalische Auswahl zwischen den einzelnen Gruppen, doch weniger innerhalb. Wenn dagegen niemand über die Wahlmöglichkeiten anderer Bescheid wusste, blieben die Präferenzen divers. Somit können soziale Gruppen einen Anpassungsdruck erzeugen, der sogar individuelle Vorlieben überwindet.

In sozialen Medien lässt sich das besonders gut beobachten. Nutzer verwechseln häufig Popularität mit Qualität und kopieren das Verhalten anderer. Die Twitter-Experimente von Bjarke Mønsted und seinen Kollegen von der Technischen Universität Dänemark und der University of Southern California deuten darauf hin, dass sich Informationen wie eine Krankheit verbreiten: Wird man wiederholt mit einer Idee konfrontiert, die typischerweise aus unterschiedlichen Quellen stammt, wächst die Wahrscheinlichkeit, sie zu übernehmen und weiterzugeben.

Dadurch schenkt man weit verbreiteten Beiträgen zwangsläufig Aufmerksamkeit - wenn alle anderen darüber reden, muss es wichtig sein. Soziale Medien wie Facebook, Twitter, Youtube und Instagram empfehlen deshalb nicht nur Artikel, die mit unseren Ansichten übereinstimmen, sondern platzieren auch beliebte Inhalte am oberen Bildschirmrand. Damit zeigen sie uns, wie viele Menschen etwas gemocht und geteilt haben.

Die meisten Programmierer, die Algorithmen für das Ranking von Beiträgen entwickeln, setzen eine kollektive Weisheit voraus: Die Menge an Nutzern werde wohl schnell qualitativ hochwertige Elemente identifizieren. Daher verwenden sie Popularität als Qualitätsmerkmal. Als wir 2018 zahlreiche anonyme Daten untersuchten, erkannten wir, dass alle Plattformen - soziale Medien, Suchmaschinen und Nachrichtenseiten - bevorzugt Informationen aus einer eng abgesteckten Untergruppe beliebter Quellen liefern.

Um die Auswahl besser zu verstehen, habe ich mit meinen Kollegen modelliert, wie die verschiedenen Internetanbieter Qualität und Popularität in ihren Rankings kombinieren. Wir simulierten dazu das Verhalten von Agenten mit begrenzter Aufmerksamkeit, also solchen, die nur eine bestimmte Anzahl von Artikeln am Anfang ihrer Nachrichtenfeeds sehen. Hier sind sie geneigt, auf Beiträge zu klicken, welche die Plattform weit oben zeigt. In unserem Modell haben wir jedem Artikel nach dem Zufallsprinzip eine intrinsische Qualität zugewiesen. Wie die Simulationen zeigen, führt allein ein von den Klickzahlen abhängiger Algorithmus zu einer niedrigeren Qualität der Inhalte - sogar ohne menschliche Verzerrung. Selbst wenn wir die besten Informationen teilen möchten, führen uns die Algorithmen in die Irre.

Obwohl die meisten Menschen davon überzeugt sind, kein Mitläufer zu sein, schließen sie sich dennoch häufig Gleichgesinnten an

Eine weitere kognitive Verzerrung ist der bereits genannte Bestätigungsfehler. Obwohl die meisten Menschen davon überzeugt sind, kein Mitläufer zu sein, schließen sie sich dennoch häufig Gleichgesinnten an. Soziale Medien verstärken das Phänomen, indem sie es Nutzern ermöglichen, anderen zu folgen, Gruppen zu bilden und so weiter. Dadurch teilen sie sich in große, dichte und zunehmend falsch informierte Gemeinschaften auf, die man gemeinhin als Echokammern bezeichnet.

Bei OSoMe haben wir deren Entstehung durch eine Computersimulation untersucht. Darin hat jeder Agent eine politische Meinung, die eine Zahl zwischen minus eins (liberal) und plus eins (konservativ) repräsentiert und sich in seinen Beiträgen niederschlägt. Die Nachrichtenfeeds beeinflussen die Agenten, die zudem Accounts mit abweichenden Ansichten gezielt ausblenden können. Wir starteten mit zufälligen Netzwerkkonfigurationen, in denen die Agenten eine politische Ausrichtung und Verbindungen zu anderen erhalten. In einem solchen Modell bildeten sich extrem schnell polarisierte Gruppen aus.

Unsere Forschungsgruppe als Opfer von Fake News

Tatsächlich sind die Echokammern auf Twitter so stark ausgeprägt, dass man die politischen Neigungen einzelner Nutzer sehr genau vorhersagen kann: Sie vertreten meist die gleiche Ansicht wie die meisten, mit denen sie verbunden sind. Dadurch verbreitet sich Information effizient innerhalb einer Gemeinschaft, gleichzeitig wird diese von anderen Gruppen isoliert. Unter anderem können sich auf diese Art Fake News verbreiten.

Auch unsere Forschungsgruppe blieb davon nicht verschont: Eine Desinformationskampagne behauptete 2014, wir seien Teil eines politisch motivierten Bestrebens, die freie Meinungsäußerung zu unterdrücken. Das Gerücht verbreitete sich vor allem in konservativen Echokammern, während Enthüllungsartikel, die unser Forschungsvorhaben richtigstellten, hauptsächlich in liberalen Kreisen auftauchten. Bedauerlicherweise kursieren falsche Informationen häufig in anderen Gemeinschaften als ihre Berichtigungen.

Ein weiterer Aspekt unserer kognitiven Verzerrung führt dazu, dass sich negative Inhalte schneller verbreiten. Unser Kollege Robert Jagiello aus Warwick hat untersucht, wie Informationen in einer so genannten sozialen Diffusionskette von Mensch zu Mensch wandern. Dabei las der erste seiner Probanden mehrere Artikel über ein polarisierendes Thema wie Atomkraft oder Lebensmittelzusätze. Die Texte beleuchteten sowohl positive (etwa weniger Kohlenstoffbelastung oder länger haltbare Lebensmittel) als auch negative Aspekte (wie das Risiko einer Kernschmelze oder mögliche Gesundheitsschäden).

Verwundbarkeit durch Fake News

Anschließend erzählte die erste Person der nächsten von den Artikeln, die daraufhin dem dritten Probanden berichtete und so weiter. Entlang der Kette nahm der Anteil der negativen Fakten immer weiter zu - ein Effekt, der als soziale Risikoverstärkung bekannt ist. Darüber hinaus ergab die Arbeit von Danielle J. Navarro und ihren Kollegen an der australischen University of New South Wales, dass die weitergegebenen Informationen in sozialen Diffusionsketten am stärksten von Personen mit extremen Verzerrungen abhängen.

Schlimmer noch: Durch soziale Diffusion werden negative Einstellungen widerstandsfähiger. Als Jagiello nach dem Versuch die Teilnehmer mit den ursprünglichen Artikeln konfrontierte, reduzierte das kaum ihre negative Sichtweise. 2015 haben die OSoMe-Forscher Emilio Ferrara und Zeyao Yang empirische Daten über eine solche "emotionale Ansteckung" auf Twitter analysiert. Dabei neigten Menschen, die negativen Inhalten übermäßig ausgesetzt sind, ebenfalls dazu, negative Beiträge zu teilen. Wenn Personen hingegen vermehrt Positives lasen, veröffentlichten sie eher positive Posts. Da sich Negatives allerdings schneller verbreitet, lassen sich die Emotionen von Nutzern leicht manipulieren: indem man etwa Texte weitergibt, die Reaktionen wie Angst auslösen. So haben Ferrara, der jetzt an der University of Southern California forscht, und seine Kollegen von der Bruno-Kessler-Stiftung in Italien gezeigt, dass Bots während des spanischen Referendums über die katalanische Unabhängigkeit 2017 gewalttätige und aufrührerische Beiträge verbreiteten, wodurch sich die sozialen Konflikte verschärften.

Automatisierte Bots nutzen kognitive Schlupflöcher aus und beeinträchtigen dadurch die Qualität von Inhalten. Sie lassen sich leicht entwickeln: Social-Media-Plattformen haben Schnittstellen, die es einzelnen Akteuren ermöglichen, Tausende von Bots einzurichten. Um solche Accounts zu entlarven, haben wir maschinelle Lernalgorithmen entwickelt. Eines der Programme, das öffentlich zugängliche "Botometer", extrahiert 1200 Merkmale aus Twitter-Profilen, um deren Verbindungen, soziale Netzwerkstruktur, zeitliche Aktivitätsmuster, Sprache und andere Eigenschaften zu untersuchen. Es vergleicht diese mit denen von Zehntausenden bereits identifizierter Bots. Dadurch weiß man für jeden Account, mit welcher Wahrscheinlichkeit er automatisiert ist.

Botometer

Das Botometer ist ein Algorithmus des maschinellen Lernens, der einschätzt, wie wahrscheinlich ein Social-Media-Account automatisiert ist. Er liefert dafür eine Zahl zwischen null (Mensch) und eins (Bot). Wie verlässlich das Ergebnis ist, hängt dabei - wie bei allen selbstlernenden Programmen - stark von den Datensätzen ab: Weichen die Beispieldaten, mit denen man die KI trainiert hat, zu sehr von den Accounts ab, die man analysieren möchte, kann die Einschätzung danebenliegen. Zudem obliegt es Wissenschaftlern, die erhaltenen Resultate zu interpretieren. Unter anderem müssen sie eine begründete Grenze festlegen, etwa 0,75, ab der sie einen Account als Bot identifizieren.

Wir schätzen, dass 2017 bis zu 15 Prozent der aktiven Twitter-Profile aus Bots bestanden - und dass sie eine Schlüsselrolle bei der Verbreitung von Fehlinformationen während der US-Wahl 2016 spielten. Binnen Sekunden können tausende Programme falsche Nachrichten veröffentlichen, etwa jene, Hillary Clinton sei in okkulte Rituale verwickelt. Angesichts der scheinbaren Popularität teilen dann auch menschliche Nutzer solche Inhalte.

Darüber hinaus können uns Bots beeinflussen, wenn sie vorgeben, Menschen aus unserer Gruppe zu sein. Das Programm muss dafür lediglich Personen aus der gleichen Gemeinschaft folgen, ähnliche Inhalte liken und teilen. Die OSoMe-Forscherin Xiaodan Lou hat dieses Verhalten in einem Modell simuliert. Darin sind einige Agenten Bots, die sich in ein soziales Netzwerk mischen und zahlreiche minderwertige Beiträge austauschen. In den Simulationen können die Bots die Informationsqualität des gesamten Systems wirksam mindern, selbst wenn sie bloß einen kleinen Teil des Netzwerks infiltrieren. Sie beschleunigen darüber hinaus die Bildung von Echokammern, indem sie andere unwahre Berichte vorschlagen, denen man folgen sollte.

Automatisierte Nutzerkonten enttarnen

Einige Manipulatoren treiben mit Falschnachrichten und Bots die politische Polarisierung oder die Monetarisierung durch Werbung weiter voran. Bei OSoMe haben wir kürzlich ein Netzwerk automatisierter Konten von Twitter aufgedeckt, die alle von derselben Einheit koordiniert wurden. Manche gaben vor, Trump-Unterstützer der Kampagne "Make America Great Again" zu sein, während sich die anderen als Trump-Gegner ausgaben - doch alle baten um politische Spenden.

Wie können wir uns besser vor derartiger Manipulation schützen? Zunächst müssen wir unsere kognitiven Verzerrungen kennen und verstehen, wie Algorithmen und Bots sie ausnutzen. OSoMe hat mehrere Werkzeuge entwickelt, um menschliche Schwachstellen sowie die sozialer Medien zu verdeutlichen. Eines davon ist eine App namens "Fakey", mit der Benutzer lernen, Fehlinformationen zu erkennen. Die App simuliert einen Social-Media-Newsfeed, der aktuelle Artikel aus Quellen mit geringer beziehungsweise hoher Glaubwürdigkeit zeigt. Die Nutzer müssen entscheiden, welche Inhalte sie teilen oder auf ihren Wahrheitsgehalt überprüfen würden. Als wir die Daten aus "Fakey" analysierten, fiel uns wie erwartet die soziale Herdenbildung auf: Nutzer vertrauen Informationen aus fragwürdigen Quellen eher, wenn sie glauben, viele andere Personen hätten sie geteilt.

Ein weiteres öffentlich zugängliches Programm, "Hoaxy", visualisiert, wie sich Beiträge über Twitter verbreiten. Die Darstellung besteht aus einem Netzwerk, in dem die Knoten echten Twitter-Accounts entsprechen, während die Verbindungen für das Teilen von Inhalten zwischen den Nutzern stehen. Jeder Punkt hat dabei eine Farbe, die seine Punktzahl aus dem "Botometer" widerspiegelt. Damit lässt sich anschaulich erkennen, wie Bots die Ausbreitung von Fake News verstärken (siehe "Verschmutzung durch Bots").

Verschmutzung durch Bots | Automatisierte Accounts, die menschliche Nutzer nachahmen (so genannte Bots), mindern die Qualität der geteilten Informationen. In einer Computersimulation haben OSoMe-Forscher Bots in ein soziales Netzwerk eingeführt. Sie modellierten sie als Agenten, die Beiträge minderer Qualität erstellen und nur Inhalte anderer Bots teilen. Wie die Wissenschaftler herausfanden, ist die Qualität der Posts hoch, wenn nur ein Prozent aller Nutzer Bots folgen (links). Sobald der Anteil aber diese Grenze übersteigt, verbreiten sich Informationen mit niedriger Qualität (rechts). In echten sozialen Netzwerken können schon wenige Likes für Bots dazu führen, dass Fake News viral gehen.

Mit unseren Programmen haben investigative Journalisten Fehlinformationskampagnen aufgedeckt, etwa die "Pizzagate-Verschwörung", wonach in einer Pizzeria in Washington, D. C., ein Kinderpornoring agiere, zu dem auch Hillary Clinton gehöre. Außerdem konnten sie botgetriebene Bemühungen entlarven, die bestimmte Personen während der Zwischenwahlen 2018 vom Wählen abhalten sollten. Weil Algorithmen des maschinellen Lernens menschliches Verhalten immer besser nachahmen können, ist es schwer, derartige Manipulationen zu erkennen.

Abgesehen von der Verbreitung falscher Nachrichten können Fehlinformationskampagnen die Aufmerksamkeit von anderen, teilweise gewichtigen Problemen abziehen. Um dagegen vorzugehen, haben wir kürzlich die Software "BotSlayer" entwickelt. Sie extrahiert Hashtags, Links, Konten und weitere Inhalte, die in Tweets über Themen vorkommen, die einen Benutzer interessieren. Damit kann "BotSlayer" Accounts kennzeichnen, die im Trend liegen und wahrscheinlich durch Bots oder koordinierte Konten verstärkt werden. Ziel ist es, Reportern, zivilgesellschaftlichen Organisationen und politischen Kandidaten zu ermöglichen, gefakte Einflusskampagnen in Echtzeit zu erkennen und zu verfolgen.

Diese Instrumente sind zwar nützliche Hilfsmittel, dennoch sind weitere Schritte nötig, um die Verbreitung von Fake News einzudämmen. Ein wichtiger Faktor ist Bildung, auch wenn man in der Schule nicht alle wissenschaftlichen Inhalte angemessen abdecken kann. Einige Regierungen und Social-Media-Plattformen versuchen, gegen Manipulation und gefälschte Nachrichten vorzugehen. Aber wer entscheidet, was manipulativ ist und was nicht? Das Risiko, dass solche Maßnahmen die freie Meinungsäußerung absichtlich oder versehentlich unterdrücken könnten, ist beträchtlich. Manche Anbieter nutzen immerhin bereits Systeme wie Captchas und telefonische Bestätigung, um Accounts zu verifizieren. Twitter hat zudem dem automatisierten Posting Grenzen gesetzt.

Eine weitere Möglichkeit könnte darin bestehen, Hürden gegen das Erstellen und Austauschen qualitativ minderwertiger Inhalte aufzubauen. Zum Beispiel könnte man einen Preis für die Weitergabe oder den Erhalt von Informationen festsetzen. Die Bezahlung muss dabei nicht zwingend monetär sein, sondern könnte in Form von Zeit oder geistiger Arbeit wie Puzzles erfolgen. Denn freie Kommunikation hat ihren Preis - und dadurch, dass wir die Kosten gesenkt haben, hat sich ihr Wert verringert.

Diesen Artikel empfehlen:

Filippo Menczer und Thomas Hills

Filippo Menczer ist Informatiker und Leiter des Observatory on Social Media (OSoMe) an der Indiana University Bloomington. Thomas Hills ist Professor für Psychologie und Leiter des Master-Studiengangs Verhaltens- und Datenwissenschaften an der University of Warwick in England.

Der digitale Mensch

Wie wollen wir leben im Zeitalter der Digitalisierung?

Informationstechnologie

Ohne Informationstechnologie funktioniert kaum etwas in der modernen Welt. Das sind die neuesten Entwicklungen.

Soziale Medien

Soziale Medien sind im digitalen Zeitalter kaum noch wegzudenken. Doch was stellen sie mit uns an?

# data[].attributes.attachment_link.description
Tagtäglich beeinflussen uns Algorithmen - sei es, weil man sich Videos auf Youtube ansieht oder sich mit anderen Nutzern in sozialen Medien austauscht. Doch wenn man die psychologischen Tricks und ihre Funktionsweise kennt, kann man ihnen entgehen. Die Corona-Pandemie hat vieles verändert, unter anderem hat sie das Misstrauen der Bürger gegenüber dem Staat geschürt.

# data[].attributes.attachment_link.readable_text
© © Corbis. All Rights Reserved.

Es ist mittels Algorithmus extrem simpel, Wähler zu beeinflussen und Menschen, die auf Partnersuche sind.

Menschen neigen dazu, das zu tun, was der Algorithmus ihnen sagt. Das gilt sowohl, wenn der Algorithmus vorschlägt, für einen bestimmten Kandidaten bei einer Wahl abzustimmen, als auch bei Vorschlägen von Dating-Apps, welcher Partner am beste zu einem passt. So könnte man die Studienergebnisse zusammenfassen, die zwei Forscher*innen veröffentlicht haben.

Ujué Agudo und Helena Matut, zwei Wissenssschaftler*innen der Universität De Deusto in Spanien, haben die Studie auch v or kurzem publiziert. Sie zeigt, wie einfach es ist, Menschen mit Algorithmen zu beeinflussen.

Die beiden haben insgesamt vier Experimente durchgeführt und dabei schon ein paar Unterschiede festgestellt in der Art, wie der Algorithmus die Nutzer*innen versucht hat, von dem Ziel zu überzeugen, jemand bestimmtes zu wählen oder zu daten, berichtet The Next Web. Da gab es etwa die versteckte oder die explizite Art, die Message zu transportieren. Die Forscher*innen kamen aber in allen Fällen zu dem Schluss, dass es wichtig sei, Menschen über Algorithmen aufzuklären und diesen beizubringen, warum sie diesen nicht immer blind vertrauen sollten.

Persönlichkeitstests als Basis

Die Teilnehmer*innen der Studie mussten einen Fake-Persönlichkeitstest ausfüllen, wonach sie eingeordnet wurden in Gruppen, um ihnen gezielte Messages vorzulegen. Dann wurden ihnen etwa Bilder vorgelegt von Politiker*innen, die ihrer Persönlichkeit laut dem Test am meisten zusagen würden, um rauzufinden, wen sie wählen würden. Dann gab es eine Kontrollgruppe jener, bei denen kein Persönlichkeitsprofil vorlag. Die Gruppe, bei der ein Persönlichkeitsprofil vorlag, wählte meistens die Kandidaten, die ihnen der Algorithmus vorschlug.

Die Forscher*innen erklärten zudem, dass es sehr schwierig sei, wissenschaftliche Studien durchzuführen, und dabei mit der Geschwindigkeit Schritt zu halten, in der die KI-Entwicklung voranschreitet. „Die KI-Industrie führt täglich Experimente mit Millionen von Menschen im Netz durch", heißt es. Die Entwickler könnten jede noch so abwegige Hypothese testen, um ihre Algorithmen besser anzupassen. Daher würden die Möglichkeit der Manipulation durch Algorithmen schneller wachsen, als die Forschung, die diese untersuchen könne.

# data[].attributes.attachment_link.title
Studie zeigt, wie sich Menschen von Algorithmen beeinflussen lassen

# data[].attributes.attachment_link.description
Es ist mittels Algorithmus extrem simpel, Wähler zu beeinflussen und Menschen, die auf Partnersuche sind. Menschen neigen dazu, das zu tun, was der Algorithmus ihnen sagt. Das gilt sowohl, wenn der Algorithmus vorschlägt, für einen bestimmten Kandidaten bei einer Wahl abzustimmen, als auch bei Vorschlägen von Dating-Apps, welcher Partner am beste zu einem passt.

# data[].attributes.attachment_link.readable_text
Algorithmus hast du bestimmt im Zusammenhang mit sozialen Netzwerken schon mal gehört. Doch worum geht es da eigentlich wirklich?

Da das Wort Algorithmus allein schon furchtbar kompliziert klingt und überhaupt keine Lust auf Weiterlesen macht... wie wär's mit Kuchen? Klingt gut? Hier ist das Thema Algorithmus - erklärt mit Kuchen.

Dein Lieblingskuchen: Ein Algorithmus?!

Ein Algorithmus ist eine Abfolge bestimmter Anweisungen, die man immer genau wie vorgegeben ausführen muss und die irgendwann zu einem bestimmten, immer gleichen Ergebnis kommen. Genau wie bei einem Kuchenrezept: Zuerst vermischst du alle Zutaten, gibst sie dann in die Form. Die kommt dann in den Ofen, der eine bestimmte Temperatur haben muss. Nur wenn du dich genau an diese Regeln hältst, kommt am Ende aus dem Ofen dein Lieblingskuchen heraus. Genau so funktionieren auch Algorithmen. Sie führen bestimmte Regeln immer gleich aus.

Was hat das mit Social Media zu tun?

Was hat der Algorithmus deines Lieblingskuchens jetzt mit Plattformen wie Instagram, Facebook oder Pinterest zu tun? Überraschung: ziemlich viel sogar!

Social Media Plattformen möchten, dass du sie gerne und möglichst lange nutzt. Das schaffen sie, indem sie versuchen, wie dein Lieblingskuchen zu sein.

"Social Media Plattformen wollen wie dein Lieblingskuchen sein."

Angenommen dein Lieblingskuchen ist eine leckere Erdbeertorte. Wenn du deinen Kuchen selbst backst, kannst du natürlich dafür sorgen, dass nur Zutaten drin sind, die du wirklich magst. Erdbeeren zum Beispiel. Stell dir aber mal vor, andere Leute könnten bei deinem Kuchen mitbestimmen.

Was, wenn jemand deinem Kuchen Rosinen hinzufügt? Oder noch schlimmer: Knoblauch und Senf? Igitt, auf diesen Kuchen hättest du sicher keine Lust mehr. So kann das auch in sozialen Netzwerken aussehen. Denn dort folgst du anderen Accounts oder bist mit ihnen befreundet. Diese anderen Accounts posten in den Netzwerken ganz nach ihrem eigenen Geschmack. Das passt aber vielleicht nicht immer zu dem, was dir gefällt. Wenn du in deinem Instagram Feed zum Beispiel eigentlich tolle Bilder von Fashion-Bloggern anschauen willst, dir dann aber immer wieder Fotos von Einrichtungsgegenständen angezeigt werden. Das nervt auf Dauer, wie Rosinen in deinem (Ex-)Lieblingskuchen, und du hast keine Lust mehr auf Instagram.

Der Algorithmus wählt deine Lieblingszutaten

Hier kommen jetzt die Algorithmen der Social Media Plattformen ins Spiel. Die Plattformen analysieren genau, was dir gefällt. Welche Beiträge likest du, wie lange schaust du dir Fotos an und was kommentierst du gerne? Sie gehen dann davon aus: Das gefällt dir, das sind deine Lieblingszutaten im Social Media Kuchen. Dann sorgen die Algorithmen dafür, dass dir ähnliche Beiträge in Zukunft öfter und als erstes angezeigt werden. Beiträge, die nicht zu deinen Lieblingszutaten gehören, werden dir dafür gar nicht mehr angezeigt.

Neue Geschmacksrichtungen entdecken? Nicht vorgesehen!

So stellen die Algorithmen der großen sozialen Netzwerke sicher, dass es dir bei ihnen gefällt und du lange dabeibleibst. Schließlich haben sie nur deine Lieblingszutaten in deinen Kuchen gepackt. Das Problem dabei: Mal etwas völlig anderes entdecken ist fast unmöglich. Vielleicht würden dir neben den Posts von Fashion-Bloggern auch mal Posts zu aktuellen Nachrichten gefallen. Dazu müsstest du diese aber erstmal kennenlernen und das lassen die Algorithmen nicht zu. Dein Lieblingsrezept steht für sie ja fest. Auch wenn politische Posts vielleicht wie Schokosplitter (lecker!) in deiner Erdbeertorte wären: Sie stehen eben nicht im Rezept.

Artikel vom 09/16/2021.

# data[].attributes.attachment_link.title
Was ist eigentlich ein Algorithmus in sozialen Netzwerken?

# data[].attributes.attachment_link.description
Algorithmus hast du bestimmt im Zusammenhang mit sozialen Netzwerken schon mal gehört. Doch worum geht es da eigentlich wirklich? Da das Wort Algorithmus allein schon furchtbar kompliziert klingt und überhaupt keine Lust auf Weiterlesen macht... wie wär's mit Kuchen? Klingt gut? Hier ist das Thema Algorithmus - erklärt mit Kuchen.

# data[].attributes.attachment_link.readable_text
Ein H5P Quiz zur Förderung der Medienkritikfähigkeit von Jugendlichen

Soziale Netzwerke stehen bei Kindern und Jugendlichen nicht erst seit ein paar Jahren hoch im Kurs. Es ist längst bekannt, dass bei der Nutzung dieser Dienste Daten über die User:innen gesammelt werden. Was im Hintergrund sozialer Netzwerke mit diesen Daten geschieht, bleibt jedoch oftmals unbekannt. Anhand solcher Daten entscheiden Algorithmen darüber, welche Nachrichten die Nutzerinnen und Nutzer sehen, welchen Leuten sie folgen sollten und welches Produkt sie interessieren könnte. Wissen über die Macht der Algorithmen kann als Teil einer ausgebildeten Medienkompetenz angesehen werden, denn so können vorgeschlagene Beiträge, Videos oder Nachrichten durch die Rezipierenden richtig eingeordnet werden. Im Artikel wird ein medienpädagogisches OER-Quiz zu Algorithmen in Sozialen Medien für Jugendliche vorgestellt und Vorschläge zur didaktischen Nutzung aufgezeigt. Zusätzlich zum Quiz werden Diskussionsanregungen zur Verfügung gestellt, damit Teilnehmende basierend auf ihrem Interesse bestimmte Aspekte vertiefen können.

Mehr dazu hier, das Quiz findet ihr hier.

Quelle: medienpädagogik-praxis.de

# data[].attributes.attachment_link.description
Ein H5P Quiz zur Förderung der Medienkritikfähigkeit von Jugendlichen Soziale Netzwerke stehen bei Kindern und Jugendlichen nicht erst seit ein paar Jahren hoch im Kurs. Es ist längst bekannt, dass bei der Nutzung dieser Dienste Daten über die User:innen gesammelt werden. Was im Hintergrund sozialer Netzwerke mit diesen Daten geschieht, bleibt jedoch oftmals unbekannt.

# data[].attributes.attachment_link.readable_text
HTML-Code zum Einbetten des Videos in der Zwischenablage gespeichert. Bitte beachten Sie die

Und dieses Video noch... oh, das nächste klingt auch spannend, noch eins, dann höre ich auf...das klingt aber auch spannend, okay, noch eins! Wir kennen das wohl alle: Man öffnet TikTok, Instagram, Snapchat oder Youtube "nur mal kurz" und plötzlich ist eine Stunde weg. Das Positive zuerst: Das liegt nicht nur an unserer fehlenden Willenskraft. Denn diese wird ganz gezielt so beeinflusst, dass wir eben doch noch das nächste Video anschauen. Und das liegt an den Algorithmen!

Quelle: ZDF

Algo...was?? Klingt gefährlich nach Mathe - und genau das ist es auch! Algorithmen sind nämlich nichts anderes als Rechenwege - und zwar solche, die immer nach einem gleichen Schema ablaufen. Damit kann man in seinem Alltag Sachen berechnen, zum Beispiel, wie viel Geld man bräuchte, um für eins, zwei oder zwanzig Kinder neue Laptops zu kaufen. Aber es kann auch komplizierter sein, wie zum Beispiel die Frage: Welche Videos im Internet wird sich eine Person als nächstes ansehen wollen?

Wieso Social Media eine gigantische Mathe-Aufgabe ist

Diese Rechenwege sind so kompliziert, dass sie dann nicht mehr von Menschen durchgeführt werden, sondern von riiiesigen Computern. Die Algorithmen, die Social Media Plattformen benutzen, sind auf jeden Fall unglaublich kompliziert. Schließlich müssen sie ein ziemlich kompliziertes Problem lösen: Was werden wir uns als nächstes ansehen wollen? Diese Vorhersage errechnen sie aus allen Daten, die sie über uns haben. Wie genau dieser Rechenweg aussieht, halten die Social Media Plattformen meist streng geheim. Denn genau das ist ja ihr Erfolgsrezept.

Es ist deshalb nicht ganz klar, welche Daten eine wie große Rolle spielen. Auf jeden Fall wird alles verwertet, was die Plattform über euch wissen kann: Welche Inhalte ihr liked, welche ihr kommentiert, was ihr euch wie lange anschaut, wie alt ihr seid, wo ihr wohnt, wie viele Follower ihr habt, wie oft ihr selbst etwas postet... einfach alles. Und daraus wird per Algorithmus errechnet, was euch interessiert. Klingt praktisch, bringt aber auch einige Probleme mit sich:

Algorithmen machen uns die Welt, wie sie uns gefällt.

Algorithmen sorgen dafür, dass man nur sieht, was einen interessiert. Was einen nicht interessiert, bleibt verborgen. Man lernt also im Prinzip wenig Neues kennen. Das kann dazu führen, dass man in einer Art Blase lebt. In etwa so, als hätte man jeden Tag nur sein Lieblingsfach in der Schule und würde ansonsten nichts mehr lernen. Aber das würde einen auf Dauer ja nicht gerade schlauer machen.

Sie verstärken extreme Meinungen.

Man kommt durch die ausgewählten Inhalte auch nur noch mit Meinungen in Kontakt, die einem gefallen. Inhalte, die dem nicht entsprechen, werden nicht mehr vorgeschlagen. Immer nur die eigene Meinung bestätigt zu bekommen, kann jedoch gefährlich werden. Denn so können sich extreme Ansichten immer weiter verstärken. Es fehlt schließlich der Widerspruch. Das ist besonders problematisch bei Falschinformationen.

Denn ob ein Post der Wahrheit entspricht oder nicht, ist einem Algorithmus egal. Für ihn ist nur wichtig, wie viel Aufmerksamkeit er bekommt. Und die ist gerade, wenn es um Hass und Hetze geht, oft besonders groß.

Sie sorgen für Social-Media-Sucht.

Dazu muss man nicht viel sagen, das merkt ihr bestimmt selbst: Dadurch, dass der Algorithmus uns so gut kennt, sagt er tatsächlich ziemlich genau voraus, was uns gefällt. Und schon scrollen wir immer weiter und weiter und weiter...

Was Künstliche Intelligenz damit zu tun hat

Aber wieso sind die Algorithmen so verdammt gut und scheinen wirklich genau zu wissen, was uns interessiert? Hier kommt die Künstliche Intelligenz ins Spiel - beziehungsweise das Maschinelle Lernen. Die Algorithmen verbessern sich nämlich von selbst. Sie lernen! Sie machen also ihre eigenen Mathehausaufgaben: Aus den vielen, vielen Daten der Social-Media-Nutzer verbessern sie den Rechenweg immer mehr, der vorhersagt, was man sich als nächstes ansehen will. Und nicht nur das: Sie sagen auch voraus, ob wir uns demnächst ein bestimmtes T-Shirt, eine Halskette oder eine Palme kaufen wollen - und sorgen dafür, dass uns genau diese Werbeanzeige ausgespielt wird.

Denn das sind die Ziele der Social-Media-Plattformen: Dass ihr möglichst lange dableibt, so den Algorithmus mit immer mehr Daten füttert und euch möglichst viel anseht - vor allem viel Werbung. Denn damit verdienen die Social-Media-Plattformen ihre vielen Milliarden Euros.

Okay, aber jetzt Schluss mit Social Media und ran an die eigenen Mathe-Hausaufgaben - jetzt wisst ihr ja, wozu die gut sind ;)

Diesen Text hat Meike geschrieben.

Gemerkt auf "Mein ZDFtivi" Nicht mehr gemerkt Mag ich Mag ich nicht mehr Gemerkt auf "Mein ZDFtivi" Nicht mehr gemerkt Embed-Code kopieren Nutzungsbedingungen des ZDF.

Das digitale ZDF-Angebot exklusiv für die Jüngsten. Mit lustigen Geschichten, Abenteuern und Mitmach-Videos. Lernen, lachen, Pause machen mit den JoNaLus, Löwenzähnchen, Conni und vielen anderen.

An dieser Stelle würden wir dir gerne die Datenschutzeinstellungen anzeigen. Entweder hast du einen Ad-Blocker oder ähnliches in deinem Browser aktiviert, welcher dies verhindert, oder deine Internetverbindung ist derzeit gestört. Falls du die Datenschutzeinstellungen sehen und bearbeiten möchtest, prüfe, ob ein Ad-Blocker oder ähnliches in deinem Browser aktiv ist und schalte es aus. So lange werden die standardmäßigen Einstellungen bei der Nutzung der ZDFmediathek verwendet. Dies bedeutet, das die Kategorien "Erforderlich" und "Erforderliche Erfolgsmessung" zugelassen sind. Weitere Details erfährst du in unserer Datenschutzerklärung.

An dieser Stelle würden wir dir gerne die Datenschutzeinstellungen anzeigen. Möglicherweise hast du einen Ad/Script/CSS/Cookiebanner-Blocker oder ähnliches in deinem Browser aktiviert, welcher dies verhindert. Falls du die Webseite ohne Einschränkungen nutzen möchtest, prüfe, ob ein Plugin oder ähnliches in deinem Browser aktiv ist und schalte es aus.

# data[].attributes.attachment_link.title
logo!: Wegen dieser Tricks kann man nicht aufhören!

# data[].attributes.attachment_link.description
HTML-Code zum Einbetten des Videos in der Zwischenablage gespeichert. Bitte beachten Sie die Und dieses Video noch... oh, das nächste klingt auch spannend, noch eins, dann höre ich auf...das klingt aber auch spannend, okay, noch eins! Wir kennen das wohl alle: Man öffnet TikTok, Instagram, Snapchat oder Youtube "nur mal kurz" und plötzlich ist eine Stunde weg.