Das Zeitalter von Synthetic Social Media hat begonnen

Hass und Falschnachrichten waren gestern. Richard Gutjahr, einer der bekanntesten Journalisten in Deutschland, erklärt, wie Deep-Fake-Technologien und KI-Influencer unsere Kommunikation in den sozialen Medien für immer verändern. Text: Richard Gutjahr

04.03.2024

Ein Cage-Fight im Kolosseum von Rom zwischen zwei der einflussreichsten CEOs der Welt. Elon Musk und Mark Zuckerberg deuteten so einen Schaukampf im vergangenen Jahr immer wieder an. Es kam aber nie dazu. Es war der Tiefpunkt einer PR-Schlammschlacht, die vor einem Millionenpublikum ausgetragen wurde, auf Twitter, wie das soziale Netzwerk damals noch hieß. Ein Käfig voller Narren, der heute als X firmiert und in dem es unter der Regentschaft des neuen Eigentümers Elon Musk nur noch eine Devise gibt: „Hardcore!“ – möge der Lautere gewinnen.

Ein Ringkampf, Mann gegen Mann, zwischen den Titanen des Digitalzeitalters – mehr Sinnbild für den schwindelerregenden Aufstieg und Fall einer Zivilisation ließe sich kaum finden, möchte man den aktuellen Zustand von Social Media beschreiben.

Erschaffen, um Menschen zusammenzubringen und Wissen zu vermehren, haben die großen Netzwerke genau das Gegenteil bewirkt. Wie der Musk-Zuckerberg-Schlagabtausch zeigt, sind selbst die Herrscher über diese mächtigen Wirk-Netzwerke nicht davor gefeit, dem Gift ihrer eigenen Algorithmen zu erliegen.

20 Jahre nach seiner Gründung sieht die Bilanz von Facebook verheerend aus. Nicht finanziell, die könnte bei einem derzeitigen Marktwert von über einer Billion Euro besser kaum sein. Gemeint ist der gesellschaftliche Fallout, für den die sozialen Netzwerke neben all ihren Verdiensten verantwortlich gemacht werden müssen:

Ein alarmierender Anstieg von Depressionen und Suiziden unter Jugendlichen, die Destabilisierung westlicher Demokratien durch unkontrollierte Verbreitung von Falschnachrichten sowie programmierter Polarisierung der politischen Lager. Im Kampf um Reichweite und Engagement ist Meta, TikTok, X, aber auch Google offenbar jedes Mittel recht.

Beispiel YouTube. Das größte und beliebteste soziale Netzwerk Deutschlands dient vor allem Extremisten als Nährboden für Volksverhetzung und Verschwörungstheorien – eine gigantische Radikalisierungsmaschine. Mit raffinierten Empfehlungs-Algorithmen hat Googles Videoplattform Hassprediger wie Alex Jones oder Neonazis wie Steven Feldmann über Jahre hinweg aufgebaut und zu Popstars gemacht.

„Sie haben Blut an den Händen“, warf US-Senator Lindsey Graham jüngst Mark Zuckerberg bei einer Senats-Anhörung in Washington vor, zu der neben dem Meta-Chef auch eine Reihe weiterer CEOs vorgeladen werden mussten, zum Teil sogar unter Haftandrohung. Geduldig ließen sich diese dann vier Stunden lang vor laufenden Kameras für ihre unmoralischen Geschäftspraktiken grillen.

Social-Media-Nutzung geht zurück

Härtere Gesetze haben die Plattformbosse deshalb aber nicht zu fürchten. Dafür ist die Lobby-Macht aus dem Silicon Valley inzwischen viel zu massiv. In einem Wortgefecht mit Snapchat-Chef Evan Spiegel machte US-Senator John Kennedy das ganze Dilemma deutlich: „Sie sind keine Unternehmen, Sie sind Länder! Sie sind sehr, sehr mächtig. Sie und Ihre Kollegen haben alles blockiert, was wir im Hinblick auf eine vernünftige Regulierung versucht haben.“

Republikaner und Demokraten treten in diesem Kampf selten vereint auf. Gegen die schier unbegrenzten Ressourcen von Big Tech kommen die Parlamentarier sowieso nicht an. Dank „Section 230“, einem Gesetz aus dem Jahr 1996, wonach Internet-Unternehmen für fremde Inhalte auf ihren Plattformen nicht haftbar sind, können Google, Facebook oder TikTok quasi tun und lassen, was sie wollen.

Selbst wenn Minderjährige durch den Konsum gefährlicher Inhalte auf Instagram oder X zu Schaden kommen, dient Section 230 als juristisches Schutzschild. Eine vergleichbare Gefängnisfrei-Karte in Zusammenhang mit schädlichen Produkten, grober Fahrlässigkeit oder gar Beihilfe zu Straftaten gibt es in keiner anderen Industrie.

Es gibt etwas, das die Web-Wizzards aus Silicon Valley mehr beunruhigt, als staatliche Regulierung: SMF – Social Media Fatigue, ein Phänomen, das neuerdings auch in den Chefetagen vom Silicon Valley diskutiert wird.

„Google und Meta haben traditionellen Medienhäusern den Rücken gekehrt. Klassische Nachrichten werden aus den Feeds verbannt, Förderprogramme reduziert oder eingestellt.“

Mehr und mehr Menschen meiden Nachrichten. Das ist bekannt. Aber auch die Social-Media-Nutzung ging in den vergangenen Jahren zurück, insbesondere bei den jüngeren und den Heavy Usern. Der Trend zeichnet sich in Europa ab und auch in den USA und China.

Es gibt viele Gründe dafür. Zum einen ist der Social-Media-Markt in den meisten Industrienationen gesättigt. Das hart umkämpfte Gut Aufmerksamkeit lässt sich nicht weiter steigern. Selbst in der Online-Welt hat ein Tag 24 Stunden, weshalb der Druck auf die Plattformen wächst, die Dopamin-Dosis ihrer Netzwerke zu erhöhen. So wird bei der Selektion jener Inhalte, die den Nutzern aktiv in die Timelines gespielt werden, noch intensiver an der emotionalen Reiz-Schraube gedreht.

Journalistische Werke sind bei einer solchen Strategie eher hinderlich. Deshalb haben sowohl Google als auch Meta in den zurückliegenden Jahren den traditionellen Medienhäusern den Rücken gekehrt. Klassische Nachrichten werden aus den „Newsfeeds“ verbannt, journalistische Förderprogramme reduziert oder komplett eingestellt.

„Ich fürchte, dass dieses Jahr sehr schlimm wird auf Social Media“, prophezeit die österreichische Journalistin Ingrid Brodnig. Der Trend zu kurzen, emotionalen Videos lasse sich auch für Falschmeldungen oder zumindest sehr eindimensionale Inhalte ausnutzen. Gleichzeitig seien die großen Plattformen wieder zurückhaltender geworden in ihrer Moderation.

Neben einer allgemeinen Reizüberflutung („Information Overload“) macht sich bei einigen Nutzern eine Plattform-Müdigkeit bemerkbar („Social Overload“). Vorbei die Zeiten, in denen Social Media primär aus Facebook und Twitter bestand. Im Schnitt besucht heute jeder Mensch 6,7 unterschiedliche soziale Netzwerke im Monat. Journalisten, Politiker und Influencer, die bereits von Facebook zu Snapchat, von Instagram zu TikTok, von Twitter zu Mastodon, Bluesky oder Threads gewechselt sind, haben sich im Netz über die Jahre einen Namen, eine Gefolgschaft aufgebaut. Viele von ihnen sind es leid, mit jedem neuen Netzwerk bei Null anzufangen. Das sogenannte „Fediverse“, bei dem sich Daten und Follower von Netzwerk zu Netzwerk übertragen lassen, bleibt ein Wunschtraum.

Selbsterfahrung ohne Smartphone

Hauptberufliche Content Creator, die ihr Geschäft auf die Sozialen Netzwerke ausgerichtet haben, kommen mit Produktion und Distribution neuer Inhalte kaum noch hinterher. So verbrachte die Skisportlerin Linda Meixner früher 60 Stunden pro Woche im Netz. „Irgendwann habe ich gemerkt, wie die viele Zeit am Smartphone, der ständige Druck zu produzieren und darüber bewertet zu werden, mich verändert“, sagt sie.

Heute lädt die 34-Jährige einmal jährlich ins sogenannte „Offline-Dorf“ nach Gargellen in Vorarlberg. „Mehr Lebenszeit, weniger Bildschirmzeit“, so das Ziel des kollektiven Selbsterfahrungs-Experiments. In sechs Tagen ohne Smartphone, Laptop und Internet sollen die Besucher lernen, ihre On- und Offline-Zeiten besser miteinander in Einklang zu bringen. Die Resonanz sei enorm, sagt Meixner.

Aus solchen Offline-Bewegungen schließen zu wollen, Social Media sei tot, wäre ein Irrglaube. Wer in Deutschland das Internet nutzt (rund 90 Prozent), nutzt zwangsläufig auch soziale Netzwerke. Ein Drittel ihrer täglichen Online-Zeit verbringen Deutsche auf Plattformen wie WhatsApp, Instagram oder TikTok. Das sind je nach Alter im Schnitt täglich zwei bis drei Stunden. Was sich geändert hat, ist die Art und Weise, wie diese Plattformen heute genutzt werden. Aus den sozialen Netzwerken von früher sind Medienabspielkanäle geworden. Anfangs tauschte man sich noch mit Menschen aus, die man aus dem Offline-Leben kannte. Jetzt konsumiert man nur noch professionell produzierte Inhalte.

Einst öffentliche Diskussionen werden heute zunehmend unsichtbar geführt, etwa in geschlossenen Gruppen auf Messengern wie WhatsApp, Threema oder Signal. Netz-Experte Sascha Lobo erinnert daran, dass der Begriff „Dark Social“ bereits 2012 von Alexis Madrigal geprägt wurde. „Das bedeutet, dass viele Social Funktionen unter die Oberfläche verschoben werden, zum Beispiel in Richtung Messenger.“ Der Trend werde weiter anhalten, glaubt Lobo.

„Nun wollen Konzerne wie Meta demnächst synthetisch erzeugte Inhalte und KI-gesteuerte Avatare auf Milliarden Menschen loslassen. Was soll dabei schiefgehen.“

Die Journalistin Ingrid Brodnig sieht das ähnlich. „Lange wurde ja gescherzt, dass Leute Lächerlichkeiten wie ihr Mittagessen posten“, sagt sie. Mittlerweile seien viele Leute zurückhaltend geworden, Privates zu teilen. „Unsere Social-Media-Feeds sind stärker von viralen Videos von Fremden geprägt – die durchaus witzig, klug oder auch aufwühlend sein können, aber gleichzeitig auch weniger persönlich sind als früher.“ Nicht zuletzt durch den Einsatz von KI-unterstützten Empfehlungs-Systemen wie bei TikTok würden soziale Medien immer mehr zu reinen Berieselungsmaschinen.

Doch nicht nur die Gatekeeper-Algorithmen werden in Zukunft von der KI bestimmt. Schon bald werden KIs auch eigenständig die Inhalte erzeugen. „Künstliche Intelligenz kommt nicht nach – sondern mit Social Media“, sagt Sascha Lobo. Das werde neue Herausforderungen, aber auch neue Spielweisen und Kulturtechniken mit sich bringen.

Vergangenen Herbst verkündete Meta-CEO Zuckerberg stolz, man wolle nicht nur eine einzige Künstliche Intelligenz, sondern gleich Dutzende KIs in Facebook, WhatsApp und Instagram integrieren. Computer-gesteuerte Chatbots, die dank Stimme und Aussehen an berühmte Influencer:innen erinnern, darunter etwa der Football-Star Tom Brady, der Rapper Snoop Dog oder das Starlet Paris Hilton.

„Was wir gerade erleben, ist die Geburt von Synthetic Social Media“, sagt Rijul Gupta, Gründer von DeepMedia. Das Start-up hat es sich zur Aufgabe gemacht, KI-Manipulationen mithilfe von KI aufzudecken. In wenigen Jahren werde nahezu alles, was wir auf Social Media sehen, künstlich erzeugt sein. „Wir steuern auf eine Deep-Fake-Welt zu“, warnt der Unternehmer und verweist auf soziale Netzwerke, in denen wir künftig nicht länger mit Menschen, sondern mit künstlich erzeugten Inhalten und Personas interagieren. Welches Kind, welcher Teenager würde nicht gerne mit seinem Star über Liebeskummer, über den Ärger in der Schule oder den Krach mit den Eltern reden?

Künstliche Schein-Freundschaften

Digitale Avatare, die immer Zeit für uns haben, die in der Lage sind, menschliche Empathie, Freude, Trauer, Mitgefühl erschreckend echt zu simulieren. Menschen, die im Leben stehen und ein gesundes soziales Umfeld haben, könnten so einen KI-Kumpel als virtuellen Assistenten, als intellektuellen Sparringpartner oder Personal Coach einsetzen. Weniger gefestigte Individuen verlieren durch solche Schein-Freundschaften vielleicht die Fähigkeit, mit echten Menschen zu kommunizieren. Sie isolieren sich gesellschaftlich noch mehr.

Bei der Senatsanhörung Ende Januar im US-Kapitol zu den Gefahren von Social Media kam es zu einer bemerkenswerten Szene. Von einem Senator gedrängt, stand Mark Zuckerberg überraschend auf und wandte sich direkt an die im Saal anwesenden Eltern. Diese hatten zuvor Bilder ihrer Kinder hochgehalten, die durch soziale Medien Schaden genommen oder Suizid begangen hatten. Zuckerberg, selbst Vater von drei Töchtern, bat um Verzeihung. „Es tut mir leid, was Sie alle durchmachen mussten. Niemand sollte das ertragen müssen, was Ihren Familien widerfahren ist“, sagte der Meta-Chef Zuckerberg.

Nun wollen Konzerne wie Meta demnächst synthetisch erzeugte Inhalte und KI-gesteuerte Avatare auf Milliarden Menschen loslassen.

Was soll dabei schiefgehen.

Richard Gutjahr ist Journalist, KI-Experte, Moderator und Medientrainer in München. Der 50-Jährige gehört zu den bekanntesten und einflussreichsten Journalisten Deutschlands. 20 Jahre stand er für ARD/ZDF als Reporter und Moderator vor und hinter der Kamera, hat aus Krisengebieten berichtet. Seine Reisen führten ihn auch immer wieder ins Silicon Valley, über das er früh in Blogs, Podcasts und Bücher publizierte.