"Aufpassen, dass nicht nur noch Bots mit Bots reden"

19.06.2023

Drive Beta ist eine Berliner Produktionsfirma, die junge, digitale Formate produziert – vor allem für den öffentlich-rechtlichen Rundfunk. Zum Beispiel Tru Doku, Auf der Couch oder Cyborgs of Instagram. Wie verändert KI die Arbeit in der Filmbranche?

journalist: Wie viele andere Journalist:innen habe ich im Vorfeld darüber nachgedacht, wie ich auf kreative Art und Weise KI für dieses Interview einsetzen kann. Am Ende habe ich mich dagegen entschieden und frage ganz klassisch: Wie sieht aktuell dein Arbeitstag aus? Wo hast du heute schon KI eingesetzt?

Hannes Jakobsen: Wir hatten neulich eine Stellenausschreibung, und ich würde sagen, bei 80 Prozent war die Pointe, dass die Bewerbung mit KI geschrieben war. Es ist sicher ein guter Use Case, aber natürlich auch nicht wahnsinnig kreativ. Mir geht es gar nicht darum, überall sofort KI einzusetzen. Sondern ganz viel zu experimentieren und auszuprobieren. Für mich hat das heute so ausgesehen, dass ich mit verschiedenen Tools gespielt habe, mit denen ich sprechende Charaktere erschaffe. Wie man sie so konsistent und die Gespräche so spannend wie möglich gestalten kann. Nützlich war eine KI heute bei der Bebilderung eines Newsletters. In der Firma haben wir zudem mit Feedback zu Loglines oder Youtube-Titeln experimentiert. Nicht mit dem Ziel Effizienz und Automatisierung, sondern: Wie können wir es schaffen, in dieser Zusammenarbeit zwischen Mensch und KI ein besseres Ergebnis zu erzeugen, als Mensch oder KI alleine gekonnt hätten? Das ist die Frage, die uns umtreibt.

Das heißt: KIs haben dir heute nicht viel Arbeit abgenommen, sondern mehr Arbeit gemacht.

Absolut. Ich würde sagen, seit ich bei dem Thema richtig eingestiegen bin, arbeite ich viel, viel mehr als vorher. Weil für mich Arbeit nichts ist, was ich loswerden will. Mir geht es darum, dass ich mich mit den Dingen beschäftigen möchte. Effizienzsteigerung finde ich ein bisschen langweilig und banal. Es gibt Jobs, in denen das wahrscheinlich schnell und mit Wucht ankommen wird. Wenn dein Job ist, Captions für Instagram-Posts zu schreiben, dann wird das schnell ein KI-Modell besser und konsistenter können, ohne müde zu werden oder sich aufzuregen. Aber was passiert, wenn man die KI nicht als Assistent, sondern als Partner begreift? Wenn man sich sagt, ich baue mir einen eigenen kleinen Chatbot, der die Rolle einer Senderredakteurin einnimmt, die kritisch meinen Pitch bewertet – das macht meine Arbeit nicht schneller, aber das Ergebnis besser. 

Momentan ist der KI-Einsatz viel Spielerei, viel Kreativität. Aber welche Rolle soll KI mal in eurem Businessmodell als Produktionsfirma zukommen?

Ich glaube, dass sich in verschiedenen Bereichen schnell Dinge ändern werden. Es kommen gerade spannende Post-Produktions-Tools auf den Markt, die KI-gestützt sind. Da kann es um die Generierung von Stock-Footage gehen. Muss ich dann wirklich los und generisches Bildmaterial drehen? Es gibt außerdem viele Tools, die Figuren in Videos freistellen. Arbeitsschritte, die früher wahnsinnig aufwendig und zeitintensiv waren. Macht das künftig eine KI, wird viel Zeit frei, die Cutter:innen darauf verwenden können, das zu tun, was die KI zumindest mittelfristig nicht tun wird: die Schnittarbeit machen, über Rhythmus nachdenken. Dabei geht es immer um Dinge, die für Menschen ohnehin nicht wahnsinnig erfüllend sind. In einzelnen Frames eine Figur auszuschneiden – das ist für niemanden ein Verlust einer spannenden Tätigkeit. Es ist klar, dass eine KI keine Skripte für Dokus schreiben wird. Sie kann nicht rausgehen, drehen und auch nicht in die Interaktion mit den Protagonisten gehen. 

„Wenn dein Job ist, Captions für Instagram-Posts zu schreiben, dann wird das schnell ein KI-Modell besser können, ohne müde zu werden oder sich aufzuregen.“

Das klingt trotzdem mittelfristig nach: Kapazitäten einsparen – Personal einsparen.

Klar. Theoretisch ist das sicher so und passiert auch schon. Wenn wir sagen, wir lassen uns die Captions für Instagram von einer KI schreiben.

Und nicht mehr von der Social-Media-Redakteurin, die Vollzeit angestellt ist.

Genau, das wäre eine Möglichkeit. Ich glaube aber, es wäre aktuell eine falsche Entscheidung. Wenn die Social-Media-Redakteurin plötzlich Hilfe kriegt beim Schreiben ihrer Captions, kann sie zum Beispiel mehr Zeit darauf verwenden, sich Analytics anzuschauen oder in die Community einzusteigen oder sich mehr um Vernetzung mit anderen Formaten zu kümmern. Es ist keine Zero-Sum-Betrachtung, weil für uns alle, die Wissensarbeit machen, gilt, dass wir nie all das tun, was wir tun könnten. Wenn ich diese eine Sache nicht mehr tue, habe ich Zeit, andere spannende Dinge anzugehen. Das wäre mein Wunsch-Szenario. Aber es ist nicht unvorstellbar, dass ein kommerzieller Kunde in Zukunft sagt: Social-Media-Management? Brauchen wir nicht, lass uns das automatisieren.

Und wenn es so kommt?

Ich hoffe, dass wir gemeinsam ernsthafte Diskussionen führen. Wir müssen aufpassen, dass am Ende nicht nur noch Bots mit Bots reden. Das wäre absurd. Im weitesten Sinne geht es bei Medien weiterhin darum, dass wir als Menschen etwas daraus ziehen, von anderen Menschen erfahren oder uns mit ihnen austauschen wollen. Das Bewahren dieses menschlichen Kerns ist extrem wichtig. Sonst erzähle ich als Nutzer am Ende auch nichts mehr von meiner krassen Lebensgeschichte, wenn unter dem Post nur automatisch generierte Antworten kommen.

Ich kann mir trotzdem vorstellen, dass die Social-Media-Managerin an der einen oder anderen Stelle nervös geworden ist. Auch bei euch.

Ich habe mich seit Januar sehr viel mit KI beschäftigt. Da gab es eine Zeit, in der ich alle damit vollgelabert habe. Aber intern bemerke ich schon, dass es inzwischen ein großes Interesse gibt. Es gibt sicher skeptische Leute, andere finden es extrem spannend. Als ich angefangen habe, über diese Themen zu sprechen, kamen auf unserem firmeninternen Meme-Account auch einige humoristische Reaktionen rund um die Frage: Werden wir jetzt alle weg-automatisiert? Ich glaube aber, dass sich das zu großen Teilen wieder gelegt hat.

Wen würde es denn zuerst treffen?

Interessant ist das Thema Praktikanten. Denn viele ihrer Arbeiten sind potenziell Dinge, die man nun im Dialog mit Chatbots bearbeiten kann. Aber: Wir wollen nicht dieses oder nächstes Jahr so effizient wie möglich arbeiten. Sondern unsere Zukunft sichern. Natürlich werden wir weiterhin Praktikanten haben. Aber an diesem Punkt kann man gucken, welche Arbeiten sie stattdessen machen. In einem Podcast wurde zuletzt die These erörtert, dass die Rolle des Redakteurs nun wichtiger wird, es aber weniger schreibende Journalisten braucht. Die Bewertung von generierten Texten, die Einordnung, die Strukturierung ist der Skill, der gebraucht wird. Ein wichtiger Gedanke für alle, die noch am Anfang oder in der ersten Hälfte ihrer Karriere stehen. Es ist Zeit, sich ernsthafte Gedanken zu machen: Was kann ich, was eine KI nicht kann? Denn Berufsbilder werden sich definitiv ändern.

„Es ist Zeit, sich ernsthafte Gedanken zu machen: Was kann ich, was eine KI nicht kann?“

In meinem Kopf baut sich da das Bild der jungen Journalistin auf, die sich auf Bias- und Factchecking konzentriert und künftig auch Prompt-Architektin sein muss.

Ich glaube, wir merken sowieso, dass dieses Bild nicht funktioniert. Nur weil du gut schreiben kannst, heißt das nicht, dass du verstanden hast, wie eine Bewegtbild-Dramaturgie funktioniert. Das journalistisches Grundhandwerk wird weiterhin der Kern bleiben. Aber drumherum gibt es Spezialisierungen.

Aus Erfahrung weiß man, dass gerade Ausbildungsorte für Journalist:innen nicht immer ausreichend schnell auf die Bewegung der Branche reagieren. Ob also KI-Einsatz oder ethische Fragen zeitnah auf den Lehrplänen auftauchen, ist fraglich.

Es wäre eigentlich Wahnsinn, jetzt Journalisten auszubilden, ohne sie an diese Themen heranzuführen. Einerseits braucht man genug Wissensgrundlage, um sich dieser Frage – was bedeutet KI gesellschaftlich, philosophisch, vielleicht auch religiös – zu stellen. Das andere ist das Wissen um die Tools. Beide Sachen müssten ab sofort im Lehrplan sein. Ob ich glaube, dass das passiert? Eher nein, weil die Art, wie diese Institutionen funktionieren, wenig agil ist. Deswegen ist es noch viel mehr die Verantwortung der Menschen, die am Anfang ihrer Karriere stehen, sich selbst das Wissen draufzuschaffen.

Nicht alle alteingesessene Medien und Sender gelten als innovationsfreudig und agil. Ist das notwendige Mindset bei diesen Akteuren schon da?

Ich würde fast so weit gehen zu sagen, dass es wahrscheinlich eh schon passiert. Nur völlig unkontrolliert. Ich fände es wahnsinnig spannend zu wissen, wie hoch der Anteil von KI-Texten in den Medien ist. Keine Ahnung, wie viele Onlinejournalisten gerade kurze Artikel basierend auf irgendwelchen Meldungen von einer KI schreiben lassen. Meine These ist: relativ viele.

Die bisherigen KI-Angebote laufen bisher wieder über die großen Player. Muss man sich bereits Gedanken oder Sorgen um Abhängigkeiten machen?

Derzeit nutzen wir verschiedene Tools und Anbieter. Aber es wird sicher mit der Zeit Sinn ergeben, einiges selbst zu machen. Es gibt eine große und sehr erfolgreiche Open-Source-Szene. Beispielsweise Language-Modelle, die du frei auf deinem Rechner ausführen kannst. Wenn man als Produktionsfirma sagt: Wir glauben daran, dass wir ganz besonders spannende Creative Pitches schreiben, könnte man sich überlegen, eine Open-Source-Basis zu nehmen und ein Finetuning vorzunehmen.

Ist das dann schon der Schutz davor, den durch Trainingsdaten antrainierten Biases und Falschinformationen nicht auf den Leim zu gehen?

Es gibt viele Menschen, die tippen derzeit eine Frage in Chat-GPT ein, kriegen eine falsche Antwort und sagen: Ja, guck mal, das ist ja furchtbar. Aber: Es hat nie irgendjemand behauptet, dass Chat-GPT alles weiß und korrekt beantworten kann. Was es richtig gut kann, ist, menschlich klingende, plausibel klingende Sprache zu erzeugen. Die Informationsbeschaffung ist der völlig falsche Test für dieses Tool. Deswegen ist es auch nicht schlimm, wenn es halluziniert. Im Gegenteil: Das ist ja das Geile. Dass es Geschichten erfinden und Narrative weiterspinnen kann. Ich darf es nur nicht als Suchmaschine einsetzen. Wenn dann Fehler entstehen, ist das nicht ein Versagen der KI, sondern ein menschliches Versagen.

„Es hat nie irgendjemand behauptet, dass Chat-GPT alles weiß und korrekt beantworten kann. Was es richtig gut kann, ist, menschlich klingende Sprache zu erzeugen.“

Das klingt insgesamt so, als ob der menschliche Kontrollmechanismus extrem wichtig bleibt. Nicht nur für das Factchecking, sondern zur Kontextualisierung, Einordnung. Auch, weil die KI selbst noch keine eigene Ethik oder Moral hat.

Das stimmt, aber was ich bereits machen kann, ist beispielsweise zu sagen: Bitte verhalte dich wie ein katholischer Priester. Dann hat die KI natürlich Moral, wenn auch keine eigene. Alles, was wir als Menschen über Sprache transportieren, ist in so einem Prozess mit drin, inklusive logische Herleitung, Moralfragen, Bewertung. Das hat die KI nicht intrinsisch. Das muss sie aber auch nicht, denn es ist an uns zu überlegen, wie wir die Tools verwenden. Wofür sind sie gar nicht gemacht? Oder noch weiter: Ist es eigentlich Betrug, wenn ich eine KI meinen Text schreiben lasse?

Das werden Redaktionen, Teams, Sender nun klären müssen. Der BR hat bereits 2020 damit angefangen und Leitlinien zu seinem Einsatz von KI veröffentlicht. Ist nun der Zeitpunkt, an dem wir uns als Medienproduzierende zu gemeinsamen Standards verpflichten sollten?

Die Frage ist, ob es dafür nicht schon zu spät ist. Es wäre wahnsinnig wichtig, dass wir im Journalismus, aber auch als Gesellschaft darüber nachdenken. Nicht wie Gesetzgeber es im Sinne von Regulierungen oder Verboten tun. Sondern dass wir gemeinsam diskutieren, was eigentlich unser Ziel und unsere Grenzen sind. Das kann man gut am Beispiel der Arbeitsplätze festmachen. Ist es wirklich so schlimm, wenn manche Arbeitsplätze überflüssig werden? Das klingt erst mal übel. Aber sollten wir nicht dafür sorgen wollen, dass möglichst viele Menschen möglichst erfüllende Arbeit haben? Und zu den Diskussionsthemen gehört auch, wie wir mit der Frage nach Transparenz umgehen. So dass es zum Qualitätsmerkmal werden kann, wenn ein Mensch einen Artikel geschrieben hat.

Der eine, der noch in der Zeitung übrig geblieben ist.

Genau. Dann sind von Menschen verfasste Printtexte die Luxus-Modelle. Mir ist es fast zu spät für diese Fragen. Meine These: Es verwenden schon so viele Journalist:innen diese Tools, ohne dass das hinterfragt wird.

Vor einem Jahr hätte auch ich mir nicht vorstellen können, dass wir diese Unterhaltung schon jetzt führen.

Bei mir überwiegt der Optimismus. Aber ich habe auch ein Bauchgrummeln. All das, was Social Media ohnehin Schlechtes in unsere Gesellschaft gebracht hat, wird noch mal in hundertfacher Potenz reingespült: Fake News oder Bilder, hybride Kriegsführung, die Einflussnahme auf öffentliche Meinung oder Wahlen. Für die Frage, wie wir arbeiten und kreativ sein wollen, sehe ich aber viel mehr Potenzial als Gefahren.

Hannes Jakobsen Geboren 1984. Zunächst Partnermanager und Kreativstratege bei Youtube, 2013 CCO beim damaligen Multi-Channel-Network Divimove (heute We are era). 2018 Co-Gründer von Drive Beta.

Druckausgleich Hannes Jakobsen ist auch Gesprächspartner in der neuen Folge unseres Podcasts Druckausgleich.

Annkathrin Weis arbeitet als freie Journalistin in Frankfurt am Main. Sie ist Co-Gründerin des journalist-Podcasts Druckausgleich.