"Wir setzen ein, was auf dem Markt ist"

02.06.2023

journalist: Im Netzwerk von Ippen Digital erscheinen seit einigen Monaten Artikel, unter denen zu lesen ist, sie seien „mithilfe maschineller Unterstützung erstellt und von der Redaktion geprüft“. Heißt das, eine Künstliche Intelligenz schreibt bei Ihnen komplette Texte?

Markus Knall: Wir haben tatsächlich schon Texte veröffentlicht, die nahezu komplett von einem Sprachmodell geschrieben wurden. Redakteure unseres Portals ingame.de haben zum Beispiel Chat-GPT gefragt, ob ein PC oder eine Konsole besser ist. Die KI hat lang und lustig begründet, warum PCs besser sind. Das ist aber nicht der typische Fall. Wir pflegen das Prinzip der Transparenz und schreiben Hinweise selbst dann unter einen Artikel, wenn nur kleine Abschnitte von KI stammen. Obwohl diese Modelle schon sehr gut sind, können Fehler passieren. Daher wird bei uns jeder Text von einem Redakteur abgenommen.

Mindestens ein solcher Text mit einer Falschinformation ist bei Ihnen aber schon online gegangen. Im Fall der Fake-Bloggerin „Jule Stinkesocke“ hat die KI in einem Beitrag für ingame.de fälschlicherweise einen Zusammenhang zu einem lange zurückliegenden anderen Fall in den USA hergestellt. Ziehen Sie daraus Konsequenzen?

Knall: Unsere Prinzipien sehen vor, dass eine Redakteurin oder ein Redakteur Inhalte, die ein Sprachmodell vorgeschlagen hat, vor der Veröffentlichung überprüft. Diese Qualitätssicherung hat hier nicht richtig gegriffen. Der Fehler lag also nicht bei der Technik. Daher prüfen wir noch einmal unsere Redaktionsprozesse bei KI-unterstützten Texten.

Wenn jeder Text wegen der Fehlergefahr aufwendig von einem Menschen überprüft werden muss, führt der Einsatz von KI womöglich doch nicht zu den Effizienzgewinnen, die Sie sich erhoffen.

Knall: Derzeit dauert die Prüfung der Fakten manchmal so lange, dass ein Text nicht unbedingt schneller fertig wird. Man spart zwar die Zeit des Schreibens ein, doch die Qualitätssicherung ist aufwendig. Das ist aber in der Frühphase eines Innovationsprozesses völlig normal. Die Zahl der Fehler von Sprachmodellen wird nach und nach abnehmen, weil die Systeme lernen. Das ist ja der Kern der Disruption, die wir gerade erleben.

Welche Regeln für den Einsatz von KI haben Sie definiert, damit es nicht zu Fehlern kommt?

Knall: Wir haben fünf Prinzipien für Ippen Digital formuliert: 1. KI-Anwendungen unterliegen unseren Werten, Normen und Zielen. Dazu gehören die redaktionellen Leitlinien oder Unternehmensrichtlinien. 2. Wir begreifen KI als Fortschritt, den wir proaktiv begleiten wollen, ohne die Risiken auszublenden. 3. Es gilt das Transparenzgebot gegenüber Lesern, Mitarbeitern, Kunden. 4. Die Verantwortung für die Folgen von KI-Anwendungen liegt bei Unternehmen, Redaktion und Mitarbeitern. 5. Das Human-in-the-Loop-Prinzip: Der Mensch ist immer im Prozess involviert. Das heißt zum Beispiel, dass redaktionelle Inhalte immer von Redakteuren geprüft und beauftragt werden.

Wie kommen KI-Texte bei Leserinnen und Lesern an?

Eine Umfrage unter einem KI-Artikel hat ergeben, dass 70 Prozent der Leserinnen und Leser den Text sehr gut fanden. Ich bin überrascht, wie positiv die Nutzer insgesamt reagieren. Es scheint, dass einige Leser der mechanischen Akkuratheit von Technik bei bestimmten Themen mehr vertrauen als dem fehleranfälligen oder weltanschaulich geprägten Menschen.

„Eine Umfrage unter einem KI-Artikel hat ergeben, dass 70 Prozent der Leser den Text sehr gut fanden.“ Markus Knall

Beschreiben Sie einmal systematisch, in welchem Umfang und zu welchen Zwecken Sie in der Redaktion von Ippen Digital schon KI nutzen.

Knall: Wir sind noch in der Testphase und nicht im flächendeckenden Operativbetrieb. Kolleginnen und Kollegen ausgewählter Teams arbeiten mit bestimmten KI-Tools, wobei unser Schwerpunkt auf der Service- und Unterhaltungs-Berichterstattung liegt. Wir setzen ein, was auf dem Markt ist: neben Chat-GPT zum Beispiel das Sprachmodell Luminous von Aleph Alpha. Es gibt einige Schwerpunktprojekte: Wir generieren mit KI-Hilfe Kleintexte wie Überschriften und Teaser, fassen unterschiedliche Texte zusammen oder lassen sie fast komplett von einer KI schreiben. Wir haben mit Hilfe von Midjourney Bilder generiert und online gestellt. Bis Ende April sind bei uns mehrere hundert Beiträge erschienen, die in irgendeiner Weise KI unterstützt hat.

Markus Franz: Der Einsatz von Sprachmodellen erschöpft sich aber nicht im Erstellen von Textpassagen oder ganzen Texten, sie haben weitere große Vorteile für den redaktionellen Prozess: Man kann sie auch für die Themenplanung oder die Recherche nutzen. Wir sehen Machine Learning oder Künstliche Intelligenz grundsätzlich als Werkzeug, das unsere Redaktion unterstützt, nicht ersetzt. Sie erweitert unsere Fähigkeiten und nimmt uns Routinetätigkeiten ab. Die Ressourcen, die dadurch frei werden, können wir in die Kreativität stecken – sie ist ja, was menschliche Intelligenz ausmacht.

Wie gehen Sie bei Ihren Tests vor, und welche Resultate haben Sie schon erzielt?

Knall: Beim Überschriftentest nutzen wir das Sprachmodell von Aleph Alpha. Das Tool schlägt nach unseren Vorgaben Überschriften für den Text vor. Eine Redakteurin oder ein Redakteur wählt die passende Zeile aus. Mit den Ergebnissen dieses Tests sind wir zufrieden: Die meisten Überschriften sind tadellos.

Welchen Vorteil verschaffen Ihnen automatisch generierte Überschriften?

Knall: Wir können das Modell innerhalb kurzer Zeit darauf trainieren, bestimmte Überschriften-Stile vorzuschlagen. Damit etablieren wir schneller neue Standards. Aber es geht nicht nur um Überschriften: Das Paraphrasieren und Erstellen von Inhalten hat vor allem im Lokalen Potenzial, weil es zunehmend schwerer wird, ländliche Räume mit Nachrichten zu versorgen. KI könnte hier Polizeimeldungen umschreiben, mehrere Texte zu einem Artikel zusammenfassen oder Vereinsberichte in eine verständliche Sprache übersetzen und kürzen.

Haben Sie thematische Grenzen beim Einsatz von generativer KI festgelegt, etwa in der Politikberichterstattung?

Knall: Kein Ressort ist ausgeschlossen. Warum soll nicht eine Hintergrundbox zum UN-Sicherheitsrat im Politikressort mit KI-Hilfe entstehen? Vorbehalte habe ich bei meinungsbildenden Texten. Dafür setzen wir derzeit keine KI ein. Entscheidend ist, dass die intellektuelle Leistung vom Redakteur ausgeht: Die Qualität einer Anfrage an ein Sprachmodell, der Prompt, bestimmt maßgeblich die Qualität des Ergebnisses. Weil wir diese Fähigkeit für zentral halten, haben wir eine Prompt-Redakteursstelle ausgeschrieben.

Was hat es damit auf sich?

Knall: Eine der Aufgaben ist es, Prompt-Standards zu kreieren, mit denen unsere Redakteure bei KI-Anfragen ein gutes Ergebnis erzielen. Wichtig ist auch die Qualitätssicherung. Der Prompt-Redakteur muss überprüfen, was unterschiedliche Sprachmodelle leisten, wofür wir sie einsetzen können und welche Ergebnisse sie liefern. Als Vorreiter müssen wir die Standards für die Arbeit mit KI selbst definieren, weil es kaum Orientierungspunkte gibt. Man kann das mit der Situation vor über einem Jahrzehnt vergleichen, als die ersten Stellen für SEO-Redakteure ausgeschrieben wurden. Was damals neu und unbekannt war, ist heute ein völlig etabliertes Berufsbild.

Welche Sprachmodelle sind nach Ihren Erfahrungen für journalistische Zwecke gut geeignet, welche weniger gut?

Franz: GPT, das Sprachmodell von Open AI, hat einen sehr amerikanischen Bias. Wir wissen nicht, mit welchen Inhalten es konkret gefüttert wurde und von welchen Wertvorstellungen es geprägt ist. Wir stehen jetzt vor der nächsten Evolutionsstufe: Spezifische Sprachmodelle sind die Zukunft. Dafür gibt es zwei Ansätze: ihre eigenständige Entwicklung oder das Transfer-Learning. Dafür nimmt man ein bestehendes Modell und lässt es von den eigenen Mitarbeitern mit den eigenen Daten trainieren. Diesen Weg wollen wir gehen.

Wie könnte das konkret aussehen?

Knall: Chat-GPT weiß nur wenig über die Stadt Baunatal bei Kassel. Wir könnten ein Sprachmodell mit Texten unseres Portals HNA.de darüber füttern. Dann hätten wir eine eigene Anwendung, die die wichtigsten Informationen, etwa zu Sehenswürdigkeiten oder politischen Zusammenhängen, geben könnte und hervorragende Lokal-Ergebnisse liefern würde. Solche Anwendungen werden ein wichtiger Use Case für jedes Medienhaus.

„Kein Ressort ist ausgeschlossen. Warum soll nicht eine Hintergrundbox zum UN-Sicherheitsrat im Politikressort mit KI-Hilfe entstehen?“ Markus Knall

Sie betonen, dass Sie sich noch in einer Testphase befinden. Wie soll es in den nächsten Monaten weitergehen?

Knall: Wir wollen zunächst viel ausprobieren und die Chancen nutzen, die sich dabei ergeben. KI unterstützt Redaktionen bei sehr vielen Prozessen, sei es beim Erstellen von Textfragmenten oder bei der Transkription von Interviews. Es gibt aktuell nicht die eine große Anwendung, die alle Medienhäuser machen müssen. Wir entscheiden daher immer von Fall zu Fall, ob ein Tool sicher ist und Vorteile bringt.

Franz: Derzeit verändert sich die Art und Weise, wie Mensch und Maschine miteinander kommunizieren, grundsätzlich. Wir denken daher darüber nach, unseren Leserinnen und Lesern einen anderen Zugang zu unseren Informationen zu verschaffen und es ihnen zu ermöglichen, über unsere Portale in einen Dialog einzutreten.

Sie sollen also zum Beispiel Fragen zur Nachrichtenlage stellen und ein Gespräch mit der KI führen können?

Franz: Genau. Durch Chat-GPT hat sich der Zugang zu Sprachmodellen verändert, das System beruht auf einem Dialog. Warum sollen Leserinnen und Leser diesen nicht auch über unsere Portale führen können?

Wie verändert KI den Job von Journalisten und das Berufsbild?

Knall: Die Fähigkeit, einen Text zu formulieren, ist bei vielen Sprachmodellen schon sehr gut. Es wird also immer weniger relevant, ob ein Redakteur die Ausformulierung selbst vorgenommen hat. Wichtiger wird hingegen die intellektuelle Leistung, ein Thema richtig anzugehen, die relevanten Quellen auszuwählen, den Textaufbau zu bestimmen, die richtigen Prompts zu formulieren und das Ergebnis zu prüfen.

Betreffen diese Veränderungen alle Journalisten oder sind das spezifische Anforderungen an Ihre Redakteure? Sie produzieren bei Ippen Digital ja in hoher Schlagzahl Beiträge, damit Ihre Portale hohe Klickzahlen erreichen.

Franz: Diese Veränderungen betreffen alle. KI ist ein Werkzeug, das wahnsinnig große Möglichkeiten eröffnet. Ein Redakteur kann seinen Text mit einem Sprachmodell für unterschiedliche Zielgruppen aufbereiten, indem er eine kürzere und eine längere Version erstellen lässt oder eine für Ältere und eine für Jüngere. So kann man mehrere Kanäle bespielen, neue Zielgruppen ansprechen und eine höhere Reichweite erzielen.

Sie argumentieren, dass in Zukunft die eigentlich kreative Leistung von Journalisten im Erstellen von Prompts besteht. Aber Sie arbeiten doch selbst schon daran, Prompts zu standardisieren, so dass sich die erforderliche kreative Leistung bald in Grenzen halten dürfte.

Knall: Systemprompts setzen den Rahmen für einen Text: Länge, Aufbau, Ausrichtung. Das muss ein Redakteur nicht jedesmal neu formulieren, sondern kann standardisiert übernommen werden. Ergänzt wird dann die inhaltliche Anforderung.

Wird KI bei Ihnen und in der Branche Jobs kosten?

Franz: Wir wollen mit KI keine Stellen einsparen, sondern neue Möglichkeiten der Recherche und der Veredelung von Inhalten schaffen. Grundsätzlich werden wahrscheinlich in allen Branchen Menschen, die mit Hilfe von KI ihre Produktivität und ihre Kreativität steigern, Menschen ersetzen, die das nicht tun.

„Derzeit verändert sich die Art und Weise, wie Mensch und Maschine miteinander kommunizieren, grundsätzlich.“ Markus Franz

Chapt-GPT fällt immer noch in die Kategorie der schwachen KI. Was passiert, wenn eine starke KI kommt?

Franz: Noch gibt es keine General AI oder starke KI, aber es wird daran geforscht. Chat-GPT kann Ihnen keinen Kaffee kochen, fährt für Sie nicht Auto und macht auch nicht Ihre Steuererklärung. Sie ist ein Sprachmodell und nur für diese Aufgabe geeignet. In Zukunft wird es wahrscheinlich für viele Bereiche auf eine Aufgabe spezialisierte KI-Anwendungen geben. Ob sie miteinander arbeiten, ist offen. Sehr spannend ist das Thema Auto-GPT. Dabei bekommt ein KI-Agent in natürlicher Sprache ein Ziel vorgegeben und versucht es zu erreichen, indem er es in Teilaufgaben zerlegt und das Internet zur Lösung der Aufgabe nutzt.

Herr Knall, wird man die Portale von Ippen Digital in fünf Jahren noch wiedererkennen?

Knall: Die Portale werden Sie wiedererkennen. Die Inhalte werden sich aber weiterentwickelt haben, weil wir dank KI besseren Journalismus machen können. Unsere Redakteure werden von repetitiven Tätigkeiten entlastet und haben mehr Zeit für die journalistische Kernarbeit.

Was ist mit den Risiken, auch für Ihr Unternehmen? Generative KI wird neue Anbieter entstehen lassen, die Texte produzieren, ohne viele Menschen beschäftigen zu müssen.

Knall: KI verschärft grundsätzlich einen Trend, den wir im Digitalen schon seit langem beobachten. Es gibt bereits ein Überangebot an Inhalten im Internet. Jetzt werden noch mehr Inhalte dazukommen. Für Medienunternehmen wird es daher noch wichtiger, die richtigen Inhalte an den richtigen Leser zu bringen.

Markus Knall hat in Regensburg und Washington Politikwissenschaft und Geschichte studiert und beim Münchner Merkur volontiert. 2011 übernahm er die Chefredaktion von merkur.de und tz.de sowie der Zentralredaktion von Ippen Digital. Heute ist er Chefredakteur des gesamten Redaktionsnetzwerks von Ippen Digital.

Markus Franz hat in Augsburg Informatik studiert, als Consultant für Swisscom in der Schweiz und als Software-Ingenieur für die Agentur explido Software gearbeitet. Seit 2009 ist er als Chief Technology Officer (CTO) für die gesamte Technik der Publishing-Plattform von Ippen-Digital verantwortlich. Er gehört auch der Geschäftsleitung an.

Ippen Digital Zum Verbund des Münchner Medienunternehmens Ippen Digital gehören rund 50 Nachrichtenportale, darunter Websites von Lokalzeitungen, Anzeigenblättern und Special-Interest-Angebote. Bekannte Marken sind Münchner Merkur und Frankfurter Rundschau. Im März kamen alle Ippen-Portale laut IVW auf 317,7 Millionen Visits.

Henning Kornfeld arbeitet als Medienjournalist in Heidelberg. Florian Generotzky ist Fotograf in München.