Wie sich Künstliche Intelligenz auf Vielfalt auswirkt
Das Gutachten zeigt eindrücklich, dass und wodurch die Verbindung von Künstlicher Intelligenz und Suche Auswirkungen auf die Meinungsvielfalt nimmt. Sei es im Zuge der Integration von KI-Anwendungen in Medienintermediäre, wie bei AI-Overviews und Bing Copilot Search, oder durch die Kombination von LLMs mit Dokumentenretrieval via RAG (Retrieval Augmented Generation), wie bei ChatGPT oder Perplexity.
Grundpositionen der Medienanstalten: KI und Medien – Vielfalt stärken, Verantwortung regeln, Vertrauen wahren
Die Medienanstalten haben sich in ihrem Papier „KI und Medien – Vielfalt stärken, Verantwortung regeln, Vertrauen wahren“ bereits Anfang 2024 klar positioniert und darauf hingewiesen, dass sie bei aller Achtung der Potentiale der neuen Schlüsseltechnologie die wachsende Rolle von KI bei der Erstellung, Verbreitung und Nutzung von Medieninhalten im Blick behalten und den Fokus auf alle Auswirkungen auf Medienvielfalt und öffentliche Meinungsbildung richten werden.
>zur Position der Medienanstalten zu Künstlicher Intelligenz
Schon hier haben wir klargemacht: auch und gerade, wenn KI bei der Produktion redaktioneller Medienangebote zum Einsatz kommt, ist Multiperspektivität zu gewährleisten. Es muss also „eine möglichst breite, vielfältige Ausleuchtung statt enger Sichtweise und Festlegung“ geben. Auch darf die Erfüllung Journalistischer Sorgfaltspflichten nicht durch die Nutzung von KI umgangen oder ausgehöhlt werden: „Es sind Vorkehrungen mitzudenken, die es erlauben, für die Inhalte weiterhin und in gleichem Umfang die Verantwortung zu übernehmen.“
Das Gutachten zeigt: Die untersuchten Systeme werden diesen Anforderungen insgesamt nicht gerecht.
Die Funktionsweise von KI-Systemen hat großen Einfluss auf die Vielfalt
Die im Gutachten analysierten ökonomischen Effekte und Vielfaltsrisiken werden verschärft durch zentrale Mechanismen der Technologie KI bzw. des Maschinellen Lernens – und erhöhen damit den Handlungsbedarf für die Regulierung:
- Content Automation erlaubt die Generierung und Vervielfältigunggroßer Mengen von Inhalten etwa auch durch Bots und interessengesteuerte Maschinen, diein den Datenraum bzw. Trainingsprozess einfließen und die Integrität von Quellen massiv beeinträchtigen können.
- Mittels Data-Mining und der gezielten Analyse großer unstrukturierter Datenmengen auf Basis von Deep-Learning erhalten (Medien-)Unternehmen entscheidungsrelevante Erkenntnisse und können z.B. Nutzerverhalten vorhersagen.
- Dies eröffnet eine Vielzahl an Möglichkeiten der Informations- und Meinungssteuerung einschließlich selbstlernender personalisierter Algorithmen und einem gezielten ggf. manipulativen Targeting, etwa auf Basis der Analyse bestimmter Persönlichkeitsmuster.
- Parallel beschleunigt die als AI-Stack bezeichnete KI-Wertschöpfungskette die Medienkonzentration: getrieben durch den hohen Ressourcenverbrauch leistungsstarker KI-Systeme verschärft sich der Wettbewerb zuungunsten kleinerer Unternehmen und weniger marktkonformer Inhalte. Produktion, Distribution und Darstellung von Medieninhalten liegen vermehrt in einer Hand.
Die Funktionsweise von KI-Systemen hat großen Einfluss auf die Vielfalt von Informationen. Deshalb braucht es klare Regeln und redaktionelle Verantwortung – besonders, wenn KI-Suchmaschinen oder Chatbots Inhalte mit Einfluss auf die Meinungsbildung liefern. Meinungsvielfalt kann nur entstehen, wenn auch die zugrunde liegende Technologie offen und vielfältig gestaltet ist.
