17. März 2026 – Frage von M. HOFFMANN an Herrn Minister FRECHES zum KI-Tool des Medienrates

Welche konkrete Qualifikation besitzen die Mitglieder des Medienrates zur kritischen Interpretation KI-basierter Analyseergebnisse?

Die nachfolgend veröffentlichte Frage und die Antwort entsprechen den hinterlegten Originalfassungen. Die endgültige Version ist im Bulletin für Interpellationen und Fragen (BIF) veröffentlicht.

Frage von Marco HOFFMANN (Vivant), vom 17. März 2026:

In der öffentlichen Sitzung des Ausschuss II vom 27. Januar 2026 erklärte Ministerpräsident Oliver Paasch in Ihrer Vertretung, dass der Medienrat im Rahmen der Umsetzung des Digital Services Act ein deutsches KI-Tool einsetzen wird, um Medieninhalte auszuwerten. Damit soll die Sichtung effizienter werden, damit potenziell problematische Inhalte schneller erkannt und einer Prüfung zugeführt werden können.

Ein solches System arbeitet jedoch nicht neutral. Es basiert auf Filtern, Kriterien und Trainingsdaten. Es erkennt Muster und stuft Inhalte nach Wahrscheinlichkeiten ein. Damit wird vorsortiert, bevor überhaupt eine menschliche Prüfung erfolgt. Genau hier liegt ein sensibler Punkt.

Entscheidend ist deshalb nicht nur, dass ein KI-Tool eingesetzt wird, sondern wie damit umgegangen wird. Wer im Medienrat überprüft und bewertet diese Ergebnisse kritisch? Gibt es ausreichende Schulung und Fachkenntnis, um KI-basierte Analysen einzuordnen und auch zu hinterfragen?

Ebenso stellt sich die Frage der Verantwortung: Wer legt fest, nach welchen Kriterien gefiltert wird, und wer kann diese Logik ändern? Wer trägt am Ende die Verantwortung für die Bewertung und mögliche Folgen?

Wenn medienrelevante Daten aus Ostbelgien bei einem externen Anbieter verarbeitet werden, braucht es zudem eine klare rechtliche Grundlage und transparente Verfahren. Gerade in diesem Bereich muss nachvollziehbar sein, auf welcher Basis eine solche Verarbeitung und gegebenenfalls eine Übermittlung erfolgt.

Es geht hier nicht um Technikbegeisterung oder Technikangst. Es geht um klare Zuständigkeiten, nachvollziehbare Verfahren und Rechtssicherheit bei der Umsetzung des DSA in unserer Gemeinschaft.

Dazu meine Fragen an die Regierung:

1.    Welche konkrete Qualifikation besitzen die Mitglieder des Medienrates zur kritischen Interpretation KI-basierter Analyseergebnisse?
2.    Wer trägt die endgültige Verantwortung für die Filterlogik samt Bewertungskriterien der durch das KI-Tool erzeugten Auswertungen?
3.    Auf welche rechtliche Grundlage stützt sich die Verarbeitung medienrelevanter Daten aus Ostbelgien durch einen KI-Anbieter mit Sitz außerhalb Belgiens?

Antwort von Gregor FRECHES (PFF), Minister für Kultur, Erwachsenenbildung, Tourismus, Denkmal- und Landschaftsschutz

Sehr geehrte Frau Vorsitzende,
liebe Kolleginnen und Kollegen,

Das vom Medienrat eingesetzte KI-gestützte Analysetool KIVI dient ausschließlich der automatisierten Erstsichtung öffentlich zugänglicher Online-Inhalte. Es handelt sich nicht um ein Entscheidungs- oder Bewertungssystem, sondern um ein reines Hinweissystem, das potenziell relevante Inhalte markiert, damit diese anschließend vollständig manuell und individuell geprüft werden können. Alle Bewertungen und Entscheidungen erfolgen ausschließlich durch Menschen. Das KIVI-Tool selbst nimmt keinerlei automatische Bewertung vor. Es setzt keine Verfahren in Gang und es werden auch keine automatisch bindenden Akten über das KIVI-Tool gesetzt.

Das KIVI -Tool ist ein Hilfsmittel. Jeder Verdachtsfall, den das Tool ausweist, wird vom Medienrat und seinen Mitarbeitern geprüft. Die endgültige rechtliche Bewertung der gefundenen Sachverhalte, sowie die Einleitung etwaiger weiterer Schritte bleibt zu 100 % in der Hand des Medienrates.

Die Mitglieder des Medienrates verfügen über die notwendige Kompetenz zur kritischen Interpretation KI-basierter Analyseergebnisse. Die 4 Mitglieder des Medienrates sind ausgewiesene Medienfachleute: 
-    Der Medienrat besteht aus einem Universitätsprofessor (UC Louvain) mit Schwer-punkt Medienrecht; 
-    einem Privatdozenten (Uni Namur) mit Schwerpunkt elektronische Kommunikation und Medienrecht;
-    einer ehemaligen Ministerin, die in dieser Funktion unter anderem maßgeblich mit den Verhandlungen und Umsetzungen zur KI-Verordnung betraut war;
-    sowie eines Journalisten, der zudem Gründungsmitglied des Medienrates war und sein aktueller Präsident ist.
Alle Ratsmitglieder wurden durch Regierungsbeschluss aufgrund ihrer Qualifikationen in ihr Amt berufen.

Unterstützung erfährt der Medienrat von den Mitarbeitern der Geschäftsstelle.

Alle Mitglieder der Geschäftsstelle verfügen über langjährige professionelle Erfahrung in Sachen KI und deren Anwendung. Der Leiter der Geschäftsstelle ist ausgebildeter Volljurist mit Befähigung zum Richteramt und war Mitglied zahlreicher Experten-Gruppen zum Thema KI und Desinformation. 

Zudem ist der Europakoordinator des Medienrates zertifiziert in der gezielten Schulung zum Einsatz und zur kritischen Interpretation von KI-gestützten Analysewerkzeugen, insbesondere in Bezug auf 
-    mögliche Fehlklassifikationen,
-    algorithmische Verzerrungen (Bias),
-    sowie Anforderungen an Transparenz und Nichtdiskriminierung.

Nun zur Beantwortung der zweiten Frage:

Das KIVI-Tool und dessen Algorithmen wurden in der Zusammenarbeit mit der Landesmedienanstalt NRW mit dem technischen Entwickler des KIVI-Tools optimiert. Die technische Funktionsweise und die Grundlogik der Filter sind so festgelegt worden. 

Bei der Nutzung des KIVI-Tools liegt die endgültige Verantwortung beim Setzen der konkreten Filterlogik ausschließlich beim Medienrat. Allein der Medienrat legt die Filter fest. Hierzu gehören insbesondere:

-    die Auswahl der Suchparameter,
-    die Festlegung, welche Inhalte geprüft werden,
-    die rechtliche Bewertung der angezeigten Inhalte,
-    sowie alle aufsichtsrechtlichen Entscheidungen.

Um die Treffgenauigkeit der Suche zu erhöhen, hat der Medienrat die Filterung weiter präzisiert, u.a. durch die klare Identifizierung der Gemeinden und Ortschaften der Deutschsprachigen Gemeinschaft, sowie durch die Einpflege der Startkanäle der beim Medienrat angemeldeten und bekannten Mediendienste, damit regionale Inhalte zuverlässiger gefunden werden.

Die dritte Frage zur rechtlichen Grundlage:

Die rechtliche Grundlage findet sich im Dekret über die Mediendienste und die Kinovorstellungen vom 1.März 2021. Artikel 5 §2 dieses Dekrets besagt: „Bei der Wahrnehmung der in den Bestimmungen der Titel 2 und 3 festgelegten regulatorischen Aufgaben trifft der Medienrat alle angezeigten Maßnahmen, die zur Erreichung der in §1 vorgegebenen anwendbaren Ziele jeweils erforderlich und verhältnismäßig sind."

Erforderlich und verhältnismäßig ist hier die Nutzung technischer Hilfsmittel. Dies umso mehr in Zusammenhang mit der Sichtung regulierungsrelevanter Inhalte, bei denen große Datenmengen zu bewältigen sind. Dieser Monitorings-Prozess ist manuell nur mit sehr großem Aufwand realisierbar und ohne technologische Unterstützung nur begrenzt skalierbar.

Die Entwicklung eines eigen KI-Tools wie KIVI würde einen erheblichen finanziellen und personellen Aufwand bedingen. Insofern ist es angebracht, auf eine verlässlich entwickelte Lösung in diesem Bereich kostengünstig zurückzugreifen. Das KIVI-Tool wird daher als unterstützendes Werkzeug auch von anderen europäischen Regulierungsbehörden genutzt.