15. April 2026 – Frage von F. COLLING an Frau Ministerin KLINKENBERG zu Anlaufstellen für Opfer KI-generierter Missbrauchsinhalte

Welche Stellen in der DG informieren Bürgerinnen und Bürger bei Verdacht auf digitale Gewalt darüber, ob eine Situation bereits als Gewalt einzustufen ist?

Die nachfolgend veröffentlichte Frage und die Antwort entsprechen den hinterlegten Originalfassungen. Die endgültige Version ist im Bulletin für Interpellationen und Fragen (BIF) veröffentlicht.

Frage von Fabienne COLLING (ECOLO), vom 15. April 2026:

Eine beliebte Moderatorin, ein berühmter Ex-Ehemann, jahrelange Cybergewalt: Der Fall Fernandes-Ulmen hält Deutschland seit Mitte März in Atem. Der Täter soll über mehrere Jahre hinweg im Internet pornografische Deepfake-Inhalte verbreitet haben. Die Manipulation medialer Identitäten existiert schon lange. Durch Fortschritte in der Künstlichen Intelligenz, ist die Erstellung solcher Fälschungen heute deutlich einfacher und qualitativ hochwertiger möglich. Diese Verfahren werden auch als „Deepnudes“ bezeichnet. Kriminologin und Professorin Anastasia Powell beschrieb im Jahr 2020, dass Deepnudes in die umfassendere Kategorie des bildbasierten sexuellen Missbrauchs im Internet (IBSA – image-based sexual abuse) eingeordnet werden können. Dieser Begriff wird streng definiert als das Erstellen, Teilen oder Androhen des Teilens von entblößten oder sexuell expliziten Bildern einer Person ohne deren Einwilligung. Mona Giacometti, Professorin für Strafrecht an der ULB, erklärt in einem RTBF Bericht, dass „Deepnudes“ nach dem belgischen Strafgesetzbuch Straftaten darstellen. Die Täter können dafür ins Gefängnis kommen. Die Studie des Institut für die Gleichstellung von Frauen und Männern gibt einige Empfehlungen, wie z. B. die Sensibilisierung der gesamten Gesellschaft oder noch die Gesetzgebung zu verbessern.

Hierzu meine Fragen:

1.    Welche Stellen in der DG informieren Bürgerinnen und Bürger bei Verdacht auf digitale Gewalt darüber, ob eine Situation bereits als Gewalt einzustufen ist?
2.    An welche Anlaufstellen können sich Betroffene oder Beobachtende von möglicher digitaler Gewalt in der DG wenden?
3.    Welche Präventionsangebote bestehen in der DG zu digitaler Gewalt wie KI-generierten Missbrauchsinhalten?

Antwort von Lydia KLINKENBERG (ProDG), Ministerin für Gesundheit, Soziales, Familie und Wohnungswesen

Sehr geehrter Herr Vorsitzender, sehr geehrte Kolleginnen und Kollegen, vorab entschuldige ich mich für die Länge der Antwort. Aufgrund der Wichtigkeit des Themas wollte ich Ihnen jedoch keine Informationen vorenthalten. 

Betroffene können sich bei Verdacht auf digitale Gewalt an verschiedene Dienste wenden, allen voran die Polizei und die Staatsanwaltschaft. An diese Stellen werden sie auch durch die verschiedenen Anlaufstellen weitergeleitet, die je nach Zielgruppe und Alter variieren können. Als hiesige Anlaufstellen fungieren Prisma, Kaleido, die Jugendhilfe, der Jugend Infotreff, der Medienrat und das Justizhaus.

Wenn es darum geht, öffentliche Deepfakes von Online-Plattformen entfernen zu lassen, sollten Betroffene oder Beobachtende den Deepfake der Online-Plattform melden und ein Entfernen des Inhalts anordnen. Falls die Plattform keine Beschwerdemöglichkeit bereitstellt oder nicht angemessen auf die Anforderung reagiert, können die Betroffenen beim Medienrat der Deutschsprachige Gemeinschaft, als zuständige Behörde (unter dem Digital Services Act (DSA)) Beschwerde einreichen. Der Medienrat leitet die Beschwerde an den belgischen Koordinator für digitale Dienste weiter, der die Beschwerde weiter bearbeitet. Wenn es sich um eine Online-Plattform handelt, die ihren Sitz außerhalb Belgiens hat, wird der Koordinator für digitale Dienste im Niederlassungsort der Online-Plattform kontaktiert, der sich - so gilt es zu hoffen - der Beschwerde annimmt und sie bearbeitet.

Die Betroffenen oder Beobachtenden haben ebenfalls die Möglichkeit ihre Beschwerde CHILD FOCUS zu melden. Die Anbieter von Online-Plattformen müssen gemäß DSA die erforderlichen technischen und organisatorischen Maßnahmen ergreifen, damit Meldungen von vertrauenswürdigen Hinweisgebern vorrangig behandelt, unverzüglich bearbeitet und einer Entscheidung zugeführt werden. Online-Inhalte im Zusammenhang mit der sexuellen Ausbeutung Minderjähriger – dazu zählen insbesondere die nicht einvernehmliche Verbreitung sexueller Inhalte, das Ansprechen von Minderjährigen zu sexuellen Zwecken („Grooming“), „Sextorsion“, bildliches Material sexuellen Missbrauchs von Kindern, voyeuristische Darstellungen, extrem pornografische oder gewalttätige Inhalte sowie Werbung für Prostitution Minderjähriger. Sie alle fallen in das Fachgebiet des vertrauenswürdigen Hinweisgebers Child Focus. 

Als Anlaufstellen fungieren in der DG neben dem Medienrat noch eine Reihe von weiteren Akteuren, die Angebote reichen von juristischem bis hin zu psychologischem Beistand. Dies sind zunächst die Polizei und der Opferbeistand der Polizei. Zudem bietet das Justizhaus eine Erstberatung und Opferbetreuung an. Eine juristische Beratung wird außerdem durch die juristische Sprechstunde der Anwaltskammer gewährleistet. Weitere Anlaufstellen sind das Institut für die Gleichstellung von Frauen und Männern für Erwachsene sowie die Jugendhilfe für minderjährige Opfer. Nicht zuletzt bietet Kaleido Krisennachsorge und psychologische Betreuung an, falls die digitale Gewalt im Schulkontext stattfindet. Schließlich gibt es für minderjährige Täter, die digitale Gewalt eingesetzt haben, den Jugendgerichtsdienst.

Wie schon im Falle der Informationsstellen und Anlaufstellen bei Fällen digitaler Gewalt gibt es in der DG je nach Zielgruppe und Alter eine Reihe von Präventionsangeboten. Ich möchte die Akteure und ihre Angebote kurz vorstellen:

1.    Kaleido Ostbelgien hat als eine Zielsetzung, Eltern, Schüler und Lehrkräfte über das Thema Mobbing und Cybermobbing zu informieren und gleichzeitig die Schulwelt zu mehr präventivem Handeln in diesem Bereich zu motivieren. Um diese Ziele effektiv umsetzen zu können wurde ein Netzwerk aus verschiedenen Partnern aufgebaut. Dazu gehören die Jugendinformationszentren, das Medienzentrum und die Polizei. Im Moment gibt es drei Angebote, die darauf zielen, allen Grund- und Sekundarschulen ein auf ihre jeweilige Zielgruppe zugeschnittenes Angebot zur Prävention von digitaler Gewalt unterbreiten zu können: „Fairplayer“ ermöglicht Lehrkräften mit Schülern des 5. und 6. Primarschuljahrs und des 1. bis 3. Sekundarschuljahrs die Sensibilisierung für und die Bewertung verschiedener Formen von Gewalt wie auch die Erarbeitung gezielter Handlungsstrategien gegen Mobbing. Hier hat Kaleido eine unterstützende Funktion für die Schulen. Das Gleiche gilt für das Programm gegen Cybermobbing, „Medienhelden“. Es richtet sich an Schüler der 1. bis 4. Klasse des Sekundarunterrichts und setzt vielfältige Methoden wie Rollenspiele und Schulung zur Empathie ein. Das Programm „Stark & Beschützt“ umfasst Schulungsangebote, Beratung, sowie Projekte für die Kinder und für das gesamte Schulteam.
2.    Ein multidisziplinäres Team aus Polizei, Jugendarbeitern und Medienpädagogen des Medienzentrums setzt seit 16 Jahren in der DG das nationale Präventionsprogramm MEGA+ („Meine eigene gute Antwort“) um. Es wurde an aktuelle Anforderungen eines Mobbing-Präventionskonzepts angepasst und richtet sich an Schüler des 5. und 6. Primarschuljahrs.
3.    Die Arbeitsgemeinschaft für Suchtvorbeugung und Lebensbewältigung (ASL) und die Polizei arbeiten im Rahmen des Projekts „Kommunikation, Prävention und Sicherheit“ (KoPs) zusammen. Die Präventionsarbeit über Rechte und Pflichten, Safer Use und Gefahren digitaler Gewalt umfasst für Schüler des 1. Sekundarschuljahrs auch die Themen Mobbing, Cybermobbing und Zivilcourage. Auch wird über die Anlaufstellen informiert.
4.    Der Jugend Infotreff bietet Schulworkshops zu jugendrelevanten Themen an, die auf einen interaktiven Austausch und spielerische Informationsvermittlung ausgerichtet sind. Dazu gehören aktuell vier Angebote im Bereich „Digitale Gewalt“, die jeweils zwei Schulstunden umfassen: Für Schüler des 1. bis 3. Sekundarschuljahrs gibt es die beiden Workshops „Cyberquest: Cyber-Mobbing, Prävention und Umgang“ – zur Sensibilisierung für die Gefahren von Cybermobbing und die Erarbeitung von Lösungen und eines positiven Online-Umfelds – und 2. „Künstliche Intelligenz verstehen“. Hier werden auch die Risiken von KI und deren Nutzung angesprochen. Für Schüler des 1. bis 7. Sekundarschuljahrs konzipiert sind die beiden Workshops „Digital Wellbeing“ mit Tipps zur gesunden Mediennutzung und „Sexting, Nudes & Co.“. Hier werden Risiken und die rechtlichen Konsequenzen von Sexting besprochen und Handlungsempfehlungen zur Prävention von Sexting vermittelt. Hierzu ergänzend gibt es auf der Webseite des Jugend Infotreffs Informationen zur Rechtslage zu Bildrechten im Internet.
5.    Das Jugendbüro bietet ebenfalls Workshops und Informationen zum Thema Sexting und anderen Präventionsthemen an. In der offenen und mobilen Jugendarbeit im Rahmen des Programms „4You(th)“ arbeiten die Jugendarbeiter auch an der Aufklärung und Enttabuisierung des Themas Cybermobbing und bieten den Jugendlichen Informationen und Unterstützung für den Umgang mit dem Thema an.
6.    Die AG Leuchtturm bietet zum Thema „Sexting“ - und wie man dazu ins Gespräch kommt - Workshops für den Jugend- und Sportbereich an.
7.    Schließlich hat der Rat der deutschsprachigen Jugend (RDJ) ein webbasiertes Informationsangebot zum Thema „Sexting“ eingerichtet – mit Flyern, Videos, Antworten zu oft gestellten Fragen, etc. Es richtet sich an Jugendliche und deren Eltern. Der Podcast Jugendfunk(t) am 18. März thematisierte im Rahmen des Programms „4You(th)“ Fragen eines respektvolles Miteinanders.
8.    Das Medienzentrum organisiert regelmäßig Sensibilisierungsveranstaltungen rund um das Thema Digitalkompetenz und KI. Das Thema Deep Fakes wurde vor ein paar Wochen in einem Gespräch zwischen dem BRF und dem Medienzentrum thematisiert: Medienkompetenz: Deep Fakes - BRF1 Radio

Gemäß Artikel 50 (4) der KI-Verordnung (Dieser Artikel gilt ab dem 2. August 2026) müssen Betreiber eines KI-Systems, das Bild-, Ton- oder Videoinhalte erzeugt oder manipuliert, die ein Deepfake sind, offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden. Bei Verstößen drohen Geldstrafen. Ich danke für Ihre Aufmerksamkeit!