Zertifizierung KI gestützter Bewertungssysteme im Jugendmedienschutz startet

#Zertifizierung KI gestützter #Bewertungssysteme im #Jugendmedienschutz startet

• #FSF, #FSM und #KJM schließen Modellversuch erfolgreich ab – interdisziplinäre Pilotgruppe entwickelt Qualitätsstandards – FSF übernimmt unabhängige #Stichprobenkontrolle

#Berlin, 14. Oktober 2026

Der Modellversuch der Freiwilligen Selbstkontrolle Fernsehen (FSF) und der Freiwilligen Selbstkontrolle Multimedia Diensteanbieter (FSM) unter Begleitung der Kommission für Jugendmedienschutz (KJM) zur Zertifizierung automatisierter und KI gestützter Bewertungssysteme (ABS) ist erfolgreich abgeschlossen. Auf Grundlage von eigens entwickelten Qualitätskriterien und Ergebnissen der erfolgreichen Pilotprüfung bieten FSF und FSM künftig ein dauerhaftes Zertifizierungsverfahren für Anbieter an. Als erstes System wurde das KI  gestützte Bewertungssystem »Merm:ai:d« von »RTL Deutschland« zertifiziert.

Automatisierte Systeme unterstützen Unternehmen zunehmend bei der Altersbewertung audiovisueller Inhalte. Der Modellversuch konnte klären, nach welchen Maßstäben sich ihre Qualität und ihr Einsatz verlässlich beurteilen lassen. Die Entwicklung der Kriterien übernahm die interdisziplinär besetzte ABS Pilotgruppe mit Wissenschaftlern aus den Bereichen #Informatik, #Medienethik und #Medienrecht. Begleitet wurde die Arbeit von einer #Expertengruppe #Jugendmedienschutz, in der die Kommission für Jugendmedienschutz (KJM) und die Bundeszentrale für #Kinderschutz und #Jugendmedienschutz (#BZKJ) vertreten waren.

Ein zentrales Ergebnis: Es zählt nicht allein die technische Leistungsfähigkeit. »Wer automatisierte Bewertungssysteme prüft, darf nicht nur auf die Technik schauen«, erklärt Dr. Stephan Dreyer, Mitglied der ABS Pilotgruppe. »Entscheidend ist das Zusammenspiel aus technischer Leistungsfähigkeit, fachkundigen Menschen und verlässlichen Prozessen im Unternehmen. Erst dieser Gesamtblick macht Qualität nachvollziehbar und überprüfbar.«

Einen wesentlichen Bestandteil der Pilotprüfung bildete der von der FSF durchgeführte Stichprobenabgleich, in dem ein Pool von Sendungen unterschiedlicher Genres und Sendezeitschienen sowohl von der #KI als auch von menschlichen Prüfenden bewertet wurde. »Der systematische Vergleich unserer Prüfergebnisse mit Ergebnissen von ›Merm:ai:d‹ und den finalen Jugendschutzentscheidungen von RTL zeigt eine hohe Übereinstimmung. Die Kontextualisierung durch menschliche Expertise bleibt dabei relevant« sagt Brigitte Zeitlmann, Geschäftsführerin Programmprüfung der FSF.

»Der Modellversuch zeigt, dass technologische Innovation und wirksamer Jugendmedienschutz Hand in Hand gehen können«, erklärt Martin Drechsler, Geschäftsführer der FSM. »Die entwickelten Standards schaffen Transparenz und ermöglichen es Anbietern, KI Systeme verantwortungsvoll und nachvollziehbar einzusetzen.« Als rechtlicher Bezugsrahmen des Modellversuchs dient der Jugendmedienschutz Staatsvertrag (»#JMStV«). Er verpflichtet Anbieter von #Rundfunk und #Telemedien, dafür Sorge zu tragen, dass #Kinder und #Jugendliche entwicklungsbeeinträchtigende Angebote üblicherweise nicht wahrnehmen (Paragraph 5 »JMStV«) und sieht für Jugendschutzbeauftragte die erforderliche Fachkunde vor (Paragraph 7, Absatz 5, »JMStV«).

»Mit dem erfolgreichen Abschluss des Modellversuchs haben wir die Grundlage dafür gelegt, dass Anbieter Inhalte künftig KI unterstützt nach transparenten Kriterien klassifizieren können«, sagt Claudia Mikat, Geschäftsführerin der FSF. »Jetzt liegt es an den Selbstkontrolleinrichtungen und der KJM, den rechtssicheren Rahmen für die Aufsicht über diese neuen Bewertungssysteme im ›JMStV‹ zu verankern.«

Eva Maria Sommer, Vorsitzende der KJM, begrüßt den Modellversuch als wichtigen Schritt. »Mit den entwickelten Qualitätsstandards entsteht ein belastbarer Rahmen für die Bewertung automatisierter und KI  gestützter Systeme«, sagt Sommer. »Darauf können wir aufbauen. Automatisierte Klassifizierungssysteme verdienen nur dann Vertrauen, wenn ihre Zuverlässigkeit laufend überprüft wird und die KJM auch im Einzelfall eingreifen kann.«

Anbieter können ihre automatisierten und KI gestützten Bewertungssysteme bei der FSF sowie der FSM nach den entwickelten Standards prüfen und zertifizieren lassen.

Mitglieder der ABS Pilotgruppe

Prof. Dr. Oksana Arnold, Fachhochschule Erfurt, Dr. Stephan Dreyer, Leibniz Institut für Medienforschung, Hans Bredow Institut, Prof. Dr. Judith Simon, Universität Hamburg …

Mitglieder der Expertengruppe Jugendmedienschutz

Dr. Annika Baumann, Kommission für Jugendmedienschutz (KJM), Henning Mellage, Landesanstalt für Medien NRW, Lukas Neuerburg, Bundeszentrale für Kinderschutz und Jugendmedienschutz (BZKJ), Katharina
Uharek Langhanke, Medienanstalt Berlin Brandenburg (»#mabb«) …

Mehr …

#NOW #N #KWS #ROSA #OWL #GT #GGC #GOGREENCHALLENGE #VISITGÜTERSLOH #VISITGT #NIEWIEDERISTJETZT #MARIECHENMARKT