USK – KI-Unterstützung bei Alterseinstufung von Spielen und Apps

In der heutigen Zeit steht Prozess-Optimierung und Qualitätssicherung in vielen Branchen im Vordergrund. Auch was die Alterseinstufung von Spielen und Apps für Kinder angeht, möchte die Unterhaltungssoftware Selbstkontrolle (USK) auf innovativere Mittel setzen. Aus diesem Grund hat die Organisation zur Kontrolle der Altersfreigabe von Videospielen und Apps selbst ein Tool entwickelt, welches dem Unternehmen in Zukunft unter die Arme greifen soll. Hierbei setzt USK auf ein Tool mit künstlicher Intelligenz, welches automatisiert Fehleinstufung für erneute Überprüfungen ausfinden machen soll. Was das Tool kann, wie es funktioniert und ob es umgangen werden kann.

Der Jugendschutz steht bei Spielen und Apps immer an erster Stelle, weshalb es spannend abzuwarten ist, inwiefern die ATLAS Software es den Publishern erschweren wird. ©Creative Christians/Unsplash

ATLAS – die neue Software im Bereich Jugendschutz

Für die USK Geschäftsführer Elisabeth Secker gilt die eigens entwickelte Software ATLAS als voller Erfolg. Bereits seit dem Jahr 2019 wurde ein Modellversuch gestartet, während mittlerweile die erste Testphase erfolgreich abgeschlossen werden konnte. Die IARC, welche 2013 gegründet wurde und ein Zusammenschluss aus Jugendschutzorganisationen verschiedener Länder ist, gilt als begeistert von der neuen Software. Diese soll nun genutzt werden, um Online-Spiele und Apps in mehreren Ländern neu zu bewerten und mögliche Gefahrenquellen schnell zu erkennen. Somit können die Jugendschutzorganisationen aufgrund der Zuhilfenahme der künstlichen Intelligenz schnell handeln, während zeitgleich deutlich mehr Verstöße gegen die Alterseinstufung erkannt werden.

Für USK und IARC gilt die neue KI-Software als voller Erfolg und ideale Ergänzung zu menschlichen Kontrollen. Heutzutage gilt es als nahezu unmöglich, alle neuen Online-Spiele und Apps auf ihre Alterseinstufung zu überprüfen. Eines ist jedoch sicher, denn zukünftig werden deutlich mehr fehlerhafte Alterseinstufung erkannt und aufgrund dessen auch genauer überprüft.

Wie läuft die USK-Alterseinstufung ab?

Um zu verstehen, wie die Software ATLAS vorgeht, müssen erst einmal die Prüfungsrichtlinien der USK offengelegt werden. Während Videospiele für den PC oder die Konsolen von USK-Mitarbeitern selbst getestet wird, gelten bei Apps und Online-Only-Spielen, welche in den App-Stores der verschiedenen Plattformen angeboten werden, andere Kriterien. Dort werden die Apps nicht von Mitarbeitern der USK überprüft, denn vielmehr bleibt dieses Verfahren dem Publisher selbst überlassen. Diese müssen anhand eines Fragebogens ihre eigenen Anwendungen bewerten und entsprechend einstufen. Folge dessen kommt es immer wieder vor, dass App-Publisher selbst nicht 100% ehrlich sind und ihre Spiele vorsätzlich falsch Kennzeichnen.

Für die deutsche Jugendschutzorganisation USK gilt es aufgrund der unglaublichen Vielzahl an täglich neuen Apps als unmöglich, alle auf ihre korrekte Alterseinstufung zu überprüfen. Folge dessen findet die Überprüfung seitens der USK lediglich stichprobenartig oder auf Hinweis Dritter statt. Für die manuelle Qualitätssicherung ist es unmöglich, alle Apps individuell zu prüfen. Aus diesem Grund gilt die KI-Software als ideale Ergänzung der manuellen Qualitätssicherung, da sie falsch eingestufte Inhalte selbst ausfindig machen kann.

Wie funktioniert die Software ATLAS?

Die Software arbeitet mit 2 Tools, welche dabei helfen sollen, Verstöße gegen den Jugendschutz schnell zu identifizieren. Hierbei kommt zum einen das Image Recognition Tool zum Einsatz, welches die verwendeten Bilder im Online-Store auf ihr Gefahrenpotential überprüft. Außerdem kommt auch das Natural Language Processing Tool zum Einsatz, womit die Texte und deren Inhalte im App-Store genauer überprüft werden. Hierbei lernt ATLAS mit der Zeit dazu, womit sich die korrekte Trefferquote auf Dauer signifikant verbessert.

Nichtsdestotrotz werden auch stimmen der Kritiker-Seite laut, da das Tool auch Mängel aufweist. Hierbei kann es, ähnlich wie beim YouTube-Upload-Filter, zu signifikanten Fehleinschätzungen kommen. Hierbei könne die von USK entwickelte KI nicht zwischen Blut, roter Farbe und einer Tomate auf den Bildern unterscheiden. Außerdem nutzen Publisher nach wie vor verschiedene Tricks, um die Tools der KI-Software zu umgehen. Hierbei werden verwendete Bilder und Screenshots verpixelt oder auch spezielle Synonyme in der App-Beschreibung genutzt.

Kein Grund zur Sorge durch Fehleinschätzungen

Die Software scannt verschiedene App-Stores und versucht automatisiert mögliche Gefahrenpotentiale zu erkennen. Hierbei wird eine als solche eingestufte App an einen Mitarbeiter der USK weitergeleitet, um diese manuell zu überprüfen. Dort kann der USK-Mitarbeiter letzten Endes feststellen, ob es sich um einen tatsächlichen Verstoß gegen die Altersfreigabe und Jugendschutzrichtlinien handelt oder nicht. Dementsprechend werden Dinge dann korrekt eingestuft, sodass sich Publisher und App-Entwickler bei korrektem Einhalten der Jugendschutz-Vorschriften keine Sorgen machen müssen.