Von diesen sozialen Netzwerken sollten Sie Ihre Kinder fernhalten
Zuletzt aktualisiert am 13. August 2023 von Marina Meier
Das “App Danger Project“, ein von Brian Levine, einem Informatiker der University of Massachusetts Amherst, ins Leben gerufenes Projekt, nutzt künstliche Intelligenz, um Benutzerbewertungen von sozialen Netzwerk-Apps auf dem App Store und Google Play Store zu scannen.
Durch das Evaluieren bestimmter Begriffe wie “Kinderpornografie” oder “Pädophiler” in diesen Rezensionen soll die Gefahr für Kinder ermittelt werden. “Es gibt Bewertungen, die gefährliches Verhalten beschreiben, aber sie gehen unter”, sagt Levine.
Erschreckende Ergebnisse aus der Bewertung
Von den 550 sozialen Netzwerk-Apps, die im App Store und Google Play Store angeboten werden, hatten 20% zwei oder mehr Beschwerden über Inhalte, die als “kindersexuelles Missbrauchsmaterial” charakterisiert wurden. Ganze 81 Apps hatten sieben oder mehr solcher Beschwerden. Apple und Google müssen laut Levine die Eltern besser über solche Apps informieren.
Drei Apps, $30 Millionen und besorgniserregende Berichte
Trotz mehrerer Nutzerberichte über sexuellen Missbrauch generierten im letzten Jahr drei Apps – Hoop, MeetMe und Whisper – Umsätze in Höhe von 30 Millionen Dollar. Das Justizministerium beschrieb diese Apps in mehreren Strafverfahren als “Werkzeuge”, mit denen Nutzer Kinder dazu bringen, ihnen sexuelle Bilder zu senden oder sich mit ihnen zu treffen.
Stellungnahme der App Stores
Ein Google-Sprecher teilte mit, dass die vom App Danger Project aufgelisteten Apps untersucht wurden und kein Beweismaterial für kindersexuellen Missbrauch gefunden wurde. Apple wiederum untersuchte die betreffenden Apps und entfernte zehn, ohne deren Namen preiszugeben. Snapchat wurde auch als “unsicher für Kinder” auf der Liste des App Danger Projects geführt.
Reaktionen der betroffenen Apps
Hoop, das in 176 seiner 32.000 Bewertungen seit 2019 sexuellen Missbrauch erwähnte, hat mittlerweile ein neues Inhaltsmoderationssystem eingeführt. Der CEO von Hoop, Liath Ariche, betonte, dass sich die Situation “drastisch verbessert” habe. MeetMe gab an, Missbrauch oder Ausbeutung von Minderjährigen nicht zu tolerieren, während Whisper nicht auf Kommentaranfragen reagierte.
Ein zu sensibles Projekt?
WhatsApp und Snapchat sind ebenfalls auf der Website des App Danger Projects verzeichnet und als “unsicher für Kinder” eingestuft. Man könnte argumentieren, dass das Projekt überempfindlich reagiert. Aber wenn es um Kinder geht würden wohl viele der Aussage zustimmen, dass Nulltoleranz der einzige Weg ist, um sie zu schützen.
