Roblox und Discord wegen Mängeln bei der Kindersicherheit unter Beschuss

Zwei der größten Spielplätze im Internet, Roblox und Discord, stehen offiziell in der Kritik, wenn es um die Sicherheit von Kindern geht - und es sieht so aus, als könnte es ungemütlich werden.

Staatsbeamte in Florida und New Jersey leiten ernsthafte Untersuchungen darüber ein, wie diese Plattformen ihre jungen Nutzer schützen (oder nicht schützen). Roblox mit seinen 85 Millionen täglichen Spielern und Discord mit seinen 200 Millionen monatlichen Nutzern stehen nun unter juristischem Druck und müssen erklären, wie sie die Kinder tatsächlich schützen, anstatt es nur zu versprechen.

"Der Generalstaatsanwalt von Florida, James Uthmeier, hat die Roblox Corp. vorgeladen, um Informationen darüber zu erhalten, wie das Unternehmen an Kinder vermarktet und wie es gegen Raubtiere vorgeht."

Im Mittelpunkt steht die Frage, ob Roblox genug tut, um Interaktionen zwischen Kindern und potenziellen Tätern zu verhindern. Laut Uthmeiers Büro wollen sie Quittungen: Moderationsrichtlinien, wie die Altersüberprüfung funktioniert (oder nicht) und wie leicht es für Kinder ist, die elterliche Kontrolle zu umgehen.

Roblox reagierte und sagte:

"Wir beabsichtigen, mit dem Büro des Generalstaatsanwalts zusammenzuarbeiten und freuen uns darauf, all die Arbeit zu teilen, die Roblox leistet, um die Sicherheit der Nutzer zu gewährleisten."

Eine gute PR-Aussage, aber die öffentliche Meinung ist bereits in Aufruhr - und das nicht auf eine gute Art.

Bild: Discord

Discord-Probleme

Wenn Roblox in der Hitze steht, könnte Discord noch näher am Feuer stehen.

Der Generalstaatsanwalt von New Jersey, Matthew Platkin, hat Discord gerade verklagt und wirft dem Unternehmen vor, Familien über die Sicherheit seiner App getäuscht zu haben. In der Klage wird behauptet, dass Discord Schutzfunktionen wie Nachrichtenfilter versprochen, aber nicht eingehalten hat. Die Kinder waren immer noch schrecklichen Dingen ausgesetzt - wir sprechen von Material über sexuellen Kindesmissbrauch, gewalttätigen Inhalten und sogar terrorbezogenen Medien.

"Discord hat Nutzer und Eltern in die Irre geführt, indem es seine Sicherheitsfunktionen übertrieben hat und es versäumt hat, Nachrichten auch zwischen Freunden zu scannen", heißt es in der Klageschrift.

Igitt.

In der Klage wird sogar behauptet, dass Discord sein eigenes Mindestalter (angeblich 13+) nicht richtig durchsetzt, so dass es für jüngere Kinder sehr einfach ist, durch die Maschen zu schlüpfen.

Die offizielle Antwort von Discord? Ziemlich defensiv:

"Angesichts unserer Zusammenarbeit mit dem Büro des Generalstaatsanwalts sind wir überrascht von der Ankündigung, dass New Jersey heute eine Klage gegen Discord eingereicht hat."

Übersetzung: "Moment, ihr verklagt uns? Wir dachten, wir wären gut?"

Warum es jetzt auffliegt?

Beide Plattformen haben versucht, die Probleme zu lösen, zumindest auf dem Papier.

Roblox gibt an, allein im Jahr 2024 40 Sicherheitsupdates herausgebracht zu haben, darunter ein großes im November, das Kindern unter 13 Jahren den Zugang zu sozialen Räumen wie virtuellen Clubs verwehrt. Der CEO von Discord, Jason Citron, musste letztes Jahr vor dem Kongress zum Thema Kindersicherheit aussagen - genau zu dem Zeitpunkt, als sich das Unternehmen für einen möglichen Börsengang rüstete.

Aber für viele Menschen (und viele Eltern) ist das zu wenig und zu spät.

Bloombergs Businessweek berichtete letzten Sommer, dass Roblox ernsthafte Probleme hat, Kinderschänder von seiner Plattform fernzuhalten. Seit 2018 hat die US-Polizei mehr als zwei Dutzend Personen festgenommen, die beschuldigt werden, Opfer, die sie über Roblox kennengelernt haben, zu pflegen oder zu missbrauchen. Und Insider sagen, dass das Problem riesig ist, teilweise wegen der schieren Größe dieser Plattformen.

"Mitarbeiter von Roblox beschrieben das Ausmaß der Herausforderung, die riesige Nutzerbasis des Unternehmens zu überwachen.

Selbst mit all der KI, den Mods und den Meldesystemen schlüpfen schlechte Spieler immer noch durch.

"Roblox, Discord morgen"

Sowohl Roblox als auch Discord stehen vor ernsthaften rechtlichen Problemen, und das öffentliche Vertrauen steht definitiv auf dem Spiel.

Wenn Roblox nicht nachweisen kann, dass seine Systeme hieb- und stichfest sind, riskiert das Unternehmen weitere Regulierungen (und verärgerte Eltern, die ihre Kinder abmelden). Für Discord könnte der Rechtsstreit nicht nur den Börsengang verzögern, sondern auch den Ruf des Unternehmens beschädigen, das gerade versucht, sich über die Spielerkreise hinaus zu einer breiteren sozialen Plattform zu entwickeln.

Außerdem stellt sich die Frage der Verantwortlichkeit. Wie verantwortungsbewusst sollten Plattformen sein, die sich eher wie Spielplätze als wie traditionelle soziale Netzwerke verhalten? Und wie realistisch ist es, Räume mit Hunderten von Millionen Nutzern vollständig zu überwachen?

Diese Fälle könnten wichtige Präzedenzfälle dafür schaffen, wie Apps in Zukunft die Sicherheit von Kindern handhaben - nicht nur für Roblox und Discord, sondern für das gesamte Internet.

Hier geht es nicht nur darum, dass zwei Unternehmen in Schwierigkeiten geraten sind. Es geht darum, wer dafür verantwortlich ist, wenn virtuelle Spielplätze gefährlich werden.