Einblick in das Sicherheitsdrama von Roblox nach einem angespannten CEO-Interview

Das jüngste ROBLOX-CEO-Interview hat lange schwelende Zweifel an der Sicherheitskultur der Plattform in den Vordergrund gerückt. Roblox steht schon seit Jahren unter Beobachtung, aber die Zahlen haben diese Aufmerksamkeit noch verstärkt. Das Unternehmen zählt inzwischen rund 150 Millionen täglich aktive Nutzer, darunter viele Kinder, und verzeichnete eine frühere interne Zahl von mehr als 13.000 gemeldeten Fällen von Kinderausbeutung in einem einzigen Jahr.

Bei einem Auftritt im Tech-Podcast Hard Fork der New York Times wurde der Mitbegründer und Geschäftsführer von Roblox, David Baszucki, direkt nach Raubtieren gefragt, die es auf Kinder in dem Dienst abgesehen haben. Seine Entscheidung, dieses Problem als "eine Chance" zu bezeichnen, traf auf ungewöhnliche Weise zu, da es nicht isoliert, sondern vor dem Hintergrund von Klagen, Versäumnissen bei der Moderation und politischen Auseinandersetzungen auftrat, die das Vertrauen der Eltern bereits bis an die Grenzen strapaziert haben.

Drei US-Bundesstaaten - Louisiana, Kentucky und Texas - haben Klagen eingereicht, in denen behauptet wird, Roblox habe nicht genug für den Schutz von Minderjährigen getan. In mehr als 20 weiteren Fällen vor Bundesgerichten wird behauptet, dass die Plattform sexuelle Ausbeutung ermöglicht. Gleichzeitig hat Roblox eine KI-gesteuerte Altersschätzung und erweiterte Chat-Beschränkungen eingeführt und diese Tools als Beweis dafür angepriesen, dass das Unternehmen der gesamten Branche voraus ist.

Die Gastgeber von Hard Fork, Casey Newton und Kevin Roose, stellten ihre Fragen in diesem Zusammenhang. Als Newton fragte, wie er über das Problem der Raubtiere auf Roblox" denke, antwortete Baszucki:

"Wir sehen es nicht unbedingt nur als Problem, sondern auch als Chance. Wie können wir es jungen Menschen ermöglichen, gemeinsam zu bauen, zu kommunizieren und sich zu treffen? Wie können wir gleichzeitig die Zukunft der Kommunikation gestalten?" - David Baszucki.

Der Rest der Antwort machte deutlich, dass er eine Chance zur Innovation in der Moderation und im Kommunikationsdesign meinte. Die Formulierung machte jedoch eine der dunkelsten Realitäten jeder Kinderplattform zu einer Wachstumsherausforderung. Für Kritiker verstärkte sich der Verdacht, dass die Roblox-Führung die Sicherheit als ein weiteres technisches Problem betrachtet, das es zu optimieren gilt, und nicht als eine harte Grenze, die das Handeln des Unternehmens einschränken kann.

Während des gesamten ROBLOX-CEO-Interviews kam Baszucki immer wieder auf den Umfang zurück, sowohl als Erklärung als auch als Schutzschild. Er wies darauf hin, dass Roblox-Benutzer rund 11 Milliarden Stunden pro Monat spielen und verwies auf Steal a Brainrot, ein beliebtes Spiel, das im Sommer 25 Millionen gleichzeitige Spieler erreichte, als Beweis dafür, was die Infrastruktur der Plattform leisten kann. Auf die Frage, ob es für Raubtiere einfach sei, die Filter zu umgehen, lehnte er eine direkte Antwort ab und sagte stattdessen:

"Eines der wichtigsten Dinge, die wir tun, ist zu versuchen, die Leute auf unserer Plattform zu halten... wir versuchen immer, ihnen einen Schritt voraus zu sein." - David Baszucki.

Als Newton nachhakte und unverblümt fragte, ob er glaube, dass Roblox ein Raubtierproblem habe, gab Baszucki nicht zu, dass dies der Fall sei.

"Ich denke, wir leisten unglaubliche Arbeit bei der Innovation in Bezug auf die Anzahl der Leute auf unserer Plattform und die Stunden, indem wir uns wirklich in die Zukunft lehnen, wie das funktionieren wird." - David Baszucki.

Der Austausch hat die Spannungen deutlich gemacht. Auf der einen Seite steht ein Unternehmen, das fast zwei Jahrzehnte damit verbracht hat, Tools für nutzergenerierte Spiele und Communities zu entwickeln, und das sich nun stark auf KI-Filterung und Altersschätzung stützt, um Risiken zu managen. Auf der anderen Seite steht eine wachsende Zahl von Eltern, Aufsichtsbehörden, Spieleentwicklern und Interessengruppen, die sagen, dass die grundsätzliche Frage unbeantwortet bleibt: Ist das genug, und wer darf das entscheiden?

Diese Frage hat sich durch Fälle jenseits des Podcasts noch verschärft. Roblox hat vor kurzem den YouTuber Schlep gesperrt, der sich ein großes Publikum aufgebaut hat, indem er in Roblox-Räumen Raubtierjagden" inszenierte. Seine Videos, die angeblich zu mehreren Verhaftungen geführt haben, wurden entfernt, und sein Konto wurde gemäß den Roblox-Regeln gegen Selbstjustiz geschlossen. Unterstützer haben sich hinter dem Hashtag #freeschlep versammelt und argumentieren, dass seine Arbeit die Fehler in den eigenen Systemen des Unternehmens aufzeigt. Für sie klang es wie eine Fehlinterpretation des Augenblicks, als der Geschäftsführer die Raubtierkrise als "Chance" bezeichnete, nur Tage nachdem er einen der sichtbarsten, wenn auch umstrittenen Wachhunde entlassen hatte.

Auch der juristische Druck nimmt zu. Law By Mike, ein beliebter YouTuber und praktizierender Anwalt, hat öffentlich angekündigt, dass er wegen angeblicher Lücken im Kinderschutz rechtliche Schritte gegen Roblox einleiten will. Sein Engagement ist von Bedeutung, da er sich in zwei Welten bewegt: Er versteht die Mechanismen der Plattformverwaltung und spricht dieselbe Zielgruppe von Eltern und Teenagern an, die Roblox als soziales Gemeingut betrachten. Zusammen mit den staatlichen und bundesstaatlichen Klagen vergrößert sein Vorstoß die Front, an der Roblox seine Bilanz verteidigen muss.

Im Hard Fork-Interview versuchte Baszucki, den Rahmen vom Krisenmanagement zur langfristigen Architektur zu verschieben. Er beschrieb das neue System zur Schätzung des Alters im Gesicht - ein Video-Selfie, das verwendet wird, um das Alter eines Benutzers einzuschätzen, bevor er ihn zum Chatten zulässt - als ein weiteres Signal in einem Stapel, der auch Verhaltensdaten und selbstberichtete Altersangaben umfasst.

"Wir machen bereits einen Haufen Dinge: Wir haben sehr, sehr gute Textfilter, es gibt keine Bildfreigabe, wir machen eine ganze Reihe von Überwachungen. Aber wenn wir dem noch ein weiteres Signal hinzufügen, können wir wirklich gute Entscheidungen treffen." - David Baszucki.

Er argumentierte, dass die Plattform in der Vergangenheit ein gewisses Wachstum gegen Sicherheit eingetauscht hat, indem sie Text stark gefiltert hat, wobei er sich auf das alte Meme des Roblox-Chats berief, der in "Hashtag, Hashtag, Hashtag" zusammenbrach, wenn verbotene Wörter blockiert wurden. Mit Hilfe von KI können die Filter präziser und widerstandsfähiger gegen feindliche Taktiken werden, z. B. wenn Nutzer versuchen, Kontaktdaten in verschlüsselten Phrasen zu verschlüsseln.

Der Podcast, der im Rahmen des Podcast-Portfolios der New York Times produziert wird, blieb nicht lange auf dieser technischen Schiene. Roose brachte einen Bericht von Hindenburg Research aus dem Jahr 2024 zur Sprache, in dem Roblox beschuldigt wurde, "die Sicherheit von Kindern zu gefährden, um den Investoren Wachstum zu melden", und der auf reduzierte Ausgaben für Vertrauen und Sicherheit hinwies. Baszucki wies die Firma mit einem Lachen zurück. "Spaß. Lasst uns so weitermachen", sagte er und wies darauf hin, dass Hindenburg inzwischen das Geschäft aufgegeben habe und dass die Umstellung auf KI-Bewertungssysteme dem Wechsel von handgefertigten Autos zu einem Fließband gleichkomme. Es gehe nicht darum, an der falschen Stelle zu sparen, sondern darum, bessere Werkzeuge einzusetzen.

Diese Betonung der KI bringt Roblox in eine bekannte Kategorie. Soziale Netzwerke haben einen Großteil der 2010er Jahre damit verbracht, zu versprechen, dass automatisierte Systeme Missbrauch und Fehlinformationen in großem Umfang bereinigen würden, nur um dann festzustellen, dass dem maschinellen Lernen harte Grenzen gesetzt sind, was es zuverlässig beurteilen kann. Roose und Newton erinnerten Baszucki an diese Geschichte. Er antwortete, dass die internen Messwerte von Roblox zeigen, dass sich die Filterung und Erkennung mit dem Einsatz neuer Modelle verbessert, und dass die "verblüffende" Größe der Plattform diese Art der Automatisierung nicht nur effizient, sondern auch notwendig macht.

Sogar innerhalb der Spiele ist Roblox' Moderationshaltung unter Druck geraten. Interessengruppen wie Women In Games, Out Making Games und BAME in Games haben kürzlich einen offenen Brief veröffentlicht, in dem sie den Entwurf der Regeln für Spieleautoren in Bezug auf "sensible Themen" kritisieren. Die kürzlich von Roblox vorgeschlagenen Erstellerrichtlinien zu "sensiblen Themen" stellen einen Rückschritt sowohl für den kreativen Ausdruck als auch für die soziale Gerechtigkeit dar", heißt es in dem Brief, der davor warnt, dass die Behandlung von Themen wie Geschlechtergleichstellung, reproduktive Rechte und Rassengerechtigkeit als optionale oder riskante "sensible" Bereiche die Gefahr birgt, dass Geschichten, die für junge Spieler wichtig sind, untergehen. - Frauen in Spielen, Out Making Games und BAME in Spielen.

Diese Kritik konzentriert sich nicht auf Raubtiere oder Alterskontrollen, aber sie spricht dieselbe grundlegende Sorge an: Wer legt die Grenzen dessen fest, was junge NutzerInnen sehen und diskutieren können, und wem diese Entscheidungen nützen.

Die Hard Fork-Konversation verlagerte sich schließlich auf Polymarket, eine auf Kryptowährungen basierende Prognoseplattform, die Baszucki als ein starkes Informationssignal lobte. Auf die halb im Scherz gestellte Frage von Roose, ob er jemals einen Prognosemarkt in Roblox selbst einrichten würde, antwortete Baszucki mit "Ja", räumte dann aber die rechtliche Komplexität ein. Auf die Frage, ob es eine "schreckliche Idee" wäre, Prognosemärkte in ein Spiel für Kinder zu verwandeln, antwortete er:

"Nun, ich denke, es ist eine brillante Idee, wenn es auf legale und lehrreiche Weise gemacht werden kann... einfach ein Spiel mit dem Namen Dress to Impress Predictor, bei dem es nicht darum geht, das Geld von Kindern zu bekommen oder so etwas. Ich wäre ein großer Fan davon." - David Baszucki.

Für ein Unternehmen, das bereits wegen seines Umgangs mit Minderjährigen unter Beobachtung steht, ist die Idee, eine spielerische Vorhersage-Engine in Roblox zu entwickeln, auch ohne direkten finanziellen Einsatz nur schwer von den breiteren Debatten über Lootboxen, Spielmechanismen und digitalen Zwang zu trennen.

Newton bemerkte an mehreren Stellen, dass das Gespräch angespannt war. Baszucki betonte, er sei nicht frustriert, sondern nur überrascht, dass der Schwerpunkt auf der Sicherheit und nicht auf leichteren Branchenthemen liege, und beschrieb die Lage von Roblox wiederholt als eine Situation mit hoher Verantwortung", die auch eine unglaubliche Chance" darstelle. Er wies das Bild eines Geschäftsführers zurück, der seine Tage damit verbringt, über die Schulter zu schauen, und argumentierte, dass das Unternehmen "vom ersten Tag an" auf Sicherheit bedacht war und sogar das Wachstum in den ersten Wochen gestoppt hat, um grundlegende Moderationswerkzeuge zu entwickeln.

Diese Zuversicht hielt bis zum Ende des ROBLOX-CEO-Interviews an, als Roose eine persönliche Frage stellte: ob Roblox sicher genug sein würde, wenn sein eigener kleiner Sohn es spielen wollte. Baszucki ging weiter als ein einfaches Ja.

"Roblox ist im Moment eine fantastische Plattform für Ihr Kind", sagte er und bot an, bei Bedarf interne Metriken unter Geheimhaltung zu zeigen und fügte hinzu, dass die Eltern "die letzte Instanz der Verantwortung" bleiben. - David Baszucki.

Die Antwort fasst die Haltung des Unternehmens in Miniaturform zusammen. Roblox positioniert sich als Vorreiter, der bereits sicherer ist als viele seiner Konkurrenten und der bereits Tools einsetzt, die andere irgendwann übernehmen werden. Die ungelöste Frage ist, ob diese Selbsteinschätzung mit den Erfahrungen von Familien übereinstimmt, die Grooming- oder Ausbeutungsfälle auf der Plattform erlebt haben, oder mit denen von Entwicklern und Befürwortern, die sagen, dass ihre eigenen Warnungen beiseite geschoben wurden, bis Klagen und Schlagzeilen eine Reaktion erzwangen.

Nichts von alledem löscht aus, was Roblox aufgebaut hat. Die Plattform spielt eine wichtige Rolle in der breiteren Online-Spiele-Wirtschaft: Sie ist sowohl ein kreativer Werkzeugkasten als auch ein riesiges soziales Zentrum, in dem Kinder lernen, wie Online-Gemeinschaften funktionieren - im Guten wie im Schlechten. Die Hard Fork-Episode zeigt, wie fragil diese Position sein kann, wenn das Vertrauen wackelt. Baszuckis Äußerungen brachten keine neuen Fakten über die Sicherheitssysteme von Roblox, aber sie zeigten, wie die Unternehmensführung ihre Prioritäten einstuft. Innovation, Größe und eine langfristige Vision für die Plattform stehen im Mittelpunkt, während das klare Eingeständnis von Schäden eher am Rande steht.

Lesen Sie auch: Roblox überschreitet die Marke von 100 Millionen täglich aktiven Nutzern - ein Meilenstein, der verdeutlicht, wie schnell das Publikum der Plattform gewachsen ist und warum jede Entscheidung in Bezug auf Sicherheit, Moderation und Richtlinien jetzt Konsequenzen hat, die weit über ein einzelnes ROBLOX-CEO-Interview hinausgehen.