Warum der ehemalige KI-Chef von Take-Two die Verteidigung generativer KI aufgegeben hat

Take-Two entließ im April im Zuge einer Umstrukturierung sein gesamtes KI-Team – ein Schritt, der angesichts der branchenweiten Begeisterung für generative KI zunächst seltsam anmutete. Der Haken an der Sache: Die meisten der Entlassenen arbeiteten gar nicht an generativer KI. Das Team hatte 2019 bei Zynga als Forschungs- und Entwicklungsgruppe begonnen, drei Jahre bevor ChatGPT die Öffentlichkeit mit dem Begriff KI und großen Sprachmodellen in Verbindung brachte, und blieb auch nach der Übernahme von Zynga durch Take-Two im Jahr 2022 bestehen. Der ehemalige Leiter, Dr. Luke Dicken, äußerte seine Bedenken in einem Interview mit GamesIndustry.biz.

Die Gruppe arbeitete als eine Art Geheimlabor im Keller des Zynga-Hauptsitzes in San Francisco und erforschte, wie KI als weites Feld die Spieleentwicklung beeinflussen könnte. Dickens Bezugspunkt waren Tabletop-Rollenspiele. Er argumentiert, dass ein guter Spielleiter die Wünsche der Spieler erkennt und die Spielsitzung entsprechend anpasst, und dass dieselbe Logik auch ein Videospiel spontan prägen könnte. Das Team entwickelte ein System mit maschinellem Lernen, das Profile erstellte und rund 40 Kennzahlen pro Spieler erfasste. Aus diesem Ansatz entstand das Spiel „Spell Forest“ aus dem Jahr 2020, das laut Dicken die These bestätigte, indem es durch die veränderte Spielerfahrung die wichtigsten Geschäftszahlen beeinflusste.

Die Veröffentlichung von ChatGPT im Jahr 2022 veränderte die Aufgaben des Teams grundlegend. Als sich herausstellte, dass Nutzereingaben als Trainingsdaten dienen konnten, übertrug Zynga der Gruppe die Verantwortung für die generative KI im gesamten Unternehmen. Ihre Hauptaufgaben bestanden darin, Mitarbeiter zu schulen und Tools zu genehmigen. Von den 25 Teammitgliedern arbeiteten nur drei oder vier an der generativen KI; die übrigen beschäftigten sich weiterhin mit KI im weiteren Sinne. Die Zuständigkeit wurde später auf das gesamte Unternehmen Take-Two ausgeweitet, bevor die Gruppe dieses Jahr aufgelöst und ihre Aufgaben auf andere Teams verteilt wurden.

Dicken spricht nicht wie jemand, der bis vor Kurzem die Leitung der KI-Abteilung innehatte. Er beschreibt generative KI eher als etwas, dessen Management er als moralische Verpflichtung empfand, denn als eine Technologie, an die er glaubte.

„Generative KI ist nicht etwas, wofür ich mich jemals besonders begeistert habe. Ich denke, es besteht eine moralische Verpflichtung, dafür zu sorgen, dass sie bestmöglich gesteuert wird, aber auch unter der Voraussetzung, dass für jedes große Unternehmen in den Jahren 2025/2026 keine generative KI die falsche Antwort ist, die bei vielen Leuten für Unmut sorgen wird.“

— Luke Dicken

Seine Einwände betreffen drei Bereiche: Ethik, Recht und Wirtschaft. Er verweist auf die im Gerichtsverfahren offengelegten Informationen, wonach Midjourney eine Liste von Künstlern führte, deren Werke die Modelle trainierten, und gibt an, einige der darauf aufgeführten Personen zu kennen. Er bezweifelt die Qualität der Ergebnisse und bezeichnet LLMs als einen zum Mittelwert tendierenden Vorhersagealgorithmus für das nächste Wort. Ein guter Programmierer, so argumentiert er, werde genauso wie ein schwacher zu mittelmäßiger Arbeit verleitet. Er weist außerdem darauf hin, wie wenig nötig ist, um ein optimiertes Modell zu zerstören: Eine einzige Änderung an den Trainingsdaten breitet sich kaskadenartig im Netzwerk aus und macht einen Anwendungsfall zunichte, der gestern noch funktionierte.

Sein Argument der Regression zum Mittelwert erscheint mir hier am hilfreichsten, da es das Marketing von der messbaren Leistung der Tools trennt. Die Take-Two-Aktie stieg diese Woche nach der Ankündigung der Vorbestellungen für GTA 6 um 5%, und genau diese Diskrepanz zwischen einem handgefertigten Rockstar-Produkt, für das Investoren einen Aufpreis zahlen, und der durchschnittlichen Leistung eines LLM ist der Spannungsbogen, den Dicken immer wieder anspricht.

Es gibt jedoch einen Vorteil, den er dem Hype zuschreibt. Vor fünf Jahren erntete er nur verständnislose Blicke, als er einen Algorithmus zur Levelgenerierung vorstellte; heute nickt derselbe Raum zustimmend bei fast allem, was mit KI zu tun hat.

„Es hat die Menschen empfänglicher für Gespräche darüber gemacht, was traditionelle Techniken ihnen vor Jahren hätten helfen können. Sie sind eher geneigt zu glauben, dass so etwas noch möglich ist.“

— Luke Dicken

Die Sorge besteht darin, was passiert, wenn die Blase platzt. Strauss Zelnick hat GTA 6 als ein Spiel angepriesen, das „noch nie dagewesen“ sei – eine ambitionierte Entwicklung, die Jahre und menschliches Können erfordert, nicht statistische Durchschnittswerte. Dicken befürchtet hingegen das Gegenteil: dass ein Platzen der Blase die gesamte Branche, einschließlich traditioneller Methoden, von KI abschreckt. Ich denke, diese Befürchtung ist berechtigt, da die Gegenreaktion selten die nützlichen von den überbewerteten Werkzeugen trennt. Er zitiert Ed Zitrons Argument, dass die Wirtschaftlichkeit des Booms nicht gegeben sei, und kommt zu dem Schluss, dass die Antwort aus ethischer, rechtlicher und wirtschaftlicher Sicht „Nein“ lautet, während die Ausgaben trotzdem weitergehen.

„Meine Sorge ist, dass generative KI die Quelle vergiftet. Ich glaube nicht, dass sie genügend Raffinesse und Nuancen bietet, um die traditionellen Ansätze zu erhalten. Für LLM-Absolventen sind wir bereits in das Tal der Ernüchterung gefallen.“

— Luke Dicken

Wie Studios damit umgehen, hängt laut Dicken vom jeweiligen Kontext ab. Ein Startup mit nur noch sechs Monaten Laufzeit wird jeden Vorteil nutzen. Ein größeres Unternehmen muss die rechtlichen Risiken abwägen. Für ihn kommt es auf die Werte an: Die moralisch richtige Antwort ist keine generative KI, die wirtschaftlich richtige ist gerade genug, und wo ein Studio die Grenze zieht, hängt davon ab, was ihm wichtig ist. Dieselben Interviews mit Zelnick, die erklären, warum die Entwicklung von GTA 6 so lange dauerte, verweisen auf das völlig andere Modell: ein Unternehmen, das 13 Jahre investiert, um ein Produkt zu veröffentlichen, das es für so gut wie möglich hält.

Lesen Sie auch: Rockstar scheint einen dritten GTA 6-Trailer in Planung zu haben, nachdem sie vor den Vorbestellungen am 25. Juni stillschweigend das „neu“-Etikett von Trailer 2 entfernt haben. Insider DarkViperAU behauptet, der nächste Trailer werde 20 Minuten lang sein.