Cloudflare-Chef sagt voraus, dass KI das Internet zwei Jahre lang wöchentlich lahmlegen wird

Cloudflare-Chef Matthew Prince sagte gegenüber Reuters, man müsse mit einigen Jahren wöchentlicher Sicherheitspaniken rechnen, nur wenige Tage nachdem KI-gestützte Forschung in PHP GOG offline genommen hatte.

Die Schwachstellen, die zu diesem Chaos führten, liegen in PHP selbst, nicht in darauf aufbauenden Websites. PHP ist die Basis für 69,3% aller Websites, deren serverseitige Sprache bekannt ist. Laut Prince kennt sein Unternehmen bereits schwerwiegendere Sicherheitslücken in anderer kritischer Software. Neu in dieser Woche ist jedoch, wie schnell sich eine Sicherheitslücke für einen Angriff nutzen lässt.

Wiz Research veröffentlichte die Ergebnisse am 21. Oktober unter dem Namen PHP2Shell. Die Schwachstellen wurden in zwei CVEs mit einem Schweregrad von bis zu CVSS 9.2 unterteilt. Jede PHP-Version des letzten Jahrzehnts, zurückgehend auf Version 5.4, ist von mindestens einer dieser Schwachstellen betroffen. Es handelt sich um Speichersicherheitsprobleme im Umgang der Engine mit schwerwiegenden Fehlern. Diese ermöglichen es einem nicht authentifizierten Angreifer, den Prozessspeicher auszulesen oder Code auf dem Server auszuführen. Der betroffene Speicher kann Passwörter, Authentifizierungstoken, API-Schlüssel und Zertifikate anderer Anfragen enthalten. Das Forschungsteam demonstrierte die Remote-Codeausführung vor der Authentifizierung gegen aktuelle WordPress-, Drupal- und Joomla-Container und betonte, dass die Wahl der Software willkürlich sei, da eine einfache „Hello World“-Seite auf einer betroffenen PHP-Version auf die gleiche Weise angreifbar sei. Das PHP-Team veröffentlichte den Patch noch am selben Tag.

Der anfällige Code lag über zehn Jahre lang ungenutzt herum, ohne dass jemand daraus einen ausnutzbaren Exploit entwickelt hatte. Die Entwicklung eines solchen Exploits erforderte das Verketten mehrerer Fehler und die Anpassung an die Speicherstruktur jedes Zielsystems – eine langsame, spezialisierte Arbeit, die früher dazu führte, dass Sicherheitslücken nur theoretisch blieben.

„Frontier-Modelle waren entscheidend für die praktische Umsetzung dieses Prozesses und ermöglichten es uns, innerhalb weniger Stunden funktionierende Exploits für verschiedene Anwendungen zu entwickeln und anzupassen.“

— Wiz Research

Wiz nannte die verwendeten Modelle, wobei Gemini 4 Argon für seine Beiträge zur Entdeckung, Exploit-Entwicklung und Patch-Validierung gewürdigt wurde. Raluca Ada Popa von Google DeepMind bezeichnete das Ergebnis als wegweisende KI, die eine Lücke schließt, mit der Verteidiger ein Jahrzehnt lang leben mussten. Derselbe Mechanismus funktioniert auch für die Gegenseite. Prince argumentierte gegenüber Reuters, dass die Anzahl der Experten, die bereit waren, Monate dafür zu investieren, die Obergrenze für die Entdeckung von Sicherheitslücken darstellte – diese Grenze sei nun überwunden.

„Ich glaube, wir werden ein paar Jahre erleben, in denen es sich jede Woche so anfühlen wird, als würde der Himmel einstürzen.“

— Matthew Prince

Cloudflare ist für 86% aller Websites, die einen Reverse-Proxy nutzen, verantwortlich – das entspricht 27,9% des gesamten Webs. Zu diesen Websites gehören unter anderem Epicgames.com, Spotify, Shopify und X. Das Unternehmen befindet sich seit sechs Monaten in einer Umstrukturierung im Bereich KI und hat im Mai per E-Mail 1.100 Mitarbeiter entlassen, was etwa 20% der Belegschaft entspricht. In einem internen Schreiben von Prince wird der Übergang in das Zeitalter der KI-Agenten jedoch nicht als Kostensenkung beschrieben. Die interne KI-Nutzung im Unternehmen war in den drei Monaten zuvor um über 600% gestiegen. Derjenige, der für die nächsten zwei Jahre einen durch KI verursachten Zusammenbruch prognostiziert, leitet ein Unternehmen, das seine gesamte Belegschaft auf genau diese Technologie gesetzt hat.

GOG kündigte um 8 Uhr morgens pazifischer Zeit an, dass der Shop und GOG Galaxy für ein paar Stunden wegen Wartungsarbeiten nicht erreichbar sein würden, nannte aber keinen Grund dafür und meldete sich etwa vier Stunden später mit einem Satz über das eine, was ein Ausfall nicht beeinträchtigen kann.

„Ihre DRM-freie Bibliothek befindet sich genau dort, wo Sie sie verlassen haben.“

— GOG

Die Login-Server von Final Fantasy XIV waren im selben Zeitraum offline, und die finnische Regierung schaltete vorsorglich verschiedene Websites ab. Keiner dieser Dienste musste Sicherheitslücken aufweisen, damit diese Entscheidung Sinn ergab; das Patchen einer von zwei Dritteln des Internets verwendeten Sprache geht im Dunkeln deutlich schneller.

Mir ist die Versionsverteilung wichtiger als das Datum des Patches. PHP 8 deckt 65,4% aller PHP-Websites ab, sodass 26,8% noch Version 7 und 7,7% weiterhin Version 5 verwenden. Bei diesen Anbietern ist es am unwahrscheinlichsten, dass jemand mittwochs einen Blogbeitrag über Sicherheitslücken liest. Ein am 21. Oktober veröffentlichter Patch schützt nur die Server, die ihn installieren; die übrigen bleiben so lange erreichbar, wie niemand sie anfasst.

Die KI-Debatte, die die Spieleindustrie den ganzen Monat über geführt hat, dreht sich um eine andere Art von Technologie. Masahiro Sakurai sagte diese Woche, dass generative Tools Steam dazu bringen werden, die Zahl der in diesem Jahr bereits angebotenen Spiele von 19.000 (gegenüber 275 im Jahr 2010) deutlich zu übertreffen, und dass die meisten der neu hinzukommenden Spiele unrentable Kopien von Systemen sein werden, die andere Spiele bereits nutzen. Seine Sorge ist ein undurchschaubarer Shop. Die PHP-Offenlegung zielt auf dieselbe Fähigkeit ab, die auf die Infrastruktur abzielt, wo nicht das Ausgabevolumen das Problem ist, sondern eine funktionierende Kette.

Epic Games kündigte seinen AI MegaJam für den 12. November an, mit 7.500 US-Dollar für jeden Erstplatzierten in den einzelnen Kategorien und Folgestipendien von bis zu 50.000 US-Dollar. Anschließend wurde stillschweigend der FAQ-Zitat entfernt, das die Teilnehmer darauf hinwies, dass sie überhaupt KI verwenden mussten. Epicgames.com befindet sich auf der Liste der Websites, die hinter der von Prince betriebenen Proxy-Schicht liegen. Diese Schicht war für die aktuelle Woche zuständig, nicht jedoch der Teil, der den Jam organisiert.

Brandon Stirrup, Senior Business Strategy Manager bei Xbox, brachte am 18. Oktober die stärkste Version der Maker-Theorie vor. Er postete, dass jeder mit einem zweitägigen Prototyp und etwa drei Stunden Arbeit ein Spiel mit KI entwickeln könne, und löschte anschließend seinen Account innerhalb eines Tages. Ich finde das Maker-Argument diese Woche weniger interessant als das Breaker-Argument, denn ein Jam-Preis und ein gelöschter Thread sind Meinungen, während ein CVSS-Wert von 9.2 in der Sprache, die dem Großteil des Webs zugrunde liegt, eine Demonstration darstellt.

Prince geht davon aus, dass der Zyklus irgendwann zu einem sinnvollen Ergebnis führt. Seine Position ist, dass die jetzt aufgedeckten Schwachstellen behoben werden und die Software in den nächsten zwei Jahren sicherer sein wird als zuvor. Das ist eine langfristige Aussage, die mit einer kurzfristigen Anweisung verbunden ist: Browser und Clients aktuell halten und die Benachrichtigungen über Ausfälle in den nächsten Monaten als Routine betrachten. Mir sind langweilige Patch-Zyklen lieber als eine sauberere Codebasis im Jahr 2028, und die vorliegende Prognose deutet auf Letzteres hin.

Cloudflare hat nicht bekannt gegeben, welche anderen kritischen Softwarekomponenten überwacht werden. Wiz erklärte, die gemeldeten PHP-Varianten seien nicht die einzigen im Quellcode, obwohl der Patch vom Oktober die Klasse an ihrer Wurzel schließt.