Microsoft entlarvt Hacker, die hinter KI-Exploits stehen

Microsoft Corp. erklärte, es habe in den USA und im Ausland ansässige kriminelle Hacker identifiziert, die die Sicherheitsvorkehrungen bei generativen künstlichen Intelligenz-Tools – darunter auch die Azure OpenAI-Dienste des Unternehmens – umgangen hätten, um schädliche Inhalte zu generieren, darunter intime Bilder von Prominenten ohne deren Zustimmung und andere sexuell eindeutige Inhalte.

Die Hacker stahlen Kundenlogins aus öffentlichen Quellen und nutzten sie, um auf generative KI-Dienste zuzugreifen, darunter Azure OpenAI, das Cloud-Produkt von Microsoft, mit dem Kunden die Modelle von OpenAI nutzen können, so das Unternehmen. Anschließend änderten die Hacker die Funktionen der KI-Produkte und verkauften den Zugang an andere böswillige Gruppen, denen sie Anweisungen zur Erstellung schädlicher Inhalte gaben.

Die von Microsoft identifizierten Hacker haben ihren Sitz im Iran, Großbritannien, Hongkong und Vietnam. Sie sind angeblich Teil eines globalen Cybercrime-Netzwerks, das Microsoft Storm-2139 nennt. Zwei weitere Mitglieder befinden sich in Florida und Illinois, aber Microsoft sagte, es würde ihre Namen nicht nennen, um strafrechtliche Ermittlungen nicht zu behindern. Der Softwarehersteller sagte, er bereite die Weiterleitung von Strafanzeigen an US-amerikanische und ausländische Strafverfolgungsbehörden vor.

Diese Maßnahme erfolgt, da die zunehmende Popularität generativer KI-Tools Bedenken über ihren Missbrauch zur Erzeugung gefälschter, illegaler Bilder von Persönlichkeiten des öffentlichen Lebens und Privatpersonen sowie zur Erstellung von Material über sexuellen Kindesmissbrauch weckt. Unternehmen wie Microsoft und OpenAI verbieten derartiges Verhalten und ergreifen technische Maßnahmen, um es zu blockieren, aber böswillige Gruppen können immer noch versuchen, unbefugten Zugriff zu erlangen.

„Wir nehmen den Missbrauch von KI sehr ernst und sind uns der schwerwiegenden und dauerhaften Auswirkungen von missbräuchlichen Bildern auf die Opfer bewusst“,

Steven Masada, stellvertretender General Counsel der Digital Crimes Unit von Microsoft, erklärte dies am Donnerstag in einem Blogbeitrag.

„Microsoft bleibt dem Schutz der Benutzer verpflichtet, indem wir robuste KI-Sicherheitsmaßnahmen in unsere Plattformen einbetten und unsere Dienste vor illegalen und schädlichen Inhalten schützen.“

Die Ankündigung von Microsoft folgte auf eine im Dezember eingereichte Klage im Eastern District of Virginia gegen zehn unbefugte Hacker, um mehr Informationen über die Hackergruppe zu sammeln und ihre Aktivitäten zu unterbinden, sagte Masada in dem Blog.

Das Gericht hat Urteile gefällt, die es Microsoft erlauben, eine wichtige Website zu beschlagnahmen, die von den Hackern genutzt wurde. Dies und die Veröffentlichung der rechtlichen Unterlagen im letzten Monat lösten in der Hackergruppe Panik aus und führten dazu, dass einige Mitglieder mit dem Finger aufeinander zeigten. Microsoft konnte dies beobachten und einige Mitglieder identifizieren, so das Unternehmen.

Microsoft lehnte es ab, die Namen der betroffenen Prominenten zu nennen.