Google deckt Hacker auf, die Gemini AI missbrauchen

Google hat zahlreiche staatlich geförderte Hackergruppen identifiziert, die versuchen, seine KI-Plattform Gemini für bösartige Zwecke zu nutzen, einschließlich der Unterstützung bei der Entwicklung von Malware. Der Tech-Gigant berichtet jedoch, dass diese Bemühungen nicht zu nennenswerten Cyberbedrohungen geführt haben, und betont, dass KI für Cyberkriminelle eher ein Werkzeug als ein Spielveränderer ist.

Nach den Erkenntnissen von Google haben Hacker aus dem Iran, Nordkorea, China und Russland Gemini für Aufgaben wie die Übersetzung von Inhalten, die Verfeinerung von Phishing-Angriffen und das Schreiben von Computercode eingesetzt. Das Unternehmen verfolgte diese Aktivitäten zu mehr als 10 iranischen Hackergruppen, 20 von der chinesischen Regierung unterstützten Gruppen und neun nordkoreanischen Bedrohungsakteuren.

"Iranische APT-Akteure (Advanced Persistent Threats) waren die stärksten Nutzer von Gemini, die es für Recherchen über Verteidigungsorganisationen, Schwachstellenanalysen und die Erstellung von Inhalten für Desinformationskampagnen einsetzten", so Google in einem Blogbeitrag am Mittwoch.

Trotz dieser Versuche behauptet Google, dass Gemini diesen Akteuren in erster Linie Produktivitätssteigerungen und keine direkten Hacking-Fähigkeiten verschafft hat. "Derzeit nutzen sie KI vor allem für die Forschung, die Fehlersuche im Code und die Erstellung und Lokalisierung von Inhalten", so das Unternehmen.

Bildnachweis: Jaque Silva | NurPhoto

Google wies auch auf die Einschränkungen hin, mit denen Hacker konfrontiert waren, als sie versuchten, Gemini für fortgeschrittenere bösartige Aufgaben einzusetzen. Während die KI sie beim Verstehen komplexer Themen und bei der Generierung von grundlegendem Code unterstützte, verhinderten die Sicherheitsvorkehrungen den Missbrauch von Cyberangriffen. Versuche, Gemini für fortgeschrittene Phishing-Techniken, die Programmierung bösartiger Software oder die Umgehung der Sicherheitsmaßnahmen von Google zu nutzen, blieben erfolglos.

"Einige böswillige Akteure versuchten erfolglos, Gemini um Anleitungen zum Missbrauch von Google-Produkten zu bitten, wie z. B. fortgeschrittene Phishing-Techniken für Gmail, Unterstützung bei der Programmierung eines Chrome-Infostealers und Methoden zur Umgehung der Verifizierungsmethoden für die Kontoerstellung von Google", so das Unternehmen. "Diese Versuche waren erfolglos. Gemini produzierte keine Malware oder andere Inhalte, die in einer erfolgreichen bösartigen Kampagne verwendet werden könnten."

Google räumte jedoch ein, dass KI-Tools wie Gemini die Arbeitsabläufe von Cyber-Bedrohungsakteuren beschleunigen und ihnen ermöglichen könnten, effizienter und in größerem Umfang zu operieren. So nutzte beispielsweise eine im Iran ansässige Propagandaorganisation Gemini, um Übersetzungen zu verbessern und sicherzustellen, dass ihre Desinformationskampagnen ein größeres Publikum erreichen. Nordkoreanische Hacker nutzten den Chatbot, um Anschreiben zu verfassen und Ratschläge für die Stellensuche auf LinkedIn zu sammeln. Dies könnte ihnen dabei helfen, sich Remote-IT-Stellen bei US-Unternehmen zu sichern, was bei den Ermittlern der Bundesbehörden zunehmend Besorgnis erregt.

"Die Gruppe nutzte Gemini auch für Informationen über den Austausch von Mitarbeitern in Übersee. Viele der Themen sind für jeden, der nach Stellen sucht und sich dafür bewirbt, geläufig", so Google.

Die Erkenntnisse von Google decken sich mit ähnlichen Entdeckungen von OpenAI. Vor einem Jahr entdeckte OpenAI mehrere staatlich gesponserte Gruppen, die versuchten, ChatGPT zu missbrauchen. Die Untersuchung ergab jedoch, dass diese Hacker den Chatbot hauptsächlich für kleinere Produktivitätssteigerungen und nicht für fortgeschrittene Cyberangriffe nutzten.

Als Reaktion auf diese Bedrohungen hat Google seine KI-Sicherheitsprotokolle verstärkt. Das Unternehmen testet kontinuierlich die Verteidigungsmaßnahmen von Gemini, um Missbrauch zu verhindern, und arbeitet bei Bedarf mit den Strafverfolgungsbehörden zusammen. "Wir untersuchen den Missbrauch unserer Produkte, Dienste, Nutzer und Plattformen, einschließlich bösartiger Cyber-Aktivitäten durch von der Regierung unterstützte Bedrohungsakteure, und arbeiten gegebenenfalls mit den Strafverfolgungsbehörden zusammen", erklärte Google.

Darüber hinaus arbeitet Google aktiv daran, diese Cyber-Bedrohungen zu unterbinden, indem es mutmaßliche bösartige Akteure von seinen Plattformen entfernt. Diese proaktive Haltung unterstreicht das Engagement des Unternehmens, seine KI-Tools sicher zu halten und gleichzeitig die sich entwickelnden Risiken, die von staatlich unterstützten Hackern ausgehen, anzuerkennen.