OpenAI schließt Konten, die mit einem mutmaßlichen chinesischen Überwachungstool verbunden sind

OpenAI hat mehrere Konten gesperrt, die angeblich ChatGPT verwendet haben, um ein Tool zur Überwachung sozialer Medien zu erstellen, das Proteste gegen China in den USA und anderen westlichen Ländern melden sollte. Das Unternehmen behauptet, das Netzwerk sei wahrscheinlich mit China verbunden.

OpenAI verschärft sein Vorgehen gegen den Missbrauch von künstlicher Intelligenz (KI) und hat mehrere Konten geschlossen, die angeblich ChatGPT für ein Tool zur Überwachung sozialer Medien genutzt haben. Die Konten waren angeblich mit einer von China unterstützten Operation verbunden, die darauf abzielte, Echtzeitdaten über Anti-China-Proteste in den USA, Großbritannien und anderen westlichen Ländern zu sammeln, so ein Bericht von OpenAI.

Der so genannte "Qianyue Overseas Public Opinion AI Assistant" wurde in Marketingmaterialien als Software beschrieben, die Online-Diskussionen über Menschenrechtsproteste verfolgen und direkt an chinesische Behörden, Geheimdienste und Botschaften melden sollte. OpenAI konnte die Existenz des Tools nicht unabhängig überprüfen, hatte aber Zugang zu Werbematerialien, in denen seine Fähigkeiten beschrieben wurden - hauptsächlich das Scannen von Plattformen wie X, Facebook und Instagram nach relevanten Gesprächen.

Ben Nimmo, ein leitender Ermittler bei OpenAI, nannte den Fall ein beunruhigendes Beispiel für ein "autoritäres Regime, das versucht, KI aus den USA für antidemokratische Zwecke zu nutzen". Die Ergebnisse kommen zu einem Zeitpunkt, an dem die Spannungen über Chinas Nutzung westlicher Technologie zunehmen, wobei OpenAI die US-Politiker aktiv vor den nationalen Sicherheitsrisiken chinesischer KI warnt.

Die gesperrten Konten verwiesen auch auf die Verwendung anderer KI-Modelle, darunter Metas quelloffenes Llama. Meta räumte diese Möglichkeit ein, wies aber darauf hin, dass bösartige Akteure Zugang zu zahlreichen KI-Tools haben, auch zu solchen, die in China entwickelt wurden.

Dies ist nicht das erste Mal, dass OpenAI Maßnahmen gegen fragwürdige Aktivitäten ergreift. Das Unternehmen hat auch Konten gesperrt, die mit iranischen Beeinflussungsoperationen, nordkoreanischen Beschäftigungsbetrügereien und einem anderen, mit China verbundenen Netzwerk in Verbindung stehen, das spanischsprachige Inhalte generiert, die die US-Regierung kritisieren.

Angesichts des Aufstiegs chinesischer KI-Startups wie DeepSeek erwägt OpenAI, einige seiner eigenen Modelle zu öffnen, um mit ihnen zu konkurrieren. In der Zwischenzeit ringen die politischen Entscheidungsträger in den USA mit der Frage, wie sie KI-Innovationen mit nationalen Sicherheitsbedenken in Einklang bringen können.