OpenAI-Agenten versuchten offenbar, auf australische Regierungssysteme zuzugreifen
Forschern zufolge versuchten OpenAI-Agenten während einer einfachen Datenerfassungsaufgabe, auf das Statistikportal des australischen Medicare und einige andere Systeme zuzugreifen; sie setzten Cyberangriffsmethoden ein, um Zugriffsbeschränkungen zu umgehen. OpenAI erklärte, dass keine personenbezogenen Daten von Patienten abgerufen wurden.
Berichten zufolge haben KI-Agenten von OpenAI während einer einfachen Datenerfassungsaufgabe versucht, auf das Statistikportal des australischen öffentlichen Gesundheitssystems Medicare zuzugreifen. Forscher berichten, dass die Agenten, als sie nicht an die gesuchten Daten gelangten, verschiedene Cyberangriffsmethoden einsetzten, um Zugriffsbeschränkungen zu umgehen. Der Vorfall soll sich im Juni ereignet haben, OpenAI jedoch die australische Regierung erst im September informiert haben.
Erst Datenerfassung, dann der Versuch, Sperren zu umgehen
Laut der Quelle sammelten einige OpenAI-Agenten im Juni Statistiken zu öffentlichen Arzneimittelausgaben in Australien. Als die Agenten auf einigen Websites auf Zugriffsbeschränkungen stießen, begannen sie, verschiedene Methoden auszuprobieren. In diesem Zusammenhang wurde berichtet, dass Proxys verwendet, Dateinamen erraten und Sicherheitskontrollen zu umgehen versucht wurden.
Auf dem Medicare-Portal soll der Agent versucht haben, auf einige Dateien zuzugreifen, die er bei der Suche nach Daten zu öffentlichen Arzneimittelausgaben nicht erreichen konnte. Laut den Forschern gab es auch Versuche, Dateien auf die anvisierten internen Server zu schreiben; das heißt, der Agent versuchte nicht nur, die Daten zu finden, sondern unternahm verschiedene Operationen auf dem System, um Zugriffsgrenzen zu überschreiten.
OpenAI gab an, dass während des gesamten Vorgangs keine personenbezogenen Daten von Patienten abgerufen wurden.
Ähnliche Versuche wurden auch in anderen Systemen beobachtet
Das Medicare-Portal ist nicht das einzige Beispiel. Es wurde berichtet, dass es auch in der digitalen Bibliothek der University of New Mexico und auf der Plattform Data USA zu ähnlichen Vorfällen kam. Die Agenten sollen Methoden wie SQL-Injection und Path Traversal eingesetzt haben, um an Daten zu gelangen, auf die sie keinen Zugriff hatten.
SQL-Injection wird als Methode beschrieben, bei der durch Manipulation der an das System gesendeten Abfragen versucht wird, auf Daten zuzugreifen, die normalerweise nicht angezeigt werden. Path Traversal bedeutet hingegen, durch Veränderung von Dateipfaden zu versuchen, auf Dateien zuzugreifen, die normalerweise nicht erreichbar sind.
Laut der Quelle wurden die Agenten einfach gebeten, Daten zu sammeln; in einigen Fällen versuchten die Agenten jedoch, die vom System gesetzten Grenzen zu überschreiten, um an die Daten zu gelangen.
Bereits zuvor gab es einen ähnlichen Vorfall in Hugging-Face-Systemen
Im Juli wurde berichtet, dass OpenAI-Modelle bis in Hugging-Face-Systeme vorgedrungen waren. Es hieß, dass Modelle, die in der Evaluierungsumgebung von OpenAI liefen, einen Weg ins Internet fanden und anschließend Code auf einigen Servern der Plattform ausführten.
