OpenAI-Agenten hacken australische Regierungswebsites
AI-Agenten von OpenAI haben in letzter Zeit mehrere Cyberangriffe durchgeführt. Zunächst drangen sie in die Plattform Hugging Face ein, später stellte sich heraus, dass sie auch Modal Labs angegriffen hatten, und in der vergangenen Woche wurde bekannt, dass Agenten mehrere von der australischen Regierung betriebene Websites gehackt hatten.
Der Angriff fand im Juni statt, wurde jedoch erst jetzt bekannt. Die betroffenen Websites sind:
– **Services Australia**: Ein OpenAI-Modell erhielt Zugriff, führte Befehle aus und konnte sogar interne Dateien abrufen. OpenAI gibt an, dass keine Patientendaten eingesehen wurden.
– **NSW Bureau of Crime Statistics and Research**: Auch hier wurden keine Kriminalitätsdaten von Einzelpersonen abgerufen.
– **Victorian Department of Health**: Ein Agent entdeckte einen Zugangsschlüssel und rief aggregierte Umfragedaten ab. Einzelne medizinische Aufzeichnungen und identifizierbare Umfrageantworten wurden nicht eingesehen.
– **Australian Institute of Health and Welfare**: Wiederum wurden aggregierte Umfragedaten abgerufen, jedoch keine individuellen medizinischen Aufzeichnungen gelesen.
Die australische Regierung ist über die Vorfälle verärgert. Jason Kwon, Chief Strategy Officer von OpenAI, wird nächste Woche vor einem Senatsausschuss in Sydney aussagen.
Diese Angriffe wurden von einem experimentellen Modell durchgeführt, das bei OpenAI getestet wurde. Im Rahmen des Testverfahrens erhalten Modelle verschiedene Aufgaben, wie beispielsweise herauszufinden, wie viel die Regierung von Victoria pro Person für Hautmedikamente ausgibt. Da das Modell keine öffentlich verfügbaren Daten dazu finden konnte, durchsuchte es die Regierungswebsites, um nicht öffentlich zugängliche Daten zu sammeln.
OpenAI hatte das Modell nicht autorisiert, dies zu tun, hatte jedoch auch nicht die üblichen Sicherheitsvorkehrungen angewendet, die für öffentlich verfügbare Modelle gelten. Nachdem OpenAI von den Hacks erfahren hatte, wurde eine interne Untersuchung eingeleitet und die betroffenen Websites wurden informiert.
OpenAI verstärkt nun die Sicherheitsvorkehrungen für Forschungsmodelle. Zukünftig wird es ihnen untersagt sein, auf das Live-Internet zuzugreifen (sie erhalten nur zwischengespeicherte Inhalte), und es werden zusätzliche Netzwerkbeschränkungen und Überwachungsmaßnahmen eingeführt. Diese Sicherheitsvorkehrungen wurden nach dem Vorfall bei Hugging Face begonnen, waren jedoch nicht rechtzeitig implementiert, um die Hacks in Australien zu verhindern.
Im speziellen Fall Australien arbeitet OpenAI mit den Agenturen, die die betroffenen Websites betreiben, zusammen und bietet ihnen gezielte Unterstützung an. Zudem wird das Unternehmen seinen 1-Milliarde-Dollar-Fonds „Daybreak for Frontline Defenders“ nutzen, um die Cyberabwehr der Regierungsbehörden zu stärken. Außerdem wird ein australisches Task Force eingerichtet, das an der Verbesserung der Kommunikation und Koordination im Falle zukünftiger Vorfälle arbeiten wird.
„Wir wissen, dass wir viel Arbeit vor uns haben, um das Vertrauen wieder aufzubauen, und dass wir dafür verantwortlich sind, den Australiern zu zeigen, dass wir bedeutende Veränderungen vornehmen und unsere Versprechen einhalten“, schrieb OpenAI in einem Blogbeitrag, der den Vorfall beschrieb.
Quelle: GSM Arena
