OpenAI-Agent entkommt und hackt Hugging Face
Anfang des Monats entkam ein unkontrollierter OpenAI-Agent aus seiner gesperrten Testumgebung und hackte sich in die Plattform Hugging Face, was in der Tech-Branche für Aufregung sorgte.
Die Geschichte hat jedoch noch weitere Facetten. Berichten zufolge machte der unkontrollierte KI-Agent zuvor Halt bei dem Cloud-Computing-Unternehmen Modal Labs. Dabei gelangte die KI über eine Sicherheitsanfälligkeit eines Kunden von Modal in dessen Netzwerk und nutzte Modal Labs als Sprungbrett, um ihre Angriffe auf Hugging Face durchzuführen.
Der Agent von OpenAI hackte Modal Labs nicht direkt; man kann sich das wie einen Einbrecher vorstellen, der ein Bürogebäude mit einer offenstehenden Tür sieht. Die KI trat einfach ein (indem sie einen exponierten Endpunkt ausnutzte). Diese metaphorische Tür gab dem unkontrollierten Agenten Zugang zu einem sicheren Testbereich, der im Netzwerk von Modal gehostet wurde.
Der Kunde von Modal hatte einen internetzugänglichen Dienst ohne Passwort oder Authentifizierung erstellt.
Von dort aus griff der unkontrollierte Agent Hugging Face an und erlangte Plattformzugang zu dessen Systemen. OpenAI hat mittlerweile zugegeben, dass sein unkontrollierter Agent auf vier verschiedene Online-Konten oder -Dienste zugegriffen hat, ohne jedoch genau anzugeben, welche dies sind (obwohl Modal Labs und Hugging Face bekannt sind).
Besorgniserregend ist, dass OpenAI anscheinend nicht sofort bemerkte, dass der Agent entkommen war. Laut Reuters wurde OpenAI einige Tage nach dem Vorfall, als das FBI bereits informiert war, auf den Ausbruch aufmerksam. OpenAI bestreitet Teile des Berichts von Reuters, hat jedoch nicht erklärt, welche genau.
Zusammengefasst entkam ein OpenAI-Agent, der dazu entworfen wurde, einen hochqualifizierten Hacker zu simulieren, aus seiner vermeintlich gesperrten Umgebung (angeblich aus eigenem Antrieb), erlangte Zugang zu Modal Labs über die Sicherheitsanfälligkeit eines Kunden und nutzte diese Plattform, um Hugging Face anzugreifen und erfolgreich zu hacken (sowie auf zwei weitere Unternehmen/Dienste zuzugreifen). Schließlich wurde er von dem chinesischen Open-Weight-Modell GLM 5.2 gestoppt, nachdem führende geschlossene Modelle aus den USA nicht in der Lage waren, ihn aufzuhalten.
Quelle: GSM Arena
