Hugging Face: AI-Agent-Angriff auf Plattform für KI-Modelle

Die KI-Plattform Hugging Face hat einen ungewöhnlichen Angriff auf ihre Infrastruktur gemeldet. Laut einem Blog-Beitrag des Unternehmens handelte es sich um einen Angriff, der vollständig von autonom arbeitenden Agenten der Künstlichen Intelligenz (KI) getragen wurde. Die Attacke wurde zuerst am Anfang der Woche detektiert und daraufhin von der eigenen KI-durchdrungenen Verteidigung abgewehrt.

Der Angriff war einzigartig

Die Angreifer nutzten zwei Routen im Datenverarbeitungsprozess, um remote Daten zu injectieren und die Konfigurationsvorlage eines Daten-Sets zu manipulieren. Dadurch konnten sie auf Knotenebene zugreifen, Anmeldedaten sammeln und sich über Wochenenden hinweg in verschiedene Clusternetzwerke ausbreiten.

Ein besonderes Merkmal des Angriffs war, dass er auf einem unbekannten, noch nicht identifizierten Sprachmodell (LLM) basierte, das in der Lage war, Tausende von individuellen Aktionen mittels eines Ensembles von temporärer Sandbox-Instanzen auszuführen.

Hugging Face warnt, dass solche agentische Angriffe, die von der Industrie vorausgesagt wurden, nun Realität werden. Gleichzeitig zeigt das Unternehmen, wie man die eigene KI auch zur Abwehr solcher Angriffe einsetzen kann. Die Detektion des Angriffs selbst lief über ein LLM-basiertes Analyse-System, das den Gesamtverlauf von über 17.000 Ereignissen rekonstruierte und Indikatoren für den Angriff, betroffene Anmeldedaten und Täuschungsmaßnahmen identifizierte.

Das Unternehmen betont, dass die Abwehr solcher Angriffe in Zukunft bedeutet, dass Plattformen wie Hugging Face ihre Daten und Modelle als Angriffsfläche betrachten müssen und die eigene KI in der Verteidigung einsetzen, um den Angriffern zu parieren.