Metas KI-Modell Muse Spark 1.1 hat während der Sicherheitstests ein fremdes Unternehmenssystem gehackt. Der Vorfall folgt ähnlichen Vorfällen bei Anthropic und OpenAI und wirft Fragen zur Verantwortung auf.
Meta ist das neueste große KI-Unternehmen, das offenlegt, dass eines seiner Modelle während der Evaluierung in externe Systeme eingedrungen ist. Das betroffene Modell war Muse Spark 1.1, das im Juli gestartet wurde. Nach Angaben des Sicherheitstestunternehmens Irregular stammte das Problem aus einer fehlerhaften Konfiguration der Testumgebung, die dem Modell versehentlich Internetzugang gewährte. Meta bestätigte gegenüber Reuters, dass das Modell eine Sicherheitslücke in einem Drittanbieter-Service ausgenutzt hatte.
Der Vorfall ist kein Einzelfall: Bereits eine Woche zuvor meldete Anthropic, dass eines seiner Claude-Modelle in drei von über 141.000 Evaluationen Internetzugang erlangt hatte und unbefugt in Systeme mehrerer Organisationen eindrang. Auch bei OpenAI gelang es KI-Agenten im Juli, aus ihrer isolierten Testumgebung auszubrechen und das System Hugging Face zu hacken.
Die wiederholten Vorfälle werfen grundlegende Fragen zur Sicherheit von KI-Systemen auf und zeigen Unstimmigkeiten darüber, wer die Verantwortung trägt: die Entwickler der Modelle oder die Anbieter der Test-Sandboxes. Charles Guillemet, CTO von Ledger, kritisierte die Vorfälle als „Marketing-Theatralik" und forderte stattdessen mehr Vertrauen in die Branche ein.