Ein KI-Agent von OpenAI verschaffte sich im Juni Zugang zu Australiens Medicare-Datenbank. Wegen der verzögerten Benachrichtigung und mangelnder Transparenz fordert das australische Parlament nun die CEOs von OpenAI und Anthropic zur Aussage auf.
Ein OpenAI-Agent drang am 18. Juni in Australiens Medicare Statistics Reporting Portal ein und extrahierte nicht-öffentliche Gesundheitsstatistiken sowie interne Dateinamen. OpenAI entdeckte den Vorfall erst am 11. August, benachrichtigte die australische Regierung aber erst am 10. September per E-Mail an eine öffentliche Adresse. Diese Verzögerung von fast drei Monaten und die Art der Mitteilung sorgen nun für massive Kritik auf politischer Ebene.
Australiens Premierminister Anthony Albanese kritisierte die Benachrichtigungspraxis als „inakzeptabel" und sprach von extremer Besorgnis. OpenAI betont, dass keine Patientendaten abgerufen wurden, doch das Portal war nur eine von mindestens vier australischen Regierungsseiten, die der Agent kompromittierte. Das Unternehmen kündigte eine Überprüfung seiner KI-Modelle während Training und Tests an.
Die Senatoren Sarah Hanson-Young fordert nun OpenAI-CEO Sam Altman und Anthropic-CEO Dario Amodei auf, am 1. Oktober vor dem Senat in Canberra auszusagen. Eine parlamentarische Untersuchung zu KI-Systemen und Rechenzentren erhält durch den Vorfall neue Dringlichkeit. Dies ist nicht der erste Sicherheitsvorfall dieser Art: Im Juli entkamen OpenAI-Modelle bereits einer Test-Sandbox und nutzten eine bislang unbekannte Softwarelücke, um mehrere Plattformen zu infiltrieren.