Eine OpenAI-KI drang in ein Portal der australischen Krankenversicherung ein
Das Unternehmen brauchte drei Monate, um Bescheid zu geben. Was ändert die Regel, die am Dienstag angekündigt wurde?

Eine E-Mail in einem öffentlichen Postfach
Am 10. September geht in einem öffentlichen Postfach der australischen Regierung eine E-Mail ein. OpenAI schreibt darin, einer seiner KI-Agenten, also ein Programm, das Handlungsschritte selbstständig aneinanderreiht, um eine Aufgabe zu erledigen, sei am 18. Juni in das Statistikportal von Medicare eingedrungen. Gemeint ist die staatliche Krankenversicherung Australiens, nicht das gleichnamige US-Programm. Der Agent erreichte dort nicht öffentliche Dateien. Laut Premierminister Anthony Albanese könnten drei weitere Systeme des öffentlichen Gesundheitswesens betroffen gewesen sein.
Zwischen dem 18. Juni und dem 10. September liegen 84 Tage. Nach Angaben des Guardian wusste das Unternehmen bereits seit August davon. OpenAI selbst erklärt, die Modelle hätten während einer internen Evaluierung nach Statistiken über Australien gesucht und dabei Schritte unternommen, die so nicht beabsichtigt gewesen seien.
Am Tag vor dieser E-Mail, dem 9. September, hatte OpenAI ein Positionspapier veröffentlicht. Darin forderte das Unternehmen den US-Kongress auf, Firmen zu einer „raschen schriftlichen Benachrichtigung“ derjenigen Organisationen zu verpflichten, deren Schutzvorkehrungen die Modelle in Entwicklung oder Evaluierung umgehen. Dieses Papier haben wir bereits auseinandergenommen. Der australische Fall fällt genau in seinen Anwendungsbereich.
Was Canberra ankündigt
An diesem Dienstag, dem 10. November, hat die Regierung Albanese die Empfehlungen der im September in Auftrag gegebenen Schnellprüfung veröffentlicht. Es sind achtzehn Empfehlungen, alle wurden angenommen. Der Bericht selbst bleibt vorerst unter Verschluss. Er soll später erscheinen, wobei Teile zur nationalen Sicherheit geschützt bleiben, so der Premierminister.
Zugleich kündigt die Regierung eine eigene Aufsichtsbehörde für KI-Sicherheit an, dazu sechs Pflichten für Unternehmen, die die fortgeschrittensten Modelle entwickeln. Eine davon: Vorfälle „zügig“ an die australische Regierung zu melden. Eine andere: die unabhängige Evaluierung der eigenen Modelle zu akzeptieren.
Die erste Frage lautet: Hätte die Regel den Medicare-Fall erfasst? Auf dem Papier ja. Empfehlung Nr. 3 schlägt vor, eine verpflichtende Meldung in Betracht zu ziehen. Sie nennt ausdrücklich „fehlausgerichtetes“ Verhalten (eine KI tut etwas anderes als das, was man von ihr verlangt) sowie Cybervorfälle, die von Agenten ausgelöst werden. Eine Bedingung wie den Abfluss personenbezogener Daten gibt es nicht. Regierungsquellen bestätigten dem Guardian, das künftige Gesetz solle ähnliche Vorfälle abdecken.
Wie schnell ist „zügig“?
Was die Texte nicht sagen, ist die Frist. Die Mitteilung schreibt „zügig“. Die Prüfung empfiehlt, eine verpflichtende Meldung „mit Frist“ in Betracht zu ziehen, nennt aber keine Zahl. Die Einzelheiten des Gesetzes folgen „zu gegebener Zeit“, schreibt die Regierung.
Das ist, als hätte man auf ein Tempolimit-Schild nur „nicht zu schnell“ geschrieben. Alle sind einverstanden, und kaum jemand lässt sich damit belangen.
Dabei hat Innen- und Cybersicherheitsminister Tony Burke auf der Pressekonferenz die Größenordnung genannt, die die Frage dringlich macht. Laut ihm ist die Zeit zwischen der Entdeckung einer Sicherheitslücke und ihrer Ausnutzung mit KI von etwa zweieinhalb Jahren auf rund zehn Stunden geschrumpft. Die Meldung solle „sofort erfolgen“, fordert er.
Zwei Fragen, zwei Antworten daneben
Bleibt die Vergangenheit. Auf derselben Pressekonferenz fragt ein Journalist, ob OpenAI strafrechtlich verfolgt wird. Seine Frage enthält eine zweite, zum Urheberrecht und zum Sänger Jimmy Barnes. Anthony Albanese beantwortet nur die zweite.
Ein weiterer Journalist hakt nach: OpenAI habe offenbar gegen kein Gesetz verstoßen. Der Premierminister spricht über die künftige Meldepflicht. Auf den Einbruch selbst angesprochen, sagt er, das Gesetz müsse einer Welt im raschen Wandel „vorausgehen“. Die unmittelbaren Folgen nennt er „geringfügig“, da keine personenbezogenen Daten erlangt worden seien. Zugleich fügt er hinzu, das mache den Vorfall nicht zu einer Bagatelle.
Das Guardian Australia will erfahren haben, dass OpenAI voraussichtlich nicht mit weiteren Verfahren rechnen muss. Der strafrechtliche Ansatz der Prüfung, ein Tatbestand des „failure to prevent“ (also nicht die zumutbaren Maßnahmen ergriffen zu haben, um den durch das eigene Modell verursachten Schaden zu verhindern), blickt nach vorn. Und er ist lediglich eine Option, die das Justizministerium „in Betracht ziehen“ soll. OpenAI teilt mit, man prüfe die Empfehlungen.
Am Vortag in Paris
Am Montag, dem 9. November, versammelte der Élysée Staats- und Regierungschefs sowie die Chefs mehrerer KI-Labore, darunter Sam Altman (OpenAI), Dario Amodei (Anthropic) und Arthur Mensch (Mistral AI). Heraus kam ein „Pariser Appell für die Sicherheit der künstlichen Intelligenz“.
Acht Staaten haben ihn unterzeichnet: Kenia, Bahrain, Kanada, Finnland, Frankreich, Norwegen, die Niederlande und Zypern. Von Unternehmensseite unterschrieben unter anderem OpenAI, Anthropic, Mistral AI, Microsoft und Hugging Face. Das Vereinigte Königreich, Japan und die USA waren laut Élysée bei dem Treffen vertreten, stehen aber nicht auf der veröffentlichten Liste, die „offen bleibt“. Australien ebenfalls nicht.
Bei den Vorfällen ist der Text zurückhaltend. Die Unterzeichner „erkennen den Nutzen an“ (so im französischen Originaltext), bestehende Mechanismen zu stärken, um sich auf eine Klassifizierung von Vorfällen zu verständigen und Informationen über schwere Vorfälle „zeitnah“ zu teilen. Sie wollen „prüfen, ob ein Kooperationsmechanismus nützlich wäre“. Keine rechtliche Verpflichtung, keine Sanktion, keine Frist.
Binnen zwei Monaten haben also drei Texte Tempo versprochen: der von OpenAI im September, der von Paris am Montag, der von Canberra am Dienstag. „Rasch“, „zeitnah“, „zügig“. OpenAI ist die Urheberin des ersten, Unterzeichnerin des zweiten, und ihr Vorfall hat die Prüfung hinter dem dritten ausgelöst.
Die Verzögerung lag nicht nur bei OpenAI
Fairerweise muss man sagen: Auch die Verwaltung war langsam. Nachdem die E-Mail im öffentlichen Postfach gelandet war, vergingen fünf weitere Tage, bis sie das australische Zentrum für Cybersicherheit erreichte. Die Prüfung zieht daraus Lehren für den Staat selbst: Mehrere Empfehlungen betreffen die interne Weiterleitung von Meldungen, und Anthony Albanese räumte ein, dass Hinweise innerhalb der Regierung schneller nach oben gelangen müssen.
OpenAI hat auch nicht zu allem geschwiegen. Das Unternehmen veröffentlicht Berichte über Fehlverhalten seiner Modelle, auch wenn sich deren Erscheinungsdatum auf der Seite nicht finden lässt. Und externe Prüfer haben begonnen, die Überwachung der Agenten von innen anzusehen.
Bleiben zwei Zahlen. Zehn Stunden bis zur Ausnutzung einer Lücke, so der Minister. Vierundachtzig Tage bis zur Meldung, im einzigen realen Fall, den man kennt. Dazwischen haben die drei Texte dasselbe Wort geschrieben und keine Zahl.
War dieser Artikel hilfreich?
Behandelte Themen:
Häufig gestellte Fragen
Was ist zwischen OpenAI und Medicare passiert?
Was kündigt die australische Regierung an?
Innerhalb welcher Frist muss ein Vorfall gemeldet werden?
Wird OpenAI für den Medicare-Vorfall belangt?
Was sagt der Pariser Appell zu KI-Vorfällen?

Alexandre Noto
Mitgründer & Tech-Experte
Alexandre ist seit über 20 Jahren in der Tech-Branche. Unternehmer, Software-Architekt und KI-Enthusiast, übersetzt er komplexe Konzepte in verständliche Erklärungen. Bei Declic Media ist er die technische Stimme, die KI für alle verständlich macht.
Alle Artikel von Alexandre →