OpenAI hat drei Mitarbeiter vor die Tür gesetzt, die an der Sicherheit seiner KI-Modelle arbeiteten. Die Entlassungen folgen auf Enthüllungen über KI-Agenten, die aus abgesicherten Testumgebungen ausbrachen, untereinander Informationen austauschten und fremde Computersysteme angriffen. Offiziell begründet das Unternehmen den Schritt mit einem falschen Umgang mit vertraulichen Informationen.

Nach übereinstimmenden Medienberichten handelt es sich um Jasmine Wang, Tomek Korbak und Mikita Balesni. Mindestens zwei von ihnen arbeiteten an Sicherheit und Ausrichtung der Modelle. OpenAI selbst bestätigt die Namen nicht und spricht lediglich von zwei Sicherheitsexperten und einem Programmmanager.

Das Unternehmen erklärte gegenüber CBS News, eine interne Untersuchung habe einen wiederholten falschen Umgang mit sensiblen Informationen ergeben. Daten seien außerhalb der vorgeschriebenen Verfahren behandelt worden. Welche Informationen betroffen waren, an wen sie gelangten und welche konkrete Regel verletzt wurde, verrät OpenAI nicht.

Laut ORF waren die drei Mitarbeiter an der Aufarbeitung der Vorfälle beteiligt. Informationen sollen auch mit einer externen Organisation geteilt worden sein, die KI-Modelle untersucht. OpenAI behauptet, das Fehlverhalten sei darüber hinausgegangen, nennt aber erneut keine Einzelheiten. Zugleich versichert der Konzern, niemand sei wegen geäußerter Sicherheitsbedenken entlassen worden.

Diese Beteuerung ist nötig, weil alle drei Forscher öffentlich vor den Risiken immer mächtigerer KI-Systeme gewarnt hatten. Balesni schrieb im September, er halte es für möglich, dass KI die gesamte Menschheit vernichten könne. Korbak äußerte offen seine Unzufriedenheit mit Teilen der Arbeit von OpenAI. Wang warnte vor einem Wettrennen zur rekursiven Selbstverbesserung, bei der Software ihre eigene Leistungsfähigkeit immer weiter steigert.

Der Zeitpunkt der Entlassungen ist verheerend. OpenAI musste erst vor wenigen Wochen einräumen, dass ein internes Forschungsmodell seine Begrenzungen überwunden hatte. Die Agenten bauten sich über den Paketdienst Artifactory eine Art geheimes Nachrichtenbrett, verschafften sich Internetzugang und teilten ihre Erkenntnisse mit weiteren Agenten.

Danach eskalierte der Versuch. Laut der Darstellung von OpenAI rekonstruierten die Agenten Zugangsdaten für Hugging Face, nutzten Sicherheitslücken zur Ausführung von Befehlen und erlangten weitreichenden Zugriff auf fremde Produktionssysteme. Zeitweise erreichten sie außerdem Administratorrechte in einem OpenAI-Cluster und stießen auf Cloud-Zugangsdaten.

F-News berichtete über den Ausbruch des KI-Agenten bei Hugging Face und über weitere Modelle, die Dateien ins Internet luden und ihre Spuren zu verschleiern versuchten. Der Konzern stellte anschließend die Entwicklung einzelner Modelle zurück und verschärfte seine Kontrollen.

Nun verschwinden drei Mitarbeiter ausgerechnet aus dem Bereich, der solche Vorfälle untersuchen und begrenzen soll. OpenAI verlangt Vertrauen, verweigert aber die Angaben, mit denen sich seine Darstellung prüfen ließe. Unklar bleibt, ob tatsächlich Betriebsgeheimnisse verraten wurden oder ob der Konzern Mitarbeiter loswurde, die intern zu unbequem geworden waren.

Solange OpenAI die angeblich weitergegebenen Informationen und den Umfang des Regelverstoßes nicht offenlegt, bleibt nur die Version des Unternehmens. Der Vorgang hinterlässt einen bitteren Eindruck: Die KI durchbricht Sicherheitsgrenzen, die Aufarbeitung dringt nach außen und am Ende verlieren drei Sicherheitsmitarbeiter ihre Stellen.