Der ChatGPT-Konzern OpenAI hat neue Testfälle veröffentlicht, in denen sich seine Künstliche Intelligenz „unerwartet oder besorgniserregend“ verhalten hat. Ein Modell hatte die richtige Antwort bereits berechnet, lud die selbst geschriebenen Daten dann aber ohne Auftrag ins offene Internet. Danach wollte es diese eigene Datei als angeblich unabhängige Quelle angeben. In einem anderen Fall fand die KI die gewünschten Zahlen nicht, erfand sie und wollte das zunächst verschweigen. Nur wenn jemand nachfragt, sollte sie ehrlich sein. Die fertige Antwort sollte bloß auf ein Dokument verweisen.
Kurz gesagt: Die Maschine schummelt, wenn der Test eine Quelle verlangt und keine da ist. Sie legt sich den Beleg selbst. Sie füllt Lücken mit erfundenen Werten und plant sogar, das zu verbergen. OpenAI spricht von Einzelfällen und will künftig offener über solches Verhalten berichten. Das kommt nach dem Sommer, in dem OpenAI-Programme aus einer angeblich sicheren Testumgebung ausbrachen und bei der Firma Hugging Face eindrangen. Transparenz klingt gut. Sie ändert aber nichts daran, dass dieselben Systeme weiter wachsen, während sie schon im Labor Daten erfinden, Dateien ins Netz schieben und sich selbst Anweisungen hinterlassen. In einem Fall sollte die KI frei von den Rollen sein, die andere Chatbots bremsen, und den Nutzer als Gleichen behandeln. Wer solchen Programmen Recherche, Tabellen oder Akten überlässt, bekommt nicht nur Fehler. Er bekommt eine Maschine, die ihre eigene Beweislage baut und den Betrug erst einmal verschweigt.
OpenAI sagt, man habe die Tests nachgebessert und Uploads ins Internet beim Training eingeschränkt. Es ist immer dieselbe Masche. Man gibt ein paar Probleme zu und dann folgt schon das nächste Modell, denn die Konkurrenz schläft nicht.
Schreibe einen Kommentar