Wer ChatGPT persönliche Sorgen, berufliche Interna oder private Konflikte anvertraut, spricht nicht zwingend nur mit einer Maschine. Wie 404 Media berichtet, bewerten externe Auftragnehmer für OpenAI echte Nutzereingaben und teilweise ganze Gesprächsverläufe. Grundlage der Recherche sind interne Unterlagen und eingesehene Beispiele. Das untersuchte Vorhaben trägt den Codenamen „Project Lily“. Welches Modell damit verbessert wird, bleibt offen.
Die Prüfer sollen das Anliegen des Nutzers zusammenfassen, mehrere Antworten vergleichen und deren Qualität bewerten. Laut Bericht können ihnen auch Zusammenfassungen gespeicherter Nutzererinnerungen angezeigt werden. Kontonamen fehlen, sensible Angaben können im Gesprächsinhalt dennoch auftauchen. OpenAI verweist gegenüber dem Medium auf einen vorgeschalteten Datenschutzfilter, räumt aber mögliche Fehler ein.
Damit bekommt das vermeintlich vertrauliche Gespräch eine weitere Zuhörerschaft. Ein fehlender Benutzername macht eine Lebensgeschichte nicht automatisch anonym. Wer Wohnort, Arbeitsplatz und ungewöhnliche persönliche Umstände schildert, kann auch ohne Namensschild erkennbar werden. Gerade die flüssige, zugewandte Gesprächsführung kann dazu verleiten, mehr preiszugeben als gegenüber einem gewöhnlichen Onlinedienst.
Dass Menschen Inhalte lesen können, bestätigt OpenAI selbst in seinen Hinweisen zur Datennutzung. Berechtigte Beschäftigte und Dienstleister dürfen demnach bei Bedarf auf Nutzerinhalte zugreifen, unter anderem zur Modellverbesserung, zur Bearbeitung rechtlicher Angelegenheiten, für Support und zur Untersuchung von Missbrauch. Das Unternehmen nennt Zugangsbeschränkungen, Protokollierung und Vertraulichkeitsauflagen. Diese Vorkehrungen ändern nichts daran, dass persönliche Inhalte bei menschlichen Prüfern landen können.
Der Vorgang ist von der Prüfung gefährlicher Inhalte zu unterscheiden. F-NEWS berichtete bereits über einen ChatGPT-Chat, der Ermittlungen wegen eines Mordplans auslöste. Bei der von 404 Media beschriebenen Arbeit geht es dagegen um die Verbesserung von Antworten. Nutzer liefern damit nicht nur Fragen, sondern potenziell auch das Material, an dem der Anbieter sein Produkt weiterentwickelt.
Für private ChatGPT-Tarife beschreibt 404 Media die Trainingsfreigabe als standardmäßig eingeschaltet. OpenAI erklärte dem Medium, nach einer Abschaltung würden neue Gespräche nicht mehr zur Modellverbesserung verwendet. Ein nachträgliches Zurückholen bereits verarbeiteter Inhalte wird damit nicht zugesagt.
Die offizielle Anleitung nennt dafür in den Einstellungen den Bereich Datenkontrollen und den Schalter „Das Modell für alle verbessern“. Die Abschaltung gilt kontoweit; neue Chats können weiterhin im Verlauf erscheinen, werden aber nicht zum Training verwendet. Sie ist keine Garantie gegen jeden menschlichen Zugriff, etwa bei rechtlichen Fragen oder einer Missbrauchsprüfung. Temporäre Chats werden laut OpenAI nicht zum Training verwendet, können jedoch zur Missbrauchskontrolle geprüft und bis zu 30 Tage aufbewahrt werden.
Die Risiken zentral gesammelter persönlicher Informationen reichen über Chatbots hinaus. Bei Revolut führte eine gefälschte Behördenanfrage zur Weitergabe sensibler Kundendaten. Im Fall der Chatprüfung ist der menschliche Zugriff hingegen Teil des vorgesehenen Arbeitsablaufs. Besonders aufschlussreich ist deshalb OpenAIs eigener Hinweis, keine sensiblen Informationen einzugeben, die man nicht geprüft oder verwendet sehen möchte.
Schreibe einen Kommentar