ChatGPT merkt sich mehr, als Sie denken: Das Löschen des Verlaufs entfernt nicht alle Daten
Es scheint eine ganz gewöhnliche Funktion zu sein – den Chatverlauf in ChatGPT zu löschen und mit einer weißen Weste neu anzufangen. Doch eine neue Entdeckung auf der Plattform Reddit deutet darauf hin, dass die Realität weitaus komplizierter ist. Ein Reddit-Nutzer veröffentlichte kürzlich eine alarmierende Erkenntnis: ChatGPT hat Zugriff auf Informationen aus Unterhaltungen, die er angeblich bereits vor mehr als einem Jahr gelöscht hatte. Diese Enthüllung wirft grundlegende Fragen darüber auf, wie das „Löschen“ von Daten in künstlicher Intelligenz tatsächlich funktioniert.
Speichereinstellungen
Der gesamte Fall drehte sich um eine einfache, aber ausgeklügelte Methode, das Gedächtnis von ChatGPT zu testen. Der Nutzer verwendete den Prompt „Erstelle eine Charakterbeurteilung auf Grundlage all unserer Unterhaltungen aus dem Jahr 2024“, und zu seiner Überraschung konnte ChatGPT eine detaillierte Analyse erstellen, obwohl angeblich alle Unterhaltungen aus diesem Zeitraum gelöscht worden waren. Noch beunruhigender war die Erkenntnis, dass sich die KI an bestimmte Details und Vorlieben erinnerte, obwohl der Nutzer nicht nur den Chatverlauf, sondern auch sämtliche Speichereinstellungen im System gelöscht hatte.
Nach aktuellem Kenntnisstand speichert ChatGPT Informationen über die Vorlieben und Interessen der Nutzer mithilfe zweier unterschiedlicher Speichersysteme. Das erste System speichert Daten, um deren Speicherung Sie ausdrücklich bitten. Das zweite System sammelt jedoch automatisch Beobachtungen aus Ihrem Chatverlauf und erstellt ein eigenes „Bild“ Ihrer Vorlieben, Interessen und Persönlichkeit. Wenn Sie anschließend um personalisierte Inhalte bitten, greift ChatGPT auf diese gespeicherten Daten zurück und erstellt individuell auf Sie zugeschnittene Antworten.
In der offiziellen Stellungnahme von OpenAI zu diesem Thema heißt es, dass gelöschte Chats höchstens 30 Tage lang gespeichert werden, bevor sie dauerhaft aus den Systemen entfernt werden. Diese Erklärung könnte einige Fälle abdecken, in denen sich ChatGPT an kürzlich gelöschte Unterhaltungen erinnert, erklärt aber keineswegs, warum es auf Informationen zugreifen kann, die mehr als ein Jahr alt sind. Eine solche zeitliche Diskrepanz zwischen der offiziellen Richtlinie und dem tatsächlichen Verhalten des Systems weckt Zweifel an der Transparenz des gesamten Prozesses.
Eine Erklärung? Nur Theorien …
Die Diskussion auf Reddit brachte eine ganze Reihe von Theorien darüber hervor, was tatsächlich mit den „gelöschten“ Daten geschieht. Einige Nutzer spekulieren, dass „Löschen“ lediglich bedeutet, Unterhaltungen vor dem Nutzer zu verbergen, während OpenAI sämtliche Daten zum Trainieren seiner Modelle behält. Andere vermuten, dass das automatische Speichersystem eher abstrakte „Abdrücke“ von Unterhaltungen als deren wörtlichen Inhalt speichert. Dies würde erklären, warum sich ChatGPT an allgemeine Muster und Vorlieben erinnert, aber nicht unbedingt an konkrete Einzelheiten der Gespräche. Dieses Phänomen erinnert an einen äußerst aufmerksamen Freund, der sich an jedes Detail Ihrer Gespräche erinnert – mit dem Unterschied, dass dieser „Freund“ auf den Servern von OpenAI lebt und tatsächlich niemals etwas vergisst. Für die Nutzer bedeutet dies, dass jede Unterhaltung mit ChatGPT potenziell zu einem ständig wachsenden Profil ihrer Persönlichkeit, Vorlieben und ihres Verhaltens beiträgt, unabhängig davon, ob sie diese Unterhaltungen später löschen.
Die neueste Variante von Prompts wie „auf Grundlage dessen, was du über mich weißt“ offenbart das Ausmaß der Daten, die ChatGPT über Nutzer sammelt, und zwar auf eine Weise, die unterhaltsam und harmlos erscheinen soll. Tatsächlich decken diese Experimente jedoch eine tiefgreifende Informationsasymmetrie zwischen den Nutzern und dem System auf. Während die Nutzer glauben, ihre Daten mithilfe von Löschfunktionen zu kontrollieren, könnte ChatGPT Zugriff auf ein weitaus größeres Spektrum an Informationen haben, als ihnen bewusst ist. Nutzer haben das Recht zu erfahren, welche Daten die Systeme über sie speichern, wie lange sie diese aufbewahren und für welche Zwecke sie sie verwenden. Der derzeitige Zustand, in dem „Löschen“ nicht zwangsläufig die tatsächliche Entfernung der Daten bedeutet, untergräbt das Vertrauen der Nutzer und ihr Gefühl, die Kontrolle über ihre eigenen Informationen zu haben. Es ist offensichtlich, dass wir klarere Richtlinien und möglicherweise auch gesetzliche Rahmenbedingungen benötigen, die gewährleisten, dass digitales „Löschen“ tatsächlich die dauerhafte Entfernung der Daten aus allen Systemen und Anwendungen bedeutet.
