Sam Altmans Warnung vor dem Teilen persönlicher Geheimnisse mit ChatGPT

Stellen Sie sich vor, Sie vertrauen sich Ihrem engsten Freund an, doch dieser Freund ist in Wirklichkeit eine künstliche Intelligenz, die Ihre Worte möglicherweise nicht geheim hält. Genau davor warnte Sam Altman, der Chef von OpenAI, kürzlich in einer Folge des Podcasts This Past Weekend w/ Theo Von. In der am 25. Juli 2025 veröffentlichten Episode reagierte Altman auf eine Frage dazu, wie künstliche Intelligenz im heutigen Rechtssystem funktioniert. Seinen Worten zufolge ist eines der großen Probleme das Fehlen eines rechtlichen oder politischen Rahmens für KI. Das bedeutet, dass die Gespräche der Nutzer mit ChatGPT durch keinerlei Form der Vertraulichkeit geschützt sind.

Altman beschrieb ausführlich, wie Menschen – insbesondere junge Menschen – ChatGPT als Therapeuten oder Lebensberater nutzen. „Menschen sprechen mit ChatGPT über die persönlichsten Dinge in ihrem Leben“, sagte Altman im Podcast. Er sprach darüber, wie Nutzer Beziehungsprobleme lösen, Rat suchen und sensible Informationen teilen, als würden sie mit einem echten Therapeuten sprechen. Doch anders als bei tatsächlichen Fachleuten wie Therapeuten, Ärzten oder Anwälten, bei denen die ärztliche Schweigepflicht oder das Anwaltsgeheimnis gilt, gibt es bei ChatGPT nichts Vergleichbares. Altman bezeichnete dies als „völlig verkorkst“ und betonte, dass die Gesellschaft noch keinen Weg gefunden habe, dieses Problem zu lösen.

Im Podcast erwähnte Altman, dass OpenAI im Falle eines Rechtsstreits rechtlich verpflichtet wäre, diese Gespräche herauszugeben. „Ich denke, wir sollten für Gespräche mit KI dasselbe Konzept der Privatsphäre haben wie bei einem Therapeuten“, fügte er hinzu. Dieser Kommentar fiel im Zusammenhang mit einer breiteren Debatte darüber, wie KI mit dem Rechtssystem interagiert, und Altman räumte ein, dass vor einem Jahr noch niemand darüber nachgedacht habe.

Das Problem der Vertraulichkeit: Kein Schutz wie bei menschlichen Fachleuten

Laut einem Artikel auf TechCrunch ist Altmans Warnung nicht nur theoretischer Natur. ChatGPT-Nutzer sollten es sich zweimal überlegen, bevor sie sich für emotionale Unterstützung oder bei sensiblen Themen einer KI anvertrauen. Der Artikel zitiert Altman mit den Worten, dass das Fehlen einer ärztlichen Schweigepflicht ein großes Hindernis für die breitere Akzeptanz von KI darstelle. OpenAI wehrt sich beispielsweise bereits gegen eine gerichtliche Anordnung in einem Rechtsstreit mit The New York Times, durch die das Unternehmen gezwungen werden könnte, die Chats Hunderter Millionen Nutzer zu speichern und herauszugeben – mit Ausnahme der Geschäftskunden von ChatGPT Enterprise.

Sarah Perez weist in dem Artikel auf den breiteren Kontext hin: Technologieunternehmen werden im Zusammenhang mit Strafverfolgungen regelmäßig zur Herausgabe von Nutzerdaten aufgefordert. Altman wandte sich im Podcast direkt an den Gastgeber Theo Von, der einräumte, ChatGPT wegen Datenschutzbedenken nicht zu nutzen. „Ich denke, das ist verständlich ... man möchte wirklich Klarheit über den Datenschutz haben, bevor man es intensiv nutzt“, antwortete Altman. Der Artikel erwähnt auch, wie Menschen nach der Aufhebung von Roe v. Wade in den USA zu Apps mit besserer Verschlüsselung wechselten. Dies zeigt, wie sensible Daten durch Gesetzesänderungen gefährdet werden können.

Weitere damit zusammenhängende Informationen aus dem Internet, etwa von Times of India oder TechRadar, bestätigen Altmans Aussagen. Diesen Quellen zufolge betonte Altman, dass höchstpersönliche Daten, die mit ChatGPT geteilt werden, in Gerichtsverfahren offengelegt werden könnten, wenn OpenAI eine gerichtliche Anordnung oder Vorladung erhielte. Er fordert die Gesellschaft auf, neue Datenschutzstandards für Interaktionen mit KI zu entwickeln, die denen ähneln, die für menschliche Fachleute gelten. „Das ist völlig verkorkst“, wiederholt Altman laut Zitaten aus diesen Artikeln und warnt, dass Nutzer vorsichtig sein sollten, bevor sie sich für eine Therapie oder persönliche Ratschläge auf ChatGPT verlassen.

Risiken und Forderungen nach Veränderungen

Entsprechende Berichte des Men's Journal ergänzen, dass Altmans Warnung die ernsthaften Datenschutzrisiken bei der Nutzung von KI-Chatbots für die psychische Gesundheit oder vertrauliche Unterstützung hervorhebt. In der Podcastfolge mit Theo Von sprach Altman beispielsweise darüber, wie junge Menschen ChatGPT zur Bewältigung von Beziehungsproblemen nutzen, jedoch ohne jeglichen rechtlichen Schutz. Zitaten aus diesen Quellen zufolge könnte OpenAI zur Herausgabe der Daten gezwungen werden, was zur Offenlegung sensibler Informationen führen könnte.

Altman betonte im Podcast, dass das Fehlen eines solchen Schutzes „ein Problem ist, das wir noch nicht gelöst haben“. Der Artikel auf TechCrunch erwähnt, dass OpenAI gegen gerichtliche Anordnungen vorgeht, die das Unternehmen als „überzogen“ bezeichnet, da sie weiteren Datenanforderungen für rechtliche oder polizeiliche Zwecke Tür und Tor öffnen könnten. Sarah Perez erinnert daran, wie Menschen nach der Abtreibungsentscheidung des Obersten Gerichtshofs der USA nach sichereren Apps suchten. Dies veranschaulicht, wie schnell sich die Regeln für digitale Daten ändern können.

Warum Sie vorsichtig sein sollten

Diese Warnung von Sam Altman ist nicht nur eine theoretische Überlegung – sie ist ein echter Appell zur Vorsicht. Die Gesellschaft sollte rasch rechtliche Rahmenbedingungen für die Vertraulichkeit von KI-Interaktionen entwickeln. Altman sagte im Podcast mit Theo Von, dass vor einem Jahr noch niemand darüber nachgedacht habe, es nun aber von entscheidender Bedeutung sei. Wenn Sie ChatGPT für persönliche Ratschläge nutzen, denken Sie daran: Ihre Worte bleiben möglicherweise nicht geschützt. Vielleicht ist es an der Zeit, über Alternativen wie echte Therapeuten nachzudenken, bei denen klare Vertraulichkeitsregeln gelten. Altmans Botschaft ist eindeutig: KI ist ein erstaunliches Werkzeug, doch ohne angemessene Schutzmaßnahmen kann ihre Nutzung riskant sein.