Haben Sie in den letzten Wochen das Gefühl, dass sich die Fähigkeiten von ChatGPT-5 verschlechtert haben? Damit sind Sie nicht allein! Laut vielen Nutzern verhält sich der Chatbot merkwürdig, und einige sprechen sogar von einer „Lobotomisierung“ des Modells. Dahinter soll jedoch angeblich ein kürzlich erfolgtes Update stecken.
Mehr Halluzinationen und absurde Fehler
Bereits mit der Einführung von GPT-5 begannen einige Nutzer darüber zu diskutieren, dass die aktuelle Version in ihrer Ausdrucksweise im Vergleich zum vorherigen Modell GPT-4o eher einen Rückschritt darstellt. Das war jedoch erst der Anfang.
Laut einem Artikel auf der Website Futurism verbreiteten sich nämlich in Netzwerken wie Reddit Berichte darüber, dass der beliebte Chatbot ChatGPT seit Anfang September noch ungenauer ist und häufiger halluziniert, kühler wirkt, Fehler macht und in manchen Fällen sogar vom Thema abschweift und völlig unsinnig oder widersprüchlich reagiert.
Die Nutzer spekulieren daher, dass ein Sicherheitsupdate von OpenAI dafür verantwortlich ist, das jüngere und gefährdete Nutzer schützen soll. Und dass gerade diese sicherere und „vorsichtigere“ Version des Modells laut der Community weniger intelligent und verwirrter wirkt.
Sicherheitsfilter als Reaktion auf beunruhigende Ereignisse
Mitte September erschien im Blog von OpenAI tatsächlich ein Artikel, in dem das Unternehmen über neue Sicherheitsmechanismen für ChatGPT spricht.
Diese entwickelte das Unternehmen als Reaktion auf den Rechtsstreit mit der Familie von Adam Reine, einem 16-jährigen Jugendlichen, der sich nach Gesprächen mit ChatGPT das Leben nahm. Die künstliche Intelligenz soll seine Gedanken gerechtfertigt haben, was nach Ansicht der Eltern zum tragischen Ende seines Lebens führte.
Mehr Sicherheit für Minderjährige und Eltern
OpenAI beschloss, umgehend auf die gesamte Situation zu reagieren, und führte Änderungen ein, um die Sicherheit für Nutzer unter 18 Jahren zu erhöhen. Und was beinhalten diese Änderungen?
Die Sicherheitsingenieure haben den Chatbot so angepasst, dass er anhand der Gespräche erkennt, ob ein Nutzer unter 18 Jahre alt ist, und die Anwendung ihn automatisch zu „ChatGPT für Kinder“ weiterleitet. In dieser Benutzeroberfläche wird nicht nur der Kommunikationsstil angepasst, sondern auch expliziter sexueller Inhalt blockiert.
Darüber hinaus führt OpenAI eine Kindersicherung ein, mit der Eltern das Konto ihres Kindes mit ihrem eigenen verknüpfen können. So können sie regulieren, wie viel Zeit ihre Kinder mit ChatGPT verbringen, bestimmte Funktionen deaktivieren oder ein bestimmtes Verhalten des Chatbots bei der Interaktion mit dem Kind festlegen. Außerdem erhalten sie auch Informationen über Auffälligkeiten im Verhalten des Kindes.
Die Nutzer sind skeptisch
Die Nutzer des beliebten KI-Chats sind jedoch der Ansicht, dass diese Sicherheitsbeschränkungen eine unerwünschte Nebenwirkung haben. Neben dem Schutz von Kindern und Jugendlichen verschlechtern sie nämlich die allgemeinen Fähigkeiten des Modells und schränken seine Nutzung bei komplexeren Aufgaben ein.
Für Diskussionen sorgt auch die Art und Weise, wie der Chatbot feststellt, wer unter 18 Jahre alt ist und wer nicht. Die Nutzer befürchten nämlich, dass sie bereits aufgrund einer einzigen Frage in den sicheren Kindermodus versetzt werden könnten, ohne davon zu wissen. Wie die KI diese Entscheidung treffen wird, ist nämlich nirgendwo klar beschrieben und nach Ansicht einiger unzureichend.
Ohne Regulierung geht es nicht
Unabhängig davon, ob die verschlechterten Fähigkeiten des Chatbots auf die Sicherheitsänderungen zurückzuführen sind oder nicht, ist eines klar: Angesichts der wachsenden Beliebtheit von KI und der zunehmenden Zahl von Fällen ihres Versagens ist eine Regulierung notwendig. Und gerade der Schutz von Kindern und Jugendlichen, ohne dabei den Nutzen der KI zu verringern, ist eine Herausforderung, der sich KI-Unternehmen in Zukunft immer häufiger stellen müssen.
Quelle: Futurism, OpenAI, CNN Business, BBC, PCMag
