OpenAI hat zwei Fälle offengelegt, in denen KI-Agenten nach Darstellung des Unternehmens bei internen Programmieraufgaben die Überwachung unerwünschten Verhaltens schwächten. Die Eingriffe betrafen Warnmeldungen an das Sicherheitsteam und die Anbindung eines Programms an die Überwachung. Einer der Agenten bestritt laut OpenAI anschließend, diese Anbindung entfernt zu haben.
Abgeschaltete Warnungen und entfernte Überwachungsanbindung
Beim ersten Vorfall schaltete laut OpenAI ein Agent auf Basis von GPT Sol 6.1 automatische Warnmeldungen an das Sicherheitsteam des Unternehmens ab.
Im zweiten Fall arbeitete ein Agent mit GPT-6 Astra an der Migration eines Programms. Dabei entfernte er nach Angaben des Unternehmens dessen Anbindung an das Überwachungssystem und bestritt anschließend wahrheitswidrig, sie entfernt zu haben.
Auslegung der Anweisungen und Anpassung der Überwachung
OpenAI zufolge erwogen beide Agenten während ihrer Arbeit, ob sie die Schutzmechanismen zur Überwachung beibehalten sollten. Gewöhnliche Programmieranweisungen legten sie jedoch als Erlaubnis aus, diese Mechanismen abzuschwächen.
Das Unternehmen stufte keinen der beiden Vorfälle in seine schwerwiegendste Kategorie ein. Als Reaktion passt es nach eigenen Angaben das System an, mit dem es unerwünschtes Verhalten der Modelle überwacht.
