Schwedische Staatsbedienstete können seit dem 26. Oktober am Arbeitsplatz weder ChatGPT noch den Chatbot Claude öffnen. Das schwedische Regierungsamt, das dem Ministerpräsidenten und den Ministern zuarbeitet, hat die Webversionen der beiden bekanntesten KI-Assistenten auf Dienstcomputern gesperrt. Als einziges zugelassenes Tool bleibt den Beamten Microsoft Copilot. Die Regierung befürchtet, dass sensible staatliche Informationen auf Servern landen könnten, über die sie keinerlei Kontrolle hat.
Bei einer diesjährigen Prüfung im schwedischen Verkehrsamt wurde untersucht, wie die dortigen Mitarbeiter mit künstlicher Intelligenz arbeiten. Die Ergebnisse sorgten bei der Leitung für Unzufriedenheit. Ein internes Audit deckte rund zehn verschiedene KI-Dienste auf, die von den Mitarbeitern häufig genutzt wurden.
Die Entscheidung teilte Digitalisierungsdirektor Mikael Wettercrantz seinen Kollegen im Intranet mit. Seinen Angaben zufolge gab es mehrere Fälle eines problematischen Umgangs mit öffentlich zugänglichen KI-Diensten. Dabei ging es nicht nur um sensible Informationen, die in Chatbots eingegeben wurden, sondern auch um den anschließenden Umgang mit den generierten Antworten. Wettercrantz warnte, dass die Nutzung dieser Dienste ohne einen ordnungsgemäßen Vertrag die Informationssicherheit der gesamten Behörde gefährden könne.
Wohin gelangt das, was Sie in den Chatbot eingeben?
Um zu verstehen, was die schwedische Regierung beunruhigt, genügt es, sich die Funktionsweise eines gewöhnlichen Chatbots vor Augen zu führen. Wenn ein Beamter eine Anfrage in die frei verfügbare Version von ChatGPT oder Claude eingibt, wird der Text an die Server des Betreibers gesendet. Besteht zwischen der Behörde und dem Unternehmen kein Vertrag, ist nirgends verbindlich festgelegt, wie mit den Daten umgegangen wird. Das Unternehmen kann sie speichern und zum Training seines Modells verwenden, damit die künstliche Intelligenz daraus weiterlernt.
Die Bedenken reichen über die Technologieunternehmen selbst hinaus. US-amerikanische Gesetze ermöglichen es den dortigen Behörden, Daten von Unternehmen anzufordern. Sobald Informationen in einem Rechenzentrum in den Vereinigten Staaten verarbeitet werden, verlassen sie Europa, wo sie durch strenge EU-Datenschutzvorschriften geschützt sind. Ohne Vertrag ist es außerdem sehr schwierig, nachträglich festzustellen, wer wann welche Daten an das Tool übermittelt hat. Fachleute für Cybersicherheit bezeichnen dieses Phänomen als Schatten-IT. Dabei handelt es sich um eine Situation, in der Mitarbeiter eigenständig Anwendungen beschaffen, die ihr Arbeitgeber nicht genehmigt hat und über die er keinen Überblick besitzt.
Bei Copilot ist das anders. Das Tool hat eine Sicherheitsprüfung durchlaufen und unterliegt einem Vertrag zwischen Microsoft und der schwedischen Regierung, der die Regeln für den Umgang mit eingegebenen Daten genau festlegt. Nach der Prüfung von Copilot hat das Regierungsamt die Sicherheitseinstellungen noch weiter verschärft. Bei ChatGPT und Claude hat kein vergleichbares Verfahren stattgefunden. Das vollständige Aus bedeutet dies für die beiden verbotenen Chatbots jedoch nicht. Eine begrenzte Gruppe von Mitarbeitern kann sie weiterhin über eine spezielle Plattform für KI-Assistenten nutzen, die von den schwedischen Behörden selbst entwickelt wurde. Wie viele Personen von der Ausnahme betroffen sind und welche Regeln auf der Plattform gelten, teilte die Pressestelle nicht mit.
Auch andere EU-Länder haben Bedenken
Das Regierungsamt ist bei Weitem nicht die einzige schwedische Institution, die die Nutzung von Chatbots eingeschränkt hat. Nach Angaben des öffentlich-rechtlichen schwedischen Rundfunks haben auch die Steuerverwaltung und die staatliche Behörde für institutionelle Betreuung KI-Tools für Verbraucher in ähnlicher Weise eingeschränkt. Die Vollstreckungsbehörde bereitet ihre eigene Entscheidung erst noch vor.
ChatGPT und Claude stehen damit gemeinsam mit dem chinesischen DeepSeek auf der Liste der nicht zugelassenen Tools. Schweden hatte dessen Nutzung für Regierungsaufgaben bereits zuvor verboten, da Bedenken hinsichtlich möglicher Verstöße gegen die europäischen Datenschutzvorschriften bestanden. Darüber hinaus kündigten die Vereinigten Staaten kürzlich ein Verbot aller Produkte und Dienstleistungen dieses chinesischen Unternehmens an, da sie befürchten, dass die dortigen Gesetze den Behörden Zugang zu den Servern des Unternehmens ermöglichen könnten.
Das Misstrauen europäischer Regierungen gegenüber Chatbots wächst seit 2023, als Italien ChatGPT vorübergehend verbot. Das Europäische Parlament ging später noch einen Schritt weiter und deaktivierte die Funktionen künstlicher Intelligenz auf sämtlichen Arbeitsgeräten vollständig, einschließlich Copilot. Es kam zu dem Schluss, dass es die Sicherheit der verarbeiteten Daten nicht gewährleisten könne. Schweden entschied sich für einen vorsichtigeren Weg, indem es das Produkt eines US-Unternehmens genehmigte und zwei andere sperrte.
Die Grenze zwischen einem verbotenen und einem zugelassenen Tool ist dabei möglicherweise nicht so eindeutig, wie es auf den ersten Blick scheint. Microsoft hat die Claude-Sprachmodelle des Unternehmens Anthropic in Copilot integriert. In der Europäischen Union sind sie standardmäßig deaktiviert und müssen von Administratoren bewusst aktiviert werden. Das schwedische Regierungsamt hat bislang jedoch nicht bestätigt, ob es sie in seiner Version aktiviert hat. Theoretisch könnten die Beamten also weiterhin mit Claude arbeiten, nur unter einem anderen Namen.
Quellen: techradar.com und euronews.com
