Künstliche Intelligenz ist bereits zu einem festen Bestandteil der Arbeit in Unternehmen geworden. Doch mit jeder neuen Technologie entstehen auch neue Wege, die sensible Daten gefährden können. Wie komplex die gesamte Situation ist, zeigt auch die Tatsache, dass nicht nur Nutzer, sondern auch die Entwickler selbst mit den Risiken der KI zu kämpfen haben. Das gilt sogar für Google. Was sind die häufigsten Risiken und wie lassen sie sich vermeiden?
Sicherheit lässt sich nicht „später nachrüsten“
Die gesamte Problematik wurde von Francis de Souza, einem der Leiter von Google Cloud, in einem Interview mit TechCrunch treffend zusammengefasst. Seine Kernaussage ist einfach: Sicherheit muss von Anfang an berücksichtigt werden und nicht erst, wenn ein Problem auftritt. Das ist vergleichbar mit dem Bau eines Hauses. Schlösser und Alarmanlagen müssen sofort installiert werden und nicht erst, nachdem in das Haus eingebrochen wurde.
In der Praxis weist er vor allem auf zwei Punkte hin, mit denen die überwältigende Mehrheit der Unternehmen zu kämpfen hat. Erstens sollte ein Unternehmen seiner Ansicht nach KI-Tools so auswählen, dass der Datenschutz bereits integriert ist und nicht erst aufwendig ergänzt werden muss. Zweitens warnt er davor, die Sicherheit den Mitarbeitern zu überlassen, damit sie sich selbst darum kümmern.
Der zweite Punkt führt nämlich zu einem Phänomen, das als „Shadow AI“ bezeichnet wird. Gemeint ist eine Situation, in der Mitarbeiter bei der Arbeit frei zugängliche öffentliche Tools wie ChatGPT verwenden und beispielsweise Unternehmensverträge oder Kundendaten hineinkopieren, ohne jemanden darüber zu informieren.
Und dabei handelt es sich keineswegs um Ausnahmen. Laut einem Bericht von Menlo Security vom August 2025 nutzen bis zu 68 % der Mitarbeiter kostenlose KI-Tools, und 57 % von ihnen geben sensible Daten in diese Tools ein.
Angriffe werden schneller und zielen auf neue Bereiche ab
De Souza wies auch darauf hin, dass Hacker heute viel schneller angreifen als früher. Die durchschnittliche Zeit zwischen dem ersten Eindringen und der nächsten Phase des Angriffs ist von acht Stunden auf 22 Sekunden gesunken, was die gesamte Situation noch verschärft.
Darüber hinaus entstehen ständig neue Schwachstellen. Während es früher für Unternehmen ausreichte, ihre Computer und ihr internes Netzwerk zu schützen, gibt es heute immer mehr „Eingangstüren“ in Unternehmen. Dazu gehören die KI-Modelle selbst, Trainingsdaten, KI-Agenten und Texteingaben, die wir ihnen übermitteln. Jeder dieser Bereiche kann nämlich angegriffen werden.
Unternehmen übersehen häufig auch jahrealte Daten auf ihren Servern. In der Regel handelt es sich um archivierte Dokumente oder Tabellen, die längst in Vergessenheit geraten sind. Automatisierte KI-Assistenten bewegen sich in dieser Umgebung jedoch meist völlig frei und können diese vergessenen Dateien finden und auswerten.
Dass dies keineswegs billig ist, zeigen auch die Zahlen. Laut IBM-Daten aus dem Jahr 2025 kostet ein durch „Shadow AI“ verursachtes Datenleck ein Unternehmen im Durchschnitt 670.000 US-Dollar mehr, und seine Behebung dauert zehn Tage länger als bei einem gewöhnlichen Vorfall.
Auch die Entwickler von KI lernen im laufenden Betrieb
Und nun zum interessantesten Punkt. Während große Unternehmen Ratschläge dazu geben, wie Sicherheitsmechanismen eingerichtet werden sollten, stoßen sie selbst gelegentlich auf ihre eigenen Fehler.
Laut TechCrunch berichtete The Register über eine Reihe von Fällen, in denen Entwickler von Google Rechnungen über mehrere Tausend Dollar für KI-Dienste erhielten, die sie nie bewusst aktiviert hatten. Schließlich stellte sich heraus, dass Angreifer ihre Zugangsschlüssel gestohlen und begonnen hatten, kostenpflichtige KI auf fremde Rechnung zu nutzen. Bei einem der Betroffenen entstand sogar eine Rechnung von über 10.000 US-Dollar innerhalb von nur 30 Minuten.
Was lässt sich daraus mitnehmen? Die Sicherheit von KI erweist sich als äußerst komplexe Disziplin. Selbst die Sicherheitschefin von LinkedIn, Lea Kissner, sagte, dass Unternehmen Fachleute benötigen werden, die mit neuen Arten von Fehlern umgehen können.
Auch wenn es den Anschein haben mag, dass sich kleinere Unternehmen ohne starke IT-Abteilungen mit KI schwertun, ist das Gegenteil der Fall. Denn auch große Technologieunternehmen haben derzeit eine Lücke zwischen dem, was sie anderen empfehlen, und der Geschwindigkeit, mit der sie sich selbst anpassen.
