KI Security im Unternehmen: Sensible Daten bei der KI-Nutzung schützen

Dienstagmorgen, 8:40 Uhr. Eine Mitarbeiterin in der Buchhaltung soll eine Mahnliste übersichtlich aufbereiten. Sie kopiert 300 Zeilen mit Kundennamen, Adressen und offenen Beträgen in ChatGPT und hat nach zwei Minuten eine saubere Tabelle. Effizient, freundlich, gut gemeint. Und trotzdem haben gerade personenbezogene Daten Ihr Unternehmen verlassen. Niemand in der IT hat es bemerkt, und niemand kann es rückgängig machen. Genau hier beginnt KI Security: nicht bei Hackern, sondern beim ganz normalen Arbeitsalltag.

Dieser Beitrag zeigt, warum KI Security 2026 zur Chefsache wird, welche Daten typischerweise in ChatGPT, Claude, Gemini oder Copilot landen und mit welchen fünf Schritten Sie KI produktiv nutzen, ohne die Kontrolle über Ihre Daten zu verlieren.

Schatten-KI: Das Problem, das niemand meldet

Schatten-KI ist kein Randphänomen. Laut einer Bitkom-Befragung nutzt bereits jeder achte Beschäftigte in Deutschland KI-Tools ohne Genehmigung, und nur 21 Prozent der Nutzer haben überhaupt eine formelle KI-Schulung erhalten. In einer internationalen Studie von Snowflake und Omdia räumen 57 Prozent der befragten deutschen Unternehmen ein, dass bei ihnen nicht genehmigte KI-Tools im Einsatz sind.

Das Institut der deutschen Wirtschaft bringt es im September 2026 auf den Punkt: Beschäftigte sind schneller als ihre Betriebe. Mitarbeitende greifen zu KI, weil sie ihnen Arbeit abnimmt. Die Unternehmen haben dafür oft weder Regeln noch Werkzeuge. Für die KI Security ist das die eigentliche Lücke: Was die IT nicht sieht, kann sie nicht schützen.

Hinzu kommt die schiere Vielfalt. Eine Analyse von Harmonic Security über drei Millionen Prompts und Uploads zeigt, dass ein durchschnittliches Unternehmen mit 27 verschiedenen KI-Tools arbeitet. Wer glaubt, mit einem einzigen freigegebenen Copilot-Zugang sei das Thema erledigt, unterschätzt die Realität.

Welche Daten in ChatGPT, Claude, Gemini und Copilot landen

Die meisten KI-Anfragen sind harmlos: Texte glätten, E-Mails formulieren, Ideen sammeln. Kritisch wird es bei einem kleinen, aber regelmäßigen Anteil. Harmonic Security hat in einer Auswertung festgestellt, dass 8,5 Prozent der untersuchten Prompts sensible Informationen enthielten. Fast die Hälfte davon betraf Kundendaten, gut ein Viertel Mitarbeiterdaten. Bei hochgeladenen Dateien ist die Quote noch höher: In einer späteren Analyse von Harmonic Security enthielten 26 Prozent aller Uploads in KI-Tools sensible Daten.

Besonders heikel ist die Nutzung kostenloser Versionen. In der Harmonic-Studie nutzten 63,8 Prozent der ChatGPT-Anwender und sogar 75 Prozent der Claude-Anwender die Gratis-Variante, die in der Regel keine der Schutzfunktionen der Business-Versionen bietet.

Das Muster ist immer gleich: Niemand will Daten preisgeben. Die Mitarbeitenden wollen schneller fertig werden. KI Security muss deshalb dort ansetzen, wo die Daten das Haus verlassen, und nicht erst, wenn der Schaden bereits passiert ist.

Besonders betroffen: Kommunen, Versorger und Industrie

Schatten-KI betrifft jedes Unternehmen. In einigen Branchen sind die Daten, die unbemerkt in KI-Tools landen, jedoch besonders heikel, weil sie gesetzlich geschützt sind, die Versorgungssicherheit berühren oder den Kern des Geschäfts ausmachen:

Gemeinsam ist allen Branchen: KI Security muss zu den eigenen Daten und Prozessen passen. Ein Standardverbot schützt hier genauso wenig wie eine ungeregelte Freigabe.

Warum KI Security mehr ist als ein Verbot

Die naheliegende Reaktion vieler Geschäftsführungen lautet: „Dann sperren wir ChatGPT eben.“ Das funktioniert in der Praxis kaum. Gesperrte Dienste werden über das private Smartphone genutzt, und wer KI verbietet, verschenkt Produktivität, die der Wettbewerb längst mitnimmt. Gute KI Security folgt deshalb einem anderen Prinzip: KI ermöglichen, aber sensible Daten zuverlässig schützen.

Auch freigegebene Werkzeuge sind kein Selbstläufer. Im Juni 2026 schloss Microsoft eine kritische Lücke in Microsoft 365 Copilot mit dem Namen „SearchLeak“ (CVE-2026-42824). Im August folgte eine weitere Copilot-Schwachstelle, die ebenfalls Datenabfluss per Klick ermöglichte. Über einen präparierten Link konnten Angreifer E-Mails und Dateien abgreifen.Für die KI Security bedeutet das: Berechtigungen, Datenklassifizierung und Monitoring sind auch dann Pflicht, wenn das Tool offiziell lizenziert ist.

Dazu kommt der Rechtsrahmen. Seit dem 27. Juli 2026 gilt Artikel 4 der KI-Verordnung in der Fassung des KI-Omnibus: Unternehmen, die KI einsetzen, müssen Maßnahmen ergreifen, um die KI-Kompetenz ihres Personals zu unterstützen. Wer weder Regeln noch Schulungen vorweisen kann, hat bei einer Prüfung wenig in der Hand. Und für Kommunen in Baden-Württemberg regelt das im Februar 2026 geänderte Landesdatenschutzgesetz den KI-Einsatz bei der Verarbeitung personenbezogener Daten inzwischen ausdrücklich.

KI Security in 5 Schritten: So schützen Sie sensible Daten

Wirksame KI Security besteht aus Organisation und Technik. Die folgenden fünf Schritte bilden einen praxistauglichen Fahrplan für den Mittelstand und für Kommunen.

1. Transparenz schaffen: Welche KI-Tools werden genutzt?

Bevor Sie Regeln aufstellen, brauchen Sie ein realistisches Bild. Werten Sie aus, welche KI-Dienste in Ihrem Netzwerk tatsächlich aufgerufen werden, und sprechen Sie offen mit den Abteilungen. Moderne Firewalls und Web-Filter liefern dafür bereits wertvolle Daten. Ohne diese Bestandsaufnahme bleibt KI Security Stückwerk. Halten Sie das Ergebnis schriftlich fest: Welche Tools, welche Abteilungen, welche Zwecke? Diese Übersicht ist später die Basis für Ihre Richtlinie, für die Auswahl freigegebener Dienste und für den Nachweis gegenüber Prüfern oder dem Datenschutzbeauftragten.

2. Eine KI-Richtlinie aufsetzen

Eine kurze, verständliche Richtlinie legt fest, welche Tools erlaubt sind, welche Daten tabu sind und wer bei Fragen hilft. Wie eine solche Richtlinie konkret aufgebaut sein kann, haben wir im Beitrag zu den Bausteinen einer KI-Richtlinie für den Mittelstand gezeigt. Wichtig: Die Richtlinie muss praxistauglich sein, sonst wird sie ignoriert.

3. Freigegebene Alternativen anbieten

Schatten-KI entsteht, wenn es keine gute offizielle Lösung gibt. Stellen Sie deshalb geprüfte Business-Versionen bereit, bei denen Ihre Eingaben nicht zum Training verwendet werden, und räumen Sie vor der Einführung von Copilot die Berechtigungen in SharePoint, OneDrive und auf Fileservern auf. Ein KI-Assistent findet sonst genau die Dokumente, die nie jemand hätte sehen dürfen.

4. Datenabfluss technisch verhindern

Richtlinien allein reichen nicht, denn unter Zeitdruck wird schnell mal etwas hineinkopiert. Hier setzt technische KI Security an. Lösungen wie Barracuda AI Data Security prüfen Prompts und Datei-Uploads, bevor sie ein KI-Tool erreichen, und blockieren oder warnen bei Verstößen. Laut Hersteller deckt die Lösung über 1.300 KI-Dienste ab, darunter ChatGPT, Copilot, Claude und Gemini, und erkennt typische sensible Daten wie personenbezogene Daten, Zugangsdaten oder Quellcode bereits ab Werk. Sinnvoll ist ein stufenweiser Einstieg: zuerst nur Sichtbarkeit, dann gezielt durchsetzen.

5. Mitarbeitende schulen und Wirkung prüfen

Die beste Technik nützt wenig, wenn niemand versteht, warum sie da ist. Kurze, praxisnahe Schulungen zeigen an echten Beispielen, was in einen Prompt gehört und was nicht. Damit erfüllen Sie zugleich die Anforderung aus Artikel 4 der KI-Verordnung. Prüfen Sie anschließend regelmäßig, ob die Maßnahmen greifen: Wie oft schlägt der Schutz an? Welche Abteilungen brauchen Unterstützung? KI Security ist kein Projekt mit Enddatum, sondern ein laufender Prozess.

Prüfen Sie selbst: Wie steht es um Ihre KI Security?

Beantworten Sie die folgenden Fragen ehrlich. Jedes „Nein“ oder „Weiß ich nicht“ ist ein Hinweis auf Handlungsbedarf:

• Wissen Sie, welche KI-Tools Ihre Mitarbeitenden heute tatsächlich nutzen?
• Gibt es eine schriftliche KI-Richtlinie, die alle kennen?
• Stellen Sie eine freigegebene Business-Version bereit, damit niemand auf private Konten ausweicht?
• Sind die Berechtigungen in Microsoft 365 aufgeräumt, bevor Copilot darauf zugreift?
• Würden Sie es bemerken, wenn morgen eine Kundenliste in ein KI-Tool kopiert wird?

Gerade die letzte Frage ist der Kern jeder KI Security. Wenn Sie hier zögern, sind Sie in guter Gesellschaft, aber nicht auf der sicheren Seite.

Wie Gemakom Sie bei KI Security unterstützt

Als regionales IT-Systemhaus aus der Metropolregion Rhein-Neckar begleiten wir Unternehmen und Kommunen seit über 30 Jahren bei der IT-Sicherheit. KI Security ordnen wir dabei in unser 360-Grad-Sicherheitskonzept ein: von der Bestandsaufnahme über die Richtlinie bis zur technischen Absicherung und Schulung.

Den Datenabfluss an KI-Tools verhindern wir technisch mit Barracuda AI Data Security. So läuft der Schutz in fünf Stufen ab:

Konkret bedeutet das: Wir analysieren gemeinsam mit Ihnen die aktuelle KI-Nutzung, entwickeln eine praxistaugliche Richtlinie, bereinigen Berechtigungen vor dem Copilot-Rollout und setzen technische Schutzmaßnahmen um, die zu Ihrer Umgebung passen. Mehr zu unserem Ansatz finden Sie auf unserer Seite zur IT-Security-Beratung und zur Netzwerk-Sicherheit. Da gestohlene Zugangsdaten ohnehin zu den größten Risiken zählen, lohnt sich ergänzend ein Blick auf unseren Beitrag, warum Zugangsdaten 2026 zur zentralen Cyber-Gefahr werden.

Fazit

KI ist im Arbeitsalltag angekommen, ob mit oder ohne Freigabe. Die Frage ist nicht mehr, ob Ihre Mitarbeitenden ChatGPT, Claude, Gemini oder Copilot nutzen, sondern welche Daten dabei Ihr Unternehmen verlassen. Mit Transparenz, klaren Regeln, freigegebenen Alternativen, technischem Schutz und Schulung wird KI Security vom Risiko zum Wettbewerbsvorteil. Beginnen Sie jetzt, bevor die erste Kundenliste im falschen Prompt landet.