Ein Vertriebsmitarbeiter kopiert eine Kundenanfrage in einen öffentlichen KI-Chat. Ein Fachbereich lädt einen Vertrag zur Prüfung hoch. Ein automatisierter Workflow liest E-Mails aus und erstellt daraus Aufgaben im ERP-System. Jeder dieser Fälle kann Zeit sparen - und jeder kann ohne klare KI-Sicherheit im Unternehmen Daten, Prozesse und Entscheidungen gefährden.
Für Geschäftsführer ist die entscheidende Frage deshalb nicht, ob KI genutzt wird. Sie lautet: Unter welchen technischen, organisatorischen und rechtlichen Bedingungen darf KI auf Unternehmenswissen zugreifen und operative Aufgaben übernehmen? Wer diese Frage erst beantwortet, wenn ein Vorfall eintritt, hat bereits Kontrolle verloren.
Warum KI-Sicherheit im Unternehmen zur Führungsaufgabe wird
Klassische IT-Sicherheit schützt vor allem Systeme, Zugänge und Netzwerke. Bei KI kommt eine weitere Ebene hinzu: das Verhalten eines Systems, das Inhalte verarbeitet, Antworten erzeugt und zunehmend Handlungen auslöst. Ein Modell kann vertrauliche Informationen falsch einordnen, unzulässige Inhalte aus Quellen übernehmen oder auf manipulierte Anweisungen reagieren. Die Gefahr liegt nicht allein im Hackerangriff, sondern auch in unkontrollierter Nutzung und fehlerhafter Automatisierung.
Besonders im Mittelstand entsteht ein Spannungsfeld. Fachbereiche wollen schnell produktiver arbeiten, während IT und Datenschutz nachvollziehbare Kontrollmechanismen verlangen. Ein pauschales KI-Verbot löst das Problem nicht. Es verlagert die Nutzung in private Accounts und Schattenprozesse. Freigabe ohne Leitplanken ist ebenso riskant, weil sensible Daten in Systeme gelangen können, die weder vertraglich noch technisch unter Kontrolle des Unternehmens stehen.
Die wirtschaftliche Wirkung ist unmittelbar. Vertrauliche Angebotskalkulationen, Personalinformationen, technische Dokumentationen oder Kundendaten sind kein Material für frei zugängliche Tools. Gleichzeitig kann ein sicher betriebener Corporate LLM den Zugriff auf internes Wissen erheblich beschleunigen. Sicherheit ist damit kein Bremsklotz für KI, sondern die Voraussetzung, um sie in kritischen Prozessen überhaupt skalierbar einzusetzen.
Die größten Risiken liegen an den Schnittstellen
Die Qualität eines Sprachmodells ist nur ein Teil der Risikobetrachtung. In der Praxis entstehen die relevanten Schwachstellen dort, wo Menschen, Datenquellen, Berechtigungen und Fachanwendungen zusammenkommen.
Unkontrollierte Datenabflüsse
Sobald Mitarbeiter Inhalte in externe KI-Dienste eingeben, stellt sich die Frage nach Speicherung, Weiterverarbeitung und Trainingsnutzung. Selbst wenn ein Anbieter Sicherheitszusagen macht, bleibt entscheidend, welche Daten konkret übertragen werden und welche Vertragsgrundlage gilt. Bei personenbezogenen Daten kommen Datenschutzanforderungen hinzu, bei Geschäftsgeheimnissen der Schutz des Know-hows.
Eine sichere Architektur beginnt daher mit Datenklassifizierung. Nicht jede Information braucht dieselbe Schutzstufe. Allgemeine Produkttexte können anders behandelt werden als Verträge, Entwicklungsdaten oder M&A-Unterlagen. Ohne diese Unterscheidung bleibt jede KI-Richtlinie zu abstrakt und jede technische Freigabe zu weit gefasst.
Zu weitreichende Berechtigungen
Ein KI-Assistent, der auf Wissensdatenbanken, CRM, SharePoint und ERP zugreift, ist nur so sicher wie sein Berechtigungsmodell. Ein häufiger Fehler besteht darin, dem System pauschal Zugriff auf ganze Datenräume zu geben. Dann kann ein Mitarbeiter Informationen erhalten, die er im Ursprungssystem nie hätte sehen dürfen.
Die wirksame Regel lautet: Die KI darf keine Rechte erweitern. Sie muss Berechtigungen aus den angebundenen Systemen übernehmen und bei jeder Anfrage respektieren. Rollen, Mandanten, Abteilungen und Freigabestufen müssen auch im KI-Zugriff erkennbar bleiben. Das klingt technisch, ist aber ein klarer Managementauftrag: Zuständigkeiten und Informationsgrenzen müssen vor der Automatisierung definiert sein.
Manipulierte Eingaben und fehlerhafte Antworten
Sprachmodelle verarbeiten Anweisungen in natürlicher Sprache. Genau das macht sie nützlich - und angreifbar. In externen Dokumenten, Webseiten oder E-Mails können versteckte Aufforderungen stehen, die ein Modell zu unerwünschten Aktionen verleiten. Dieses Risiko wird als Prompt Injection bezeichnet.
Daneben bleiben fachliche Fehler ein Thema. Ein Modell kann überzeugend formulieren und dennoch falsche Aussagen treffen. Je näher die KI an rechtlichen, finanziellen, technischen oder personalbezogenen Entscheidungen arbeitet, desto wichtiger werden Quellenbezug, Prüfungen und klare Eskalationswege. Eine Antwort ohne nachweisbare Grundlage ist keine Entscheidungsbasis, sondern ein Entwurf.
Automatisierung ohne Kontrollpunkt
Die größte Hebelwirkung entsteht, wenn KI nicht nur Texte erstellt, sondern Prozesse anstößt: E-Mails priorisieren, Aufträge prüfen, Stammdaten ergänzen oder Tickets weiterleiten. Hier wächst jedoch auch das Schadenspotenzial. Ein falsch klassifizierter Auftrag oder eine unberechtigte Änderung kann Folgekosten erzeugen, die den Produktivitätsgewinn schnell übersteigen.
Nicht jeder Workflow benötigt dieselbe Kontrolle. Bei einer internen Vorqualifizierung kann eine automatische Ausführung sinnvoll sein. Bei Zahlungen, Vertragsfreigaben oder Änderungen sensibler Stammdaten sollte ein Mitarbeiter die Entscheidung bestätigen. Gute KI-Sicherheit unterscheidet zwischen unterstützenden, vorbereitenden und verbindlich ausführenden Aufgaben.
So entsteht eine belastbare Sicherheitsarchitektur
Sicherheit beginnt nicht mit einem einzelnen Tool, sondern mit einem Betriebsmodell. Dieses Modell verbindet Infrastruktur, Governance und konkrete Prozesse. Für viele mittelständische Unternehmen ist ein geschlossenes Corporate LLM die sinnvollere Grundlage als eine Sammlung frei genutzter Einzeltools. Es schafft einen kontrollierten Raum, in dem Nutzung, Datenzugriff und Protokollierung nach den Anforderungen des Unternehmens gestaltet werden können.
Die folgenden fünf Ebenen sollten zusammenspielen:
- Geschlossene Datenverarbeitung: Unternehmensdaten bleiben in einer klar definierten, DSGVO-konformen Infrastruktur. Verträge, Speicherorte, Auftragsverarbeitung und Löschkonzepte müssen nachvollziehbar geregelt sein.
- Identitäts- und Rechtekonzept: Single Sign-on, rollenbasierte Zugriffe und die Übernahme bestehender Berechtigungen verhindern, dass die KI zum Umweg um etablierte Schutzmechanismen wird.
- Abgesicherte Wissensanbindung: Dokumente werden nicht pauschal in ein Modell geladen. Sie werden über kontrollierte Schnittstellen bereitgestellt, nach Berechtigungen gefiltert und mit Quellenreferenzen ausgegeben.
- Protokollierung und Monitoring: Anfragen, Datenzugriffe, Systemaktionen und Fehlermeldungen müssen auswertbar sein. Nur so lassen sich Auffälligkeiten erkennen und Vorfälle untersuchen.
- Freigaben für kritische Aktionen: Wo KI Prozesse auslöst, braucht es abgestufte Kontrollpunkte, klare Verantwortliche und bei Bedarf eine menschliche Bestätigung.
Die konkrete Ausprägung hängt vom Anwendungsfall ab. Ein interner Wissensassistent benötigt vor allem saubere Rechte und Quellenkontrolle. Eine KI, die E-Mails verarbeitet, braucht zusätzlich Regeln für vertrauliche Anhänge und externe Inhalte. Ein Workflow mit ERP-Anbindung erfordert belastbare Freigabegrenzen, Transaktionsprotokolle und einen sicheren Rückfallprozess.
KI-Sicherheit braucht klare Verantwortlichkeiten
Technologie allein verhindert keine Fehlbedienung und ersetzt keine Führung. Unternehmen benötigen eine kurze, verbindliche KI-Governance, die für Fachbereiche verständlich bleibt. Darin sollte festgelegt sein, welche Tools zugelassen sind, welche Datenklassen verarbeitet werden dürfen, wer neue Anwendungsfälle freigibt und wann Datenschutz, Informationssicherheit oder Rechtsabteilung eingebunden werden.
Entscheidend ist, dass diese Regeln nicht als PDF im Intranet enden. Sie müssen in die technische Umsetzung übersetzt werden. Wenn sensible Daten nicht in externe Tools gehören, braucht es eine sichere Alternative, die im Arbeitsalltag mindestens ebenso gut nutzbar ist. Wenn ein Fachbereich einen neuen Automatisierungsfall plant, braucht er einen klaren Weg von der Idee über die Risikoprüfung bis zum produktiven Betrieb.
Auch Schulungen bleiben relevant, aber sie dürfen nicht die einzige Schutzmaßnahme sein. Mitarbeiter sollten erkennen, welche Inhalte kritisch sind, wann KI-Ergebnisse geprüft werden müssen und welche Systeme für welche Aufgaben freigegeben sind. Die Verantwortung für Architektur, Berechtigungen und Anbietersteuerung liegt dennoch beim Unternehmen - nicht beim einzelnen Nutzer.
Von der Richtlinie zum produktiven Betrieb
Der sinnvollste Einstieg ist selten ein unternehmensweiter Rollout. Besser ist ein abgegrenzter Prozess mit erkennbarem Nutzen und überschaubarem Risiko. Typische Kandidaten sind die Recherche in freigegebenen Dokumenten, die strukturierte Bearbeitung wiederkehrender Anfragen oder die Erstellung erster Entwürfe aus internen Vorlagen.
Vor dem Start sollten Geschäftsführung, IT und Fachbereich vier Punkte gemeinsam klären: Welche Daten fließen ein? Welche Entscheidung trifft die KI tatsächlich? Wer darf auf Ergebnisse und Quellen zugreifen? Was passiert bei einer falschen Ausgabe oder einer technischen Störung? Aus diesen Antworten entstehen Architektur und Regeln, nicht umgekehrt.
Im Betrieb zeigen Kennzahlen, ob der Ansatz trägt. Neben Zeitersparnis und Bearbeitungsvolumen gehören dazu Fehlerraten, Eskalationen, unzulässige Zugriffsversuche und die Qualität der Ergebnisse. Wer diese Werte regelmäßig prüft, erkennt früh, ob eine Automatisierung erweitert werden kann oder ob sie zusätzliche Sicherungen braucht.
Solara AI entwickelt geschlossene KI-Systeme und automatisierte Workflows so, dass sie in bestehende Unternehmensstrukturen passen. Der Fokus liegt dabei nicht auf einer möglichst spektakulären Demonstration, sondern auf kontrollierbarer Nutzung, nachvollziehbaren Datenflüssen und messbarer Wirkung im Tagesgeschäft.
Der nächste sinnvolle Schritt ist daher kein weiterer Testzugang zu einem öffentlichen Tool. Prüfen Sie einen konkreten Prozess, seine Daten, seine Berechtigungen und seine wirtschaftliche Relevanz. Dort zeigt sich, welche KI-Infrastruktur Ihr Unternehmen wirklich braucht - und welche Kontrolle erforderlich ist, damit aus einem Experiment ein belastbarer Wettbewerbsvorteil wird.