Wer KI bereits in Kundenservice, Vertrieb, Personal, Wissensmanagement oder Prozessautomatisierung einsetzt, steht nicht mehr vor einer rein technischen Frage. Die EU AI Act Pflichten machen aus KI-Einsatz eine Führungs- und Organisationsaufgabe. Entscheidend ist nicht, ob ein Unternehmen ein eigenes Modell entwickelt oder einen externen Dienst nutzt. Entscheidend ist, welche Rolle es übernimmt, welches Risiko vom konkreten System ausgeht und wie kontrolliert dieses System im Geschäftsprozess arbeitet.
Für mittelständische Unternehmen ist das eine gute Nachricht, wenn sie die Verordnung richtig einordnen: Der AI Act verbietet nicht den produktiven KI-Einsatz. Er schafft einen Rahmen, in dem Unternehmen Innovation, Datenschutz und operative Sicherheit zusammenführen können. Wer heute Inventar, Verantwortlichkeiten und technische Leitplanken aufbaut, reduziert spätere Anpassungskosten und gewinnt Vertrauen bei Kunden, Partnern und Mitarbeitern.
EU AI Act Pflichten: Der Zeitpunkt ist jetzt
Der EU AI Act ist seit dem 1. August 2024 in Kraft. Seine Vorgaben greifen jedoch stufenweise. Seit dem 2. Februar 2025 gelten bereits Verbote bestimmter KI-Praktiken sowie Anforderungen an die KI-Kompetenz im Unternehmen. Seit dem 2. August 2025 gelten wesentliche Regelungen für Anbieter von General-Purpose-AI-Modellen. Der Großteil der Bestimmungen, darunter viele Vorgaben für Hochrisiko-KI-Systeme, wird ab dem 2. August 2026 relevant. Für bestimmte Hochrisikosysteme, die als Sicherheitskomponente regulierter Produkte eingesetzt werden, gilt eine längere Übergangsfrist bis August 2027.
Diese Zeitachsen sollten nicht darüber hinwegtäuschen, dass Handlungsbedarf längst besteht. KI-Kompetenz ist bereits Pflicht. Vor allem aber braucht ein Unternehmen ausreichend Transparenz über seine heutigen Anwendungen. Wer erst kurz vor dem nächsten Stichtag herausfindet, dass ein Fachbereich ein KI-gestütztes Bewerbertool, eine Bonitätsbewertung oder eine automatisierte Priorisierung von Kundenanfragen betreibt, wird Compliance nur noch reaktiv organisieren können.
Nicht jede Anwendung ist Hochrisiko - jede braucht aber eine Einordnung
Der AI Act folgt einem risikobasierten Ansatz. Für die Praxis bedeutet das: Die Pflichten richten sich nicht pauschal nach dem Etikett „KI“, sondern nach Einsatzzweck, Wirkung und Rolle des Unternehmens.
Verboten sind etwa Systeme, die Menschen manipulieren, Schwächen gezielt ausnutzen, Social Scoring betreiben oder Emotionen am Arbeitsplatz beziehungsweise in Bildungseinrichtungen erkennen sollen. Auch bestimmte Formen biometrischer Kategorisierung und Echtzeit-Fernidentifizierung im öffentlichen Raum sind untersagt oder eng begrenzt. Diese Fälle sind im klassischen Mittelstand selten. Sie müssen dennoch in Beschaffungs- und Freigabeprozessen ausgeschlossen werden.
Viele interne Assistenten, Textgeneratoren, Suchsysteme oder Automatisierungen fallen in die Kategorie begrenztes oder minimales Risiko. Daraus folgt nicht, dass sie ohne Regeln betrieben werden können. Werden Mitarbeiter oder Kunden mit einem KI-System konfrontiert, sind je nach Anwendung Transparenzhinweise erforderlich. Bei KI-generierten oder manipulierten Inhalten können Kennzeichnungs- und Offenlegungspflichten entstehen. Zusätzlich gelten weiterhin DSGVO, Geschäftsgeheimnisschutz, Urheberrecht und vertragliche Vorgaben.
Besondere Aufmerksamkeit verdienen Hochrisiko-Anwendungen. Dazu können KI-Systeme gehören, die bei Bewerberauswahl, Leistungsbewertung, Kreditwürdigkeit, Zugang zu wesentlichen Dienstleistungen, beruflicher Bildung oder kritischer Infrastruktur eingesetzt werden. Nicht jeder Einsatz in diesen Bereichen ist automatisch hochriskant. Die genaue Zweckbestimmung, die tatsächliche Einflussnahme auf Entscheidungen und mögliche Ausnahmen sind maßgeblich. Gerade deshalb ist eine dokumentierte Einzelfallprüfung sinnvoller als eine grobe Ampelbewertung.
Die Rolle des Unternehmens bestimmt die konkreten Aufgaben
Der AI Act unterscheidet unter anderem Anbieter, Betreiber, Importeure und Händler. Ein Anbieter entwickelt ein KI-System oder lässt es entwickeln und bringt es unter eigenem Namen in Verkehr. Ein Betreiber nutzt ein System unter seiner Verantwortung. Für viele mittelständische Unternehmen ist die Betreiberrolle der Regelfall. Sobald ein Unternehmen jedoch ein Modell oder eine Standardsoftware wesentlich verändert, für einen neuen Zweck umbaut oder eine eigene KI-Anwendung unter seinem Namen anbietet, kann sich die Einordnung verschieben.
Anbieter tragen besonders umfangreiche Pflichten. Bei Hochrisiko-Systemen reichen diese von Risikomanagement, Daten-Governance und technischer Dokumentation über Protokollierung und menschliche Aufsicht bis zu Konformitätsbewertung, Qualitätsmanagement und Marktbeobachtung. Betreiber müssen das System entsprechend den Vorgaben einsetzen, die menschliche Aufsicht sicherstellen, Protokolle soweit erforderlich aufbewahren und erkannte Risiken oder schwerwiegende Vorfälle adressieren.
Für die Geschäftsführung ist diese Abgrenzung keine juristische Formalie. Sie entscheidet darüber, welche Nachweise verfügbar sein müssen und welche Fragen beim Softwareanbieter auf den Tisch gehören. Ein Vertrag allein ersetzt keine Governance. Wer ein KI-System in einen kritischen Prozess integriert, bleibt für seine betriebliche Anwendung verantwortlich.
KI-Inventar zuerst, Richtlinie allein reicht nicht
Der häufigste Fehler ist eine KI-Richtlinie, die niemand mit den tatsächlich eingesetzten Anwendungen abgleicht. Wirksam wird Governance erst, wenn sie am Prozess ansetzt. Der erste Schritt ist deshalb ein zentral geführtes KI-Inventar. Es sollte nicht nur den Namen eines Tools erfassen, sondern dessen Geschäftszweck, Datenarten, Nutzerkreis, Anbieter, Schnittstellen, Entscheidungswirkung, Risikoklasse und verantwortlichen Prozessinhaber.
Danach folgt die Priorisierung. Anwendungen mit personenbezogenen Daten, vertraulichem Unternehmenswissen, automatisierten Entscheidungen oder direktem Kundenkontakt gehören an die Spitze der Prüfung. Ein interner Textassistent, der ausschließlich auf freigegebenen Dokumenten arbeitet und Ergebnisse zur Prüfung vorlegt, verlangt andere Maßnahmen als ein System, das Bewerber vorsortiert oder Preisentscheidungen vorbereitet.
Für jeden relevanten Anwendungsfall sollte klar sein, welche Eingaben erlaubt sind, welche Daten ausgeschlossen bleiben, wer Ergebnisse freigibt und wann ein Prozess gestoppt werden muss. Diese Regeln müssen technisch unterstützt werden. Zugriffskonzepte, Rechteverwaltung, Protokollierung, Freigabeworkflows und nachvollziehbare Datenflüsse sind belastbarer als bloße Verhaltensappelle.
Menschliche Aufsicht ist eine betriebliche Funktion
„Human in the loop“ wird oft als pauschale Antwort auf KI-Risiken verwendet. Im Unternehmen reicht es nicht, irgendwo eine Freigabetaste vorzusehen. Menschliche Aufsicht funktioniert nur, wenn der zuständige Mitarbeiter die Kompetenz, die Zeit und die Befugnis hat, ein Ergebnis zu hinterfragen oder zu verwerfen.
Bei einer KI-gestützten Vertragsprüfung kann eine fachliche Endfreigabe ausreichend sein. Bei der Priorisierung von Bewerbern muss dagegen sichergestellt werden, dass Vorschläge nicht unkritisch zu einer faktischen Vorauswahl werden. Bei einem Service-Chatbot braucht es definierte Eskalationswege, sobald das System Beschwerden, rechtliche Forderungen oder sensible Daten erkennt.
Gute Aufsicht entsteht aus klaren Entscheidungsgrenzen. Das Unternehmen sollte festlegen, welche Empfehlungen KI geben darf, welche Entscheidungen zwingend einem Mitarbeiter vorbehalten sind und welche Fälle automatisiert an einen Experten gehen. So bleibt KI produktiv, ohne unkontrolliert Entscheidungsmacht zu erhalten.
Beschaffung: Die Fragen an Anbieter werden konkreter
Viele Risiken entstehen nicht im selbst entwickelten System, sondern in eingekauften Anwendungen. Vor der Einführung sollte der Anbieter daher nachvollziehbar darlegen können, welche Rolle er im Sinne des AI Act übernimmt, für welchen Zweck die Lösung vorgesehen ist und welche Dokumentation bereitsteht. Bei Hochrisiko-Anwendungen sind Konformitätsinformationen, Gebrauchsanweisungen und Angaben zur menschlichen Aufsicht zentral.
Darüber hinaus zählen betriebliche Fragen: Wo werden Daten verarbeitet? Werden Prompts oder Dokumente zum Training verwendet? Welche Unterauftragnehmer sind eingebunden? Wie lassen sich Zugriffe begrenzen? Welche Protokolle stehen zur Verfügung? Wie wird über wesentliche Änderungen, Sicherheitsvorfälle oder Modellwechsel informiert?
Gerade bei generativen KI-Systemen ist eine geschlossene, unternehmensspezifische Architektur oft die wirtschaftlich sinnvollere Option. Sie reduziert das Risiko, dass vertrauliches Wissen unkontrolliert in öffentliche Werkzeuge gelangt, und erleichtert die Kontrolle über Datenquellen, Berechtigungen und Antworten. Das kostet in der Einführung mehr als ein frei zugängliches Standardtool. Gegenüber Schatten-IT, Datenabfluss und späteren Umbauten ist dieser Aufwand häufig deutlich geringer.
KI-Kompetenz muss zum Einsatz passen
Seit Februar 2025 müssen Anbieter und Betreiber Maßnahmen treffen, damit die Personen, die mit KI-Systemen arbeiten, über ausreichende KI-Kompetenz verfügen. Eine einstündige Standardpräsentation für alle Abteilungen erfüllt den Zweck nur selten. Vertrieb, Personal, Kundenservice, Fachbereich und IT begegnen unterschiedlichen Risiken und brauchen deshalb unterschiedliche Handlungssicherheit.
Mitarbeiter müssen verstehen, wann KI-Ergebnisse überprüft werden müssen, welche Daten nicht eingegeben werden dürfen, wie Halluzinationen und Verzerrungen erkannt werden und an wen Auffälligkeiten gemeldet werden. Führungskräfte brauchen zusätzlich ein Verständnis für Freigabegrenzen, Verantwortlichkeiten und wirtschaftliche Auswirkungen. Die Schulung sollte dokumentiert, regelmäßig aktualisiert und an realen Anwendungsfällen ausgerichtet werden.
Ein pragmatischer Fahrplan für den Mittelstand
Ein belastbarer Start gelingt in wenigen klaren Etappen: Zuerst werden alle KI-Anwendungen und geplanten Beschaffungen erfasst. Danach erfolgt eine Risikobewertung mit Fokus auf Zweck, Daten, Betroffene und Entscheidungswirkung. Anschließend werden Verantwortlichkeiten, Nutzungsregeln, technische Schutzmaßnahmen und Freigabeprozesse festgelegt. Erst dann sollte die Umsetzung skaliert werden - begleitet durch gezielte Schulungen, regelmäßige Kontrollen und ein Verfahren für Änderungen oder Vorfälle.
Solara AI setzt bei solchen Vorhaben nicht bei einer abstrakten Compliance-Schicht an, sondern bei der kontrollierten Integration in reale Unternehmensprozesse. Das ist der entscheidende Maßstab: KI muss nicht nur funktionieren, sondern unter klaren Verantwortlichkeiten, mit geschützten Daten und nachvollziehbaren Ergebnissen dauerhaft betreibbar sein.
Der AI Act wird damit zum Anlass, den KI-Einsatz im Unternehmen sauber zu ordnen. Wer diese Ordnung jetzt schafft, erfüllt nicht nur regulatorische Erwartungen. Er schafft die Voraussetzung, KI dort zu skalieren, wo sie tatsächlich Zeit spart, Wissen nutzbar macht und Entscheidungen besser vorbereitet.