← Magazin

Zukunftskompetenzen

03. Oktober 2026 · 4 Min. Lesezeit

KI im Mittelstand einführen: Mit den eigenen Abläufen anfangen und die Belegschaft mitnehmen

In fast jedem mittelständischen Betrieb nutzen einzelne Leute längst KI, für Angebote, E-Mails oder Übersetzungen, oft mit privaten Konten. Eine Regel gibt es selten, eine Strategie noch seltener. Hier steht, wo ein Betrieb sinnvoll anfängt, welche Pflichten seit 2025 gelten und wie aus einzelnen Versuchen eine Arbeitsweise wird.

Die Lage in vielen Betrieben ähnelt sich. Im Vertriebsinnendienst lässt sich jemand Angebotstexte formulieren, in der Konstruktion übersetzt ein Kollege technische Dokumentation, die Geschäftsführung hat ein Abo, das sie gelegentlich für Präsentationen nutzt. Die IT weiß von einigen dieser Fälle, der Betriebsrat von keinem. Gleichzeitig stehen Softwareanbieter vor der Tür, die KI-Funktionen in ihre Produkte eingebaut haben, und die Frage, ob man jetzt etwas kaufen muss. Ein Betrieb, der hier Ordnung schafft, braucht dafür zuerst einen Überblick und eine Reihenfolge. Die Werkzeuge kommen danach.

Wo KI im Mittelstand zuerst Nutzen bringt

Angefangen wird dort, wo viel Text und Wissen bewegt wird, wo Fehler auffallen, bevor sie Schaden anrichten, und wo die Beschäftigten die Entlastung am nächsten Tag spüren.

  • Angebote und Auftragsabwicklung. Aus Anfrage, Stammdaten und früheren Angeboten einen Entwurf erstellen, den eine Person prüft und verschickt.
  • Technische Dokumentation und Übersetzung. Handbücher, Datenblätter und Anleitungen in mehreren Sprachen, mit fachlicher Prüfung am Ende.
  • Wissen sichern. Viele Betriebe verlieren in den nächsten Jahren erfahrene Leute an die Rente. Ein Assistent, der Handbücher, Prüfberichte und Lösungen früherer Reklamationen durchsucht und mit Quelle antwortet, hält einen Teil dieses Wissens im Haus.
  • Kundenservice. Eingehende Anfragen sortieren, Antwortentwürfe vorbereiten, Rückfragen zu Lieferzeiten und Ersatzteilen schneller beantworten. Die Antwort an den Kunden gibt weiterhin ein Mensch frei.
  • Ausschreibungen und Förderanträge. Anforderungen aus langen Unterlagen herausziehen und eine erste Gliederung erstellen.

Der gemeinsame Nenner: KI liefert einen Entwurf, ein Mensch prüft und entscheidet. Das hält die Verantwortung dort, wo sie hingehört, und senkt das Risiko für den Anfang.

Was seit 2025 gilt

Seit Februar 2025 verlangt Artikel 4 der KI-Verordnung der EU, dass Unternehmen, die KI-Systeme einsetzen, dafür sorgen, dass ihre Beschäftigten über ein ausreichendes Maß an KI-Kompetenz verfügen, angemessen für den jeweiligen Einsatz. Das gilt schon, wenn jemand ein Sprachmodell für eine Recherche nutzt. Die Pflicht lässt sich mit Schulungen erfüllen, die dokumentiert werden. Für die Anfangsfälle oben sind die weiteren Anforderungen der Verordnung überschaubar. Strenger wird es bei Systemen, die über Menschen entscheiden, etwa bei der Auswahl von Bewerberinnen und Bewerbern.

Dazu kommen Datenschutz und Mitbestimmung. Personenbezogene Daten gehören nur in Werkzeuge mit Auftragsverarbeitungsvertrag. Und weil viele KI-Systeme technisch geeignet sind, Leistung oder Verhalten zu erfassen, hat der Betriebsrat bei ihrer Einführung ein Mitbestimmungsrecht. Wer ihn früh beteiligt, spart Monate.

Die Reihenfolge, die funktioniert

Sehen, was schon läuft

Eine kurze, ehrliche Bestandsaufnahme: Wer nutzt welches Werkzeug wofür, mit welchen Daten. Das Ergebnis zeigt, wo die Beschäftigten den Nutzen längst sehen, und wo Risiken liegen, die niemand bemerkt hat. Ein Verbot würde die Nutzung nur in private Konten treiben.

Anwendungsfälle mit den Teams finden

In einer Werkstatt gehen die Teams ihre Abläufe durch und suchen Stellen mit viel Textarbeit, Suchaufwand und Wiederholung. Die Liste wird nach Nutzen und Risiko sortiert, zwei oder drei Fälle kommen in den Pilot. Die besten Fälle kennen die Leute, die die Arbeit machen.

Regeln festlegen

Eine Seite reicht für den Anfang: welche Werkzeuge erlaubt sind, welche Daten hineindürfen, wer ein Ergebnis prüft und verantwortet. Betriebsrat und Datenschutz arbeiten an dieser Seite mit.

Klein pilotieren und messen

Ein Team, ein Anwendungsfall, einige Wochen. Gemessen wird, was zählt: Zeit pro Vorgang, Fehler, Rückfragen, Zufriedenheit der Beschäftigten. Danach wird entschieden, ob der Fall ausgeweitet, angepasst oder beendet wird.

Befähigen und ausweiten

Was im Pilot funktioniert, geht mit einer Schulung an die nächsten Teams. Die Schulung arbeitet an echten Aufgaben aus dem eigenen Betrieb, damit die Leute lernen, eine Aufgabe so zu stellen, dass ein brauchbares Ergebnis herauskommt, und es zu prüfen. Erst wenn mehrere Fälle laufen, lohnt der Blick auf eigene Lösungen mit Betriebsdaten.

Was ein Betrieb lassen sollte

  • Eine Plattform kaufen, bevor es Anwendungsfälle gibt. Dann sucht die Lösung ein Problem.
  • Mit dem riskantesten Fall anfangen. Ein Chatbot, der ungeprüft mit Kunden spricht, ist ein schlechter erster Schritt.
  • KI zur Sache der IT machen. Die IT sorgt für sichere Werkzeuge. Welche Aufgaben sich verändern, wissen die Fachbereiche.
  • Die Ängste übergehen. Wer nicht sagt, was KI für Arbeitsplätze bedeutet, bekommt die Antwort aus Gerüchten.

Wie wir dabei arbeiten

Wir begleiten mittelständische Unternehmen von der Standortbestimmung über die Werkstatt zu den Anwendungsfällen bis zum Pilot und schulen Teams darin, mit KI im Alltag zu arbeiten, werkzeugoffen und ohne Bindung an einen Anbieter. Für kleine und mittlere Unternehmen gibt es geförderte Beratungsprogramme; ob ein Vorhaben passt, klären wir im Erstgespräch. Die Formate stehen auf der Seite KI-gestützte Wissens- und Prozessarbeit. Offene Kurse laufen in der Zukunftsakademie, etwa die KI-Potenzialanalyse und Arbeiten mit KI.

Was Führungskräfte über KI wissen müssen, steht im Artikel über KI-Kompetenz für Führungskräfte. Wie KI in einen größeren Umbau des Betriebs passt, beschreibt der Artikel über Transformation im Mittelstand. Dieselbe Reihenfolge für Behörden steht im Artikel über KI in der Kommunalverwaltung.

Häufige Fragen

Müssen wir alle Beschäftigten schulen?

Alle, die KI-Systeme im Betrieb nutzen, brauchen ein dem Einsatz angemessenes Wissen. Für die meisten reicht eine praktische Schulung an eigenen Aufgaben, dokumentiert mit Datum und Inhalt. Wer mit sensiblen Daten oder Entscheidungen über Menschen arbeitet, braucht mehr.

Brauchen wir eine eigene KI-Lösung?

Am Anfang nicht. Ein Werkzeug, das die Regeln zu Datenschutz und Vertraulichkeit erfüllt, reicht für die ersten Fälle. Eigene Lösungen lohnen sich, wenn mehrere Fälle laufen und Betriebsdaten gebraucht werden.

Wie schnell gibt es Ergebnisse?

Bestandsaufnahme und Werkstatt in wenigen Wochen, der erste Pilot kurz danach. Nach einem Vierteljahr weiß ein Betrieb, welche Fälle bei ihm funktionieren.

Für euren Betrieb

Von der Bestandsaufnahme zum ersten Pilot

Werkstatt zu den Anwendungsfällen, Regeln mit Betriebsrat und Datenschutz, begleiteter Pilot und Schulung der Teams. Werkzeugoffen.

KI-Arbeit mit uns →
Noch nicht genug? Hol dir die Zukunftshacks — Impulse für Zukunftskompetenzen, regelmäßig ins Postfach.→
SS

Geschrieben von Simon Steiner

Passende Kurse

Wenn du das nicht nur lesen, sondern können willst — aus der Zukunftsakademie.