---
title: "KI-Strategie im Mittelstand: Von Piloten zur Umsetzung"
lang: de
type: blog
canonical: https://www.arocom.de/blog/ki-strategie-mittelstand
alternate: https://www.arocom.de/en/blog/ai-strategy-smes
author: "Axel Roth"
published: 2026-05-12
last_updated: 2026-10-31
---

# KI-Strategie im Mittelstand: Von Piloten zur Umsetzung

Mittelständische Unternehmen brauchen 2026 keine KI-Vision, sondern einen Umsetzungspfad: (1) Aufgaben statt Technologien analysieren, mit einer einfachen Matrix aus Struktur und Fehlerkosten, (2) zwei Prozesse mit benanntem Besitzer und Vorher-Messung 90 Tage pilotieren, (3) Datenbasis und Website KI-lesbar machen, (4) im Quartals-Takt messen und skalieren oder beenden. Häufigste Fehler: Tool-Beschaffung ohne Aufgabe, Piloten ohne Messgröße und das Übersehen der eigenen Website als KI-Schnittstelle zu Kunden.

## KI-Strategie im Mittelstand: Von Piloten zur Umsetzung

In Gesprächen mit Geschäftsführern mittelständischer Unternehmen hören
wir derzeit zwei Sätze auffallend oft. Erstens: "Wir müssen da was
machen." Zweitens: "Wir haben einiges ausprobiert, aber hängen geblieben
ist wenig." Beide Sätze beschreiben dasselbe Problem von zwei Seiten.
Es fehlt nicht an Motivation oder Werkzeugen. Es fehlt ein
Umsetzungspfad, der zur Größe und Risikotragfähigkeit des Mittelstands
passt.

## Drei Sackgassen, die Piloten beerdigen

Bevor wir zum Pfad kommen, lohnt der Blick auf die Sackgassen. Drei
Muster finden wir in Erstgesprächen immer wieder vor.

**Die Tool-Beschaffung ohne Aufgabe.** Lizenzen sind gekauft, eine
Aufgabe wurde nie definiert. Ein halbes Jahr später nutzt ein
Bruchteil der Belegschaft das Werkzeug gelegentlich, und niemand
kann sagen, was es bewirkt. Das Budget ist trotzdem weg, und mit ihm
oft die Bereitschaft für einen zweiten Anlauf.

**Der Pilot ohne Messgröße.** "Das Team findet es ganz gut" ist
keine Entscheidungsgrundlage. Ohne Vorher-Messung endet jeder Pilot
in Geschmacksfragen, und Geschmacksfragen verlieren in der nächsten
Budgetrunde gegen alles, was Zahlen hat.

**Das Dauer-Experiment.** Der Pilot läuft nach dem geplanten Ende
einfach weiter, halb betreut, halb vergessen. Er bindet
Aufmerksamkeit, produziert keine Entscheidung und dient intern als
Beleg dafür, dass "das mit der KI bei uns nicht richtig zündet".

Alle drei Sackgassen haben dieselbe Wurzel: Es fehlt der Rahmen aus
Aufgabe, Besitzer und Messung. Genau den liefern die folgenden vier
Schritte.

## Schritt 1: Aufgaben analysieren, nicht Technologien

Der häufigste Fehler, den wir in Projekten sehen, ist die
Reihenfolge: Erst wird ein Werkzeug beschafft ("Wir haben jetzt
Copilot-Lizenzen"), dann wird nach Anwendungsfällen gesucht. Dreht
es um. Listet die zehn zeitintensivsten wiederkehrenden
Aufgaben in Vertrieb, Verwaltung und Kundenservice. Bewertet jede
nach zwei Kriterien: *Wie strukturiert ist die Aufgabe?* und
*Wie teuer ist ein Fehler?*

Strukturiert und fehlertolerant (Angebotsentwürfe, Protokolle,
Erstantworten im Support) → sofort pilotieren. Strukturiert, aber
fehlerkritisch (Rechnungen, Verträge) → KI als Assistenz mit
Vier-Augen-Prinzip. Unstrukturiert und fehlerkritisch → vorerst
Menschen-Sache.

So sieht die Matrix gefüllt aus, mit Aufgaben, wie sie uns in
mittelständischen Projekten typischerweise begegnen:

|  | Fehler kostet wenig | Fehler kostet viel |
| --- | --- | --- |
| Strukturierte Aufgabe | Angebotsentwürfe, Besprechungsprotokolle, Erstantworten im Support → sofort pilotieren | Rechnungsprüfung, Vertragsentwürfe → KI als Assistenz, Freigabe im Vier-Augen-Prinzip |
| Unstrukturierte Aufgabe | Recherche-Zusammenfassungen, erste Ideen für Marketingtexte → pilotieren, Erwartungen niedrig halten | Personalentscheidungen, Preisverhandlungen, Krisenkommunikation → vorerst Menschen-Sache |

Wichtig ist die schriftliche Form. Solange die Liste nur in Köpfen
existiert, gewinnt das lauteste Tool und nicht die dankbarste
Aufgabe. Für die erste Fassung reicht eine Stunde mit den
Bereichsverantwortlichen; perfekt muss die Matrix nicht sein, nur
ehrlich. Sie wirkt außerdem als Korrektiv gegen Wunschdenken: Wer
seine Angebotskalkulation rechts oben einsortiert, hat damit auch
entschieden, dass dort kein Vollautomat hingehört.

## Schritt 2: Zwei Prozesse, ein Besitzer, 90 Tage

Pilotiert nicht zehn Ideen, sondern zwei. Diese dafür richtig:
mit einem benannten Verantwortlichen, der den Prozess kennt (nicht
der IT-Leiter qua Amt), mit einer Vorher-Messung (Stunden pro Woche,
Durchlaufzeit, Fehlerquote) und mit einem festen Enddatum. Nach 90
Tagen gibt es genau drei zulässige Ergebnisse: skalieren, anpassen
und verlängern, oder beenden. Das vierte, übliche Ergebnis lautet
"läuft so nebenher". Es ist verboten, denn es bindet Aufmerksamkeit
und liefert nichts.

Was eine Vorher-Messung konkret bedeutet, zeigen drei Beispiele. Die
Zahlen sind typische Beobachtungen aus unseren Projekten und als
Größenordnung zu lesen: Ein Angebotsentwurf kostet im technischen
Vertrieb oft zwei bis vier Stunden, gemessen vom Anfrageeingang bis
zum versandfertigen Dokument. Eine qualifizierte Erstantwort im
Support liegt häufig bei 15 bis 30 Minuten pro Vorgang. Ein
Besprechungsprotokoll bindet 30 bis 60 Minuten Nacharbeit pro
Termin. Erst mit solchen Startwerten lässt sich nach 90 Tagen
entscheiden statt fühlen.

Der Besitzer hat in diesen 90 Tagen drei Pflichttermine. In Woche 1
legt er Messgrößen und Startwerte fest und definiert, was das
Werkzeug ausdrücklich nicht tun darf. In Woche 4 prüft er die ersten
Ergebnisse mit dem Team und justiert Prompts, Vorlagen und
Zuständigkeiten. In Woche 12 legt er der Geschäftsführung die Zahlen
vor und empfiehlt eine der drei Entscheidungen. Findet sich für
diese Rolle niemand, ist das selbst ein Befund: Dann fehlt nicht
Personal, sondern Priorität.

## Schritt 3: Datenbasis und Website KI-fähig machen

Zwei Infrastruktur-Themen entscheiden, ob aus Piloten Systeme werden:

**Euer Firmenwissen** muss für KI nutzbar sein: Produktdaten,
Preislisten, Dokumentation in durchsuchbarer, strukturierter Form.
Das ist meist das eigentliche Projekt hinter dem KI-Projekt
(Stichwort [RAG](https://www.arocom.de/wissen/ki/rag)).

Ob eure Datenbasis so weit ist, klärt ein kurzer Termin mit der IT.
Drei Fragen, die ihr morgen stellen könnt:

1. **Liegt unser Produkt- und Prozesswissen durchsuchbar vor?**
   Gemeint sind gepflegte Datenbanken, Wikis oder strukturierte
   Ablagen. Ein Laufwerk voller gescannter PDFs ist keine
   Datenbasis, sondern ein vorgelagertes Digitalisierungsprojekt.
2. **Welche Quelle führt?** Stehen Preise im ERP, im Webshop und in
   einer Excel-Liste, antwortet eine KI mit drei verschiedenen
   Wahrheiten. Vor dem KI-Projekt steht die Entscheidung, welches
   System gilt.
3. **Kommen wir per Schnittstelle an die Daten?** Was nur per
   Handexport erreichbar ist, lässt sich nicht in laufende Workflows
   einbinden. Eine ehrliche Schnittstellen-Inventur dauert einen Tag
   und erspart später Monate.

**Eure Website** wird zur Schnittstelle zwischen eurem Unternehmen
und den KI-Systemen eurer Kunden. ChatGPT, Perplexity und Google AI
Overviews müssen euer Angebot korrekt wiedergeben können: strukturierte
Daten, klare Aussagen, beantwortete Fragen. Ein schneller Selbsttest:
Fragt ChatGPT oder Perplexity nach eurem Unternehmen und euren
Kernleistungen. Was dort falsch oder gar nicht erscheint, kostet euch
bereits heute Anfragen, denn die Antwort bekommt dann ein
Wettbewerber, dessen Seiten KI-lesbar sind. Mehr dazu im Beitrag
[GEO: Sichtbarkeit in der KI-Suche](https://www.arocom.de/blog/geo-sichtbarkeit-ki-suche).

## Schritt 4: Messen, entscheiden, wiederholen

KI-Strategie ist kein Projekt mit Enddatum, sondern ein Takt: Quartal
für Quartal zwei neue Aufgaben prüfen, Bestehendes nachmessen,
Gelerntes dokumentieren. Wer diesen Takt etabliert hat, braucht keine
"KI-Transformation" mehr. Er hat eine Organisation, die neue
Werkzeuge routiniert bewertet und einbaut.

In der Praxis ist der Takt ein fester Quartalstermin von etwa 90
Minuten mit vier Punkten auf der Agenda:

- **Nachmessen:** Laufende KI-Workflows gegen ihre Startwerte aus
  Schritt 2 prüfen. Was liefert, was ist eingeschlafen?
- **Entscheiden:** Für jeden Piloten eine der drei Optionen wählen:
  skalieren, anpassen und verlängern, oder beenden. Vertagen ist
  keine Option.
- **Nachschub:** Zwei neue Aufgaben aus der Matrix von Schritt 1
  auswählen und je einen Besitzer benennen.
- **Festhalten:** Dokumentieren, was funktioniert hat und was nicht,
  einschließlich des Schulungsbedarfs im Team.

Realistische Größenordnung für den Einstieg: ein zweistelliger
Personentage-Aufwand für Analyse und ersten Piloten, kein
siebenstelliges Programm. Der Mittelstand hat hier einen
strukturellen Vorteil gegenüber Konzernen: kurze Wege, schnelle
Entscheidungen, Prozesse, die eine Person noch vollständig
überblickt. Nutzt ihn, und beginnt mit der Aufgabenliste
aus Schritt 1.

### Brauchen wir einen KI-Beauftragten?

In den meisten mittelständischen Unternehmen nicht als neue Stelle. Wichtiger ist, dass jeder einzelne KI-Prozess einen Besitzer aus dem Fachbereich hat, der ihn kennt und nachmisst. Eine schlanke Koordinationsrolle, oft beim Digitalisierungs- oder Prozessverantwortlichen, genügt, um Doppelarbeit und Tool-Wildwuchs zu vermeiden. Ein KI-Beauftragter ohne Prozessnähe wird dagegen schnell zum Flaschenhals, durch den jede Idee muss und aus dem wenig herauskommt.

### Eigenes Modell oder API?

Für fast alle Mittelständler gilt: Modelle per API mieten und austauschbar halten. Ein eigenes Modell zu trainieren oder selbst zu betreiben lohnt nur bei sehr speziellen Daten und sehr hohem Anfragevolumen, und beides ist seltener, als Anbieterprospekte suggerieren. Die wirtschaftlich wichtigere Frage ist, wem die Integrationsschicht zwischen Modell und euren Systemen gehört. Wie ihr diese Entscheidung sauber trefft, zeigt unser Beitrag [Make or Buy bei KI-Lösungen](https://www.arocom.de/blog/make-or-buy-ki-loesungen).

### Was ist mit Datenschutz?

Datenschutz ist lösbar, aber nicht nachträglich. Klärt vor dem Piloten drei Punkte: welche Datenkategorien das Werkzeug verarbeitet, wo der Anbieter sie verarbeitet (EU-Region beziehungsweise Auftragsverarbeitung mit klaren Verträgen) und ob personenbezogene Daten für die Aufgabe überhaupt nötig sind. Viele Pilotaufgaben funktionieren mit anonymisierten oder rein internen Daten. Bindet euren Datenschutzbeauftragten in Woche 1 ein, nicht erst nach der ersten Beschwerde.

### Wie nehmen wir die Belegschaft mit?

Mit Ehrlichkeit und Beteiligung. Sagt klar, dass es um Entlastung von Routinearbeit geht, und belegt das, indem die ersten Piloten lästige Aufgaben übernehmen statt prestigeträchtige. Lasst die Menschen, die den Prozess heute machen, das Werkzeug mit auswählen, testen und bewerten; sie erkennen Schwächen schneller als jede Projektgruppe. Misstrauen entsteht in unserer Beobachtung selten durch die KI selbst, meist durch eine Einführung über die Köpfe hinweg.