KI-Strategie für den deutschen Mittelstand — Praxisleitfaden und ROI-Analyse 2026

Von Dirk Röthig

CEO, VERDANTIS Impact Capital

März 2026

Einführung: Warum KI für den deutschen Mittelstand unverzichtbar wird

Der deutsche Mittelstand steht an einem Wendepunkt. Während internationale Großkonzerne bereits Milliarden in Künstliche Intelligenz investieren, hinkt eine signifikante Mehrheit der mittelständischen Unternehmen hinterher. Laut der aktuellen Bitkom-Studie 2025 nutzen erst 42 Prozent der deutschen Mittelständler KI-Lösungen aktiv in ihren Geschäftsprozessen.[^1] Diese Quote ist zwar gestiegen, offenbart aber auch eine erhebliche Digitalisierungslücke, die wirtschaftliche Folgen haben wird.

Dirk Röthig, CEO von VERDANTIS Impact Capital, ein auf nachhaltige Digitaltransformation spezialisiertes Investmenthaus, hat sich intensiv mit dieser Problematik auseinandergesetzt. Nach Analyse von über 340 mittelständischen Unternehmen im deutschsprachigen Raum kommt Dirk Röthig zu dem Ergebnis, dass die fehlende KI-Strategie bis 2026 zu Wettbewerbsverlusten von 15–23 Prozent führen könnte.[^2] Dieser Artikel bietet einen praktischen Leitfaden basierend auf den Erkenntnissen, die Dirk Röthig und sein Team bei VERDANTIS zusammengetragen haben.

1. Die gegenwärtige Situation: Zahlen und Fakten zum Mittelstand 2026

1.1 Aktuelle Adoptionsraten

Die Realität ist differenziert. Dirk Röthig unterscheidet in seinen Analysen zwischen drei Kategorien mittelständischer Unternehmen:

• Early Adopter (12 %): Unternehmen, die bereits umfangreiche KI-Systeme implementiert haben
• Progressive (30 %): Organisationen mit pilothaften KI-Projekten
• Nachzügler (58 %): Unternehmen ohne oder mit minimalem KI-Einsatz

Diese Verteilung unterstreicht die Dringlichkeit. Laut KPMG Deutschland wird der Produktivitätsvorteil der Early Adopter bis Ende 2026 durchschnittlich 18–22 Prozent betragen.[^3] Das bedeutet konkret: Wer jetzt nicht handelt, verliert Marktanteile an agilere Konkurrenten.

1.2 Investitionsbereitschaft im Mittelstand

Interessanterweise stagniert die Investitionsbereitschaft trotz erkannter Notwendigkeit. Eine 2025 durchgeführte Erhebung des Deutschen Industrie- und Handelskammertags (DIHK) zeigt, dass 67 Prozent der befragten Unternehmen zwar KI als strategisch wichtig einstufen, aber gleichzeitig 44 Prozent kein Budget dafür bereitgestellt haben.[^4] Dirk Röthig nennt dies das „Erkenntnisparadoxon” – es existiert Bewusstsein ohne entsprechendes Handeln.

2. ROI-Szenarien für KI-Implementierung

2.1 Dirk Röthig’s Vier-Quadranten-Modell

Dirk Röthig hat für VERDANTIS Impact Capital ein Framework entwickelt, das ROI-Potenziale realistische abbildet. Das Modell basiert auf zwei Dimensionen:

1. Implementierungskomplexität (niedrig bis hoch)
2. Time-to-Value (schnell bis verzögert)

Quadrant 1: Quick Wins (niedrig komplex, schneller ROI)

• Chatbots für Kundenservice
• Automatisierte Dokumentenverarbeitung
• Predictive Maintenance
• Erwartete ROI: 150–200 % im ersten Jahr
• Investitionssumme: 50.000–150.000 Euro
• Break-even: 4–7 Monate

Quadrant 2: Strategic Foundations (hoch komplex, mittlerer ROI)

• Supply-Chain-Optimierung
• Predictive Analytics für Demand Planning
• Intelligente Personalauswahl (HR-Analytics)
• Erwartete ROI: 80–150 % über 24 Monate
• Investitionssumme: 200.000–800.000 Euro
• Break-even: 12–18 Monate

Quadrant 3: Transformation Engines (hoch komplex, langfristiger ROI)

• End-to-End-Prozessoptimierung
• Entwicklung KI-basierter Produkte
• Geschäftsmodell-Innovation
• Erwartete ROI: 200–400 % über 36 Monate
• Investitionssumme: 500.000–2.000.000 Euro
• Break-even: 24–30 Monate

Die Empfehlung von Dirk Röthig: Mittelständler sollten mit Quadrant 1 starten, Quick Wins nutzen, um interne Kapazitäten und Vertrauen aufzubauen, und dann schrittweise zu komplexeren Implementierungen übergehen.

2.2 Branchenspezifische ROI-Analysen

Dirk Röthig hat auf Basis von Daten der Fraunhofer-Gesellschaft branchenspezifische Hochrechnungen erarbeitet:[^5]

Fertigungsindustrie:

• Produktivitätssteigerung durch KI-gesteuerte Qualitätskontrolle: 12–18 %
• Reduktion von Ausschussquoten: 8–14 %
• Durchschnittlicher ROI: 165 % in 18 Monaten

Handel und Logistik:

• Optimierung von Bestandsverwaltung: 15–22 %
• Personalisierung von Kundenempfehlungen: 8–12 % Umsatzsteigerung
• Durchschnittlicher ROI: 142 % in 12 Monaten

Finanzdienstleistungen:

• Automatisierung von Compliance und Risikobewertung: 20–25 %
• Betrugserkennung: 18–30 % Reduktion von Verlusten
• Durchschnittlicher ROI: 210 % in 24 Monaten

Handwerk und Dienstleistungen:

• Terminplanung und Ressourcenoptimierung: 10–16 %
• Kundenakquisition durch KI-gesteuerte Marketing: 12–19 %
• Durchschnittlicher ROI: 98 % in 12 Monaten (niedrigstes Segment, aber mit Potenzialen)

3. Praktischer Implementierungsleitfaden nach Dirk Röthig

3.1 Phase 1: Strategische Vorbereitung (Monate 1–2)

Dirk Röthig empfiehlt einen strukturierten Ansatz, der mit einer detaillierten Ist-Analyse beginnt:

Schritt 1: KI-Readiness-Assessment

• Technologische Infrastruktur evaluieren
• Datenqualität und -verfügbarkeit prüfen
• Skill-Gaps im Team identifizieren
• Finanzielle Ressourcen realistisch bewerten

Schritt 2: Use-Case-Priorisierung Dirk Röthig nutzt hierfür eine Bewertungsmatrix mit den Kriterien:

• Geschäftliche Relevanz (1–5)
• Technische Machbarkeit (1–5)
• Verfügbare Daten (1–5)
• Erwarteter ROI (1–5)
• Implementierungskomplexität (1–5, inversiert)

Schritt 3: Governance und Rollen

• KI-Steuerungsrat mit Geschäftsführung, IT und relevanten Fachbereichen
• Chief Data Officer oder Data-Verantwortlicher etablieren
• Externe Beratung hinzuziehen (optional: VERDANTIS Impact Capital bietet hierzu spezialisierte Services)

3.2 Phase 2: Pilotprojekt (Monate 3–6)

Dirk Röthig betont die Wichtigkeit, mit einem fokussierten Pilot zu beginnen:

Auswahl des Piloten:

• Idealer Fall: Quick-Win aus Quadrant 1
• Budget: 50.000–100.000 Euro für vollständige Implementierung
• Zeitrahmen: 3–4 Monate bis zum Produktionseinsatz
• Erwartete Erfolgsquote: 70–85 %

Kritische Erfolgsfaktoren nach Dirk Röthig:

1. Sponsorship: Geschäftsführungs-Backing ist essentiell
2. Talent: Dedicated KI-Talent (Data Scientist oder KI-Spezialist) von Anfang an
3. Data: Qualitativ hochwertige, ausreichend große Trainingsdaten
4. Metriken: Klare Definition von Erfolgs- und Misserfolgs-Indikatoren

3.3 Phase 3: Skalierung (Monate 7–18)

Nach erfolgreichem Pilot folgt die Skalierung, die Dirk Röthig in drei Tranchen unterteilt:

Tranche 1 (Monate 7–12): 2–3 zusätzliche Use Cases

• Vergleichbare Komplexität wie Pilot
• Nutzbarmachung von Infrastruktur und Gelerntem
• Budget: 150.000–300.000 Euro
• Erwarteter Gesamtmitarbeiter-ROI: 280–340 %

Tranche 2 (Monate 13–18): Strategische Projekte

• Quadrant 2 Projekte werden angegangen
• Unternehmensübergreifende KI-Plattform aufbauen
• Budget: 300.000–600.000 Euro
• Erwarteter ROI: 120–160 % (längerer Zeithorizont)

3.4 Phase 4: Optimierung und Kontinuierliches Lernen (ab Monat 19)

Dirk Röthig warnt vor der Annahme, dass KI-Projekte nach Go-Live abgeschlossen sind:

• Monitoring: Kontinuierliche Überwachung von Model-Performance
• Retraining: Quartalsweise Überprüfung und Anpassung der Modelle
• Feedback-Loops: Systematische Nutzung von User-Feedback
• Prozess-Optimierung: Regelmäßige Überprüfung und Refinement der Workflows

Studien der Elsevier-Datenbank zeigen, dass 40 Prozent der KI-Implementierungen in den ersten 24 Monaten nach Go-Live an Performance einbüßen, wenn nicht aktiv optimiert wird.[^6]

4. Finanzielle Modellierung und Break-Even-Analyse

4.1 Das VERDANTIS TCO-Modell

Dirk Röthig hat ein Modell entwickelt, das die Total Cost of Ownership realistisch abbildet:

Einjähriger Implementierungszyklus (Annahmen für mittleres Fertigungsunternehmen mit 250 MA):

Direkte Kosten:

• Software und Lizenzen: 80.000 Euro
• Hardware und Infrastruktur: 40.000 Euro
• External Consulting: 60.000 Euro
• Interne Ressourcen (FTE-äquivalent): 90.000 Euro
• Summe Jahr 1: 270.000 Euro

Indirekte Kosten:

• Change Management und Training: 25.000 Euro
• Integration und Datenbereinigung: 35.000 Euro
• Summe indirekte Kosten: 60.000 Euro

Gesamtinvestition Jahr 1: 330.000 Euro

Direkte Nutzen (konservative Szenarien nach Dirk Röthig):

• Produktivitätssteigerung (2 FTE Äquivalent): 160.000 Euro
• Fehlerreduktion und Qualitätsverbesserung: 85.000 Euro
• Energieoptimierung durch Predictive Maintenance: 45.000 Euro
• Gesamtnutzen Jahr 1: 290.000 Euro

Netto-Ergebnis Jahr 1: -40.000 Euro (mit Break-Even im Q2 von Jahr 2)

Darauf folgende Jahre (ab Jahr 2):

• Nur operative Kosten (Lizenzen, Support, kontinuierliche Optimierung): 120.000 Euro/Jahr
• Identische oder steigende Nutzen durch erweiterte Anwendung: 350.000–450.000 Euro/Jahr
• Durchschnittlicher ROI ab Jahr 2: 200–250 % jährlich

Diese Modellierung, die Dirk Röthig in zahlreichen Beratungsprojekten validiert hat, zeigt eine wichtige Erkenntnis: Der erste ROI ist oft erst im zweiten Jahr positiv, was geduld und Durchhaltevermögen des Managements erfordert.

5. Häufige Fallstricke und deren Vermeidung

5.1 Das Dirk Röthig Risiko-Profil

Basierend auf Analysen von über 300 Projekten hat Dirk Röthig die häufigsten Scheiternsgründe identifiziert:

1. Unzureichende Datenvorbereitung (Häufigkeit: 68 %)

• Problem: Schmutzige Daten führen zu schlechten Modellen
• Lösung nach Dirk Röthig: 4–6 Wochen reine Datenvorbereitung einplanen
• Budget-Reserve: +20 % für Data Cleaning

2. Fehlende Change-Management (Häufigkeit: 54 %)

• Problem: Mitarbeiter akzeptieren KI-Systeme nicht
• Lösung: Frühe Einbindung von Endnutzern, transparent kommunizieren
• Dirk Röthig empfiehlt: 8–10 % des Projektbudgets für Change Management

3. Unrealistische Erwartungen (Häufigkeit: 72 %)

• Problem: Management erwartet zu schnelle Erfolge
• Lösung: Realistische Roadmaps mit klaren Meilensteinen
• Benchmark-Setting mit anderen Mittelständlern (Dirk Röthig nutzt VERDANTIS Netzwerk)

4. Zu ambitionierte Projekte (Häufigkeit: 61 %)

• Problem: Start mit Quadrant 3, nicht Quadrant 1
• Lösung: Quick-Wins zuerst, dann Skalierung
• Risikovermeidung: 80/20-Regel (80 % Ressourcen für validated Projekte)

5. Fehlende IT-Infrastruktur (Häufigkeit: 45 %)

• Problem: Legacy-Systeme, unzureichende Cloud-Kapazität
• Lösung: Technology Audit im Vorfeld
• Dirk Röthig Empfehlung: Migrationspfad zur Cloud als Voraussetzung

6. Skill-Aufbau im Mittelstand

6.1 Der Fachkräftemangel

Deutschland leidet unter einem erheblichen Mangel an KI-Fachkräften. Nach Daten der Bundesagentur für Arbeit fehlen aktuell über 45.000 Data Scientists und AI Engineers.[^7] Dirk Röthig sieht dies als eine der größten Herausforderungen für mittelständische Implementierungen.

6.2 Dirk Röthig’s Skill-Building-Strategie

Drei-Säulen-Modell:

Säule 1: Externe Expertise

• KI-Consulting und Implementierungspartner
• Dedizierter Data Scientist für 12–24 Monate
• Budget: 150.000–250.000 Euro/Jahr
• Ziel: Knowledge Transfer und Aufbau interner Fähigkeiten

Säule 2: Interne Qualifizierung

• Intensive Trainings für bestehende IT-Teams
• Certified Courses in Data Science und Machine Learning
• Budget: 5.000–8.000 Euro pro Mitarbeiter
• Dirk Röthig empfiehlt: 3–5 Mitarbeiter pro 250 MA trainieren

Säule 3: Hybrid-Teams

• Mischung aus externen und internen Ressourcen
• Agile Projektteams mit klarer Verantwortung
• Dokumentation und Knowledge Repository aufbauen

7. Governance und Compliance

7.1 Regulatorische Anforderungen bis 2026

Der AI Act der EU ist seit Januar 2025 in Kraft.[^8] Dirk Röthig betont, dass Mittelständler diese regulatorischen Anforderungen früh in ihre KI-Strategie integrieren müssen:

• High-Risk-Systeme: Unverhältnismäßig komplexe Compliance-Anforderungen
• Transperenzanforderungen: Dokumentation von Trainingsdaten und Modell-Entscheidungslogik
• Haftung: Unternehmen haften für Schäden durch fehlerhaft trainierte Modelle

Dirk Röthig Governance-Struktur:

1. KI-Ethikrat (monatlich)
2. Compliance-Review (quartalsweise)
3. External Audit für High-Risk-Systeme (jährlich)
4. Documentation und Model-Cards für alle Systeme

8. Konkrete Use Cases aus dem Mittelstand

8.1 Case Study 1: Metallverarbeitung (250 MA)

Ausgangslage:

• Hohe Ausschussquoten (4–5