Künstliche Intelligenz ist im deutschen Mittelstand angekommen. Doch zwischen dem ersten Chatbot und echten Effizienzgewinnen liegt für viele Unternehmen noch ein weiter Weg. Laut Statistischem Bundesamt setzten 2025 bereits 26 % der Unternehmen ab 10 Beschäftigten KI ein, deutlich mehr als im EU-Durchschnitt von 20 %. Bei generativer KI liegen deutsche KMU im OECD-Vergleich von sieben Ländern sogar vorn. Gleichzeitig schöpfen 87 % der KI-nutzenden Unternehmen ab 20 Beschäftigten das Potenzial nach eigener Einschätzung kaum oder gar nicht aus. Und während der Investitionsbedarf wächst, finanziert der Mittelstand seine Digitalisierung fast vollständig aus eigener Tasche.
In diesem White Paper zeigen Lead Analyst Ashkan Salim und Senior Industry Analyst Veton Hoxhaj, wie verbreitet KI im Mittelstand tatsächlich ist und warum sie selten über einzelne Anwendungen hinauskommt. Grundlage sind die amtliche Statistik, aktuelle Studien unter anderem von Bitkom, KfW Research, OECD, ifo Institut und Europäischer Zentralbank sowie Branchenberichte von IBISWorld. Das Paper betrachtet die Entwicklung aus zwei Perspektiven: der von KMU, die den Nutzen von KI klären müssen, und der von Banken, die KI-Vorhaben ihrer Firmenkunden bewerten und finanzieren.
Was steht im White Paper?
Das White Paper zeichnet nach, wie schnell sich KI im Mittelstand verbreitet, welche Hürden den Einsatz bremsen und wie unterschiedlich KI einzelne Branchen verändert.
Breit genutzt, aber kaum integriert
Die KI-Nutzung in Unternehmen ab 10 Beschäftigten hat sich seit 2023 mehr als verdoppelt. Große Unternehmen liegen dabei klar vorn: 57 % von ihnen nutzen KI, bei kleinen Unternehmen sind es 23 %. Eingesetzt wird KI vor allem im Kundenkontakt und im Marketing. In die Kernprozesse hat sie aber selbst unter Unternehmen mit 500 bis unter 2.000 Beschäftigten erst gut ein Viertel vollständig integriert.
Vier Hürden bremsen den Einsatz
Den meisten Unternehmen fehlt weniger die Technologie als Wissen, klare Regeln, Rechtssicherheit und eine passende Finanzierung. 85 % der Nicht-Nutzer nennen fehlendes technisches Know-how als Hemmnis. Zugleich nutzen Beschäftigte KI oft schon auf eigene Faust über private Zugänge, während erst knapp ein Viertel der Unternehmen Regeln dafür aufgestellt hat. Diese sogenannte Schatten-KI birgt Daten- und Sicherheitsrisiken.
Was der EU AI-Act für den Mittelstand bedeutet
Zwei Drittel der Unternehmen sehen im AI-Act mehr Nachteile als Vorteile. Das White Paper ordnet ein, was ab wann gilt. Der sogenannte KI-Omnibus hat die Pflichten für Hochrisiko-Systeme wie Recruiting-Tools auf Dezember 2027 verschoben. Wer fertige KI-Tools nutzt, ist meist nur Betreiber, und der Aufwand bleibt überschaubar. Wer KI in eigene Produkte einbaut, kann dagegen selbst zum Anbieter werden.
Digitalisierung hängt an eigenen Mitteln
Die Digitalisierungsausgaben des Mittelstands sind 2024 um rund 8,1 Milliarden auf 23,8 Milliarden Euro gesunken. 88 % davon stammten aus eigenen Mitteln, nur 8 % aus Bankkrediten. Bei Sachinvestitionen lag der Kreditanteil bei 32 %.
Der Grund: Digitalisierungsprojekten fehlen oft die üblichen Kreditsicherheiten. Förderprogramme wie der ERP-Förderkredit Digitalisierung setzen an dieser Lücke an, schließen sie aber nicht vollständig.
Branchen- und Sektorprofile
Je nach Sektor reicht die KI-Nutzung von 12 % in Verkehr und Lagerei bis 75 % in Information und Kommunikation. Sechs Profile zeigen, was KI konkret verändert:
• Kreditbanken: KI beschleunigt Kreditentscheidungen und dürfte die Konsolidierung zugunsten großer Institute verstärken.
• Rechtsberatung: KI‑Plattformen übernehmen Standarddokumente. Das setzt die Abrechnung nach Stunden unter Druck, schafft aber neue Nachfrage nach Beratung zur KI-Regulierung.
• Architekturbüros: Entwürfe und Varianten entstehen in Stunden statt Tagen. Kleine Büros ohne BIM und KI drohen den Anschluss zu verlieren.
• Gesundheitswesen: KI ersetzt hier kaum Stellen, sondern entlastet fehlendes Personal, etwa bei der Dokumentation.
• Herstellung von Kraftwagen: KI wird Teil des Produkts, und die Wertschöpfung verschiebt sich von Mechanik zu Software und Daten.
• Einzelhandel: Große Ketten nutzen KI für genauere Nachfrageprognosen und bauen ihre Kostenvorteile aus.
Was das für Banken bedeutet
Zwei Unternehmen mit ähnlicher Bilanz können beim KI-Einsatz weit auseinanderliegen. Das White Paper zeigt, wie Banken diese Lücke im Kreditgespräch mit wenigen gezielten Fragen schließen, KI-Vorhaben angemessen bewerten und ihre Firmenkunden auf passende Förderprogramme hinweisen können.
Warum jetzt?
Die Verbreitung von KI beschleunigt sich weiter. Laut ifo-Konjunkturumfrage nutzten im Mai 2026 bereits 54,5 % der Unternehmen KI, nach 40,9 % ein Jahr zuvor. Der deutsche KI-Markt dürfte laut Bitkom 2026 um 48 % auf 28,7 Milliarden Euro wachsen. Auch KI-Agenten, die Aufgaben selbstständig ausführen, verbreiten sich schnell. Gleichzeitig greifen bis 2028 die wichtigsten verbleibenden Stufen des AI-Act.
Die Frage ist damit nicht mehr, ob der Mittelstand KI einsetzt, sondern wie schnell und wie tief. Wer jetzt nicht in Kompetenzen, Regeln und Integration investiert, riskiert, dass sich der Abstand zu größeren Wettbewerbern weiter vergrößert.
Final Word
Dieses White Paper ist Pflichtlektüre für alle, die KI-Vorhaben im Mittelstand planen, bewerten oder finanzieren:
• Geschäftsführer und Inhaber mittelständischer Unternehmen, die den Einstieg in KI planen oder bestehende Anwendungen ausbauen wollen
• Firmenkundenbetreuer und Kreditanalysten in Banken und Sparkassen, die KI-Vorhaben und die Zukunftsfähigkeit ihrer Kunden einschätzen müssen
• Risikomanager, die Governance-, Daten- und Regulierungsrisiken im Blick behalten
• Strategie- und Digitalisierungsverantwortliche, die KI über einzelne Abteilungen hinaus verankern wollen
• Unternehmensberater, die Mandanten bei KI-Strategie, Compliance und Fördermitteln begleiten
• Branchenverbände und Kammern, die ihre Mitglieder beim KI-Einsatz unterstützen
