KI im Mittelstand: wo sie wirklich Zeit spart und wo nicht
Sprachmodelle können im Büroalltag messbar Zeit sparen, aber längst nicht überall. Dieser Beitrag ordnet nüchtern ein, welche Aufgaben sich heute lohnen, welche Daten in welche Werkzeuge dürfen und wie Sie ein erstes Projekt so zuschneiden, dass Sie den Nutzen am Ende nachrechnen können.
Dieser Beitrag informiert allgemein und ersetzt keine Rechtsberatung. Für verbindliche Aussagen zu Ihrer Situation wenden Sie sich an eine Kanzlei.
Worüber wir reden: ein Werkzeug, keine Strategie
Wenn heute von KI im Büro die Rede ist, sind fast immer große Sprachmodelle gemeint: Programme, die mit sehr großen Textmengen trainiert wurden und daraus gelernt haben, Texte zusammenzufassen, umzuformulieren und neu zu erzeugen. Bekannt sind sie durch Chat-Oberflächen wie ChatGPT oder Microsoft Copilot. Für die Einordnung ist ein Punkt entscheidend: Ein Sprachmodell berechnet, welche Formulierung als Antwort wahrscheinlich gut passt. Es schlägt nicht in einer geprüften Datenbank nach. Deshalb ist es stark bei Sprache und Struktur und schwach überall dort, wo es auf garantierte Richtigkeit ankommt.
Daraus folgt ein einfacher Maßstab für die Praxis: Sie führen nicht die KI ein, sondern Sie prüfen Aufgabe für Aufgabe, ob ein Sprachmodell dort schneller zu einem brauchbaren Entwurf führt als ein Mensch allein. Diese nüchterne Sicht schützt vor den beiden typischen Fehlern: vor dem teuren Großprojekt ohne klaren Zweck und vor dem pauschalen Verbot, das Mitarbeiter in die heimliche Nutzung privater Konten ohne jede Regel treibt.
Vier Einsatzfelder, in denen KI heute Zeit spart
Der verlässlichste Nutzen liegt bei Dokumenten. Sprachmodelle kürzen lange Protokolle auf eine Seite, machen aus Stichpunkten einen Angebotstext, formulieren Arbeitsanweisungen, Stellenanzeigen oder Übersetzungen. Die Regel dabei bleibt immer gleich: Das Modell liefert die Rohfassung, ein Mensch mit Fachkenntnis prüft, korrigiert und verantwortet das Ergebnis. Wer diese Arbeitsteilung akzeptiert, spart bei textlastigen Aufgaben spürbar Zeit.
Das zweite Feld sind E-Mail-Entwürfe. Standardantworten auf wiederkehrende Anfragen, die sachliche Formulierung einer unangenehmen Nachricht, ein Antwortentwurf aus drei Stichpunkten: Die Ersparnis pro Mail ist klein, die Summe bei hohem Aufkommen in Vertrieb, Einkauf oder Kundendienst aber deutlich. Wichtig ist, dass Entwürfe vor dem Versand gelesen werden, denn das Modell kennt weder Ihre Kunden noch Ihre Zusagen.
Das dritte Feld ist die Wissenssuche in eigenen Unterlagen. Das zugrunde liegende Verfahren heißt RAG, kurz für Retrieval Augmented Generation: Das Werkzeug sucht zuerst die passenden Stellen in Ihren abgelegten Dokumenten und formuliert daraus eine Antwort mit Fundstellenangabe. So werden Handbücher, Verträge, Wartungsberichte und alte Angebote per Frage durchsuchbar. Voraussetzung ist, dass die Dokumente digital und halbwegs geordnet vorliegen und die Zugriffsrechte stimmen. Ein Werkzeug, das jedem Nutzer jedes Dokument anzeigt, ist keine Suche, sondern ein Datenschutzproblem.
Das vierte Feld sind wiederkehrende Abläufe: Eingangspost nach Themen sortieren, Angaben aus Rechnungen oder Lieferscheinen erfassen und in das eigene System übertragen, Freitext aus Formularen in eine feste Struktur bringen. Meist arbeitet hier klassische Automatisierung mit festen Regeln zusammen mit einem Modell, das nur den unscharfen Teil übernimmt. In diesem Feld entstehen oft die stabilsten Einsparungen, weil der Ablauf täglich läuft und das Ergebnis leicht kontrollierbar ist.
Wo KI regelmäßig enttäuscht
Die wichtigste Schwäche hat einen Namen: Halluzination. Damit ist gemeint, dass ein Sprachmodell plausibel klingende, aber falsche Angaben erfindet, etwa Paragrafen, Normen, Produktdaten oder Quellen. Deshalb taugt es nicht als alleinige Auskunft bei Rechts-, Steuer- und Vertragsfragen und nirgendwo dort, wo eine falsche Zahl teuer wird. Die Prüfung durch eine Fachperson ist kein optionaler Schritt, sondern Teil des Verfahrens.
Weitere typische Enttäuschungen: Komplexe Kalkulationen gelingen unzuverlässig. Über Ihre internen Abläufe weiß das Modell ohne Anbindung an Ihre Systeme nichts. Sehr spezielles Fachwissen mit wenig veröffentlichter Literatur wird lückenhaft oder falsch wiedergegeben. Lange Dokumente konsistent zu halten fällt Modellen schwer. Und aktuelle Informationen liefert ein Werkzeug nur, wenn es eine Internetsuche eingebaut hat.
Die größte Enttäuschung entsteht aber durch falsche Erwartungen. Ein Sprachmodell ersetzt selten eine ganze Stelle. Realistisch sind Minuten pro Vorgang, die sich bei häufigen Aufgaben zu Stunden pro Woche summieren. Und ein unklarer Prozess wird durch KI nicht klar: Wenn niemand sagen kann, wie ein Vorgang heute genau läuft und woran man ein gutes Ergebnis erkennt, fehlt jeder Automatisierung die Grundlage. Dann ist Prozessarbeit der erste Schritt, nicht Werkzeugkauf.
Datenschutz: welche Daten dürfen in welches Werkzeug
Die meisten KI-Werkzeuge laufen als Cloud-Dienst, also auf Servern des Anbieters und nicht in Ihrem Haus. Damit stellt sich zuerst die Frage, was mit Ihren Eingaben passiert. Kostenlose Verbraucherversionen vieler Dienste behalten sich vor, Eingaben zur Verbesserung der Modelle zu verwenden, und bieten keinen Auftragsverarbeitungsvertrag an. Ein Auftragsverarbeitungsvertrag, kurz AVV, ist der Vertrag, den die europäische Datenschutz-Grundverordnung (DSGVO) verlangt, wenn ein Dienstleister personenbezogene Daten in Ihrem Auftrag verarbeitet; er verpflichtet den Anbieter, diese Daten nur nach Ihrer Weisung zu nutzen. Personenbezogene Daten, also alle Angaben, die sich einer bestimmten Person zuordnen lassen, etwa Namen, Kontaktdaten oder Personalunterlagen, gehören daher nicht in Werkzeuge ohne AVV.
Praktikabel ist eine Einteilung in drei Datenklassen. Klasse 1: öffentliche und unkritische Inhalte ohne Personen- und ohne vertraulichen Geschäftsbezug, etwa der Entwurf eines allgemeinen Webtexts; sie dürfen in jedes freigegebene Werkzeug. Klasse 2: interne Geschäftsdaten wie Kalkulationen, Vertragsentwürfe oder Planungen; sie gehören nur in Firmenversionen mit AVV, mit Trainingsausschluss, also der vertraglichen Zusicherung, dass Eingaben nicht für das Training der Modelle verwendet werden, und möglichst mit Verarbeitung in der EU. Klasse 3: personenbezogene und besonders sensible Daten, etwa aus Personalakten, Gesundheits- oder Bankunterlagen; sie kommen nur nach ausdrücklicher Prüfung in ein Cloud-Werkzeug, im Zweifel gar nicht. Schreiben Sie diese Regeln auf eine Seite und machen Sie sie im Betrieb bekannt, sonst entsteht genau die stille Nutzung ohne Regeln, die Sie vermeiden wollen.
Für sehr sensible Daten gibt es lokale Alternativen: offen verfügbare Sprachmodelle, die auf eigener Hardware oder bei einem deutschen Rechenzentrumsbetreiber laufen, sodass die Daten Ihre Umgebung nicht verlassen. Die ehrliche Einordnung dazu: Kleinere lokale Modelle erreichen nicht durchgehend die Qualität der großen Cloud-Dienste, und der Betrieb braucht jemanden, der sich kümmert, von der Hardware bis zu Updates. Lokal lohnt sich vor allem dort, wo Klasse-3-Daten verarbeitet werden sollen oder Cloud-Dienste aus anderen Gründen ausscheiden.
Neben der DSGVO gilt inzwischen die europäische KI-Verordnung, die stufenweise anwendbar wird. Für die typische Büronutzung ist vor allem relevant, dass Unternehmen, die KI-Systeme einsetzen, dafür sorgen sollen, dass ihre Beschäftigten über ausreichende Kenntnisse im Umgang damit verfügen, und dass bestimmte Anwendungsarten untersagt oder streng reguliert sind. Für normale Textassistenz sind die Pflichten überschaubar; wer KI in Personalentscheidungen oder Bewertungen von Personen einsetzen will, sollte das vorher rechtlich prüfen lassen.
Das erste Projekt: klein zuschneiden und ehrlich nachmessen
Wählen Sie die erste Aufgabe nach fünf Kriterien: Sie kommt häufig vor, mindestens mehrmals pro Woche. Sie ist textlastig. Das Ergebnis lässt sich schnell prüfen. Ein Fehler ist korrigierbar, bevor Schaden entsteht. Und sie kommt ohne Klasse-3-Daten aus. Gute Kandidaten sind Besprechungsprotokolle, Antwortentwürfe im Kundendienst oder Zusammenfassungen technischer Unterlagen. Ein schlechter erster Kandidat ist alles rund um Bewerbungen und Personal, weil dort sofort personenbezogene Daten und rechtliche Fragen im Spiel sind.
Messbar wird das Projekt nur mit einem Basiswert. Notieren Sie vor dem Start, wie viele Vorgänge pro Woche anfallen und wie viele Minuten ein Vorgang heute kostet. Dann testen zwei bis fünf Mitarbeiter das Werkzeug über einen festen Zeitraum von vier bis acht Wochen. Danach messen Sie erneut, und zwar einschließlich der Zeit für Prüfung und Korrektur der KI-Entwürfe. Legen Sie vorher fest, ab welchem Wert das Projekt als Erfolg gilt und wann Sie abbrechen. Ohne Basiswert bleibt am Ende nur ein Bauchgefühl, und Bauchgefühl ist keine Grundlage für eine breitere Einführung.
Vieles davon ist ohne externe Hilfe machbar: eine Firmenversion eines Chat-Werkzeugs testen, die Datenregeln aufschreiben, das Pilotprojekt durchführen und nachmessen. Unterstützung durch die eigene IT oder einen Dienstleister ist sinnvoll, sobald eigene Dokumentbestände angebunden werden, weil dann Ablagestruktur und Zugriffsrechte stimmen müssen, sobald Schnittstellen zu Warenwirtschaft oder ERP entstehen, also zu der Software, die Aufträge, Lager und Buchhaltung führt, oder sobald lokale Modelle betrieben werden sollen.
Woran Sie erkennen, dass nur das Etikett KI verkauft wird
Das erste Warnzeichen ist Unschärfe bei einfachen Fragen. Fragen Sie jeden Anbieter: Welches Modell arbeitet im Hintergrund? Wo werden unsere Daten verarbeitet? Was geschieht mit unseren Eingaben? Wie werden Fehler erkannt und behoben? Wer hier ausweicht oder nur Schlagworte liefert, verkauft möglicherweise eine dünne Oberfläche über einem fremden Standarddienst. Das kann in Ordnung sein, sollte aber offen benannt werden, denn es bestimmt Ihre Abhängigkeit und den fairen Gegenwert.
Weitere Warnzeichen: feste Einsparversprechen, bevor sich jemand Ihre Abläufe angesehen hat. Kein Testzugang und kein kleiner Pilot, stattdessen lange Vertragslaufzeit ab dem ersten Tag. Keine klare Antwort auf die Fragen nach AVV, Verarbeitungsort und Trainingsausschluss. Und das Etikett KI auf Funktionen, die es unter anderem Namen längst gab, etwa einfache Wenn-dann-Regeln oder klassische Texterkennung.
Umgekehrt gibt es gute Zeichen: Ein seriöser Anbieter beginnt mit Ihren Aufgaben statt mit seinem Produkt, benennt Grenzen von sich aus, akzeptiert ein kleines Pilotprojekt mit vereinbarten Messgrößen und legt Datenschutzunterlagen unaufgefordert vor. Wenn Sie diese Punkte in einem ersten Gespräch der Reihe nach abfragen, sortiert sich der Anbietermarkt erstaunlich schnell.
Das Wichtigste in Kürze
KI spart im Mittelstand dort Zeit, wo häufige, textlastige und gut prüfbare Aufgaben anfallen: bei Dokumenten, E-Mail-Entwürfen, der Suche im eigenen Wissen und in wiederkehrenden Abläufen. Wer Datenklassen festlegt, klein startet und den Nutzen gegen einen Basiswert nachmisst, vermeidet die typischen Fehlgriffe und erkennt Etikettenschwindel früh. Die Frage lautet nie, ob ein Modell etwas kann, sondern ob genau diese Aufgabe bei Ihnen oft genug anfällt.