KI im Mittelstand: Zuerst Workspace und Daten, dann Gemini

Veröffentlicht am · Aktualisiert am

Viele Mittelständler wollen KI, und scheitern an Chaos in Drive und E-Mail. So startest Du richtig: saubere Google Workspace Strukturen, klare Daten, dann Gemini und praxisnahe Use Cases.

KI ist im Mittelstand angekommen. Nicht als Hype-Slide, sondern als konkrete Frage im Alltag: Kann Gemini uns helfen, Angebote schneller zu schreiben? Können wir Support-Tickets besser priorisieren? Und warum liefert die Demo beim Wettbewerber so starke Antworten, bei uns aber nur Halbwahrheiten?

Die ehrliche Antwort ist unbequem: KI ist nur so gut wie Deine Daten und Deine Arbeitsstruktur. Wer Gemini auf ein chaotisches Google Drive und unklare Freigaben loslässt, bekommt Chaos mit freundlicher Stimme. Wer zuerst Workspace, Rechte und Wissensquellen aufräumt, bekommt einen echten Produktivitätshebel.

Dieser Artikel zeigt einen praxisnahen Einstieg für den deutschen Mittelstand, ohne Buzzword-Bingo und ohne die Illusion, dass ein Prompt allein Dein Business transformiert.

Warum KI-Projekte im Mittelstand oft scheitern

Typisches Muster: Es gibt ein Pilotprojekt. Jemand aktiviert Gemini. Das Team ist begeistert von der ersten Zusammenfassung. Zwei Wochen später ist die Begeisterung weg, weil die Antworten ungenau sind, weil niemand weiß, welche Dateien die Quelle sind, und weil sensible Ordner plötzlich im Kontext landen, in dem sie nicht hingehören.

Die Ursache liegt selten am Modell. Sie liegt an den Grundlagen:

  • Drive-Ordner ohne klare Struktur und ohne Naming-Konvention
  • alte Freigaben an Ex-Mitarbeiter oder externe Partner
  • Wissen, das nur in persönlichen Postfächern und Chat-Threads lebt
  • fehlende Trennung zwischen öffentlich nutzbarem Wissen und internen Rohdaten
  • keine klare Owner-Rolle für Datenqualität

Gemini kann gut zusammenfassen, entwerfen und strukturieren. Es kann aber nicht magisch bereinigen, was über Jahre unordentlich gewachsen ist.

Schritt 1: Google Workspace als Fundament behandeln

Bevor Du KI ausrollst, brauchst Du eine belastbare Arbeitsumgebung. Für viele Betriebe heißt das: Google Workspace nicht nur als E-Mail-Tool nutzen, sondern als Betriebsystem für Zusammenarbeit.

Konkret bedeutet das:

  • Shared Drives statt privater Inseln: Teamwissen gehört in gemeinsame Ablagen mit klaren Ownern.
  • Rechte nach Rollen: Wer darf lesen, wer bearbeiten, wer teilen? Weniger individuelle Ausnahme-Freigaben, mehr nachvollziehbare Gruppen.
  • Zwei-Faktor-Authentifizierung und Admin-Hygiene: ohne sichere Identität ist jede KI-Integration riskant.
  • Archiv- und Lifecycle-Regeln: alte Projekte werden archiviert, aktive Wissensbasen bleiben schlank.

Das klingt unspektakulär, und genau deshalb wird es oft übersprungen. Dabei ist es der Unterschied zwischen "wir spielen mit KI" und "wir können KI produktiv einsetzen".

Schritt 2: Datenqualität vor Modellwahl

Für KI brauchst Du nicht "alle Daten". Du brauchst die richtigen Daten in einer Form, die ein Modell sinnvoll verarbeiten kann.

Eine gute Checkliste für den Start:

  1. Welche 3 bis 5 Prozesse sollen wirklich schneller werden? (z. B. Angebotserstellung, FAQ-Antworten, Meeting-Nachbereitung, Wissenssuche)
  2. Welche Quellen sind dafür maßgeblich? (Richtlinien, Vorlagen, Produktdaten, Projektberichte)
  3. Sind diese Quellen aktuell, eindeutig und freigegeben?
  4. Gibt es widersprüchliche Versionen derselben Wahrheit?
  5. Dürfen diese Inhalte in einem KI-Kontext überhaupt verwendet werden?

Erst wenn diese Fragen klar sind, lohnt sich der nächste Schritt: Gemini und ggf. eine Retrieval-Architektur (RAG) über Deine freigegebenen Wissensquellen.

Schritt 3: Gemini dort einsetzen, wo der Nutzen messbar ist

Gemini in Google Workspace ist besonders stark, wenn der Kontext schon im Tool liegt: Docs, Gmail, Drive, Meet. Gute Einstiegs-Use-Cases für den Mittelstand:

  • Angebotsentwürfe auf Basis freigegebener Vorlagen und Leistungsbeschreibungen
  • Meeting-Zusammenfassungen mit klaren To-dos und Verantwortlichkeiten
  • Wissenssuche über Richtlinien, Handbücher und Projektakten
  • E-Mail-Entwürfe in einheitlichem Ton, ohne Copy-Paste-Chaos
  • Interne FAQs für Onboarding und Support

Wichtig: Starte eng. Ein Use Case mit klarer Erfolgsmessung schlägt zehn parallele Experimente.

Praxisbeispiel: ttz Bremerhaven und die KI-Angebotsplattform

Ein öffentliches Deschalet-Beispiel zeigt, wie weit der Weg von "Chatbot ausprobieren" bis "KI im Prozess" ist. Am ttz Bremerhaven im Food Hub First steckte über Jahre Forschungswissen in PDFs, Berichten und in den Köpfen einzelner Experten. Die Angebotserstellung war aufwendig, nicht weil das Team unfähig war, sondern weil Wissen schwer auffindbar und schwer kombinierbar war.

Gemeinsam entstand eine KI-eingebettete Angebotsplattform auf Basis von Google Gemini und einer RAG-Architektur. Der Punkt war nicht "irgendetwas mit KI". Der Punkt war: Wissen strukturieren, Quellen anbinden, Halluzinationen begrenzen und den Angebotsprozess konkret beschleunigen.

Genau diese Reihenfolge gilt auch für kleinere Mittelständler, nur in kleinerem Maßstab: erst Quellen und Rechte, dann Modell und UX.

Workspace + KI: der pragmatische Mittelweg

Nicht jedes Unternehmen braucht sofort eine eigene RAG-Plattform. Viele gewinnen schon enorm, wenn sie:

  • Gemini in Workspace für Schreib- und Recherchearbeit aktivieren
  • eine saubere Drive-Struktur als Wissensbasis pflegen
  • Vorlagen und SOPs zentral halten
  • Schulungen für Prompt-Qualität und Datenhygiene geben
  • einen Admin-Prozess für Freigaben und Audit-Trails haben

Das ist keine Science-Fiction. Das ist Betriebsorganisation mit einem starken Assistenten oben drauf.

Sicherheits- und Compliance-Grundregeln

KI ohne Governance ist ein Risiko. Mindestens solltest Du klären:

  • Welche Daten dürfen in KI-Kontexte?
  • Wo werden Daten verarbeitet und gespeichert?
  • Wer ist fachlich Owner für Antworten, die nach außen gehen?
  • Wie werden Fehlantworten erkannt und korrigiert?
  • Gibt es einen AV-Vertrag und dokumentierte Zugriffe?

Als Google Cloud Partner richten wir Workspace und KI-Nutzung so ein, dass Produktivität und Datenschutz zusammenpassen, nicht als nachträglicher Patch.

Welche Pflichten die europäische KI-Verordnung für Betriebe mit sich bringt, die KI nutzen, und welche Fristen der KI-Omnibus verschoben hat, fasst unser Beitrag EU AI Act für Betreiber im Mittelstand: Was nach dem KI-Omnibus wirklich gilt zusammen.

Dein 30-Tage-Startplan

  1. Woche 1: Use Cases priorisieren, Datenquellen inventarisieren, kritische Freigaben bereinigen.
  2. Woche 2: Shared-Drive-Struktur und Vorlagen vereinheitlichen, Owner festlegen.
  3. Woche 3: Gemini für einen engen Use Case aktivieren und mit einem Pilotteam testen.
  4. Woche 4: Qualität messen (Zeitersparnis, Fehlerrate, Akzeptanz), Regeln dokumentieren, erst dann ausrollen.

Wenn nach 30 Tagen niemand sagen kann, was besser geworden ist, war es kein KI-Projekt, sondern ein Feature-Toggle.

Fazit

KI im Mittelstand beginnt nicht mit dem spektakulärsten Modell. Sie beginnt mit Ordnung: Google Workspace sauber aufsetzen, Wissen findbar machen, Rechte klären, und erst dann Gemini dort einsetzen, wo der Nutzen klar messbar ist. Wer diese Reihenfolge einhält, spart Geld, Nerven und Image-Schäden.

Wenn Du wissen willst, wo bei Euch der sinnvolle Einstieg liegt, von Workspace-Hygiene bis zu konkreten Gemini-Use-Cases, buche ein unverbindliches Erstgespräch. Wir schauen uns Deine Ausgangslage an und sagen Dir ehrlich, was zuerst dran ist.

Wie KI-bereit ist Dein Unternehmen?

Mach den kostenfreien AI Readiness Check: 28 kurze Fragen zu Daten, Prozessen, Tech-Stack, Team und Compliance, danach bekommst Du einen persönlichen Report mit Deinem Reifegrad und den nächsten Schritten. Tiefer einsteigen kannst Du mit dem Whitepaper AI Readiness 2026 (21 Seiten, kostenfrei).