KI-Werkzeuge helfen beim Formulieren, Kürzen, Zusammenfassen und Korrigieren. Das weiss inzwischen fast jeder, der regelmässig am Schreibtisch sitzt. Was viele nicht wissen: Man muss den Text dafür nicht zwingend in die Cloud schicken.

Ein aktueller heise-Ratgeber zeigt, wie sich lokal betriebene Sprachmodelle direkt in gängige Schreib- und Notizsoftware einbinden lassen. In Programme wie LibreOffice, Obsidian oder Open WebUI. Das Modell läuft dabei auf dem eigenen Rechner. Der Text verlässt den Arbeitsplatz nicht.

Was «lokal» bedeutet

Bei Cloud-KI schickst du deinen Text auf einen fremden Server und bekommst die Antwort zurück. Der Anbieter verarbeitet deine Anfrage auf seiner Infrastruktur. Bei einem lokalen Modell läuft das Sprachmodell als Software direkt auf deinem Gerät, ohne Internetverbindung.

Was den Rechner nie verlässt, kann nicht mitgelesen werden, kann nicht für das Training fremder Modelle verwendet werden und kann nicht abfliessen.

Für Betriebe, die mit vertraulichen Unterlagen arbeiten, also Offerten, Mandantendaten, Patientenakten, Verträge, ist das ein echter struktureller Unterschied zur Cloud-Nutzung. Für Berufsgruppen mit Schweigepflicht wie Anwältinnen, Ärztinnen und Treuhänder ist die Frage, wohin ihre Texte fliessen, unter dem revidierten Schweizer Datenschutzgesetz (revDSG) alltagsrelevant.

Damit das klar ist: Lokal heisst nicht automatisch sicher oder datenschutzkonform. Das hängt vom Gesamtprozess ab. Backups, Zugriffsrechte und die Frage, wie Daten im Betrieb weitergegeben werden, müssen alle passen. Aber der strukturelle Vorteil ist real.

Der ehrliche Absatz

Lokale Sprachmodelle sind in der Regel schwächer als die grossen Cloud-Dienste wie ChatGPT oder Gemini. Wer lokal arbeitet, spürt das bei langen Texten, komplexen Analysen oder sprachlich anspruchsvollen Formulierungen. Für viele alltägliche Schreibaufgaben wie Kürzen, Korrigieren, Strukturieren und einfaches Zusammenfassen reicht die Qualität aber gut aus.

Dazu kommt der Einrichtungsaufwand. Lokale Modelle brauchen eine passende Hardware: mindestens ausreichend Arbeitsspeicher, möglichst eine Grafikkarte. Die Ersteinrichtung kostet Zeit und geht nicht ohne Vorkenntnisse. Wer sich dabei IT-Hilfe holt, macht das richtig.

Werkzeuge als Einstieg

Zwei Anlaufstellen für lokale Sprachmodelle:

LM Studio ist eine grafische Desktop-App für Windows, Mac und Linux. Laut offizieller Anbieter-Ankündigung vom 8. Juli 2025 ist sie auch für die berufliche Nutzung kostenlos, ohne separate Lizenz. Ein kostenpflichtiger Enterprise-Plan mit Zusatzfunktionen besteht weiter.

Ollama ist eine quelloffene Laufzeitumgebung für lokale Modelle und richtet sich eher an technische Nutzung und Automatisierung.

Beide lassen sich mit gängiger Schreib- und Notizsoftware verbinden. Die konkreten Plugins und Einrichtungsschritte sind noch im Wandel. Wer direkt loslegen will, braucht Vorerfahrung oder Begleitung.

Die Betriebsregel

Eine einfache Aufteilung hilft beim Entscheiden: Cloud-KI für unkritische Aufgaben ohne Kundenbezug, etwa allgemeine Recherchen oder Marketing-Ideen. Lokale KI für alles mit Kunden-, Mandanten- oder Personendaten.

Dazu lohnt sich eine kurze schriftliche Hausregel, die festhält, was welchem Dienst erlaubt ist. Das klärt Erwartungen und schafft Verbindlichkeit im Betrieb.

Kurz gesagt

KI-Schreibhilfe ohne Cloud ist möglich und für manche Betriebe sinnvoll. Die Technik ist zugänglich, die Einrichtung braucht Aufwand, die Qualität hat Grenzen. Wer vertrauliche Texte nicht in fremde Server schicken will, hat heute eine ernsthafte Alternative.

Lohnt sich das für deinen Betrieb? KI-BEO bespricht das gerne mit dir. In einem kurzen Gespräch klären wir, ob der Einrichtungsaufwand in deiner Situation sinnvoll ist: ki-beo.ch

KI-BEO ist ein täglicher Überblick über relevante KI- und Technologie-Entwicklungen für Betriebe im Berner Oberland. Herausgegeben von EIL-Support, lokalem IT-Support in Spiez.