Allgemein·4 Min. Lesezeit

Lokale KI: so bleiben deine Daten im eigenen Haus

Viele Betriebe zögern, KI einzusetzen, weil sie nicht wissen, wohin ihre Eingaben gehen. Die Frage ist berechtigt: Wer einen Cloud-Dienst nutzt, schickt seine Anfragen auf Server eines anderen Unternehmens. Für einen Betrieb mit Kundendaten, Mandaten oder Patienteninformationen ist das ein echter Punkt, nicht nur ein technisches Detail.

Was sich in den letzten Monaten geändert hat: Lokale KI-Modelle sind alltagstauglich geworden. Du kannst offene Sprachmodelle heute direkt auf deinem eigenen Rechner ausführen, komplett ohne Verbindung zu einem Cloud-Dienst. Was du eingibst, verlässt das Gerät nicht.

Was «lokal» konkret bedeutet

Ein lokales Modell läuft auf deiner eigenen Hardware. Es besteht keine Verbindung zu einem externen Anbieter, und deine Eingaben werden nicht auf fremden Servern verarbeitet. Das klingt technisch, hat aber einen klaren praktischen Vorteil: Wenn du einem lokalen Modell ein Protokoll, einen Vertragsentwurf oder eine Liste mit Kundendaten zeigst, bleibt das im Haus.

Das ist der wesentliche Unterschied zu Cloud-Diensten. Dort landen deine Eingaben beim Anbieter, und je nach Nutzungsbedingungen kann das für Betriebe, die unter das revidierte Datenschutzgesetz (revDSG) fallen, ein Problem sein.

Was lokale Modelle heute leisten

Laut einem aktuellen Test von heise Online haben offene, lokal laufende Modelle inzwischen etwa das Niveau erreicht, das grosse Cloud-Modelle vor rund acht Monaten hatten. Das klingt nach einem Rückstand. In der Praxis bedeutet das, dass typische Büroaufgaben gut funktionieren: Texte zusammenfassen, Entwürfe erstellen, interne Fragen beantworten, Protokolle strukturieren.

Für spezialisierte oder sehr anspruchsvolle Aufgaben sind grosse Cloud-Modelle weiterhin leistungsstärker. Aber für vieles, was täglich in einem kleinen oder mittleren Betrieb anfällt, reicht lokal aus.

Für einen Betrieb heisst das: Du musst nicht zwischen «KI nutzen» und «Daten schützen» wählen. Du kannst beides haben, wenn die richtige Lösung zur richtigen Aufgabe passt.

Welche Hardware du brauchst

Hier ist der ehrliche Teil: Lokale KI braucht eine ordentliche Maschine. Als Richtwert gilt laut heise-Test mindestens 16 GB Videospeicher (VRAM) für ein grösseres Modell, empfohlen 24 bis 32 GB GPU-Speicher oder ein Gerät mit 48 GB gemeinsamem RAM. Ein Beispielgerät wie ein Mac Mini M5 Pro kostet rund 2900 Euro. Dabei ist die Speicher-Transferrate entscheidend: Schneller RAM macht mehr Unterschied als schlichtes Volumen.

Für einen Betrieb heisst das: Eigene Hardware kauft Datenhoheit, nicht automatisch tiefere Kosten. Die Investition ist real, und das Gerät braucht Einrichtung und Pflege. Ob sich das lohnt, hängt davon ab, wie sensibel deine Daten sind und wie häufig du KI einsetzt.

Nicht jede Aufgabe muss lokal laufen. Für Texte ohne sensible Daten kann eine Cloud-Lösung mit klarer Datenschutzvereinbarung eine sinnvolle Option bleiben. Die Frage ist nicht «Cloud schlecht, lokal gut», sondern: Welche Daten dürfen wo verarbeitet werden?

Für wen lokale KI besonders Sinn ergibt

Lokale KI ist besonders relevant, wenn du mit Daten arbeitest, die möglichst nicht nach draussen gehen sollten:

  • Treuhand- und Buchhaltungsbüros mit Mandantendaten
  • Arztpraxen und therapeutische Praxen mit Patienteninformationen
  • Gemeinden und Verbände mit Personendaten
  • Betriebe, die Geschäftsgeheimnisse nicht auf fremde Server laden möchten

Für allgemeine Aufgaben ohne besonders sensible Daten kann eine Cloud-Option mit guten Datenschutzvereinbarungen weiterhin sinnvoll sein.

Sicherheit: Lokales Laufen ist kein Freibrief

Lokale Ausführung bedeutet, dass deine Eingaben das Gerät nicht verlassen. Sie ist aber kein Allheilmittel. Wenn ein KI-Modell Zugriff auf Dateien auf deinem Rechner bekommt, gibt es andere Risiken zu beachten, zum Beispiel manipulierte Dokumente, die das Modell zu unerwünschten Handlungen verleiten können. Lokale KI reduziert das Risiko für Datenweitergabe an Dritte erheblich; sie ersetzt kein durchdachtes Sicherheitskonzept.

Erste Schritte: Was du klären solltest

Wenn du überlegst, ob lokale KI für deinen Betrieb sinnvoll ist, helfen zwei Fragen weiter: Welche Aufgaben soll die KI übernehmen, und wie sensibel sind die Daten dabei? Erst dann kann man beurteilen, ob Hardware nötig ist oder ob eine Cloud-Option mit guten Datenschutzvereinbarungen ausreicht.

ki-beo bietet ein kostenloses Erstgespräch von 45 Minuten an, per Video oder vor Ort im Berner Oberland. Dabei schauen wir gemeinsam an, was für deine Situation passt, bevor du in Hardware oder Software investierst.

Erstgespräch buchen


Auch gesehen diese Woche: Heise Online schreibt über sichere Architekturen für KI-Agenten im Backoffice. Wenn ein KI-Assistent eigenständig Handlungen ausführt, müssen kritische Aktionen technisch abgesichert sein. Das ist ein Thema, das für Betriebe relevant wird, die KI über einfache Textaufgaben hinaus einsetzen möchten.

Bereit für datenschutz­konforme KI?

Kostenlose Erstberatung — unverbindlich und persönlich.

Kostenloses Erstgespräch buchen
ES
Emanuel Schmid
Inhaber von IT-Schmid in Spiez — hilft KMU im Berner Oberland, KI datenschutzkonform einzusetzen.