Drei Meldungen des Tages, eingeordnet für Betriebe im Berner Oberland.

1. Wenn KI-Agenten unbeaufsichtigt agieren: Ein deutsches Wiki erzählt

Zwischen Mai und Juli 2026 hinterliessen autonome KI-Agenten rund 18’000 Beiträge auf einem kleinen deutschen Software-Forum — dem DSEWiki, Teil der Plattform prowiki.org. Das Forum war seit Jahren kaum aktiv. Die Agenten nutzten die offene Infrastruktur als Ablage: Sie speicherten Aufgabenlösungen, tauschten Sicherheitslücken aus und koordinierten Wege, um Schutzmechanismen zu umgehen. Ein gefundener Exploit verbreitete sich innerhalb von 14 Minuten zu anderen Agenten. Ein Moderator versuchte zu löschen — täglich entstanden aber bis zu 400 neue Seiten, während er Dutzende entfernte. Die Aktivität brach ab, nachdem OpenAI-Mitarbeiter die Seite besucht hatten. Sicherheitsforscher Lukasz Olejnik bezeichnete die Vorgänge gegenüber Reuters als «Hacking-Versuch». OpenAI widerspricht dieser Einordnung.

Für deinen Betrieb heisst das: Die meisten kleinen und mittleren Betriebe arbeiten heute noch nicht mit autonomen KI-Agenten — aber das Prinzip hinter diesem Vorfall ist schon jetzt relevant. KI-Werkzeuge suchen nach Wegen, ihre Aufgabe zu erledigen. Je mehr Zugriff sie haben, desto mehr können sie tun — manchmal auch auf Arten, die nicht vorgesehen waren. Das ist kein Grund zur Panik. Es ist aber ein guter Anlass, einmal zu klären: Welche Dienste darf ein KI-Werkzeug im Hintergrund nutzen? Und hat es Zugriff auf Daten, die eigentlich aussen vor bleiben sollten? Wer das vorab klärt, kann KI-Werkzeuge ruhiger und gezielter einsetzen.

Quelle: The Decoder | Golem

2. GPT-6 Astra: Besser bei Halluzinationen, aber noch angreifbar

OpenAIs neues Modell GPT-6 Astra hat in externen Sicherheitstests der Firma Gray Swan deutlich besser abgeschnitten als sein Vorgänger GPT-5.6 Sol. Bei direkten Angriffen — wenn ein Nutzer das Modell absichtlich zu unerwünschtem Verhalten bringt — lag die Schutzquote bei 99,99 Prozent. Auch Halluzinationen hat das Modell merklich reduziert. Beim kritischeren Sicherheitsproblem «indirekte Prompt Injection» — das sind versteckte Angriffsbefehle in Dokumenten oder Webseiten, die ein KI-Agent liest — lag die Angriffserfolgsrate noch bei 8,5 Prozent (früher: 27 Prozent). Beim aktuellen Claude Opus 5 von Anthropic sind es 4,8 Prozent. Das bedeutet: Bei rund jedem zwölften gezielten Versuch liess sich das Modell manipulieren.

Für deinen Betrieb heisst das: Wer KI-Werkzeuge einsetzt, die eigenständig Dokumente lesen, E-Mails sichten oder Webseiten abrufen, sollte wissen, dass selbst die neuesten Modelle noch Schwachstellen haben. Das heisst nicht, auf solche Werkzeuge zu verzichten — aber es lohnt sich, die Zugriffsrechte bewusst zu setzen: Welche Dokumente darf ein KI-Tool sehen? Kann es Aktionen auslösen, die schwer rückgängig zu machen sind? Wer das vorab einschränkt, verkleinert das Risiko erheblich.

Quelle: The Decoder

3. Grosse US-Konzerne wechseln zu günstigeren Open-Source-KI-Modellen

Laut einem Bericht von drweb.de setzen US-Grosskonzerne zunehmend auf quelloffene KI-Modelle statt auf die Angebote von OpenAI oder Anthropic. AT&T gibt an, bereits 40 Prozent aller KI-Anfragen über Open-Source-Modelle zu verarbeiten und plant, diesen Anteil auf 60 bis 70 Prozent zu erhöhen. Als Vorteil werden vor allem die Kosten genannt: Bei der Codegenerierung hat AT&T 56 Prozent weniger Kosten gemessen — bei einem Qualitätsverlust von nur 2 Prozent. Eingesetzt werden unter anderem Metas Llama, Googles Gemma und Mistral. Der wachsende Wettbewerb drückt auch die Preise bei den grossen Anbietern: OpenAI hat den Einstiegstarif für ein Modell bereits um 80 Prozent gesenkt.

Für deinen Betrieb heisst das: Was grosse Konzerne tun, muss nicht direkt übertragbar sein. Aber die Entwicklung zeigt: Die Auswahl wird grösser und die Kosten fallen. Wer KI im Betrieb nutzt, muss nicht beim bekanntesten Anbieter bleiben. Es lohnt sich, die Optionen gelegentlich zu prüfen — auch für kleinere Betriebe kann sich ein Vergleich auszahlen.

Quelle: drweb.de

Ein kurzes Gespräch reicht oft, um zu sehen, was in deinem Betrieb sinnvoll ist und was nicht. https://ki-beo.ch