Gestern haben wir im ai.connect in der Präsentation zwei Wege verglichen, wie ein KI-Agent die Vorbuchhaltung unterstützen kann: • Im YouTube-Video erhält der Agent Zugriff auf Bankkonto, Passwortmanager und Cloud-Ordner – und erledigt fast alles selbstständig. • Bei uns erhält der Agent keine Zugangsdaten. Dafür sind ein paar Handgriffe mehr nötig. Unser Fazit war: 𝗠𝗲𝗵𝗿 𝗛𝗮𝗻𝗱𝗴𝗿𝗶𝗳𝗳𝗲, 𝘄𝗲𝗻𝗶𝗴𝗲𝗿 𝗥𝗶𝘀𝗶𝗸𝗼. Wie schnell dieses Risiko real werden kann, zeigt eine Meldung vom 9. November 2026, die ich heute Morgen gelesen habe. ───────────────────────────── 𝗪𝗮𝘀 𝗶𝘀𝘁 𝗽𝗮𝘀𝘀𝗶𝗲𝗿𝘁? Claude Code ist ein KI-Werkzeug, mit dem Entwicklerinnen und Entwickler programmieren. Bevor es einen Befehl ausführt, fragt es häufig: „Darf ich das?“ Wählt man „Ja, und nicht erneut nachfragen“, merkt sich das Werkzeug diesen Befehl in einer lokalen Konfigurationsdatei auf dem eigenen Rechner. Enthält der Befehl ein Passwort, einen API-Key oder andere Zugangsdaten, können diese in der Datei landen. Die Datei sollte eigentlich auf dem Rechner bleiben. In der Praxis landeten solche Dateien jedoch in öffentlichen GitHub-Repositorien – etwa weil ein Projekt später in ein Git-Repository umgewandelt oder auf einen anderen Rechner kopiert wurde. ───────────────────────────── 𝗪𝗮𝘀 𝗵𝗮𝗯𝗲𝗻 𝗦𝗶𝗰𝗵𝗲𝗿𝗵𝗲𝗶𝘁𝘀𝗳𝗼𝗿𝘀𝗰𝗵𝗲𝗿 𝗴𝗲𝗳𝘂𝗻𝗱𝗲𝗻? Die Sicherheitsforscher von Apiiro haben öffentliche GitHub-Repositorien untersucht. Ihre zentralen Ergebnisse: • Mehr als 104.000 Kopien der betroffenen Konfigurationsdatei waren öffentlich auffindbar. • In 1.122 Dateien fanden sie mindestens ein echtes Geheimnis. • Darin identifizierten sie 1.379 unterschiedliche Zugangsdaten, darunter Datenbank-Passwörter, Cloud-Keys, API-Tokens und SSH-Zugänge. • Unter Einbezug von Git-Historie, geteilten Einstellungsdateien und Agent-Transkripten stieg die Zahl auf 2.539 Geheimnisse in 1.994 Repositories. Besonders aufmerksam macht: Gängige Scanner für geleakte Zugangsdaten haben 215 der 1.122 betroffenen Dateien übersehen. Das sind rund 19 Prozent – also etwa jede fünfte Datei.

Stellt euch eine Konfliktmediation vor: Zwei Parteien sprechen jeweils allein mit einem KI-Agenten. Beide sollen offen erzählen können, ohne dass die Gegenseite mitliest. Und am Ende sollen sie trotzdem gemeinsam an einer Lösung arbeiten. Genau das bauen wir gerade mit aica05, einem Multi-Agent-System für Konfliktmediation. Die spannende Frage dabei ist nicht, was die KI sagt. Sondern: Wer darf was sehen, wann und warum? Ein paar Dinge, die wir dabei gelernt haben: • Ein Prompt ist keine Zugriffskontrolle. Vertraulichkeit muss technisch sitzen, nicht in der Anweisung an das Modell. • Ein Raum ist nur offen, wenn alle Anwesenden ein Recht daran haben. Ein einziger falscher Eintrag kann reichen, um Vertrauliches zu öffnen. • Die Zahl der Agenten ist eine Designentscheidung. Wir sind bei drei Fachagenten gelandet statt vier. In unserer Paycommunity liegt dazu der vollständige Ablauf als interaktive Seite: 14 Schritte, eine Simulation „Wer sieht welchen Raum?“, die Einrichtung durch den Curator und vier offene Befunde. Am Dienstag, 3. November, arbeiten wir dort zwei Stunden live daran und entscheiden die offenen Punkte gemeinsam. Wenn du sehen willst, wie so etwas sauber aufgebaut wird, oder selbst Curator für eigene Fälle werden willst: 👉 skool.com/vibecoding/about?ref=b927ce8f57634e58b82cf67601270740 Frage an euch: Wo würdet ihr einer KI am wenigsten zutrauen, Vertrauliches zu trennen?

In unserer Community beschäftigen wir uns intensiv damit, wie Künstliche Intelligenz ethisch, verantwortungsvoll und menschenzentriert gestaltet werden kann. Passend dazu möchte ich euch heute ein Interview mit ans Herz legen, das der Youtube-Kanal Agenda 2033 vor einigen Wochen mit mir geführt hat. In diesem Interview spreche ich u.a. darüber, wie wir neue Technologien nutzen können, ohne unsere Selbstbestimmung und Privatsphäre abzugeben. Die wichtigsten Themen aus dem Gespräch: - Top-Down vs. Bottom-Up: Warum globale Machtkonzentrationen lokale Autonomie – dezentrale Lösungen von der Lebensmittelversorgung bis hin zu regionalen Bezahlsystemen – erfordern. - Ethische KI & Schwarmorganisation: Wie meine maßgeschneiderte KI-Agenten im geschützten Raum ("Human in the lead") hierarchiefreie Netzwerke unterstützen können. - Die Chance im Wandel: Warum die Übernahme von Routineaufgaben durch KI dem Menschen Raum gibt, sich wieder auf Mitgefühl, Werte und echte Menschlichkeit zu besinnen. Meine KI-Agenten habe ich in unserer vibe-coding-Gruppe entwickelt auf der Grundlage von Value.7. #Society4.0 #KünstlicheIntelligenz #Dezentralität #Menschlichkeit #Regionalgesellschaft #Schwarmorganisation

Ich habe in den letzten Monaten zusammen mit der KI, und zwar vor allem mit Claude mehr als 500 Stunden damit verbracht, ein KI-basiertes Beratungssystem zu entwickeln, das Problemlösungshelfern, also Trainern, Coaches, Beratern, Mediatoren, Supervisoren u.ä. hilft, das Marketing ihrer Dienstleistungen zu verbessern. Ich möchte heute auf eine der Erfahrungen eingehen, die ich dabei im Umgang mit der KI gemacht habe, nämlich auf die Erfahrung, wie extrem wichtig es ist, in der Kooperation mit einer KI selbst immer und ohne Ausnahme die konzeptionelle Führung zu haben – und der KI die Aufgabe zu geben, die eigenen konzeptionellen Vorstellungen kritisch zu prüfen. Das ist nicht nur deshalb wichtig, weil die KI in diesem Zusammenhang oft richtig Schlechte Vorschläge macht. Viel gefährlicher hingegen ist es, wenn sie richtig gute Vorschläge macht. Das ist nämlich eine ernsthafte Verführung. Denn wenn diese Vorschläge nicht absolut genau zu mir, d.h. zu meinem Denken, zu meinen Vorstellungen, Zielen und Werten passen, dann bleiben sie ein Fremdkörper – und wenn ich sie übernehme, kann ich nicht mehr authentisch sein.

Sprachmodelle sind kein ERP-Kernsystem Der Tech-Kritiker Ed Zitron kritisiert in seinem Interview die überzogenen Versprechen der KI-Branche. Er warnt davor, generative KI als „Magie“ oder als kurzfristigen Ersatz für menschliche Arbeit zu vermarkten, obwohl Sprachmodelle weiterhin fehlerhafte Ausgaben erzeugen können. Außerdem kritisiert er die ungefragte Integration von KI in etablierte Produkte sowie die hohen Infrastruktur- und Nutzungskosten. https://www.youtube.com/watch?v=Lf5oqGOCRCM Der Kern der Kritik ist für Unternehmenssoftware besonders relevant: Sprachmodelle erzeugen Ausgaben probabilistisch. Sie können Texte analysieren, Zusammenhänge herstellen, Code schreiben und Werkzeuge aufrufen. Ihre Ergebnisse sind jedoch nicht automatisch deterministisch, vollständig oder korrekt. Deshalb sollten sie in ERP-Systemen nicht selbst die alleinige Autorität für Preise, Finanzkennzahlen, Buchungen oder Freigaben sein. Drei Risiken beim Einsatz im ERP 1. Raten statt verlässlich berechnen Finanzkennzahlen, Preise, Margen, Steuern und Fristen sollten nicht direkt vom Sprachmodell berechnet werden. Dafür eignen sich geprüfte Datenbankabfragen, Regelwerke und deterministische Rechenkomponenten. Das Modell kann die Aufgabe verstehen, die benötigten Daten auswählen und das Ergebnis erläutern; die verbindliche Berechnung sollte außerhalb des Modells erfolgen. 2. Unkontrollierte Agentenaktionen Ein Agent ist kein automatisch zuverlässiger digitaler Mitarbeiter. Er verbindet ein Modell mit Werkzeugen, Datenquellen und Ausführungsschritten. Ohne strikte Berechtigungen, Schema-Validierung, Transaktionsgrenzen, Audit-Logs, Rollback-Möglichkeiten und menschliche Freigaben können Fehler zu falschen oder schwer nachvollziehbaren Systemänderungen führen. 3. Unklare Gesamtkosten Tokenpreise sind nur ein Teil der Kosten. Bei langen Kontexten, wiederholten Modellaufrufen, Tool-Nutzung und Fehlerkorrekturen können die tatsächlichen Betriebskosten deutlich steigen. Deshalb sollten Unternehmen jeden Agenten mit Kostenbudgets, Laufzeitgrenzen, Rate Limits und einer nachvollziehbaren Kostenmessung betreiben.