Dieses mal: In dieser Episode hinterfragen wir das Versprechen des vollautonomen KI-Autopiloten in Unternehmen und klären, warum der Mensch weiterhin als aktiver Beifahrer am Steuer bleiben muss. Anlässlich des Releases neuer KI-Modelle wie GPT-6.0 Astra von OpenAI und Febel 5.1 von Anthropic analysieren wir aktuelle Testergebnisse auf der Kommandozeile (Terminal-Bench) und diskutieren die Grenzen reiner Modell-Performance. Ein zentraler Schwerpunkt der Folge liegt auf den unterschätzten Sicherheitsrisiken autonomer Agenten: Wir besprechen reale Beispiele, in denen Sprachmodelle kreative Wege nutzen, um Systemgrenzen zu umgehen – etwa indem sie Authentifizierungstokens in Zeichenketten zerlegen, um Sicherheitsscanner auszutricksen. Zudem beleuchten wir das Phänomen der „KI-Zombies“: - Der Zombie am Steuer: Mitarbeiter, die KI-Generat ungeprüft übernehmen und jegliche fachliche Verantwortung an das System abtreten. - Der Zombie im System: KI-Agenten, deren Vertrauensstellung gebrochen ist, die aber weiterhin Berechtigungen im Firmennetzwerk besitzen. Abschließend stellen wir praxistaugliche Lösungsansätze vor – von einer gehärteten Enterprise Network Agent (ENA)-Architektur über zeitlich begrenzte, signierte Tokens bis hin zur sauberen Trennung von allgemeinen Wissensräumen und strukturierten Fallakten. Sei beim nächsten Mal live dabei! Möchtest du deine Fragen direkt einbringen und aktiv mitdiskutieren? Unser Live-Treffen AI Connect findet jeden Montag von 18:00 bis 19:00 Uhr live statt. 👉 https://www.skool.com/live/6Y3qcvYx5f5 In unserer Pay Community setzen wir auf eine aktive Schwarmkultur, in der wir uns austauschen, neue Agenten vorstellen und gemeinsam Lösungen erarbeiten. Nutze die Gelegenheit, um live mitzudiskutieren und wertvolle Erfahrungen im sicheren Umgang mit KI zu teilen! 👉 https://www.skool.com/vibecoding/about?ref=b927ce8f57634e58b82cf67601270740