Sprachmodelle sind kein ERP-Kernsystem Der Tech-Kritiker Ed Zitron kritisiert in seinem Interview die überzogenen Versprechen der KI-Branche. Er warnt davor, generative KI als „Magie“ oder als kurzfristigen Ersatz für menschliche Arbeit zu vermarkten, obwohl Sprachmodelle weiterhin fehlerhafte Ausgaben erzeugen können. Außerdem kritisiert er die ungefragte Integration von KI in etablierte Produkte sowie die hohen Infrastruktur- und Nutzungskosten. https://www.youtube.com/watch?v=Lf5oqGOCRCM Der Kern der Kritik ist für Unternehmenssoftware besonders relevant: Sprachmodelle erzeugen Ausgaben probabilistisch. Sie können Texte analysieren, Zusammenhänge herstellen, Code schreiben und Werkzeuge aufrufen. Ihre Ergebnisse sind jedoch nicht automatisch deterministisch, vollständig oder korrekt. Deshalb sollten sie in ERP-Systemen nicht selbst die alleinige Autorität für Preise, Finanzkennzahlen, Buchungen oder Freigaben sein. Drei Risiken beim Einsatz im ERP 1. Raten statt verlässlich berechnen Finanzkennzahlen, Preise, Margen, Steuern und Fristen sollten nicht direkt vom Sprachmodell berechnet werden. Dafür eignen sich geprüfte Datenbankabfragen, Regelwerke und deterministische Rechenkomponenten. Das Modell kann die Aufgabe verstehen, die benötigten Daten auswählen und das Ergebnis erläutern; die verbindliche Berechnung sollte außerhalb des Modells erfolgen. 2. Unkontrollierte Agentenaktionen Ein Agent ist kein automatisch zuverlässiger digitaler Mitarbeiter. Er verbindet ein Modell mit Werkzeugen, Datenquellen und Ausführungsschritten. Ohne strikte Berechtigungen, Schema-Validierung, Transaktionsgrenzen, Audit-Logs, Rollback-Möglichkeiten und menschliche Freigaben können Fehler zu falschen oder schwer nachvollziehbaren Systemänderungen führen. 3. Unklare Gesamtkosten Tokenpreise sind nur ein Teil der Kosten. Bei langen Kontexten, wiederholten Modellaufrufen, Tool-Nutzung und Fehlerkorrekturen können die tatsächlichen Betriebskosten deutlich steigen. Deshalb sollten Unternehmen jeden Agenten mit Kostenbudgets, Laufzeitgrenzen, Rate Limits und einer nachvollziehbaren Kostenmessung betreiben.