ChatGPT Version 5 gestern wieder. Ich hatte nur eine einfache Frage. Ich wollte aus der Datenbank, aus dem Memory (postgres), die Session-ID benutzen, um Informationen über den User bei Telegram zu abzurufen. Ich setze die Chat-ID oder die User-ID als Session-ID ein. Das heißt, Memory nach Session-ID durchsuchen, die dann einem Knoten übergeben, der Informationen über diesen User sammelt. Das Ganze sollte dann zeilenweise als Text in einer einzelnen Message an Telegram ausgegeben werden. Ich sagte ChatGPT, gib mir mal einen Überblick, der konzeptionell zeigt, wie man an diese Aufgabe rangeht. Es wurden, ich weiß nicht wie viele Bildschirmseiten, zusammengestellt. Er hat mir Datenbankstrukturen angeboten, samt SQL Syntax, in X verschiedenen Variationen, inclusive Verlinkungen und Parametrierungen von Knoten. Alles unübersichtlich aufgearbeitet. Damit kann man nicht arbeiten. Hinzu kommt, dass ChatGPT5 die Knoten von N8N nicht kennt. Er schlägt Knotennamen und Parameter vor die es nicht gibt. Ich habe ihm gesagt, bitte guck doch in die Dokumentation von N8N. Er macht es nicht. Gebe ich Ihm einen Link zur Beschreibung des Knotens entschuldigt er sich und behauptet, "ja, ich hatte noch alte Informationen". Beim nächsten Knoten fängt das wieder von vorne an. Wieder Knotennamen, die es nicht gibt, wieder Parameter, die es auch nicht gibt und so weiter. Ich habe einen halben Tag gebraucht, um aus der Datenbank Informationen über den User in meiner gewünschten Form zu bekommen. So geht das nicht. Ich bin vom Pro User auf Plus gewechselt. Kann sein, dass meine Prompts nicht optimal waren. Bei ChatGPT4 habe ich alles durch Q&A erledigen können. Ich habe keine Lust einen Promptgenerator zu füttern, der letztendlich auch zu einem fehlerhaften Ergebnis führt.

Am wichtigsten für mich ist die lokale Verwendung von Daten und Auswertungen. Dafür ist es notwendig lokal laufende Modelle zu nutzen. Teilweise lassen Verträge mit Kunden auch nichts anderes zu. Google und Co sind nicht immer gerne gesehen.