@Shuhib Siddiqi Speed.Codes 50x mehr Cloud usage als Free, aber wieviel ist es denn bei free? Ein bisschen ungewiss und du hast da nicht die großen wie GPT, Opus, Gemini. Bei ChatGPT ist Codex-Usage dabei und damit kommt man schon einigermaßen weit. Claude Code hat vom Gefühl her weniger Usage, aber auch noch recht viel, kann sich aber ändern. Also schwer zu sagen, wenn Du mit den Modellen da gut klar kommst bei Ollama, lohnt sich das vielleicht.

@Shuhib Siddiqi Speed.Codes Doch passt, Du zahlst 20$ und bekommst ein Kontingent, was 50x von dem free tier ist. Es gibt auch einen Reset nach 5 Stunden und nach einer Woche. Also genau so wie bei GPT und Claude Code.

Ich habe das auch schon gehört und ich habe es heute mit LM Studio ausprobiert, aber ich bin nicht so begeistert. Es denkt sich kaputt und man kann bei der Version, die ich genommen habe, das Thinking nicht ausschalten. Und es war auch sehr langsam bei mir mit großen Kontext. Viel mehr Aufwand wollte ich da auch nicht reinstecken, weil das immer sehr viel Zeit in ansprucht nimmt. Aber vielleicht habe ich ja auch etwas falsch gemacht oder einfach nur einen schlechten Durchlauf gehabt.

Ich denke im Moment ist Gemma 4 12B QAT das beste Modell, was noch in normale Speicher passt und da kann man Thinking zum Glück ausstellen.

TLDR;?

Ist vielleicht nicht immer gut, wenn man z.B. nicht einfach nur immer die Standardsachen vom Browser nutzen möchte, sondern bessere Komponenten, würde der es nicht vorschlagen, aber man kann es ja vielleicht für solche Sachen dann ausschalten.

@Shuhib Siddiqi Speed.Codes ja klar, aber man möchte natürlich auch ein gutes Ergebnis und nicht unbedingt das mit den wenigsten Tokens, das meinte ich. Bei Caveman ist die Idee ja, dass man unnötige Sprachbestandteile weglässt und das Ergbnis gleich bleibt.