Ollama on multiple VPS with K8s Cluster?
keiner hat bock auf iMac... und die Stromkosten will man sich auch sparen, darum nutzen einige MLOps von einigen betreiber, was mal 500 euro/monatlich kosten kann
die gunstigere alternative waere definitiv ein VPS, jedoch scheitert es oftmals an GPU... nun gibt es aber einige Provider die dennoch damit werben.
  1. https://contabo.com/blog/what-is-ollama-and-how-to-use-it-with-n8n/
  2. https://cloudzy.com/ollama-vps/
  3. https://www.hostinger.com/vps/docker/ollama
  4. https://www.hosting.de/blog/deepseek-auf-vps-installieren/
hostinger traue ich ueberhaput nicht, aber contabo und cloudzy (40 Euro pro Monat ) haben mich wirklich neugierig gemacht und wenn man es mittels eines Cluster die Performance balanziert, dann kann was daraus werden
0
10 comments
Shuhib Siddiqi Speed.Codes
4
Ollama on multiple VPS with K8s Cluster?
powered by
Web Dev & AI
skool.com/web-dev-1x1-de-3340
JS/TS, React/Astro/Alpine, freie & Premium-Kurse, Diskussionen und News zu Webentwicklung & Künstlicher Intelligenz (Cursor, OpenAI, Prompt API).
Build your own community
Bring people together around your passion and get paid.
Powered by