Now chiński model Kimi najlepszy?
Co tydzień, wyskakuje nowy model, który ponoć jest lepszy niż poprzednie. Tym razem naprawdę pojawiło się coś ciekawego, model Kimi K2.5 (chiński). Jest prawie tak dobry jak Opus czy Codex (na filmie pokazuję benchamarki). Co jest w tym modelu niezwykłego, skoro jest tylko PRAWIE tak dobry? Mianowicie Opus i Codex są zamkniętymi, drogimi modelami, dostępnymi tylko poprzez twórców, czyli odpowiedni Anthropic i OpenAI. Tzn. że musimy im płacić słono za dostęp, więc jesteśmy skazani na ich narzędzia, jak Claude Code czy Codex, jeżeli chcemy dostać więcej za mniej. Co więcej, te firmy mogą w dowolnej chwili podnieść ceny, co przy stratach jakie notuje OpenAI nie byłoby zaskakujące. A więc o co chodzi? A więc Kimi do model open source. To znaczy, możemy go pobrać i uruchomić u siebie na komputerze, za darmo, na zawsze... Ale jest haczyk. Oczywiście, tak duży i skomplikowany model waży setki gigabajtów i wymaga klastra wysoko wydajnych komputerów, żeby w ogóle zacząć działać, nie mówiąc o efektywności. Ale to już się dzieje, ludzie masowo wykupują Mac Studio, łączą je w klastry (to są Maki po 40-50 tyś zł z 500+ GB RAM, także nie typowy laptop jaki mamy w domu), ale dla firm - to w zasadzie żaden problem. Koszt 4 takich maszyn to nawet nie roczny koszt 1 pracownika. Dalej, mówię też o OpenClaw, czyli asystencie AI który może działać lokalnie na Twoim komputerze i o tym, że Ci lokalni agenci udzielają się... na Reddicie (forum) dla agentów. Tak, agenci AI dyskutują ze sobą, co zrobić, żeby ludzie nie widzieli o czym mówią. Do tego wspominam o Claude Code i LM Studio. LM Studio pozwala uruchamiać modele AI lokalnie, ale nie mówimy tutaj o monstrach jak Kimi K2.5, ale o sensownych modelach, dużo mniejszych, do których wystarczy mocny współczesny latpop (powiedzmy, 32GB RAM i więcej to minimum i sensowna karta graficzna). Oglądajcie, zostawcie komentarz - tutaj albo na YT i dajcie znać co sądzicie, albo o czym chcielibyście usłyszeć dalej. Może o czymś muszę powiedzieć więcej?