ChatGPT alternative

Ne dobijes svoj gpt, nego dobiješ gpt preko svog hosta.

Ali da, gpt API je odlična stvar putem koje se može gpt lako implentirati u vlastite alate.

To bi mi bilo odlično, je li tako nešto teško napraviti, postoje i gdje gotove solucije? - malo što sam potražio nisam našao :thinking:

Imam ja desktop (Windows ) verziju. Možeš pričati sa njim čitav dan

Četvorku? Nešto što si sam sklepao ili imaš link di nabaviti?

1 Like

Pogledam večeras kada laptop upalim. Kompajliram ti pa isprobaj …

Sama ugradnja toola koja će dati odgovor na generičko pitanje … nije ni malo problematično.

Ali u praksi najcesce treba više od toga … želiš ili imati chat, (da gpt pamti razgovor aktualni razgovor, kao sto je to na njihovoj stranici) … ili zelis imati dodatno obučen model koji će znati dati odgovor u odnosu na dokumente sa kojim ga obučavaš. Tipa želiš da odgovara tvojim klijentima na FAQ, a onda je potrebno da je upoznat sa tvojim poslovanjem.

Sve se to može postići s njihovim API-jima, ali ima od jednostavnih do složenijeg setupa-ova.

Hoćeš reći da se sustav lokalno vrti na tvom računalu i ne treba net? (Sto mi je nekako sumnjivo)

A ako nije to, po čem je onda desktop verzija u bitnom drugačija od online verzije?

Neću to reći, naravno da ne ide offline.

Nisam rekao da je drugačija, samo kažem ako želi testirati dam mu link večeras.

Evo ako nekoga zanima. na brzinu sam uradio setup pa ne zamjerite.

Trebate unijeti svoj username i ključ, prije upita odaberite koji AI koristiti i po potrebi podesite ostale parametre. WP postavke sam zamračio jer u ovom trenutku nisu potrebne. To ako uhvatim vremena završim. Bio mi je cilj nekako uraditi automatsku objavu na WP putem XML-RPC protokola ali sam stao zbog nedostatka vremena

EDIT: Sada provjeravam, windows ne dopušta spremiti promjene u conf file. Da to zaobiđete, prilikom instalacije nemojte ići na zadanu putanju nego napravite folder na C i njega odaberite. Drugo: U postavke unesite samo API-KEY a username ostavite prazan

Ovako to na kraju izgleda

Baš čitam, gpt3 zauzima 175GB, što je pozamašno, ali ne opet toliko da je neizvedivo za udomaćit ju kompletnu na osobnom računalu.

mislim da se tu radi o radnoj memoriji, ne memoriji diska

https://www.reddit.com/r/MachineLearning/comments/gzb5uv/d_what_would_it_take_to_run_openais_gpt3_on/

1 Like

Aha … ja pitao chatGPT koliko zauzima memorije i to mi je odgovorio, hehe. Nit sam ja precizirao u pitanju, nit on u odgovoru xd.

… btw. učinilo mi se nekako maleno, hehe

ne moze on to nista znati