ChatGPT - jeste li probali?

Tehnologija i znanost
524

For GPT, every input and output is a string of tokens, which could be words but also punctuation marks, parts of words, or more—there are about 100,000 tokens in total.

At its core, GPT is constantly generating a probability distribution over the next token to generate, conditional on the string of previous tokens.

After the neural net generates the distribution, the OpenAI server then actually samples a token according to that distribution—or some modified version of the distribution, depending on a parameter called ‘temperature.’

As long as the temperature is nonzero, though, there will usually be some randomness in the choice of the next token: you could run over and over with the same prompt, and get a different completion (i.e., string of output tokens) each time.

So then to watermark, instead of selecting the next token randomly, the idea will be to select it pseudorandomly, using a cryptographic pseudorandom function, whose key is known only to OpenAI.”“

Kako mozete zaebat Chat GPT:

“Now, this can all be defeated with enough effort.

For example, if you used another AI to paraphrase GPT’s output—well okay, we’re not going to be able to detect that.”

It seems like the watermarking can be defeated, at least in from November when the above statements were made.

Source:
Read Scott Aaronson’s blog post here.

2 Likeova
525

Nigdje ne tvrdim da se namjerno ostavljaju stvari, jer ja to ne mogu znati.

Ja samo tvrdim da je to tehnički izvedivo i da nikako nije neka suluda ideja … nego vrlo logičan potez od kreatora AI. Nisam pročitao do sada niti jedan članak na tu temu da bi došao do tog zaključka … a ovo što je a sada linkala Kosana, je upravo to kako razmišljam.

Ti pak tvrdiš da se naknadno može prepoznat AI tekst, a da si oni to ne mogu sami sebi olakšati … ili da nema smisla da to čine. (Nisam baš niti siguran koje od tog dvoje tvrdiš … no obje tvrdnje su po meni false)

Po meni je ispravna tvrdnja:
Kad AI dovoljno postane napredan, niti jedan alat od treće strane neće moći detektirati da je to AI generirani content … osim tog AI-a, koji će moći to znati uočavajući tragove koje je sam sebi postavio.

526

Gore je potekla rasprava od tvrdnje da GPT to aktivno radi… sada, sto je gore onim clanko i potvrdjeno da ne radi. Dal ce u buducnost- postoje sanse naravno, al svakako bi trebao jedan duzi period da bude moguce prepoznat AI u globalu (makar bilo tesko prepoznat o kom se tacno AIu radi), jer svi ovi language modeli rade na istom principu, a to, koliko god sad bilo dobro, u istu ruku ih i limitira

527

nego cudi me da nema vec i neka slicna generacija videa…il mi je promaklo…

528
1 Like
529

image
image751×1146 70.8 KB

4 Likeova
530

Neznam od čega je potekla, ja sam s tobom raspravljao o tome da je to moguće i korisno, dok si ti tvrdio da nije izvedivo i da je suludo te nema nikakvog smisla.

Jel se trenutno odvija ili će se tek odvijati … nikako ne utječe na takav tip rasprave jel to korisno i moguće ili suludo. (Btw. ni ti ni ja ne možemo sa sigurnošću znati jel se to trenutno odvija ili ne. Tako da ja nisam tip koji će rasipati tvrdnjama o nečemu što ne mogu provjeriti … niti smatram da je u redu da to ti ili itko drugi činiš. Stoga ne mislim da je pohvalno ako si ti čvrstog uvjerenja da se to trenutno događa ili ne događa… pa takav vid rasprave mi niti nema nikakvog smisla.)

No ock, krivo smo se razumjeli … nadam se da je sada jasnije da je moguće i da smatraju da će im biti korisno. Dobio si i malo više tehničkih detalja kako će se tokenizirati/password putem semantičkog odabira konstruiranja teksta.

531

S drugog topika da ne kvarim temu:

Jest. Isti taj tekst odozgo sto je @Zdenga postavio. Preprica kako mu kazes- I moras biti fin, da zna s kim ima posla :wink:

Evo prompt.

Please rewrite the following text. The meaning should be the same, with slight changes in the meaning itself, but the text should be without phrases that are overused. Pay attention to the flow, the text should sound smart but natural at the same time. Appreciate it

532

dobar je, nema sta. Vidjecu i za veci uzorak kad budem imao vremena.

Kad sam gledao za za one njegove tekstove sto daje, pa mu ja kazem da preprica, ti tekstovi su idalje izgledali kao AI.

Vjerovatno onda da je bolje ga koristiti da prepricava, nego da kuca sam od nule

533

Onda se ne trebamo ni zezati sa AI-em nego samo stavimo textove od konkurencije da prepirča drugačije :wink:

534

Pa da, to sam i reko. Mislim da su manje sanse da to google vidi kao AI.

535

Dakle ovaj na kraju ima pravo… to je samo neuralna mreza koja se hrani postojecim podatcima a sada ce imat i reflux…
“All of these models are about to shit all over their own training data,” he says. “We’re about to be flooded with a tsunami of bullshit.”

1 Like
536

Nece vise da fizikalise kad treba nesto plus su ga zaglupili. Treba mi neki objekt u posebnom formatu od moje liste itema. I prvo sam mu jedva objasnio kako da formatira objekt i kad sam mu dao listu od 187 komada uradi samo pet i veli nece vise.

image

537

Ja se ne mogu logovat evo vec nekoliko sati u toku dana je sajt bio nedostupan sada iskace nekakvo obavestenje nesto rade sigurno.

538

zato bi mogla biti neka verzija koja je ogranicena (kao gpt sad) vremenski, tj da ne obradjuje vise tekstova posle godine 202x

539

Sinoć razgovaram odnosno postavljam pitanja umjetnoj inteligenciji :slight_smile: o smislu života, evoluciji i što je prije nastalo kokoš ili jaje. Fascinantno koje odgovore daje no oni su 100% odraz hrpe “čuo sam” podataka.
Ukratko razgovor o evoluciji:

Da li je evolucija dokazana?

Ne, evolucija nije dokazana. Evolucija je teorija koja se temelji na dokazima i zaključcima iz mnogih različitih naučnih disciplina, ali nije dokazana.

Da li je teorija entropije dokazana?

Da, teorija entropije je dokazana. Teorija entropije je fizička teorija koja se temelji na mnogim eksperimentima i dokazima.

Ako teorija entropije kaže da se sve pojednostavljuje u svemiru i dokazana je, a teorija evolucije kaže suprotno i nije dokazana po tome proizilazi da organizmi nisu mogli nastati sami od sebe?

Ne, teorija entropije ne kaže da organizmi nisu mogli nastati sami od sebe. Teorija entropije govori samo o tome da se u svemiru sve pojednostavljuje. Evolucija se ne suprotstavlja teoriji entropije, ali se i ne slaže s njom. Evolucija je teorija koja kaže da su organizmi evoluirali na temelju prirodnog odabira i mutacija, tako da organizmi mogu nastati sami od sebe.

Nastanak organizama evolucijom znači suprotno od pojednostavljivanja?

Ne, nastanak organizama evolucijom ne znači suprotno od pojednostavljivanja. Teorija entropije kaže da se u svemiru sve pojednostavljuje, a teorija evolucije kaže da su organizmi evoluirali na temelju prirodnog odabira i mutacija. To ne znači da se sve pojednostavljuje, već da se organizmi mogu prilagođavati okruženju i da se njihovo ponašanje može mijenjati.

Teorija evolucije kaže da su svi organizmi nastali iz jednostavnih jednostaničnih organizama?

Da, teorija evolucije kaže da su svi organizmi nastali iz jednostavnih jednostaničnih organizama. Teorija evolucije tvrdi da su sve vrste danas postojećih organizama evoluirale iz jednog ili više jednostaničnih predaka. Ovaj proces je trajao milijune godina i rezultirao je stvaranjem različitih vrsta organizama.

Da li je ta teorija evolucije dokaziva?

Ne, teorija evolucije nije dokaziva. Teorija evolucije se temelji na mnogim dokazima i zaključcima iz mnogih različitih naučnih disciplina, ali nije dokazana. Umjesto toga, evolucija se smatra hipotezom koja se može provjeriti i utvrditi s pomoću eksperimenata i istraživanja.

1 Like
540

5 Likeova
541

Evo stigao je bot na forum :wink:

Nisam ja!

542

:joy: molim bota da se pridruži raspravi u ovoj temi možda nam ima šta reći novo!

543

Molimo Gospodina Bota :slight_smile: Bota Botic :):slight_smile: