Koliko su pouzdani veliki jezični modeli kao GPT?
Ako laže u blizu 50% slučajeva, nije bolji od generatora slučajnih odgovora. Samo što ih elokventno formulira.
Idi i radi nešto korisno!
- +/- sve poruke
- ravni prikaz
- starije poruke gore
Ovo je tema za komentiranje sadržaja Bug.hr portala. U nastavku se nalaze komentari na "Koliko su pouzdani veliki jezični modeli kao GPT?".
Idi i radi nešto korisno!
Re: Koliko su pouzdani veliki jezični modeli kao G
Keso kaže...
Ako laže u blizu 50% slučajeva, nije bolji od generatora slučajnih odgovora. Samo što ih elokventno formulira.
Krivo gledaš na statistiku. Ako je izlaz ograničen na određeni skup (da/ne), onda je vjerojatnost pogađanja točnog odgovora 1/veličina skupa, nakon određenog broja interacija. Ovo je generativni stroj koji može izbaciti praktično neograničen skup različitih odgovora, pa je i vjerojatnost točnog odgovora 1 prema beskonačno, dakle teži nuli. To treba imati u vidu kad se postavlja upit. Sve više od toga je dobro, ali ostavlja problem praktične uporabljivosti. Problem s ovim modelima, kao što si naveo, je da izbacuju uvjerljiv odgovor bez ikakvog znaka nesigurnosti, vidio i sam kad sam tražio pomoć u nekim stručnim domenama. Daj mu zadatak da po predlošku generira novi dokument i onda iterativno, sugestijom od riječ-dvije, zna izgenerirati prošireni dokument koji je stvarno uvjerljiv i koristan ili mu daj zadatak da iz predloška ukloni spominjanje nekog pojma - čudo kako to dobro odradi.
Ukratko, treba koristiti njihovu ahilovu petu protiv njih samih
Ja rekoh
Koliko su pouzdani veliki jezični modeli kao GPT?
Hm, ma AI/ML je super područje za učiti o tome kaj se nalazi ispod haube, te uživati u ljepotama toga.
Međutim, nedajte nikome da ključne odluke vašeg života donosi, umjesto vas. Nit' ljudima, nit strojevima, ni algoritmu.
Vi i na hitnoj možete odbiti da vam bude pružena pomoć.
dzg