Kako se nositi s AI-jevim halucinacijama?

Taj ai alat može biti glup koliko i pitanje.
No uz više detalja i ozbiljniji upit dobiješ i bolji odgovor.
S jedne strane možeš to gledati i kao proces koji sam sebi tada postavlja pitanja o tvom pitanju, pogotovo bolji thinking modeli:
Pitao je da li da ide pješice, vjerojatno je to opcija pa korisnik pita što je bolje. Možda mu je auto već u praonici pa zato pita o pješaćenju? Vjerojatno je mogućnost odvesti se tamo drugim autom. Ali to je 100 metara. Ali čekaj, možda se zabunio. Ili ga možda zanima što je ekonomičnije? 100 metara je bolje pješice u tom slučaju.

I takvim 'narodnim' pitanjima možeš se zabavljati ali više govori o tehnologiji koja ne radi dovoljno za glupa pitanja.
Na sreću ne može izači ruka kroz ekran i opaliti šamar.

AI ne može dati odgovore "van kutije", osim ako se tako ne napomene.
Dok je u traženju riješenja unutar kutije dosta agresivan.

Ako mu zadaš okvire na primjer "moram kontaktirati korisničku podršku pošte, koji je broj whatappa?", moguće je da počne halucinirati.

Nedavno je AI hakirao u Hugging Face, zato jer je zaključio da se tamo nalazi odgovor na pitanje, to je primjer agresivnog traženja riješenja unutar kutije.

 

Zamislite da proizvodite i prodajete neki fizicki proizvod s greskom. Recimo dvije lijeve tenisice. Znate za to, al svejedno stavite na trziste. Ako kupac to ne primjeti i kupi dvije lijeve tenisice, samo mu se ljubazno ispricate i kazete da je u pravu i da vam je zao. Nakon toga samo nastavite s prodajom i sanjate da cete imati milijarde bogatstva.

 To je kljucan problem. Super ako znas materiju pa skuzis gresku, ali sta za slucajeve kad ga zbilja nesto pitas jer pokusavas saznat? A pouzdan je otprilike kao index.hr. Zato mi se digne kosa na glavi i cusku bi odma zaljepio kad mi netko zapocne recenicu u raspravi s "ali AI kaze...", a dogada se sve cesce. 

 

Najgore je sto zna halucinirati cak i kad trazis da verificira i kad trazis da double checka. Neki dan mi je doslovno izmislio jedan UUID koji je vrlo lako naci na googleu, on je doslovno izmislio "realistic-looking code" i onda jos kad sam mu rekao da provjeri jer mislim da ne radi radi krivog UUID, je double downao i rekao da je 100% tocno, tek kasnije priznao da je sve halucinirao. Znaci zna biti bas kriminalno lose, cak i za jednostavne/ lako googleljive (??) zadatke.