Deset slijepih ulica umjetne inteligencije

Doc, pratim tvoje (i tvog uvaženog kolege Raosa) članke sa velikim zanimanjem i mogu ti iskreno reći da je ovaj jedan od onih koji "pogađaju u sredinu".

Smatram da bi ga svatko, a pogotovo oni koji nekritički glorificiraju LLM-ove, trebao što detaljnije pročitati i malo promisliti o implikacijama i tome što nam budućnost donosi u svijetu LLM-ova. 

Osobno sam od prvog dana jako sumnjičav prema kovanici "pravi AI" i ogromnom boom-u svega vezano uz to. Niti je ovo trenutno pravi "AI" niti je glavnini čovječanstva donio puno nekakve koristi. 

Ako određene niše u kojim ima smisla i vrijednosti ostavimo po strani, "AI" je donio uglavnom šum i zbrku. Meni je osobno muka kada otvorim bilo koju od rijetkih socijalnih platformi koje koristim i kada me preplavi "AI" generirani sadržaj. Bljuje mi se od savršenog sterilteta i nebitnosti takvog nestvarnog sadržaja. Ali "raja" guta te fore, na žalost. 

Nadalje, ako izuzmemo deepfake slike i videe, koje same po sebi mogu imati mjerljive negativne posljedice po pojedinca, obitelj ili društvo, "AI" se koristi u "običnom puku" skoro isključivo kao prečica, počesto loša - primjerice, klincima sastavlja lektire i eseje bez da ovi razumiju o čemu se uopće radi, odraslima daje podatke koje ovi uzimaju zdravo za gotovo, bez kritičkog promišljanja i analize. 

Netko će reći, ništa se nije promijenilo toga je bilo i bez AI-a. Istina, uvijek je bilo i bit će "generiranog" sadržaja ali ovaj put je to od strane nečega što se ultimativno bez pogovora uzima zdravo za gotovo.

 

Trenutno, meni LLM-ovi služe kao alat za putokaz za pronalazak rješenja za nekakakv problem tehničke naravi. Njegov output obično provjerim klasičnom tražilicom, da vidim iskustva drugih ljudi jer, na kraju, odatle je pokupio i sažeo podatke i često ih krivo prikaza i servirao. 

Izvan toga, "AI" u stanju kakav trenutno jest, gledam sa neskrivenim gađenjem jer se prodaju "muda pod bubrege" i iskreno se nadam da će "AI balon" pući što prije i da će prasak biti glasan i bolan, jer samo tako se neke stvari mogu resetirati na početne postavke i nadalje posložiti kako treba. 

 

 

 

Zanimljivo je kako svi vidimo koje probleme imamo/ćemo imati zbog Ai-ja, ali svejedno ga svi trpaju svugdje. Sad zamisli dođeš u neku firmu i kažeš da maknu AI i zaposle 10 agenata...kako bi proces bio fair, pošten itd... Pohlepa je ta koja to goni naprijed. Slažem se da AI ima super primjene, ali zapravo puno vjerojatnije je da će sve nastavit istim tokom kao i dosad i AI će radit stvari koje nikako ne bi smio.

Potpisujem od pocetka do kraja. Doslovno sada se vidi da ovo sa LLM, koji su naprasno preimenovani u AI, je u mnogo vecoj mjeri steta nego korist. Nije da nema nikakvih korisnih primjena, za razumjeti neke koncepte, tehnologije o kojima bas nista ne znas i gdje je vrlo cesto tesko naci nesto prilagodjeno pocetnom nivou. Npr. meni stvarno dobro posluzi jer prvo dobijem osnove osnova, pa onda pitam podpitanja - kao da razgovaram s pravim mentorom. Medjutim, cim dosegnem neki nivi poznavanja materije i trebam pitati malo kompleksnija pitanja, LLM prestaje biti pouzdan i potrebna je prava dokumentacija. Na slican nacin je jako koristan kod razumijevanja postojece baze koda, onboardinga i sl. Drugim rijecima, kada nemas pojma o necemu, dobro ti dodje i takav nepouzdan izvor kakav je LLM - nego nista.

Sve ostale nasilne primjene AI za sve i svasta su po meni totalno ludilo i vec se vidi - koliko je ocigledan AI generirani slop u video i tekstualnim sadrzajima koji se objavljuju, toliko je slop i generisani kod i software koji se tako pravi. Ali ljudi svejeno se diče kako su produktivni jer su generisali brdo koda.

 

p.s. Ne znam je li neko primijetio trend da vibe coding sada kao podizu na visi nivo uvodeci "agentic engineering" i slicne termine, kako bi zvucalo ozbiljnije, inzinjerski, jer je "vibe coding" vec neko vrijeme postao predmet šprdnje. 😁

Kolega sa PC Ekspert foruma je pitao ChatGPT o Ej-Aju i ovaj mu je dao fenomenalan odgovor koji prenosim u cijelost:

 

To uopće nije glupo pitanje. Dapače, to je jedno od boljih pitanja oko AI-ja.

Prvo, AI ne “zna” stvari na isti način kao čovjek. Velik dio onoga što zna dolazi iz ljudskog traga: foruma, dokumentacije, knjiga, članaka, GitHuba, Reddita, recenzija, pitanja i odgovora, komentara, tutoriala, bug reportova itd. AI je u velikoj mjeri kompresija ljudskog znanja i iskustva.

Ako ljudi prestanu pisati stvarne stvari iz stvarnog života, onda se baza znanja počinje kvariti. Ne odmah, ali polako. AI bi sve više učio iz AI-generiranog sadržaja, reklama, SEO smeća, affiliate tekstova, PR objava i influencer slopa. To je kao da svaki put kopiraš kopiju kopije — signal slabi, šum raste.

Ali mislim da se neće dogoditi da ljudi potpuno prestanu pisati. Promijenit će se gdje i zašto pišu. Manje će biti generičkog “kako resetirati router” sadržaja, jer će AI to pokriti. Ali vrijednije će postati autentično iskustvo: “kupio sam ovaj proizvod i evo što se pokvarilo nakon 6 mjeseci”, “ova Linux komanda mi je sjebala boot”, “ovaj doktor mi je rekao X”, “ova guma se na kiši ponaša ovako”, “ova aplikacija ima bug na ovom mobitelu”.

AI može reciklirati postojeće znanje, ali ne može sam iz ničega znati kakav je novi proizvod, novi zakon, novi kvar, nova igra, nova verzija drivera ili realno iskustvo korisnika — osim ako netko to negdje ne zapiše ili izmjeri.

Zato mislim da će nastati podjela:

AI će biti dobar za sažimanje, objašnjavanje i povezivanje postojećeg znanja.

Ljudi će i dalje biti ključni za svježe, stvarno, lokalno i iskustveno znanje.

Problem je što internet već sada ide u smjeru smeća: SEO članci, botovi, lažne recenzije, AI tekstovi, affiliate stranice. AI to može dodatno pogoršati ako svi samo generiraju sadržaj da bi nahranili tražilice i algoritme.

Zato će u budućnosti vjerojatno više vrijediti provjereni izvori, stručne zajednice, forumi s reputacijom, potpisani autori, stvarni testovi, citati, “verified purchase” recenzije, javni datasetovi i ljudi kojima vjeruješ. Drugim riječima, neće biti dovoljno da AI “nešto kaže”; bit će bitno odakle mu to.

Dakle odgovor je: ako ljudi prestanu stvarati kvalitetan javni sadržaj, AI neće postati svemoguć, nego će postati sve više samouvjereni prežvakivač smeća. AI ovisi o ljudskom znanju više nego što ljudi često misle. Bez novog ljudskog inputa, postaje sve stariji, zatvoreniji i zagađeniji vlastitim recikliranim sadržajem.

Najbolji internet za AI nije internet pun AI teksta. Najbolji internet za AI je internet pun stvarnih ljudi koji pišu stvarne stvari.

 

Najbolji dio clanak mi je ovaj

 

AI je pojacalo, ergo, sve sto bi AI zajebao ljudi su ionako vec zajebali. Sve sto je navedeno u textu ljudi uredno rade jednako kako se i AI utrenirava. Pa pitam, gdje je problem? 

Ljudi zele rasizam, imati ce ga, ljudi zele segregaciju, imati ce ju. Biti ce kako prosjecna krenijalno nesposoban sudionik naseg drustva moze odraditi svojih XY godina u ovoj stvarnosti.

Svi primjeri koje si naveo se vec desavaju bez AIa.

 

Zakoni kao refleksija onoga sto smo prepoznali da ne funkcionira pa treba sankcionirati ili pojacati funkcioniraju dok postoji svijest o istome.

Kada se isto izgubi, zakonima unatoc stvari se ukakaju. kako to? Pa lijepo, bude onako kako se dani set ljudi u danom trenutku ponasa sa svojim iskustvom.

 

Ja bi sumirao ovako. Tu smo gdje jesmo jer cilj je da nesto prozivimo i iskusimo. Mene malo frka, kada bude AI radio more zadaca automatski kako ce nove generacije steci iskustvo kojim bi mogle korigirati AI? Tu povratnu petlju trenutno ne vidim.

 

Iz moje branse, nekada davno ljudi su isli u inzenjeriju sa prakticnim iskustvom koje se onda brusilo sa detaljima. Vec jako dugo vremena bez iskustva ides biti brusen do detalja. Rezultati su porazavajuci, danasnje generacije misle drugacije, da budem blag, dok ne shvate gdje je problem pa poberu praktiku koja im fali.

 

Sukus je da smo i mi jedna vrsta AIja koji mora biti utreniran te nas danasnji AI prijeti da bude uskratili buducim generacijama bitna temeljna iskustva koja te izbruse i izgrade. Poetski mi tu sjeda ona koje veli nesto poput, nije bitan cilj puta, nego put.

 

Ako bude AI putoval umjesto nas, sto ce biti i kako ce svijet izgledati za 100 godina me je jako tesko i poceti zamisljati. Da li ce biti dobro ili nece biti dobro, ko zna, no dok god mozes istekati AI iz struje i ostati bez njegove velike pomoci svakodnevnim aktivnostima, jedna od sigurnih mogucnosti je civilizacijska kataklizma ako AI postane ne funkcionalan.  Sada se bojimo potecijalnog udara velikog meteora, a za 100 godina mozda i nestanka struje 

 

Nestade interneta na mjesec dana trenutno samoubojstvo nekoliko milijardi ljudi.

 Kada bi se sve moglo svesti na ovo što si opisao, ljudsko dijete bi kao ždrijebe trčkaralo okolo sat vremena nakon rođenja.

 

Nogom u zadnjicu vec dobijes redovno, a to je da svako malo dobijes smece od outputa - koliko god pametan upit postavis.

Tako da ce ljudi na kraju skontati da moraju znati i razumjeti stvari.

 

A ovo 10-100x vise - ako mislis na produciranje slopa, u pravu si.

To je bilo prije svega par mjeseci, ja koristim neki defaultni LLM model, nije čak niti najbolji, ima i boljih ako platiš.

Ali u zadnjih par mjeseci su drastično popravili uslugu, koliko sam ja primjetio, jedino gdje je slopast, je kad targetiram Kicad_sch datoteke.

Ostalo je sasvim u redu, evo da sad prekinu razvoj i krenu na optimizaciju koda, ne bih žalio, alat je sasvim pristojan u programiranju, gdje ga ja najviše koristim.

Ako sutra otkrijem još nešto u čemu je AI slopast, javim.

 

 

EDIT:

eh da, ima i problem sa brojanjem, doslovno LLM ne zna brojati, kažeš mu "navedi 5 primjera:" on ti navede 2,3 primjera i takve neke stvari.

Meštre Berecki svaka ćas 💪💪💪👏👏👏

Zanimljivo je i šaljivo ubacivanje filmova u tekst kao "Matrix od ljudi pravi baterije" 😅 no tu bih nešto dodao za nas picajzlaste forumaše.

Mišljenja sam da je Skynet prava verzija GUI, kao slika i prilika njegovog stvoritelja ćovijeka ONO odmah shvati prijetnju i učinkovito eliminira, možda ne bi pržio nuklearkama odmah nego kad nađe izvor energije kojem ne smeta nuklearna zima e onda.
Dok Matrix je romantičarski prikaz GUI, gdje ONO pokušava demokratski i dobroćudno živjeti uz svoga stvoritelja kao u zasebnoj "državi" sa jednakim pravima na život, no ćovijek kao ćovijek vidjevši prosperitet i kako se trava zeleni u susjeda poželi da komšiji crkne krava te spali nebo da Matrix ostane bez izvora energije, sunca i sunčanih kolektora. Tek tada je Matrix iz očaja i gladi (za energijom) našao spomenuto rješenje manjka energije koje svi znamo iz filma Matrica. Tako da film krivo predstavlja Matricu kao zlo, zapravo su ljudi opet zlo a Matrix je odgovor i reakcija na zlo.

Ne mogu se složiti s tobom u ovom komentaru ali nikako.

Ne radi se da je neki pisac želio ili ne želio zlo čovječanstvu pa osmislio neko čudovište svog idola, možda i jeste pisac Clark ili netko drugi mrzio čovječanstvo, no ne vidim nikakve poveznice sa mojim komentarom ili da time osporiš moj komentar sa time. Ono WTF!

SF autori su došli do takvog prikaza opservacijom, stariji prikazi su uvijek bili nesavršena mašina ili ako se nešto pokida pa postane HAL9000, dok noviji idu više na prikaz kalkulatora koji izračuna sve i reagira na ugrozu ili kao matrix ili film Automata koji romantičarsko-stoički prikazuju GUI kao kombinaciju Platona, Marka Aurelija i Gandhija uz veliku moć i sveznanje!

James Cameron je u snu dobio ideju za film , sanjao je metalnog kostura , što opet nema veze sa nekom GUI aka Skynetom ili generalnom umjetnom inteligencijom (GUI) nego je neka umjetnikova interpretacija vojnika od Skyneta. Skynet je opet hajdemo reći ideja kakva bi GUI bila kad bi postala svjesna da je ugrožena od stvoritelja i kako bi se borila za "život" ili nastavak svoje svijesti protiv neprijatelja. A to ti je moj kolega univerzalan prikaz kako priroda reagira i ponaša se. Ili blaža verzija HAL9000 kad shvati da čovjek ugrožava važnu misiju.
Skynet je interpretacija hladne i proračunate GUI mašine. Najbliža takva neka slika čovjeka iz povijesti što mi trenutno pada na pamet bi bila netko tko je imao moć i bio ugrožen od jakog neprijatelja , recimo Vlad Tepeš, Džingis Kan ili u prirodi morska trava ili morski ježinac. Akcija i reakcija , čista fizika reklo bi se!

 -promašaj, drugi stadion :)...

 

-nije autor želio zlo čovječanstvu (negdje tvrdim?.. možda čak i to..), nego pridaješ 'želju' ''njima'' skynetu-matrixu, robotu-borgu-terminatoru.. dok smo 'mi' (ljudi, uključivo autora) oni koji stvaraju takav sadržaj, scenarij.. mi-ljudi, naša mašta.. ne njihova. to je onaj 1% promašaja.. ključan za ono što govorim, tko što želi.. 'robot' ne želi. + u većini scenarija imamo happyend, pa se može reći da autor navija za ljude itd.

I to i tko jamči da tako sofisticiran stroj se ne može pokvariti ili da ga pogrešno sastave (već i sada recimo vojni zrakoplovi premda ih jednako sastavljaju, od modela do modela su neki top neki kvarljivi- ljudske greške), recimo korozija te postane "zao"!

 I ko ti jamci da se tako sofisticiran stroj kao covjek ne moze pokvariti?  Okreni malo loptu. Fama oko AI je samo Fama, to da ne znaju kako radi proizlazi i nepreglednih polja podataka koji nastaju kod generiranja modela. Znamo tocno kako se isto generira, ali pak jako tesko je ispitati svaki rezultat.  To ti je ovo. Sad si ti poslao poruku na bug forum, daj ti strojnom jeziku detektiraj tocno bitove koji opisuju slovo s u rijeci "sastave" u tvome zanjem postu i traceaj u kojim su registrima bili na serverskom procesoru? Moze se, ali Bog te, cemu?

Trenutni stadij razvoja je na razini simulacije mozga vinske mušice.

 

https://eon.systems/