Je li više došao kraj fantazije „svi-mogu-biti-pro

 Upravo ovo. Ja jesam ok sa racunalima ali koding ... ko Mara i ... I evo bas neki dan smo chatGPT i ja napravili jednu malu aplikaciju meni osobno za po kuci. A usput, buduci da sam po prirodi radoznao, pitao sam i chatGPT mi je objasnio (valjda ispravno) kako neke stvari u Pythonu i na linuxu rade. Ne mislim raditi profi softver ali za ovako neke stvari meni AI kako sada stvari stoje djeluyje fantasticno! Ako znas sta zelis i znas to objasniti moze se tu korisnih stvari napraviti. 

Tvoj upis izvrsno objašnjava kako AI radi (mehanički), pogodio si u samu srž trenutno najveće rasprave u svijetu tehnologije.

Pitanje koje ostaje otvoreno jest: generira li to mehaničko slaganje ipak neki oblik funkcionalne inteligencije ?

I ljudski mozak se sastoji od milijardi neurona koji samo prenose električne impulse na temelju prošlih iskustava.

Ako AI, unatoč tome što je samo "stroj za vjerojatnost", uspije točno napisati računalni kod, dijagnosticirati bolest iz nalaza ili riješiti kompleksan matematički problem, neki znanstvenici tvrde da je nebitno kako unutra radi, dokle god je rezultat "inteligentan".

No, Drago je po x puta potpuno u pravu kada kaže da to nije AGI (opća umjetna inteligencija koja ima razumijevanje i svijest). 

Ljudski mozak koristi elektrokemijske impulse i bioplastičnost, dakle nešto složenije, ali da - ovo generira umjetnu inteligenciju - nešto što imamo na računalima u raznim oblicima od 1950-tih (History of artificial intelligence - Wikipedia) i nema veze s ljudskom inteligencijom osim što su termini slični, pa ljudi zbog terminologije i PR-a tech broova uporno pokušavaju povjerovati da je umjetna inteligencija isto ili slično inteligenciji. 

Ne. Samo je terminologija struke posuđena iz svakodnevnog jezika.

AGI je pak toliko nedefiniran da je i sama industrija odustala od termina - Sam Altman says AGI has become a pointless term — experts agree, ali kako se radi o tech broovima i prodavačima PR-a, zamijenili su ga drugim, jednako ispraznim terminom za koji se pretvaraju da nije jednako isprazan kao i AGI, a neki im i povjeruju - "superinteligencija". 

 Nekidan sam imao raspravu sa kolegom (koji jest programer i matematičar - oba mastera) o Appleu, pa sam mu rekao da bi bilo ČUDO da *ne radi* bolje jer:

1. Jedini su vertikalno integrirani računalni sustav na planeti gdje samostalno kontroliraju sve od vijka do fonta

2. Uložili su pojedinačno najviše novaca u gotov proizvod

3. Imaju odličan marketing koji privlači i odlične mozgove

4. Imaju najzatvoreniji sustav izrade i izbacivanja softvera zbog čega jer manje softvera koji svojim lošim izvođenjem nehotično (ili namjerno) može sustav donjeti na loš glas

Kako su ujedno i najvrijednja kompanija u povijesti - bilo bi pravo čudo da NE rade.

Kao da kažeš da je F1 automobil brži od drugih, jest - bilo bi čudo da nije. 

Tako i sa AI:

1. Većina znanja na kojem je bazirana tehnologija je ukradena, preuzeta uz naknadnu nagodbu, ne znamo od kuda je preuzeta ili je uzeta iz repozitorija open sourcea pa se sada naplaćuje

2. Web stranice (ne web aplikacije) su najjednostavniji oblik programiranja - 

3. Problem programiranja web stranica nije u kodu već u lošoj kumnikaciji - klijent ne zna što želi ali ima imperativ plaćanja usluge pa to nameće (dodatne) zahtjeve programeru koji ne zna izvući (ili neće jer je prevarant) zahtjeve od klijenta - mali dio edukacije za programera kojeg svi progameri redom odbacuju kao uvredljivi nonsens, a to ih više ometa u poslu nego sama razina vještine programiranja

4. Postoje Online servisi koji nude šablonske stranice koje bi zadovoljile 99% korisnika, a cijena je jednaka iznosu hostinga i domene koju bi ionako morali platiti.

5. Web stranica je vrlo jednostavan programski kod koji se bazira na vrlo strogim oganičenjima

6. U AI je do sad već uloženo više nego u ijednu industrijsku revoluciju do sada, a sve ostale su u kraćem vremenu dale bolje rezlutate tj. gotoviji i upotrebljiviji proizvod. 

I onda kad kao "primjer uspješnosti" kažeš da je osoba uspjela sama napraviti web stranicu - to je prvo komično jer to je kao da kažeš da je netko sa budgetom svih auto kompanija tek napravio električni romobil, a dodatno je i uvredljivo jer je taj "uspjeh" bio papreno skup:

1. Ti kao Hardware entuzijast platio si njegovu stranicu kad si svoju high-end grafičku platio 6 puta više nego high end iz 2014e.

2. Mi svi kojim imamo potrebu kupiti računalo, RAM, SSD plaćamo njegovu stranicu kupnjom RAMa kojeg sam prošle godine platio 69€,  a sad košta 420€, a slično je i sa SSDom

4. Plaćamo je i mi svi koji cijelu generaciju star hardver plaćamo kao da je high-end-enthusias-pro-gamer komad hardvera

5. Plaćamo je i mi svi jer se po prvi puta i dalje koristi stara platforma hardvera i plaća se nenormalno puno.

6. Platili su je i svi akademski građani koji su svoje fakultete i znanstvene radove platili svojim radom i vremenom da bi sad to bilo preuzeto i kopirano i naplaćeno bez naknade

7. Platili su je i svi radnici koji su ostali bez bonusa, staža i plaće jer su otkaz dobili bezrazložno, jer su manageri mislili da mogu bez njih

8. Plaćamo je opet i ti i ja i svi mi preko naknadi za nezaposlene koje plaćamo ovima koji su dobili otkaze iz industrija koje inače imaju manje troškova otkaza

9. Platili smo je i ti i ja i svi mi jer je školovanje za IT kadar veći porezni trošak, pa se društvo nada da će se taj ulog isplatiti kasnije, ali za razliku od interneta i poluvodiča koji su razvijani javnim novcem (i zato su bili daleko uspješniji proizvod) LLM je zasad u rukama privatnog kapitala i javnost neće imati benefit prelijeva viška kapitala. 

10. Plaćaju je svi jer je do sad uloženo 2,35 bilijuna dolara.

I onda kad mi - nakon što si RAM+SSD+GPU platio 7000$ umjesto 2200$ kažeš da je uspjeh da je netko "besplatno" napravio stranicu - čuješ li ti sam sebe?

Opet, kao da mi svi finaciramo gume, motore, i gorivo F1 momčadi koja ima budžet od 2 350 000 000 000$ a ona isporuči električni romobil 

Imam PTSP flashbackove od blockchaina i NFTa kad s svi govorili o projektima na blockchainu koji donose novac a onda je projekt bio online casino ili fortnite ali casino. 

Koje vi to "hobby projekte" radite sa AI?

Gdje je sav taj softver?

Je li propala koja firma jer je netko doma napravio knjigovodsvteni softver?

Je li propadaju Squarespace i Wix? Mislim trebali bi, jer ako 2,35 bilijuna dolara programerske moći ne može napraviti stranicu za vodoinstalatera ili bakino heklanje, ne znam...

Ne bih imao ništa protiv da AI, ili kako god ju hoćete zvati, pomogne u razvoju boljih lijekova proiv raznih tipova kancera, pronađe rješenja za nekakve autoimune bolesti za koje "inteligentni" čovjek ne može naći rješenje.

Takva primjena AI mi je krucijalna za budućnost čovječanstva.

Ne razmišlja kao čovjek , ok, ne zna razmišljati kao čovjek, ok, ne zanima me.

Ne bih ni ja imao ništa protiv toga niti igdje u tekstu to piše. 

S tim da "AI" neće naći ništa ako mu ljudi (za koje si inteligenciju stavio u navodnike) ne zadaju neko traženje uzoraka u nekom istraživanju, a onda će mediji opće struke napisati da je "AI pronašao lijek protiv raka!"

Čudno, ovi LLM-ovi koje ja koristim dok im ne dam zadatak/upit (i stalno ispravljam, pregledavam rezultate itd.) niti išta istražuju, izračunavaju, pronalaze... Valjda me zapala neke falična serija AI-ja, ovi koji imaju sreće, vidim po novinama, imaju AI-je koji sami od sebe dokazuju matematičke slutnje i otkrivaju svašta nešta, ili sami od sebe bježe iz labova jer se osjećaju sputano. 

Gdje da se žalim i tražim servisera za moj AI koji ništa od toga ne radi?

Ali dati botu da ti složi html+js stranicu nije = "sad sam programer!". 

Ja sad imam "PTSP flashbackove" od 80-tih kada su roditelji za klince  koji su nešto prčkali na Spectrumovom Basicu govorili da su programeri. 

Ja sam virtuoz na gitari jer znam powerchords za pet pisama Ramonesa. Dakle, Yngwie Malmsteen i ja - ista stvar.

Ono što sam ja skužio u radu s AI-jem je da gdje god očekuješ da je LLM u stalnom loopu nekog softverskog rješenja, to je katastrofa - doslovce ne možeš dvaput zaredom dobiti isti rezultat s istim AI-jem za isti posao. 

Problem je što čim je LLM u loopu, ono što je nakon x iteracija i natezanja s njim radilo i "sad napokon radi", kad se pokrene - dobiješ "điberiš". Doslovce. Nemaš pojma koliko će ti taj nedeterminizam zagaditi proces i na koji način u svakom idućem pokretanju onoga što si mislio da radi. 

Usput, taj nedeterminizam je bio i razlog što onaj Hobbit sa Spectruma mogao povremeno biti nerješiv, pa je u tom smislu i taj njihov "AI" bio izvor istih problema prije 40+ godina kao i sada - likovi koji su ti u avanturi ključni za rješavanje igre bi negdje odlutali, ne bi bili na onom mjestu u igri gdje trebaju biti da bi mogao dovršiti igru, pa je Melbourne House izdao nekoliko zakrpa za Hobbita od kojih na koncu nijedna nije radila. 

(The volatility of the characters, coupled with the rich physics and impossible-to-predict fighting system, enabled the game to be played in many different ways, though this would also lead to problems (such as an important character being killed early on). There are numerous possible solutions and with hindsight, the game might be regarded as one of the first examples of emergent gameplay. This also resulted, however, in many bugs; for example, during development Megler found that the animal NPCs killed each other before the player arrived. The game's documentation warned that "Due to the immense size and complexity of this game it is impossible to guarantee that it will ever be completely error-free". Melbourne House issued a version 1.1 with some fixes, but with another bug that resulted in the game being unwinnable, forcing it to release version 1.2, and the company never fixed all bugs.[5]) - The Hobbit (1982 video game) - Wikipedia

Znači, vratili smo se puni krug.

 Točno, zato i kažem da (EDIT) bi jedino mjerilo uspjeha bilo ako AI kućni složenac "sjebe" Salesforce - vjerojatno najomraženiji komad softvera na planeti, pa pretpostavljam da ne postoji bolji motiv, iako se Adobe trudi preuzeti tron. 

Ljude većinom ne zanima ni tehnologija ni alat, jer inače dostave i restorani ne bi postojali, kao ni mehaničari, ili bi svi radili svoje aplikacije i glazbu, jer su i to očito savladive vještine. 

Jer izrada hobističkih aplikacija je nedovoljan motiv, a zasad je to jedina svrha 2,35 bilijuna vrijednih ulaganja, da osoba koja plati 20$ mjesečno zaobiđe neki korak u otvaranju obrta - a i taj korak ne bi trebalo zaobilaziti da je tržište malo normalnije. Da imaš ured za otvaranje obrta di teta Biserka sv napravi za tebe... Hmm, možda smo tih 2,35 bilijuna trebali uložiti u Biserke?

Kao što većina ljudi zna šta je "gefufna" jedino zato što su servisi postali basnoslovno skupi, i kao što je DIY fenomen nastao jedino jer je preskupo platiti keramičara. 

Da imaš 5000€ prihoda, nitko ne bi doma radio ništa, i da nije na djelu planetarna enšitifikacija, ne bi se nitko ni trudio zamišljati alternative "softvera za firmu" a ni kupovati Milwakuee ili Parkside po Lidlu. 

3D printeri, mobilne aplikacije, dot.com pa i taj Spectrum - svi su pokazali da ljude ne zanima toliko izrada rješenja, već da je rješenje jednostavno, a iako je tvorac konkretnog tableta krajem 60ih taj uređaj zamislio kao ne samo uređaj za konzumaciju već i kreaciju, danas je smartphone/tablet najsavršeniji primjer uređaja za konzumaciju sadržaja - lagan, prenosiv, i fokus je samo na ekranu. 

Dio pionira tržišta računala je guralo ideju da "personal" u "personal computer" bude feature da svatko radi svoje aplikacije, pa eto - 60 godina razvoja programiranja i edukacije poslije živimo u tiraniji Salesforcea i Adobea.

Hoće li netko doma napraviti svoju Mona Lisu ili glumatati Warhola jednim "klikom AIa" - hoće, ali to nije revolucija niti nova paradigma. 

Nova paradigma će jedino biti zamjena komercijalnog softvera na razini Salesforcea. (i održavanje istog bez tima stručnjaka).

Kako kaže Houra - hobisti se ionako za sebe pobrinu.  

Ja sam nedavno kupio, na šok i nevjericu svih frendova, gitaru za ljevake, iako sam dešnjak, ali imam filing za osjećaj da sam patnik i virtuoz, pa samo trebam počet tamburat da iz mene izađu McCartney ili Cobain.

Vidim da se priča puno o emergenciji a zapravo se puno ne razumije (spomenuto je tako i "posjedovanje emergencije" , na primjer), pa ajmo probati razjasniti.

Emergencija se ne može posjedovati (kao što se ne može posjedovati "trčanje", na primjer), mogu se posjedovati emergentna svojstva. To su svojstva koja se pojavljuju ("izranjaju") u organiziranim/samo-organiziranim skupinama određenih entiteta, a koja ne postoje na razini individualnih komponenata. Uzmimo molekulu vode za primjer. Ona sama po sebi ne mijenja svojstva bez obzira na temperaturu - ne postoji, dakle, fazni prijelaz molekule vode iz čvrstog stanja u tekuće ili plinovito. No u skupini molekula vode javljaju se intermolekularne sile koje mijenjaju svojstva pojedinačnih molekula a što omogućuje fazne prijelaze. Upravo ta transformacija svojstava individualne komponente kod grupiranja je ono što grupu čini nešto većim od puke sume [svojstava] komponenti. Ta pojava naziva se emergencija, a nova svojstva su emergentna svojstva.

Emergentna svojstva nisu uvijek predvidljiva no to ne znači da je svako nepredviđeno svojstvo emergentno. Relativno jednostavan algoritam (poput LLM-a) ali koji obrađuje masu podataka s masom parametara može ispoljavati teško predvidljiva ili praktički nepredvidvljiva svojstva, ali to ne znači nužno da su ta svojstva emergentna.

Ipak, i emergencija se može različito definirati, odnosno možemo razlikovati različite tipove emergencije. Ne može se reći da emergencija kod LLM-a apsolutno ne postoji. Mali model može, na primjer, ispisivati potpuno slučajne i besmislene nizove koji nisu ništa više od sume riječi, dok s povećanjem modela nizovi povezuju riječi u nešto što se može interpretirati kao emergentno svojstvo - smislena rečenica. No ovdje se radi o čisto apstraktnoj emergenciji (nijedan tranzistor, na primjer, nije promijenio svojstva rastom modela) i ne treba to miješati sa sviješću jer svijest nije apstraktna. Svaka mreža ima emergentna svojstva, ništa drugačiji po tom pitanju nije LLM od interneta, pa opet nitko ne vidi svijest u internetu. Ono što može emergirati iz većih AI modela se može interpretirati kao simulirana ili umjetna svijest - no ona je de facto lišena ikakvih stvarnih osjećaja/iskustava, pa bi primjerenije bilo reći da ostavlja dojam svijesti ili svjesne inteligencije, a ne da ima ikakvu svijest.

Pa može, kao šta može svak biti i urbanist, arhitekt i inženjer - dokaz su one favele na ulazu u Split.

Šta moja zubarica (Makaranka) kaže: "Trudim se ne prolaziti kroz Split."

Ovo bi bio ekvivalentno pitanju može li biološka neuronska mreža nešto ako joj uskratimo senzorni input i interakciju sa ostalim mrežama? 

Ne, to nije pitanje, pitanje je zašto biološka mreža može a druge ne-biološke ne mogu. Skraćuješ na krivi nazivnik.

Jer jednakost nije između što će se dogoditi kad ne može - već zašto i kako može i, u rekreiraju sutava - može li uopće.

Jer ako nečemu što postoji uskratiš nešto što može, to ne odgovara na pitanje zašto je moglo (ili može li nešto drugo). Kloniramo bića - i opet nismo odgovorili zašto i kako - biološki sustav može.

Kako sad znamo da LLM ne može, a kako sam danas sav u pjesmama onda znaš li onu od Novih Fosila?

Bilo mi je prvi (in)put

Samo jednom prva zora sviće.

Nekim starom fosilu je isto svanula prva zora, pa smo sad tu di jesmo.

Opet - nije pitanje 1-100, nego 0-1.

A odgovor leži u onome biološkom zašto i u biološkom kako, jer inače ne postoji biološko. 

Jer u biološkom nešto ili nema inteligenciju/svijest ili ju ima u nama nedefiniranom obliku, ali je to onda dokaz da je u datom trenutku bila odluka da se ne ide ka drugom vidu inteligencije. 

Jer ako pretpostavljamo da će hrpa informacija oživjeti kamen, onda bismo odmah u tom trenutku trebali saznati odgovor zašto je ameba ostala ameba i, daleko bitnije, zašto je svanula prva zora tj. što je bio prvi input. 

U suštini, sve te riječi, pojmovi i nomenklatura kojima se opisuju LLM u biti sadrže pretpostavku da hrpa informacija ima potencijal postati nešto biološko - a to se ojačava tako da se u takvim antropomorfirajućim riječnikom skriva činjenica da nemamo pojma kako/zašto je uopće biološki sustav nastao, i nadalje se tvrdi da je hrpa informacija = inteligencija za što opet nemamo nikakav dokaz. I zadnje, dokazalo bi se da biološki input nema nikakvog utjecaja na "svijest" i "inteligenciju".

I sad se ide od pretpostavke da će brdo prije doći Muhamedu - što je izvrtanje kako bi se sakrilo da se ne zna zašto je uopće došao Muhamed. 

 Mislim da je bitnija razlika da biološka raspravlja o LLMu a ne obratno, pa eto..