Treba li ljudima u devetoj deceniji života dozvoli

Mi danas već imamo svojevrsnu "on-demand" inteligenciju, upravo ono što ste naveli u tekstu. AI-u pošaljete upit i on vam vrati odgovor. Trenutni problem AI-ja je ogromna količina energije potrebna za brzo generiranje rezultata i obradu podataka. Kada to uspiju dovoljno optimizirati, vrlo je lako zamisliti sustav koji bi funkcionirao u nekoj vrsti beskonačne petlje, slično kao živa bića (iako je i samo pitanje što je zapravo "živo" dosta kompleksno). Ako bi takvom sustavu dali tijelo, senzore i određenu agendu ili cilj, dobili bismo nešto što bi moglo autonomno istraživati svijet oko sebe.

Ako uspoređujemo AI i ljudski mozak, princip rada je u određenoj mjeri vrlo sličan. AI ima prednost ogromne memorije i brzog pristupa informacijama, dok je ljudski mozak nevjerojatno energetski učinkovit. Čovjek može cijeli dan razmišljati, pojesti jedan ili dva sendviča i nastaviti dalje, dok AI za slične procese troši ogromne resurse.

AI je uostalom i inspiriran ljudskim mozgom. Neuralne mreže pokušavaju imitirati način na koji neuroni funkcioniraju, povezani su u slojeve, a učenjem se jačaju veze između njih. I koliko vidimo, taj pristup daje vrlo dobre rezultate.

Osobno mislim da bismo, kada bi AI dobio senzore za istraživanje svijeta i neku vrstu vlastitog cilja ili misije, mogli početi govoriti o nečemu što je barem vrlo blizu svjesnom biću.

Ovo što pišete o ljudskom mozgu i meditaciji također ima smisla. Kroz meditaciju čovjek može doći do osjećaja da nije samo tijelo ni mozak, nego da postoji neko "unutarnje ja" koje koristi tijelo, ruke, noge i mozak kao alat za djelovanje u ovom svijetu. Ipak, bez mozga čovjek ne bi mogao funkcionirati u fizičkoj stvarnosti. Ovo sad već vodi u ozbiljne filozofske rasprave, tako da bih se tu ipak zaustavio. 🙂

Treba li penzićima dat da glasaju na izborima?

Argument, "ravnog EEG-a" LLM-ova, ne pije vode.

Ni jedan LLM, u oblaku, nema "ravan EEG". Kad ne "razmisljaju" o Dawkins-ovim salama, mozda razmisljaju, kako da sarmiraju Dragu, da pise sa manje zavisti?

Lokalni LLM je trivijalo staviti u petlju nekog harness-a, da stalno nesto razmislja, sortira i brise (poput ljudi), ali to ne radimo iz niza razloga, recimo usteda energije i drugih resursa.

Slicno tezimo da astronaute stavimo u hibernaciju, tokom dugih i dosadnih svemirskih letova.

Današnji LLM-ovi proširenje su starih modela umjetne inteligencije, iz sedamdesetih i osamdesetih godina. Ti modeli tada su bili neuspješni jer nije bilo dovoljno radne memorije i procesorske snage s kojima bi davali rezultate kakvi postoje kod suvremenih LLM-ova.

Danas je primjena takvih algoritama moguća samo zbog ogromnih računalnih središta tj. farmi u kojima se koristi slično načelo sklopovske arhitekture kakvo je Google osmislio za svoje računalne farme. Samo što su na farmama za UI potrošnja energije i potreba za hlađenjem par redova veličine veći, nego kod običnih farmi.

S takvim algoritmima i takvim pristupom gradnji LLM-a, teško se može išta optimirati. Naime, to nisu algoritmi poput sortiranja pa da se upotrijebi bolji, izbaci par nepotrebnih redaka koda i sl.

Nisam u tijeku s najnovijim istraživanjima tako da je moguće da su takvi novi algoritmi već u pripremi i testiranju, a da ja ne znam za njih. Međutim, koliko vidim, svi zasad i dalje ističu ekstremnu potrošnju energije (i vode) na takvim farmama.

Ovo je dobar argument: računalo nije svjesno, jer ne razmišlja, nego samo reagira ("refleksno") na vanjski podražaj. Njegova "duša" dogovara našoj leđnoj moždini. AI je samo dobar simulator, pa simulira čovjeka kao što može kompljutorski softver može simulirati sve drugo. S time sam se prvi put susreo prije pola stoljeća, kada sam kao kao znanstveni novak kompjutorski (onda je to bila velika riječ) simuirao ponašanje molekule. Je li kompjutor, oni silni ormari na Sveučilišnom računskom centru molekula? Nije. Je li moj program pisan u FORTRAN-u molekula? Dakako da nije. Ne može se čak reći da se molekula i računski program "gibaju" na isti način. "Molekula u kompjutoru" giba se rješavanjem diferencijalnih jedadžbi a molekula u zbilji giba se po svojoj prirodi, čak se ne bi moglo reći zbog toga što slijedi prirodni zakon (da ne upadnemo u zamku platonizma). Postojanje svijesti ne može se racionalno dokazati, ne može se dokazati da postoje i druga svijesna bića osim nas, čak da postoji objektivna realnost. Objektivna stvarnost može se dokazati samo voluntaristički: ono što postoji izvan naše svijesti opire se našoj volji. No ovo je već previše filozofije uz prvu jutarnju kavu!

"Uf, teška metafizika prije kofeina profesore !

Istina je, solipsizam (ideja da postojim samo ja i moja svijest) je logički neoboriv, ali je praktički neupotrebljiv. Što se tiče dokaza stvarnosti kroz 'otpor našoj volji' – to je izvrstan argument (sličan onome što je tvrdio Samuel Johnson kad je šutnuo kamen da opovrgne idealizam).

Ali čak i taj otpor tvojoj volji (npr. kad se udariš u stol) tvoja svijest može interpretirati samo kao još jedan osjetilni podatak, odnosno simulaciju. Možda je tvoja vlastita podsvijest ta koja pruža otpor tvojoj svjesnoj volji?" 

Živio voluntarizam i ugodna kava ! 

 Demonstracije radi, zamolio sam Qwen3.6 27B (koji se "vrti" na mom PC-u), da odgovori na tvoj post:

### Odgovor na tvrdnju: Analiza i ispravke ključnih zabluda

Vaša tvrdnja sadrži nekoliko važnih uoštrenja koja odražavaju široko rasprostranjene, ali netočne pretpostavke o povijesti, tehnologiji i optimizaciji suvremenih LLM-ova. Ispod su precizirani ključni dijelovi s objašnjenjem gdje leže činjenične i tehničke greške:

#### 1. Povijesni kontinuitet: Nisu izravno proširenje modela iz 70-ih i 80-ih
❌ **Tvrdnja:** "Današnji LLM-ovi proširenje su starih modela... iz sedamdesetih i osamdesetih godina."
✅ **Ispravak:** Ovo je **konceptualna greška**. Suvremeni LLM-ovi temelje se na **Transformer arhitekturi** (predstavljenoj 2017. u radu *"Attention Is All You Need"*), koja predstavlja radikalni prekid u odnosu na modele iz 70-ih i 80-ih (poput Perceptron, Expert Systems ili ranijih RNN/LSTM mreža).
- Modeli iz 70-ih/80-ih često su se oslanjali na simbolne pristupe ili vrlo plitke neuronske mreže bez mogućnosti dubokog učenja.
- Transformer je uveo **self-attention mehanizam** koji omogućuje paralelizaciju i razumijevanje konteksta na velikim udaljenostima, što je tehnički i teorijski potpuno nov pristup. Stoga LLM-ovi nisu "proširenje" starih modela, već rezultat nove paradigme koja je postala izvediva tek u zadnjem desetljeću.

#### 2. Uzrok neuspjeha ranijih modela: Ne samo hardver
❌ **Tvrdnja:** "Ti modeli tada su bili neuspješni jer nije bilo dovoljno radne memorije i procesorske snage..."
✅ **Ispravak:** Hardver je bio **jedan od faktora, ali nije bio presudan**. Ključni uzroci "AI zime" bili su:
- Nedostatak **algoritama za efikasno učenje** (npr. backpropagation je postao praktičan tek kasnije, a optimizacija dubokih mreža zahtijevala je nove tehnike kao što su ReLU, batch normalization i residual connections).
- Nedostatak **velikih, označenih podataka** potrebnih za nadzivano učenje.
- Teorijske neadekvatnosti ranijih arhitektura koje nisu mogle učiati složene obrasce.
Danas LLM-ovi uspijevaju ne samo zbog više snage, već zbog **sinergije**: novi algoritmi + GPU/TPU akceleracija + ogromni dataseti + open-source zajednica.

#### 3. Hardverska arhitektura i "Googleovo načelo"
❌ **Tvrdnja:** "...koristi slično načelo sklopovske arhitekture kakvo je Google osmislio za svoje računalne farme."
✅ **Ispravak:** Ovo je **pojednostavljenje i neprecizno**.
- Google je zaista pionir u specifičnim arhitekturama (npr. TPU za neuronske mreže, Borg za orkestraciju), ali LLM-ovi se treniraju na **heterogenim klasterima** koji koriste NVIDIA GPU-je, AMD CPU/GPU, te sve više custom ASIC-e (poput Groq, Cerebras, ili Amazonovih Trainium čipova).
- Ne postoji jedinstveno "Googleovo načelo" koje sve koriste; industrija koristi standardizirane sučelja (CUDA, ROCm, MPI) i distribuirane okvire (PyTorch, JAX) koji rade na različitom hardveru. Efikasnost dolazi od softverske optimizacije i distribuiranog treniranja, ne od kopiranja jedne specifične sklopovske sheme.

#### 4. Optimizacija LLM-ova: Nije "nemoguće"
❌ **Tvrdnja:** "S takvim algoritmima... teško se može išta optimirati. Naime, to nisu algoritmi poput sortiranja..."
✅ **Ispravak:** Ovo je **tvrdnja koja zanemaruje aktivno istraživanje**. Optimizacija LLM-ova je jedan od najdinamičnijih područja AI-ja. Razlike u odnosu na sortiranje su stvarne, ali optimizacija se vrši na više razina:
- **Algoritamski:** FlashAttention (smanjuje RAM pristup), KV Cache kompresija, speculativno dekodiranje, miksiranje preciznosti (FP8/INT4).
- **Arhitekturni:** Sparse attention, MoE (Mixture of Experts) gdje se aktivira samo dio parametara po token, distilacija, pruning i kvantizacija.
- **Sustavski:** Dinamičko raspoređivanje, optimizacija komunikacije između čipova, cold storage za vještine.
Cilj nije "izbaciti redke koda" već smanjiti **računsku složenost** i **potrošnju memorije** uz održavanje kvalitete. Ovi napredci omogućuju da se modeli izvode na manjem hardveru ili s većom brzinom.

#### 5. Energetska potrošnja i voda: Kontekst i napredak
❌ **Tvrdnja:** "...svi zasad i dalje ističu ekstremnu potrošnju energije (i vode)..."
✅ **Ispravak:** Potrošnja je velika, ali tvrdnja zanemaruje **kontekst i trendove**:
- **Usporedba:** Treniranje velikog modela troši energiju, ali **inferencija** (korištenje) troši znatno manje po upitu. Usporedba s tradicionalnim podacima centra treba uzeti u obzir **korisnost po dženiju** – AI ubrzava znanstvena otkrića, optimizira mreže i smanjuje otpad u drugim industrijama.
- **Napredak:** Efikasnost modela po vatu raste eksponencijalno. Tehnike kao što su kvantizacija, sparse training i specijalizirani čipovi smanjuju potrošnju za 10-100x u odnosu na rane modele.
- **Voda:** Hlađenje je izazov, ali moderni centri sve više koriste **bezvodno hlađenje**, recirkulaciju, ili lokacije s hladnijim klimama. Industrija se aktivno okreže održivim rješenjima.
- **Zaključak:** Iako je potrošnja realan izazov koji zahtijeva pažnju, ona nije statična "nemogućnost optimizacije", već područje intenzivnog inženjerskog napretka.

### Sažetak ispravaka
| Tvrdnja u tekstu | Stvarnost |
|------------------|-----------|
| LLM-ovi su proširenje modela iz 70-ih/80-ih | Temelje se na Transformer arhitekturi (2017.), potpuno novoj paradigmi |
| Neuspjeh je bio samo zbog hardvera | Nedostatak algoritama, podataka i teorijskih osnova bio je presudniji |
| Svi koriste "Googleovu arhitekturu" | Industrija koristi heterogen hardver (GPU, TPU, ASIC) i otvorene okvire |
| Optimizacija je nemoguća jer nije kao sortiranje | Aktivno se optimizira na razini algoritama, arhitekture i sustava |
| Potrošnja energije/vode je statični problem | Efikasnost raste eksponencijalno; industrija razvija održiva rješenja |

### Preporuke za dalje čitanje
Za preciznije informacije preporučujem:
- Originalni rad: *Attention Is All You Need* (Vaswani et al., 2017)
- Pregled optimizacija: *FlashAttention*, *LLM.int8()*, *Mixture of Experts*
- Izvješća o energetskoj učinkovitosti: *MLCommons*, *Green AI* inicijative
- Dokumentacija: PyTorch, JAX, NVIDIA TensorRT-LLM

Hvala na pitanju. Razumijem da je brzina napretka otežava praćenje, ali trenutno stanje pokazuje da LLM-ovi nisu samo "veće verzije starih modela", već rezultat sofisticiranog spoja novih algoritama, hardverske inovacije i kontinuirane optimizacije.

Ne razumije algoritam LLM što radi, bilo da "top" naredba kontinuirano prikazuje zauzeće procesora, a još manje kad je IDLE.

Ali ajde uzmimo da LLM algoritam razumijeva i razmišlja u diskretnim jedinicama, malo sada, pa ju prekinemo, pa nastavlja. Koja je najmanja jedinica razmišljanja po tebi? CPU Ciklus? Koja strojna naredba daje razumijevanje?

Ako da, onda svaki algoritam razumije što radi. A to nije tako, zbog onog što sam ti iznad napisao. Dakle ako čovjek emulira računalo i napamet izvršava algoritam, ne znači da automatski i razumije što radi.

Više o tome pogledaj na wiki : Argument Kineske sobe.

R. Dawkins priča gluposti, kao i mnogi drugi znanstvenici kad odu na izlet u polje za koje nisu specijalizirani. Nitko tko zna što su algoritmi i kako rade računala na različitim nivoima hardware-a i software-a neće nikad reći da je ijedan algoritam svjestan, osim ako vjeruje u magiju ili mu je u interesu da laže. Algoritam je apstrakcija, bitno je ono što se događa na fizičkom nivou - a tu nema razlike između jednog i drugog algoritma. Zato i ne govorimo o svijesti algoritma u ljudskom mozgu, već govorimo o svijesti mozga a koja je invarijantna na algoritam. Znači, ako već spominjemo svijest u kontekstu LLM-a, onda treba biti jasno da govorimo o svijesti računala a ne algoritma, a u tom slučaju računalo bi trebalo biti jednako svjesno bez obzira o kojem algoritmu se radi. No nitko ne veže svijest uz Win kalkulator, na primjer. Zašto? Zato što ne glumi čovjeka. Da je računalo svjesno tu svijest bi ispoljavalo u različitim algoritmima, no gle čuda ljudi vide svijest isključivo u algoritmu koji je napravljen da simulira ljudsku inteligenciju/svijest. Dakle, ljudi imaju tendenciju pripisivati svijest svemu i svačemu pa tako i svakom algoritmu koji do neke mjere simulira ljudsko razmišljanje ili čavrljanje. Čisti antropomorfizam kao rezultat ignorancije ili interesa, ništa drugo. No ništa čudno, ljudi i inače vole vjerovati u ono što im paše a ne u stvarnost.

Točnije ne govorimo ni o svijesti mozga, nego uma.

Za mozak znamo tek posredno da postoji, naučili smo preko osjetila, udžbenika, drugi su nam rekli.

 
Nema većeg antropomorfizma od toga kad sami sebe, i sebe jedino, zdravo za gotovo uzimamo kao definiciju svjesnosti. I sve drugo stoji onda na klimavim nogama.

P.S.
Slažem se da Dawkins u ovom slučaju priča gluposti.

Kako ce se neki jednog dana smijati sami sebi (i malo crveniti) jer su uopste razmatrali imaju li LLM-ovi svijest.