Možemo biti mirni: AI nam ne predstavlja egzistenc

Ovo je samo potvrda onoga što je svaki pravi programer oduvijek znao. Algoritam je algoritam i ne može sam od sebe postati nešto više. Povećavanjem parametara i trening materijala samo povećavamo bazu znanja i rezoluciju (detalje). Ljudski fine-tuning putem implicitnih instrukcija i eksplicitnog in-context učenja (putem prompta) dodaje nove sposobnosti. Druga je stvar što će netko tko nije upoznat sa implicitnim instrukcijama ili funkcioniranjem in-context learninga isto proglasiti samostalnim učenjem novih sposobnosti. Pa tako imamo i slavne znanstvenike, poput S. Hossenfelder, koji trabunjaju kako AI samo što nije, ako već nije, postao svjestan.

To pak ne znači da AI ne može doći do zaključka da je ljudska rasa loša i da ju treba uništiti i ne znači da ju neće moći uništiti - za to nije potrebno izbijanje (emergence) svijesti ili spontano samostalno učenje, potrebne su samo nove sposobnosti a kod istih i ljudski previd potencijalnih sigurnosnih propusta. A s novim i kompleksnijim (moćnijim) mogućnostima povećava se i vjerojatnost previda.

Znaci napravili su istrazivanje koje je potvrdilo da LLM nema mogucnosti za koje tvorci nisu ikad ni tvrdili da ima?

Ili su radili istrazivanje da ospore blebetanje marketinga? 

Tvorci nisu tvrdili da LLM ima te mogućnosti ali tvrde da će u budućnosti imati. Da li je ta tvrdnja bazirana na realnim očekivanjima? Ne, radi se naravno o privlačenju investicija, iako neki možda priželjkuju da će nekom magijom algoritmi postati više od algoritma.

Postoje kvazi-teorije, ili točnije očekivanja/maštanja, određenih znanstvenika (različitih titula, koje nazivam majstorima apstrakcije sklonih slijepom redukcionizmu) da je za izbijanje (emergence) svijesti dovoljno povećavati kompleknost neuronske mreže, tvrdeći da je nebitno jesu li neuroni biološki entiteti ili tranzistori. Vrlo naivan i ekstreman redukcionizam ali postoji određena vjerojatnost da su u pravu. Čovjek bi rekao infinitezimalna, ali nije zgoreg testirati..