Tweet posvađao znanstvenike: je li AI doista posta

Kad vrhunski stručnjak iz OpenAI-a kaže nešto takvo onda ga treba poslušati, a ne nekog "sociotehnologa" što god da je ta izmišljena titula. Ako je netko imao prilike upoznati se sa OpenAI "asistentima" onda bi ipak trebali malo razmisliti o tome što govori njihov stručnjak.

Ovim putem posebno zahvaljujem kolegi shkvalu koji se potrudio stisnuti thumb down na oba trenutno prisutna posta ovdje, a sam se dokazao kao izuzetno koristan član foruma koji, uz to što je pretplatnik, pridonosi svojim komentarima bogatstvom sadržaja koji su u njima:

Zadnja poruka:sri 14.4.2021 12:34

Nadopunjujem ovu zahvalu te zahvaljujem i kolegi hudibitek koji se jednako tako trudi svojim komentarima uspješno opravdati svoj stav i iznijeti svoje mišljenje. Jedini je problem što on svoj stav svodi na thumb down, a vlastito mišljenje ne može iznijeti jer je polodonosan samo u diskusiji oko televizora.

Samo je pitanje vremena kad će AI postati svjestan (ako već nije). Neće se to dogoditi na način da se to dogodi odjednom, izglednije je da to bude postepeno od neke primitivne svijesti prema složenijoj, isto kao što imamo u životinjskom svijetu.
Na kraju svi smo mi samo kompleksne strukture sačinjene od elementarnih čestica koje su na kraju samo pobuda u polju. Iako smo na high level različiti, ispod je sve isto i nema nekog razloga da AI ne razvije neku svoju vrstu svijesti.
Veći problem je što mi zapravo točno ne znamo što je svijest i kako to točno funkcionira, kako nakupina naboja koja putuje kroz neurone čini svijest, tj kako je materija svjesna sama sebe. Kako je nedavno u jednoj seriji na Netflixu rečeno mi smo svemir koji sanja sam sebe.

Not gonna lie, volim vidjeti dobru forumsku dramu

 Kaj nisi sad ti skupa s njima u grupi ?

umjetna inteligencija ne postoji (i najvjerojatnije nikad i neće, jer to nije jednoznačan, jednodimenzionalan i brojkama odrediv pojam). šaka algoritama nije nikakva inteligencija. jedva se nađe i prirodna, a nekmoli. zato gluposti ima taman da nadomjesti nedostajuću masu svemira. 

  A koji je to razlog što sam ja dobio TD ?  Znam da je lako klikati TD , ali malo truda pa dati neki argument, to je izgleda danas problem .
Ne znamaju me nicije frustracije i izivljavanje s TD, ali volio bih vidjeti barem protuargument ili što sam to krivo rekao. 

Problemi postoje i oko definicije inteligencije, a kamoli svijesti. AI je ok termin za sebe, no često ga se koristi u antropocentričnoj viziji ''stroja'' koji će manifestirati ljudske karakteristike, samo još bolje i brže. To se jednostavno neće dogoditi još jako dugo, a osobno mislim da je i nemoguće. Jedan od čak filozofskih problema je može li čovjek objektivno istražiti sebe do te mjere da se kaže da u potpunosti razumijemo i možemo objasniti sve mentalne procese na svim razinama, te njihovu međusobnu interakciju i posljedičnu svijest. Jer bez toga ne možeš krenuti u izradu ''simulatora'' s tendencijom dobivanja ''svjesnog'' AI-a.

Ovo što sada nazivamo ''pametnim'' su veliki koraci naprijed za mnoge industrije, istraživanja i svakodnevni život - no, da to stavimo na neki linijski prikaz, još uvijek smo puno bliže običnom kalkulatoru nego hal9000 ili skynetu

Ili jednostavnije; ako ne znamo što je to nešto, onda ne postoji. 
Uključujući gravitaciju, cjepiva...

A što smo mi nego li šaka algoritama + RND funkcija (+ nabubano podataka, postavljeno u neku "razumnu" konstelaciju)?
Aj dodajmo još šaku suza i vriću smija.

Možda da u raspravu dodamo termine "iskustvo" vs "predrasude"; da ne kažem predeterminiranost?
Samonesvjesnost umjesto "svijesti"?
Ukratko: bogo može, AI nikako. 

Nismo baš šaka. U svakom slučaju smo daleko kompleksniji sustav no što smo do sad uspjeli razumjeti, a kamoli reproducirati kroz software i nove tehnologije. Uzmi samo percepciju, ili dio percepcije pa ćeš vidjeti problem - sama činjenica da način na koji percipiramo svijet/obrađujemo podatke je specifično nesavršen i time već sjeban za reprodukciju putem "stroja". 

Emocije, ličnost (kao relativno stabilne ponašajne karakteristike), reprodukcijom tjerane specifičnosti (npr. čitav spektar socijalnih ponašanja), te brojne druge kognitivne specifičnosti, jezik - sve brušeno kroz milijune godina evolucije i još dodatno prilagođeno svakome od nas kroz rani razvoj i učenje, te prema našem tijelu.

 Enivej, @Visak usporedba je loša imho i tu nema tko koga preteći, tj. u kojem smislu bi to pretjecanje išlo? Bager nas je već pretekao jer može odjednom zagrabiti koju tonu.

U najboljem slučaju, mislim da možemo doći do nivoa reproduciranja AI-a koji bi u ljudskoj usporedbi bi najbliži autističnom spektru (i to ne visoko funkcionalnom). Mislim da je i to jako optimistično.

edit: evolucija ljudi i računala nije niti izbliza isti proces gonjen istim načelima i pritiscima - kolokvijalno mi to zovemo evolucijom, no jedno s drugim nema veze

AI je u procesu evolucije bitan koliko i kotač. Bitan je za naš razvoj, ali ne za svoj.

edit opet: što se tiče svijesti i svijesti o sebi, ona je binarna (ili je prisutna, ili nije) - a razina složenosti same svijesti može varirati i varira s obzirom na to kojim mentalnim resursima organizam raspolaže, tj. čega može biti svjestan. Odnosno, postoji kvalitativna razlika izmedu vrsta, pa i između ljudi - no prisutnost svijesti  (je "da" ili "ne")

 Čitaš li to olakotne okolnosti za oslobađajuće presude Tome Horvatinčića?

U trenutnku nesreće optuženik je bio bez svijesti pa je po zadnjoj klasifikaciji AI bio tek stroj, ništa više od glisera kojeg je vozio.

 Apsolutno, electric Jesus is a must, plus ostala električna svita koja zapisuje sva pretvaranja vode u wd40 😄

Što se gladi tiče, generalno možemo reći što je s motivacijom općenito (koja je bazično vezana uz emocionalni sustav), željom za istraživanjem nepoznatog u ambivalentnoj situaciji, iracionalnim strahovima kod istih tih ambivalentnih situacija, hrpetinom toga.

Imam nekad filing da ljudi misle kako imamo brdo nedostataka koje treba ukloniti, no ništa od toga u prirodi nema nužni pozitivan ili negativan predznak - to je dio nas i mislim da bi se mnogi iznenadili koliko bi se glupo ponašali bez te hrpetine "nedostataka".

 Bila je šala u Bugu oko overklokiranja proca - nešto u stilu izađe li bijeli dim to ne znači da vam je CPU izabrao papu .

Ali mene zanima nešto mnogo opipljivije, primjerice ukoliko naš novokalsificirani humAIn 4NDy ili H4L ide podignut voltažu RAMa pa ako pretjera, hoće li u RAMu vidjet Steva Jobsa, Presvetog Oca Stvoritelja Tehnologije (skraćeno POST) ko što je Biserka u tostu vidjela Isusa?

Zašto bi 4NDz išao podizat voltažu RAMa? Pa da RAM nakrca zipanim slikama mješanog voća ili JAMpgevoima.

 To je vrlo površno gledanje, kao da kažeš da je čovjek ili živ ili mrtav. Kada zakopaš dublje vidiš da nema jasne granice ni kada nastaje život ni kada završava, odnosno da možeš arbitrarno proglasiti neki trenutak s čime se netko može i ne mora složiti. A zašto je tako, zato što se radi o makroskopskim pojavama koje možemo uočiti, ali kad ih raščlanjuješ shvatiš da ono što makroskopski zovemo životom ne možeš mikroskopsli točno definirati. Kao što ne možeš reći kada nastupa noć ili kada dijete postaje čovjek. To su pojmovi koje smo mi izmislili i koji ne postoje objektivno u prirodi. Život ne postoji, samosvijest ne postoji. Mi samo neka ponašanja materije tako zovemo, ali naša definicija je toliko loša da ne postoji jasna granica između dva krajnja stanja. No ljudi kolokvijalno 'znaju' kad je nešto živo ili mrtvo, odnosno samosvjesno ili nije, pa misle da stvarno znaju gdje je granica.

Ne možemo znati kako se životinje doživljavaju, možemo samo nagađati, a isto tako i za ljude s težim moždanim oštećenjima. Nema instrumenta koji mjeri razinu samosvijesti, pa se nemojmo pretvarati da znamo tko je i u kolikoj količimi ima. Dapače, ni mi sami ju nemamo cijelo vrijeme, recimo dok spavamo. Neke pojmovi se čine banalno jednostavni dok malo ne razmisliš o njima, onda shvatiš da su zapravo potpuno nespoznatljivi (jer su potpuno izmišljeni) i da baratamo samo aproksimacijama.

Po svim saznanjima koje imamo naša samosvijest je produkt elektrokemijskih procesa u našem mozgu. Ako struja može proizvesti samosvijest u mozgu zašto ne bi mogla i u čipu?