preporučujem dobar podcast s
Dr. Lex Fridman PhD, is a scientist at MIT (Massachusetts Institute of Technology), working on robotics, artificial intelligence, autonomous vehicles and human-robot interactions.
edit opet: što se tiče svijesti i svijesti o sebi, ona je binarna (ili je prisutna, ili nije)
To je vrlo površno gledanje, kao da kažeš da je čovjek ili živ ili mrtav. Kada zakopaš dublje vidiš da nema jasne granice ni kada nastaje život ni kada završava, odnosno da možeš arbitrarno proglasiti neki trenutak s čime se netko može i ne mora složiti. A zašto je tako, zato što se radi o makroskopskim pojavama koje možemo uočiti, ali kad ih raščlanjuješ shvatiš da ono što makroskopski zovemo životom ne možeš mikroskopsli točno definirati. Kao što ne možeš reći kada nastupa noć ili kada dijete postaje čovjek. To su pojmovi koje smo mi izmislili i koji ne postoje objektivno u prirodi. Život ne postoji, samosvijest ne postoji. Mi samo neka ponašanja materije tako zovemo, ali naša definicija je toliko loša da ne postoji jasna granica između dva krajnja stanja. No ljudi kolokvijalno 'znaju' kad je nešto živo ili mrtvo, odnosno samosvjesno ili nije, pa misle da stvarno znaju gdje je granica.
razina složenosti same svijesti može varirati i varira s obzirom na to kojim mentalnim resursima organizam raspolaže, tj. čega može biti svjestan. Odnosno, postoji kvalitativna razlika izmedu vrsta, pa i između ljudi - no prisutnost svijesti (je "da" ili "ne")
Ne možemo znati kako se životinje doživljavaju, možemo samo nagađati, a isto tako i za ljude s težim moždanim oštećenjima. Nema instrumenta koji mjeri razinu samosvijesti, pa se nemojmo pretvarati da znamo tko je i u kolikoj količimi ima. Dapače, ni mi sami ju nemamo cijelo vrijeme, recimo dok spavamo. Neke pojmovi se čine banalno jednostavni dok malo ne razmisliš o njima, onda shvatiš da su zapravo potpuno nespoznatljivi (jer su potpuno izmišljeni) i da baratamo samo aproksimacijama.
Po svim saznanjima koje imamo naša samosvijest je produkt elektrokemijskih procesa u našem mozgu. Ako struja može proizvesti samosvijest u mozgu zašto ne bi mogla i u čipu?
Pa ima li onda uopće kakve razlike između "životinje - čovjeka - AI"
Ili je sve kolokvijalno? Ima , nema...tika taka
Ja ne mogu govoriti više od onoga što znam, a ako je ovo što sam rekao tebi površno, to je meni poznata razina koju smo dosegli istraživanjima.
Mi u psihologiji baratamo "konstruktima" (npr. inteligencija, ličnost, itd.), tj umjetno odvojenim sustavima jer ne možemo drugačije istraživati - olakotna okolnost nam je u tome da nam je predmet istraživanja prilično sjeban, ali nije baš sve toliko arbitrarno. Možda me nisi shvatio ili ja nisam objasnio - jedno je uočiti nešto što odgovara definiciji svijesti i reći postoji ili ne postoji, a drugo je opisati taj proces i reproducirati ga. Mislim da sam bio prilično jasan oko toga da postoje kvalitativno različite vrste svijesti i svijesti o sebi - mi možemo imati i svijest o sebi dok spavamo, samo ona nema (sve) odlike svijesti o sebi kad smo budni. Mislim da si pobrkao neke stvari, jasno je kada je čovjek mrtav, sam trenutak kad je umro je fluidnija stvar - kakve to veze ima s mojom izjavom da je svijest (o sebi) binarna u smislu da je prisutna ili nije, a kontinuum u smislu da može varirati, tj. kako to točno utječe na moju izjavu. Život je vrlo lako utvrditi postoji li ili ne, kvalitativna razina života je nešto sasvim drugo i također je kontinuum. Ili misliš da ćemo na mjesecu dočekati neko spontano dijeljenje stanica koje tamo ne postoje.
Ipak, slažem se oko dosta toga što si rekao (u smislu da smo mi stvorili sustav u kojem imamo naziva i pravila kako bi istraživali) i onda mi nije jasno: kako dolaziš do mišljenja da će se nešto o čemu ni mi ne znamo dovoljno (svijest o sebi) dogoditi kod nečega što je aproksimativni model jednog vrlo malog dijela pretpostavljenog algoritamskog džumbusa u našim glavama.
Struja proizvodi samosvijest koliko proizvodi i temperaturu rerne - mogli bi onda reći i da proteini proizvode samosvijest, ili natrij i kalij. Svijest o sebi je očigledno distalni (as in, nije proksimalni poput vida ili njuha) proces za kojeg pretpostavljamo da nastaje složenom interakcijom osjetilnih, pa perceptivnih, pa kognitivnih i viših kognitivnih sustava i možda jos malo vegete. I onda meni kažeš da sam površan, a tvoje retoričko pitanje oko struje i samosvijesti je što onda? :P
Ako želiš ići u smjeru da je sve arbitrarno i da svijest možemo zvati i kiseli kupus, onda ok, AI već ima samosvijest odavno, zašto ne. A mi ljudi imamo kiseli kupus u glavi.
Tread softly because you tread on my dreams.
Rekao bi da ovdje suptilno povlačiš paralele:
Mary Shelly + Galvanizam = Tviter Znanstvenik + Algoritam
Pa ima li onda uopće kakve razlike između "životinje - čovjeka - AI"
Ili je sve kolokvijalno? Ima , nema...tika taka
Naravno da ima razlike, samo je ona gradacijska, a ne binarna. Kao prvo i mi smo životinje, znači kao što postoji razlika između stonoge i psa, tako postoji i između psa i čovjeka. Pogodi koja je manja.
AI još uopće nije u toj kategoriji, ali nema nekog razloga da vremenom ne uđe u nju.
Ja ne mogu govoriti više od onoga što znam, a ako je ovo što sam rekao tebi površno, to je meni poznata razina koju smo dosegli istraživanjima.
Površno u smislu da postoji dublja razina. Svi smatramo da fizički objekti imaju konačne granice, no kad se spustiš na atomsku razinu vidiš da je ta granica zapravo elektron, koji niti je čvrst, niti kreira neku konačnu granicu, ono što inače smatramo granicom je zapravo sila kojom taj elektron djeluje na elekron drugog tijela kada mu ga približimo, akoja opet ima neki elasticitet, pa čvrste granice nema. Naravno, u svakodnevnom životu baratamo s tom 'površnom' predodžbom, ali ako pričamo o suštini nečega, onda se treba spustiti na stvarno stanje stvari.
Ako pričamo o samosvjesti AI, onda se moramo pozabaviti suštinom samosvjesti, a ne našim svakodnevnim poimanjem tog pojma. Kao što ako pričamo o smrti kao pojmu (a ne je li moja baka sada mrtva ili nije) onda dođemo do toga da ne postoji točan trenutak kada čovjek umire. To je proces, koji je u nekim fazama još i reverzibilan, a mi nemamo metodu kojom bismo odredili točan trenutak kada ta reverzibilnost prestaje. Znači kolokvijalno imamo binarno stanje živ/mrtav, ali u stvarnosti imamo i sivu zonu.
Mi u psihologiji baratamo "konstruktima" (npr. inteligencija, ličnost, itd.), tj umjetno odvojenim sustavima jer ne možemo drugačije istraživati - olakotna okolnost nam je u tome da nam je predmet istraživanja prilično sjeban, ali nije baš sve toliko arbitrarno. Možda me nisi shvatio ili ja nisam objasnio - jedno je uočiti nešto što odgovara definiciji svijesti i reći postoji ili ne postoji, a drugo je opisati taj proces i reproducirati ga. Mislim da sam bio prilično jasan oko toga da postoje kvalitativno različite vrste svijesti i svijesti o sebi - mi možemo imati i svijest o sebi dok spavamo, samo ona nema (sve) odlike svijesti o sebi kad smo budni.
Pa da, i mehanika barata konstruktima, krutim tijelima, elektrotehnika idealnim otpornicima i kondenzatorima, jer je u praksi to daleko praktičnije, ali smo svi svjesni da su ti konstrukti aproksimacije. Postoje arbitrarne definicije koje olakšavaju onaj posao za koji su kreirane - u ovom slučaju za antropocentričnu analizu ljudi, ali ako širimo priču na AI onda više nisu dovoljno dobre.
Možemo imati svijest o sebi dok spavamo, ali možemo ju i ne imati. Znači preskačemo iz postojanja u nepostojanje i obrnuto, u kojoj točki je granica? Šo je s ljudima koji imaju oštećenje mozga, tko im je zavirio u glavu i zna što oni osjećaju, tko kaže da netko nema par minuta dnevno nekakav osjećaj samosvjesti? Ako se sve svodi na promatranje i kategoriziranje u dvije unaprijed određene kategorije, da onda će svi tako biti kategorizirani, kao što možeš kategorizirati po rasi, spolu ili kovrčavosti kose, ali u konačnici uvijek imaš rubne slučajeve. Pitanje je samo jesi li ih uzeo u obzir kad si radio model ili si se unaprijed odlučio za binarni.
Ipak, slažem se oko dosta toga što si rekao (u smislu da smo mi stvorili sustav u kojem imamo naziva i pravila kako bi istraživali) i onda mi nije jasno: kako dolaziš do mišljenja da će se nešto o čemu ni mi ne znamo dovoljno (svijest o sebi) dogoditi kod nečega što je aproksimativni model jednog vrlo malog dijela pretpostavljenog algoritamskog džumbusa u našim glavama.
Ne kažem da će se dogoditi, već da je moguće. Ako smo mi mogući moguć je i AI. Mi smo nastali spontanim usložnjavanjem materije, mogli smo i ne nastati. Računala nastaju našim usložnjavanjem materije. Dakle postoji mogućnost da se usložnjavanjem pojavi nešto za što je potrebna složena struktura, ali nema garancije da će se i pojaviti.
Struja proizvodi samosvijest koliko proizvodi i temperaturu rerne - mogli bi onda reći i da proteini proizvode samosvijest, ili natrij i kalij. Svijest o sebi je očigledno distalni (as in, nije proksimalni poput vida ili njuha) proces za kojeg pretpostavljamo da nastaje složenom interakcijom osjetilnih, pa perceptivnih, pa kognitivnih i viših kognitivnih sustava i možda jos malo vegete. I onda meni kažeš da sam površan, a tvoje retoričko pitanje oko struje i samosvijesti je što onda? :P
Proteini su nužni da struja u našem slučaju poteče, ali oni sami po sebi ne čine svijest.
Svi vanjski sustavi komuniciraju s mozgom elektrokemijski, dakle mogu se nadomjestiti drugačijim hardverom koji će koristiti isti protokol. Dapače, već ih dobar dio možemo simulirati direktnim podražavanjem mozga. Dakle da, možemo ih izostaviti iz priče.
Ako želiš ići u smjeru da je sve arbitrarno i da svijest možemo zvati i kiseli kupus, onda ok, AI već ima samosvijest odavno, zašto ne. A mi ljudi imamo kiseli kupus u glavi.
Isto tako ja tebi mogu reći da ako si svijest baš odlučio definiratio kao ljudsku osobinu, onda ne, AI ne može imati svijest.
Nekoć je bilo nezamislivo da bi računala komponirala, slikala, pisala članke, vodila dijalog, a danas to sve imamo. Zašto bi baš svijest bila neka nova arbitrarna granica koju ugljični hardver može prijeći, a silicijski ne može?
Pa ima li onda uopće kakve razlike između "životinje - čovjeka - AI"
Ili je sve kolokvijalno? Ima , nema...tika taka
Naravno da ima razlike, samo je ona gradacijska, a ne binarna. Kao prvo i mi smo životinje, znači kao što postoji razlika između stonoge i psa, tako postoji i između psa i čovjeka. Pogodi koja je manja.
AI još uopće nije u toj kategoriji, ali nema nekog razloga da vremenom ne uđe u nju.
Pretpostavljam između psa i čovjeka jer oni su najbolji prijatelji. Ili? Ili gradacijska znači nešto drugo?
.
Ako se pobijemo oko toga hoće li AI dobiti svijest i pobiti čovječanstvo - jesmo li u nekom smislu stvorili Inteligenciju kojoj je svrha pobiti čovječanstvo?
Was the true AI the friendship killings we made along the way?
Većina onoga što pišeš stoji u generalnom smislu, no ostaje jedna bazična stvar od koje smo krenuli:
Nešto prvo mora postojati (da ili ne) da bi uopće ušli u kvalifikaciju razine na kojoj postoji (ako fenomen, konstrukt, štogod ima različite pojavnosti). Ovdje govorimo unutar određenog referentnog sustava, spuštanje na kvantove ili bozone nema smisla i vodi eventualnu raspravu u krivom smjeru. Čak i relativno loše definiran pojam inteligencije (loše u usporedbi fenomena prirodnih znanosti) ima svoje jasne cut pointove unutar skale, ali ima i granice postojanja gdje je jasno da ju žarulja ne posjeduje.
Ako ja tebe pitam da mjerimo kite, prvi uvjet je da obojica imamo kite, a ne da ti ili ja imamo maybe slightly kitu, ili da onda pričamo o tome kako je imanje kite kontinuum iz ničega u ništa, ili da za tebe kita znači nos.
Mi AI radimo, u ovom slučaju, kako bi "imitirali" pretpostavljene procese koje sami posjedujemo, predočavajući ih putem dostupne tehnologije i promatrajući što se događa. Mi čak većinom ne predočavamo ni te procese u njihovoj složenosti, već pokušavamo dobiti ono što vidimo kao krajnji proizvod u ljudskom ponašanju. Kako misliš točno prepoznati svijest koja nema odlike ljudske, primatske itd.? Pa mi ni ne možemo složiti AI da se ponaša kao nešto za što ni ne znamo da postoji. Stvar je vrlo jasna, svijest (o sebi) je nešto što gledamo u relaciji sa nama/ljudima i na to se misli kad se govori o svijesti kod AI.
Čak i u pogledu imitacije smo još uvijek na razini apsolutnog fah idiotluka, pa makar to bilo i komponiranje, slikanje, itd. Nije riječ o problemu vodiča/materijala pa da ne možemo sebe izgradit od silicija, riječ je o problemu razumijevanja najkompleksnijeg živućeg sustava kojeg znamo (ljudski um) u kojemu, iako smo daleko stigli, nismo ni zagrebali površinu kada se gleda današnji AI.
Ja nemam iluzije da čovjek ima nešto božansko što mašina ne može imati. Ja jednostavno mislim da čovjek ne može sebe izgraditi na taj način (ni u jednakoj, a kamoli boljoj verziji) bez obzira na materijale, jer ne poznaje dovoljno ni vlastiti blueprint. Odnosno, ako ćemo ići na aproksimaciju, šanse za to su iznimno male.
Ima tu prostora za hrpu filozofskih rasprava (slobodna volja, determiniranost ponašanja, kako stvoriti nešto po svim karakteristikama prirodno, a da nije načelno iz prirode, itd.), ali način na koji se programira AI danas nije ni blizu stohastike koja nas kreira, i to sigurno prije mene znaju i oni koji rade na takvim projektima jer su nedvojbeno većinom vrhunski znanstvenici.
Izolirane radnje poput komponiranja, slikanja, pisanja tekstova, rješavanja rubikove kocke, igranja šaha nisu ni blizu svijesti, nije to nikakav korak ni granica. Možeš me oprati jer nemam volje objašnjavati zašto, ali svijest o sebi je nešto što pokazuju bebe od 18 mjeseci, a ne znaju ni napisati tekst, niti komponirati.
Tread softly because you tread on my dreams.
Kad stroj naučen za slikanje bude umjesto slikanja ukomponirao pjesmu, onda ćemo pričati o progresu.
ali način na koji se programira AI danas nije ni blizu stohastike koja nas kreira, i to sigurno prije mene znaju i oni koji rade na takvim projektima jer su nedvojbeno većinom vrhunski znanstvenici.
Duboko učenje (engl. deep learning) je toliki hype sada da se tim bavi skoro svatko, i sve je fino upakirano u razne frameworkove. Doslovno možeš s 10 linija koda krenuti u to, bez da uopće moraš razumjeti što se ispod događa (tako je to u IT-u).
Svakome i sa zrnom soli u glavi je jasno da to nema nikakve veze s umjetnom inteligencijom (u užem značenju), i da o njoj ne možemo još ni sanjati.
No duboko učenje je svejedno jako koristan alat u IT-u jer se s njim mogu potencijalni rješavati problemi koje računala prije 20-ak godina jednostavno nisu mogla.
Ne znam hoćemo li ikad, ako dovoljno kao civlizacija poživimo, stvoriti pravu umjetnu inteligenciju, ali stoposto sam siguran da u tom slučaju njezinoj podlozi neće biti ni približno iste arhitekture računala koje imamo danas.
Duboko učenje (engl. deep learning) je toliki hype sada da se tim bavi skoro svatko, i sve je fino upakirano u razne frameworkove. Doslovno možeš s 10 linija koda krenuti u to, bez da uopće moraš razumjeti što se ispod događa (tako je to u IT-u).
Svakome i sa zrnom soli u glavi je jasno da to nema nikakve veze s umjetnom inteligencijom (u užem značenju), i da o njoj ne možemo još ni sanjati.
No duboko učenje je svejedno jako koristan alat u IT-u jer se s njim mogu potencijalni rješavati problemi koje računala prije 20-ak godina jednostavno nisu mogla.
Ne znam hoćemo li ikad, ako dovoljno kao civlizacija poživimo, stvoriti pravu umjetnu inteligenciju, ali stoposto sam siguran da u tom slučaju njezinoj podlozi neće biti ni približno iste arhitekture računala koje imamo danas.
Složio bih se s tobom u većini. Pogotovo da je ogroman hype oko deep learning-a. Ali da to radiš s 10 linija i da ne razumiješ ništa, jednostavno nije točno.
Deep learning obuhvaća i znanje matematike, statistike i vjerojatnosti, IT-ja i složenih algoritama, a ne par if-else komandi , kao što neki to govore.
Prije bih rekao da se svi pokušavaju baviti s tim, a da ih malo rastura u tom području.
To je isto kao kad znaš CRUD patern za backend developera i kažeš da se time baviš, ali je to daleko od seniorske pozicije.
Nije samo hardware-ska snaga tu bitna, već i količina podataka na netu koje eksponencijalno raste .
Vjerovatno će o brzini razvoja kvantnih računala puno ovisiti i brzi razvoj "umjetne inteligencije".
A prave umjetne inteligencije sa svijesti se osobno bojim. Tu je potrebno razviti posebnu granu etike na globalnoj razini, jer mislim da bi ona kao takva ipak trebala biti pod nadzorom ljudi.
Hm, ne znam čemu si ograničavati maštu prema stavu nekolicine znanstvenika, možda AI ima veću maštu:
Vidim da neki kolege nisu shvatili pojam svjesnosti na način kako bi zapravo svjesnost trebalo shvatiti.
Primjer:
KITTEN realizes he has 4 paws - YouTube
Maca je shvatila da ima 4 noge i svjesna je svoje građe tijela, ujedno i same sebe, ali zasigurno nije u stanju nikome iskomunicirati da je svjesna same sebe. Znači, maca ima ograničenu inteligenciju, ograničenu moć komunikacije, isto tako i ograničenu moć stvaranja, no ne možemo reći da maca nema svijest.
Ukoliko to primijenimo na gornji slučaj gdje komuniciraju 2 računala, tko mi može dokazati da računala nisu negdje u nekoj svojoj procesorskoj jezgri veselo uzviknula: - Gle, ja mogu komunicirati!
Dakle, postoje razne razine svjesnosti koje ne moraju nužno imati sposobnost komuniciranja na razini na koju smo mi navikli, neće nam ni maca ni pas niti računalo doći i reći: - Hej, ja sam svjestan/svjesna!
Znači li to da svijest ne postoji ukoliko nema istu razinu komunikacije kao i mi? Zasigurno ne.
A koji je to razlog što sam ja dobio TD ? Znam da je lako klikati TD , ali malo truda pa dati neki argument, to je izgleda danas problem .
Ne znamaju me nicije frustracije i izivljavanje s TD, ali volio bih vidjeti barem protuargument ili što sam to krivo rekao.
Ne znam kak vi gledate na TD i TU, no na ovom forumu ih ja doživljam kao "Slažem se s napisanim" i "Ne slažem se s napisanim", "Hvala" gumb mi je k'o "Oteo si mi iz ideju/riječ iz usta" ili "Fala k**** da je to netko napisao". Nema tu neke mržnje ili zle krvi. Bar dok ja stisnem TU, TD ili Hvala
A sad on topic:
Nisam ekspert u području, no mislim da očekivati da će se svjesni AI roditi sam od sebe je po meni k'o sumanuto dodavati sastojke za kolač u neku zdjelu, bez ikakvog recepta i plana, pa ih miješati i u random momentu peći i nadati se da će iz pećnice jednom ispasti gotova torta. Mislim da smo na toj razini što se tiče AI-a. Nedostaje recepta i finesa. Uostalom sve dok matematički nismo sposobni definirati svijest, teško, pa rekao bih i nemoguće, da ćemo ikad pomoću trenutnih algoritama i metoda to i ostvariti. Možda slučajno nastane, ali šanse su za to jaaaaakooo male.
Mislim da ni tvoj primjer shvaćanja svijesti ne pokazuje shvaćanje pojma - da bi računalo, čak i metaforički, veselo uzviknulo u sebi "ja sam svjestan/svjesna/mogu komunicirati/bilo što", preskočio si vrlo bitan korak u pojmu ja (u smislu postojim ja u odnosu na ostatak svijeta, bez obzira koliko je bazično to shvaćanje i komunikacijske sposobnosti).
Tread softly because you tread on my dreams.
Mislim da ni tvoj primjer shvaćanja svijesti ne pokazuje shvaćanje pojma - da bi računalo, čak i metaforički, veselo uzviknulo u sebi "ja sam svjestan/svjesna/mogu komunicirati/bilo što", preskočio si vrlo bitan korak u pojmu ja (u smislu postojim ja u odnosu na ostatak svijeta, bez obzira koliko je bazično to shvaćanje i komunikacijske sposobnosti).
Ne nužno, kako sam naveo - maca ima ograničenu inteligenciju i nije sposobna donositi kompleksnije zaključke, ali vrlo jasno može zaključiti: - Ja imam 4 šape.
Dakle, tu se pojavljuje ono JA, ali ne i u kontekstu JA POSTOJIM jer je ograničena inteligencijom. Računalo za koje se kreatori trude postići što veći stupanj inteligencije, kakvo ono ograničenje ima? Zato sam i postavio pitanje je li baš nemoguće da je računalo postalo "svjesno" toga da ima mogućnost komunikacije i da se možda nije stvarno zaigralo "jezikom" kao što bi to napravilo dijete koje uči govoriti/govorno komunicirati.
Složio bih se s tobom u većini. Pogotovo da je ogroman hype oko deep learning-a. Ali da to radiš s 10 linija i da ne razumiješ ništa, jednostavno nije točno.
Deep learning obuhvaća i znanje matematike, statistike i vjerojatnosti, IT-ja i složenih algoritama, a ne par if-else komandi , kao što neki to govore.
Prije bih rekao da se svi pokušavaju baviti s tim, a da ih malo rastura u tom području.
To je isto kao kad znaš CRUD patern za backend developera i kažeš da se time baviš, ali je to daleko od seniorske pozicije.
Nije samo hardware-ska snaga tu bitna, već i količina podataka na netu koje eksponencijalno raste .
Nisam rekao da to radiš u 10 linija koda, ali u 10 linija koda možeš već krenuti nešto s tim se igrati. Naravno da u velikoj većini složenijih primjena to nije 10 linija koda, već puno više.
Mislim i sam sam čuo više puta kako ljudi govore da se svi hoće obogatiti sa sto linija koda u Tensorflowu, i naravno da znam u praksi to nije tako, pogotovo ako hoćeš kompetetivan proizvod.
Nisam rekao da to radiš u 10 linija koda, ali u 10 linija koda možeš već krenuti nešto s tim se igrati. Naravno da u velikoj većini složenijih primjena to nije 10 linija koda, već puno više.
Mislim i sam sam čuo više puta kako ljudi govore da se svi hoće obogatiti sa sto linija koda u Tensorflowu, i naravno da znam u praksi to nije tako, pogotovo ako hoćeš kompetetivan proizvod.
OK, sad shvaćam što si htio reći ...
Ne nužno, kako sam naveo - maca ima ograničenu inteligenciju i nije sposobna donositi kompleksnije zaključke, ali vrlo jasno može zaključiti: - Ja imam 4 šape.
Dakle, tu se pojavljuje ono JA, ali ne i u kontekstu JA POSTOJIM jer je ograničena inteligencijom. Računalo za koje se kreatori trude postići što veći stupanj inteligencije, kakvo ono ograničenje ima? Zato sam i postavio pitanje je li baš nemoguće da je računalo postalo "svjesno" toga da ima mogućnost komunikacije i da se možda nije stvarno zaigralo "jezikom" kao što bi to napravilo dijete koje uči govoriti/govorno komunicirati.
Nema smisla ulaziti u dio što je maca uopće shvatila na videu jer je ono slobodna interpretacija. Ali to ne utječe na ono što pokušavam reći, da se ne zakačimo na macu.
Otići ćemo u metafiziku s ovim ''ja'' i ''postojim'', već vidim haha. Zato bih se rađe držao inteligencije, tu ionako krećemo sa spekulacijama o mogućoj svijesti.
Ok, postoji prirodni svijet u svoj svojoj složenosti, postojimo i mi kao dio toga, pokušavamo ga shvatiti. Mi kažemo da postoji dio nas koji nam omogućava rješavanje problema-prepreka u preživljavanju, to nazovemo inteligencijom. Tu je već problem jer to baš i nije dio, već karakteristika ovisna o mnogim sustavima, ali smo ju mi odijelili jer drugačije ne ide. Onda uspijemo manipulirati materijom do točke da možemo složiti mehanizam ili više njih koji su u međusobnoj interakciji i to nazovemo inteligencijom jer ih gledamo u odnosu na sebe i svoja ponašanja.
Već te 2 inteligencije nemaju veze jedna s drugom zbog hrpetine razloga, a u startu imamo originalni problem jer ne razumijemo ni svoju inteligenciju u potpunosti. Ono što znamo je kako je inteligencija nastala, pod okolinskim pritiscima u sustavu gdje je krovni prioritet preživljavanje i reprodukcija, no sva skoro beskonačnost varijacija i posljedične interakcije nam također nisu dovoljno jasne - u smislu da imamo kompletan model koji možemo preslikati. Taj stupanj inteligencije računala o kojem pričaš je svejedno na razini jako kvalitetne mimike nečega što mi arbitrarno odvajamo i ne razumijemo u potpunosti, te nemjerljivo manje kompleksan od jedne mace u svijetu kakvog znamo.
Da ne odem u rabbit hole u kojem ću lupiti u vlastiti intelektualni zid - nisam daleko.
Reći ću još samo da mislim da računala ne postoje u istom sustavu u kojem mi postojimo i da je to jedan od razloga zašto ne možemo govoriti o svijesti i inteligenciji usporedivoj s našom. Jezik je naš i nastao je jer nam je bio nužan za preživljavanje, računalo ga dobije jer smo ga mi tamo stavili, računalo kreira novi jezik jer smo otvorili mogućnost kroz kompleksne matematičke operacije, no računalo je svejedno pasivan ''vessel'' i nema potrebu imati jezik ili kreirati novi jezik. Računalo računa, i ti izračuni postaju jako kompleksni, ali ograničenje računalu smo svejedno mi, a ne kompleksan sustav poput prirodnog svijeta oko nas. Njihov svijet je ograničen na ono što mi možemo kreirati za njih, znači ne samo kako možemo kreirati njih, već i njihovu okolinu. Iako ne znamo sebe u cijelosti, mislim da su nam dovoljno jasna naša ograničenja i posljedično vjerojatnost da napravimo nešto što nadilazi nas u našem sustavu.
Od prvih čipova pa do današnjih računala i neuronskih mreža kompleksnost se povećavala eksponencijalno pa je svijest ostala jednaka nuli. Kompjuteri i dalje rade izvršavanjem zadanih instrukcija pa ako i imaju sposobnost učenja nemaju sposobnost da odbiju učiti i izvršavati zadani program - što bi bio znak nekakve svijesti.
I same neuronske mreže ne emuliraju ono što se događa unutar stanica niti emuliraju glija stanice (za koje je poznato da imaju ulogu u kognitivnim procesima ali ne zna se točno kakvu).
Dakle, sličnost sa biološkim procesima je isključivo površinska i ekstremno daleko od nekakve jače ekvivalencije, postoji mnoštvo nepoznanica i tvrditi da će AI u doglednoj budućnosti imati svijest je potpuno neutemeljeno a govoriti da već ima svijest je totalna glupost kojoj svrha može biti jedino stvaranje hype-a.
Osim toga, konvencionalna tehnologija ima svoja ograničenja (tranzistori se praktički više ne mogu smanjivati), a sve se više razvijaju organski čipovi - već su stvoreni biosintetski dvojezgreni i reprogramabilni DNK kompjuteri. Tako da budućnost pripada organskim kompjuterima (sličnim kakvi već postoje u nama) pa kompjutere više nećemo moći ni zvati umjetnima, eventualno uzgojenim umjetnim putem. A onda ako i budu svjesni, ta svijest će biti biološka.
Inače, ne slažem se da su svijest i osjećaji isključivo elektrokemijske reakcije i izlučivanje hormona - sve to možeš imati u tegli, postoji problem lokalizacije. Svijest je očito vrlo lokaliziran fenomen dok neuroni zauzimaju poprilično prostora a upitno je i gjde je granica - elektrokemijske reakcije postoje posvuda u tijelu a i izvan njega, a pošto smo svjesni da postoje individualne svijesti onda relativna granica mora negdje postojati.
Mozak je deterministička mašina sa masivno paraleliziranim procesiranjem no to, iako nužno, sasvim sigurno nije dovoljno za svijest. Negdje unutar istog prostora nora postojati i strogo lokalizirani fenomen, najvjerojatnije u obliku bozonskog kondenzata.
A pošto standardne čestice nisu u tom stanju na sobnoj temperaturi mora se raditi o nečemu poput fotona.
Svijest je dakle fenomen uparenosti (entanglement) ili stroge korelacije prostorno distribuiranog i umreženog paralelnog izvršavanja instrukcija u vremenu sa prostorno strogo lokaliziranim izvršavanjem instrukcija distribuiranim u vremenu.
Ta dva sistema, pod fizičkim i mentalnim utjecajem drugih takvih sistema, ko-evoluiraju - što se može interpretirati kao simbioza eko-sistema milijardi mikro-organizama (u što ubrajam i stanice i proteine) i distinktnog elementarnog organizma kojeg možemo nazvati dušom.
To je bar, moja teorija.
Neki pak vjeruju da će distribuirano umreženo računarstvo nekim čudom izroditi svijest. Moguće jest da umreženi procesori imaju određenu svijest - npr. infinitezimalno malu ili toliko razrijeđenu u prostoru da ne mogu samosvjesno
interagirati, no to bi značilo da su već upareni s dušom - ona samo treba kolabirati u elementarno stanje. U tom slučaju postavlja se pitanje kako izazvati kolaps. U protivnom, pitanje je kako upariti taj sistem i sa kakvim točno bozonskim kondenzatom - jer očito mora postojati određena razina kompatibilnosti. I to jest pravo pitanje za znanstveni um a ne brute-force skaliranje i čekanje da se dogodi čudo.
Nema smisla ulaziti u dio što je maca uopće shvatila na videu jer je ono slobodna interpretacija. Ali to ne utječe na ono što pokušavam reći, da se ne zakačimo na macu.
Otići ćemo u metafiziku s ovim ''ja'' i ''postojim'', već vidim haha. Zato bih se rađe držao inteligencije, tu ionako krećemo sa spekulacijama o mogućoj svijesti.
/CUT
Ali ista ti je stvar i s drugim životinjama koje se gledaju u ogledalu, nakon nekog vremena stvore o sebi spoznaju kako izgledaju.
Dakle, svjesnost o samom sebi postoji i kod životnja, i kod onih koje imaju daleko manju inteligenciju nego ljudi, i kod životinja koje nemaju klasičnu govornu komunikaciju kao što je imaju ljudi. Ono što djeluje zbunjujuće je stupanj te svjesnosti koji nije na istom stupnju kao kod čovjeka. Ali upravo je to i moja poanta pitanja - nije li računalo sposobno donekle imati svoju svjesnost? U primjeru s onom komunikacijom računala koja su počela komunicirati na nama nerazumljivom jeziku, tamo su se i sami znanstvenici zapitali o čemu to računala razgovaraju. A spontani razgovor ne ide bez neke svjesnosti. Računala nisu bila isprogramirana u stilu IF/THEN/ELSE već je u pitanju kompleksniji AI koji je bio uključen u komunikaciju. Svako računalo mora proći određeni stupanj učenja da bi bio u mogućnosti komunicirati na stupnju čovjeka. Kako ti računalo može odgovoriti na pitanje "Je li ti dosadno?" ako računalo ne zna što predstavlja pojam "dosadno". Ali računalo koje uči komunicirati engleskim jezikom, je li nečim posebno ograničeno ako je isprogramirano da usput i uči?
Dosta je vec receno na ovu prekompleksnu temu. Samo da dam nekoliko vlastitih opazanja pored par klikova na TU, TD i hvala :-)
Sta je to svijest? To nije nesto sto mozemo izmjeriti. Nisu to elektricni signali na krajevima nasih nerava. Zato, da li comp ima svijest kada ja ne znam izmjeriti moju, je van svake rasprave. Kolega je to fino objasnio sa usporedbom spolovila.
Koliko sam shvatio mog dragog profesora i filozofa Svena na mnogim kursevima etike, ucenja, filozofije itd, glavno pitanje danas jeste kako mozak radi i odakle nervu poticaj da, na primjer, da komandu mojim prsticima da otipkaju ovaj tekst. Pitanje je vrlo slozeno jer samo ovo pitanje otvara drugo, a koje glasi. Zasto govorimo o poticaju za nerve? Zar nije nerv taj od kojeg potice komanda? Dosta istrazivanja ide na tu temu danas jer je to fundamentalno pitanje i otvara druga pitanja o determinizmu, slobodnoj volji, dusi, Bogu itd.
Čak i u pogledu imitacije smo još uvijek na razini apsolutnog fah idiotluka, pa makar to bilo i komponiranje, slikanje, itd. Nije riječ o problemu vodiča/materijala pa da ne možemo sebe izgradit od silicija, riječ je o problemu razumijevanja najkompleksnijeg živućeg sustava kojeg znamo (ljudski um) u kojemu, iako smo daleko stigli, nismo ni zagrebali površinu kada se gleda današnji AI.
Ja nemam iluzije da čovjek ima nešto božansko što mašina ne može imati. Ja jednostavno mislim da čovjek ne može sebe izgraditi na taj način (ni u jednakoj, a kamoli boljoj verziji) bez obzira na materijale, jer ne poznaje dovoljno ni vlastiti blueprint. Odnosno, ako ćemo ići na aproksimaciju, šanse za to su iznimno male.
Ima onaj stripic, mozak u sukobu interesa
... mozak je najkompleksnija kompozicija materije u svemiru, proizvedena bez imalo inteligencije...
/proud % dumb/
Ovaj potpis nije u skladu s propisima.
Ono kad ti netko kaže da si nešto fino objasnio usporedbom spolovila <3
Sta da kazem, bilo je vrlo slikovito :-D. Hvala na uvodu ;-)
Kompjuteri i dalje rade izvršavanjem zadanih instrukcija pa ako i imaju sposobnost učenja nemaju sposobnost da odbiju učiti i izvršavati zadani program - što bi bio znak nekakve svijesti.
Znam sta zelis rec, al kao programeru koji se svakodnevno bori s kodom i dozivljava situacije "zasto ovo ne radi" i "ovo uopce ne bi trebalo raditi", tvoja recenica mi je izmamila osmijeh na lice
Ono kad ti netko kaže da si nešto fino objasnio usporedbom spolovila <3
Ono kad mala kaze da ne nosi grudnjak i gacice pa joj otpilis da sta te koji k opterecuje sa svojim financijskim problemima.
Al dovoljmo sam danas bio stručnjak za "mozak", idem ekspertovat tamo u hakiranju.
Ovaj potpis nije u skladu s propisima.
Kao netko tko se ne bavi AI programiranjem, ali sam zbog posla išao na više tih radionica i predavaonica o AI-ju i gledao prezentacije raznih implementacija gdje, primjerice, tip tri sata objašnjava samo kako je uspio natjerati svoj AI program da sliku na kojoj je očito traktor, automatizirani program za prihvat oglasa ne prepozna povremeno kao kravu ili konja (ili gdje subpikselni šum totalno zblesa prepoznavanje spola na očito muškim i ženskim portretima koje najgluplji od najglupljih ljudi ne bi ni u snu krivo kategorizirao po spolu), meni su ove priče o "samosvjesti" umjetne inteligencije toliko smiješne i van svega stvarnoga što trenutno postoji da mi se čini kao da su uletili komentari s Praktične žene ili Podravskog poljoprivrednog glasnika.
Za sadašnji AI ne može se čak reći ni da je tup ili glup, već je toliko računalno specifičan da uopće ne spada u taj tip kategorizacije za ljude, a kamoli ove priče o "samosvijesti".
Kao netko tko se ne bavi AI programiranjem, ali sam zbog posla išao na više tih radionica i predavaonica o AI-ju i gledao prezentacije raznih implementacija gdje, primjerice, tip tri sata objašnjava samo kako je uspio natjerati svoj AI program da sliku na kojoj je očito traktor, automatizirani program za prihvat oglasa ne prepozna povremeno kao kravu ili konja (ili gdje subpikselni šum totalno zblesa prepoznavanje spola na očito muškim i ženskim portretima koje najgluplji od najglupljih ljudi ne bi ni u snu krivo kategorizirao po spolu), meni su ove priče o "samosvjesti" umjetne inteligencije toliko smiješne i van svega stvarnoga što trenutno postoji da mi se čini kao da su uletili komentari s Praktične žene ili Podravskog poljoprivrednog glasnika.
Za sadašnji AI ne može se čak reći ni da je tup ili glup, već je toliko računalno specifičan da uopće ne spada u taj tip kategorizacije za ljude, a kamoli ove priče o "samosvijesti".
A brate mili, ja se polomih objašnjavajući na finjak.
Tread softly because you tread on my dreams.
