Na obavezno osiguranje uvesti opciju dodatnog osiguranja kojim ću biti izbačen iz računice dok pametni auto razmišlja koga da udari.
Prije dva tjedna sam otvoreno pričao sa profesorom Henrik Schärfe-om koji je predavao o projektu humanoidnog robota. Naš razgovor je bio nakon predavanja, uz ručak i tema je otišla u svim smjerovima.
Zaključak kojeg sam dobio iz našeg razgovora je da profesora nije toliko briga za posljedice svojih izuma već isključivo koliko duboko može razviti tehnologiju. Inzistirao sam da mi obrazloži zbog čega razvija robote sa humanoidnim izgledom kad je očito bolja solucija da čovjek uvijek zna kako ima posla sa strojem na što mi je nevoljko priznao kako se to radi zbog trenutnog straha ljudi od robota. Drugim riječima profesor ne vjeruje da će roboti biti prihvaćeni upravo zato jer će uz korist donijeti i mnogo problema ljudima te da se ljude treba pasivizirati preko maskiranja robota u ljudima prihvatljiviji oblik. Nije bio sretan što sam konstatirao da ljudi i roboti nikad neće biti jednaki jer robot uvijek mora biti sluga čovjeku. On robote vidi ravnopravnima i teži ih takve napraviti. Ono što mi se nikako nije svidjelo je da on vidi robota kao osobu koja će biti zauvijek vezana za neku familiju, kao člana obitelji koji nikad neće napustiti nikoga iz te familije i koji će služiti toj familiji između ostalog kao oslonac u slučaju gubitka člana familije jer će robot uvijek moći (kao) nadoknaditi tog člana (to je doslovce njegovo objašnjejne!). u globalu njegova objašnjenja vode u svjet u kojem se ljudi još više izoliravaju od drugih ljudi pošto će sada imati "savršenog" prijatelja/životnog suputnika u obliku robota
I da, pitao sam ga da li se razvijaju projekti spajanja robota i nekakvog biološkog medija koji služi kao filter za krajnju odluku robota i da li je moguće da robot uz pomoć takve promjenjive materije donese drukčiju odluku neg mu njegovo programiranje zahtjeva (drugim riječima da zaobiđe ugrađena pravila). Rekao da se uistinu razvijaju i takvi roboti i takva inteligencija no da ne vjeruje da bi takvo što robot napravio jer "mašine drukčije percipiraju svijet od nas".
Matrix, here we come
Ako će auti biti međusobno povezani, onda onaj na početku kolone može poslati signal da je naglo zakočio. Time bi se spriječio lančani sudar.
No što ako je prvi u koloni troll? Pa počne DDOS-ati lažnim porukama.
I mene zanima tko je autor tog bloga - da li netko tko stvarno odlucuje o 'inteligenciji' tih automobilaili netko tko samo razmislja na glas? Jer ne vidim kako bi itko mogao programirati automobil da lupi neduznog sudionika prometa zato jer on ima kasko ili kacigu.
Autor bloga je, dakako, predsjednik međunarodnog odbora za odlučivanje o inteligenciji automobila.
Da, jer pretesko je shvatiti da mislim na nekog tko se bavi programiranjem ili samim radom na takvim automobilima za razliku od nekog tko samo teoretizira o tome iz fotelje u podrumu. Nije kao da mozemo razmisljati, treba stvari shvacati doslovno.
Autor bloga je gledao previše SF filmova (Ja robot). Činjenica je da ljudi sve programiraju i da je u ljudima problem a ne u vozilima. Ako ja programiram da samo puštaju Rozgu u tim autima, kaj onda? Glupo hipotetsko pitanje. Naravno da ne postoji takva situacija o kojoj raspravljate jer je glupo raditi aute koji su autonomni a da nisu rješeni problemi kao rano prepoznavanje sudara, vožnja prilagođenom brzinom, sigurnost putnika (zračni jastuci, pojasevi....).
Jesi preživio?
Prešao je na Linux, pa si ti sada misli.
@BlueMax: NHF
-sad je biljka... (nebitni osjećaji). Tek ako se probudi iz kome (i vrati na pravi OS...)..
Autor bloga je gledao previše SF filmova (Ja robot). Činjenica je da ljudi sve programiraju i da je u ljudima problem a ne u vozilima. Ako ja programiram da samo puštaju Rozgu u tim autima, kaj onda? Glupohipotetsko pitanje. Naravno da ne postoji takva situacija o kojoj raspravljate jer je glupo raditi aute koji su autonomni a da nisu rješeni problemi kao rano prepoznavanje sudara, vožnja prilagođenom brzinom, sigurnost putnika (zračni jastuci, pojasevi....).
- govoriš o predvidljivim situacijama, koa brzina. Što u slučaju nesreće, u osnovi nedefinirano.. (iskoči rozi zec ili transex-tiranorex, posere se galeb na šajbu, padne WTCrefurbished na put..) soft kaže: sorry, not enough data? Algoritam za sad ne može izvan okvira zadanog programa. Čovjek može, može donjeti dobru/lošu odluku, robot ne. Kao što i naslov sugerira.. nakon tog bi robot mogao završiti na robiji kao 'Zgazimir-I.' .. ili bi programer iz IBMa bio krivac, što ako je virus, što ako je.. ili juzer nije patchirao/upgradeao najnoviji 2ndThursday sec.fix i zabin CAroot pa kočniece ne rade?
Možemo se poigrati biblijskim rajem/jabukom, tj svijest. Imaš svijest, tad si odgovoran, nemaš svijest -nisi, ali tad nemaš ni pravo donošenja odluka, tad to mora raditi odgovorna osoba koja za posljedice može biti nagrađena/kažnjena, ne konzerva kojoj je svejdno.
Bitak, svijest, ludilo.. dali je tad zgažena tratinčica moguća optužnica za genocid i 'gaženje' osjećaja? Ni živim bićima osim ljudi ne dajemo taj nivo 'svijesti' tj odgovornosti, nego je za životinje odgovoran vlasnik itd..
Može li robot voziti je jedno pitanje, odgovor može, može svatko pa i dijete, retardus, dresirani majmun.. no dali ima npr dozvolu, ali je osoba pod utjecajem alkohola (smanjene sposobnosti..) itd. je već dovoljno za zabranu upravljanja. Što ako neki robot ima samo 512MB RAMa i Atom, dali je retardus pa ne smije voziti preko 100konja ili bez roditelja? itd. Dali smije je pravo pitanje. Odgovor (za sad, vjerojanto i za dugoooo vremena), ne smije. Može čak i usporedba npr vozači vlakova/tramvalja su roboti ili ljudi?
-sad je biljka... (nebitni osjećaji). Tek ako se probudi iz kome (i vrati na pravi iOS...)..
Heretiče!!!
Jesi preživio?
Prešao je na Linux, pa si ti sada misli.
@BlueMax: NHF
-sad je biljka... (nebitni osjećaji). Tek ako se probudi iz kome (i vrati na pravi OS...)..
Autor bloga je gledao previše SF filmova (Ja robot). Činjenica je da ljudi sve programiraju i da je u ljudima problem a ne u vozilima. Ako ja programiram da samo puštaju Rozgu u tim autima, kaj onda? Glupohipotetsko pitanje. Naravno da ne postoji takva situacija o kojoj raspravljate jer je glupo raditi aute koji su autonomni a da nisu rješeni problemi kao rano prepoznavanje sudara, vožnja prilagođenom brzinom, sigurnost putnika (zračni jastuci, pojasevi....).
- govoriš o predvidljivim situacijama, koa brzina. Što u slučaju nesreće, u osnovi nedefinirano.. (iskoči rozi zec ili transex-tiranorex, posere se galeb na šajbu, padne WTCrefurbished na put..) soft kaže: sorry, not enough data? Algoritam za sad ne može izvan okvira zadanog programa. Čovjek može, može donjeti dobru/lošu odluku, robot ne. Kao što i naslov sugerira.. nakon tog bi robot mogao završiti na robiji kao 'Zgazimir-I.' .. ili bi programer iz IBMa bio krivac, što ako je virus, što ako je.. ili juzer nije patchirao/upgradeao najnoviji 2ndThursday sec.fix i zabin CAroot pa kočniece ne rade?
Možemo se poigrati biblijskim rajem/jabukom, tj svijest. Imaš svijest, tad si odgovoran, nemaš svijest -nisi, ali tad nemaš ni pravo donošenja odluka, tad to mora raditi odgovorna osoba koja za posljedice može biti nagrađena/kažnjena, ne konzerva kojoj je svejdno.
Bitak, svijest, ludilo.. dali je tad zgažena tratinčica moguća optužnica za genocid i 'gaženje' osjećaja? Ni živim bićima osim ljudi ne dajemo taj nivo 'svijesti' tj odgovornosti, nego je za životinje odgovoran vlasnik itd..
Može li robot voziti je jedno pitanje, odgovor može, može svatko pa i dijete, retardus, dresirani majmun.. no dali ima npr dozvolu, ali je osoba pod utjecajem alkohola (smanjene sposobnosti..) itd. je već dovoljno za zabranu upravljanja. Što ako neki robot ima samo 512MB RAMa i Atom, dali je retardus pa ne smije voziti preko 100konja ili bez roditelja? itd. Dali smije je pravo pitanje. Odgovor (za sad, vjerojanto i za dugoooo vremena), ne smije. Može čak i usporedba npr vozači vlakova/tramvalja su roboti ili ljudi?
U slučaju i najmanje greške auto stane na stranu i ne miče se.NIje važno dali je zec,srna,brod ili nuklearka.On se neče maknut dok se greška bilokoje prirode ne odstrani ili dok ga pauk ne odveze.A dali je greška zec na cesti ili unhandled exception u programu njega nije briga.
Autor bloga je gledao previše SF filmova (Ja robot)
na pitanje profesoru Henrik Schärfeu za koji film on smatra da najrealnije pokazuje budućnost u kojem se smerju kreće robotika rekao je upravo - I robot
mislim da je problem upravo u nama smrtnicima koji nemožemo pojmiti ono što se radi iza zavjese a ne u tome da su oni pretjerano optimistični
U slučaju i najmanje greške auto stane na stranu i ne miče se.NIje važno dali je zec,srna,brod ili nuklearka.On se neče maknut dok se greška bilokoje prirode ne odstrani ili dok ga pauk ne odveze.A dali je greška zec na cesti ili unhandled exception u programu njega nije briga.
jel se ti zajebavas ili ozbiljno ovo pises?
U slučaju i najmanje greške auto stane na stranu i ne miče se.NIje važno dali je zec,srna,brod ili nuklearka.On se neče maknut dok se greška bilokoje prirode ne odstrani ili dok ga pauk ne odveze.A dali je greška zec na cesti ili unhandled exception u programu njega nije briga.
A sto ako tvoj ili automobil ispred tebe ne detektira dobro poledicu i izgubi kontrolu? Ili naleti na otvoreni saht koji je neki cigan maznuo? Ili ga pogodi avion. 
Uvijek imas neplaniranih situacija.
Ljudi u pravilu nemaju dovoljno informacija o okolini i presporo reagiraju, pa sta god da se desi, nece biti odgovorni dok god su postivali pravila.
Strojevi su druga prica jer su brzi i imat ce daleko vise informacija. Moci ce izabrati sto uciniti u takvim neplaniranim situacijama.
Strojevi su druga prica jer su brzi i imat ce daleko vise informacija. Moci ce izabrati sto uciniti u takvim neplaniranim situacijama.
I ako je neki seljo bojom i četkom napisao na komadu kartona "Nemoj prelaziti preko šahta, drži se na komadu žice!!!".
Kako bi reagirao vozač a kako stroj?
Autor bloga je gledao previše SF filmova (Ja robot)
na pitanje profesoru Henrik Schärfeu za koji film on smatra da najrealnije pokazuje budućnost u kojem se smerju kreće robotika rekao je upravo - I robot
mislim da je problem upravo u nama smrtnicima koji nemožemo pojmiti ono što se radi iza zavjese a ne u tome da su oni pretjerano optimistični
Mislim da nije u pravu. Prije će nam budućnost biti u ratovima za resurse a ne u nadmetanju sa umjetnom inteligencijom.
Prije će nam budućnost biti u ratovima za resurse
Ta budućnost je već tu, uživajmo...
Zanimljiva tema.
Mislim da ce se za sva ta pitanja koja nemaju jedan ispravan odgovor, rjesiti kao i do sada: slucajnim odabirom. A 'moralni' cip bi mogao sluziti jedino za detekciju takvih dvojbi i osigurati slucajnu reakciju. U protivnom ne vidim jednostavno rjesenje. Ima puno takvih primjera. Npr. birati izmedju trudnice s jedne strane, i mamu s djetetom s druge. Stariju ili mladju osobu. Psa ili macku. Tko ce odluciti po kojem kriteriju isprogramirati moralni cip. Po meni nema sanse predloziti logiku s kojom bi se slozila vecina. Zelimo li da autonomna prijevozna sredstva udju u upotrebu, vjerujem da je slucajan odabir jedino moguce rjesenje za moralna pitanja.
S druge strane pitanje procjene troskova sudara i kasko osiguranja... cekaj sto bi trebao auto odluciti? da smanji trosak vozacu vozila s kojim se sudara ili osiguranju? Sumnjam da ce se osiguravajuce kuce (banke) i povezani lobiji sloziti s time da se ugradjuje logika takva da se namjerno povecava trosak osiguranjima. To ce zavrsiti isto kao i ona moralna pitanja, ili ce iznos osiguranja od automobilske odgovornosti znacajno porasti.
Autor bloga je gledao previše SF filmova (Ja robot)
na pitanje profesoru Henrik Schärfeu za koji film on smatra da najrealnije pokazuje budućnost u kojem se smerju kreće robotika rekao je upravo - I robot
mislim da je problem upravo u nama smrtnicima koji nemožemo pojmiti ono što se radi iza zavjese a ne u tome da su oni pretjerano optimistični
Mislim da nije u pravu. Prije će nam budućnost biti u ratovima za resurse a ne u nadmetanju sa umjetnom inteligencijom.
uopće se ne slažem - "rat za resurse" je trenutno stanje, zabava za mase, imperijalizam koji još uvijek i silom pokorava "neposlušne". Budućnost će biti pasivna za većinu ljudi, stanje dobrovoljnog ne uplitanja u tehnokraciju i progon onih koji se upliću, te roboti koji drže ovce u stanju pasiviziranosti.
Naime sukob ima svoj početak, vrhunac i kraj stoga to nemože biti konačno stanje već trenutno. S druge strane pasiviziranost nema početak, vrhunac i kraj već je dobrovoljno stanje za koje se svaki čovjek sam odluči. Da je to tako vidi se iz slijedećih primjera: mikrovalna - čemu kuhati kad se može podgrijati. televizor s kamerom i internetom u jednom - čemu ramišljati što želite vidjeti kad veliki brat misli umjesto vas, roboti - čemu raditi kad će posa biti obavljen umjesto vas.
vaša svrha - da šutite dok ne prestanete biti prijetnja po sustav koji vas pasivizira jer što je ljudska pasivnost veća tp je veća i moć sustava koji su potiče
Baš me zanima koliko bi pala cijena SUVova da se to stvarno ostvari
Pri kupnji automobila u startu imaš 10 puta veće šanse da ćeš doživjeti prometnu 
U slučaju i najmanje greške auto stane na stranu i ne miče se.NIje važno dali je zec,srna,brod ili nuklearka.On se neče maknut dok se greška bilokoje prirode ne odstrani ili dok ga pauk ne odveze.A dali je greška zec na cesti ili unhandled exception u programu njega nije briga.
jel se ti zajebavas ili ozbiljno ovo pises?
-veći problem ako je ozbiljan.. (ili nevozač pa nabacuje što se uhvati).
@ g, npr tunel, autoput (zabranjeno i izuzetno rizično, tad zbog zeca imaš mrtvih ko salate u lančanjaku), pa do benignih čepova u gradu.
Ma te sheme Terminator i slično se neće dogoditi. Koliko god "pametni" roboti bili nemaju i nikada neće imati svjest o sebi i da moraju produžiti vrstu, bla bla. Auomatizirani procesi već postoje jako dugo u zrakoplovstvu i pomažu ljudima da recimo slete pri 0 vidljivosti. Ista stvar će biti sa automobilima. Prilikom takvih nesreća nije jedan čimbenik presudan nego puno njih koji su se poklopili u isto vrijeme. Ne postoji toliko pojednstavljen slučaj u kojem nije kriv ni biciklist ni mačka ni pijani vozač, nego "robot šofer".
U slučaju i najmanje greške auto stane na stranu i ne miče se.NIje važno dali je zec,srna,brod ili nuklearka.On se neče maknut dok se greška bilokoje prirode ne odstrani ili dok ga pauk ne odveze.A dali je greška zec na cesti ili unhandled exception u programu njega nije briga.
jel se ti zajebavas ili ozbiljno ovo pises?
MIslim da je sigurnost puno puno važnija od (u ostatku rečenice koristim maksimalni sarkazam od sada) "Osjećaja orgazma koji dobijem kada osjetim rad motora."
Ne kažem da se to odnosi na tebe ali se ljudi sa takvim stavom konstantno javljaju po ovakvim i sličnim temama.
U slučaju i najmanje greške auto stane na stranu i ne miče se.NIje važno dali je zec,srna,brod ili nuklearka.On se neče maknut dok se greška bilokoje prirode ne odstrani ili dok ga pauk ne odveze.A dali je greška zec na cesti ili unhandled exception u programu njega nije briga.
A sto ako tvoj ili automobil ispred tebe ne detektira dobro poledicu i izgubi kontrolu? Ili naleti na otvoreni saht koji je neki cigan maznuo? Ili ga pogodi avion. Uvijek imas neplaniranih situacija.
Ljudi u pravilu nemaju dovoljno informacija o okolini i presporo reagiraju, pa sta god da se desi, nece biti odgovorni dok god su postivali pravila.
Strojevi su druga prica jer su brzi i imat ce daleko vise informacija. Moci ce izabrati sto uciniti u takvim neplaniranim situacijama.
Jeli shvaćaš šta mislim pod "bilokakva" greška,ili bilo što nepravilno? Uostalom po ovome što ja mislim prije se plašim da bi auti previše stajali,i za to bi uveo manulanu premosnicu ili barem gumb"Sve sam provjerio(ja osobno) možeš nastavit."
Jeli shvaćaš šta mislim pod "bilokakva" greška,ili bilo što nepravilno? Uostalom po ovome što ja mislim prije se plašim da bi auti previše stajali,i za to bi uveo manulanu premosnicu ili barem gumb"Sve sam provjerio(ja osobno) možeš nastavit."
- misliš kao UAC kojeg isključiš? Koji je tad smisao UACa ili inteligencije koja služi eliminaciji rizika? Što kad npr hitna juri? Što kad..
Zapravo, ti trebaš postavljati (bilo kakva) pitanja (sam sebi) i smišljati odgovore. Može i zašto je nebo plavo, nije glupo, a odgovor možda je, možda je točan, možda je nevažan. Postavi si pitanje za bilo koju hipotetsku situaciju koju može smisliti Tarrnetino, na to daj neki odgovor kojeg možeš (pokušati) obraniti.. ako sam sebe srušiš, tad preskoči to kao dobru tezu/argument.
Dakle, koji smisao je tad postojanje bajpasa? Dali završna rečenica znači da je robot zapravo donio pogrešnu odluku? Dali je tada (ne)sposoban za samostalnu vožnju? Pazi ne automatsku, nego samostalnu (a to implicira donošenje odluka). Kvaka 22, i ovce i novce?
Jeli shvaćaš šta mislim pod "bilokakva" greška,ili bilo što nepravilno? Uostalom po ovome što ja mislim prije se plašim da bi auti previše stajali,i za to bi uveo manulanu premosnicu ili barem gumb"Sve sam provjerio(ja osobno) možeš nastavit."
- misliš kao UAC kojeg isključiš? Koji je tad smisao UACa ili inteligencije koja služi eliminaciji rizika? Što kad npr hitna juri? Što kad..
Eh to je sada već pitanje implementacije(ostatak posta mislim da ti je već prije odgovoren,ali neću se ponavljati).Jurenje hitne se svakako može simulirati tako da se auto parkira sa strane ili oslobodi nekako prometni trak hitnoj.Naravno govorim u situaciji gdje je 99% auta na cesti upravljano računalom a ne čovjekom.
Ja osobno,ne kažem da je ovo slijedeće kaj ću reći najbolje rješenje,ali ja osobno nebih dao da se automatizam trajno iskljući.Nego bih dao da korisnik nakon svakog paljenja auta ako želi manualni override da mora ponovno aktivirati override.Znači da override postoji ali da se koristi manje od 1% vremena(idealno rečeno).
Na kraju krajeva statistika je već rekla da su samovozeći auti pouzdaniji od ljudskih vozača.A ati su fakt prošli kroz svakakve testove,uključujući reagiranje na nepredvidive situacije.
-ne, nego to tako prezentira strana koja vjerojanto ima neki svoj interes.
npr ne postoji dokaz koji navodiš, jer ne postoji...(razmisli što nedostaje u toj statistici) ali ga se koristi kao argument sigurnije vožnje?
-automatsko parkiranje je recimo OK stvar, eliminiraju se greške/loše procjene. ABS, mjenjač.. to sve pomaže. Ali to nije samostalna vožnja i sve što se tad time implicira, pa do npr odgovornosti. + naslov s dubljim značenjem, jer tad robot ima sva prava kao i ''ljud''.
Podsjeća me na ovaj vic:
Došao čovjek pred suca jer je u automobilskoj nesreći usmrtio 21 osobu.
"Opišite nam kako se to dogodilo" reče sudac.
"Gospon sudac, ušao sam prevelikom brzinom u zavoj.
Vidim, s jedne strane 20 ljudi, s druge strane samo jedan čovjek.
I, rekoh, bolje da zgazim ovog jednog nego onih 20.
Kad, budala počne trčati prema onih 20..."
Najbolje da se svi vozimo u tenkovima.
Najbolje da se svi vozimo u tenkovima.
Da, ali bi onda bio najpozeljnija meta jer bi AI zakljucila da ti imas najbolje sanse da prezivis. Morao bi lakirati tenkica svako dva dana. Fuck that. Nema nista gore nego kad ogrebes novi lak na autu (u tvom slucaju tenkicu).
my little tenkić.
+ AI koji procjenjuje šanse, npr dali uzima u obzir i psihofizičko stanje osobe, zdravlje, pa i krvnu grupu (nuler?) u obzir? Istovremeno, ako da, tad krši zakon (o zaštiti osobnih podataka) itd.. (da ne spominjemo npr afroamerikans boju kože koja je osjetljivo pitanje preko bare, ili ako osoba nosi turban = taliban? Dal ga napasti, jer mu je to ionako životni cilj ali i rizik da su bombe.. pa ode pola grada).
Najbolje da se svi vozimo u tenkovima.
Da, ali bi onda bio najpozeljnija meta jer bi AI zakljucila da ti imas najbolje sanse da prezivis. Morao bi lakirati tenkica svako dva dana. Fuck that. Nema nista gore nego kad ogrebes novi lak na autu (u tvom slucaju tenkicu).
...što me odmah podsjetilo na:
...što me odmah podsjetilo na:
Vlado ti si živ? 
Tužba je povučena, pretpostavljam?
...što me odmah podsjetilo na:
Would you like to come for a ride in my little tank? 
