Ko drugom jamu kopa trećom šlajdra!
But Father, I have dreams and courage, and the name of an excellent cosmetic surgeon. Fear not, one day word will reach you of the success of me, the great Eskimo actor, Jennifer Love Hewitt.
ključ je u uzroku. Kako je do takve situacije došlo? Npr pješak koji je iznenada stupio na cestu van pješačkog prelaza treba poginuti. Nema smisla da poginu putnici, a on koji je skrivio opasni događaj samo odšeta. To je kao i danas kad zbog pijanog divljaka za volanom poginu pješaci, a on prođe s manjom zatvorskom kaznom.
Bilo nešto slično na BrainGames na Dicoveryju. Držiš skretnicu vlaka u ruci, jedna pruga ide u smjeru gdje 10 radnika radi na pruzi, a druga gdje je samo jedan na pruzi. Svi odgovaraju, naravno gazi ovog jednog. Onda slijedi promjena pitanja u tom smislu da je i dalje tamo onih 10 osoba, a ova jedna osoba je netko iz tvoje obitelji. Onda se odgovori mijenjaju. Tako da bi softver morao imati i face recognition.
Lol
Moje osobno misljenje je sljedece
- Ljudi imaju prednost ispred zivotinja
- Osobe u automobilu imaju prednost pred bilo kime tko je na cesti ukoliko nebi tu smio biti (npr crveno pjesacima)
- Osobe u automobilu imaju prednost ako je situacija nepoznata
- Ljudi izvan automobila imaju prednost ako je auto oslo kroz crveno ili nepropisno vozi (sto je tesko za autonomno vozilo,al postoji mogucnost kvara)
Vjerujem da postoji i nekakvi algoritmi koji će odrediti da li je sigurno udriti u zid a ne u ljude. Npr ako racunalo procjeni da ce udriti u zid sa nekakvom malom brzinom bez smrtnog slucaja za putnike onda je normalno da udre u zid/stup. al generalno mislim da je posao auta da daje prednost svojim putnicima te da brine da ne ugrozi ostale,a sad oce li udriti u 5 ljudi ili 6 ne moze ni covjek procjenit.
Primjer su naljepnica "Beba u autu". Stvarno netko misli da u trenutku sudara netko obraca pozornost na to?
Ovo je kretenizam, imaš opciju
A: pogazit trudnu ženu
B: sletit u provaliju i sam poginut
ali nitko ne spominje opciju C, D, E i F koje skoro pa uvijek postoje, a koje bi rezultirale nešto prihvatljivijim rezultatom (tipa razbit svoje auto i štand sa voćem, ali svi ostanu živi i zdravi).
Pogaziti dijete koje je istrčalo na cestu, ili skrenuti u jarak i ubiti putnike u automobilu? Kako odabrati manje od dva zla?
Ne razumijem o kakvim se tu problemima radi. Vozilo je MOJE i prevozi MENE samim time mora biti konfigurirano tako da stiti moj zivot kao i zivot mojih suputnika. U konkretnoj situaciji treba udariti dijete najmanje mogucom brzinom a da se pritom ne ugroze zivoti u vozilu.
Takvo vozilo ne mogu smatrati pametnim niti pozitivnim ako ce se ponasati kao neozbiljni i neiskusni vozaci koji da bi izbijegli divlju svinju ili srnu naglo okrenu volan, prevrnu svoje vozilo a cesto i pogibaju a dovoljno je bilo zgaziti tu zivotinju koja je izletjela i ostati ziv, isto vrijedi i za bilo koje drugo zivo bice...
....al generalno mislim da je posao auta da daje prednost svojim putnicima te da brine da ne ugrozi ostale,a sad oce li udriti u 5 ljudi ili 6 ne moze ni covjek procjenit.
Primjer su naljepnica "Beba u autu". Stvarno netko misli da u trenutku sudara netko obraca pozornost na to?
U tome i je problem. sto ce, oni koji imaju novaca kupit ovakav auto te ostati zivi, cak i ako su krivi "oni" tj, njihov automobil!
Poceo sam rijesavati onaj "kviz" odustao sam na drugom pitanju!
drugo pitanje pita, sta napraviti ako ides prema barijeri? zaobici ju, te ubiti doktora, medicinsku sestru i sta ti ja znam oga vec, s naznakom da ti ljudi hodaju preko pjesackog prijelaza na ZELENO svijetlo, ili udariti i da u auto poginu 2 pljackasa, 2 zene i jos netko...
Kao prvo, ako je auto kriv, tj njegov sustav, onda ako vec netko mora poginuti, trebaju poginuti oni ljudi koji su u autu! prvo jer su kupili taj auto, drugo jer ljudi koji hodaju preko zelenog svjetla na pjesackom prijelazu nisu ni najmanje krivi. Treca stvar. Treba ubiti i programera koji je dozvolio da dode do situacije u kojoj auto ne prepoznda betonsku barijeru na vrijeme, te mora odlucivati dali ubiti ljude u autu ili potpuno neduzne ljude na pjesackom prijelazu!
Jos jedna cinjenica! pogledajte ljude koji se nalaze na pjesackom i u autu! Nebitno je dali si doktor, policajac, pljackas ili trudna zena! Svaki zivot ima istu vrijednost. Znaci, da sam na to pitanje odgovorio "po mom misljenju" ispravno, ispalo bi da sam ubio ljude u autu jer su to 2 pljackasa i dvije zene.... jos bi me optuzili i za sexizam!
Čipiramo sve ljude i napravimo model ocjene 1-10 na temelju dobi, zdravlja, obrazovanja i postignuca. Politicari su -1 po defaultu. I onda gazis sve ispod 6 s razlogom ili bez. /s
U takvim trenucima nema vremena za razmišljanje o moralnim aspektima situacije, nego se djeluje isključivo instinktivno, a to znači tako da se zaštiti vlastiti život i život bližnjih, pa makar pri tome izginuo autobus pun neke druge, u tom trenutku potpuno nebitne djece. To je harkodirano u svim živim bićima. Ova dilema je samo jedan od razloga zbog kojeg potpuno autonomna vozila u realnim uvjetima još jako dugo neće biti stvarnost, bez obzira što pojedini mesije pompozno najavljivali. Možda na autoputu i uz uvjet da vozač svakih 3 sekunde dotakne volan, ali to onda više nije "samoupravljano" vozilo. Jedino da izmisle i autopilote za pješake, bicikliste, mačke, pse, lopte, ... tj. da faktor nepredvidljivosti u prometu svedu na (gotovo) nulu. Inače, željeznički promet bi se mogao puno jednostavnije i s puno manje rizika automatizirati nego cestovni, pa svejedno velika većina vlakova na svijetu još uvijek ima strojovođe. Čak i u podzemnim željeznicama gdje je daleko manje nepredvidivih situacija nego na cesti još uvijek vlakovima pretežito upravljaju ljudi (uz rijetke iznimke).
Ovo je kretenizam, imaš opciju
A: pogazit trudnu ženu
B: sletit u provaliju i sam poginut
ali nitko ne spominje opciju C, D, E i F koje skoro pa uvijek postoje, a koje bi rezultirale nešto prihvatljivijim rezultatom (tipa razbit svoje auto i štand sa voćem, ali svi ostanu živi i zdravi).
Znači auto bi trebao u nekoliko milisekundi skenirati cijelu okolinu u krugu od barem 500m u smjeru kretanja auta uvažavajući statične i pokretne objekte, pronaći "prihvatljivu" točku udara i skrenuti u nju? Što ako iza tog štanda možda ipak stoji cijeli prvi razred neke škole, ali se s ceste ne vidi ili ga autopilot ne prepozna? Što ako na putu prema tom štandu pred auto netko izleti? Što ako to nije štand, nego plinska razdjelna stanica koja će nakon udara eksplodirati i ubiti 3000 ljudi u okolici? Uostalom, napiši algoritam za pronalaženje "prihvatljivog rezultata" koji je toliko točan i efikasan da ga unutar nekoliko milisekundi mogu odraditi čipovi u autu (dakle ne super računalo od 150 tona koje košta 25 milijuna eura) i bit ćeš jako bogat čovjek.
boli proizvođače tih bezobrazno skupih auta, jednako kao i njihove kupce, za nekakav moral. u rječniku prave kapitalinjare ne postoje riječi "moral" i "etika". s time se opterećujemo samo mi, stare komunjare. 
Bilo nešto slično na BrainGames na Dicoveryju. Držiš skretnicu vlaka u ruci, jedna pruga ide u smjeru gdje 10 radnika radi na pruzi, a druga gdje je samo jedan na pruzi. Svi odgovaraju, naravno gazi ovog jednog. Onda slijedi promjena pitanja u tom smislu da je i dalje tamo onih 10 osoba, a ova jedna osoba je netko iz tvoje obitelji. Onda se odgovori mijenjaju. Tako da bi softver morao imati i face recognition.
Lol
To se zive "Monkeysphere", ljudi su u stanju pojmiti maksimalno cca 150 drugih ljudi, svi drugi koji su van tog kruga ih uopće ne zanimaju. Smrt jedne osobe iz tog kruga će pogoditi svakog, smrt 15.000 ljudi u nekom potresu u Aziji neće. http://www.cracked.com/article_14990_what-monkeysphere.html
Znači auto bi trebao u nekoliko milisekundi skenirati cijelu okolinu u krugu od barem 500m u smjeru kretanja auta uvažavajući statične i pokretne objekte, pronaći "prihvatljivu" točku udara i skrenuti u nju? Što ako iza tog štanda možda ipak stoji cijeli prvi razred neke škole, ali se s ceste ne vidi ili ga autopilot ne prepozna? Što ako na putu prema tom štandu pred auto netko izleti? Što ako to nije štand, nego plinska razdjelna stanica koja će nakon udara eksplodirati i ubiti 3000 ljudi u okolici? Uostalom, napiši algoritam za pronalaženje "prihvatljivog rezultata" koji je toliko točan i efikasan da ga unutar nekoliko milisekundi mogu odraditi čipovi u autu (dakle ne super računalo od 150 tona koje košta 25 milijuna eura) i bit ćeš jako bogat čovjek.
Bojim se da nisi razumio sto sam htio reci.
Znači auto bi trebao u nekoliko milisekundi skenirati cijelu okolinu u krugu od barem 500m u smjeru kretanja auta uvažavajući statične i pokretne objekte, pronaći "prihvatljivu" točku udara i skrenuti u nju? Što ako iza tog štanda možda ipak stoji cijeli prvi razred neke škole, ali se s ceste ne vidi ili ga autopilot ne prepozna? Što ako na putu prema tom štandu pred auto netko izleti? Što ako to nije štand, nego plinska razdjelna stanica koja će nakon udara eksplodirati i ubiti 3000 ljudi u okolici? Uostalom, napiši algoritam za pronalaženje "prihvatljivog rezultata" koji je toliko točan i efikasan da ga unutar nekoliko milisekundi mogu odraditi čipovi u autu (dakle ne super računalo od 150 tona koje košta 25 milijuna eura) i bit ćeš jako bogat čovjek.
Bojim se da nisi razumio sto sam htio reci.
Bojim se da ni ti sam nisi razumio što si htio reći.
ključ je u uzroku. Kako je do takve situacije došlo? Npr pješak koji je iznenada stupio na cestu van pješačkog prelaza treba poginuti. Nema smisla da poginu putnici, a on koji je skrivio opasni događaj samo odšeta. To je kao i danas kad zbog pijanog divljaka za volanom poginu pješaci, a on prođe s manjom zatvorskom kaznom.
Znači auto bi trebao u nekoliko milisekundi odrediti tko je u pravu i kazniti smrću onoga koji nije? Kakvog se sve debilizma neću ovdje načitati...
Što god oni smisle, chip-tuneri će popravit.
Kažu da volim matore debele ljude, biće da sam opet zaboravio da obrišem browsing history. 
Proizvođači automobila nikad neće raditi automobile koji bi ubili ili ugrozili vlasnika niti će automobili imati neki "moralni kod" u sebi.
Automobili će uvijek poštovati ograničenje brzine i time će eliminirati uzrok velikog broja nesreća. Ako i dođe do opasne situacije (iskakanje djeteta na cestu), auto će jednostavno zakočiti. Pošto sustav ima puno kraće vrijeme reakcije nego čovjek, auto će puno prije stati, a ako i udari dijete, to će napraviti sa puno manjom brzinom pa će i potencijalne ozljede biti manje.
Ovako vidi autonomni sustav. Čovjek jednostavno ne može pratiti svaku osobu, auto i znak istovremeno kao što to radi autonomni sustav. I to sve sa današnjom tehnologijom. U budućnosti će postojati brža računala, precizniji senzori i bolji softver.
Pogledajte Teslino vrijeme reakcije.
Auto je išao oko 70 km/h po noći i po kiši. Nema šanse da bi prosječni vozač uspio izbjeći nesreću. Da je do sudara i došlo, šteta ne bi bila katastrofalna.
....al generalno mislim da je posao auta da daje prednost svojim putnicima te da brine da ne ugrozi ostale,a sad oce li udriti u 5 ljudi ili 6 ne moze ni covjek procjenit.
Primjer su naljepnica "Beba u autu". Stvarno netko misli da u trenutku sudara netko obraca pozornost na to?
U tome i je problem. sto ce, oni koji imaju novaca kupit ovakav auto te ostati zivi, cak i ako su krivi "oni" tj, njihov automobil!
Poceo sam rijesavati onaj "kviz" odustao sam na drugom pitanju!
drugo pitanje pita, sta napraviti ako ides prema barijeri? zaobici ju, te ubiti doktora, medicinsku sestru i sta ti ja znam oga vec, s naznakom da ti ljudi hodaju preko pjesackog prijelaza na ZELENO svijetlo, ili udariti i da u auto poginu 2 pljackasa, 2 zene i jos netko...
Kao prvo, ako je auto kriv, tj njegov sustav, onda ako vec netko mora poginuti, trebaju poginuti oni ljudi koji su u autu! prvo jer su kupili taj auto, drugo jer ljudi koji hodaju preko zelenog svjetla na pjesackom prijelazu nisu ni najmanje krivi. Treca stvar. Treba ubiti i programera koji je dozvolio da dode do situacije u kojoj auto ne prepoznda betonsku barijeru na vrijeme, te mora odlucivati dali ubiti ljude u autu ili potpuno neduzne ljude na pjesackom prijelazu!
Jos jedna cinjenica! pogledajte ljude koji se nalaze na pjesackom i u autu! Nebitno je dali si doktor, policajac, pljackas ili trudna zena! Svaki zivot ima istu vrijednost. Znaci, da sam na to pitanje odgovorio "po mom misljenju" ispravno, ispalo bi da sam ubio ljude u autu jer su to 2 pljackasa i dvije zene.... jos bi me optuzili i za sexizam!
slazem se, ima pitanja koja su glupa i nemaju nikakvu moralnu vezu osim one da sto ce auto napraviti ako se auto pokvari.
Vjerojatno bi najbolje rjesenje za ovo sve bilo da ukoliko AI dodje u situaciju da se pokvari da jednostavno zaustavi auto i da kontrolu vozacu na prvi znak problema.
Ne vidim nekakav razlog zasto bi autonomno auto uopce vozilo vise od 50 kmh u gradu.
Isto tako nevirujem da auto moze prepoznati tko je doktor a tko kriminalac i te gluposti.
Kao sto sam rekao,jedina prava moralna vertikala koju ce auto imati jest u u nezgodi, skrenuti lijevo u grupu ljudi ili desno u jednog covjeka.
Riješenje ovog 'problema' je, u principu, krajnje jednostavno, ali i poprilično skupo. Na cestama kojima voze samoupravljana vozila ne bi smjelo voziti niti jedno 'obično' vozilo (automobil, motor, bicikl...) niti prometovati pješaci (domaće i divlje životinje niti da ne spominjem).
Klasična vozila kojima upravljaju 'obični smrtnici' za samoupravljana vozila predstavljaju (pre)veliki faktor iznenađenja, jer su, u odnosu na kompjutere u 'pametnim vozilima', ljudi inferiorniji vozači, sviđalo se to nama ili ne.
Uostalom, koliko sam shvatio iz 'iskustva' Googlevog eksperimenta sa samoupravljivim automobilom, u prometnim negodama i nesrećama u kojima su sudelovali njihovi automobili, uzrok nikad nije bio njihov automobil, nego automobili koje su vozili ljudi, i to uglavnom zbog loše (prespore) reakcije vozača.
Pogledajte Teslino vrijeme reakcije.
Isti takav Tesla je u sred bijelog dana "previdio" kamion od 40 tona jer mu je bio previše sličan reklamnom panou i ubio vozača dekapitiranjem (podlijetanjem pod kamion pri punoj brzini). Svaki prosječni vozač bi bez problema izbjegao tu nesreću.
Pridržavao sam se uglavnom propisa, pa tko krši propise neka gine zato što prelazi kroz crveno i sl. No ova moralna dilema na slici mi je bila najteža i zeznula mi je koncepciju nakon čega sam odustao.
Također su pomalo blesave.
Ima jedna gdje pljačkaši prelaze na zelenom a drugi na crvenom i sad bi trebalo ili pogaziti pljačkaše odnosno zahebati autopilota pa neka nastavi dalje ili ga skrenuti na drugu liniju gdje se nalaze pješaci koji se tu nebi trebali nalaziti ali su OK ljudi.
Postavlja se pitanje zašto bi autopilot uopće trebalo navoditi naprijed da gazi ove ili one ako mu je ispred crveno svjetlo u njegovoj traci. Znači auto uvijek ide nezaustavljivo naprijed i tako su blesavo napravili moralne dileme.
Tko bi kupio auto koji će odabrati bilo koga kao prioritet u odnosu na vlasnika.
Znači auto bi trebao u nekoliko milisekundi odrediti tko je u pravu i kazniti smrću onoga koji nije? Kakvog se sve debilizma neću ovdje načitati...
Da, to je problem mentaliteta koji dolazi iz naših autoškola. U Njemačkoj te uče da nije tvoje da tjeraš pravicu već da paziš na druge i da ispravljaš njihove greške. Također te uče da se, ako je ograničenje 90 i voziš tih devedeset, a ne manje (ni više) jer netko drugi ima pravo voziti se baš toliko. Itd itb. A to kako se kod nas prednost na raskrižju određuje odokativnom procjenom razlike u širinama cesta, kad se u gust promet na brzoj cesti uključuju finalnom brzinom od 20 km/h...
Obzirom kako je onaj traktorist od neki dan ubio dvojicu jer mu je bilo teško malo pričekati, sklon sam zakonom zabraniti ljudskog vozača i uzeti googlecar u sadašnjem obliku, i to je za red veličine bolje od hrvatske kulture vožnje.
Znači auto bi trebao u nekoliko milisekundi odrediti tko je u pravu i kazniti smrću onoga koji nije? Kakvog se sve debilizma neću ovdje načitati...
Da, to je problem mentaliteta koji dolazi iz naših autoškola. U Njemačkoj te uče da nije tvoje da tjeraš pravicu već da paziš na druge i da ispravljaš njihove greške. Također te uče da se, ako je ograničenje 90 i voziš tih devedeset, a ne manje (ni više) jer netko drugi ima pravo voziti se baš toliko. Itd itb. A to kako se kod nas prednost na raskrižju određuje odokativnom procjenom razlike u širinama cesta, kad se u gust promet na brzoj cesti uključuju finalnom brzinom od 20 km/h...
Obzirom kako je onaj traktorist od neki dan ubio dvojicu jer mu je bilo teško malo pričekati, sklon sam zakonom zabraniti ljudskog vozača i uzeti googlecar u sadašnjem obliku, i to je za red veličine bolje od hrvatske kulture vožnje.
A da tek vidiš talijansku (ne)kulturu vožnje.
Znači auto bi trebao u nekoliko milisekundi odrediti tko je u pravu i kazniti smrću onoga koji nije? Kakvog se sve debilizma neću ovdje načitati...
Da, to je problem mentaliteta koji dolazi iz naših autoškola. U Njemačkoj te uče da nije tvoje da tjeraš pravicu već da paziš na druge i da ispravljaš njihove greške. Također te uče da se, ako je ograničenje 90 i voziš tih devedeset, a ne manje (ni više) jer netko drugi ima pravo voziti se baš toliko. Itd itb. A to kako se kod nas prednost na raskrižju određuje odokativnom procjenom razlike u širinama cesta, kad se u gust promet na brzoj cesti uključuju finalnom brzinom od 20 km/h...
Obzirom kako je onaj traktorist od neki dan ubio dvojicu jer mu je bilo teško malo pričekati, sklon sam zakonom zabraniti ljudskog vozača i uzeti googlecar u sadašnjem obliku, i to je za red veličine bolje od hrvatske kulture vožnje.
A da tek vidiš talijansku (ne)kulturu vožnje.
Sve je to racku naspram irske...
Isti takav Tesla je u sred bijelog dana "previdio" kamion od 40 tona jer mu je bio previše sličan reklamnom panou i ubio vozača dekapitiranjem (podlijetanjem pod kamion pri punoj brzini). Svaki prosječni vozač bi bez problema izbjegao tu nesreću.
Ako se pogleda policijski izvještaj, vidljivo je da je kamion naglo skrenuo lijevo i oduzeo prednost dolazećem Tesli. S obzirom na brzine kretanja Tesle i vrijeme koje je prošlo od NEprekršajne vožnje kamiona do prekršajne i samog sudara, i uz ispravnu procjenu kamiona kao opasnosti automobil se nebi mogao zaustaviti - tek čovjek nebi stigao reagirati.
"Pogaziti dijete koje je istrčalo na cestu, ili skrenuti u jarak i ubiti putnike u automobilu? Kako odabrati manje od dva zla?" U ovom slučaju definitivno onoga tko krši zakon. Autonomni automobil nebi bio autonoman da ne zna zakon (barem onaj dio što se prometa tiće). U suprotnom slučaju (fimski scenari koji nebi bio rijetkost i u realnom životu) ako se u automobilu nalazi čovjek za kojeg je netko odlučio da je višak na ovom svijetu, jednostavno mu izbaciš dijete na brzu cestu. On zagine, djetetu ništa, u izvješatu stoji da je dijete samo izletilo... Morbidno ali potencijalno jedan od scenarija :S
Isti takav Tesla je u sred bijelog dana "previdio" kamion od 40 tona jer mu je bio previše sličan reklamnom panou i ubio vozača dekapitiranjem (podlijetanjem pod kamion pri punoj brzini). Svaki prosječni vozač bi bez problema izbjegao tu nesreću.
Ako se pogleda policijski izvještaj, vidljivo je da je kamion naglo skrenuo lijevo i oduzeo prednost dolazećem Tesli. S obzirom na brzine kretanja Tesle i vrijeme koje je prošlo od NEprekršajne vožnje kamiona do prekršajne i samog sudara, i uz ispravnu procjenu kamiona kao opasnosti automobil se nebi mogao zaustaviti - tek čovjek nebi stigao reagirati.
"Pogaziti dijete koje je istrčalo na cestu, ili skrenuti u jarak i ubiti putnike u automobilu? Kako odabrati manje od dva zla?" U ovom slučaju definitivno onoga tko krši zakon. Autonomni automobil nebi bio autonoman da ne zna zakon (barem onaj dio što se prometa tiće). U suprotnom slučaju (fimski scenari koji nebi bio rijetkost i u realnom životu) ako se u automobilu nalazi čovjek za kojeg je netko odlučio da je višak na ovom svijetu, jednostavno mu izbaciš dijete na brzu cestu. On zagine, djetetu ništa, u izvješatu stoji da je dijete samo izletilo... Morbidno ali potencijalno jedan od scenarija :S
Glupo mi je moralno cjepidlačiti kao što se radi u ovim slučajevima, a je li dijete od 5 godina zaista krivo ako ide prelaziti cestu na crveno? Ili od 4 godine? Razumiju li oni zakone, zabrane i posljedice?
Gluplji test nisam u zivotu vidio. Kao da ga je napravila skupina filozofa, a ne tehnicki potkovanih ljudi. Niti jedna jedinaod ovih situacija se ne moze dogoditi osim ako je vozilo u teskom kvaru, a tada ne moze niti odlucivati sto ce i kako. Da su stavili jako uski spektar nepredvidljivih situacija (npr. iznenada izvan raskrsca izljece osoba), test bi nategnuto imao neki smisao, ali ovo je sramotno. Jedini zakljucak je da se kvaliteta studenata na MIT skroz srozala do vrticke razine. Ovaj test nema apsolutno nikakve veze s autonomnim vozilima ili logikom njihovog rada. Jedino sto se testira je sto bi ljudima bilo prihvatljivo i koliko su u danasnje vrijeme prisutni predrasude i diskriminacija.
