Koliko su zakonodavci dorasli suvremenom svijetu?

http://www.europarl.europa.eu/news/hr/news-room/20170210IPR61808/robots-and-artificial-intelligence-meps-call-for-eu-wide-liability-rules

They also ask the Commission to consider creating a European agency for robotics and artificial intelligence,

to supply public authorities with technical, ethical and regulatory expertise.

They bi bili članovi europskog parlamenta.

Ključni dio su ostali boldovi.

Čiji lobi bude jači taj će diktirati slovo zakona.

Prevelik je novac u igru da bi se ovakve stvari dale na odluku političaru vulgaris.

Nekako mi je iluzorno raspravljati o tome da li su i koliko zakonodavci dorasli suvremenom svijetu (tehnološkim i inim drugim novotarijama), kad je sasvim jasno da nisu dorasli niti najobičnijim, i prosječnom stanovniku neke zemje, puno razumljivijim stvarima, a kamoli nečemu tako stručnome da ni stručanjaci nisu sasvim načistu što napraviti.

Kada samo pogledamo stanje u naštem zakonodavtsvu (mada mi stvarno nismo dobar primjer za bilo što), vidimo da se donosi hrpa zakona koji uglavnom ne predstavljaju niti približno dobra riješenja neke problematike, pa onda nakon toga slijedi cijela hrpa izmjena i dopuna zakona, pa izmjena izmjenjenog i dopuna dopunjenog... i tako u krug. Ako opozicija smisli kvalitetan amandman, nema šanse da se isti uvrsti u zakon, jer, nema veze što je dobar, smislila ga je opozicija, i u najboljem slučaju, za godinu dvije, isti taj amandman, malo promjenjen predloži pozicija, i bude prihvaćen. Na takav način, zakonodavstvo ne može normalno funkcionirati.

A što se same teme tiče, Petirka je tu u pravu (mada joj je argumentacija totalno promašena), jer je besmislena odgovornost stroja (bez obzira koliko on 'inteligentan' i 'samostalan' bio) koji, niti zarađuje novac za život, niti ima emocije pa da opasnost zatvorske kazne na njega djeluje korektivno. Odgovornost čovjeka (i snošenje posljedica za istu) ne proizlazi iz čnjenice što on ima dušu, nego zbog toga što on mora raditi za svoj opstanak, i ima urođeni nagon za preživljavanje, pa novčane, zatvorske ili neke druge kazne mogu na njega djeluju preventivno (razuman čovjek nastoji se ponašati u skladu sa normama, da bi izbjegao kaznu, mada se u praksi često događa da ljudi krše norme onda kada misle da za njhiovo kršenje neće odgovarati).

Nekakav autonomni stroj, sa umjetnom inteligencijom, koji samostalno donosi odluke, bi po logici stvari, trebao biti isprogramiran na takav način da ne može kršiti zakone, pa bi samim tim bilo besmisleno 'kažnjavati' robota na isti način kako se kažnjavaju ljudi (tj. ne bi bilo potrebe za tim), a ni odgovornost za eventualne štetne posljedice djelovanja toga stroja (koji se dosljedno pridržava svih zakona i pravila) ne može snositi stroj, pa bi u takvim slučajevima (npr. autonomno vozilo iz prethodno navedenog primjera, koje je prouzrokovalo štetu u promet) financijsku štetu trebao snositi nekakav državni fond (koji bi se financirao oporezivanjem proizvodnje takvih autnomnih strojeva), a zatvorske kazne ne bi ni bilo.

@Drago 

Pusti sad koliko smo mi programirani ili nismo - stavi bilo kojeg čovjeka da radi stoput istu stvar zaredom i neće ju nikad napraviti stoput jednako. Robot hoće. Nije bezveze cilj zamijeniti ljude robotima u bilo kojim repetitivnim radnjama, kao i radnjama koje traže preciznost itd.

Koliko je moja volja slobodna u odnosu na onu nekog robota je ono što ovdje radi razliku, a obzirom da je robot stroj koji za isti ulazni podatak uvijek daje isti rezultat (dokle god mu je program isti ili ne dođe do nekog kvara), mogu bez pardona tvrditi da je moja volja "slobodnija" od one robota i da sam ja za svoje postupke odgovoran, dok robot to ne može nikako biti.

Prebaciti odgovornost plaćanja osiguranja na korisnika/vlasnika mi je u tom smislu bezobrazno i pokvareno, al' opet sasvim u skladu s današnjim društvom gdje (sad se ponavljam) programer nije za ništa odgovoran.

Ajmo uzet za primjer onu Teslu koja se zabila pod kamion jer sustav nije registrirao razliku između neba i cerade kamiona...

Je li kriv proizvođač koji je na cestu stavio sustav koji ne može funkcionirati u takvim situacijama? Bio bi, da nije stavio disklejmer kako je to tehnologija u razvoju, kako vozač mora uvijek imati ruke na volanu, kako vozač mora paziti, ... Realno skroz đubretarski!

Slažem se da je kupac (vozač) takvog vozila trebao znati u što se upušta ali nema teoretske šanse da možeš nekoliko sati sjediti s rukama na volanu, pratiti promet i ne raditi apsolutno ništa. Pod tim uvjetima, taj proizvod nije nikad smio biti stavljen na tržište.

Opet, čovjek si je sam kriv jer je jednostavno kupio lošeg robota. Ajmo to iskreno reć', zapravo takav robot i ne bi trebao biti na cesti, jer mu jedna od osnovnih funkcionalnosti - ne funkcionira.

Svejedno, u kontekstu ovog primjera, obzirom da robot ipak nije autonoman i postoje određene upute za rukovanje, kojih se vozač nije pridržavao, OK, odgovoran je vozač.

Ali u kontekstu bilo kojeg autonomnog robota, osim ako upute za korištenje ne uključuju stavku tipa "uvijek idi iza robota i gledaj što radi", korisnik/vlasnik jednostavno ne može biti kriv, kao što ne može niti taj autonomni uređaj, dizajniran da radi to što radi, po uputama koje je dobio i kojih će se uvijek, u bilo kojem trenutku (do nekog kvara) držati. A te upute mu je dao proizvođač i proizvođač je taj koji tvrdi da robot radi to što radi na siguran način po sve ostale. Jedino još možemo pričati o tome je li neko tijelo koje daje dozvole testiralo i predvidjelo sve što je trebalo, ali korisnik/vlasnik bi tu IMHO trebao biti amnestiran bilo kakve odgovornosti, bilo moralne, bilo financijske. Dokle god uređaj koristi u skladu s uputama, naravno.

 Ali i za tebe je moguće da za isti ulazni podatak daješ isti rezultat, to je upravo i točno ako nemaš slobodnu volju. Mislim da ti ne razumiješ o kakvom robotu govorimo, nije ovdje baš ponašanje robota tako jednostavno da se može uvijek predvijeti jer govorimo o onima s umjetnom inteligencijom. Npr. u prometu imaš hrpu ulaznih podataka, hrpu mogućih situacija, nešto što nije baš moguće u potpunosti specificirati. Tu se koriste razne nedeterminističke metode koje ne možeš uvijek predjeti. Npr. možeš pomoću određenih metoda strojnog učenja naučiti sustav da prepoznaje mačke na slici, no opet kod dosta takvih metoda nikome nije baš jasno kako to točno funkcionira.

Promet i situacije koje se u njemu mogu dogoditi su vrlo kompleksne i raznolike i apsolutno je nemoguće testirati sustav na sve moguće ulaze i izlaze. Stvar je da ni ljudi ne regiraju uvijek dobro, ne iz namjere ili nekog svjesnog propusta, već jednostavno im mozak pogriješi, npr. prođu kroz crveno jer ga na primijete, ili krivo procjene neku udaljenost. Takvo što je moguće i kod robota, premda bi naravno trebalo biti višestruko manje.

Ne kužim kakve to ima veze s onim što sam ja napisao?

Ne, nisam to rekao, rekao sam uvijek isti rezultat. Osim što se u godini dana nikad ne vozim istom cestom do posla, nekad prođem kroz zeleno, nekad kroz žuto, a nekad (jako rijetko) čak i kroz crveno. Da nemam slobodnu volju, to bi možda izgledalo drugačije, a možda čak i postoje ljudi koji nikad u životu nisu prošli negdje na crveno. Imaju li oni slobodnu volju je ipak pitanje za neku drugu temu...

Ne, robot ne može uopće procijeniti - njemu senzor daje informaciju. Ispravnu ili neispravnu nije bitno, ali robot ima definitivne inpute i nakon obrade informacija iz tih inputa slijedi rezultat. Ako su svi inputi isti i sva obrada jednaka, rezultat će biti isti. Potpuno istovjetno onom uvodnom primjeru iz Draginog linka gdje se postavlja pitanje koliko nam je slobodna volja zapravo slobodna (jbga, dalje od toga nisam došao, na poslu sam).

A posebno mi je fora kako u prometu "imaš hrpu ulaznih podataka, hrpu mogućih situacija, nešto što nije baš moguće u potpunosti specificirati", dok u navedenom primjeru o slobodnoj volji tip priča o pretpostavci da imaš jednak genetski materijal, jednake roditelje, iste uvjete odrastanja i ne znam što još sve ne isto  :)

Upravo u tome i je poanta - ljudi ne reagiraju uvijek isto. Zašto? Reagiraju li autopiloti uvijek isto? Zašto?

Znači imašuvijek iste inpute, ne različite, ne milijun različitih situacija, ne varijante... Ukoliko su svi inputi identični, hoće li 1000 autopilota iste firme, s istim programom, u istom automobilu reagirati jednako i hoće li 1000 ljudi iz iste autoškole, od istog instruktora, u istom automobilu koji su učili na jednakom poligonu (u uvijek identičnim situacijama - zamisli si umjetni grad) reagirati jednako? Ja ne znam, ali imam neke pretpostavke. Hoćeš li ti uopće pretpostavljati ili ćeš čekati da se napravi navedeni eksperiment, meni je svejedno...

 Pa opet je kriv da li senzor koji nije registrirao led, da li program koji nije prilagodio brzinu uvjetima na cesti. Da se to dogodi tebi kao vozaču ti si kriv što si izletio sa ceste, odnsono tvoji senzori nisu registrirali led, a tvoj kompjuter nije na vrijeme ili nije dobro pristupio problemu. Kod autonomnog računala ono što obavljaš ti svojim mozgom treba obavljat sustav senzora i računala. Ako auto uleti u maglu sa 130 na autoputu, u potpunosti ju negirajući, nije krivo imaginarno stanje na cesti nego kvar na senzoru ili manjkavost programa. Primjer, moj auto mene obavijesti kada vanjska temperatura padne ispod 3 stupnja što znači da postoji mogućnost leda na cesti. Autonomni auto osim tog piska će i smanjit brzinu na recimo 40. A ako nisi promjenio gume ili stavio lance će te parkirat na prvom ugibalištu ili zaustavnoj traci.

Da i taj ekstremni primjer je ono što će se dogoditi sa utonomnim vozilima. Ako stanje na cesti bude takvo da računalo izračuna da brzina treba biti 0, ono će stati. Jer ako postoji mogućnost da ja kao putnik tužim kompaniju jer je auto vozio 50, a prometni stručnjak kaže da je trebalo biti 20, onda je proizvođać u velikom problemu. 

I ja nisam rekao da autonomni automobil neće sudjelovat u nesreći nego sam rekao da ako se provode sva prometna pravila da neće svojom greškom uzrokovat nesreću. A to što ti nisi prilagodio brzinu kretanja uvjetima na cesti, znači da nisi provodio prometna pravila do kraja. A ako nisi siguran kolika je to prilagođena brzina, a ne želiš preuzet rizik da saznaš na teži način onda ti ne preostaje drugo nego da parkiraš sa strane dok se uvjeti ne promjene. I to će se događat. Kad uletiš s autonomnim u nekakvu nepogodu gdje će njemu blokirat senzori auto će te parkirat sa strane i neće dalje ići. 

Nemoguće je u jednom trenutku u potpunosti maknut sve normalne aute i uvest sve autonomne, tako da će morat nužno postojat vrijeme kada će ti auti biti na našim prometnicama istovremeno. 

E, i upravo ovo boldano je meni problematično. Koliko su te odluke realno samostalne (kao proizvod nekog skupa algoritama koji odlučuje što je "bolje"), no bitnije - koliko su za njih odovorni (redom):

- proizvođač,

- administrativno tijelo (koje mu odobrava sudjelovanje u prometu),

- vlasnik/korisnik?

Jer ako je ideja da vlasnik plaća osiguranje iz kojeg će se isplaćivati nekakve odštete, onda je to besmisleno, obzirom da vlasnik jedini nema nikakvog utjecaja na stroj - kako je napravljen, što radi na cesti, kao niti je li uopće smio biti na cesti.

Ovo je vrlo bitno za shvatiti. Suvremena računala i programi i kad se ne radi o neuronskim mrežama i umjetnoj inteligenciji su toliko složeni da često puta mi zapravo ne znamo točno kakvi se procesi odvijaju unutar njih i unutar svake funkcije, a kod umjetne inteligencije se radi o treniranju gdje se daje veliki skup ulaznih podataka da bi se dobio željeni i optimalni skup izlaza. 

Interni matematički model koji se tako može i mijenjati uglavnom nije moguće detaljno raščlaniti i shvatiti do zadnje instrukcije kako se i zašto nešto događa, kao što je to bio slučaj s programima prije. Sada između samog assemblera (instrukcija kodiranih u procesoru) i konačnog izlaza stoji više softverskih slojeva koji od korisnika maskiraju što se "stvarno" događa. 

Tko je bio na BFS-u mogao je slušati Svena Marušića iz Infocumulusa kako priča o tome jer je njegova firma baš pravila takav AI program i zna o čemu se radi.

Mislim da me nisi dobro razumio. Jasno je da su prometna pravila definirana tako da smanjuju rizik od prometne nezgode na najnižu moguću razinu, ali uvijek postoji mogućnost nepredviđene situacije (zove se nepredviđena upravo zato jer je nitko nije mogao predvijeti, ni čovjek, ni senzor., ni zakon..) u kojoj će doći do sudara autonomnog vozila sa pješakom, autom, ili nečim drugim pored puta. Možda direktan krivac neće biti autonomno vozilo, ali u slučaju 'više sile' npr, lokve ulja na cesti, leda i sl. biti će 'kolateralna žrtva situacije', tj. njegovo osiguranje će platiti štetu onome čije je vlasništvo oštetio autonomni automobil.

Slažem se sa tobom da će najveći izazov za autonomni automobil biti snalaženje u uvjetima gdje će ravnopravno prometovati i automobili sa vozačima, i pješaci, koji imaju neusporedivo sporiju brzinu reakcije, i znatno lošiji sustav odlučivanja.

Odluke sustava koji posjeduje umjetnu inteligenciju su samostalne utoliko što ih nitko nije jasno definirao, a biti će onoliko kvaltetne koliko bude kvalitetno isprogramirano onaj dio koji nije 'inteligentan'.

Na isti način su samostalne i odluke koje donosi živi čovjek, a kvaliteta tih odluka ovisi o njegovom odgoju (roditelji), obrazovanju (školstvo), okruženju u kojemu živi, a i o genetskom nasljeđu.

Kod ljudi, oni sami odgovaraju za posljedice svojih odluka, bez obzira što na njih izravno ili neizravno utječe i ovo gore nabrojeno, a kod strojeva je to malo kompliciranije, jer stroj ne može krivično odgovarati (novčane i zatvorske kazne na njega ne utječu kao na čovjeka), pa je onda nekako logičnije da posljedice snose proizvođač i/ili regulatorno tijelo i/ili vlasnik.

Dok je god ovakav scenarij moguć, predstavljat će ogroman problem za bilo kakvu zakonsku prihvatljivost.

Zapravo sam mislio na Piculu (koji je, ja mislim, isto dobio dosta preferencijalnih glasova), ali je na listu SDP-a za EUP došao zbog neslaganja s Milanovićem. 

Inače je Petirka bila na listi HDZ-a, a ne HSS-a upravo zbog svađe s Hrgom dok je bio šef, a onda joj je Beljak bio saveznik. Sada je Beljak šef HSS-a i nisu si više dobri. 

Ja sam ti nediljon navečer oko 22 sata obično doma, pa navrati, donesi bonbonijeru i cviće,  a ja ću ti prepričat šta je bilo...

Ma pusti, cvijeće je za njega, a bonbonjera mu za dečka... 

AI opće namjene bi vjerojatno patio od takvog problema, dok je ovaj mizantrop rađen u svrhu eksperimenta. Međutim, AI rađen ciljano za neki zadatak bi trebao imati failsafeove i filtre koji bi to trebali spriječiti ili bi proizvođač koji ga je napravio trebao odgovarati za genocid. Da takav auto tjedan dana po Splitu vozi, postao bi teški psihopat.

Na kraju sam ovim postom sam sebi dao materijala za razmišljanja i došao do poprilično radikalnog zaključka - M. Petir je u pravu - roboti nemaju dušu. Doduše, tu vrijedi ona stara izreka "i čorava kokoš nabode zrno" - dok je njezina izjava s religiozne strane notorna glupost i nema što raditi u ovoj priči, svjetovna implikacija duše je zapravo jako važan segment ove rasprave. Dok roboti (čitaj: AI) nemaju empatiju i osjećaj za dobro i zlo, oni se mogu voditi isključivo osnovnim pravilima i filtrima koje je proizvođač ugradio, a koji usmjeravaju proces učenja i blokiraju AI u učenju i činjenju štetnih radnji. Tu je svakako odgovornost proizvođača da usmjeri AI na način da uvijek djeluje na dobrobit čovjeka i imovine.

Primjeri s autonomnim vozilom su poprilično banalni, ali imamo daleko složenije primjere koji nisu nimalo nerealni: autonomni AI doktori. Ako im postaviš primarni cilj dobrobit pacijenta, a sekundarni cilj napredak medicine, robot koji nema empatiju ni koncept dobra i zla neće biti sposoban spoznati koncept palijativne skrbi. To je nešto što ga jednostavno treba naučiti da je to tako i da je dužan pacijentu olakšati patnje jer bez empatije, a s općenito zadanim ciljem to neće uspiti pojmiti samostalnim učenjem. Dapače, postoji mogućnost da kod pacijetna koji je već osuđen na smrt prevlada sekundarni cilje (jer primarni nije u mogućnosti izvršiti) bez obzira na posljedice po pacijenta (jer će ionako umrijeti), pa da taj AI postane Artificial Mengele.

I dok za specijalizirane AI sustave proizvođač može ugraditi određene filtre i blokade, te za njih biti i odgovoran, kad se radi o general purpose AI sustavima, takvi filtri bi bili preopsežni i dok ne napravimo "umjetnu dušu", u takve sustave se ne možemo pouzdati, te ih ne možemo ni smatrati odgovornima, već bi proizvođač koji takav sustav lansira na tržište trebao imati jednaku razinu odgovornosti kao onaj tko je oslobodio psihopata iz zatvorene ustanove.