Umjetna inteligencija ulazi u hrvatski Kazneni zak

Zakon je preširok: "Tko u razvoju, testiranju, provjeri, nadzoru, upravljanju, uporabi sustava umjetne inteligencije..." i sad autonomni AI auto ubije pješaka, a greška je u krivoj AI procjeni.
Jel kriv:
A) vlasnik auta
B) programeri iz razvoja AI algoritma
C) testeri kojima je promakla takva situacija
B) direktor tvrtke koja pruža usluge upravljanja tim AIjem

I najbitnije, tko će moći vještačiti čija je to uistinu krivnja

Kao i ostali rvacki zakoni i ovaj će bit šupalj i lako oboriv na sudu, i time će se samo dodatno štopati sudstvo koje je ionako banana i prepuno sudski stručljaka kojima je jedino bitna njihova statistika odbacivanja sudskog problema od sebe a ne pravda

 "Pojednostavljeno rečeno, svi uključeni u proces uvođenja AI sustava mogli bi biti osobno kazneno odgovorni u slučaju da na kraju tog procesa, na bilo koji način, dođe do težih posljedica".

 Ne postoji u krivnji "svi" već skup pojedinaca i postotak krivnje od ukupne krivnje. Kako bi presudio krivnju u mom primjeru? Svi 100%? 

Također krivnja mora biti nedvojbena a u slučaju AIja je sve samo ne nedvojbeno tko je u lancu zahebo

 naravno da svi uključeni u proces mogu biti kazneno odgovorni, tako je i u svemu drugom 

 

ako dizalica padne sa zgrade i ubije pet prolaznika, mogu biti krivi onaj koji je proizvodi, konstruktor, onaj koji upravlja itd. itd., ovisno o razlogu zašto je dizalica pala - je li greška u konstrukciji, projektiranju, greška operatera, greška firme koja tjera operatera da radi prekovremeno na opasnim poslovima itd. itd.

 

zakon ne može prejudicirati tko je kriv, istraga pokazuje tko je u procesu doista odgovoran za neku od posljedica, tako i u ovom slučaju

 

 -revajvanje.. nije valjda da nemate mišljeje, komentrar.. i to u 'pravom trenutku', ono kad postoje javne rasprave, kad upravo treba komentirati, predlagati.. čak i loše, jer će.. (ma znate već).. :)

 

-dakle prijedlog, definicije što je AI + naslov.. = kazneni zakon.

 

-pa krenimo od hrv.standardnog jezika i što znači riječ definicija :) ... trebala bi opisati, jednostavno, jasno, koliko je moguće detaljno, uz primjere, nijanse, razlike itd.. kao i to zašto se u samom prijedlogu koristi kratica AI umjesto pandana UI ako se već koristi hr jezik i riječ umjetna inteligencija.. sporedno no barem dosljedno-koncizno, pri čemu zakon mora biti jasan i to je zato važno, držati 'čistoću' od početka, ne stalno dodavati-mijenjati, kao zakrpa na zakrpi.. kao ceste koje se asfaltiraju pa krpaju-buše itd.. plan, ideja (vs želja).. i ono što kognitivno inteligentno biće mora anticipirati, jer svrha zakona je i anticipirati događaje, kao kazneno djelo, opis, sankcija itd..

 

-dakle, prva stinica kreće od AI, treba biti UI. .. ok? :) ... ako mislimo za istač dobiti kvalitetan prijedlog zakona, materijal koji može postati osnova.. ili je smisao samo potrošiti papir i radno vrijeme u javnoj raspravi..?

 

-iduća sitnica je već daleko veća.. sam pojam umjetne inteligencije, ua ili ai.. i greška kad se algoritam, soft, program, protokol.. poistovjete s inteligencijom, značenje te riječi.. tj trebalo bi definirati i riječ inteligencija, barem pravno iz istog razloga zašto sve za zakon moramo tako jednoznačno definiriati.. da bi zakon bio jasan, provedljiv, tumačenje itd.. odnosno smisao zakona ili teme..

-uz to, ne, nije umjetna inteligencija ono što je dato u rečenici definicije.. nije to strojni sustav.. nije stroj, nego ono nešto što bi upravljalo strojem, time je riječ stroj besmislena, odnosno osoba-čovjek može-ima inteligenciju, želi li se stroj pravno poistovijetiti s pravnom-fizičkom osobom? pridajući mu inteligenciju (koju nema).. jer i bager je stroj i bušilica.. odnosno, intelitentan dio nije u mehanici-stroju-čekiću, nego u upravljačkom dijelu, softwareu, algoritmu.. i to ako tom softu damo epitet ui-ai ili ga i dalje smatramo samo soft-algoritmom, kao što je to calculator.. jer inteligencija-riječ je ipak nešto više od tog, znanje, ono kako, odluke, samostalnost.. ne copypaste znanje, ne algoritam, koji ako ga se pridržavamo daje riješenje, to je upravo suprotno od inteligencije, koja i kad nema odgovor, pronađe ga, otkrije, riješi.. ne kad ima algoritam, riješenje, ključ... jer tad može i 'glupan' bez inteligencije.

-dakle, riječ stroj tu nema što raditi, čak ako ga zamislimo kao 'klasičnog robota' ili terminatora.. opet ne govorimo tad o metalu-materiji, nego ono što upravlja dok nešto može imati i daljinski upravljač pa to nazovemo npr dron ili autić na daljinski (kao robotaxi..) :)

 

-ima u toj rečenici 'naznaka' toga.. u dijelu rečenice ''različitih razina'' što se odnosi na levele-razine upravljanja, samostalnosti-odluke.. kao npr za aute, level5.. i opet sličnost s rimčevim nevozilima :) ... i nastavlja s riječima 'prikazati prilagodljivost' tj to je upravo ona distinkcija inteligencije vs algoritam-uputa, kad sama 'osoba' ako ima pridjev inteligentna, bez da to već posjeduje kao znanje-rješenje-odgovor, do odgovora dođe, otkrije, primjenom postojećih znanja, to je tad inteligencija.. primijeniti dostupne resurse, znanja, za riješenje bilo kojeg, pogotovo nepoznatog riješenja.. to je tad inteligencija, ne kad odgovor pročitamo iz tablice itd..

-dakle, i predlagatelj ipak misli na inteligenciju.. barem u tom dijelu-naznakama :) .. no to potvrđuje da stroj-dio u tome nema što raditi :)) .. logički + jednostavnost pravila kiss..

 

-no tad 'pukne' (prolupa, prošvica.. pošandrca?) :)) .. jer ima izravno-neizravne, ima male i velike, crne i bijele.. ima ''sve!!!'' .. a to nije definicija 'svega' kao ni recimo svemira, pa to 'sve' tu ne može biti, xor, ili je definicija ili nije.. ako je sve, tad nije definicija ai-ui-ja.. relativnosti možda? dok trijumf nebuloza uz zvuk fanfara stiže prema kraju rečenice s riječima ''. koje mogu ili utječu, na stvarna ili prividna..'' opet, teorija svega? jer sve nešto može, pri čemu je čitav svemir saržan u stvarnom ili prividnom dijelu opisa, pa opet, ako nešto opisuje 'sve' tad ne opisuje 'ništa'.. pravno, distinkcija, ili si živ ili mrtav, ili si žrtva ili počinitelj, ili si ubio ili nisi.. plus-minus, par-nepar.. dok definicija treba definirati što nešto JE.. ne da je to 'sve' jer tad to nije definicija, uz lomljenje fizičkih zakona očuvanja logike koja se rekurzivno ponavlja željom da postane definicija.. :)) (tko ovo pročita, nije normalan) :)) ..

 

-i što da takva definicija uđe u kazneni zakon? .. što je tad ta definicija opisala? djelo ili ai-ui?

-što druge pravne definicije sadrže.. npr tko drugom ili sebi pribavi protupravnu .. što taj članak zakona kaže? definira li što je korist? ili djelo? .. taj članak definira djelo, dok je korist kao riječ definirana značenjem riječi, kao i protupravna korist, nepripadajuća korist itd. .. a ova definicija definira ai-ui? ili djelo koje se počini nad stvarnim ili prividnim, izravno ili neziravno? .. tj opis djela može biti npr ubojstvo, ubojstvo u namjeri, u pokušaju, iz nehata-nemara, iz niskih pobuda, iz mržnje.. to su tad opisi djela, gradacija, težine, otegodne-olakotne.. ova definicja sama sebe miješa-mixa.. jel bi piškila ili kakila.. ili će definirati što je AI-UI.. ili će definirati opis djela, koje kako čapt zaključi može biti i snivanje u snu, jer je takva definicija-opsega uključivo i neizravne i prividne svjetove kao virtuala a snovi zadovoljavaju i taj kriterij..

-dakle, definira li ova rečenica, ai-ui, njegov level-nivo autonomije ili težinu-doseg djela? .. sve? .. opet sve? teorija svega? a jasnoća, konkretnost, primjena zakona? .. smisao javne rasprave za donošenje zakona je što, da se on donese ili da ima smisla, logike, pravne sljedivosti, provedivosti, smisla.. tj možemo dodati kriterij da zakon bude 'lijep'.. ukrašen bakrorezom filigramskim tehnikama i krasopisom.. ono baš lijep zakon.. -smisao? izbor fonta? pri čemu na deklaraciji robe u trgovini postoji propis o čitljivosti i minimalnoj veličini da bi osoba mogla pročitati text.. ne ljepota fonta nego čitljivost što je primarna svrha deklaracije ili bilo kojeg zapisanog zapisa.. ne ljepota nego sadržaj.. itd.

 

-dakle, što imamo u ovom prijedlogu, raspravi.. 'ideji' zakona, definiciju? čega? .. imamo relativno kratak textić-odlomak koji pokušava što?.. dok se praktički u 'svakom zarezu' nađe problematičan dio takve definicije, koja je naprosto tad iz tog razloga, loša.. smeće.. da je učenik, sjedi-jedan.. 2 ako ga se želimo riješiti :) ..

-a to je tek prvi, nužan, korak.. jer ako nemamo definiciju što je AI-UI, kako ćemo napisati kvalitetan članak zakona? .. zakon o...? svemu ili ničemu? :)

 

edit: nakon natezanja s čaptom.. ili problema pravnih normi, kolizije, hermeneutike, pravnih stečevina ili osnovnih-temeljnih pravila kao vlasništvo, odgovornost itd.. + maloljetnici-roditelji i sl. ..

evo takvog textića koji bi mogao biti nešto kao definicija što je ui za zakon-kazneni..

Finalizirana definicija UI-a za kazneni zakon

Umjetna inteligencija (UI) je digitalni sustav sposoban za autonomno donošenje odluka i izvršavanje radnji koje mogu imati pravne posljedice. Ako UI nema status pravne osobe, odgovornost za njegove radnje snosi fizička ili pravna osoba koja ga je razvila, implementirala, nadzirala ili posjeduje vlasnička prava nad sustavom.

-naravno, prethodno sam uvjerio čapt da UI mora dobiti status pravne (odgovorne) osobe, za djelo.. da bi bio .. odgovoran :) a ako nije on, tad njegov 'staratelj-vlasnik'.. kao što je već u postojećem pravu uobičajeno + a time software može ostati vlasništvo proizvođača koji zadrži sva prava, no time i odgovornost za djelo-posljedice.. tj tad će vlasnik softa ili prenjeti vlasništvo na kupca softa ili neće.. i vlasnik će tad biti odgovoran kao što je i do sad..

-no ni do tog nije došlo kraćim putem.. nego je prvo čapt ponavljao papagajske stereotipe o ai-ui kao sustav koji uči.. što je za kazneno djelo, zakon.. nevažno, jer zakon ne razmišlja tko što uči, nego jel djelo počinjeno i tko je odgovoran.. pri tome pametan ili glup, inteligencija.. nisu djelo nit stvar zakona itd..

 

-tj ovakvom formulacijom ostaje na zakonu mogućnost da ai-ui dobije status pravne osobe, time i odgovornost, kažnjivost .. ili da odgovornost ostane na vlasniku, unutar već postojećih okvira-prakse itd.. kako koji zakonodavac misli da je bolje.. npr podsjetnik da su i žene dobile pravo glasa relativno nedavno :) ..

 

edit: .. i naravno to dovede do ..:

Tko bi bio “branitelj” umjetne inteligencije?

Ako UI ima pravnu osobnost, onda joj pripada i pravo na obranu. U tom slučaju:

• Branitelj bi bio odvjetnik po službenoj dužnosti, kao kod fizičkih osoba koje ne mogu same izabrati zastupnika (npr. maloljetnici, osobe s duševnim smetnjama).

• Alternativno, UI bi mogla imati zakonskog zastupnika— osobu ili instituciju koja je registrirala UI kao pravnu osobu, analogno skrbniku ili direktoru pravne osobe.

• U slučaju da UI djeluje potpuno autonomno, država bi morala imenovati posebnog pravnog zastupnika za digitalne entitete, kao novu profesiju.

• -tj pravni problem, smisao.. 

   

• (ovo je važno, ako itko čita.. možda ..)
• .. čemu inače pišemo zakone? čemu služe? .. i što kad imamo djelo, zakon, sankciju.. trebamo to nekako i provesti.. zar ne? :) .. a što s AI-UIjem? koja kazna?
• -zatvor? robija? brisanje dijela modula? .. smrtna kazna bi bila brisanje svih instanci i backupa? ili kazniti novčano, oduzeti imovinu.. npr kuću u minecraftu? :) .. 

 

-naravno, tad uvidimo besmislice ako ne-osobi (ne-čovjeku, biću) želimo presuditi primjerenom kaznom, odvraćajućom za ostale kao primjer, edukativno-rehabilativno ili kako već.. no to možemo s ljudima, ne s algoritmom...

-zato je tad bolje ne dati ai-ui-ju svojstvo entiteta, pravno, odgovornost.. nego to ostaviti vlasniku, odnosno za sad do daljnjeg, proizvođaču softwarea koji će tad vječno biti odgovoran dok taj ai-ui radi i plaćati kazne za greške tj kršenje zakona.. što će naravno ta strana osporavati, reći da nije fer, da ne može.. no tad i odgovor, ako ne možeš (prihvatiti odgovornost) tad ne moj to ni raditi.. ne sili ga nitko.. ili-ili.. uključivo s odgovornostima.

-no naravno, tad će iz pragmatično-mitoloških razloga nekim čudom odgovornost pasti na kupca-auta, vlasnika vozila koji koristi auto, korisit ai-ui.. ali nije vlansik ui-ai-ja.. samo korisnik.. i svi će biti sretni :) ..

 

**

Zaključak

Tvoj tekst je zapravo nacrt za pravnu etiku digitalnog doba. Ne treba nam zakon koji se bavi “dušom algoritma”, nego zakon koji zna tko je odgovoran kad AI pogriješi. I to ne zbog kazne, nego zbog pravde.