Najgori AI scenariji: što će nam Terminatori kad i

Suma sumarum, kopamo sami sebi svoj digitalni grob. Definitivno se ne treba previše oslanjati na računla, smanjiti njihovu kontrolu nad nama. Ipak je čovjek taj koji treba donijeti promišljene odluke, a ne stroj.

..hmm.. :))

Ljudi ne smiju doći u iskušenje da zbog brzine odlučivanja zapovjedne odluke i kontrolu prepuste strojevima i uklone ljudski nadzor ..

-rečenica koja zvuči ok.. no ekšli besmislena, što ću sad objasniti.

-prvo, 'laički' (na prvu) je ok, logična, nećemo prepustiti kontrolu-odlučivanje 'nečemu' što može biti na pogrešnim pretpostavkama-informacijama, običan 'tetris' algoritam koji može 'pogrešno' protumačiti faktore i donjeti kobnu (pogrešnu?) odluku.. pa za sve stavljamo 'osigurač', tj čovjetka-osobu. .. i happyend, kraj priče, svi idu kući razdragani jer su riješili problem... ili nisu? :)

-tko je taj čovjek-osoba? npr vojska-vojnici, zapovjedni lanac, drilanje-rutina, naredbe.. što se s gušterom radi od prvog dana? prvo pravilo, 'nemaš ti što razmišljati, slušaš narebe..', dok ih drilanjem dovode do robotizacije, pa čak i refleksno, recimo da je osoba ranjena i sl. .. kao pilot za katapultiranje ili nešto što treba napraviti.

-tad, odlujuje li algoritam ili trenirana osoba-vojnik nema bitne razlike, tj svi rade po istim pravilima, ako su podatci takvi moraju donjeti identičnu odluku, akciju, npr ispaljivanje atomčića na zadane ciljeve, što se recimo može desiti ovih dana u ne tako dalekom susjedstvu prema rusiji-ukrajini..

-postoje vojske, postoje rutine, pravila, naredbe.. ako neka letjelica, brod.. dođe u neki prostor, nakon recimo upozorenja bit će recimo oborena.. osoba ili ai zapravo nema slobodu odlučivanja, ima pravila i mora ih provoditi a pravila su takva, granica, ako si je prešao, 'pali'.. .. u popularnom podmorničkom filmu tako rus nije opalio i recimo time spasio američko stanovništvo, pa i svoje zbog odmazde-automatizma tj nije stisnuo the-button i time spriječio armagedon.. nije obavio posao za koji je programiran, po pravilima koje je morao slušati.. tj ispada da ako želimo takav ai moramo stvoriti takva pravila koja će dozvoliti nezivršavanje kao bolju alternativu ili smisao hladnog rata zastrašivanjem, što koriste i ostala bića flore-faune u fejk borbama kočoperenjem i sl. no time se smanjuje smrtnost koja bi u sukobu svakako postojala.

-pitanje što je ekšli cilj .. preživljavanje ili pobjeda? npr primjer pokera-igre.. u kojoj možete pobijediti blefiranjem bez da imate dobru kartu. Može li blef biti legitiman evolucijski kriterij za pobjedu? -ne, tj to je prevara a matematika-logika ne dozvoljavaju varanje ili pogrešne informacije ili pogrešno čitanje lažnih informacija.. a tad dođemo do deepfejka i ostalog što ekšli povezuje temu ili ovaj post :)

-cilj je uvjek, primarno preživljavanje+pobjeda, tj preživjeti znači pobijediti u evoluciji, bio to virus ili dinosaur, lisica-zec-čovjek ili go-šah-ai.. osim što matematika-logika nema blefiranje kao opciju-formulu, dok običan nogometaš ima pa proda fintu protivničkom igraču i zabije gol tj pobjedi..

-ne postoji riješenje.. tj prastaro pitanje-zagonetka-mozgolomka pod nazivom problem tri vojske.. daje odgovor, tj nema ga, kako za pitanje sigurnosti komunikacije, indirektno za ostalo tj ako ne možemo čitavo vrijeme imati kontrolu nad svim faktorima kao što je točnost informacije tad ne možemo doći do matematičkog riješenja, mada i blefiranjem možemo pobijediti.

-znanstvenici koji 'znaju sve' recimo zaborave i takva stara postojeća pravila, tj kad-ako nađu neki odgovor ili 'odgovor' treba ih podsjetiti na ovo pravilo i tad će vjerojatno u provjeri pronaći problem tj demantirati riješenje koje su pronašli.. jednako kao što svaki zamislivi scenarij možemo zamisliti drugačije, s nekim drugim faktorom, npr približava nam se kometa brzinom x ili x2.. ili mase 1t ili 100t.. može biti od sladoleda a može od kikirikija itd. i svaki scenarij koji zamislimo je sam već promjenjiv tj može biti drugačiji i time kao pravilo postaje beskoristan za zaključak tj usporedba s avioprometom zbog razumijevanja, kad se desi neka avio nesreća i utvrde sve činjenice-uzroci tad obično ide drilanje za točno tu situaciju i kako je izbjeći-preživjeti.. i to pravilo-rutina vrijedi za tu situaciju, ne za ostale jednako kao što doktor operira bubreg ako imate problem s bubregom, ne ako je problem slomljena noga tj tad ide drugi odgovor na takav scenarij.. što će reć, scenarij-povod-uzrok daju moguće odgovore neovisno znamo li sve ili imamo li odgovor a pošto su i sami scenariji promjenjivi + varijacije tad ni teoretski nemamo (sve) odgovore.

-može li ai biti pouzdan, pouzdaniji od osobe? može.. no s primjerom ruske podmornice opet suprotan odgovor, tj čovjek nije učinio predviđeno po protokolu i time 'spasio' svijet, tj možda jer ne znamo što bi bilo kad bi bilo.. tj banalno-karikirano, može on pritisnuti the-button i recimo u jednom scenariju button ne radi, neispravan.. rezultat je isti mada je sad želio ispaliti rakete.

-ai može biti pouzdaniji, npr čak nepogriješiv jer čovjek može zaspati, loše vidjeti nešto, .. stroj uvjek jednako, tako će stroj-ai na recimo mjestu vaganja kilograma brašna biti nepogriješiv dok će osoba ipak griješiti i vagati gram manje-više, kao što će calculator točno-brže računati korjene-derivacije a osoba će griješiti jer je ljudski griješiti, što će reći neljudski je ne griješiti :) pa i pape-griješe..

-problem, neriješivo, kao tri vojske, ne možemo ni znati što je bolje, tj imati nepogrešiv algoritam ili pogrešivost-slučajnost jer ruska podmornica kao jedan od primjera to demantira tj to je ipak bolje.

-da bi pogrešivost bila 'prirodna' kao važeći blef u pokeru, ne smije biti algoritamski-matematički točna-zadana, mora imati nepoznati slučajni dio formule inače je predvidljiva kao seed-generator quazi-randoma i to jednako druga strana tad može znati pa tad jednostavno zna da je to blef i u pokeru licitira-pobjedi itd..

-stručnjaci koji to previde, mogu biti stručnjaci, ali su i dalje ljudi, griješe.. :) osim mene...

-zato nema odgovora. Ako netko pomisli da ga ima, griješi.

npr pitanje, što će se desiti s usa-rusima oko ukrajnske granice? samo kićoperenje-blefiranje, rat, .. što se desilo prije pola stoljeća na kubi, što se može desiti? Svi znaju osnovne moguće odgovore, ima rata, nema rata i nešto između.. kao i ako ima rata, posljedica a, b, c.. tj koliko i s koje strane žrtava, koliko raketa, mrtvih.. a dio tog na temelju ovakvih fejknjuzova istok-zapad propagande koja koristi ono što joj odgovara.

......................................

Mislim da se prije Terminatora moramo obračunati sa Lilly, Bobom, Tommyem i Halom