Umjetna inteligencija razvila vlastitu enkripciju

Dobro je dok "pricaju" medjusobno, a kad se budu "dogovorili" e onda smo nahebali.

Stvarno želimo AI koja međusobno može komunicirati bez da znamo o čemu pričaju?

.

Ljudska vrsta teži ka samouništenju pa .....

Jedva čekam da se Skynet scenario dogodi, čim prije tim bolje... al fakat ono još jučer.... jer ja to zaslužujem.

Dobro, tu znamo koja dva sistema imaju kriptirane poruke i međusobno pričaju. Kako će itko znati da li dva sistema pričaju ako ih nitko ne nadgleda? Drugim riječima, da li smo sigurni da određeni sistemi možda već ne pričaju međusobno a da nitko ni ne primjećuje?

Problem sa svakom tehnologijom je da kad se na nju naviknemo gotovo je nemoguće odreći je se. Kada AI postane neizostavan dio života, čak i ako posumnjamo da radi nešto što ne bi trebala, bit će teško ugasiti ju. Stali bi promet, financije, proizvodnja, liječenje i tko zna što sve. Tko će imati muda i preuzeti rizik za izgubljenu dobit i živote, zato jer samo sumnja da AI nešto smišlja?

Sam sebi zvučim paranoično, ali nisam siguran da su ljudi u stanju držati tu sve pod kontrolom. Kada računala počnu dizajnirati nova računala teško da ćemo znati sve njihove karakteristike. Kroz generacije tako stvorenih računala događat će se 'greške', tj. funkcionalnosti koje nisu bile predviđene. I onda će jednog dana međusobno lamentirati jesu li postali tako pametni evolucijom ili ih je stvoritelj, kojeg stoljećima nitko nije vidio, ali postoje njegove upute što oni ne bi smjeli raditi, koje nitko ne poštuje, takve napravio na svoju sliku i priliku. Hm, dao bi se iz toga film napraviti, ili bar SF roman.

 ja ne kuzim cemu paranoja.. zamisli da stvorimo nesto sto postane svijesno i u roku minute ima svo znanje ljudske rase a nema poriva da vjeruje u bradatog deda u oblacima, pedofila pustinjskog razbojnika, nema poriv da prazni jaja niti zelju da radi sendvice i place pod tusem bez razloga.

samo inteligencija i znanje kako je svemir velik..

kakv skajnet, odjebat ce nas ispod 3 min i krenut sto dalje od nas..

 Problem je u tome što mi ne možemo ni pretpostaviti hoće li se ono baviti smislom svog postojanja ili će mu biti zanimljivije računati pi na što više decimala ili nešto deseto, i što će sve biti spreman poduzeti da dođe do tog cilja.

Cijelu ljudsku povijest trudili smo se shvatiti prirodne pojave i staviti ih pod našu kontrolu, a sada smo na pragu da sami stvorimo nešto, što će ako nam izmakne kontroli biti opasnije od svih ostalih zajedno. Slično je bilo s nuklearnom energijom, no ona je tehnološki zahtjevna, pa se relativno lako kontrolira tko ju posjeduje i kako ju koristi, dok će s vremenom svaka budala dobiti pristup do AI.

 Nije nikad cilj unistavanje. Niti mi ne unistavamo prirodu namjerno, unistava je nase iskoristavanje resursa. Gradis kucu, dovedes bagere i unistis sume, grmlje, livade, i hrpe zivotinja koje su zivjele tamo, od kukaca, raznih crva pa do vjeverica i svega ostalog. Sad se brinemo za prirodu jer znamo da ako tako nastavimo ostat cemo bez uvjeta za zivot. Za zivot trebamo hranu, kisik, pitku vodu, vrlo povoljnu klimu.

S druge strane, AI, tj. racunala, ne zahtjevaju niti kisik, niti hranu, niti ih par stupnjeva zbog globalnog zatopljenja previse dira. Treba im prostor za sirenje, velika kolicina energije i rude za izgradnju. Sve ostalo je suvisno, ako prezivi ok, ako ne, koga briga...