Može li se (i treba li se?) varati tehnologiju za

 Puno ljudi uopće ne razmišlja o kamerama po gradu, zgradama i sl. Već je kasno.

 Sto se ovi alkosi uvijek uzjeb*. Ok, tebe nije briga, kul. Nije nikoga ni briga za tvoje zvrljotine. Onaj koga je briga ce citati i komentirati.

Ima jedna "sitnica" štom tehnologijom, a nemereš biti pro/kontra toliko kompleksne stvari, jer nije crno-bijela, niti je izbor takav.
Mene to ne dotikava u mjeri da ću biti praćen, narušavana intimna privatnost itd.

Nešto drugo - u stvari više tog - je problematično:
1) tehnologija se u "današnjem" društvu prvenstveno smatra načinom zarade. Točnije, sve se u društvu se mjeri prema "etici i moralu" - dobre zarade. Glavni, prečesto jedini kriterij.

2) Zarada nije nužno tek glavni, već često i jedini kriterij. Razumijevanje (implikacija < plural) tehnologije - nije.

3) AI se prvenstveno gleda kroz isti kalup. (sad revni čitatelj ponovi koji je to, detaljno)

4) AI već sada vrti strateške odluke (često i sve češće), bitno je da se donosi profit a ne način kako to funkcionira.

5) AI, kao i svaki kumpjuter, kao i svaki entitet uopće - griješi, i kao što je Danen naveo, moguće ga je prevariti. Točnije, može i sam sebe (svoje investitore...) prevariti. 

Sad dolazi onaj bitni dio:
Bunimo se zbog telemetrije, ciljanog marketinga, reklama koje nas prate tokom surfanja internetom, čudnog izbora rezultata pretraživača stranica, ciljanih spamova u raznim oblicima.

Nude nam se "članci" (promo sadržaj) integrirani u sadržaj stranica koje nas doista zanimaju; sve češće je taj izbor (izbor?) članaka (članaka?) prilagođen pojedinačnom profilu svakog korisnika; drugim riječima, sadržaj bilo čega dobrim dijelom postaje vid reklame, kao vid moguće zarade. Na čudan način, algoritmom loji je neka AI odredila, kako će nas "ubodom" na pravo mjesto potaknuti da se zainteresiramo za nešto sasvim drugo.

Hipotetski: vijest o otapanju ledenjaka će nas možda zanimati, ali ako je ta vijest priložena da nas zainteresira da kupimo npr ruksak a da tog uopće nismo svjesni (zašto bi to u bilo kojoj kombinaciji imalo veze), i ako funkcionira, imamo potencijalni problem. Algoritmi griješe, nerazumljivi su i nelogični... ali su u dobrom dijelu točni: uzorkovanje AI je rađeno na milijunima iteracija - ne varajmo se, funkcionira; za neke bihevioralne stvari nas takve klasifikacije bolje "poznaju" nego li mi sebe sami. 

Algoritmi uzorkovanja nisu lažni, pravi su, ali tek djelomično točni. A polulaž je(pre)često opasnija od laži. Nije problem u tome što će nam AI (neuralna mreža) sugerirati krivo, u smislu da nešto nećemo uraditi ili kupiti (protivno "ideji" AI), već će nam sugerirati djelomično krivu stvar.

Problem je u tome što je rel. lako profilirati sugestibilniji profil korisnika (npr vrlo mladi, stariji, bolesni, različito psih. pomaknuti od prosjeka...), a AI koja se povodi prodajom nekog interesa neće birati ono što je dobro osobi, već ono - što može uspješnije prodati. Točnije, usmejriti osobu prema nekom cilju. Korelacije tog postupka ne znamo i ne možemo znati - prekompleksne su, ali funkcioniraju.
No, osnovni problem nije prodaja nepotrebnih pomagala sa "tv prodaja", već sam vid profilirane - usmjerene sugestije - koja funkcionira.
Naime, vjerujemo da smo samosvjesni i da je svaka ili skoro svaka naša odluka, akt posljedica promišljenog dijelovanja.

Jednako tako možemo postaviti i da smo krajnje determinirani, i da je sve što uopće radimo, pa čak i razmišljamo - samo reakcija na neku akciju uzročno posljedičnih veza, inputa koji su došli izvana.

I jedno i drugo je limitirano tumačenje, no nije u potpunosti netočno. Dobar dio naših postupaka je uvjetovan nesvjesno; postoji čitava grana tzc. social reverse engineering skillova, koje se koriste za "hakiranje" pjedinaca (pa i grupacija) a da tog nismo svjesni. I dalje nismo kadri pojmiti ukupnu ulogu npr Cambridge Analitica u kreaciji Trumpa i Brexita, a postoji velika vjerojatnost da je to bio tek kompleksniji dio zbira strategija bog-te-pita-čega. Potpuno makijavellistički, cilj (recimo profit) se stavlja ispred svega; sredstva (način) postaju irelevantni - o tome "vodi brigu" AI (podaci neke neuralne mreže, algoritmi koji će to riješiti). Kolateralna žrtva prelazi u apstrakciju.
Skraćeno: vrhunska tehnologija pod "vladavinom" idiokracije.

Ono zbog čega sve ovo pišem:

Sjećate li se scene iz "Minority Report" ("Specijalni izvještaj"?), kad T. Cruise dobije mrežnice od neke Kineskinje (iirc), pa se, prolaskom po gradu, svuda naokolo, interaktivni displeji glasno obraćaju direktno dotičnoj gospođi, nude joj podobnosti, usluge, vijesti koje bi dotičnu trebale zanimati? Da, naporno i opskurno. Što je još groznije, napadno sugestivno (što uočavamo kad dođe do greške - ali ne kad nas "pogađa u bit" - onda je to "naša odluka").

Pa upravo takva tehnologija postoji, već je razvijena, i ne ovisi o zjenici već ukupnoj telemetriji, prvenstveno fizionomoji lica. Frendu koji se bavi tom domenom su bili demonstrirani ti displeji, rade fantastično, "sjećaju se" ljudi koji su već prošli i zovu ih na druženje (odn. "korisne informacije"). Mislim da im je to predstavljeno prije 3 godine; projekt je gotov, samo sliejdi lobiranje po EU za implementaciju tehnologije (step by step).

Ono što nije bilo predstavljeno je budući korak dalje: ulazak u dućan po kikiriki, gdje prodavač po ulasku već dobiva profil korisnika poput "dijabetičar, samoozatajan, voli visdoke žene u crvenom, ne spominjati mačke, vjerojatno mu je lako prodati artikle vezano uz...". Impresivno i pomalo zastrašujuće.

Skraćeno, potencijalni problem tehnologije prepoznavanja (lica) i profiliranja jest da će ona biti usmjerena u manipulaciju subjektom kako bi se sugerirala interakcija koja vodi nečijem profitu/benefitu.

Dodatni problem je da će strateška odluka o tome (načinu izvedbe) idiokratski biti ostavljena "tehnologiji" po kriteriju uspješnosti izvedbe - zarade ili nekog drugog potencijalnog benefita.

Još kad tehnologija pogriješi, pa nam sugerira nešto što nije dobro ni za nas ni za krajnjeg "naručioca" usluge, već nas počne gnjaviti potpuno nerelevantnim sugestijama? 

Čak i ako nismo sugestibilni i adaptiramo se takvoj situaciji, to mora biti naporno. Prisjetimo se onog na početku, sa običnim snifanjem data i profiliranjem po webu / putem OSa; što kad to postane dio svakodnevnice u "real life"? Do sad sam par puta nasjeo na "poziv na kavu" sektaša koji rade za AmWay, Herbalife, prodaju Zeptera i posteljine od vune; što kad ti poznanik sugerira nešto (možda više stvari!), bazirano na poluintimnim sjećanjima (vikend u Veneciji npr) koje te "povuku", a sve zato jer to u biti nekim butterfly effectom dovodi do boljih rezultata stranke govnoždera u Tanzaniji pa će neki prebogati fond tamo povoljno kupiti rudnik ...slonovače? Jer je to neka AI izračunala sa 86, 03845672% posto vjerojatnosti. Oklen ti možeš znati da je poznanik klikom na mobitel sklopio ugovor sa turističkom agencijom koja nudi popuste klijentima, a njemu zauzvrat extra bodove vjernosti u TisakMedia kobasičarnama kojim sad neki deseti fond indirektno upravlja.
Win-win kombinacija i za poznanika i za tebe, zar ne?

No ti si u stvari Veneciju tražio / spominjao kao bolno sjećanje na obljetnicu svog prerano umrlog djeteta; ili pak zbog stvarno odlične "a nenadane" ideje o Veneciji poremetiš vlastite druge bitne planove...

"Tvoja odluka, tvoja odgovornost"...osim ako te iza ugla, učestalo, čeka "car salesman",  neki stari dobri Jimmy McGill, sa popisom tvojih slabosti i želja, i listom stvari na kojima će ti "pomoći".
Nakon dvadesetog puta i ti odlučiš maltretirati druge i - gle prilike, pri tom dobiti džabe dio proizvoda tebi omiljene kobasičarne.

Ljudi danas "besplatno" lajkaju jedni druge; ova "Black Mirror" budućnost je potpuno izgledna - kad "moraš" odraditi "društvenu zadaću" za "benefit" "bodova vjernosti" čega-li-već... Samo za kriplo valute (da ne spominjem kredite u švicarcima) milijuni su nasjeli; dosta je da omogućiš svakom 50-tisućitom neku mikro zaradu i imaš samopogonjeni hype i bez specijalno ciljanog guerilla marketinga.
Idiokracija par excellance nam se smiješi u skoroj budućnosti.

Opaska: nisam naveo potencijalne paranoje s mega-podacima, direktne zlouporabe i sl; ovo sve je u stvari benigno, samo naporno. A neizbježno, imo.

Pa da, slažem se; dobar primjer mi je last.fm (dok je radio kako treba): profilira tvoj muzički ukus tako brzo da se iznenadiš kad ti počne sugerirati muziku koju još nisi čuo, koja ti super odgovara a koju bi skoro sigurno propustio da te nije profilirao.

No ima jedna druga svar: raspon tvojih afiniteta je vjerojatno, kao i kod većine, od nekih trash, kič, opskurnih stvari (Lego, Star Trek, pisdarije od muzike, crtića, knjiga...) do nekih zahtjevnih ili profinjenih stvari (npr fini recepti, dobar blues, stručna literatura, rijedak hobi...); profiliranje se ne vrši po tome koji je tvoj intelektualni doseg već što ti se može najbolje uvaliti.
Sad, ako bi ti htio pogledati izložbu Gigera (Alien) jednako ili više no što bi htio prijenosnu bateriju sa mini Yodom (a koja ti je fora a i treba ti), šansa da ti gura prvo umjesto drugog je zanemariva.
A opet, to utječe i na tvoj izbor i nadalje.
Ovo sa IP adresom ili kako li već funkcionira mi je već opskurno: Fora mi je otkrivati zašto mi evo upravo se sad već tjedan dana nude nekakve cnc mašine; pretpostavljam da je zato jer sam gledao neke fraktalne algoritme koji valjda u primjeni služe i za izradu dekorativnih elemenata od metala. No natjeralo me da opet pojačam ad blocker. 

Da, GDPR je u stvari vrlo bitna stvar - upravo za prevenciju ovakvih zlouporabi. Nedavno su se baš očitala EU tijela da se i ova tehnologija prepoznavanja ne smije javno koristiti... no to je opet dbosjekli mač: s jedne strane ljudi to sami traže (a živimo u demokraciji, jelte), s druge strane biznisu koji udovoljava (pametno zaobilazi) GDPR, raste cijena! I postaje još privlačniji investitorima - traže se "inteligentnije solucije" za penetraciju u privatnost. Obzirom da podaci i profiliranje i dalje postoji, a GDPR je tu, zanimljivo je kako je to uopće implementirano. Reći "sad imamo GDPR i to se više ne dešava" je, očito, samoobmana.
Mislim da sustav kazni / nagrada (batine i mrkve) nije dostatan,  trebat će proći vremena dok ne naraste ehm "opća samosvijest" koliko snifanje privatnih podataka može biti maliciozno i loše / krivo upotrebljeno.

pitanje je jedino tko penetrira iliti što je dozvoljeno caru, nije dopušteno volu

DA!