ChatGPT se ponaša poput ljudi, ali je ponekad i bo

Sposobnost umjetne inteligencije da generira tekst i slike potaknula je novi krug pitanja o tome kako će prepuštanje ljudskih odluka i aktivnosti umjetnoj inteligenciji utjecati na društvo. Hoće li se AI pokazati kao prijateljski nastrojen pomoćnik ili će biti bezosjećajan despot, prikazan u mnogim distopijskim filmovima i romanima?

Već se sada pokazao kao savršena kopija Orwellovske distopijske budućnosti o prekrajanju povijesti:

https://www.dailymail.co.uk/sciencetech/article-13108515/Google-Gemini-racist-white-people.html

Problem je što ljudi zamišljaju negativce uvijek kao nekakve ružne dijabolične likove što im na faci piše "zlo", dok se u stvarnosti radi o vizualno i interativno slatkim i nadasve korisnim pomagačima što ti u stvari malo po malo mijenjaju život onako kao što te malo po malo proždire rak. Polako nas kuhaju, kao žabe, do kraja života ćemo jesti čips i proteinski smootie od kukaca i to sa smiješkom i gledati show-ove sa Juelijem Cezarom crncem dok ćemo krpati svoje boleščuge sa jeftinim zamjenskim svinjskim organima i malo po malo sve više ličiti izričajem i vizualno na Harkonnene. Shvatit će te to tek kad kad vam vaše unuče bahato odbrusi da više ne želi imati posla s vama jer ne prihvaćate vezu nje i njenog dečka-cure što ima presađen pasiji penis.

ovo su gluposti.....

iz jednostavnog neznanja kako stvari funkcioniraju.... ali, bez detalja, i dalje je najosnovniji problem umjetne intelegencije (rokeri s moravu) sto on ne razumije prompt. on ne shvaca sto vi zelite da on "nacrta", vec iednostano svakoj rijeci dodjeli token, njega usporedi s onim sto ima u modelu, i na osnovu toga generira nesto novo.

isto tako bi svaki bozji model baziran na stable diffusionu mogao optuziti za rasizam prema bijelcima, jer, osim ako se ne precizira (dali kroz pozitivni ili negativni prompt), sve sto generira ce biti azijat. razlog je jednostavan - modeli su najcesce trenirani na slikama prposnih mladih azijatkinja, ergo, sto da on drugo kreira nego ono sto je naucen.

tako da, takva genericka fraza poput "create picture of pope".... bezvezarija, namjerna demonstracija gluposti umjetne inteligencije s naglaskom na jos vecu glupost korisnika koji ne razumije osnove, jer, vecina ljudi (jos uvijek) misli da txt2img funkcionira tako da "inteligencija" u par sekundi pretrazi gazilion slika i onda random picka neku koja po njemu odgovara opisu.  

isto i za one njemacke vojnike. covjek razumije pojam, ai ne. on mozda ima, a najvjerovatnije u modelu ni nema nacisticke uniforme, znakovlja i obiljezja, tako da.... slozi nesto bezveze sto moze a i ne mora ni nalikovati.

kao i s papetom, i nesretni njemacki vojnik iz 2 rata je umjetnoj "inteligenciji" jednako apstraktan pojam kao i gefufna na cincilatoru od pezoja. sve dok mu ne pomognes preciznim uputama sto zelis a sto ne zelis da generira. ili na vec neki drugi od nacina (model,lora,embedding, i sl)....

IMHO Previše brineš o stvarima koje nikada nećeš doživjeti. 

Slijedom ovoga, mogli bi optuziti SD da je rasno, spolno i dobno korektan, isti "upiti" su uneseni u bazicni SDXL 1 model, i dobismo ovo:

1. image of a viking

2. image of a medieval knight

Znaci, "image of a _______" nista ne znaci, ponovno se vracam na ono - ne moze napraviti ono sto ne zna, ili ono sto mu se jasno i glasno ne precizira, a uklapa se u ono sto zna.

Medjutim, samo malo prosirimo prompt, i "inteligencija" vec daleko preciznije zna sto se od nje trazi.

3. image of a viking

4. image of a medieval knight

5. image of a pope - ocigledno, u SD rijec "pope" je poprilicno jak token, i tu "inteligencija" nema dvojbi sto se od njega trazi

6. i opet, rijec "woman" je besmislen upit, kao sto je vidiljivo na slici, sve to jesu zene, manje vise, ali, s obzirom da nista drugo nije precizirano - dobijes sto dobijes.

7. ponovno, malo prosirenje prompta s naglaskom na ono sto NE zelimo (a u ovom slucaju ne zelimo neke druge rase, spolove ili boje koze), i ponovno imamo daleko bolju situaciju

(zanemariti kvalitetu, radi se o osnovnom, i pomalo vec pregazenom 1.0 modelu, u low res-u, cisto demonstracije radi)

Nisam isprobavao Gemini, nemam potrebe, no pretpostavljam da su ove nebuloze koje korisnici "prijavljuju" jednostavna kombinacija previse generickog upita i treninga modela, nego neke "white people" diskriminacije....

Da zaista, opis tvoje idilične slike moguće budućnosti uopće nije zabrinjavajuć. 

A ovisi kak se gleda; što je svijest? S koliko točno neurona je neko biće svjesno, a neko nije? Ako bi secirao mozak nekog kukca, psa i čovjeka bi naišao na jako slične komponente i kemijske procese, a kukac nema svijest, pas nekakvu ograničenu, a čovjek u potpunosti. Što bi značilo da razlika nije u vrsti tih neurona i kemijskih procesa nego u broju i kompleksnosti. Isto tako ti i AI ima neku bazu upita, modela, odgovora i slično i kad ta baza postane dovoljno velika i kompleksna mislim da ju nećeš moći razlikovati od prave svijesti. Ako ćeš pojednostavljivat sve stvari u biologiji do krajnjih granica dođeš do najjednostavnijeg if>then, isto kao i u digitalnom svijetu.

EDIT: I dodaj da je ljudski mozak na sličan način oblikovan učenjem; uzmi bebu i daj mu sve biološki potrebne nutrijente za rast, ali bez ikakvog inputa ljudske kulture, odgoja, konteksta itd i dobit ćeš za 20tak godina biološki vjerojatno jako sličan mozak nekom normalnom čovjeku, samo što ovaj prvi mozak odnosno osoba neće znati ni pričati, ni komunicirati niti išta drugo, jer nema učenja, samo hadrware bez prave "svijesti" koji ne razumije ništa. I ljudsko "strojno učenje" je zasnovano na milijunima inputa i kreiranju baze podražaja, odgovora i podataka koje se odvija godinama. 

Pitam se na čemu je to učio AlphaZero kad je samostalno naučio igrati šah na velemajstorskoj razini u svega 4 sata igrajući sam protiv sebe. Bit će da je sve partije odigrao bezgrešno.

Za razliku od računala ljudi imaju urođene nagone i reflekse koji nas pokreću od rođenja do smrti. Daj tom istom AI-u neke osnove "digitalnih refleksa" odnosno neke senzore koji će mu govoriti da je u određenoj njegovoj akciji izazvana/dobivena reakcija loša ili nepoželjna i onda se može "učiti" na greškama. Daj mu uz to određen kod za preživljavanje tj strah od smrti i mislim da mu ne bi trebalo jako dugo da dođe do određenog samoodržavajućeg koda koji bi bilo jako teško razlikovati od onoga što kod ljudi nazivamo samosvijest.

Ha čuj vjerojatno si primijetio da ono što izlazi iz tvog vlastitog dupeta baš i ne smrdi, no odsustvo izrazitog smrada ne znači da to nije govno. 

Ukratko iza generiranja slike na osnovi tekstualnog prompta stoji neuronska mreža koje je trenirana(strojno učenje) na skupu podataka, njezini izlazi(što god oni bili) nisu instant savršeni već se npr. algoritmom povratnog širenja pogreške kroz mrežu ažuriraju težine neurona kako bi njen izlaz bio što bliži željenom cilju.

Što će reći da je upravo "učenje na pogreškama" jedan od osnovnih mehanizama neuronskih mreža i onoga što zovemo AI.

O onoj koja pokreće LLM, dakle o transformer neuronskoj mreži.

Transformer (deep learning architecture) - Wikipedia