Anthropic u IPO dokumentaciji upozorava da bi njih

Mene osobno najviše brine problem usklađivanja umjetne inteligencije (alignment problem) jer pokušavamo definirati „ljudske vrijednosti“ u svijetu u kojem su duboke nejednakosti već normalizirane i pravno zaštićene. Za čije će interese zapravo optimizirati?

Trenutno se sigurnost tretira kao niz tehničkih ograničenja i postojanje tzv. „neutralne“ osnovne linije. (u stvarnosti čista fikcija AI industrije)

Sigurnosni filteri i političke ograde tretiraju se kao tehničke zakrpe, ali u osnovi su alati političkog upravljanja umotani u kod. Kada se model umjetne inteligencije usklađuje pomoću ljudskih povratnih informacija ili smjernica politike, on ne otkriva univerzalnu etiku, već uči odražavati srednje kulturne norme, tolerancije korporativnog rizika i sistemske pristranosti društava i institucija koje ga financiraju i grade.
Ako optimizirate za prosjek trenutnog ljudskog ponašanja, dobivate visokotehnološko pojačalo postojećih asimetrija moći. Ono zaključava status quo, čineći nepravde trajnima tretirajući ih kao statističke konstante koje treba predvidjeti i sačuvati.

Mislim da nam slijedi Dot com + cdo/mbs crash ver. 2 . samo što će se ovog puta zvati "crypto-synths" crash , kao posljedica kombinacije blockchain AI orakula (oracles) i sintetičkih tokena (synths).

* Big Tech companies are aggressively using a newly established SEC legal framework to block their stocks from being used on crypto-native synthetic and tokenized trading platform. As of late October 2026, over 33 major corporations—including Microsoft, Alphabet (Google), AMD, Intel, Oracle, and JPMorgan—have formally exercised their right to veto the tokenization of their shares
The estimated worth of assets that AI oracles could potentially manage or secure spans from hundreds of billions of dollars in the immediate short term to over $26 trillion in the long term. The Tokenized Real-World Asset (RWA) Horizon: $10 Trillion to $16 Trillion, The "Agentic Capital" Economy: $26 Trillion+
The most likely outcome of this clash is the emergence of a bifurcated market: a strictly regulated, institutionally controlled "walled garden" for tokenized Big Tech stocks, while decentralized crypto platforms pivot to fully synthetic, tracking derivatives that operate entirely outside U.S. jurisdiction.

Michael Burry (investitor koji je slavu stekao predvidjevši slom tržišta nekretnina 2008) stalno ponavlja, "Ako ne znaš kolika je poluga u kriptu, ne znaš ništa o kriptu, bez obzira na to što misliš da znaš."
Cijeli DeFi počiva na re-leverageu (posudiš imovinu A, pretvoriš u sintetičku imovinu B, staviš je kao kolateral za poziciju C). Burry upozorava da ta količina ugrađene poluge stvara privid neograničene likvidnosti na putu prema gore, ali jamči majku svih slomova ("the mother of all crashes") kada krene likvidacijska spirala.

U nedavnim analizama (listopad 2026.) povodom financiranja AI sektora i Anthropicovih dogovora, Burry je upotrijebio frazu koja precizno opisuje rizik DeFi sintetika: "catastrophically vulnerable organism" (katastrofalno ranjiv organizam).
Opisao je kako Big Tech i AI kompanije koriste nevjerojatno složene strukture duga i kružnog financiranja kako bi maknuli dugove s bilanci.
Kada se to preslika na teoriju blockchain orakula i sintetičkih tokena, Burryjev zaključak je jasan: ta kružna povezanost (gdje vrijednost jednog protokola ovisi o orakulu drugog, a ovaj o stabilnosti trećeg) pruža lažnu sigurnost. Sve funkcionira dok sustav raste, ali u trenutku zastoja ili pada, cijeli organizam implodira u milisekundama.

Kada se prvi put pojavila ideja o SEC pravnom okviru i masovnoj tokenizaciji dionica na blockchainu, Burry je upozorio je da tokenizacija dionica drastično smanjuje regulatorni nadzor i prenosi golemi rizik na male ulagače.
Njegov citat o tome glasi: "Regulatori imaju samo jedan posao. Ne otvarati strašna vrata." Iz njegove perspektive, dopuštanje tradicionalnoj imovini da uđe u neregulirane kripto-sintetičke vode otvara vrata sistemskom riziku koji se više neće moći kontrolirati.

Nakon pada FTX-a i uspona DeFi platformi koje nude "Proof of Reserves" (dokaz o rezervama), Burry je izjavio da su te revizije potpuno besmislene. Usporedio je današnje revizore digitalne imovine s revizorima iz 2005. godine koji su učili "u hodu" dok su odobravali Credit Default Swaps (CDS). Sintetički tokeni koji tvrde da prate dionice i da imaju algoritamssku podlogu za Burryja su samo digitalna verzija AAA rejtinga iz 2008. – matematika koja lijepo izgleda na papiru dok ne dođe kriza likvidnosti.

 pojam „univerzalna etika” koristim u kritičkom kontekstu, da bi ukazao na zabludu ili lažno obećanje u razvoju umjetne inteligencije.

U ovom smislu, univerzalna etika odnosi se na ideju da postoje objektivna, bezvremenska i općeprihvaćena moralna načela koja bi trebala vrijediti za sve ljude i društva, neovisno o tome tko ih financira, gradi ili koristi. Tvorci AI-ja često prikazuju proces usklađivanja (alignment) kao potragu za takvom univerzalnom etikom, dok u stvarnosti modele uče tek prosjeku i pristranostima trenutnih šerifa/milijardera.

Glavna poanta je da postoji ogromna razlika između "univerzalne etike" i statističkog prosjeka.

Ono što AI industrija tvrdi da radi je da kodira univerzalne etičke vrijednosti i „neutralne” sigurnosne ograde.

Ono što AI zapravo radi je da kroz tehnike poput RLHF-a (Reinforcement Learning from Human Feedback), AI usvaja vrijednosti zapadnih, kapitalistički orijentiranih korporacija i njihovih evaluatora.

Novice, pa upravo si nehotice pogodio bit onoga što govorim!

Slažem se s tobom 100%: univerzalna etika ne postoji i ljudsko društvo se oko nje ne slaže.

Ali evo u čemu je stvar i zašto je ovo itekako važna tema:
Šačica privatnih kompanija u Silicon Valleyju trenutno radi upravo to; odlučuju umjesto svih nas što je "ispravno", a što nije.

Zamisli to ovako:
Umjetna inteligencija je poput divovskog digitalnog sudca ili nastavnika kojeg će u budućnosti koristiti milijarde ljudi;  u školama, na poslu, u državnoj upravi i medicini. Kad taj "sudac" odgovara na pitanja, on mora imati neka pravila.

Budući da univerzalna pravila ne postoje, vlasnici tih AI kompanija uzmu svoja osobna pravila, svoje političke stavove i interese svojih dioničara i ugrade ih u AI pod oznakom: "Evo, ovo je neutralno i sigurno."

Dakle, problem nije u tome tražimo li mi savršenu etiku. Problem je u tome što nam nekolicina milijardera prodaje svoju privatnu subjektivnost kao objektivnu istinu za cijeli svijet.

Ako kažemo "nema smisla o tome raspravljati jer je sve subjektivno", mi svi kolektivno zapravo pristajemo na to da ti privatni vlasnici budu ti koji će tiho određivati granice onoga što se smije misliti, reći i raditi u digitalnom dobu. Međunarodno pravo tu ne pomaže jer zakoni ne pišu kod, pišu ga korporacije

Sad će nas zli jako pametni LLM-ovi pobiti. You are absolutely right.

 Doslovno si opisao kako funkcionira svaka vlada, unija, organizacija... i zapravo kako funkcionira svijet od pamtivjeka.

Tako da ne znam zašto bi to sad bilo sporno?

Imaš 2% elite i 98% kmetova, ovi prvi će ti reći što da radiš i što je dobro za tebe, ali neće ti oni to reći direktno nego kroz znanost, školstvo, medicinu... tj. preko svojih plaćenika koji imaju "diplomu".

Baš kao što si sve do sada bez pogovora prihvaćao - tako ćeš i AI.

Ništa novo se tu ne događa...

Ima prekrasan  Olegov članak - kolumna na Mreži : https://mreza.bug.hr/komentar/lica-koja-ne-ulijevaju-povjerenje-63468, vezano za AI doom pošast koju su počeli "forsirati" sami glavni igrači.