Šef Anthropica: Nitko zapravo ne razumije kako AI

"hrabra" izjava

Ne shvaćam zašto je ovo vijest? Pa markovljev lanac (osnova svakog naprednog LLM-a) je stohastičan.

AI Halucinacije, laganje, ulizivanje, šutnja i slično su dobri primjeri ne-determinističnog outputa

Vjerojatnost (https://en.wikipedia.org/wiki/Probability_theory) je fundamentalna za SVAKI AI model (Russell, Stuart J.; Norvig, Peter 2021. Artificial Intelligence: A Modern Approach)

Pa i nije, ali ne misliš valjda da se odgovor neuronskih AI mreža programira nešto u stilu "if dog then woof!"

 Naravno, postoji relativno malo jednostavnih ali apstraktnih algoritama koji stoje iza neuronske mreže, no praćenje i razumijevanje interne obrade i veza par miliona parametra, weightsa, biasa ... je za sad nepremostiv problem.

Neuronska mreža je eklatantan primjer kako cjelina može biti veća od zbroja svojih dijelova. Pa tako dok su sami algoritmi relativno lako razumljivi njihov sinergijski učinak nam je za sad crna kutija.

Algoritmi su za treniranje super-kompleksnog modela koji ima debelo previse parametara da bi mogao pohvatat konce sto ce ti on dat za dani input.

Uzmi AI halucinacije, svi LLM modeli ga imaju - izgleda da je manifestacija LLM-ova i transformer modela, razne spekulacije ali AFAIK ne zna se tocan razlog. Ako je netko "pisao algoritam i zna kako AI funkcionira", upitaj se zasto jednostavno ne poprave algoritam, mislim "nisu se halucinacije same napisale", jel.