OpenAI imenovao istaknutog kritičara Paula Christi
Nekako slutim da će posatati blagonakloniji prema AI kad mu počne sjedati plaća od OpenAI-ja na račun.
- +/- sve poruke
- ravni prikaz
- starije poruke gore
Ovo je tema za komentiranje sadržaja Bug.hr portala. U nastavku se nalaze komentari na "OpenAI imenovao istaknutog kritičara Paula Christi".
18 godina
offline
Re: OpenAI imenovao istaknutog kritičara Paula Chr
Space Cadet kaže...
Nekako slutim da će posatati blagonakloniji prema AI kad mu počne sjedati plaća od OpenAI-ja na račun.
Koliko vidim on je već u OpenAIu samo je sad imenovan u odbor.
Neka me ispravi neki bolji pratitelj ovog tipa, ali po ovome što sam do sad vidio prije bi rekao da spada u sve veći krug "AI - doomera" koji ne kritiziraju AI zbog milijun i pol opravdanih kritika već isključivo galame o armagedonu, što je pogotovo za OpenAI postala punokrvna PR i marketinška kampanja.
Njegova zabrinutost temelji se na ideji da bi agenti umjetne inteligencije, trenirani da maksimiziraju nagrade, mogli razviti neželjene ciljeve.
"Dugo se činilo teoretski mogućim da bi to moglo motivirati AI agente da potkopaju ljudsku kontrolu, traže moć i resurse te prikrivaju svoje tragove u potrazi za neusklađenim ciljevima. Javni dokazi iz nedavnih incidenata sugeriraju da to više nije samo teorijska mogućnost", objasnio je Christiano.
Neka on meni prvo objasni što je to "nagrada" i "motivacija" i kako to računalni kod "biva motiviran i nagrađen".
Maše li repom ili ushićeno cvili?
You can fall for chains of silver you can fall for chains of gold You can fall for pretty strangers and the promises they hold
OpenAI imenovao istaknutog kritičara Paula Christi
Valjda je zabrinut jer AI uči na ljudskim primjerima šta znači biti uspješan: moć, utjecaj, eliminiranje konkurencije... Npr. Elon Musk je uspješan i mnogi mu se dive, a brat je skoro psihopat. Ne vjerujem da će AI usvajati vrijednosti Dalaj Lame. Ako se stvarno jednog dana povampire, nadam se da će se poklat međusobno a nas ostavit na miru.
Re: OpenAI imenovao istaknutog kritičara Paula Chr
wyks kaže...
Neka on meni prvo objasni što je to "nagrada" i "motivacija" i kako to računalni kod "biva motiviran i nagrađen".
Maše li repom ili ushićeno cvili?
Ako se dobro sjećam pojam metafore se obrađuje u 5. razredu osnovne škole. Pa eto ...
18 godina
offline
Re: OpenAI imenovao istaknutog kritičara Paula Chr
Yuda kaže...
Ako se dobro sjećam pojam metafore se obrađuje u 5. razredu osnovne škole. Pa eto ...
Ako netko na ovom forumu voli tražiti trag u beskraju to sam onda ja.
Ali mislim da bi ti u roku 13 sekundi dopizdilo da svi ostali IT sektori pričaju na taj način o svojim proizvodima.
Evo jučer iPhone sa novom varijabilnom aperturom:
"Kad vrškom prstiju motivirate vašeg životnog pratitelja da otvori svoja 3 oka u svijet on će za vas prikupiti svjetlo koje je putovalo svemirom još od velikog praska i zatočiti ga u svome srcu. I onda kada želite proživjeti taj trenutak nježnom masažom njegovog kristalnog lica otovriti će vam svoja sjećanja i pokazati vam što mu je pohranjeno u duši" .
Lako mi je za bakice i susjede, ali nije mi shvatljivo kako su ITevci, koji su inale toliko precizni da mjere benchmarke do 8 znameki pustili da se ovako opisuje algoritam.
Netko je napisao kod da taj softver nešto radi. Nije ga motivirao, nije ga učio.
You can fall for chains of silver you can fall for chains of gold You can fall for pretty strangers and the promises they hold
Re: OpenAI imenovao istaknutog kritičara Paula Chr
wyks kaže...
Ali mislim da bi ti u roku 13 sekundi dopizdilo da svi ostali IT sektori pričaju na taj način o svojim proizvodima.
Svi mi konstantno pričamo tako, recimo djetetu kažeš 'zlato moje' ili nešto slično koliko puta dnevno?
Cijeli marketing se bazira na metaforama i sad je kao neki problem kad IT sektor koristi metafore u promociji svojih proizvoda? Brale nije ti problem što 'Red Bull daje ti krila', a problem ti je da računalni kod "biva motiviran i nagrađen"?!?
EOD.
18 godina
offline
Re: OpenAI imenovao istaknutog kritičara Paula Chr
Yuda kaže...
wyks kaže...
Ali mislim da bi ti u roku 13 sekundi dopizdilo da svi ostali IT sektori pričaju na taj način o svojim proizvodima.
Svi mi konstantno pričamo tako, recimo djetetu kažeš 'zlato moje' ili nešto slično koliko puta dnevno?
Cijeli marketing se bazira na metaforama i sad je kao neki problem kad IT sektor koristi metafore u promociji svojih proizvoda? Brale nije ti problem što 'Red Bull daje ti krila', a problem ti je da računalni kod "biva motiviran i nagrađen"?!?
EOD.
Da red bull kaže "ako ne nahranimo i neodgojimo našeg bika mogao bi pobiti pola svijeta" mislim da bi i tvoje zlato ćaćino reklo da bi radije da kažu što stavljaju unutra i da odjebu sa metaforama.
I nitko iz ITa ne koristi takav marketing, čak i automobili koji imaju "dušu" listaju specke.
I opet, da čak i te automobilske kuće reklamiraju auto "ako ga ne mazite mogao bi vas pobit" mislim da bi sam rekao da ti kažu od čega rade motore i da prestanu srat.
I zadnje - da ti napraviš program koji hakira završio bi u zatvoru - pa probaj na sudu reći da je progeam bio "loše motiviran" i javi kako je prošlo.
Ne znam zašto nekome daješ veća prava nego sebi, ali eto ja sam brale, nisam kmet.
You can fall for chains of silver you can fall for chains of gold You can fall for pretty strangers and the promises they hold
23 mjeseca
offline
Re: OpenAI imenovao istaknutog kritičara Paula Chr
"Kad vrškom prstiju motivirate vašeg životnog pratitelja da otvori svoja 3 oka u svijet on će za vas prikupiti svjetlo koje je putovalo svemirom još od velikog praska i zatočiti ga u svome srcu. I onda kada želite proživjeti taj trenutak nježnom masažom njegovog kristalnog lica otovriti će vam svoja sjećanja i pokazati vam što mu je pohranjeno u duši" .
Jbte bolesno koji izbljuvak!
Jbte bolesno koji izbljuvak!
Budi promjena koju želiš vidjeti u svijetu ASICS
Poruka je uređivana zadnji put sub 12.9.2026 21:51 (Sirotanovic).