AI u cyberu: pomoć ili prečac?
👍
- +/- sve poruke
- ravni prikaz
- starije poruke gore
Ovo je tema za komentiranje sadržaja Bug.hr portala. U nastavku se nalaze komentari na "AI u cyberu: pomoć ili prečac?".
AI u cyberu: pomoć ili prečac?
"Problem nastaje onda kada im vjeruju ljudi koji ne znaju kako sustav radi ispod haube"
Could not agree more. Savršen recept za AI slop i blast radius 360.
Legitimna opcija koja uvijek ostaje je Zero Trust - Never trust, always verify.
7 godina
offline
Re: AI u cyberu: pomoć ili prečac?
jozobozo kaže...
"Problem nastaje onda kada im vjeruju ljudi koji ne znaju kako sustav radi ispod haube"
Could not agree more. Savršen recept za AI slop i blast radius 360.
Legitimna opcija koja uvijek ostaje je Zero Trust - Never trust, always verify.
Ispravak (na slijepo, jer nisam još pročitao članak):
Nije bitno što ljudi ne znaju kako LLM radi ispod haube.
Svi znaju da je to neki prompt u koji ti upisuješ zahtjev, (usput taj zahtjev u OpenAI-u i ostali )
Bitno je da ono što "crna kutija" izbaci bude provjereno.
Primjer 1:
Mali Perica ne zna kako radi LLM, ali razumije nešto malo c programskog jezika.
Mali Perica upita LLM da mu izbaci Hello World program u c-u.
Zatim mali Perica provjeri kod koji mu je LLM izbacio . (Bez obzira što ne razumije kako radi LLM)
Primjer 2:
Mali Perica ovaj put ne provjeri kod koji mu je LLM izbacio.
Mali Perica je "Vibe programer"
17 godina
offline
Re: AI u cyberu: pomoć ili prečac?
gpd kaže...
Ispravak (na slijepo, jer nisam još pročitao članak):
Nije bitno što ljudi ne znaju kako LLM radi ispod haube.
Svi znaju da je to neki prompt u koji ti upisuješ zahtjev, (usput taj zahtjev u OpenAI-u i ostali )
Bitno je da ono što "crna kutija" izbaci bude provjereno.
Primjer 1:
Mali Perica ne zna kako radi LLM, ali razumije nešto malo c programskog jezika.
Mali Perica upita LLM da mu izbaci Hello World program u c-u.
Zatim mali Perica provjeri kod koji mu je LLM izbacio . (Bez obzira što ne razumije kako radi LLM)
Primjer 2:
Mali Perica ovaj put ne provjeri kod koji mu je LLM izbacio.
Mali Perica je "Vibe programer"
To je jedan od većih problema, što se sa punim povjerenjem uzima nešto i copy/paste dalje.
Ja svaki dan koristim AI za svoj posao, ali upravo to, čitam sve materijale koji mi izradi (od copy-a za web/mail/reklame, do hookova za reelove i sl.) I uvijek bar malo se nešto nađe sa korigirati. Nekada neka glupa pravopisna greška, ili krivi ton komunikacije, sitnica, ali dovoljno da bude loše ako ne bi provjerio.
Sa druge strane, kriv sam da neke stvari ne razumijem (programiranje) te sam sa AI-em napravio mini skripte za google sheets koje ništa ne kužim što je u kodu, ali je izlazni rezultat ono što meni treba (interni alat). Problem nastaje kada ljudi na odgovornim pozicijama sa ogromnim sustavima se ponašaju isto kao i ja
Stoja
Re: AI u cyberu: pomoć ili prečac?
gpd kaže...
jozobozo kaže...
"Problem nastaje onda kada im vjeruju ljudi koji ne znaju kako sustav radi ispod haube"
Could not agree more. Savršen recept za AI slop i blast radius 360.
Legitimna opcija koja uvijek ostaje je Zero Trust - Never trust, always verify.
Ispravak (na slijepo, jer nisam još pročitao članak):
Nije bitno što ljudi ne znaju kako LLM radi ispod haube.
Svi znaju da je to neki prompt u koji ti upisuješ zahtjev, (usput taj zahtjev u OpenAI-u i ostali )
Bitno je da ono što "crna kutija" izbaci bude provjereno.
Primjer 1:
Mali Perica ne zna kako radi LLM, ali razumije nešto malo c programskog jezika.
Mali Perica upita LLM da mu izbaci Hello World program u c-u.
Zatim mali Perica provjeri kod koji mu je LLM izbacio . (Bez obzira što ne razumije kako radi LLM)
Primjer 2:
Mali Perica ovaj put ne provjeri kod koji mu je LLM izbacio.
Mali Perica je "Vibe programer"
Ako mali Perica u primjeru 1 mora da detaljno provjeri svih 35 fajlova koje je AI dodao/modificirao, ne znam sta ce mu LLM? Pogotovo sto i dalje nece biti familijaran s tim kodom koji nije on napisao, na kraju ce se sve vise oslanjati na LLM i nece znati sta je napravio uopste, promaknuce mu milion gluposti koje je LLM pogresno napravio, ili cak samo bespotrebno napravio, tako da ce se njegov projekt vremenom srusiti pod vlastitom tezinom. Znam o cemu pricam.
7 godina
offline
Re: AI u cyberu: pomoć ili prečac?
knight kaže...
gpd kaže...
jozobozo kaže...
"Problem nastaje onda kada im vjeruju ljudi koji ne znaju kako sustav radi ispod haube"
Could not agree more. Savršen recept za AI slop i blast radius 360.
Legitimna opcija koja uvijek ostaje je Zero Trust - Never trust, always verify.
Ispravak (na slijepo, jer nisam još pročitao članak):
Nije bitno što ljudi ne znaju kako LLM radi ispod haube.
Svi znaju da je to neki prompt u koji ti upisuješ zahtjev, (usput taj zahtjev u OpenAI-u i ostali )
Bitno je da ono što "crna kutija" izbaci bude provjereno.
Primjer 1:
Mali Perica ne zna kako radi LLM, ali razumije nešto malo c programskog jezika.
Mali Perica upita LLM da mu izbaci Hello World program u c-u.
Zatim mali Perica provjeri kod koji mu je LLM izbacio . (Bez obzira što ne razumije kako radi LLM)
Primjer 2:
Mali Perica ovaj put ne provjeri kod koji mu je LLM izbacio.
Mali Perica je "Vibe programer"
Ako mali Perica u primjeru 1 mora da detaljno provjeri svih 35 fajlova koje je AI dodao/modificirao, ne znam sta ce mu LLM? Pogotovo sto i dalje nece biti familijaran s tim kodom koji nije on napisao, na kraju ce se sve vise oslanjati na LLM i nece znati sta je napravio uopste, promaknuce mu milion gluposti koje je LLM pogresno napravio, ili cak samo bespotrebno napravio, tako da ce se njegov projekt vremenom srusiti pod vlastitom tezinom. Znam o cemu pricam.
Mali Perica iz primjera 1, dobio je najviše na brzini editiranja koda,
c programerski ciklus sastoji se od (E)dit / (C)ompile / (D)ebug,
gdje LLM u potpunosti zamjenjuje fazu Editiranja, ali compile i debug faze ostaju kao prije.
Re: AI u cyberu: pomoć ili prečac?
gpd kaže...
Ako mali Perica u primjeru 1 mora da detaljno provjeri svih 35 fajlova koje je AI dodao/modificirao, ne znam sta ce mu LLM? Pogotovo sto i dalje nece biti familijaran s tim kodom koji nije on napisao, na kraju ce se sve vise oslanjati na LLM i nece znati sta je napravio uopste, promaknuce mu milion gluposti koje je LLM pogresno napravio, ili cak samo bespotrebno napravio, tako da ce se njegov projekt vremenom srusiti pod vlastitom tezinom. Znam o cemu pricam.
Mali Perica iz primjera 1, dobio je najviše na brzini editiranja koda,
c programerski ciklus sastoji se od (E)dit / (C)ompile / (D)ebug,
gdje LLM u potpunosti zamjenjuje fazu Editiranja, ali compile i debug faze ostaju kao prije.
Izgleda da je sve tako jednostavno kada razmisljas na nivou Hello World.
p.s. upravo gore si ti naveo jos jednu fazu osim te 3, koja efektivno ponistava taj efekat brzine editovanja.
Poruka je uređivana zadnji put pet 20.2.2026 21:39 (knight).
7 godina
offline
Re: AI u cyberu: pomoć ili prečac?
knight kaže...
gpd kaže...
Ako mali Perica u primjeru 1 mora da detaljno provjeri svih 35 fajlova koje je AI dodao/modificirao, ne znam sta ce mu LLM? Pogotovo sto i dalje nece biti familijaran s tim kodom koji nije on napisao, na kraju ce se sve vise oslanjati na LLM i nece znati sta je napravio uopste, promaknuce mu milion gluposti koje je LLM pogresno napravio, ili cak samo bespotrebno napravio, tako da ce se njegov projekt vremenom srusiti pod vlastitom tezinom. Znam o cemu pricam.
Mali Perica iz primjera 1, dobio je najviše na brzini editiranja koda,
c programerski ciklus sastoji se od (E)dit / (C)ompile / (D)ebug,
gdje LLM u potpunosti zamjenjuje fazu Editiranja, ali compile i debug faze ostaju kao prije.
Izgleda da je sve tako jednostavno kada razmisljas na nivou Hello World.
p.s. upravo gore si ti naveo jos jednu fazu osim te 3, koja efektivno ponistava taj efekat brzine editovanja.
Uvijek izradi manje procedure, ne veće od 1K izvornog koda.
Ako nešto ne valja u provjeri procedure, baci sve i ponovo.
Na taj način tebi je lakše u provjeri, i LLM-u je lakše u generiranju.