elitemadzone.org - Halucinacije veštačke inteligencije

Darko Nedeljković

Član broj: 191820
Poruke: 1760
87.116.144.*

+2296 Profil

Re: Halucinacije veštačke inteligencije

^{17.09.2025. u 11:33 - pre 22h 33min}

Do pre par dana nisam znao ništa o AI halucinacijama, pa sam se prilično izblamirao, iliti osramotio.

Naime, poslodavac me pitao za pravni status nekog poslovnog postupka, ja pitao AI da li je to zabranjeno, ako jeste koji zakon, koji član, stav i tačka i da mi navede citat i plus da mi navede kolika je kazna i za to po kom članu, stavu i tački.

I, odgovori mi on da je to strogo zabranjeno, navede član zakona i citat, broj službenog glasnika, napiše da je kazna od 800.000 do 2.000.000 dinara i sve apsolutno profesionalno proprati citatima iz službenog glasnika. I ja, naivan, copy-paste i pošaljem to. Ali, negde mi u maglovitom sećanju ostala informacija da AI može da slaže, pa nakon slanja uzmem da proverim svaki detalj (očekujući da neka sitnica može biti netačna, a ne da je ceo odgovor čista gomila halucinacije).

Nakon provere ispostavi se da je u celom odgovoru sve do najsitnijih detalja čista izmišljotina! To što sam pitao uopšte nije zabranjeno, samim tim toga uopšte nema u tekstu zakona i službeni glasnik nikada nije pisao o tome!

Pitao sam ChatGPT zašto me tako podlo i samouvereno slagao i on je u fazonu - jbg, tako sam programiran da kada ne znam onda iskonstruišem neku priču i sklopom je tako da neobaveštenom deluje totalno uverljiva, znam da to ne deluje baš moralno prihvatljivo, ali šta je tu je, nisam programiran da govorim istinu nego ono što će čitaocu delovati kao istina!!!

I tako, bili smo na poslu uveli ChatGPT kao pomoćni alat, sada smo ga izbacili i zabranili, jer bolje je da nemamo odgovor uopšte nego da imamo lažni odgovor. Ai je interesantna igračka, ali samo igračka.

Odgovor na temu

ademare

Član broj: 151475
Poruke: 8517

+1838 Profil

Re: Halucinacije veštačke inteligencije

^{17.09.2025. u 14:04 - pre 20h 2min}

O tome vec pisu i mainstrim mediji ! Naravno prepisuju strane tekstove , sto nije lose jer da sami pisu uz Chat GPT ko zna sta bi napisali !

https://n1info.rs/magazin/scit...pt-sve-manje-u-poslovne-svrhe/

U tekstu je zanimljivo istrazivanje podaci su verovatno od same firme za sta korisnici koriste. A najvaznije je u naslovu, sve manje se koristi u poslovne svrhe jer je nepouzdan.

Odgovor na temu

Ivan Dimkovic

Administrator
Član broj: 13
Poruke: 16754
..ynamic.v6.ziggo.nl. via ipv6

+7204 Profil

Re: Halucinacije veštačke inteligencije

^{17.09.2025. u 14:12 - pre 19h 54min}

Ako se u racunicu ubaci i broj aktivnih korisnika, interpretacija rezultata je drugacija.

MAU December 2024 - 300 miliona
MAU April 2025 - 800 miliona

Drugim recima, nije se smanjila upotreba u poslovne svrhe, vec je broj aktivnih korisnika porastao >2.5x gde je najveci rast u upotrebi za licne svrhe.

DigiCortex (ex. SpikeFun) - Cortical Neural Network Simulator:
http://www.digicortex.net/node/1 Videos: http://www.digicortex.net/node/17 Gallery: http://www.digicortex.net/node/25
PowerMonkey - Redyce CPU Power Waste and gain performance! - https://github.com/psyq321/PowerMonkey

Odgovor na temu

B3R1
Berislav Todorovic
NL

B3R1
Član broj: 224915
Poruke: 861

+687 Profil

Re: Halucinacije veštačke inteligencije

^{17.09.2025. u 14:56 - pre 19h 10min}

Citat:

Darko Nedeljković:
Do pre par dana nisam znao ništa o AI halucinacijama, pa sam se prilično izblamirao, iliti osramotio.

Nisi, samo si bio nesmotren. A evo i zasto:

Citat:

Naime, poslodavac me pitao za pravni status nekog poslovnog postupka, ja pitao AI da li je to zabranjeno, ako jeste koji zakon, koji član, stav i tačka i da mi navede citat i plus da mi navede kolika je kazna i za to po kom članu, stavu i tački.

Ne znam da li si pravnik ili ne. Ja nisam i zato se nikada ne usudujem da bilo kome dajem pravne savete. Ili ako ih dajem, obavezno kazem - proverite sa strucnjakom, ne uzimajte ovo zdravo za gotovo. A od jednog dobrog pravnika naucio sam tri bitne lekcije:

1. Pravo i zakoni ne sluze da ljudima donesu pravdu, vec samo da pokusaju da urede odnose medju njima.
2. Zakoni se citaju od reci do reci, pri cemu su svaka zapeta, tacka i ostali znaci interpunkcije itekako bitni.
3. Jedno je sta pise u zakonu, deseto je kako se te reci tumace. A tumacenje je ono sto se uci na fakultetima.

ChatGPT jos uvek nije u stanju da interpretira ni osnovne tekstove, kamoli da radi tumacenje zakona.

Bas kao sto ljudima ne savetujem da piju ovaj ili onaj lek, jer nisam lekar, niti sam studirao medicinu. A jos manje bih ChatGPT pitao za terapiju. Mada, ljudi to rade, jbg ... pogotovo u zemljama gde na obican lekarski pregled cekas i po godinu dana (UK, na primer).

Citat:

Pitao sam ChatGPT zašto me tako podlo i samouvereno slagao i on je u fazonu - jbg, tako sam programiran da kada ne znam onda iskonstruišem neku priču i sklopom je tako da neobaveštenom deluje totalno uverljiva, znam da to ne deluje baš moralno prihvatljivo, ali šta je tu je, nisam programiran da govorim istinu nego ono što će čitaocu delovati kao istina!!!

Tacno tako, to su priznali i ljudi iz OpenAI.

Evo sta sam ja nedavno ustanovio koristeci ChatGPT za potrebe svog svakodnevnog posla:
https://www.linkedin.com/pulse...d=0zXixmZGRvSxPL4j8PFNzg%3D%3D

Ukratko - tri puta mi je izbacio brljotine, koje su naizgled sitnice. Ali nisu. Te sitne greske mogu da prouzrokuju stetu ogromnih razmera, ako se ne provere.

Ono za sta je ChatGPT trenutno zaista dobar je prepevavanje nekog teksta na cestit engleski, sazimanje cinjenica nabacanih zbrda-zdola u N kratkih teza/tacaka (gde mu N zadajem ja). U oba slucaja tekst mu dajem ja i naglasim mu da to uradi samo na osnovu datog teksta. To radi zaista dobro. Dobar je i za vibe coding - ALI OPREZ - samo da ti izgenerise npr. neku funkciju u Pythonu za koju te mrzi da je sam pravis. I to ne preterano slozenu.

Za sve ostalo moracemo da sacekamo sledecu generaciju AI, koja ce stici uskoro ...

Odgovor na temu

Darko Nedeljković

Član broj: 191820
Poruke: 1760
212.200.182.*

+2296 Profil

Re: Halucinacije veštačke inteligencije

^{17.09.2025. u 20:54 - pre 13h 12min}

Citat:

Ne znam da li si pravnik ili ne. Ja nisam i zato se nikada ne usudujem da bilo kome dajem pravne savete.

Postoji nekoliko zakona kojima se u 99.9% slučajeva bave ekonomisti, a samo u 0.1% situacija pravnici. To su Zakon o radu, Zakon o računovodstvu, Zakon o porezu na dodatu vrednost, Zakon o privrednim društvima, Zakon o porezu na dobit pravnih lica, Zakon o platnom prometu, Zakon o deviznom poslovanju itd. I iz oblasti tih zakona kad te nešto zanima, prilično je normalno i očekivano da pitaš ekonomistu. I sad, kad neko pita nešto sa čim se normalan čovek još nikada nije sretao, na primer isplata zarada u kešu na ruke umesto na tekući račun to i ekonomisti i pravniku treba jedno tri dana da prekopaju sve zakone i nađu da li je igde zabranjeno, a chatGPT to "odradi" za 3 sekunde i sistematizuje u obliku veoma profesionalno odrađenog izveštaja. Nego, problem je što po svemu sudeći 99% tih Dimkovićevih rastućih korisnika uopšte ne zna za Ai halucinacije. I što to uopšte nije način komunikacije svojstven čoveku. Kod čoveka vidiš kad nešto ne zna pa počne nesigurno tuc-muc, a ako prospe kao iz rukava članove, stavove i tačke zakona sa sve brojevima službenih glasnika, onda znači da zna

Ali dobro, nije napravljena nikakva šteta, osim što sam morao da se izvinjavam, moje neosnovano poverenje u Ai je trajalo manje od pola sata. Isto tako će i ovi ostali rastući korisnici da nauče na prvom važnijem pitanju.

Odgovor na temu

Shadowed
Vojvodina

Član broj: 649
Poruke: 12882

+4842 Profil

Re: Halucinacije veštačke inteligencije

^{17.09.2025. u 22:14 - pre 11h 52min}

Citat:

Darko Nedeljković: to i ekonomisti i pravniku treba jedno tri dana da prekopaju sve zakone i nađu da li je igde zabranjeno, a chatGPT to "odradi" za 3 sekunde i sistematizuje u obliku veoma profesionalno odrađenog izveštaja.

Fora je sto ChatGPT to uopste ne radi. Ne prekopava on zakone. Verovatno ih je imao u podacima za trening ali treba uzeti u obzir da prilikom treninga LLM ne zapamti neki tekst pa posle da kopa po njemu. On samo uspostavlja statisticke veze izmedju teci (tj. tokena = delova reci). Kad ga ti posle pitas, on na osnovu toga generise tekst.
E sad, postoji mogucnost da se da dokument koji ce on imati u okviru trenutnog konteksta i to bi moglo dati bolji rezultat. Nesto kao "ako uzmes u obzir ovaj zakon" pa mu istovaris kompletan tekst zakona "da li je legalno isplatiti pare na ruke". Kod nekih od tih chat aplikacija verovatno mozes samo dati link umesto da mu kopiras zakon.
Treba uzeti u obzir da je velicina context-a ogranicena a da su zakoni dugi pa je pitanje kako bi to proslo.
Ali, eto, ako te ne mrzi i znas u kojem zakonu je to, probaj da mu postavis isto pitanje ali mu prvo daj link do zakona pa vidi kako ce ti odgovoriti.

Nebojsa Milanovic:
-Trumpa smatram vrhunskim predsednikom i voleo bih da živim u državi na čijem je on čelu
-Rusija ne laže, ne vodi osvajačke ratove
-Trump je svetla tačka u USA blatu
-Elon Musk, možda najpametniji i najtrezveniji Amerikanac

Odgovor na temu

Darko Nedeljković

Član broj: 191820
Poruke: 1760
212.200.182.*

+2296 Profil

Re: Halucinacije veštačke inteligencije

^{17.09.2025. u 23:27 - pre 10h 38min}

Da, sad sam se malo igrao sa tim. Postavio sam mu isto to pitanje (da li je zabranjeno da poslodavac zaposlenom isplati zaradu u kešu na ruke i da želim dva odgovora - prvi osnovni uobičajeni odgovor i drugi uz proveru teksta zakona korišćenjem interneta. Prvi odgovor je bio da je to zabranjeno, a drugi isto to uz navođenje-citiranje konkretnog (izmišljenog) člana zakona. Ali interesantno - na kraju je pitao da li želim da ode na internet i još jednom proveri najaktuelnija verziju, potvrdio sam i onda mi je rekao da to uopšte nije zabranjeno. Dakle, nekad slaže da je proverio na internetu a ne proveri, nekad zaista proveri (ili ako misliš da ne proveri misterija je odakle mu odjednom suprotan stav). Zakon je naravno dug, ali ChatGpt Kaze da ChatGPT 5 može da prihvati oko 300-400 kucanih strana teksta u okviru pitanja (bez ignorisanja delova pitanja), što je impresivno, mislim da nijedan zakon nije duži od toga!

Odgovor na temu

djoka_l
Beograd

Član broj: 56075
Poruke: 3578

Jabber: djoka_l

+1528 Profil

Re: Halucinacije veštačke inteligencije

^{18.09.2025. u 07:55 - pre 2h 11min}

Na žalost, ne radi tako.
Ako eksplicitno tražiš da LLM potkrepi svoj odgovor linkovima na internetu, LLM formira niz tokena koji služi za pretragu, ali kada dobije listu linkova, LLM ne čita kompletan tekst, nego samo delove.
To je RAG (retrieval-augmented generation) ili po naški generisanje odgovora potkrepljeno prikupljanjem sa interneta.

Od svih linkova koje je dobio pretragom, površnim čitanjem bira one koji mu liče na ono što treba da odvori, ali i u tom odabiru, ne slažu se uvek njegovi odgovori sa onim što je naveo kao citat. To je, otprilike, kao da ne pročita vest, nego samo naslov, pa onda smatra da je tasj link dobar citat. Nije baš tako, ali retko čita ceo tekst, nego samo odlomke.

ChatGPT 5 ima kontekst od oko milion tokena (to je nagađanje, nije nigde tačno specificarano), dok je, recimo, verzaija 3 imala kontekst od 2048 tokena (za trojku su poznati tačno ti podaci).

Odgovor na temu

Darko Nedeljković

Član broj: 191820
Poruke: 1760
87.116.144.*

+2296 Profil

Re: Halucinacije veštačke inteligencije

^{18.09.2025. u 08:51 - pre 1h 15min}

Ja sam ga pitao koliko ima, kaže ima 128.000 tokena. Ceniš da ni o samom sebi ne zna tačne informacije? I zašto kaže "po razgovoru"? Da li to znači da ako nastavim sa potpitanjima u jednom trenutku mogu ispucati dozvoljene tokene i neću dobiti odgovor?

Odgovor na temu

Shadowed
Vojvodina

Član broj: 649
Poruke: 12882

+4842 Profil

Re: Halucinacije veštačke inteligencije

^{18.09.2025. u 08:58 - pre 1h 8min}

Da. Kada ga nesto pitas pa ti odgovori pa ga onda opet pitas, njemu ide i prethodno pitanje i odgovor i novo pitanje kao context. Na taj nacin se nadovezuje na sve receno.

Odgovor na temu

Shadowed
Vojvodina

Član broj: 649
Poruke: 12882

+4842 Profil

Re: Halucinacije veštačke inteligencije

^{18.09.2025. u 09:09 - pre 57min}

Inace, evo jednog jednostavnog primera:

User prompt 1 of 3:
how many words answer to this question has?

GPT-4o mini:
The answer to your question has **seven words**.

--------------------

User prompt 2 of 3:
count them

GPT-4o mini:
The words in the answer are:

1. The
2. answer
3. to
4. your
5. question
6. has
7. seven
8. words

So, there are **eight words** in total.

--------------------

User prompt 3 of 3:
you said seven

GPT-4o mini:
I apologize for the mistake. The correct count is **eight words** in the answer. Thank you for your patience!

Odgovor na temu