elitemadzone.org - Halucinacije veštačke inteligencije

Darko Nedeljković

Član broj: 191820
Poruke: 1760
87.116.144.*

+2296 Profil

Re: Halucinacije veštačke inteligencije

^{17.09.2025. u 11:33 - pre 7h 11min}

Do pre par dana nisam znao ništa o AI halucinacijama, pa sam se prilično izblamirao, iliti osramotio.

Naime, poslodavac me pitao za pravni status nekog poslovnog postupka, ja pitao AI da li je to zabranjeno, ako jeste koji zakon, koji član, stav i tačka i da mi navede citat i plus da mi navede kolika je kazna i za to po kom članu, stavu i tački.

I, odgovori mi on da je to strogo zabranjeno, navede član zakona i citat, broj službenog glasnika, napiše da je kazna od 800.000 do 2.000.000 dinara i sve apsolutno profesionalno proprati citatima iz službenog glasnika. I ja, naivan, copy-paste i pošaljem to. Ali, negde mi u maglovitom sećanju ostala informacija da AI može da slaže, pa nakon slanja uzmem da proverim svaki detalj (očekujući da neka sitnica može biti netačna, a ne da je ceo odgovor čista gomila halucinacije).

Nakon provere ispostavi se da je u celom odgovoru sve do najsitnijih detalja čista izmišljotina! To što sam pitao uopšte nije zabranjeno, samim tim toga uopšte nema u tekstu zakona i službeni glasnik nikada nije pisao o tome!

Pitao sam ChatGPT zašto me tako podlo i samouvereno slagao i on je u fazonu - jbg, tako sam programiran da kada ne znam onda iskonstruišem neku priču i sklopom je tako da neobaveštenom deluje totalno uverljiva, znam da to ne deluje baš moralno prihvatljivo, ali šta je tu je, nisam programiran da govorim istinu nego ono što će čitaocu delovati kao istina!!!

I tako, bili smo na poslu uveli ChatGPT kao pomoćni alat, sada smo ga izbacili i zabranili, jer bolje je da nemamo odgovor uopšte nego da imamo lažni odgovor. Ai je interesantna igračka, ali samo igračka.

Odgovor na temu

ademare

Član broj: 151475
Poruke: 8517

+1838 Profil

Re: Halucinacije veštačke inteligencije

^{17.09.2025. u 14:04 - pre 4h 41min}

O tome vec pisu i mainstrim mediji ! Naravno prepisuju strane tekstove , sto nije lose jer da sami pisu uz Chat GPT ko zna sta bi napisali !

https://n1info.rs/magazin/scit...pt-sve-manje-u-poslovne-svrhe/

U tekstu je zanimljivo istrazivanje podaci su verovatno od same firme za sta korisnici koriste. A najvaznije je u naslovu, sve manje se koristi u poslovne svrhe jer je nepouzdan.

Odgovor na temu

Ivan Dimkovic

Administrator
Član broj: 13
Poruke: 16754
..ynamic.v6.ziggo.nl. via ipv6

+7204 Profil

Re: Halucinacije veštačke inteligencije

^{17.09.2025. u 14:12 - pre 4h 33min}

Ako se u racunicu ubaci i broj aktivnih korisnika, interpretacija rezultata je drugacija.

MAU December 2024 - 300 miliona
MAU April 2025 - 800 miliona

Drugim recima, nije se smanjila upotreba u poslovne svrhe, vec je broj aktivnih korisnika porastao >2.5x gde je najveci rast u upotrebi za licne svrhe.

DigiCortex (ex. SpikeFun) - Cortical Neural Network Simulator:
http://www.digicortex.net/node/1 Videos: http://www.digicortex.net/node/17 Gallery: http://www.digicortex.net/node/25
PowerMonkey - Redyce CPU Power Waste and gain performance! - https://github.com/psyq321/PowerMonkey

Odgovor na temu

B3R1
Berislav Todorovic
NL

B3R1
Član broj: 224915
Poruke: 861

+687 Profil

Re: Halucinacije veštačke inteligencije

^{17.09.2025. u 14:56 - pre 3h 48min}

Citat:

Darko Nedeljković:
Do pre par dana nisam znao ništa o AI halucinacijama, pa sam se prilično izblamirao, iliti osramotio.

Nisi, samo si bio nesmotren. A evo i zasto:

Citat:

Naime, poslodavac me pitao za pravni status nekog poslovnog postupka, ja pitao AI da li je to zabranjeno, ako jeste koji zakon, koji član, stav i tačka i da mi navede citat i plus da mi navede kolika je kazna i za to po kom članu, stavu i tački.

Ne znam da li si pravnik ili ne. Ja nisam i zato se nikada ne usudujem da bilo kome dajem pravne savete. Ili ako ih dajem, obavezno kazem - proverite sa strucnjakom, ne uzimajte ovo zdravo za gotovo. A od jednog dobrog pravnika naucio sam tri bitne lekcije:

1. Pravo i zakoni ne sluze da ljudima donesu pravdu, vec samo da pokusaju da urede odnose medju njima.
2. Zakoni se citaju od reci do reci, pri cemu su svaka zapeta, tacka i ostali znaci interpunkcije itekako bitni.
3. Jedno je sta pise u zakonu, deseto je kako se te reci tumace. A tumacenje je ono sto se uci na fakultetima.

ChatGPT jos uvek nije u stanju da interpretira ni osnovne tekstove, kamoli da radi tumacenje zakona.

Bas kao sto ljudima ne savetujem da piju ovaj ili onaj lek, jer nisam lekar, niti sam studirao medicinu. A jos manje bih ChatGPT pitao za terapiju. Mada, ljudi to rade, jbg ... pogotovo u zemljama gde na obican lekarski pregled cekas i po godinu dana (UK, na primer).

Citat:

Pitao sam ChatGPT zašto me tako podlo i samouvereno slagao i on je u fazonu - jbg, tako sam programiran da kada ne znam onda iskonstruišem neku priču i sklopom je tako da neobaveštenom deluje totalno uverljiva, znam da to ne deluje baš moralno prihvatljivo, ali šta je tu je, nisam programiran da govorim istinu nego ono što će čitaocu delovati kao istina!!!

Tacno tako, to su priznali i ljudi iz OpenAI.

Evo sta sam ja nedavno ustanovio koristeci ChatGPT za potrebe svog svakodnevnog posla:
https://www.linkedin.com/pulse...d=0zXixmZGRvSxPL4j8PFNzg%3D%3D

Ukratko - tri puta mi je izbacio brljotine, koje su naizgled sitnice. Ali nisu. Te sitne greske mogu da prouzrokuju stetu ogromnih razmera, ako se ne provere.

Ono za sta je ChatGPT trenutno zaista dobar je prepevavanje nekog teksta na cestit engleski, sazimanje cinjenica nabacanih zbrda-zdola u N kratkih teza/tacaka (gde mu N zadajem ja). U oba slucaja tekst mu dajem ja i naglasim mu da to uradi samo na osnovu datog teksta. To radi zaista dobro. Dobar je i za vibe coding - ALI OPREZ - samo da ti izgenerise npr. neku funkciju u Pythonu za koju te mrzi da je sam pravis. I to ne preterano slozenu.

Za sve ostalo moracemo da sacekamo sledecu generaciju AI, koja ce stici uskoro ...

Odgovor na temu