Halucinacije veštačke inteligencije

Postavljam ovu temu u želji i nameri da bude nešto slično kao ono "Gluposti po novinama" i ostale slične teme.

---

---

---

Dakle, jasno je da se AI ne sme verovati. Ali ovo danas, prevazilazi sve šta sam do sada dobio kao odgovor.
Priznajem, nisam pročitao knjigu "Tebi, moja Dolores", i eto, hteo sam da se informišem.










Dakle, potpuna halucinacija, izmišljotina! Neverovatno!

---

Ko želi, može da proba istovetno pitanje na Deep Seek-u. Još smešnije!
Ni posle četiri ispravke nije skapirao koja je to knjiga, ko je autor.

---

Meni si ti smešan, kada pitaš na srpskom AI model.
Kvalitet odgovora na neko pitanje zavisi od količine podataka koji su korišćeni za treniranje modela. Za engleski jezik postoji znatno veća količina podataka, dok je srpski prilično slabo zastupljen.
Ja sam često testirao promenu jezika u toku sesije, recimo počnem na engleskom, pa se prebacim na srpski i obrnuto.
A i model se konstanto menja. Kada se ChatGPT pojavio, pa sam počeo da se zezam, pitao sam ga na srpskom da mi ispriča šta zna o Gruču Marksu. On mi je dao biografiju Karla Marksa.
Kada sam se prebacio na engleski, pa mu dodatno objasnio da je u pitanju američki komičar, jedan od braće Marks, da je poznat po "Three Stooges" dobio sam korektan odgovor.

Pitanje:


Odgovor

Hm, mislio sam da je isti resurs podataka za sve, a da se svako pitanje prvo prevede na engleski (na primer) pa se konstruiše odgovor, pa se odgovor prevede na jezik na kojem je pitanje postavljeno.

Bilo kako bilo, evo šta kaže Deep Seek na pitanje na Engleskom.

---

U međuvremenu, nešto je naučio. Namerno sam pitanje napisao potpuno isto, sa istim interpukcijama

---

LLM uopšte ne radi tako kako si mislio.
U stvari, LLM i automatsko prevođenje imaju principijelno drugačiji pristup. U smislu da se kod LLM niz tokena propušta kroz attention sloj tako da se prvi token u nizu koristi za modifikaciju svih tokena od drugog, drugi sa svim od trećeg itd.
Kod automatskog prevođenja, svi tokeni se međusobno porede. U mnogim jezicima postoje "čudni" propisi o redu reči u rečenici. Recimo, u nemačkom, kada se gradi prošlo vreme, koristi se prezent pomoćnog glagola haben i particip perfekta glavnog glagola koji stoji na kraju rečenice. Što bi rekao Ramštajn "Du hast mich gefragt". Ovaj gefragt je particip perfekta glagola fragen (pitati), pa rečenica bukvalno znači Ti jesi mene (ge)pitala.
Zato nije dovoljno da se u attention sloju porede samo tokeni s leva u desno, nego svaki sa svakim.

LLM radi tako što podeli prompt na tokene, pa propusti kroz mnogo attention i transformation slojeva. Recimo, ceo "rečnik" ChatGPT 3.5 je bio oko 50.000 tokena, što nije dovoljno ni za jedan jezik, a ne za sve koje podržava LLM.
U stvari, rečnik, osim reči, sadrži intrpukcije. Možeš da zamisliš da većina tokena koji se nalaze u rečniku nije duža od 2 slova.

OK, vidiš da je sad dao korektan odgovor i na srpskom

---

Verovatno si ga u istoj sesiji prvo pitao na engleskom.
Ja ne znam koliko je dugačak kontekst ChatGPT sada, ali u verziji 3.5 je bio dugačak samo 2048 tokena. Sada je znatno duži, pa prethodni odgovori zavise od kompletnog konteksta znatno više. Dakle, kada postaviš neko pitanje LLMu, odgovor ne zavisi SAMO od tekućeg prompta nego i od svih prethodnih promptova, kao i od njegovih odgovora.

LLM nema nikakvu inteligenciju, on je samo u stanju da generiše sledeći token u nizu u zavisnosti od svih tokena koji se nalaze u kontekstu.

Poenta je u tome da AI halucinira.
Nije došao do odgovora, iz ovog ili onog razloga, ali svejedno, izmišlja, mašta, halucinira, u stvari: LUPETA, sve kao da je stvarno!

U odgovoru koji sam prvog citirao:



Prvo je, dakle, izmislio književno delo, zatim ga dodelio Bukovskom (wtf, zašto baš njemu?!?), a onda je krenuo u halucinacije pa opisuje izmišljeno književno delo, i ide u dublju analizu autora i njegovog stvaralaštva sa osvrtom na život i intimu!

Po meni, ovo je prilično "opasno" (namerno pod navodnicima) jer će prosečnom korisniku UVEK da da odgovor, na svako pitanje, i neće se libiti da potpuno izmisli nešto što nema veze s vezom.
Mnogo je "poštenije" da je AI koncipiran tako da, jbg, kad ne zna - ne zna, pošteno kaže i ne dovodi korisnika u zabludu.

---

Eto na primer, neko (ja ) će da zapitkuje nešto oko održavanja automobila, pa će posle nekoliko pravilnih, tačnih i smislenih odgovora na pitanje "koje ulje da koristim", AI će bez pardona, iako ne zna, da izhalucinira nešto i time dovede korisnika u totalnu zabludu, i možda izazove štetu.

---

Slazem se. Medjutim, LLM-ovi ne znaju nista. Nemaju znanje pa da kazes "ovo zna" ili "ovo ne zna". Nema baze filmova iz koje ce izvlaciti podatke o njima.
Oni su napredne verzije autocomplete-a. Najzanimljivija stvar sa njima je to sto zapravo taj autocomplete tako cesto daje rezultate koji izgledaju kao razgovor i odgovaranje na pitanja.
Ali u tome lezi i problem jer se onda zaboravi sta alat zapravo radi i koristi se za ono sto izgleda da radi.
Te halucinacije nastanu kada mu tok dodatnih reci odu u stranputicu i on onda nastavi da nadovezuje.

Inace, imao sam slicnih iskustava u skorije vreme: pitao sam ga da mi kaze film na osnovu opisa. Em sto se stalno vracao na Matrix iako sam mu rekao da nije i naveo razlike u radnji Matrix-a i onog sto trazim, em je jedan od filmova bio izmisljen u potpunosti.
Isto tako, pitao sam ga nesto oko zakona i rekao mi je da se to nalazi u pogresnom zakonu i kad sam pitao koji clan, izmislio je clan zakona. Kad sam mu rekao da nije tacno, izvinio se i dao mi isti tekst samo rekao nije clan 10 nego 11 :)

U sustini, dobar je kada ti treba da se informises dovoljno da znas u kom smeru da trazis po netu (npr. dobio sam naziv toga sto sam trazio u pravnom sistemu pa sam onda po tome nasao u kojem je zakonu i kako glasi).

---

AI u principu ne koristim ali vidim da sada Google pri pretrazi koristi svoju AI ?

Za vecinu upita daje nekakav svoj sazetak ?

E sad tu nije ovo isto sto pise @ Djoka , da zavisi jezik, jer su upiti na ENG , tekstovi su na ENG, ali on daje sazetak na SRB.

Tako da tu on na kraju koristi ocigledno svoj Google Translate.

Naravno moze da se podesi i da sazetak i ostalo bude na ENG ali sam sazetak, njegov sadrzaj ne zavisi od GT koji je sam po sebi los !


Konacan prevod ne utice na Pogresan Sazetak !

U sustini ne citam te sazetke, jer mi ne trebaju, treba mi pretraga interneta, ali on se pravi pametan pa napravi sazetak sa vise linkova da nam "ustedi vreme " !


I tako pre neki dan sam hteo da pregledam posto postoje jako slicni modeli kompjutera Dell 3040 i 3050 !

Hteo sam da vidim u cemu su razlike , koje CPU podrzavaju itd.

I dobijem sazetak sa 5-6 linkova to su najcesce Dell forum i Reddit i slicni izvori !

I sta se ispostavilo ?

Sazetak je potpuno Pogresan !

Google AI je procitao na Engleskom 5-6 linkova i doneo Potpuno Pogresne zakljucke od onoga sto je procitao ! Napisao je da 3040 podrzava Intel 7. generaciju sto Nikako nije Istina !

Ja kada sam procitao te iste linkove koje je on ponudio u pretrazi i koje je on citao , vidi se iz aviona da nije mogao da odvoji Forumska Lupetanja i Budalastine od pravih cinjenica ??

Meni Google search daje AI digest na engleskom.
Ako ti je podešavanje na browseru namešteno na srpski, onda je normalno to što ti se odgovor formuliše na srpskom, bez obzira na to koji si jezik koristio u search.

I još jednom ponavljam, LLM NE PREVODI!
Ono što ti misliš da je prompt ima gomilu dodataka, verovatno se na početku ili na kraju TVOG prompta doda nešto tipa {language: "sr"}

Praktično to dodaje vektor koji kaže da se tokeni generišu u pravcu srpskog, pa onda, umesto da dobiješ "the" dobiješ "taj"

https://support.google.com/web...w-result-besides-english?hl=en

Sure — **RAG (Retrieval-Augmented Generation)** is one of the most important modern techniques in LLM systems. It helps language models give **more accurate**, **current**, and **verifiable** answers by combining them with external data sources like search engines, databases, or internal knowledge systems.

Let’s break it down clearly:

---

## 🧠 What is RAG?

> **Retrieval-Augmented Generation (RAG)** is a hybrid method that:
>
> 1. **Retrieves** relevant documents or data,
> 2. **Injects** that data into the model’s prompt (context),
> 3. Lets the LLM **generate** a response using that information.

So instead of relying **only on what it learned during training**, the model can **look up fresh or domain-specific knowledge** at runtime.

---

## 🔄 How it Works (Step-by-Step)

Here’s a high-level pipeline:

### 🔹 1. User Query:

```
"Explain the difference between Dell OptiPlex 3040 and 3050"
```

### 🔹 2. Retrieval Component:

* The system uses the query to search:

* A **web search engine** (e.g., Bing, Google)
* An **internal database** (e.g., vector store, enterprise docs)
* Retrieval is often done with **semantic search** (not keyword matching) using embeddings.

It finds **relevant documents or snippets**.

### 🔹 3. Chunk + Filter:

* Retrieved documents are broken into chunks,
* A few most relevant chunks are selected (e.g., top 3).

### 🔹 4. Prompt Assembly:

The selected chunks are **inserted into the LLM’s context window** like this:

```
User: Compare Dell OptiPlex 3040 and 3050
Context:
[Chunk from Dell 3040 specs]
[Chunk from Dell 3050 specs]
```

### 🔹 5. LLM Generation:

The LLM then answers:

> “The 3050 has newer processors (7th Gen Intel Core) compared to the 3040’s 6th Gen…”

The answer is **grounded in the retrieved context**, not hallucinated.

---

## 🏗️ Technical Stack (Behind the Scenes)

| Component | Role |
| ---------------- | -------------------------------------------------------- |
| **Embedder** | Converts text/query into vectors (e.g., using BERT, Ada) |
| **Vector Store** | Stores embeddings + metadata (e.g., FAISS, Pinecone) |
| **Retriever** | Finds top-N similar vectors (semantic search) |
| **LLM** | Generates answer using context + original query |

---

## 🔐 Benefits of RAG

✅ **Grounded Answers** — pulls from real documents
✅ **Up-to-date** — doesn’t require model retraining
✅ **Domain-specific** — use company manuals, private docs
✅ **Explainable** — you can trace where answers come from

---

## ⚠️ Limitations

* If retrieval fails (bad query, poor indexing), the model still hallucinates.
* Limited by the **context window size** of the LLM.
* Can include **irrelevant or conflicting info** if not filtered well.
* Requires infrastructure (vector DB, embedder, retriever, etc.)

---

## 🧠 Common Use Cases

| Use Case | Example |
| ---------------------- | ---------------------------------------------- |
| **Enterprise QA** | “What’s our HR policy on remote work?” |
| **Document Summaries** | “Summarize this 200-page legal brief” |
| **Tech Support** | “Why is my printer not connecting to Wi-Fi?” |
| **Academic Search** | “Find recent papers on RAG with code examples” |
| **Chatbots** | “What’s the return policy on product #1234?” |

---

## 🧪 Variants & Add-ons

* **Open-Domain RAG** → uses Google/Bing search as retriever
* **Closed-Domain RAG** → searches only your own knowledge base
* **Conversational RAG** → includes prior chat history in retrieval
* **Multi-hop RAG** → retrieves intermediate facts and chains them
* **Fusion-in-Decoder** (FiD) → feeds multiple retrieved chunks separately into decoder

---

## ✅ TL;DR

> **RAG lets LLMs access live or private knowledge without retraining.**
> It retrieves documents (via search or database), passes them to the model, and grounds the response in that context — making answers more accurate, current, and auditable.

Would you like a diagram or code example (e.g., how to build a simple RAG with Python and FAISS)?

AI alati su isti kao i bilo koji programski jezik, učenjem kako da se unesu promptovi, dobijaju se bolji rezultati.

Evo primera mog dijaloga sa Copilot AI u VS Code (ignorišite moje greške u kucanju)

NIje to pitanje bilo postavljeno vec jednostavnije :

Evo sada na Engleskom je pogodio i ponudio u pretrazi razlicite bolje linkove za citanje . Umesto 3 linka sa Reddita ponudio je samo 1. i to poslednji na stranici, mozda ga nije ni citao.

Sa Dellovog Foruma ponudio je bio 1 link sada 3. !

Ponudio je za razliku od proslog puta : https://ms.codes/blogs/compute...optiplex-3040-cpu-support-list

i jos : https://www.hardware-corner.ne...models/Dell-OptiPlex-3040-SFF/

i : https://www.userbenchmark.com/System/Dell-OptiPlex-3040/25098


Tako da sada nije mogao da zezne u sazetku jer mu je pretraga bila dosta bolja !

Prosli put je svoju pretragu i sazetak zasnivao na Forumima i ostaje ono sto i pise ! Nije u stanju da razlikuje forumsko Lupetanje od cinjenica ! Jer i Dell forum nije zvanicna podrska vec se javljaju obicni ljudi clanovi kao i na svakom forumu . Na redditu isto. Pa neko zna Specificnosti Brendove tipa : Dell , HP, Lenovo itd a neko misli da je dovoljan cipset i da je to sve isto kao kada covek sklapa svoj PC od delova iz prodavnice !

Tako da na linkovima sa foruma ima i tacnih podataka ali i Budalastina .

Pa je sazetak bio da podrzava i 6. i 7. gen.


Evo sada sa boljim linkovima pretrage koje je on procitao pre mene, je pogodio pravi odgovor.

A upit je bio jednostavniji od razlike : dell 3040 cpu support

Ali ipak je uspeo da zezne stvar jer je imao forumske linkove kao osnovu . Ne znam koliko linkova cita i na osnovu koliko donosi zakljucke jer je na linkovima sa foruma bilo idiota koji su tvrdili da podrzava i 7. gen.

Zato sto 99.99 maticnih ploca u prodavnici podrzava obe gen. ali maticne za Brendove se ne prodaju u svakoj prodavnici.

Ma, kapiram. Ja često pitam AI nešto što znam, da proverim koliko halucinira.

Primer, pitam ga šta misli o OOP konceptu, on ga nahvali.
Onda ga pitam šta je loše u OOP konceptu, on ga nagrdi.

Pa onda pitam, na osnovu tvoja dva prethodna odgovora, da li OOP dobar ili loš koncept.

Onda se on pravda , kao ima dobrih i loših strana.

Jednostavno, programiran je da ti udovoljova.

Sada skoro sam pitao da li je Big Data faza u razvoju AI.
On je onda izmislio gomilu stvari i stavio je da je Big Data faza u razvoju AI.
Onda sam ga pitao nešto tipa, da nisam pomenuo Big Data, da li bi u istoriju razvoja AI uvrstio Big Data koncept.
Priznao je da ne bi, da je to samo tehnologija koja je omogućila da AI od igračke postao ozbiljan proizvod, ali da Big Data predstavlja samo tehnmologiju koja pomaže da se prikupe podaci za treniranje AI.

Bukvalno, od formulacije pitanja, dobiješ drastično drugačije odgovore.

Kod Google search, opet, mala varijacija u searh frazi, može da proizvede drastično drugačije hintove, pa onda i AI formira odgovor na osnovu delova linkova koje je pronašao i rangirao kao najrelevantnije.

Ja, lično, sve ređe koristim Google searh, ChatGPT mi daje bolje linkove.

Mene je prilicno odusevio LLM koji koristi Zoom.

U stanju je da nakon svakog online sastanka napravi pravi pravcati zapisnik, tako sto sazme sve o cemu je ko / sta govorio i to s nekom preciznoscu od 99%. Zoom taj zapisnik automatski salje organizatoru sastanka email-om, ovaj moze da to uzme, izmeni ili ispravi greske i sve to prosledi ucesnicima, ako zeli. Izuzetno lepa stvar, korisna da se podsetis sta se desavalo na sastanku, a deluje i profi kada ucesnicima posaljes taj zapisnik. I sve se zavrsi za 5 minuta.

Teams ima slicnu opciju - Teams Recap, ali je koriscenje katastrofalno komplikovano, kao i sve sto radi Microsoft. Nisam imao strpljenja da procitam ni prvi pasus uputstva, pobegao sam. Gubim strpljenje u poslednje vreme i to rapidno, jbg ...

Zoom je bolji za to!