Egy ismerősöm a múlt héten egy ügyfélnek küldött ajánlatba beírt egy statisztikát, amit a ChatGPT adott neki. Pontos szám, hivatkozott forrással, meggyőző mondat. A baj csak az volt, hogy a forrás nem létezett. A szám sem. Az ügyfél rákeresett, és nem találta. Kínos helyzet, és teljesen elkerülhető lett volna.
Ez az AI hallucináció. Nem ritka hiba, hanem a nyelvi modellek mindennapos viselkedése. És ha komolyan használod a ChatGPT-t, a Claude-ot vagy a Geminit a munkádban, akkor előbb-utóbb belefutsz. A kérdés nem az, hogy találkozol-e vele, hanem az, hogy felismered-e időben.
Ebben a cikkben először egyszerűen elmagyarázom, mi a hallucináció és miért történik, méghozzá úgy, hogy egy technikai háttér nélküli olvasó is megértse. Utána hét konkrét, azonnal alkalmazható technikát kapsz, amivel kiszűrheted a kitalált válaszokat. Nem elmélet, hanem amit a saját gépeden ma este kipróbálhatsz.
Mi az AI hallucináció valójában?
Az AI hallucináció az, amikor a nyelvi modell magabiztosan állít valamit, ami egyszerűen nem igaz. Kitalál egy adatot, megnevez egy nem létező könyvet, idéz egy tanulmányt, amit soha senki nem írt, vagy összekever két valós dolgot egy harmadik, hamis állítássá.
A legveszélyesebb tulajdonsága, hogy ugyanúgy hangzik, mint a helyes válasz. Nincs benne bizonytalanság, nincs benne habozás. A modell ugyanazzal a magabiztossággal mondja a kitalált választ, mint a valódit. Pont ettől csúszik át a figyelmeden.
A hallucináció lényege nem az, hogy az AI néha téved, hanem az, hogy nem tudja a különbséget aközött, amit tud, és amit kitalál. Számára mindkettő ugyanúgy néz ki.
Fontos elkülöníteni két dolgot. A klasszikus hallucináció az, amikor az AI olyasmiről nyilatkozik magabiztosan, ami a valóságban nem igaz. A másik eset, amikor egyszerűen elavult információt ad, mert a betanítása egy adott időpontban véget ért. A kettő különböző probléma, de a felhasználó számára egyformán félrevezető lehet.
Miért hallucinál az AI? A működés egyszerű magyarázata
Ahhoz, hogy védekezni tudj ellene, érdemes megérteni, miért történik. És itt jön a legtöbb félreértés: a legtöbben azt hiszik, hogy a ChatGPT egy hatalmas adatbázisban keres, mint a Google. Pedig nem így működik.
A nyelvi modell tulajdonképpen egy nagyon kifinomult szóelőrejelző rendszer. Amikor felteszel egy kérdést, a modell nem előkeresi a választ valahonnan, hanem szóról szóra megjósolja, mi a legvalószínűbb folytatás. Megnézi, mit írtál, kiszámolja, hogy a betanítása alapján milyen szó következik a legnagyobb eséllyel, aztán ugyanezt csinálja újra és újra, amíg ki nem alakul egy egész válasz.
Gondolj rá úgy, mint a telefonod szövegjavítójára, csak sokkal okosabb változatban. A szövegjavító is azt találgatja, mi lesz a következő szó. A nyelvi modell ugyanezt csinálja, csak nem szavanként, hanem teljes, koherens gondolatmenetekben.
Ebből következik a lényeg: ha a kérdésedre nincs egyértelmű, gyakran ismételt minta a betanításában, a modell akkor is megírja a legvalószínűbbnek tűnő választ. Nem áll meg azzal, hogy „ezt nem tudom". Helyette generál valamit, ami úgy néz ki, mint egy jó válasz. A hallucináció tehát nem hiba a rendszerben, hanem a működés természetes velejárója.
Ha mélyebben érdekel, hogyan jósol szavakat a modell, és hogyan tudod ezt a tudást a saját javadra fordítani, érdemes elolvasni a haladó promptolási technikákról szóló cikkünket, ahol a szerepkör-adás és az iteratív pontosítás konkrét példáit is megtalálod.
Hogyan néz ki egy hallucináció a gyakorlatban?
Nézzünk egy valós példát. Tegyük fel, megkérdezed a ChatGPT-t egy magyar marketing témájú könyvről, amit szeretnél elolvasni. Ez lehet a válasz:
“Ajánlom Kovács Péter A digitális vásárló pszichológiája című könyvét (HVG Könyvek, 2021), amely részletesen tárgyalja a magyar e-kereskedelmi szokásokat. A 4. fejezet különösen hasznos a konverzióoptimalizálásban.”
A válasz tökéletesen hangzik. Van benne szerző, cím, kiadó, évszám, sőt még fejezetszám is. Pontosan így néz ki egy valódi könyvajánló. A probléma? Lehet, hogy ez a könyv soha nem létezett. A modell összerakott egy hihető magyar nevet, egy valós kiadót, egy életszerű címet, és kész is a hallucináció.
A figyelmeztető jelek általában ezek: nagyon konkrét, de ellenőrizhetetlen részletek, kerek számok pontos forrással, idézetek pontos oldalszámmal, olyan nevek és linkek, amelyek elsőre ismerősnek tűnnek. Minél specifikusabb és magabiztosabb egy állítás anélkül, hogy te meg tudnád erősíteni, annál nagyobb a gyanú oka.
7 technika az AI hallucináció felismerésére és kiszűrésére
Most jön a gyakorlati rész. Az alábbi hét technika nem bonyolult, és nem igényel semmilyen technikai tudást. Egyenként is használhatóak, de együtt a legerősebbek. A lényeg, hogy ne bízz vakon az első válaszban, hanem építs be néhány ellenőrző reflexet a munkafolyamatodba.
1. Kérj mindig forrást, és ellenőrizd is
A legegyszerűbb és leghatékonyabb technika. Ha az AI állít valamit, kérdezd vissza: honnan tudod ezt, és add meg a pontos forrást. A webes keresést használó modellek ilyenkor tényleg kikeresik a forrást, a hallucinálók viszont már a megnevezésnél meginognak, vagy adnak egy linket, amit te ellenőrizhetsz.
A kulcs az utolsó lépés: a forrást neked kell megnyitnod. Ne elégedj meg azzal, hogy a modell megnevezett egy linket. A kitalált forrás is meggyőzően hangzik. Kattints rá, és nézd meg, hogy valóban azt írja-e, amit a modell állít.
2. Engedélyezd a promptban a “nem tudom” választ
Ez talán a legalulértékeltebb trükk. Mivel a modell alapból mindig megpróbál választ adni, explicit engedélyt kell adnod neki arra, hogy bevallja, ha nem tud valamit. Tedd a promptod végére ezt:
“Ha nem vagy biztos egy adatban, vagy nincs megbízható információd, írd azt, hogy nem tudom. Inkább mondd, hogy nincs adatod, mint hogy kitalálj valamit.”
Meglepő, mennyit javít ez az eredményen. Egy egyszerű mondattal lényegében felülírod azt az alaphajlamot, hogy a modell mindenáron választ adjon. A bizonytalanság beismerése hirtelen elfogadható opcióvá válik számára.
3. Gyanakodj a túl konkrét számokra
Amikor az AI pontos százalékot, összeget, dátumot vagy statisztikát ad, kapcsold be a gyanút. A számok azok, amiket a modell a legkönnyebben kitalál, mert egy hihető számot mindig könnyű generálni. A “a felhasználók 73%-a” típusú állítások különösen veszélyesek, mert pontosnak hatnak.
Van egy egyszerű teszt: kérdezd meg ugyanazt kétszer, kicsit másképp fogalmazva. Ha a szám változik a két válasz között, a modell találgat, nem tud. A valódi adat stabil marad, a kitalált ingadozik.
4. Adj kontextust: a saját dokumentumod a legjobb forrás (RAG)
A leghatékonyabb védekezés az, ha nem hagyod a modellt a saját emlékeire támaszkodni. Ehelyett bemásolod neki a forrásanyagot, és csak abból kéred a választ. Ezt nevezik RAG-nek, vagyis kontextussal támogatott válaszadásnak, de a lényeg egyszerű: ha odaadod neki a szöveget, amiből dolgoznia kell, sokkal kevésbé fog kitalálni dolgokat.
A gyakorlatban ez így néz ki: bemásolod a tanulmányt, a szerződést, a termékleírásodat, majd hozzáteszed, hogy “kizárólag a fenti szöveg alapján válaszolj, ne használj külső tudást”. Ezzel a modell mozgásterét leszűkíted arra, amit te ellenőriztél. Erről a megközelítésről, a memóriáról és a kontextus okos kezeléséről részletesen írtunk a context engineeringről szóló cikkünkben.
Mielőtt bármilyen érzékeny dokumentumot bemásolnál egy AI-ba, érdemes átgondolni, mit szabad feltölteni és mit nem. Erről a GDPR és biztonságos AI-használat útmutatónkban találsz konkrét listát.
5. Keresztellenőrzés: kérdezz rá egy másik eszközből
Ha egy állítás fontos, ne ugyanattól a modelltől kérj megerősítést, hanem egy másiktól. Ha a ChatGPT mondott valamit, ellenőrizd Claude-ban vagy Geminiben. A különböző modelleket eltérő adatokon tanították, így ha mindhárom ugyanazt mondja, az jó jel. Ha eltérnek, ott valami nincs rendben.
Ez különösen igaz a tényszerű, ellenőrizhető kérdésekre. A modellek közötti különbségekről és arról, hogy melyiket mire érdemes használni, részletes összehasonlítást írtunk a Claude vs ChatGPT cikkünkben. A keresztellenőrzés mellett pedig egy klasszikus, nem AI-alapú keresés is sokat ér, erről a AI keresés és Google keresés összevetésében olvashatsz.
6. Figyelj a dátum-érzékeny témákra
A nyelvi modelleknek van egy úgynevezett tudáshatáruk: egy időpont, ameddig a betanításuk tart. Ami azután történt, arról a modell vagy nem tud, vagy ami rosszabb, kitalál valamit a hiány pótlására. Friss eseményeknél, aktuális áraknál, új termékeknél, jogszabályoknál ezért fokozottan óvatosnak kell lenni.
Gyakorlati szabály: ha a kérdésed bármilyen módon az elmúlt hónapokra vonatkozik, vagy folyamatosan változó adatra (árfolyam, törvény, verziószám), akkor vagy webes keresést használó módot válassz, vagy egyszerűen ne az AI-ban keresd a választ. Ez az a terület, ahol a hallucináció a leggyakoribb és a legnehezebben észrevehető.
7. Használj tényszerű, alacsony kreativitású módot
A legtöbb AI-eszközben befolyásolható, mennyire legyen kreatív vagy mennyire ragaszkodjon a tényekhez a modell. Technikai néven ez a hőmérséklet, de a lényeg, hogy alacsonyabb beállításnál a modell kevésbé kalandozik el, magasabbnál szabadabban asszociál. Tényszerű feladatokhoz az alacsony a jó.
A gyakorlatban nem mindig férsz hozzá egy csúszkához, de a prompttal is irányíthatod. Írd oda: “Tényszerűen, pontosan válaszolj, kreatív megfogalmazás nélkül. Csak megerősített információt adj.” Ez nem garancia, de érezhetően visszafogja a modell hajlamát a kitalálásra. Kreatív íráshoz fordítva, ott pont a magasabb szabadság a hasznos.
A hét technika egy táblázatban
Az alábbi összefoglaló segít gyorsan eldönteni, melyik technikát mikor vesd be. Nem kell mindet mindig használni, a kockázat súlyosságához igazítsd.
| # | Technika | Mikor használd | Erőfeszítés |
|---|---|---|---|
| 1 | Forráskérés és ellenőrzés | Minden tényszerű állításnál | Alacsony |
| 2 | “Nem tudom” engedélyezése | Mindig, a promptban | Nagyon alacsony |
| 3 | Számok gyanúja | Statisztika, ár, dátum esetén | Alacsony |
| 4 | Kontextus-adás (RAG) | Dokumentum-alapú munkánál | Közepes |
| 5 | Keresztellenőrzés | Fontos, kockázatos állításnál | Közepes |
| 6 | Dátum-érzékenység | Friss vagy változó adatnál | Alacsony |
| 7 | Tényszerű mód | Tényfeladatoknál, nem kreatívnál | Alacsony |
Mikor számít igazán, és mikor engedhető meg?
Nem minden feladatnál egyformán fontos a hallucináció elleni védekezés. Ha az AI-jal ötletelsz, szabad asszociációkat gyűjtesz, vagy egy szöveg stílusát csiszolod, akkor egy-egy pontatlanság nem katasztrófa, sőt a kreatív szabadság hasznos is lehet. Nyugodtan engedheted a modellt asszociálni.
Egészen más a helyzet, ha tényekkel dolgozol: ügyfélnek küldött ajánlat, jogi vagy egészségügyi információ, pénzügyi adat, idézet egy publikációhoz, statisztika egy prezentációba. Ezeknél a hallucináció nem kínos, hanem komoly következményekkel járhat. Nincs kompromisszum: minden tényszerű állítást ellenőrizni kell.
Egy egyszerű szabály, ami sokat segít: ha az állítást a nevedhez kötve továbbadod valaki másnak, akkor ellenőrizd. Ha csak magadnak ötletelsz, lazíthatsz.
A szkepticizmus itt nem hátrány, hanem előny. Aki eleve gyanakvással áll hozzá az AI válaszaihoz, az ritkábban ég be. A cél nem az, hogy ne használd az eszközt, hanem hogy okosan használd: kihasználod a sebességét, de a végső felelősséget magadnál tartod.
Töltsd le az ingyenes AI prompt csomagunkat →
Mit jegyezz meg a végére?
Az AI hallucináció nem egy múló gyerekbetegség, amit a következő modell majd megold. A nyelvi modellek működésének része, és az is marad. A jó hír, hogy nem kell tökéletes rendszert várnod ahhoz, hogy biztonságosan használd. Elég néhány jó reflex.
A hét technika egyszerű: kérj forrást és ellenőrizd ténylegesen, engedd meg a modellnek, hogy bevallja ha nem tud valamit, gyanakodj a túl szép számokra. Ha fontos döntés múlik rajta, adj kontextust, kérdezz rá egy másik eszközből, és friss témáknál ne bízz a modell emlékezetében. Tényfeladatnál tényszerű módban tartsd.
Egyik sem bonyolult, és együtt drámaian csökkentik az esélyét, hogy beégj egy kitalált adattal. Az AI így marad az, aminek lennie kell: gyors, hasznos segéd, amelynek a kimenetéért te felelsz, nem ő.
