Mi az a kontextus az AI-ban?

Részletes magyarázat

A legtöbb gyenge AI-válasz nem azért rossz, mert az eszköz használhatatlan, hanem mert nem kap elég kontextust: kihez szólunk, mi a cél, milyen márkahangot kell tartani, milyen döntést kell támogatni. Weboldal-szövegnél például meg kell adni a célcsoportot, szolgáltatást, ajánlatot, kifogásokat, stílust és azt is, milyen szavakat kerüljön az AI. A kontextus (context window) a modell technikai memóriahatára egy beszélgetésen belül. Mai határok: GPT-5 és Claude Sonnet/Opus 4.5 kb. 200k token, Gemini 2.5 Pro 1–2 millió token. Magyar szövegnél 1 oldal ≈ 800–1200 token. A long-context azonban tradeoff: drágább, lassabb, és 100k token felett már megjelenik a „needle in a haystack" jelenség — a modell rosszabbul talál meg konkrét részleteket egy nagy szövegben. A jó megoldás ritkán „mindent betolni az egyik prompt-ba". A hármas: system prompt (állandó instrukció) + few-shot (példák) + RAG vagy memory (releváns adat dinamikusan behozva) általában pontosabb és olcsóbb, mint a kontextus tömése.

Tipikus hibák

• Mindent egyetlen beszélgetésbe tolnak, és csodálkoznak, hogy a modell elveszti a fonalat.
• A long-context modellt arra használják, hogy 1M token forrásból egy konkrét számot húzzon ki — pedig RAG erre alkalmasabb és olcsóbb.
• Nem különítik el a system promptot (állandó keret) a user prompttól (aktuális kérdés).
• Nem mérik, mekkora a tipikus kontextushasználat — ezért nem tudják, hol éri meg modellt vagy módszert váltani.