Konzultácia zdarma

Kontextové okno (context window)

Maximálne množstvo textu, ktoré jazykový model spracuje v jednej požiadavke, vstup aj výstup spolu.

Definícia

Kontextové okno udáva, koľko tokenov model naraz „vidí“. Dnešné modely zvládnu stovky tisíc tokenov, niektoré až milión a viac, čo sú stovky strán textu. Čím väčšie okno, tým viac dokumentov sa zmestí do jednej požiadavky. Model si však medzi dvoma požiadavkami nič nepamätá, históriu konverzácie treba poslať znova.

Príklady z praxe

  • Analýza zmluvy. Päťdesiatstranová zmluva sa pohodlne zmestí do okna a model v nej nájde napríklad výpovedné lehoty.
  • Dlhá konverzácia so zákazníkom. Staršiu časť rozhovoru systém zhrnie a v okne drží len posledné výmeny a zhrnutie.

Kedy okno nestačí

  • Tisíce dokumentov. Žiadne okno ich neudrží. Použite RAG a do požiadavky posielajte len najrelevantnejšie pasáže.
  • Presné hľadanie v dlhom texte. Modely niekedy prehliadnu fakty uprostred dlhého dokumentu. Pri dôležitých údajoch je RAG spoľahlivejší.
  • Cena. Každý token v okne sa platí, aj keď ho model nepotrebuje.

Súvisiace pojmy

Čítajte ďalej

Služba

AI agenti

Agenti, ktorí čítajú e-maily, spracúvajú dopyty, pripravujú ponuky a riadia procesy. Sú napojení na vaše systémy.

od 3 600 €

AI pre firmy

Čo AI vo firme reálne zvládne, na čo sa nehodí a ako ju nasadiť bezpečne, s príkladmi a číslami.

Glosár

Pojmy z umelej inteligencie a automatizácie procesov vysvetlené po slovensky a prakticky: AI agent, RAG, LLM, embedding, OCR, prompt, tieňový režim a ďalšie.

Bezplatná AI konzultácia

Koľko času vám
berie rutina?

Povedzte nám o svojich procesoch. Za 30 minút zmapujeme, kde AI ušetrí najviac, a odhadneme úsporu aj cenu. Zadarmo a bez záväzkov.

  • Online alebo osobne v Bratislave
  • Odchádzate s konkrétnym plánom, nie s prezentáciou
  • Ak sa automatizácia neoplatí, povieme vám to

Nechajte nám kontakt

Ozveme sa do jedného pracovného dňa a dohodneme termín konzultácie.

Bezplatná konzultácia