Kompaktovanie kontextu v Praktiku
Pri dlhšej práci s právnym AI agentom v Praktiku sa môže zobraziť informácia, že prebehlo kompaktovanie. Táto stránka vysvetľuje, čo to znamená a prečo to môže ovplyvniť výkon agenta.
AI agenti si konverzáciu nepamätajú rovnako ako človek. Pri každej odpovedi model dostane iba obmedzené množstvo textu, ktoré sa nazýva kontextové okno: vaše správy, predchádzajúce odpovede agenta, výsledky nástrojov, úryvky dokumentov, právne zdroje a systémové inštrukcie.
Čo sa stane, keď sa kontext zaplní
Section titled “Čo sa stane, keď sa kontext zaplní”Dlhé právne rešerše alebo revízie dokumentov sa môžu časom priblížiť k tomuto limitu. Výkon sa však môže zhoršovať už pred dosiahnutím tvrdého limitu, pretože model musí prehľadávať viac informácií a má menej pozornosti pre každý detail. Anthropic tento jav označuje ako context rot: s rastúcim kontextom môže byť vybavovanie starších detailov a práca s nimi menej spoľahlivá.
Keď sa dosiahne prah, Praktik môže použiť kompaktovanie, aby agent mohol pokračovať v úlohe.
Čo znamená kompaktovanie
Section titled “Čo znamená kompaktovanie”Kompaktovanie znamená, že staršia časť konverzácie sa zhrnie do kratšej podoby. Toto zhrnutie potom nahradí veľkú časť pôvodnej histórie, aby agent mohol pokračovať namiesto toho, aby sa zastavil.
Dobré kompaktovanie sa snaží zachovať:
- cieľ používateľa a obmedzenia,
- dôležité rozhodnutia, ktoré už padli,
- súbory, dokumenty, právne zdroje alebo úryvky dokumentov, ktoré sa použili,
- aktuálny stav práce a nevyriešené úlohy,
- upozornenia, chyby, citácie alebo okrajové prípady, na ktoré sa nemá zabudnúť.
Prečo sa kvalita aj tak môže zhoršiť
Section titled “Prečo sa kvalita aj tak môže zhoršiť”Kompaktovanie je užitočné, ale nie je dokonalé. Zhrnutie je stratové: zachová hlavné body, ale časť nuáns, odôvodnenia alebo malých detailov sa môže stratiť. Ak sa relácia kompaktuje opakovane, tieto malé straty sa môžu hromadiť. Agent potom môže byť menej presný, prehliadnuť starší kontext, zabudnúť, prečo bol použitý konkrétny právny zdroj, alebo robiť predpoklady o veciach, ktoré už boli vyriešené.
Praktické odporúčania
Section titled “Praktické odporúčania”Po kompaktovaní môžete v konverzácii pokračovať, ale pri dôležitej práci odporúčame najprv obnoviť kľúčový kontext:
- požiadajte agenta, aby zhrnul všetko podstatné, čo ste zatiaľ zistili, dohodli alebo vytvorili,
- nechajte ho uviesť aj použité právne zdroje, citácie, otvorené otázky a predpoklady,
- ak chcete pokračovať s vyššou spoľahlivosťou, skopírujte toto zhrnutie do novej konverzácie a pokračujte tam,
- ak pokračujete v pôvodnej konverzácii, zopakujte kritické požiadavky a nechajte agenta potvrdiť, že im rozumie,
- dôležité fakty si ukladajte aj mimo chatu – napríklad do dokumentu, poznámok k veci alebo úloh.
Kompaktovanie pomáha Praktik agentom pokračovať za hranicou ich bežnej pracovnej pamäte, ale treba ho brať ako pomôcku na pokračovanie v práci – nie ako záruku, že každý detail zostane zachovaný navždy.