Na této stránce
Představte si katalog produktů, který se v pondělí změní. Prompt asistenta stále obsahuje páteční seznam. Tým prompt aktualizuje. Druhá kopie starého seznamu však zůstala v příkladech použitých při trénování modelu. Asistent nyní ve stejné relaci dává jednou aktuální a jednou zastaralou odpověď.
Jde o ilustrativní selhání, ale mechanismus je běžný: tentýž fakt má více domovů.
Prezentace o promptech, vyhledávání a vahách modelu ukazuje užitečnou hranici. Prompt říká asistentovi, jak se má chovat. Vyhledávání přináší do konkrétní úlohy aktuální znalosti, které lze citovat. Přizpůsobení modelu může naučit stabilní vzorec. Považovat tyto tři cesty za žebřík, na němž je nejprve prompt, pak vyhledávání a při další chybě vždy dotrénování, znamená špatně určit příčinu faktické chyby.
Prompt je špatný katalog
Prompty lákají snadnou editací. Přidáte odstavec a další požadavek jej nese. Pohodlí skrývá dvě ceny. Fakt se odesílá při každém volání, i když není relevantní. A ve velkém promptu se obtížně určuje, kterou kopii pravidla model použil.
Trvalý pokyn typu „před odesláním kampaně se zeptejte“ patří k agentovi. Seznam současných vlastních polí tohoto obchodu ne. Může se změnit, když správce účtu přidá atribut. Může být jiný u každého zákazníka. Jeden pracovní prostor jej může vidět a jiný k němu nesmí mít přístup.
Průvodce konektorem Brevo ukazuje, proč u synchronizace kontaktů záleží na definicích polí. Pokud atribut není deklarován v cílovém účtu, mapování vypadající rozumně podle názvu nemusí vytvořit zamýšlené pole. Agent má zkontrolovat aktuální smlouvu účtu, ne si vybavit obecný seznam polí z trénování.
Užitečný výsledek vyhledávání je dost malý na to, aby jej šlo zpochybnit. Má uvádět účet nebo zákazníka, čas načtení a operaci či pole, které popisuje. Pokud si dvě načtené pasáže odporují, systém má konflikt ukázat místo tiché volby plynulejší z nich. Dalším správným krokem může být nové vyhledání nebo přezkum, ne další pokus o důraznější prompt.
Načítejte fakt i s jeho rozsahem
Užitečný znalostní záznam nese víc než text. Potřebuje zdroj, verzi nebo čas načtení, rozsah účtu a jasný způsob odstranění či nahrazení. Definice pole nalezená v jednom obchodním účtu se nikdy nesmí stát univerzálním pravidlem pro jiný.
Dotaz na atribut kontaktu pak může načíst nejmenší pasáž, která na něj odpoví: název a typ pole a účet, kde existuje. Odpověď může ukázat zpět na zdroj. Pokud mapování selže, tým může zkoumat, zda byl fakt zastaralý, zda se vrátil výsledek jiného účtu nebo zda model správnou pasáž nepochopil.
To jsou odlišné opravy. Úprava promptu nespraví vyhledávací filtr, který překračuje hranice zákaznických účtů. Větší model nedodá definici atributu, kterou nikdo nenačetl.
Vysvětlení MCP popisuje, jak se agent může ptát nástrojů. Nástroj má vrátit příslušnou smlouvu a aplikace má hlídat, kdo ji smí vidět. Textový pokyn „neprozrazuj údaje jiného zákazníka“ nenahrazuje dotaz omezený na jeho účet.
Toto rozdělení také urychluje opravy. Pokud se přejmenuje cílové pole, aktualizujte zdroj schématu a zneplatněte dotčené mapování. Pokud agent opakovaně nechápe stabilní pokyn, upravte jej nebo vyzkoušejte cílený trénink. Pokud odpověď chybuje kvůli výběru špatného účtu, změna vah modelu mine příčinu. Každá třída chyby má jiného vlastníka a jinou cestu opravy.
- Trvalý pokyn
Jak se má asistent chovat
- Vyhledání v rozsahu účet · verze · čas
Co platí právě teď
- Rozhodnutí o mapování
Použijte aktuální fakt pro tuto úlohu
- Kontrolovaný zápis
Kód ověřuje oprávnění a rozsah
Učte vzorce až po jejich ustálení
Oprávněná námitka zní: „Když se fakt používá stále, proč ho nevložit do menšího modelu?“ Samotné opakování nestačí. Fakt musí zůstat správný mezi aktualizacemi modelu a model musí umět rozlišit kontexty.
Stabilní styl klasifikace se časem může vyplatit dotrénovat. Aktuální seznam polí dodavatele je špatný kandidát. I když se mění zřídka, jediná zastaralá odpověď může vést k nesprávnému mapování aplikovanému na mnoho záznamů. Fakt ponechte tam, kde jej člověk může zkontrolovat a opravit.
Zdrojová prezentace také varuje před používáním vyhledávání na každé selhání úsudku. Pokud model nedokáže správně porovnat dva relevantní dokumenty, dalších padesát dokumentů ho to nenaučí. Nejprve se ptejte, zda dorazila správná pasáž. Pak zda nad ní model správně rozhodl.
Pro tvůrce integrací z toho plyne postup opravy: určete nesprávné tvrzení; zkontrolujte načtenou pasáž pole nebo API; ověřte účet a verzi; opravte podle potřeby zdroj nebo vyhledávání; rozhodnutí znovu otestujte. Teprve potom uvažujte o změně modelu.
Cenou je údržba skutečné znalostní vrstvy: aktualizace zdrojů, kontroly přístupu a citace. Ziskem je fakt, který lze opravit na jednom místě.
Měnící se smlouva nesmí čekat, až na ni model zapomene.
Často Kladené Otázky
Co patří do promptu agenta?
Krátké trvalé pokyny o chování a hranicích. Měnící se katalog, seznam polí konkrétního zákazníka nebo aktuální pravidlo dodavatele se mají podle potřeby načítat ze zdroje, k němuž má volající oprávnění.
Proč model nedotrénovat na současné dokumentaci?
Dotrénování může uložit měnící se fakt do vah, které se obtížně kontrolují a opravují. Nejprve zajistěte načtení a citování správného dokumentu v okamžiku rozhodnutí.
Jak opravit nesprávnou faktickou odpověď?
Zkontrolujte zdrojový dokument, jeho verzi, filtr vyhledávání a vrácenou pasáž. Před změnou modelu opravte fakt nebo cestu k němu.