Na ovoj stranici
Zamislite katalog proizvoda koji se promeni u ponedeljak. Prompt pomoćnika i dalje sadrži spisak od petka. Tim ažurira prompt. Druga kopija starog spiska ostaje u primerima korišćenim za treniranje modela. Pomoćnik sada u istoj sesiji daje jedan aktuelan i jedan zastareo odgovor.
Ovo je ilustrativna greška, ali njen mehanizam je čest: ista činjenica dobila je više od jednog doma.
Rasprava o promptovima, preuzimanju znanja i težinama modela povlači korisnu granicu. Prompt govori pomoćniku kako da se ponaša. Preuzimanje donosi trenutno znanje sa navodljivim izvorom u pojedinačan zadatak. Prilagođavanje modela može ga naučiti stabilnom obrascu. Ako ih tretiramo kao stepenice, prvo prompt, zatim pretraga, pa dodatno treniranje kad god odgovor ostane pogrešan, pogrešno dijagnostikujemo činjenične greške.
Prompt je loš katalog
Promptovi privlače jer se lako uređuju. Dodajte pasus i sledeći zahtev ga nosi. Ta pogodnost krije dve cene. Činjenica se šalje sa svakim pozivom, i kada nije potrebna. Veliki prompt otežava da znate koju verziju pravila je model koristio.
Trajno uputstvo poput „pitaj pre slanja kampanje“ pripada blizu agenta. Lista trenutnih polja po meri u ovoj prodavnici ne. Može se promeniti kada administrator naloga doda atribut. Može se razlikovati među korisničkim organizacijama. Može biti vidljiva jednom radnom prostoru, a zabranjena drugom.
Vodič za Brevo konektor pokazuje zašto su definicije polja važne u sinhronizaciji kontakata. Ako atribut nije deklarisan u odredišnom nalogu, mapiranje koje deluje smisleno po nazivu možda neće stvoriti željeno polje. Agent treba da proveri trenutnu specifikaciju naloga, a ne da se priseti opšte liste polja iz treniranja.
Koristan preuzeti rezultat dovoljno je mali da se može osporiti. Treba da kaže na koji nalog se odnosi, kada je pročitan i koju operaciju ili polje opisuje. Ako se dva odlomka ne slažu, sistem treba da pokaže sukob umesto da tiho izabere tečniji. Pravi sledeći korak može biti novo čitanje ili pregled, a ne još upornije pisanje prompta.
Preuzmite činjenicu zajedno sa njenim opsegom
Koristan zapis znanja sadrži više od teksta. Treba mu izvor, verzija ili vreme preuzimanja, opseg naloga i jasan način za uklanjanje ili zamenu. Definicija polja nađena u nalogu jednog trgovca nikada ne sme postati opšte pravilo za drugog.
Pitanje o atributu kontakta tada može preuzeti najmanji odlomak koji odgovara: ime polja, tip i nalog u kome postoji. Odgovor može uputiti na izvor. Ako mapiranje ne uspe, tim može pitati da li je činjenica zastarela, da li je vraćen rezultat pogrešnog naloga ili je model pogrešno razumeo tačan odlomak.
To su različite popravke. Izmena prompta ne može popraviti filter pretrage koji prelazi granice naloga. Veći model ne može dati definiciju atributa koju niko nije preuzeo.
Objašnjenje MCP-a opisuje kako agent može ispitivati alate. Alat treba da vrati relevantnu tehničku specifikaciju, a aplikacija da uredi ko sme da je vidi. Tekstualno uputstvo „ne otkrivaj podatke drugog naloga“ ne zamenjuje upit ograničen na odgovarajući opseg.
Ova podela ubrzava i popravku. Ako se polje odredišta preimenuje, ažurirajte izvor šeme i poništite pogođeno mapiranje. Ako agent uporno pogrešno razume stabilno uputstvo, promenite uputstvo ili testirajte ciljano treniranje. Ako je odgovor pogrešan zato što je pretraga izabrala pogrešan nalog, promena težina modela neće pogoditi uzrok. Svaka vrsta greške ima svog vlasnika i put ispravke.
- Trajno uputstvo
Kako pomoćnik treba da se ponaša
- Pretraga u dozvoljenom opsegu nalog · verzija · vreme
Šta važi sada
- Odluka o mapiranju
Koristite trenutnu činjenicu za ovaj zadatak
- Zaštićen upis
Kod proverava dozvolu i opseg
Obrasce učite tek kada postanu stabilni
Pošten prigovor glasi: „Ako činjenicu stalno koristimo, zašto je ne naučimo manjem modelu?“ Samo ponavljanje nije dovoljno. Činjenica mora ostati tačna između osvežavanja modela, a model mora umeti da razlikuje kontekste.
Stabilan stil razvrstavanja možda vredi dodatno naučiti. Trenutna lista polja dobavljača loš je kandidat. Čak i ako se retko menja, cena jednog zastarelog odgovora može biti pogrešno mapiranje primenjeno na mnoge zapise. Činjenicu čuvajte tamo gde čovek može da je pregleda i ažurira.
Izvorna rasprava upozorava i da preuzimanje znanja ne rešava svaku grešku u zaključivanju. Ako model ne ume tačno da uporedi dva relevantna dokumenta, još pedeset dokumenata ga tome neće naučiti. Najpre pitajte da li je stigao pravi odlomak. Zatim pitajte da li je zaključak nad tim odlomkom bio valjan.
Za graditelja integracija to daje redosled popravke: pronađite pogrešnu tvrdnju; pregledajte preuzeti odlomak o polju ili API-ju; proverite nalog i verziju; po potrebi popravite izvor ili pretragu; testirajte odluku ponovo. Tek onda razmotrite promenu modela.
Cenu predstavlja održavanje stvarne baze znanja: osvežavanje izvora, provere pristupa i navođenje. Dobitak je činjenica koja može biti ispravljena na jednom mestu.
Promenljiva tehnička specifikacija ne treba da čeka da je model zaboravi.
Često Postavljana Pitanja
Šta pripada promptu agenta?
Tu pripadaju kratka, trajna uputstva o ponašanju i granicama. Promenljiv katalog, lista polja za određeni nalog ili trenutno pravilo dobavljača treba po potrebi da se preuzmu iz izvora kojem pozivalac sme da pristupi.
Zašto model ne bismo dodatno trenirali na aktuelnoj dokumentaciji?
Dodatno treniranje može ugraditi promenljivu činjenicu u težine koje je teško pregledati i osvežiti. Najpre obezbedite da se pravi dokument preuzme i navede u trenutku odluke.
Kako ispraviti pogrešan činjenični odgovor?
Pregledajte izvorni dokument, njegovu verziju, filter pretrage i vraćeni odlomak. Ispravite činjenicu ili put preuzimanja pre promene modela.