Ezen az oldalon
- Mit ad Jev egy alkalmazáshoz?
- A CLM kihívásával kell kezdeni
- 1. Keresés, amely ellenőrzi, hogy a találat válaszol-e a kérdésre
- 2. Kérések irányítása a megfelelő oldalra, sorba vagy agenthez
- 3. Rendezetlen adatok leképezése megbízható integrációba
- 4. A feladatot elvégző legkisebb modell kiválasztása
- 5. Állítások ellenőrzése, mielőtt az ügyfelek elé kerülnek
- 6. Hasznos válogatás készítése átiratokból és ügyfélvisszajelzésekből
- 7. A következő hasznos műveletet kiválasztó felületek
- Hol kezdeném?
Valaki megkérdezte a weboldalunktól, hány integrációnk van. A válasz arról szólt, hány mező legyen egy regisztrációs űrlapon.
Gyorsan megérkezett. Semmit sem ért.
Mindkét kérdésben szerepelt a „hány” szó. A keresőkódunk az elfogadott GYIK-találatoknak legalább 0,86-os pontszámot adott, így egy gyenge egyezés is meggyőzőnek látszott. A sebesség elfedte a rossz döntést.
Érdemes erre a hibára gondolni, amikor megnézed a Ship with Jev oldalt. 2026. szeptember 26-án a katalógus 551 közösségi projektet sorolt fel. Játékok, keresőkomponensek, böngészőügynökök, kutatási eszközök és útválasztási kísérletek állnak egymás mellett. A katalógus a teljesítményadatokat a projektek készítőinek tulajdonítja. Felfedezésre való, nem független összehasonlító mérés.
Az az érdekes kérdés, hogy ezek közül melyik minta vesz le munkát egy valódi termék válláról.
Integrációkat és üzleti szoftvert építő csapatoknak ezt a hét felhasználást vizsgálnám meg először. A sorrend a hasznosságról és a tesztelhetőségről alkotott szerkesztői véleményem. Az alábbi munkafolyamatok tervek, kivéve ha konkrét megvalósításra hivatkozom.
Mit ad Jev egy alkalmazáshoz?
A TypeSafe szerint Jev típusos döntésekre szolgáló modell. Megadod a fontos állapotot és egy kérdést; a válasz egy választás, valószínűség vagy pontszám, amelyet a kód fel tud használni. A felhasználási térkép útválasztást, információ-visszakeresést, ellenőrzést és adatkinyerést is tartalmaz.
Ennek a különbségtételnek van egy hasznos előzménye a feldolgozott YouTube-anyagainkban. Diogo Almeida AI Engineer-előadásában a TypeSafe társalapítója olyan szoftver mellett érvel, amelynek építőelemei több intelligenciát tudnak kifejezni. Ezt az elképzelést azzal állítja szembe, amikor csak egy asszisztenst csatolunk a meglévő szoftverhez. Ez az ő érve az MI irányáról, nem Jev jelenlegi teljesítményének mérése.
Gondolj egy vasúti váltóra. A hasznos eredmény az, hogy a vonat melyik szabad vágányra menjen. A vágányokról szóló bekezdés nem állítja át a váltót.
Az ellenvetés jogos: „Egy hagyományos LLM is tud JSON-t visszaadni.” Igen. Más komponens választását az adott döntésnél mért minőség, költség és késleltetés indokolhatja. A típusos válasz önmagában egyiket sem bizonyítja.
A CLM kihívásával kell kezdeni
Szeptember 23-án Jacky Kwok, Hangoo Kang, Tarun Suresh, Jon Saad-Falcon, Marco Pavone, Christopher Ré és Azalia Mirhoseini közzétették a Contrastive Language Models című munkát. Megkérdőjelezik azt a feltételezést, hogy Jev az egyetlen gyakorlati út a gyors szemantikai döntésekhez.
A szerzők Jevhez hasonló zero-shot eredményekről számolnak be számítógép-használati, játékos és eszközhívási feladatokon, akár 9-szer kisebb késleltetéssel. Ettől külön 81,6%-ot jelentenek 38 félretett DeepSWE-feladaton és 87,6%-ot 30 Terminal-Bench 2.1-feladaton. Ezekben a programozási eredményekben finomhangolt CLM-ellenőrzők választanak a más modellek által készített megoldások közül. Azt is jelentik, hogy Jev ebben az ellenőrző elrendezésben a véletlenszerű választásra épülő viszonyítási szintjük alatt maradt. A késleltetést H100-on mérték. Ezek a szerzők eredményei; mi nem ismételtük meg függetlenül a mérést. Eredeti értékelés és módszertan.
Az összehasonlítás megváltoztatja, mit kell tesztelnünk. Más feladat ügyfélszolgálati sort választani, keresési szakaszt kijelölni és hosszú programozási folyamatot értékelni. Az egyikben elért jó eredmény nem dönti el a többit.
A CLM külön kódolja az állapotokat és a lehetséges műveleteket, így az újrahasznosítható műveletek reprezentációi gyorsítótárba kerülhetnek. A tárhelye TypeSafe-kompatibilis felületet és alapértelmezett, 2048 tokenes állapotkorlátot dokumentál. A hosszabb állapotokat levágja, ha nem állítod be másként. Az API-szintű kompatibilitás nem jelent azonos döntéseket.
A közzétett modell adatlapja Qwen3-8B-reprezentációkat nevez meg, és figyelmeztet: az erős ellenőrzési eredményekhez finomhangolt fejek kellenek. Egyértelművé teszi azt is, hogy a CLM a kapott jelölteket pontozza, önálló megoldást nem generál. A nyílt súlyok lehetővé teszik az értékelést, de a hardver, a kiszolgálás és a karbantartás továbbra is pénzbe kerül.
A Tajo számára a tanulság konkrét: ugyanazokon az eseteken hasonlítsd össze a döntési modelleket, külön rögzítsd a hideg és meleg indítás késleltetését, és tesztelj hihető, de rossz jelölteket. Rögzítsd a modell és minden kódoló vagy projekciós fej verzióját. A nem támogatott szolgáltatói konfigurációt utasítsd el ahelyett, hogy csendben másik szolgáltatót választanál. Ellenőrizd újra a kalibrációt, ha a modell vagy a jelöltek halmaza változik.
Az alábbi hét munkafolyamat továbbra is jó értékelési jelölt. Értékük nem attól függ, hogy Jev minden összehasonlítást megnyer-e.
1. Keresés, amely ellenőrzi, hogy a találat válaszol-e a kérdésre
Ezzel kezdenék, mert a hiba látható, az eredmény pedig könnyen címkézhető. A visszaadott részlet válaszolt arra, amit a látogató kérdezett?
Kulcsszavas kereséssel, vektorreprezentációkkal vagy a kettő együtt használatával gyűjts néhány lehetséges találatot. Ezután kérdezd meg Jevtől, hogy minden részlet tartalmazza-e a kért tényt. A TypeSafe újrarangsorolási útmutatója bemutatja ezt a kétlépcsős megoldást. A korlátját is megmutatja: az újrarangsoroló nem választhat olyan dokumentumot, amely kimaradt az első keresésből.
- Kereséskulcsszó, vektorokKis jelöltkészletAmit kihagyott, nem pótolja
- Jevtípusos döntésTartalmazza-e ez a részleta kért tényt?
- Válaszvagy nincs válaszHelyes vagy megválaszolatlanA teljes késleltetést mérjük
Az integrációk számáról szóló példánkban még egyszerűbb a legrövidebb út. Számold meg a hiteles katalógus tételeit. Mondd meg, mit jelent ez a szám. Egy dokumentált összekötő és egy ügyfél által beállított kapcsolat nem ugyanaz.
A szemantikai döntést tartsd fenn olyan kérdésekre, amelyek értelmezést igényelnek, például: „Át tudja vinni csak azokat a vásárlókat, akik tegnap óta változtak?” Keresd elő a megfelelő szinkronizálási dokumentációt, és ellenőrizd, hogy az a növekményes frissítésekről szól-e.
Kyle McLaren jevsearch-megvalósítása kézzelfoghatóvá teszi a sorrendet: előbb jönnek a kulcsszavas találatok, majd Jev rangsorolása. A közzétett összehasonlítás a projekt saját dokumentációját és címkézett lekérdezéseit használja. Ez bizonyíték arra a tesztre, nem ígéret egy másik weboldalra vagy nyelvre.
Mérd a helyes válaszokat, az alá nem támasztott válaszokat, a megválaszolatlan kérdéseket és a teljes késleltetést. Legyenek benne elgépelések és lefordított keresések is. A gyorsabban érkező irreleváns találat továbbra is irreleváns.
2. Kérések irányítása a megfelelő oldalra, sorba vagy agenthez
Egy felhasználó ezt írja: „A kapcsolatok nem érkeznek meg, mióta megváltoztattam a fiókot.” Az alkalmazásodnak el kell különítenie a kapcsolódási hibát a számlázástól, a mezőleképezéstől és az új szinkronizálás kérésétől.
Add át az aktuális képernyőt, a közelmúlt beszélgetését és a felhasználó számára elérhető célokat. Kérd a legjobb célt, kifejezett „nincs egyezés” lehetőséggel. A célok azonosítói maradjanak az alkalmazás ellenőrzése alatt.
Több értékelés együtt is hasznos lehet: szándék, cél, sürgősség, valamint az, hogy az üzenet tartalmaz-e végrehajtható kérést. A TypeSafe fan-out mintája lehetővé teszi, hogy független kérdések osztozzanak egy kérésen. A kód ezután felhasználja a fontos válaszokat.
Egy ártalmatlan navigációs javaslat és a munka elvégzésére adott engedély külön döntés marad. A megfelelő számlázási oldal megtalálása nem engedélyez visszatérítést. A megfelelő agent megtalálása nem ad neki hozzáférési adatokat.
A gyakorlati előny a kevesebb átadás és pontosító kérdés. Mérd, milyen gyakran jut a felhasználó elsőre a megfelelő helyre. Tarts tesztkészletet olyan folytatásokkal, mint az „igen”, az „új feladat” és a „végeztek azokkal?”. Csak a beszélgetés összefüggésében érthetők.
3. Rendezetlen adatok leképezése megbízható integrációba
Íme egy javasolt integrációs folyamat. Egy forrásrendszer exportja tartalmazza a customer_email, billing_email és account_owner_email mezőt. A célrendszer a kapcsolat e-mail-címét várja.
A karakterláncok hasonlósága nem oldja fel a valódi kétértelműséget. A mezőleírások, példaértékek és az üzleti cél segítenek. Jev választhat a tényleges forrásmezők közül, miközben a kód ellenőrzi a típusokat, a kötelező értékeket és a célrendszer korlátait.
A kapcsolódó, előre elemzett értékek kinyeréséről szóló útmutató különösen hasznos megoldást alkalmaz: a kód megkeresi a lehetséges értékeket, a modell választ közülük, a kód pedig lemásolja az eredeti értéket. Így nem keletkezik kitalált cím vagy összeg.
- Kódjelöltek keresésecustomer_emailbilling_emailaccount_owner_email
- Jevegy kiválasztásaMezőleírásokPéldaértékek, cél
- Kódaz eredeti érték másolásaTípusok, kötelező értékekA célrendszer korlátai
Egy CRM- és e-mail-marketing-integrációnál őrizd meg együtt a forrásmezőt és a leképezési döntést. Mutass előnézetet az érintett rekordokról. A bizonytalan leképezések maradjanak nyitva, amíg át nem nézik őket.
Ennek gazdasági előnye is van: egy jóváhagyott sémaleképezést újra felhasználhatsz. Nem kell minden sorhoz modellhívás, ha a mező jelentése nem változott.
Mérd az elutasított rekordokat és a hibás leképezéseket egy átnézett minta alapján. A sikeres API-kérés azt bizonyítja, hogy a rendszer elfogadta az adatokat; azt nem, hogy a megfelelő e-mail-cím a megfelelő kapcsolathoz került.
4. A feladatot elvégző legkisebb modell kiválasztása
A modellválasztás akkor érdekes, ha egy alkalmazás mindent a legdrágább modelljéhez küld. Egy címke módosítása, egy keresési találat megítélése és egy nehéz architekturális vizsgálat eltérő képességeket kíván.
Először határozd meg, mely konfigurált modellek kaphatják meg a feladat adatait. Jegyezd fel a támogatott eszközeiket és a megfigyelt teljesítményüket. Ezután egy szűk döntés ajánlhat megfelelő lehetőséget ebből a halmazból. A TypeSafe a modellválasztási példái között mutatja be ezt a mintát.
Az OpenRouter Jev Router szolgáltatása a typesafe/jev-router modellazonosítóval kínálja ezt a mintát a chat API-ján keresztül. A leírás szerint a beszélgetés változásával modellt és gondolkodási erőfeszítést is választ. Használat előtt vizsgáld meg a megengedett további modelleket, a tényleges díjakat, az adatkezelést és az eszközhívásoknál mutatott viselkedést. A leírást ellenőriztük, de a routert nem mértük benchmarkban.
A javasolt szabályunk pontos szabályok és tények esetén hagyományos kóddal kezd. Körülhatárolt szemantikai kérdésekhez döntési modellt, íráshoz vagy megvalósításhoz megfelelő generatív modellt használj. Eszkalálj, ha a bizonyítékok indokolják.
Mire van szüksége a feladatnak?
-
Pontos szabályok és tények
Hagyományos kód
-
Körülhatárolt szemantikai kérdés
Döntési modell
-
Írás vagy megvalósítás
Megfelelő generatív modell
-
A bizonyíték többet indokol
Eszkaláció
Maga a router is időbe és pénzbe kerül. Nyilvánvaló, ismétlődő feladatokhoz jobb lehet egy rögzített szabály. Kétértelmű feladatoknál a kész munkán hasonlítsd össze az útválasztást egy rögzített modellel.
Kövesd az elfogadott eredményenkénti költséget, az újrapróbálkozásokat, az eszkalációk arányát és a később felfedezett hibákat. Egy olcsó első hívásból drága folyamat lehet, ha valakinek ki kell javítania az eredményt.
5. Állítások ellenőrzése, mielőtt az ügyfelek elé kerülnek
Egy hivatkozás létezhet úgy is, hogy nem támasztja alá a mellette álló mondatot. A forrás leírhat egy tervezett funkciót, miközben a válasz szerint az már ma elérhető.
A TypeSafe hivatkozás-ellenőrzési útmutatója két ellenőrzést választ szét. Az egyszerű szövegösszehasonlítás észleli a hiányzó idézetet. A szemantikai döntés azt vizsgálja, hogy a környező forrásszöveg alátámasztja-e az állítást.
Ugyanezt a megoldást alkalmazd ügyfélszolgálati válaszra, generált integrációs útmutatóra vagy egy agent által javasolt teljesítési jelentésre. Az állítást, a forrásrészletet és az ítéletet őrizd meg az ellenőrzéshez.
A teljesítéshez továbbra is közvetlen bizonyíték kell. A tesztek a tesztelt működést igazolják. A telepítési napló a telepítést igazolja. A szemantikai döntés jelezheti, ha a jelentés nem egyezik a bizonyítékokkal, de nem teremti meg a hiányzó bizonyítékot.
Ez a felhasználás vonzó, mert a kontroll meglévő közzétételi lépés elé illeszthető. Mérd az átcsúszó, alá nem támasztott állításokat, a feleslegesen blokkolt, alátámasztott állításokat és az így keletkező ellenőrzési munkát. Kezdd azokkal a konkrét hibákkal, amelyeket a rendszered már most elkövet.
6. Hasznos válogatás készítése átiratokból és ügyfélvisszajelzésekből
Egy átirattár akkor válik hasznossá, ha valaki megtalálja benne a lényeges részletet. A „tartalmazza az integráció szót” gyenge szűrő arra, hogy „elmagyarázza, miért hagyta félbe egy ügyfél a beállítást”.
Az egyik módszer valószínűleg releváns részleteket keresni, majd néhány konkrét tulajdonságot megítélni: leír-e beállítási akadályt, tartalmaz-e konkrét példát, vagy megérthető-e hiányzó háttér nélkül?
Minden kiválasztott részlethez őrizd meg a forrás URL-jét és az időbélyeget. Az időbélyeg az átiratból származik. A modell a relevanciát ítéli meg.
Egy videószerkesztő számára ezek a jelek átnézendő klipek listáját adhatják. Egy termékcsapat rendszerezheti velük a visszatérő kifogásokat. A marketingcsapat elkülönítheti az ügyfelektől származó bizonyítékot az alá nem támasztott kampányállításoktól.
A TypeSafe összetett pontozási mintája külön kezeli a szempontokat, így a kód módosíthatja a súlyukat. Egy oktatóanyagba illő klip eltérhet attól, amely rövid termékbemutatóhoz jó. Használd újra a döntéseket, amíg a bizonyíték és a szempontok nem változnak.
A JevQL hasonló közösségi megvalósítás: PostgreSQL-sorokra vonatkozó szemantikai feltételek, amelyeket az adatbázison kívül értékelnek. A dokumentáció megmutatja, hogy a hagyományos szűrők számítanak a költségnél. Csökkentsd a lehetséges sorok számát, mielőtt szemantikai döntéseket kérsz.
Mérd az ellenőrzők elfogadási arányát és a felhasználható anyag megtalálásával megtakarított időt. A figyelemfelkeltő kezdés pontszáma nem jóslat a megtekintések számára.
7. A következő hasznos műveletet kiválasztó felületek
Egy beállítási képernyőn valaki ezt írhatja: „Holnapig állítsd le ezt a szinkronizálást.” Egy böngészőügynöknek az aktuális oldalon látható vezérlők közül kell választania.
A javasolt felülettervben az alkalmazás megadja a megengedett műveleteket és az aktuális állapotot. Jev ezek közül választ. A felület megmutatja a megfelelő vezérlőt vagy egy ellenőrizhető javaslatot.
A Ship with Jev tartalmazza Gregor Zunic böngészős repülőjegy-keresési bemutatóját. A közölt futási idő és költség arra a bemutatóra vonatkozik. Átvehető gondolat, hogy minden lépésben az elérhető műveletek közül válassz; egy másik böngészős folyamat saját ellenőrzést igényel.
Az állapot frissessége fontos. Ha a kiválasztott fiók vagy oldal megváltozik, amíg a döntés készül, vesd el az elavult eredményt. A műveleteket kösd az ellenőrzött fiókhoz és állapothoz.
Ettől egy típusos felületeket tartalmazó katalógus is hasznossá válhat. A modell ismert nézetet és annak körülhatárolt adatait választja; a hagyományos megjelenítő kód készíti el a felületet. Mérd a sikeresen befejezett feladatokat és a téves műveleteket, külön figyelve arra, hogy a vezérlők érthetők maradjanak.
Hol kezdeném?
Válaszd azt az ismétlődő döntést, amely már most látható veszteséget okoz. A valódi hibáiból építs tesztkészletet.
| Meglévő probléma | Első kísérlet | Gyűjtendő bizonyíték |
|---|---|---|
| A keresés rossz kérdésre felel | Rövid találati lista megítélése | Helyes válaszok, tartózkodások, késleltetés |
| A kérések csapatok között vándorolnak | Választás a megengedett sorokból | Első útválasztás pontossága, átadások |
| Az import kézi mezőleképezést igényel | Valódi forrásmezők kiválasztása | Leképezési hibák, ellenőrzési idő |
| Minden feladat a legnagyobb modellt használja | Megfelelő feladatok útválasztása | Költség elfogadott eredményenként |
| A generált válaszok túl sokat állítanak | Állítások ellenőrzése forrásokkal | Átcsúszó, alá nem támasztott állítások |
| Senki nem használja az átirattárat | Részletek visszaadása időbélyeggel | Ellenőrzői elfogadás, bizonyíték keresési ideje |
| A felhasználók nem találják a vezérlőket | Elérhető művelet javaslata | Befejezési arány, rossz választások |
Ne másold le egy bemutató konfidenciaküszöbét. A TypeSafe konfidenciáról szóló dokumentációja elmagyarázza, hogy a Choice és Score konfidenciája eloszlást foglal össze. Nem bizonyítja sem a bemenetek teljességét, sem a választott művelet engedélyezettségét.
Legyenek esetek, amikor egyik jelölt sem megfelelő. Legyen egy nem elérhető szolgáltatás. Vedd fel az összes támogatni kívánt nyelvet. A modell verzióját és a kérdések meghatározását őrizd meg az eredményekkel együtt, hogy a későbbi változást tisztességesen össze tudd hasonlítani.
Egy integrációs terméknél a keresési relevanciával és a mezőleképezéssel kezdenék. Mindkettő lerövidíti az utat a működő szinkronizálásig. Mindkettőnél észreveheted a hibát, mielőtt ügyfélproblémává nőne.
Válassz egy rossz választ, amelyet a szoftvered ma ad. Gondoskodj róla, hogy ezután megbízhatóan a helyes következő lépést tegye meg.
Gyakran Ismételt Kérdések
Mire használható Jev?
Jev típusos szemantikai döntéseket ad: célpontot választ, ellenőrzi, hogy a bizonyíték válaszol-e egy kérdésre, forrásértéket jelöl ki vagy szempontok szerint pontoz egy elemet. Ezek segíthetik a keresést, a támogatási kérések útválasztását, az integrációs mezőleképezést, az ellenőrzést és a modellválasztást. A számítások, jogosultságok és végrehajtás továbbra is hagyományos kódban maradnak.
Helyettesítheti Jev egy alkalmazás LLM-jét?
Bizonyos hívásokat kiválthat, ha az eredmény választás vagy pontszám. Magyarázat írásához, kód generálásához és nyílt végű gondolkodáshoz továbbra is megfelelő generatív modell kell. A teljes folyamatot értékeld, ne feltételezd, hogy egy döntési modell minden LLM-hívást kivált.
Jev konfidenciája bizonyítja, hogy a válasz helyes?
Nem. A Choice és Score konfidenciája a megadott lehetőségek vagy szintek közötti eloszlást foglalja össze. Hiányzó bizonyíték vagy rossz jelöltek mellett is születhet hibás döntés. Reprezentatív példákon mérd a pontosságot és a tartózkodást, az engedélyeket pedig külön ellenőrizd.