Na tej stronie
- Co Jev wnosi do aplikacji
- Wyzwanie ze strony CLM trzeba omówić najpierw
- 1. Wyszukiwanie sprawdzające, czy wynik odpowiada na pytanie
- 2. Kierowanie zgłoszeń do właściwej strony, kolejki lub agenta
- 3. Mapowanie nieuporządkowanych danych w niezawodnej integracji
- 4. Wybór najmniejszego modelu, który wykona zadanie
- 5. Sprawdzanie twierdzeń, zanim trafią do klientów
- 6. Przydatne wybory z transkrypcji i opinii klientów
- 7. Interfejsy wybierające kolejne przydatne działanie
- Od czego bym zaczął
Ktoś zapytał naszą stronę, ile mamy integracji. Strona odpowiedziała poradą, ile pól powinien zawierać formularz rejestracyjny.
Odpowiedź przyszła szybko. Była bezużyteczna.
Oba pytania zawierały słowo „ile”. Nasz kod wyszukiwania przyznawał zaakceptowanemu dopasowaniu z FAQ wynik nie mniejszy niż 0,86. Słabe dopasowanie wyglądało przez to wiarygodnie. Szybkość ukryła błędną decyzję.
O takim błędzie warto pamiętać podczas przeglądania Ship with Jev. 26 września 2026 r. katalog obejmował 551 projektów społeczności. Obok gier są w nim komponenty wyszukiwania, agenci przeglądarkowi, narzędzia badawcze i eksperymenty z kierowaniem zadań. Katalog przypisuje dane o wydajności autorom poszczególnych projektów. Pomaga odkrywać pomysły, ale nie jest niezależnym benchmarkiem.
Ciekawe jest to, które z tych wzorców usuwają pracę z prawdziwego produktu.
Zespołom budującym integracje i oprogramowanie biznesowe radziłbym najpierw sprawdzić siedem poniższych zastosowań. Kolejność jest moją oceną przydatności i możliwości przetestowania. Opisane dalej procesy są propozycjami, chyba że wskazuję konkretną implementację.
Co Jev wnosi do aplikacji
TypeSafe opisuje Jev jako model do typowanych ocen. Przekazujesz istotny stan i pytanie; dostajesz wybór, prawdopodobieństwo lub wynik punktowy, który może wykorzystać kod. Mapa zastosowań obejmuje kierowanie zadań, wyszukiwanie informacji, weryfikację i ekstrakcję.
To rozróżnienie ma ciekawy odpowiednik w materiałach z YouTube, które wcześniej pozyskaliśmy. W wystąpieniu Diogo Almeidy na AI Engineer współzałożyciel TypeSafe argumentuje za oprogramowaniem, którego podstawowe elementy potrafią wyrażać więcej inteligencji. Przeciwstawia to dodaniu asystenta do istniejącego programu. To jego argument dotyczący kierunku rozwoju AI, a nie pomiar obecnej skuteczności Jev.
Pomyśl o zwrotnicy kolejowej. Przydatnym wynikiem jest wskazanie dostępnego toru, którym ma pojechać pociąg. Akapit opisujący tory nie przestawi zwrotnicy.
Zastrzeżenie jest rozsądne: „Zwykły LLM też potrafi zwrócić JSON”. Owszem. Uzasadnieniem dla innego komponentu mogą być dopiero zmierzona jakość, koszt i czas odpowiedzi przy tej konkretnej decyzji. Sama odpowiedź o określonym typie nie dowodzi żadnej z tych rzeczy.
Wyzwanie ze strony CLM trzeba omówić najpierw
23 września Jacky Kwok, Hangoo Kang, Tarun Suresh, Jon Saad-Falcon, Marco Pavone, Christopher Ré i Azalia Mirhoseini opublikowali pracę Contrastive Language Models. Podważa ona założenie, że Jev jest jedyną praktyczną drogą do szybkich decyzji semantycznych.
Autorzy podają wyniki zero-shot porównywalne z Jev w zadaniach obsługi komputera, grach i wywoływaniu narzędzi, przy czasie odpowiedzi nawet 9 razy krótszym. Osobno podają 81,6% dla 38 odłożonych zadań DeepSWE i 87,6% dla 30 zadań Terminal-Bench 2.1. Te wyniki programistyczne uzyskano dzięki dostrojonym weryfikatorom CLM, które wybierają spośród rozwiązań wygenerowanych przez inne modele. Autorzy informują też, że w tym układzie Jev wypadł poniżej ich punktu odniesienia opartego na losowym wyborze. Czas odpowiedzi zmierzono na H100. To ustalenia autorów; nie odtworzyliśmy ich niezależnie. Oryginalna ocena i metodologia.
To porównanie zmienia zakres testów. Wybranie kolejki obsługi, wskazanie fragmentu z wyszukiwarki i ocena długiego ciągu pracy programistycznej to różne zadania. Dobry wynik w jednym nie rozstrzyga pozostałych.
CLM koduje stany i możliwe działania osobno, więc reprezentacje działań nadających się do ponownego użycia można przechowywać w pamięci podręcznej. Repozytorium dokumentuje interfejs zgodny z TypeSafe oraz domyślny limit stanu wynoszący 2048 tokenów. Dłuższe stany są obcinane, chyba że konfiguracja stanowi inaczej. Zgodność interfejsów API nie gwarantuje równoważnych decyzji.
Karta opublikowanego modelu wskazuje reprezentacje Qwen3-8B i ostrzega, że mocne wyniki weryfikatorów wymagają dostrojonych głowic. Wyjaśnia również, że CLM punktuje dostarczonych kandydatów i nie generuje rozwiązania. Otwarte wagi dają możliwość oceny; sprzęt, uruchomienie usługi i utrzymanie wciąż kosztują.
Dla Tajo wnioski są konkretne: porównuj modele decyzyjne na tych samych przypadkach, zapisuj osobno czas odpowiedzi po zimnym i ciepłym starcie oraz testuj wiarygodnych, lecz błędnych kandydatów. Przypnij wersje modelu oraz każdego kodera i głowicy projekcyjnej. Odrzucaj nieobsługiwane konfiguracje dostawców zamiast po cichu wybierać innego. Ponownie sprawdzaj kalibrację, gdy zmieni się model lub zbiór kandydatów.
Siedem procesów opisanych niżej nadal warto ocenić. Ich wartość nie zależy od tego, czy Jev wygra każde porównanie.
1. Wyszukiwanie sprawdzające, czy wynik odpowiada na pytanie
Od tego zacząłbym, bo błąd widać, a wynik łatwo oznaczyć. Czy zwrócony fragment odpowiadał na pytanie osoby odwiedzającej stronę?
Pobierz niewielki zestaw kandydatów przez wyszukiwanie słów kluczowych, reprezentacje wektorowe lub obie metody. Następnie zapytaj Jev, czy każdy fragment zawiera potrzebną informację. Przykład ponownego porządkowania wyników od TypeSafe pokazuje tę dwuetapową strukturę. Pokazuje też jej granicę: model zmieniający kolejność nie wybierze dokumentu pominiętego na etapie wyszukiwania.
- Wyszukiwaniesłowa kluczowe, reprezentacje wektoroweNiewielki zestaw kandydatówNie doda tego, co pominął
- Jevtypowana ocenaCzy ten fragmentzawiera potrzebną informację?
- Odpowiedźlub brak odpowiedziPoprawna albo bez odpowiedziMierzony czas całkowity
Dla naszego przykładu z liczbą integracji najkrótsza droga jest jeszcze prostsza. Policz pozycje w miarodajnym katalogu. Wyjaśnij, co dokładnie oznacza ta liczba. Udokumentowany konektor i połączenie skonfigurowane przez klienta to dwie różne rzeczy.
Ocenę semantyczną zachowaj dla pytań, których sens wymaga interpretacji, na przykład: „Czy to może przenieść tylko klientów zmienionych od wczoraj?”. Pobierz odpowiednią dokumentację synchronizacji i sprawdź, czy omawia aktualizacje przyrostowe.
Implementacja jevsearch Kyle’a McLarena pokazuje tę kolejność w praktyce: najpierw wyniki dla słów kluczowych, potem ranking Jev. Opublikowany benchmark używa własnego korpusu dokumentacji i oznaczonych zapytań. To dowód dotyczący tego testu, a nie obietnica dla innej strony lub języka.
Mierz poprawne odpowiedzi, odpowiedzi bez oparcia w źródłach, pytania bez odpowiedzi i całkowity czas. Uwzględnij literówki oraz przetłumaczone zapytania. Wynik bez związku z pytaniem pozostaje takim wynikiem, nawet jeśli pojawia się szybciej.
2. Kierowanie zgłoszeń do właściwej strony, kolejki lub agenta
Użytkownik pisze: „Kontakty przestały przychodzić po zmianie konta”. Twoja aplikacja musi odróżnić problem z połączeniem od sprawy rozliczeniowej, mapowania pól i prośby o utworzenie nowej synchronizacji.
Przekaż bieżący ekran, niedawną rozmowę i miejsca docelowe dostępne dla tego użytkownika. Poproś o wybór najlepszego miejsca z wyraźną opcją „brak dopasowania”. Identyfikatory miejsc docelowych pozostają pod kontrolą aplikacji.
Kilka ocen może się przydać razem: zamiar, miejsce docelowe, pilność i to, czy wiadomość zawiera żądanie możliwe do wykonania. Wzorzec fan-out TypeSafe pozwala niezależnym pytaniom korzystać z jednego żądania. Kod wykorzystuje potem potrzebne odpowiedzi.
Nieszkodliwa sugestia dotycząca nawigacji i pozwolenie na wykonanie pracy pozostają odrębnymi decyzjami. Znalezienie właściwej strony z rozliczeniami nie upoważnia do zwrotu pieniędzy. Znalezienie właściwego agenta nie daje mu danych uwierzytelniających.
Praktyczną korzyścią jest mniej przekazań i mniej rund pytań doprecyzowujących. Mierz, jak często użytkownik trafia we właściwe miejsce za pierwszym razem. Zachowaj zestaw testowy z odpowiedziami następczymi takimi jak „tak”, „nowe zadanie” i „czy tamte są skończone?”. Mają sens tylko w kontekście.
3. Mapowanie nieuporządkowanych danych w niezawodnej integracji
Oto proponowany proces integracji. Eksport źródłowy zawiera customer_email, billing_email i account_owner_email. System docelowy oczekuje adresu e-mail kontaktu.
Podobieństwo nazw pozostawia prawdziwą niejednoznaczność. Opisy pól, przykładowe wartości i cel biznesowy pomagają ją rozstrzygnąć. Jev może wybierać spośród rzeczywistych pól źródłowych, a kod sprawdza typy, wymagane wartości i ograniczenia systemu docelowego.
Powiązany przykład ekstrakcji wcześniej przeanalizowanych wartości wykorzystuje szczególnie przydatny projekt: kod znajduje możliwe wartości, model wybiera jedną z nich, a kod kopiuje wartość oryginalną. Dzięki temu nie powstaje wymyślony adres ani kwota.
- Kodznajdź kandydatówcustomer_emailbilling_emailaccount_owner_email
- Jevwybierz jednoOpisy pólPrzykładowe wartości, cel
- Kodskopiuj wartość oryginalnąTypy, wymagane wartościOgraniczenia systemu docelowego
W integracji CRM z marketingiem e-mailowym przechowuj pole źródłowe razem z decyzją o mapowaniu. Pokaż podgląd rekordów, których dotyczy zmiana. Niepewne mapowania pozostaw nierozstrzygnięte do czasu weryfikacji.
Jest w tym korzyść ekonomiczna: zatwierdzone mapowanie schematu można wykorzystać ponownie. Nie trzeba wywoływać modelu dla każdego wiersza, gdy znaczenie pola się nie zmieniło.
Mierz odrzucone rekordy i błędne mapowania na podstawie przejrzanej próbki. Udane żądanie API dowodzi, że przesłane dane zostały przyjęte; nie dowodzi, że właściwy adres e-mail trafił do właściwego kontaktu.
4. Wybór najmniejszego modelu, który wykona zadanie
Kierowanie zadań między modelami ma sens, gdy aplikacja wysyła wszystko do najdroższego modelu. Zmiana etykiety, ocena wyniku wyszukiwania i trudna analiza architektury mają odmienne wymagania.
Najpierw określ modele skonfigurowane i dopuszczone do otrzymania danych zadania. Zapisz obsługiwane przez nie narzędzia oraz zaobserwowane wyniki. Wtedy zawężona ocena może polecić odpowiednią opcję z tego zbioru. TypeSafe opisuje ten wzorzec w przykładach kierowania zadań do modeli.
Jev Router od OpenRouter udostępnia ten wzorzec jako identyfikator modelu typesafe/jev-router w interfejsie czatu. Opis mówi o wyborze modelu i poziomu wysiłku rozumowania w miarę zmian w rozmowie. Przed wdrożeniem oceń dozwolone modele używane dalej, rzeczywiste opłaty, sposób przetwarzania danych i zachowanie przy wywołaniach narzędzi. Zweryfikowaliśmy opis usługi, ale nie przeprowadziliśmy testu porównawczego routera.
Proponowana przez nas zasada zaczyna się od zwykłego kodu dla ścisłych reguł i faktów. Używaj modelu decyzyjnego dla ograniczonych pytań semantycznych, odpowiedniego modelu generatywnego do pisania lub implementacji oraz eskalacji, gdy uzasadniają ją dowody.
Czego wymaga zadanie?
-
Ścisłe reguły i fakty
Zwykły kod
-
Ograniczone pytanie semantyczne
Model decyzyjny
-
Pisanie lub implementacja
Odpowiedni model generatywny
-
Dowody uzasadniają więcej
Eskaluj
Sam router kosztuje czas i pieniądze. Przy oczywistych, powtarzalnych zadaniach stała reguła może być lepsza. Przy niejednoznacznych zadaniach porównaj kierowanie z niezmiennym modelem na podstawie ukończonej pracy.
Śledź koszt na zaakceptowany wynik, ponowne próby, częstość eskalacji i błędy wykryte później. Tanie pierwsze wywołanie może zmienić się w kosztowny proces, jeśli ktoś musi poprawić jego wynik.
5. Sprawdzanie twierdzeń, zanim trafią do klientów
Odnośnik do źródła może istnieć, lecz nie potwierdzać sąsiedniego zdania. Źródło może opisywać planowaną funkcję, podczas gdy odpowiedź twierdzi, że funkcja jest dostępna już dziś.
Przykład weryfikacji cytatów TypeSafe rozdziela dwie kontrole. Zwykłe porównanie ciągów znaków wykrywa brak cytatu. Ocena semantyczna sprawdza, czy otaczający tekst źródła potwierdza twierdzenie.
Zastosuj ten sam projekt do odpowiedzi działu pomocy, wygenerowanego przewodnika po integracji albo raportu ukończenia zaproponowanego przez agenta. Zachowaj twierdzenie, fragment źródła i ocenę do przeglądu.
Ukończenie nadal wymaga bezpośrednich dowodów. Testy potwierdzają przetestowane zachowanie. Zapis wdrożenia potwierdza wdrożenie. Ocena semantyczna może wskazać niezgodność raportu z dowodami; nie może stworzyć brakujących dowodów.
To zastosowanie jest atrakcyjne, bo kontrola może poprzedzać istniejący etap publikacji. Mierz niepotwierdzone twierdzenia, które przechodzą, potwierdzone twierdzenia blokowane niepotrzebnie oraz dodatkową pracę przy przeglądzie. Zacznij od konkretnych błędów, które system już popełnia.
6. Przydatne wybory z transkrypcji i opinii klientów
Archiwum transkrypcji jest przydatne, gdy można znaleźć ważny fragment. „Zawiera słowo integracja” to słaby filtr dla „wyjaśnia, dlaczego klient przerwał konfigurację”.
Można pobrać prawdopodobnie istotne fragmenty, a potem ocenić kilka właściwości: czy fragment opisuje przeszkodę w konfiguracji, zawiera konkretny przykład lub jest zrozumiały bez brakującego kontekstu?
Przy każdym wybranym fragmencie zachowaj adres URL źródła i znacznik czasu. Znacznik pochodzi z transkrypcji. Model ocenia trafność.
Dla montażysty wideo sygnały te mogą utworzyć listę klipów do przejrzenia. Zespół produktowy może uporządkować powtarzające się zastrzeżenia. Zespół marketingowy może oddzielić dowody od klientów od niepotwierdzonych twierdzeń w kampanii.
Wzorzec punktowania złożonego TypeSafe utrzymuje wymiary oceny osobno, aby kod mógł zmieniać ich wagi. Klip dobry do samouczka może różnić się od klipu do krótkiej prezentacji produktu. Korzystaj ponownie z ocen, dopóki dowody i kryteria pozostają bez zmian.
JevQL jest powiązaną implementacją społeczności: predykaty semantyczne dotyczące wierszy PostgreSQL, oceniane poza bazą danych. Dokumentacja pokazuje, dlaczego zwykłe filtry wpływają na rachunek. Ogranicz liczbę kwalifikujących się wierszy przed zleceniem ocen semantycznych.
Mierz, ile propozycji akceptują recenzenci oraz ile czasu oszczędzają przy szukaniu przydatnych materiałów. Ocena siły początku klipu nie jest prognozą liczby wyświetleń.
7. Interfejsy wybierające kolejne przydatne działanie
Na ekranie ustawień może pojawić się prośba: „Wstrzymaj tę synchronizację do jutra”. Agent przeglądarkowy może potrzebować wybrać jeden z elementów sterujących na bieżącej stronie.
W proponowanym przez nas projekcie interfejsu aplikacja dostarcza dozwolone działania i bieżący stan. Jev wybiera spośród nich. Interfejs pokazuje odpowiedni element sterujący lub propozycję, którą można sprawdzić.
Ship with Jev zawiera pokaz wyszukiwania lotów w przeglądarce Gregora Zunica. Podane czas wykonania i koszt dotyczą tej demonstracji. Warto przenieść pomysł wybierania z działań dostępnych na każdym etapie; inny proces w przeglądarce wymaga własnej weryfikacji.
Aktualność stanu ma znaczenie. Jeśli wybrane konto lub strona zmieni się podczas oceny, odrzuć nieaktualny wynik. Powiąż działania z kontem i stanem, które zostały sprawdzone.
Może to również nadać sens katalogowi typowanych interfejsów. Model wybiera znany widok i jego ograniczone dane; zwykły kod renderujący tworzy interfejs. Mierz pomyślne ukończenia zadań i błędne działania, szczególnie sprawdzając, czy elementy sterujące pozostają zrozumiałe.
Od czego bym zaczął
Wybierz powtarzaną decyzję, która już powoduje widoczną stratę. Na podstawie jej rzeczywistych błędów zbuduj zestaw oceny.
| Obecny problem | Pierwszy eksperyment | Dane warte zebrania |
|---|---|---|
| Wyszukiwarka odpowiada na inne pytanie | Oceń krótką listę znalezionych wyników | Poprawne odpowiedzi, wstrzymanie decyzji, czas |
| Zgłoszenia krążą między zespołami | Wybierz spośród dozwolonych kolejek | Trafność pierwszego skierowania, przekazania |
| Import wymaga ręcznego mapowania | Wybierz rzeczywiste pola źródłowe | Błędy mapowania, czas przeglądu |
| Każde zadanie używa największego modelu | Kieruj kwalifikujące się zadania | Koszt na zaakceptowany wynik |
| Wygenerowane odpowiedzi obiecują zbyt wiele | Sprawdź twierdzenia w źródłach | Niepotwierdzone twierdzenia, które przeszły |
| Nikt nie używa archiwum transkrypcji | Zwracaj fragmenty ze znacznikami czasu | Akceptacja recenzentów, czas szukania dowodu |
| Użytkownicy nie znajdują elementów sterujących | Zaproponuj dostępne działanie | Odsetek ukończonych zadań, błędne wybory |
Nie kopiuj progu pewności z demonstracji. Dokumentacja pewności TypeSafe wyjaśnia, że pewność dla Choice i Score podsumowuje rozkład. Nie dowodzi ani kompletności danych wejściowych, ani uprawnienia do wybranego działania.
Uwzględnij przypadki, w których nie pasuje żaden kandydat. Uwzględnij niedostępną usługę. Uwzględnij każdy język, który zamierzasz obsługiwać. Zachowaj wersję modelu i definicje pytań wraz z wynikami, aby późniejszą zmianę dało się uczciwie porównać.
Dla produktu integracyjnego zacząłbym od trafności wyszukiwania i mapowania pól. Oba skracają drogę do działającej synchronizacji. W obu możesz obejrzeć błąd, zanim stanie się problemem klienta.
Wybierz jedną błędną odpowiedź, którą Twoje oprogramowanie podaje dziś. Spraw, by niezawodnie podejmowało właściwy następny krok.
Najczęściej Zadawane Pytania
Do czego przydaje się Jev?
Jev dostarcza typowane oceny semantyczne: wybiera miejsce docelowe, sprawdza, czy dowody odpowiadają na pytanie, wskazuje wartość źródłową lub punktuje element według kryteriów. Może to sterować wyszukiwaniem, kierowaniem zgłoszeń, mapowaniem integracji, weryfikacją i wyborem modelu. Obliczenia, uprawnienia i wykonanie nadal należą do zwykłego kodu.
Czy Jev może zastąpić LLM w aplikacji?
Może zastąpić niektóre wywołania, których wynikiem ma być wybór lub punktacja. Pisanie wyjaśnień, generowanie kodu i otwarte rozumowanie nadal wymagają odpowiedniego modelu generatywnego. Oceń cały proces zamiast zakładać, że model decyzyjny zastąpi każde wywołanie LLM.
Czy pewność Jev dowodzi, że odpowiedź jest poprawna?
Nie. Pewność dla Choice i Score podsumowuje rozkład pomiędzy podanymi opcjami lub poziomami. Brak dowodów lub źli kandydaci nadal mogą skutkować błędną decyzją. Mierz poprawność i wstrzymanie decyzji na reprezentatywnych przykładach, a uprawnienia sprawdzaj osobno.