Bu sayfada
- Jev bir uygulamaya ne katar?
- Önce CLM’nin ortaya koyduğu iddiayı ele almalıyız
- 1. Sonucun soruyu yanıtlayıp yanıtlamadığını denetleyen arama
- 2. İstekleri doğru sayfaya, kuyruğa veya ajana yönlendirme
- 3. Dağınık verileri güvenilir bir entegrasyona eşleştirme
- 4. Görevi tamamlayan en küçük modeli seçme
- 5. Müşteriye sunulan yanıtlara dönüşmeden önce iddiaları denetleme
- 6. Transkriptleri ve müşteri geri bildirimlerini yararlı kısa listelere dönüştürme
- 7. Sonraki yararlı eylemi seçen arayüzler
- Ben nereden başlardım?
Birisi web sitemize kaç entegrasyonumuz olduğunu sordu. Site, kayıt formunda kaç alan bulunması gerektiğine dair öneriler verdi.
Yanıt hızla geldi. İşe yaramıyordu.
İki soruda da “kaç” sözcüğü geçiyordu. Arama kodumuz, kabul edilen bir SSS eşleşmesine en az 0,86 puan veriyor, zayıf bir eşleşmeyi ikna edici gösteriyordu. Hız, yanlış kararı gizledi.
Ship with Jev sitesine bakarken düşünmeye değer başarısızlık tam da bu. Dizin, 26 Eylül 2026’da topluluğun geliştirdiği 551 projeyi listeliyordu. Oyunların yanında arama bileşenleri, tarayıcı ajanları, araştırma araçları ve yönlendirme deneyleri bulunuyor. Dizin, performans rakamlarını proje sahiplerine atfediyor; bağımsız bir karşılaştırma testi değil, keşif aracı.
Asıl ilginç soru, bu yaklaşımlardan hangisinin gerçek bir üründeki işi azalttığı.
Entegrasyon ve iş yazılımı geliştiren ekipler için önce değerlendireceğim yedi kullanım aşağıda. Sıralama, yararlılık ve test edilebilirlik konusunda editoryal bir tercih. Bağlantıyla belirli bir uygulama gösterilmediği sürece aşağıdaki iş akışı örnekleri önerilen tasarımlardır.
Jev bir uygulamaya ne katar?
TypeSafe, Jev’i tanımlı veri türlerinde değerlendirmeler yapan bir model olarak tanımlıyor. İlgili durumu ve bir soruyu veriyorsunuz; kodun işleyebileceği bir seçim, olasılık veya puan alıyorsunuz. Kullanım alanları haritasında yönlendirme, bilgi getirme, doğrulama ve veri çıkarma yer alıyor.
Bu ayrımın, topladığımız YouTube içeriklerinde yararlı bir öncülü var. Diogo Almeida’nın AI Engineer konuşmasında TypeSafe’in kurucu ortağı, yapı taşları daha fazla zekâ ifade edebilen yazılımları savunuyor. Bu hedefi, mevcut yazılıma bir asistan eklemekle karşılaştırıyor. Bu, yapay zekânın yönüne ilişkin bir görüş; Jev’in güncel performansına ilişkin bir ölçüm değil.
Bir demiryolu makasını düşünün. Yararlı çıktı, trenin mevcut hatlardan hangisini izlemesi gerektiğidir. Hatları anlatan bir paragraf, makasın işine yaramaz.
İtiraz makul: “Sıradan bir LLM zaten JSON döndürebiliyor.” Evet. Farklı bir bileşeni tercih etmenin gerekçesi, o karar için ölçülen kalite, maliyet ve gecikmedir. Tek başına türü belirlenmiş bir yanıt bunların hiçbirini kanıtlamaz.
Önce CLM’nin ortaya koyduğu iddiayı ele almalıyız
23 Eylül’de Jacky Kwok, Hangoo Kang, Tarun Suresh, Jon Saad-Falcon, Marco Pavone, Christopher Ré ve Azalia Mirhoseini, Contrastive Language Models çalışmasını yayımladı. Çalışma, hızlı anlamsal kararlar için tek pratik yolun Jev olduğu varsayımına meydan okuyor.
Yazarlar; bilgisayar kullanımı, oyun ve araç çağırma görevlerinde Jev’le karşılaştırılabilir sıfır örnekli sonuçlar ve 9 kata varan daha düşük gecikme bildiriyor. Ayrıca test için ayrılmış 38 DeepSWE görevinde %81,6, 30 Terminal-Bench 2.1 görevinde %87,6 sonuç bildiriyorlar. Bu kodlama sonuçlarında, diğer modellerin ürettiği çözümler arasından seçim yapan, ince ayarlı CLM doğrulayıcıları kullanılıyor. Aynı doğrulayıcı düzeneğinde Jev’in rastgele seçim referansının altında kaldığını da belirtiyorlar. Gecikme bir H100 üzerinde ölçüldü. Bunlar yazarların bulguları; biz bağımsız olarak yeniden üretmedik. Özgün değerlendirme ve yöntem.
Bu karşılaştırma, neyi test etmemiz gerektiğini değiştiriyor. Destek kuyruğu seçmek, arama metni seçmek ve uzun bir kodlama sürecini değerlendirmek farklı görevlerdir. Birindeki iyi sonuç, diğerlerini çözmez.
CLM, durumları ve aday eylemleri ayrı ayrı kodluyor; böylece yeniden kullanılabilen eylem vektörleri önbelleğe alınabiliyor. Kod deposu, TypeSafe ile uyumlu bir arayüz ve durum için varsayılan 2.048 token sınırı belgeliyor; başka türlü yapılandırılmadıkça daha uzun durumlar kesiliyor. API sınırındaki uyumluluk, kararların eşdeğer olduğunu kanıtlamaz.
Yayımlanan model kartı, Qwen3-8B vektör temsillerini belirtiyor ve güçlü doğrulayıcı sonuçları için ince ayarlı çıktı katmanlarının gerektiği konusunda uyarıyor. CLM’nin kendisine verilen adayları puanladığını, çözüm üretmediğini de açıkça söylüyor. Açık ağırlıklar bir değerlendirme seçeneği sunar; donanım, modeli sunma ve bakım yine maliyetlidir.
Tajo için çıkarılacak dersler somut: karar modellerini aynı örneklerde karşılaştırın, soğuk ve ısınmış gecikmeyi ayrı kaydedin, makul görünen yanlış adayları test edin. Modelin, kodlayıcının ve varsa projeksiyon katmanının sürümünü sabitleyin. Desteklenmeyen sağlayıcı yapılandırmalarını sessizce başka bir sağlayıcı seçmek yerine reddedin. Model veya aday kümesi değiştiğinde kalibrasyonu yeniden kontrol edin.
Aşağıdaki yedi iş akışı, değerlendirme için yararlı adaylar olmaya devam ediyor. Değerleri, Jev’in her karşılaştırmayı kazanmasına bağlı değil.
1. Sonucun soruyu yanıtlayıp yanıtlamadığını denetleyen arama
İlk tercihim bu; çünkü hata görünür, sonucu etiketlemek kolaydır. Getirilen metin, ziyaretçinin sorduğu soruyu yanıtladı mı?
Anahtar kelime araması, vektör temsilleri veya ikisini birlikte kullanarak küçük bir aday kümesi getirin. Ardından Jev’e her metnin istenen bilgiyi sağlayıp sağlamadığını sorun. TypeSafe’in yeniden sıralama rehberi bu iki aşamalı yapıyı gösteriyor. Sınırını da ortaya koyuyor: yeniden sıralayıcı, bilgi getirme aşamasının atladığı bir belgeyi seçemez.
- Getirmeanahtar kelime, vektörKüçük aday kümesiKaçırdığını ekleyemez
- Jevtürü belirli değerlendirmeBu metin bilgiyisağlıyor mu?
- Yanıtveya yanıtsızDoğru ya da yanıtsızToplam gecikme ölçülür
Entegrasyon sayısı örneğimizde en kısa yol daha da basit: yetkili katalogdaki kayıtları sayın. Sayının ne anlama geldiğini belirtin. Belgelenmiş bir bağlayıcı ile bir müşterinin yapılandırdığı bağlantı farklı şeylerdir.
Anlamsal değerlendirmeyi, anlamı yorum gerektiren sorulara saklayın; örneğin “Bu yalnızca dünden beri değişen müşterileri taşıyabilir mi?” gibi. İlgili eşzamanlama belgesini getirin, ardından artımlı güncellemeleri ele alıp almadığını denetleyin.
Kyle McLaren’ın jevsearch uygulaması sırayı somutlaştırıyor: önce anahtar kelime sonuçları geliyor, ardından Jev sıralaması. Yayımlanan karşılaştırma testi kendi belge derlemesini ve etiketli sorgularını kullanıyor. Bu, o test hakkında yararlı bir kanıt; başka bir web sitesi veya dil için verilmiş bir söz değil.
Doğru yanıtları, desteklenmeyen yanıtları, yanıtsız kalan soruları ve toplam gecikmeyi ölçün. Yazım hatalarını ve çevrilmiş sorguları dahil edin. Daha hızlı ilgisiz sonuçlar yine ilgisizdir.
2. İstekleri doğru sayfaya, kuyruğa veya ajana yönlendirme
Bir kullanıcı şöyle yazıyor: “Hesabı değiştirdikten sonra kişiler gelmeyi bıraktı.” Uygulamanızın bağlantı sorun gidermeyi faturalamadan, alan eşleştirmeden ve yeni bir eşzamanlama oluşturma talebinden ayırması gerekiyor.
Mevcut ekranı, yakın zamandaki konuşmayı ve o kullanıcının erişebildiği hedefleri verin. En iyi hedefi, açıkça belirtilmiş bir “eşleşme yok” seçeneğiyle birlikte isteyin. Hedef tanımlayıcılarını uygulamanın denetiminde tutun.
Birkaç değerlendirme birlikte yararlı olabilir: niyet, hedef, aciliyet ve mesajın eyleme geçirilebilir bir istek içerip içermediği. TypeSafe’in fan-out kalıbı, bağımsız soruların tek bir istekte yer almasını sağlıyor. İlgili yanıtları ardından kod kullanıyor.
Zararsız bir gezinme önerisi ile işi yürütme izni ayrı kararlardır. Doğru faturalama sayfasını bulmak bir iadeyi yetkilendirmez. Doğru ajanı bulmak o ajana kimlik bilgisi vermez.
Pratik yarar, daha az devir ve daha az netleştirme döngüsüdür. Kullanıcının ilk denemede doğru hedefe ne sıklıkla ulaştığını ölçün. İçinde “evet”, “yeni görev” ve “bunlar bitti mi?” gibi devam mesajlarının bulunduğu bir yeniden oynatma kümesi tutun. Bunlar yalnızca bağlamla anlam kazanır.
3. Dağınık verileri güvenilir bir entegrasyona eşleştirme
İşte önerilen bir entegrasyon iş akışı. Bir kaynak dışa aktarımında customer_email, billing_email ve account_owner_email var. Hedef ise kişinin e-posta adresini bekliyor.
Dize benzerliği gerçek bir belirsizlik bırakıyor. Alan açıklamaları, örnek değerler ve iş amacı bunu çözmeye yardım eder. Jev, gerçek kaynak alanları arasından seçim yapabilir; kod ise türleri, zorunlu değerleri ve hedef kısıtlarını denetler.
İlgili önceden ayrıştırılmış veri çıkarma rehberi özellikle yararlı bir tasarım kullanıyor: kod aday değerleri buluyor, model bir adayı seçiyor, kod özgün değeri kopyalıyor. Böylece yerine geçen bir adres veya tutar üretilmiyor.
- Kodadayları bulcustomer_emailbilling_emailaccount_owner_email
- Jevbirini seçAlan açıklamalarıÖrnek değerler, amaç
- Kodözgün değeri kopyalaTürler, zorunlu değerlerHedef kısıtları
Bir CRM ve e-posta entegrasyonu için kaynak alanı ve eşleştirme kararını birlikte saklayın. Etkilenen kayıtların önizlemesini gösterin. Emin olunmayan eşleştirmeleri, incelenene kadar çözülmemiş bırakın.
Burada ekonomik bir avantaj da var: onaylanmış bir şema eşleştirmesi yeniden kullanılabilir. Alanın anlamı değişmediği sürece her satır için model çağrısı yapmanız gerekmez.
Reddedilen kayıtları ve yanlış eşleştirmeleri incelenmiş bir örnekle karşılaştırarak ölçün. Başarılı bir API isteği yükün kabul edildiğini kanıtlar; doğru e-postanın doğru kişiye ulaştığını kanıtlamaz.
4. Görevi tamamlayan en küçük modeli seçme
Model yönlendirme, bir uygulama her şeyi en pahalı modeline gönderdiğinde cazip hale gelir. Bir etiket değişikliği, bir arama değerlendirmesi ve zor bir mimari araştırması farklı gereksinimlere sahiptir.
Önce, yapılandırılmış ve görevin verisini almasına izin verilmiş modelleri tanımlayın. Desteklenen araçlarını ve gözlenen performanslarını kaydedin. Ardından dar bir değerlendirme, bu kümeden uygun bir seçeneği önerebilir. TypeSafe bu kalıbı model yönlendirme örnekleri arasında sunuyor.
OpenRouter’ın Jev Router hizmeti bu kalıbı, sohbet API’si üzerinden typesafe/jev-router model kimliğiyle sunuyor. Listeleme, konuşma ilerledikçe hem modelin hem de akıl yürütme çabasının seçildiğini anlatıyor. Benimsemeden önce izin verilen alt modelleri, gerçek ücretleri, veri işlemeyi ve araç çağrıları sırasındaki davranışı değerlendirin. Listelemeyi doğruladık; bu yönlendiriciyi karşılaştırma testine tabi tutmadık.
Önerdiğimiz politika, kesin kurallar ve olgular için sıradan kodla başlar. Sınırlı anlamsal sorular için karar modelini, yazma veya uygulama için uygun bir üretken modeli, kanıt gerektirdiğinde ise yükseltmeyi kullanın.
Görev neye ihtiyaç duyuyor?
-
Kesin kurallar ve olgular
Sıradan kod
-
Sınırlı bir anlamsal soru
Karar modeli
-
Yazma veya uygulama
Uygun bir üretken model
-
Kanıt daha fazlasını gerektiriyor
Yükselt
Yönlendiricinin kendisi de zamana ve paraya mal olur. Bariz ve tekrarlanan görevlerde sabit bir kural daha iyi olabilir. Belirsiz görevlerde, yönlendirmeyi tamamlanan işler üzerinden sabit modelli bir referansla karşılaştırın.
Kabul edilen sonuç başına maliyeti, yeniden denemeleri, yükseltme oranını ve sonradan fark edilen hataları izleyin. Ucuz bir ilk çağrı, çıktısını birinin düzeltmesi gerekiyorsa pahalı bir iş akışına dönüşebilir.
5. Müşteriye sunulan yanıtlara dönüşmeden önce iddiaları denetleme
Bir alıntı var olabilir ve yine de yanındaki cümleyi desteklemeyebilir. Bir kaynak planlanan bir özelliği anlatırken yanıt onu bugün mevcutmuş gibi sunabilir.
TypeSafe’in alıntı denetimi rehberi iki denetimi ayırıyor. Sıradan dize eşleştirmesi eksik bir alıntıyı yakalar. Anlamsal bir değerlendirme ise çevresindeki kaynağın iddiayı destekleyip desteklemediğine bakar.
Aynı tasarımı bir destek yanıtına, üretilmiş bir entegrasyon kılavuzuna veya bir ajanın önerdiği tamamlama raporuna uygulayın. İddiayı, kaynak metni ve kararı inceleme için erişilebilir tutun.
Tamamlanma yine doğrudan kanıt ister. Testler, test edilen davranışı kanıtlar. Bir dağıtım kaydı, dağıtımı kanıtlar. Anlamsal bir değerlendirme, bir rapor ile kanıtı arasındaki uyuşmazlığı işaretleyebilir; eksik kanıtı yaratamaz.
Bu kullanım çekici, çünkü mevcut bir yayımlama adımının önüne yerleştirilebilir. Kaçan desteksiz iddiaları, gereksiz yere engellenen desteklenen iddiaları ve yaratılan inceleme işini ölçün. Sisteminizin yaptığını zaten bildiğiniz açık hatalarla başlayın.
6. Transkriptleri ve müşteri geri bildirimlerini yararlı kısa listelere dönüştürme
Bir transkript arşivi, önemli bölümü bulmak mümkün olduğunda işe yarar. “Entegrasyon kelimesini içeriyor” ifadesi, “bir müşterinin kurulumu neden bıraktığını açıklıyor” için zayıf bir filtredir.
Bir yaklaşım şöyle: olası bölümleri getirin, ardından birkaç belirli özelliği değerlendirin. Bu bölüm bir kurulum engelini anlatıyor mu, somut bir örnek içeriyor mu, eksik bağlam olmadan tek başına anlaşılıyor mu?
Seçilen her bölüme kaynak URL’sini ve zaman damgasını bağlı tutun. Zaman damgası transkriptten gelir. Model ilgiyi değerlendirir.
Bir video editörü için bu sinyaller, incelenecek klipler için bir kısa liste üretebilir. Bir ürün ekibi için yinelenen itirazları düzenleyebilir. Bir pazarlamacı için müşteri kanıtını desteksiz kampanya iddialarından ayırabilir.
TypeSafe’in bileşik puanlama kalıbı boyutları ayrı tutar; böylece kod ağırlıkları değiştirebilir. Bir eğitim için uygun klip, kısa bir ürün tanıtımına uygun klipten farklı olabilir. Altta yatan kanıt ve ölçütler değişmediği sürece değerlendirmeleri yeniden kullanın.
JevQL ilgili bir topluluk uygulaması sunuyor: PostgreSQL satırları üzerinde, veritabanının dışında değerlendirilen anlamsal koşullar. Belgeleri, sıradan filtreleri maliyet açısından önemli kılıyor. Anlamsal değerlendirme istemeden önce uygun satırları azaltın.
İnceleyenlerin kabulünü ve kullanılabilir malzemeyi bulmada kazanılan zamanı ölçün. Giriş gücü puanı, izlenme tahmini değildir.
7. Sonraki yararlı eylemi seçen arayüzler
Bir ayarlar ekranı, “Bu senkronizasyonu yarına kadar durdur” isteğini alabilir. Bir tarayıcı asistanının, mevcut sayfadaki görünür denetimler arasında seçim yapması gerekebilir.
Önerdiğimiz arayüz tasarımında uygulama, izin verilen eylemleri ve mevcut durumu sunar. Jev bunların arasından seçim yapar. Arayüz, ilgili denetimi veya incelenebilir bir öneriyi gösterir.
Ship with Jev, Gregor Zunic’in tarayıcıda uçuş arama demosunu içeriyor. Bildirilen çalışma süresi ve maliyet, o gösterime aittir. Başka uygulamalara taşınabilecek fikir, her adımda mevcut eylemlerden seçim yapmaktır; farklı bir tarayıcı akışı kendi doğrulamasını gerektirir.
Durumun güncel olması önemlidir. Değerlendirme sürerken seçili hesap veya sayfa değişirse eski sonucu atın. Eylemleri, incelenmiş hesaba ve duruma bağlayın.
Bu yaklaşım, veri türleri tanımlı bir arayüz kataloğunu da yararlı hale getirebilir. Model, bilinen bir görünümü ve sınırları belirli verilerini seçer; sıradan görüntüleme kodu arayüzü üretir. Denetimlerin anlaşılır kalmasına özellikle dikkat ederek başarılı görev tamamlamalarını ve yanlış eylemleri ölçün.
Ben nereden başlardım?
Zaten görünür israf yaratan tekrarlanan kararı seçin. Değerlendirme kümesini gerçek başarısızlıklarından oluşturun.
| Mevcut sorun | İlk deney | Toplanmaya değer kanıt |
|---|---|---|
| Arama yanlış soruyu yanıtlıyor | Getirilen kısa listeyi değerlendirin | Doğru yanıtlar, yanıt vermekten kaçınma, gecikme |
| İstekler ekipler arasında gidip geliyor | İzin verilen kuyruklardan seçim yapın | İlk yönlendirme doğruluğu, devirler |
| İçe aktarımlar elle eşleştirme gerektiriyor | Gerçek kaynak alanlarını seçin | Eşleştirme hataları, inceleme süresi |
| Her görev en büyük modeli kullanıyor | Uygun görevleri yönlendirin | Kabul edilen sonuç başına maliyet |
| Üretilen yanıtlar aşırı iddiada bulunuyor | İddiaları kaynaklarla denetleyin | Denetimden kaçan desteksiz iddialar |
| Transkript arşivini kimse kullanmıyor | Zaman damgalı bölümler döndürün | İnceleyenlerin kabulü, kanıt bulma süresi |
| Kullanıcılar denetimleri bulamıyor | Mevcut bir eylem önerin | Tamamlama oranı, yanlış seçimler |
Bir demonun güven eşiğini kopyalamayın. TypeSafe’in güven düzeyi belgeleri, Choice ve Score güveninin bir dağılımı özetlediğini açıklıyor. Bunlar, girdilerin eksiksiz olduğunu veya seçilen eylemin yetkilendirildiğini kanıtlamaz.
Hiçbir adayın uygun olmadığı örnekleri dahil edin. Erişilemeyen bir hizmeti dahil edin. Desteklemeyi planladığınız her dili dahil edin. Sonraki değişikliklerin adil karşılaştırılabilmesi için model sürümünü ve soru tanımlarını sonuçlarla birlikte saklayın.
Bir entegrasyon ürünü için arama ilgililiği ve alan eşleştirmeyle başlardım. İkisi de çalışan bir senkronizasyona giden yolu kısaltır. İkisi de hatayı müşteri sorununa dönüşmeden incelemenizi sağlar.
Yazılımınızın bugün verdiği yanlış bir yanıtı seçin. Sonraki doğru adımı güvenilir biçimde atmasını sağlayın.
Sık Sorulan Sorular
Jev ne işe yarar?
Jev, tanımlı veri türlerinde anlamsal değerlendirmeler sunar: hedef seçmek, kanıtın bir soruyu yanıtlayıp yanıtlamadığını denetlemek, kaynak değeri seçmek veya bir öğeyi ölçütlere göre puanlamak. Bu değerlendirmeler arama, destek yönlendirme, entegrasyon eşleştirme, doğrulama ve model seçimini yönlendirebilir. Hesaplamalar, izinler ve yürütme yine sıradan kodun sorumluluğundadır.
Jev bir uygulamadaki LLM’nin yerini alabilir mi?
Çıktısı bir seçim veya puan olan bazı çağrıların yerini alabilir. Açıklama yazmak, kod üretmek ve açık uçlu akıl yürütmek için yine uygun bir üretken model gerekir. Bir karar modelinin her LLM çağrısını değiştireceğini varsaymak yerine iş akışını bütünüyle değerlendirin.
Jev’in güven düzeyi yanıtın doğru olduğunu kanıtlar mı?
Hayır. Choice ve Score güveni, sunulan seçenekler veya düzeyler üzerindeki dağılımı özetler. Eksik kanıt ve zayıf adaylar yine yanlış karara yol açabilir. Temsil edici örneklerde doğruluğu ve yanıt vermekten kaçınmayı ölçün; yetkilendirmeyi ayrı tutun.