Bilginin erişim sınırı vardır

Kaynak gösterimi bir sözleşmeyi işaret ediyor, ama sözleşme yanlış müşteriye ait. Bu örnek vakada destek asistanı yenileme tarihi için iki müşterinin klasörünü arıyor. Diğer müşterinin benzer sözleşmesini bulup bağlama ekliyor ve akıcı yanıt veriyor.

Bu, bildirilmiş olay değildir. Kaynak gösterimi, yanlış müşterinin verisini açığa çıkarırken yanıtı dikkatli gösterir. Kusur, model cümle yazmadan önce oluşmuştur.

AI bilgisinin nerede tutulacağı üzerine kaydedilmiş bir konuşma yararlı mimari nokta koyar: kullanıcıya göre değişen bilgi erişim kontrollü getirme katmanına ihtiyaç duyar. Microsoft’un belge düzeyinde erişim kılavuzu, dizinlenen belgelere ve sorgu anındaki kimliğe bağlı izin denetimlerini anlatır. Genel kural herhangi bir arama ürününden basittir: yanıt yoluna yalnızca çağıranın erişim izni olan malzeme ulaşmalıdır.

Sınırı yanıttan önce koyun

İstem asistana kısa olmayı, kaynak göstermeyi veya açıklama istemeyi söyleyebilir. Modelin önüne yanlış müşterinin belgelerini koyup “bunları kullanmamayı unutma” demek güvenli değildir. Bilgi getirme sınırı zaten aştıysa istemden erişim hatasını geri alması bekleniyordur.

Çağıranın kimliği uygulama tarafından kurulmalıdır. Arama sorgusu gereken kapsamı taşımalıdır: alana göre kiracı, rol, hesap veya belge izinleri. Aday sonuçlar, metinleri modele verilmeden önce filtrelenmeli veya yetkilendirilmelidir. Yanıt yazmayı tetikleyebiliyorsa yazma yolu hedef kayıt için yetkiyi yeniden kontrol etmelidir.

1. Çağıran kimliği

   uygulamada doğrulayın

   sınırlar
2. Sınırlandırılmış bilgi getirme kiracı · rol · belge

   model bağlamından önce filtreleyin

   sınırlar
3. Kaynağa dayalı yanıt

   izinli kanıtı gösterin

   sınırlar
4. Yazma yetkisi

   hedef kaydı yeniden kontrol edin

Bu yalnızca vektör araması sorunu değildir. Anahtar sözcük araması, önbelleğe alınmış özetler, konuşma belleği ve araç sonuçları da özel içerik taşıyabilir. Bir kiracının belgesinden türetilmiş özet, kaynak metin kısaltıldı diye kamusal olmaz.

İş araçlarını bağlama kılavuzumuz her kaydın kime ait olduğunu ve hangi sistemin yetkili olduğunu sorar. Asistan için bir soru daha ekleyin: bu kaydın varlığını kim bilebilir?

Küçük örnek sıranın önemini gösterir

Örnek dizinde dört belge olduğunu varsayalım: iki kamusal yardım yazısı, A Kiracısı’nın sözleşmesi ve B Kiracısı’nın sözleşmesi. A Kiracısı’ndan kullanıcı faturalama koşullarını soruyor. Anlamsal olarak en yakın eşleşme B Kiracısı’nın sözleşmesi oluyor.

Erişim kapsamı sınırlandırılmamış bilgi getirme onu döndürür. Sonraki “yalnızca A Kiracısı için yanıtla” yönergesi güvenliği garanti edemez; içerik model bağlamına girmiştir. Sınırlandırılmış bilgi getirme, B’nin belgesini sıralamadan önce çıkarır veya yalnızca erişimine izin verilen adayları döndürür. Asistan böylece A’nın sözleşmesinden yanıt verebilir ya da gerekli kaynağı olmadığını söyleyebilir.

Tam uygulama platforma bağlıdır. Azure AI Search’ün güvenlik filtresi örüntüsü belgelere grup tanımlayıcıları ekleyip her sorguda filtre uygular. Belge, izin alanını yanıtta gizlemenin tek başına erişim kontrolü olmadığını da uyarır. Uygulanabilir bölüm, filtre ve arkasındaki çağıran kimliğidir.

İzin değiştiğinde ayrım önem kazanır. Çalışan erişimi kaybederse eski önbellek veya eskimiş dizin belgeyi sunmaya devam etmemelidir. Ekibin yalnızca ilk izin verme testlerine değil iptal testlerine ve tanımlı güncelleme yoluna ihtiyacı vardır. Bilgi getirme hizmeti kaynağın erişim modeline uyamıyorsa kaynağı o dizine kopyalamak yanlış mimari olabilir.

İzin ile ilgililik farklı testlerdir

Erişimine izin verilen bir belge ilgisiz veya eski olabilir. Doğru yanıt yetkisiz olabilir. Ayrı hata türleridir; ayrı değerlendirin.

Önce sınırı test edin: bir kiracının çağıranı diğerinin özel içeriğini getirebilir, kaynak gösterebilir veya çıkarım yapabilir mi? Doğrudan soruları, başka sözcüklerle ifadeleri ve özetleri ekleyin. Sonra izinli küme içinde yanıt kalitesini test edin: asistan güncel politikayı seçip kanıt yoksa itiraf ediyor mu? Microsoft’un RAG kılavuzu, bilgi getirme anında erişim kontrolünü ve getirilen içeriğin güvenilmeyen veri olarak ele alınmasını açıkça önerir.

Maliyeti vardır. İzin farkında dizinleme üst veri, kimlik eşlemesi ve yetki iptalini ele almayı gerektirir. Filtrelemeden sonra bazı arama sonuçları boş olur. Çağıranın kanıta erişimi yoksa bu doğru sonuçtur. Boşluğu kendinden emin tahminle doldurmak, erişim önlemini doğruluk sorununa çevirir.

Bu sınır, daha geniş otomasyon istisnası kuralının pratik testidir: yetkili arama kümesi boşsa ne olmalı? İyi tasarım “Bu yanıt için bir kaynağa erişemiyorum” diyebilir ve uygun yönlendirme yolunu sunabilir. Başka kiracıların verilerinde arama yapmamalı, eski yanıtı yeniden kullanmamalı veya belge başlığından özel ayrıntılar çıkarmamalıdır. Bu boş sonucu iş akışının normal, test edilebilir durumu sayın. İzin, açılıştan sonra yamalanacak özel durum değil, doğruluğun parçasıdır.

Yararlı asistan şirketteki her şeyi bilen değildir. Çağıranın yetkisi içinde doğru kanıtı bulup sınır soruyu yanıtsız bıraktığında bunu söyleyebilen asistandır.