Viden har en adgangsgrænse

En kildehenvisning peger på en kontrakt, men den tilhører den forkerte kunde. I dette tænkte tilfælde søger en supportassistent i to kunders mapper efter en fornyelsesdato. Den finder en lignende kontrakt fra den anden kunde, lægger den i konteksten og svarer flydende.

Det er ikke en rapporteret hændelse. Kildehenvisningen får svaret til at se omhyggeligt ud, mens den afslører den forkerte kundes data. Fejlen opstod, før modellen skrev en sætning.

Et optaget oplæg om, hvor AI-viden bør ligge giver en nyttig arkitektonisk pointe: Viden, der varierer med brugeren, kræver søgning med adgangskontrol. Microsofts vejledning om adgang på dokumentniveau beskriver kontroller knyttet til indekserede dokumenter og brugerens identitet ved søgningen. Den generelle regel er enklere end et bestemt søgeprodukt: Kun materiale, som brugeren må se, bør nå frem til svarprocessen.

Sæt grænsen før svaret

En prompt kan bede assistenten være kort, vise kilder eller spørge, når noget er uklart. Den kan ikke sikkert sige »husk ikke at bruge den forkerte kundes dokumenter«, samtidig med at modellen får de dokumenter. Hvis søgningen allerede har overskredet grænsen, skal prompten rette en adgangsfejl, efter at den er sket.

Appen skal bekræfte identiteten på den bruger eller tjeneste, der kalder. Søgningen skal medbringe det tilsvarende omfang: kunde, rolle, konto eller dokumenttilladelser efter behov. Kandidater skal filtreres eller godkendes, før deres tekst gives til modellen. Hvis svaret kan udløse en skrivning, skal skrivevejen kontrollere adgang til målposten igen.

Det er ikke kun et problem ved vektorsøgning. Nøgleordssøgning, gemte resuméer, samtalehukommelse og værktøjsresultater kan også indeholde private oplysninger. Et resumé af én kundes dokument er stadig privat, når kildeteksten er forkortet.

Vores guide til at forbinde forretningsværktøjer spørger, hvem der ejer hver post, og hvilket system der bestemmer. For en assistent skal du spørge om mere: Hvem må vide, at denne post findes?

Et lille eksempel viser, hvorfor rækkefølgen betyder noget

Forestil dig et indeks med fire dokumenter: to offentlige hjælpeartikler, én kontrakt for Kunde A og én for Kunde B. En bruger fra Kunde A spørger om betalingsvilkår. Den nærmeste betydningsmæssige træffer er tilfældigvis Kunde B’s kontrakt.

En søgning uden afgrænsning returnerer den. En senere instruktion om »kun at svare for Kunde A« kan ikke garantere sikkerhed; indholdet er allerede i modellens kontekst. En afgrænset søgning fjerner Kunde B’s dokument før rangering eller returnerer kun tilladte kandidater. Assistenten kan så svare fra Kunde A’s kontrakt eller sige, at den mangler kilden.

Den præcise gennemførelse afhænger af platformen. Azure AI Searchs mønster for sikkerhedsfiltrering knytter gruppe-id’er til dokumenter og bruger et filter ved hver søgning. Dokumentationen advarer også om, at det ikke i sig selv er adgangskontrol at skjule et tilladelsesfelt i svaret. Det håndhævelige er filtret og den brugeridentitet, der ligger bag det.

Forskellen er vigtig, når tilladelser ændres. Hvis en medarbejder mister adgang, må en gammel cache eller et forældet indeks ikke fortsætte med at vise dokumentet. Teamet har brug for en fast vej til opdatering og tests af tilbagekaldelse, ikke kun tests af den oprindelige tildeling. Hvis søgetjenesten ikke kan respektere kildens adgangsmodel, kan det være forkert at kopiere kilden til det indeks.

Tilladelse og relevans er forskellige tests

Et tilladt dokument kan være irrelevant eller forældet. Et korrekt svar kan være uden tilladelse. Det er forskellige fejl, som bør testes hver for sig.

Test først grænsen: Kan en bruger fra én kunde hente, henvise til eller udlede privat indhold fra en anden? Medtag direkte spørgsmål, omskrivninger og resuméer. Test derefter svarets kvalitet inden for den tilladte mængde: Vælger assistenten den aktuelle politik, og indrømmer den, når der mangler bevis? Microsofts RAG-vejledning anbefaler udtrykkeligt adgangskontrol ved søgning og at behandle hentet indhold som ikke-betroet.

Det koster noget. Et indeks med adgangskontrol kræver metadata, kobling til identitet og håndtering af tilbagekaldt adgang. Nogle søgninger bliver tomme efter filtrering. Det er det korrekte resultat, når brugeren ikke må se et grundlag. At udfylde hullet med et selvsikkert gæt ville gøre adgangsbeskyttelsen til et nøjagtighedsproblem.

Grænsen er også en praktisk test af den bredere regel om undtagelser i automatisering: Hvad skal ske, når den tilladte søgning er tom? Et godt design kan sige »jeg kan ikke få adgang til en kilde til det svar« og vise den rigtige vej videre. Det bør ikke søge hos en anden kunde, genbruge et gammelt svar eller udlede private detaljer fra en dokumenttitel. Behandl det tomme resultat som en normal tilstand, der kan testes. Tilladelse er en del af korrekthed, ikke et særtilfælde, der skal lappes efter lancering.

En nyttig assistent er ikke én, der ved alt i virksomheden. Det er én, der kan finde det rigtige grundlag inden for brugerens adgang og sige til, når den grænse efterlader spørgsmålet ubesvaret.