På denna sida
En källhänvisning pekar på ett kontrakt, men kontraktet tillhör fel kund. I detta illustrativa fall söker en supportassistent i två kunders mappar efter ett förnyelsedatum. Den hittar ett liknande kontrakt hos den andra kunden, lägger det i sin kontext och svarar välformulerat.
Det här är ingen rapporterad händelse. Hänvisningen får svaret att se omsorgsfullt ut samtidigt som det röjer fel kunds data. Felet skedde innan modellen skrev en mening.
Ett inhämtat samtal om var AI-kunskap ska finnas gör en användbar arkitekturpoäng: kunskap som skiljer sig mellan användare behöver hämtning med åtkomstkontroll. Microsofts vägledning om åtkomst per dokument beskriver behörighetskontroller knutna till indexerade dokument och identitet vid frågetillfället. Den allmänna regeln är enklare än en viss sökprodukt: bara tillåtet material ska nå vägen till svaret.
Sätt gränsen före svaret
En prompt kan be assistenten vara kort, ange källor eller ställa följdfrågor. Den kan inte säkert säga ”kom ihåg att inte använda fel kunds dokument” och samtidigt ge modellen dessa dokument. Om hämtningen redan passerat gränsen ombeds prompten reparera ett åtkomstfel.
Applikationen måste fastställa frågeställarens identitet. Sökfrågan ska bära den avgränsning som följer: kundmiljö, roll, konto eller dokumentbehörighet beroende på domänen. Kandidaterna ska filtreras eller kontrolleras innan deras text ges till modellen. Om ett svar kan utlösa en skrivning måste skrivvägen kontrollera behörigheten igen mot målposten.
- Användaridentitet
autentisera i applikationen
- Avgränsad hämtning kundmiljö · roll · dokument
filtrera före modellkontext
- Underbyggt svar
hänvisa till tillåtna källor
- Skrivbehörighet
kontrollera målposten igen
Det här gäller inte bara vektorsökning. Nyckelordssökning, cachade sammanfattningar, konversationsminne och verktygsresultat kan också bära privat innehåll. En sammanfattning från en kunds dokument förblir privat även när källtexten har kortats.
Vår guide till att koppla ihop företagsverktyg frågar vem som äger varje post och vilket system som bestämmer. För en assistent tillkommer frågan: vem får veta att posten finns?
Ett litet exempel visar ordningen
Anta att ett illustrativt index har fyra dokument: två offentliga hjälpartiklar, ett kontrakt för Kund A och ett för Kund B. En användare från Kund A frågar om betalningsvillkor. Den närmaste semantiska träffen råkar vara Kund B:s kontrakt.
Hämtning utan avgränsning returnerar det. En senare instruktion om att ”svara bara för Kund A” kan inte garantera säkerhet; texten finns redan i modellens kontext. Avgränsad hämtning tar bort Kund B:s dokument före rangordning eller returnerar bara godkända kandidater. Assistenten kan då svara från Kund A:s kontrakt eller säga att källan saknas.
Den exakta lösningen beror på plattformen. Azure AI Searchs mönster för säkerhetsfilter kopplar gruppidentifierare till dokument och använder filter vid varje fråga. Dokumentationen varnar också för att dölja ett behörighetsfält i svaret inte i sig är åtkomstkontroll. Den verkställbara delen är filtret och användaridentiteten bakom det.
Skillnaden blir viktig när behörigheter ändras. Om en anställd mister åtkomst får en gammal cache eller ett inaktuellt index inte fortsätta visa dokumentet. Team behöver en bestämd uppdateringsväg och tester för indragen åtkomst, inte bara för nya tilldelningar. Om hämtningstjänsten inte kan följa källans åtkomstmodell kan kopiering till indexet vara fel arkitektur.
Behörighet och relevans är olika tester
Ett tillåtet dokument kan vara irrelevant eller gammalt. Ett korrekt svar kan vara otillåtet. Det är olika fel och ska utvärderas var för sig.
Testa först gränsen: kan någon från en kundmiljö hämta, citera eller härleda privat innehåll från en annan? Ta med direkta frågor, omskrivningar och sammanfattningar. Testa sedan svarets kvalitet inom den tillåtna mängden: väljer assistenten aktuell policy och medger den när underlag saknas? Microsofts vägledning om RAG rekommenderar uttryckligen åtkomstkontroll vid hämtning och att hämtat innehåll behandlas som opålitligt.
Det kostar. Hämtning med behörighetskontroll kräver metadata, identitetskoppling och hantering av indragen åtkomst. Vissa sökningar ger inga resultat efter filtrering. Det är rätt när frågeställaren saknar underlag. Att fylla luckan med en säker gissning skulle göra skyddet till ett riktighetsproblem.
Gränsen är också ett praktiskt test av den bredare regeln för undantag i automatisering: vad ska hända när den tillåtna sökmängden är tom? En bra lösning kan svara ”Jag har inte tillgång till en källa som besvarar det” och erbjuda rätt väg vidare. Den ska inte söka hos en annan kund, återanvända ett gammalt svar eller härleda privat information ur en dokumenttitel. Behandla ett tomt resultat som ett normalt och testbart tillstånd. Behörighet hör till korrekthet, inte till specialfall som lagas efter lansering.
En användbar assistent är inte den som vet allt i företaget. Den hittar rätt underlag inom frågeställarens befogenhet och säger när gränsen lämnar frågan obesvarad.
Vanliga Frågor
Kan en prompt förbjuda assistenten att avslöja privata poster?
En prompt kan beskriva beteende men kan inte ersätta behörighetskontroll. Begränsa hämtning till dokument som den som frågar får se och kontrollera behörighet igen före åtgärder med följder.
Var ska kundbehörighet användas i ett hämtningssystem?
Bind den autentiserade användaren till frågan och filtrera eller auktorisera dokument innan innehållet hamnar i modellens kontext. Håll behörighetsmetadata aktuella när åtkomst ändras.
Räcker en källhänvisning för att lita på ett svar?
Nej. Hänvisningen visar var svaret kom från. Den bevisar inte att den som frågade fick se källan eller att uppgifterna är aktuella och korrekta.