Assistente di conoscenza RAG: definire confini sicuri sui dati

Che cos'è

Un sistema RAG prevede tre fasi principali. L'ingestione raccoglie i documenti dalle fonti approvate, li suddivide in chunk e li memorizza in un indice di ricerca, spesso un database vettoriale. Il retrieval individua i chunk più pertinenti alla domanda dell'utente. La generazione passa tali chunk a un modello linguistico, che scrive una risposta, idealmente citando le fonti. I confini sui dati si applicano in ogni fase. In fase di ingestione, si decide quali fonti e tipi di documenti sono ammessi e quali sono esclusi. In fase di retrieval, il sistema deve rispettare gli stessi permessi che gli utenti hanno nei sistemi originari; se un utente non può aprire un documento nella condivisione di file, l'assistente non deve recuperarlo per lui. In fase di generazione, si decide cosa il modello può fare con i contenuti recuperati e cosa deve rifiutare. Attorno a tutto questo si collocano le regole di conservazione per indici, prompt e log, nonché le policy di eventuali provider di modelli esterni sul trattamento dei dati inviati.

Per Chi È

Questa guida è destinata a:

• Organizzazioni che pianificano un assistente interno per la conoscenza del personale, le risorse umane, l'IT o le operations
• Team che sviluppano un assistente rivolto ai clienti basato su contenuti di prodotto o di supporto
• Responsabili della protezione dei dati e della sicurezza che esaminano un progetto RAG proposto
• Manager che decidono quali contenuti debbano o non debbano essere ricercabili dall'AI

Cosa Aiuta A Chiarire

Definire i confini aiuta a chiarire:

• Quali fonti di conoscenza sono approvate, hanno un responsabile e sono abbastanza aggiornate da essere attendibili
• Se il retrieval rispetta i permessi di ciascun utente
• Dove dati personali, riservati o regolamentati potrebbero entrare nell'indice
• Per quanto tempo e dove vengono conservati i dati indicizzati, i prompt e le risposte

Cosa è incluso

• Elencare le fonti candidate e assegnare a ciascuna un responsabile che ne approvi l'inclusione
• Escludere per impostazione predefinita: fascicoli delle risorse umane, pratiche legali, buste paga, dati sanitari, credenziali e documenti del consiglio di amministrazione, salvo un'esigenza specifica e approvata
• Rimuovere o archiviare i documenti obsoleti affinché l'assistente non citi policy superate
• Riportare i permessi dei documenti nell'indice e filtrare il retrieval in base agli accessi dell'utente corrente
• Testare con utenti di ruoli diversi per confermare che vedano solo ciò che devono
• Rilevare e gestire dati personali e segreti durante l'ingestione
• Richiedere che le risposte citino le fonti e consentire agli utenti di aprire il documento originale
• Istruire l'assistente a dichiarare quando non conosce la risposta, anziché tirare a indovinare
• Definire la conservazione per indice, prompt e log, e come si propagano le eliminazioni effettuate nei sistemi di origine
• Esaminare i termini di trattamento e conservazione dei dati del provider del modello
• Raccogliere feedback sulle risposte errate o poco utili e incaricare una persona di darvi seguito

Cosa non è incluso

• L'affermazione che le risposte dell'assistente saranno sempre accurate
• Consulenza legale sugli obblighi in materia di protezione dei dati
• L'indicizzazione di fonti non approvate dai rispettivi responsabili
• Certificazione o approvazione regolamentare

Quando sceglierlo

Definisca i confini fin dall'inizio, durante la selezione delle fonti, non dopo la prima demo. Aggiungere il filtraggio basato sui permessi in un secondo momento è più difficile che prevederlo in fase di progettazione, e una sola risposta errata che riveli informazioni riservate può compromettere la fiducia nell'intero progetto. Riesamini i confini quando vengono aggiunte nuove fonti, nuovi gruppi di utenti o nuovi provider di modelli.

Il nostro approccio

Inizi in piccolo e con una buona governance. Scelga un insieme limitato di fonti approvate e aggiornate, con un responsabile e un pubblico chiari, come una libreria di help desk IT o una knowledge base di prodotto. Implementi un retrieval basato sui permessi fin dall'inizio, anche se il primo pubblico è ampio. Esegua test con domande realistiche provenienti da ruoli diversi e includa domande a cui l'assistente dovrebbe rifiutarsi di rispondere. Il nostro servizio Internal Knowledge Assistant prepara un assistente basato su fonti di conoscenza approvate, confini di accesso, affidabilità del retrieval e utilizzo controllato da parte del personale. AI Governance, Policy & Data Safety può definire le regole di utilizzo e i confini sui dati che lo circondano, e una LLM & AI Agent Security Review può esaminare i rischi di retrieval e l'esposizione dei dati in un assistente esistente. Misuri il successo in base a risposte attendibili e con fonti citate alle domande più comuni, non in base al numero di documenti indicizzati.

servizio Internal Knowledge Assistant

Domande frequenti

Articoli correlati