Che cos’è la Retrieval-Augmented Generation (RAG) e come funziona

I modelli di Intelligenza Artificiale generativa sono in grado di rispondere a domande, creare testi, sintetizzare informazioni e supportare numerose attività aziendali. Hanno però un limite importante: le conoscenze apprese durante l’addestramento non comprendono necessariamente tutte le informazioni di cui abbiamo bisogno e possono non essere aggiornate.

Come può quindi un sistema AI rispondere utilizzando documenti aziendali, cataloghi, manuali tecnici, database o informazioni pubblicate dopo il suo addestramento?

Una delle risposte è la RAG, Retrieval-Augmented Generation, un’architettura che combina le capacità generative dei Large Language Model (LLM) con sistemi capaci di recuperare informazioni da fonti esterne.

In termini semplici, invece di chiedere al modello di rispondere esclusivamente utilizzando ciò che ha appreso durante l’addestramento, la RAG gli permette di recuperare prima informazioni pertinenti e utilizzarle come contesto per generare una risposta.

Questa tecnologia sta assumendo un ruolo importante nello sviluppo di chatbot aziendali, assistenti virtuali, motori di ricerca intelligenti, knowledge base e numerose altre applicazioni AI.

Che cos’è la RAG?

RAG significa Retrieval-Augmented Generation, traducibile come “generazione aumentata tramite recupero”.

Si tratta di un approccio che combina due operazioni:

Retrieval, cioè il recupero delle informazioni rilevanti da una fonte esterna;

Generation, cioè la generazione della risposta da parte del modello linguistico utilizzando anche le informazioni recuperate.

Il concetto alla base è relativamente semplice.

Un Large Language Model possiede una conoscenza derivata dai dati utilizzati durante l’addestramento. Se però vogliamo chiedergli informazioni contenute nei documenti interni di un’azienda, nei dati di un prodotto o in una knowledge base aggiornata, quella conoscenza potrebbe non essere disponibile nel modello.

Un sistema RAG aggiunge quindi un passaggio: prima di generare la risposta cerca le informazioni necessarie all’interno delle fonti a cui è collegato.

Perché è nata la Retrieval-Augmented Generation?

I modelli linguistici di grandi dimensioni vengono addestrati utilizzando enormi quantità di dati, ma questo non significa che conoscano qualsiasi informazione.

Esistono almeno tre problemi.

Il primo riguarda l’aggiornamento. Le informazioni apprese durante l’addestramento rappresentano inevitabilmente una fotografia riferita a un determinato periodo.

Il secondo riguarda le informazioni private o specialistiche. Un modello generalista non può conoscere automaticamente documenti interni, procedure aziendali, cataloghi riservati o database proprietari ai quali non ha avuto accesso.

Il terzo riguarda l’affidabilità delle risposte. Un modello generativo può produrre informazioni plausibili ma inesatte quando non dispone di elementi sufficienti.

La RAG cerca di affrontare questi problemi fornendo al modello informazioni pertinenti nel momento in cui deve rispondere.

Come funziona la RAG?

Il funzionamento di un sistema RAG può essere sintetizzato in cinque passaggi principali.

1. L’utente formula una domanda

Il processo inizia con un prompt.

Per esempio, un dipendente potrebbe chiedere a un assistente AI aziendale:

“Qual è la procedura per richiedere un rimborso spese?”

2. Il sistema cerca le informazioni pertinenti

Prima di chiedere al modello di formulare la risposta, il sistema di retrieval cerca all’interno delle fonti disponibili.

Potrebbe consultare:

• documentazione aziendale;
• manuali;
• knowledge base;
• database;
• FAQ;
• documenti tecnici;
• cataloghi;
• archivi.

L’obiettivo è individuare i contenuti maggiormente pertinenti rispetto alla domanda.

3. Vengono recuperate le informazioni rilevanti

Il sistema seleziona le informazioni considerate più utili.

Nel nostro esempio potrebbe recuperare la sezione del regolamento aziendale che descrive documenti necessari, scadenze e modalità di presentazione del rimborso.

4. Il prompt viene arricchito

La domanda iniziale viene quindi integrata con il contesto recuperato.

Il modello non deve più rispondere soltanto a:

“Qual è la procedura per richiedere un rimborso spese?”

ma riceve anche le informazioni necessarie per formulare una risposta aderente alla documentazione disponibile.

5. Il modello genera la risposta

L’LLM utilizza il prompt e il contesto recuperato per costruire l’output finale.

È proprio questa sequenza a spiegare il nome Retrieval-Augmented Generation: il sistema recupera le informazioni, aumenta il contesto fornito al modello e genera infine la risposta.

Un esempio semplice per capire la RAG

Immaginiamo un ecommerce con migliaia di prodotti.

Un cliente chiede al chatbot:

“Quale dei vostri notebook è più adatto per lavorare con programmi di grafica?”

Un modello AI generalista potrebbe conoscere le caratteristiche che normalmente rendono un computer adatto alla grafica, ma non necessariamente conosce il catalogo aggiornato dell’ecommerce.

Con un sistema RAG, invece, la domanda può attivare una ricerca all’interno del catalogo.

Il sistema recupera i prodotti pertinenti, caratteristiche tecniche, disponibilità e altre informazioni rilevanti e fornisce questi dati al modello.

L’AI può quindi generare una risposta basata sui prodotti realmente presenti nel catalogo, anziché affidarsi esclusivamente alla propria conoscenza generale.

Knowledge base: il cuore di un sistema RAG

Uno degli elementi fondamentali della Retrieval-Augmented Generation è la knowledge base, cioè l’insieme delle informazioni che il sistema può interrogare.

La knowledge base può contenere fonti molto differenti:

• documenti aziendali;
• manuali tecnici;
• articoli;
• schede prodotto;
• FAQ;
• documentazione commerciale;
• procedure;
• database;
• ricerche scientifiche;
• documenti legali;
• dati proprietari.

La qualità delle risposte dipende quindi anche dalla qualità delle informazioni disponibili.

Una RAG non trasforma automaticamente dati incompleti, obsoleti o contraddittori in conoscenza affidabile.

Se la fonte contiene informazioni errate, il sistema può recuperarle e utilizzarle nella risposta.

Per questo la gestione della knowledge base è una parte fondamentale del progetto.

RAG e database vettoriali

Molti sistemi RAG utilizzano embedding e database vettoriali per recuperare le informazioni pertinenti.

Gli embedding sono rappresentazioni numeriche che permettono di descrivere semanticamente contenuti come parole, frasi o porzioni di documenti.

Invece di cercare esclusivamente una corrispondenza letterale tra le parole utilizzate dall’utente e quelle presenti nei documenti, il sistema può cercare contenuti semanticamente vicini.

Supponiamo che un documento contenga la frase:

“Il personale può presentare le spese sostenute durante le trasferte entro 30 giorni.”

L’utente potrebbe chiedere:

“Quanto tempo ho per chiedere il rimborso di un viaggio di lavoro?”

Le parole sono differenti, ma il significato è correlato.

La ricerca semantica permette al sistema di individuare comunque il contenuto pertinente.

Il ruolo dei chunk nella RAG

I documenti utilizzati in un sistema RAG possono essere suddivisi in unità più piccole, comunemente chiamate chunk.

Invece di recuperare ogni volta un documento di cinquanta pagine, il sistema può cercare le porzioni maggiormente pertinenti alla domanda.

Questo permette di fornire al modello un contesto più mirato.

La modalità con cui vengono suddivisi i documenti è importante.

Chunk troppo grandi possono includere molto contenuto irrilevante. Chunk troppo piccoli possono invece perdere informazioni necessarie per comprendere correttamente il significato.

La progettazione di una buona strategia di chunking è quindi uno degli aspetti tecnici da considerare nella realizzazione di sistemi RAG efficaci.

Quali sono i vantaggi della RAG?

La Retrieval-Augmented Generation presenta numerosi vantaggi, soprattutto per le applicazioni aziendali.

Accesso a informazioni aggiornate

Uno dei vantaggi principali consiste nella possibilità di collegare il modello a fonti più recenti rispetto ai dati utilizzati durante l’addestramento.

Quando la knowledge base viene aggiornata, il sistema può recuperare le nuove informazioni senza che sia necessariamente necessario riaddestrare l’intero modello.

Questo è particolarmente utile in contesti nei quali i dati cambiano frequentemente.

Utilizzo di informazioni aziendali

La RAG permette di sviluppare applicazioni AI basate anche sulla conoscenza specifica dell’organizzazione.

Un assistente può quindi rispondere utilizzando procedure, manuali, documenti o dati che un modello generalista non potrebbe conoscere autonomamente.

Riduzione del rischio di allucinazioni

Le allucinazioni AI si verificano quando un modello produce informazioni errate o inventate presentandole in modo plausibile.

Fornire al modello un contesto composto da informazioni pertinenti e affidabili può ridurre questo rischio.

È importante, però, non interpretare la RAG come una garanzia assoluta di correttezza.

Anche un sistema RAG può sbagliare: può recuperare la fonte sbagliata, interpretarla male o generare una risposta non completamente aderente ai dati disponibili. La RAG può quindi ridurre il rischio di allucinazioni, ma non eliminarlo completamente.

Possibilità di indicare le fonti

Un sistema RAG può essere progettato per accompagnare le risposte con riferimenti alle fonti utilizzate.

Questo consente all’utente di verificare l’informazione e approfondire consultando direttamente il documento originale.

In contesti aziendali o professionali, questa caratteristica può aumentare significativamente la fiducia nel sistema.

Minore necessità di riaddestramento

Aggiornare o specializzare un modello attraverso ulteriori attività di training può richiedere risorse importanti.

Con la RAG è possibile fornire al modello nuove informazioni attraverso fonti esterne, senza dover necessariamente modificare i suoi parametri.

Questo rende l’approccio interessante per applicazioni aziendali che devono utilizzare conoscenze specifiche e frequentemente aggiornate.

RAG e fine-tuning: qual è la differenza?

RAG e fine-tuning non sono la stessa cosa.

Con il fine-tuning un modello viene ulteriormente addestrato utilizzando un dataset specifico, modificando il suo comportamento attraverso l’aggiornamento dei parametri.

Con la RAG, invece, il modello viene collegato a informazioni esterne che vengono recuperate al momento della richiesta.

Una semplificazione utile è questa:

il fine-tuning modifica il modello; la RAG modifica e arricchisce il contesto che viene fornito al modello.

Non sono necessariamente tecnologie alternative.

In un progetto complesso possono essere utilizzate entrambe: il fine-tuning per specializzare determinati comportamenti e la RAG per fornire conoscenze aggiornate o proprietarie.

RAG e ricerca semantica

Retrieval-Augmented Generation e ricerca semantica sono strettamente collegate.

Un sistema RAG deve infatti riuscire a trovare le informazioni più pertinenti rispetto alla domanda dell’utente.

La semplice presenza delle stesse keyword non è sempre sufficiente.

Le persone possono esprimere lo stesso concetto utilizzando parole molto diverse.

La ricerca semantica consente di individuare documenti e chunk sulla base della vicinanza di significato, migliorando potenzialmente la qualità del materiale fornito al modello.

La fase di retrieval è quindi fondamentale: una risposta generativa può essere buona soltanto quanto le informazioni che il sistema riesce a recuperare e utilizzare correttamente.

Quali sono i principali casi d’uso della RAG?

La Retrieval-Augmented Generation può essere applicata in numerosi contesti.

Chatbot per il customer service

Un chatbot aziendale può essere collegato a documentazione su prodotti, spedizioni, resi, garanzie, assistenza e condizioni commerciali.

In questo modo può rispondere alle domande utilizzando informazioni specifiche dell’azienda e più aggiornate.

Assistenti AI aziendali

La RAG può trasformare la documentazione interna in una knowledge base interrogabile attraverso il linguaggio naturale.

Un dipendente può chiedere:

“Qual è la procedura per richiedere le ferie?”

oppure:

“Dove trovo le specifiche tecniche del prodotto X?”

Il sistema cerca i documenti pertinenti e genera una risposta.

Ricerca documentale

Invece di utilizzare esclusivamente parole chiave e filtri, gli utenti possono interrogare grandi archivi attraverso domande in linguaggio naturale.

Questo può risultare particolarmente utile quando le informazioni sono distribuite tra numerosi documenti.

Generazione di contenuti

La RAG può fornire a un modello fonti specifiche da utilizzare durante la generazione di testi, report o sintesi.

Il vantaggio è la possibilità di ancorare maggiormente l’output alla documentazione fornita.

Analisi e ricerca

Il sistema può recuperare informazioni da diverse fonti e utilizzarle per creare sintesi, confronti e report.

Sistemi di raccomandazione

Un’applicazione RAG può combinare richieste e caratteristiche dell’utente con informazioni disponibili su prodotti o servizi per formulare raccomandazioni più contestualizzate.

Questi utilizzi spaziano quindi dal customer service alla ricerca, dalla generazione di contenuti fino ai knowledge engine aziendali.

Un esempio di RAG applicata a un’azienda

Immaginiamo un’azienda che disponga di:

• 5.000 schede prodotto;
• centinaia di manuali;
• documentazione commerciale;
• procedure interne;
• FAQ;
• documenti di assistenza.

Un dipendente che deve rispondere a una domanda tecnica potrebbe impiegare diversi minuti per individuare il documento corretto.

Con un assistente RAG potrebbe invece chiedere:

“Il prodotto X può essere utilizzato con il sistema Y e quali accessori servono?”

Il sistema potrebbe:

1. interpretare la domanda;
2. cercare nella knowledge base;
3. individuare manuale e scheda prodotto;
4. recuperare i passaggi pertinenti;
5. fornire quei passaggi all’LLM;
6. generare una risposta;
7. indicare eventualmente le fonti utilizzate.

Il vantaggio non consiste soltanto nella velocità, ma nella possibilità di rendere interrogabile attraverso il linguaggio naturale una grande quantità di conoscenza aziendale.

RAG ed ecommerce

Anche gli ecommerce possono beneficiare della Retrieval-Augmented Generation.

Un assistente AI potrebbe utilizzare:

• catalogo prodotti;
• disponibilità;
• caratteristiche tecniche;
• FAQ;
• politiche di spedizione;
• condizioni di reso;
• documentazione dei prodotti.

L’utente potrebbe formulare richieste molto più complesse rispetto a una normale ricerca interna:

“Cerco uno zaino impermeabile sotto i 100 euro adatto a un viaggio di una settimana.”

Il sistema potrebbe recuperare i prodotti compatibili con i criteri e utilizzare le relative informazioni per formulare una risposta.

La ricerca interna si trasformerebbe così da semplice matching di keyword a una vera esperienza conversazionale.

RAG e sicurezza dei dati

Quando la Retrieval-Augmented Generation viene applicata ai dati aziendali, la sicurezza diventa un elemento centrale.

Collegare un modello a una knowledge base non significa che ogni utente debba poter consultare qualsiasi informazione.

Un sistema ben progettato deve considerare aspetti come:

• autenticazione;
• autorizzazioni;
• controllo degli accessi;
• cifratura;
• separazione dei dati;
• logging;
• gestione delle informazioni sensibili;
• sicurezza dei database vettoriali.

La RAG mantiene inoltre una distinzione concettuale tra il modello e le fonti esterne: le informazioni possono rimanere nei sistemi aziendali ed essere messe a disposizione dell’applicazione secondo le regole definite dall’organizzazione. La sicurezza delle fonti e delle infrastrutture di retrieval rimane però essenziale.

Quali sono i limiti della RAG?

La RAG offre molti vantaggi, ma non risolve automaticamente tutti i problemi dell’AI generativa.

Il primo limite riguarda la qualità delle fonti. Se i documenti sono obsoleti, contraddittori o errati, il sistema può produrre risposte problematiche.

Il secondo riguarda il retrieval. Il documento corretto può esistere nella knowledge base ma non essere recuperato per una determinata domanda.

Il terzo riguarda il contesto. Una porzione di testo estratta senza le informazioni necessarie può essere interpretata in maniera non corretta.

Il quarto riguarda la generazione. Anche con fonti corrette, l’LLM può commettere errori nella costruzione della risposta.

Il quinto riguarda la manutenzione. Una knowledge base aziendale deve essere aggiornata, organizzata e controllata nel tempo.

Costruire un buon sistema RAG significa quindi lavorare sull’intera pipeline e non semplicemente collegare un chatbot a una cartella piena di documenti.

La qualità della RAG dipende dalla qualità della conoscenza

La Retrieval-Augmented Generation rappresenta uno degli approcci più interessanti per collegare la potenza dei Large Language Model alla conoscenza realmente necessaria per un determinato contesto.

Il principio è semplice: invece di pretendere che il modello conosca tutto, gli permettiamo di cercare ciò che gli serve prima di rispondere.

È questo passaggio a rendere la RAG particolarmente interessante per le aziende.

Documentazione interna, cataloghi, database, procedure e knowledge base possono diventare fonti interrogabili attraverso il linguaggio naturale, aprendo la strada ad assistenti AI molto più specializzati.

Ma la tecnologia da sola non basta.

Qualità dei documenti, struttura della knowledge base, strategia di chunking, efficacia del retrieval, gestione degli accessi e controllo delle risposte determinano la reale qualità del sistema.

La domanda da porsi, quindi, non è soltanto “quanto è potente il modello AI che stiamo utilizzando?”, ma anche “quali informazioni gli stiamo permettendo di trovare quando deve rispondere?”

È proprio su questa combinazione tra recupero della conoscenza e capacità generativa che si basa la RAG.

Fonti e Approfondimenti

Che cos’è la retrieval augmented generation (RAG)?