Cos’è il RAG e come creare un’IA che risponde con i dati della tua azienda

Cos’è il RAG

RAG è l’acronimo di retrieval-augmented generation, in italiano generazione aumentata dal recupero. Il termine nasce da un articolo di ricerca del 2020 firmato da Lewis e colleghi di Facebook AI Research e descrive i due passaggi che il sistema compie a ogni domanda:

1. Recupero. Il sistema cerca nei tuoi documenti e sceglie i pochi passaggi che con più probabilità contengono la risposta.
2. Generazione. Invia quei passaggi, insieme alla domanda, a un modello linguistico (GPT, Claude, Gemini, Llama o simili) con un’istruzione: rispondi solo con questo testo e dillo se la risposta non c’è.

A scrivere è sempre il modello, quindi la risposta si legge in modo naturale. Ma i fatti vengono dai tuoi documenti, non da quello che il modello ha imparato durante l’addestramento. Tutta l’idea è qui.

Perché la ricerca funzioni, i documenti vengono preparati prima: si estrae il testo, lo si divide in brevi passaggi e lo si salva in un indice che si interroga per significato e non per parole esatte. È così che la domanda «quanti giorni di ferie ho dopo il primo anno?» trova il paragrafo intitolato «Maturazione delle ferie annuali».

RAG e ChatGPT: che differenza c’è

ChatGPT, Copilot o Gemini, usati così come sono, sono assistenti generici. Scrivono, riassumono e ragionano molto bene, e sanno molte cose sul mondo fino alla data del loro addestramento. Della tua azienda non sanno nulla, a meno che qualcuno non incolli le informazioni nella conversazione.

Un sistema RAG fa quel copia e incolla in automatico, a ogni domanda, con i documenti giusti e solo con quelli che chi fa la domanda ha il permesso di vedere.

Molti chiedono se non sia meglio «addestrare ChatGPT con i nostri dati». Si chiama fine-tuning e, per la conoscenza aziendale, raramente è lo strumento giusto: costa, va rifatto ogni volta che le informazioni cambiano e non sa dire da dove arriva una risposta. Il fine-tuning serve a insegnare a un modello uno stile o un formato. Per i fatti serve il RAG.

Da dove prende le informazioni un sistema RAG

Da dove si trovano già i tuoi documenti. Un sistema fatto bene legge dalle fonti esistenti invece di costringere tutti a spostare i file in un nuovo strumento. Le più comuni sono:

• Cartelle di SharePoint, OneDrive e Google Drive
• Wiki e basi di conoscenza come Confluence o Notion
• Sistemi di gestione documentale, dove di solito stanno contratti e pratiche
• Articoli di assistenza e storico dei ticket
• Dati strutturati di CRM, ERP o database interni, quando la risposta dipende da numeri aggiornati

Quali documenti funzionano meglio

Il testo digitale pulito (file Word, Google Docs, PDF generati dal computer) è il caso facile. Tutto si complica, e costa di più, con pagine scansionate o fotografate, tabelle complesse e fogli di calcolo, disegni tecnici e tutto ciò che è ancora su carta. Va prima trasformato in testo leggibile, ed è la voce del budget più spesso sottovalutata.

L’altra trappola è la qualità. Se nella cartella condivisa ci sono tre versioni della stessa procedura, il sistema le troverà tutte e tre. Ogni progetto serio inizia decidendo quali documenti fanno fede e quali restano fuori.

Permessi: chi può vedere cosa

È la domanda che trasforma un progetto di due mesi in uno di cinque, e quasi nessuno la fa al primo incontro.

Se in azienda tutti possono aprire tutti i documenti, i permessi sono semplici. Nella maggior parte dei casi non è così: fascicoli HR, verbali del consiglio di amministrazione, fasce retributive e contratti con i clienti hanno accesso limitato. Un sistema RAG deve rispettare queste restrizioni in ogni risposta. Altrimenti chiunque potrebbe chiedere all’assistente ciò che non può aprire, e l’IA glielo riassumerebbe volentieri.

Di solito ci sono tre livelli:

• Aperto a tutti. Una base comune senza restrizioni. L’opzione più economica e perfetta per i contenuti di assistenza pubblici.
• Per reparto. Il commerciale vede i documenti commerciali, il tecnico quelli tecnici. Impegno moderato.
• Per persona o per cliente. Il sistema controlla per ogni utente i permessi originali di ogni documento, di solito leggendoli da SharePoint o Google Drive. L’opzione più solida e la più impegnativa.

Come restano aggiornate le informazioni

Uno dei grandi vantaggi del RAG rispetto a un modello riaddestrato è che aggiornarlo costa poco. Quando un documento cambia, basta rileggere e indicizzare quel documento. La frequenza è una scelta di progetto:

• Una sincronizzazione ogni notte o ogni settimana basta se i documenti cambiano poco.
• L’aggiornamento quasi in tempo reale conviene per contenuti di assistenza, listini e tutto ciò che cambia più volte a settimana.
• Anche i documenti eliminati o scaduti devono sparire dall’indice. È facile dimenticarlo, e causa alcune delle risposte sbagliate più imbarazzanti.

Citare le fonti: più importante di quanto sembri

Un sistema RAG sa esattamente quali passaggi ha usato per ogni risposta, quindi può mostrarli. Alcuni progetti si limitano a indicare il documento, altri rimandano alla pagina esatta e la aprono con un clic.

Sembra un extra. In pratica è ciò che decide se le persone si fidano dello strumento. Chi può controllare la fonte in due secondi si affida alla risposta; chi non può, torna a chiedere alla collega. Le citazioni rendono anche visibili gli errori molto presto, ed è così che il sistema migliora.

Sicurezza e privacy

La prima domanda dell’IT e dell’ufficio legale è quasi sempre la stessa: i nostri documenti finiranno ad addestrare l’IA di qualcun altro? Con i contratti business dei grandi fornitori, no. OpenAI, per esempio, dichiara di non addestrare i suoi modelli con i dati aziendali inviati tramite API o prodotti enterprise, e Microsoft spiega come realizzare un RAG con Azure AI Search nel tuo ambiente Azure.

Oltre a questo, le decisioni che contano sono:

• Dove vengono elaborati i dati. Per un’azienda europea, usare data center nell’UE è di solito necessario per il GDPR.
• Quale modello. Per le informazioni più sensibili (sanità, finanza, legale) il sistema può girare su modelli open source installati nel tuo cloud, senza che nulla esca dalla tua infrastruttura.
• Tracciabilità. Chi ha chiesto cosa e quali documenti sono stati usati deve restare registrato e consultabile.
• Trasparenza. Se l’assistente lo usano clienti o pubblico, il regolamento europeo sull’IA impone di avvisare che si sta parlando con un’IA.

Quanto costa realizzare un sistema RAG

Meno di quanto si pensi per un pilota, di più per un sistema esteso a tutta l’azienda. Il modello di IA raramente è la voce più cara. Il prezzo dipende dal numero di documenti e dal loro stato, da quanti posti li ospitano, dal modello dei permessi e dalla necessità di citare la pagina esatta.

Sono fasce indicative del mercato europeo, IVA esclusa. I costi mensili coprono il modello di IA, l’indice di ricerca e l’hosting, e crescono con il numero di domande: uno strumento per 20 persone costa molto meno da mantenere di un assistente aperto a tutti i tuoi clienti.

Anche dove lavora il team fa la differenza. Molte delle aziende certificate della rete Yeeply sono in Spagna, dove un ingegnere IA esperto costa sensibilmente meno che a Milano a parità di esperienza. Su un progetto di queste dimensioni, quella differenza spesso decide se l’investimento si ripaga.

Per una cifra più vicina al tuo caso, il nostro calcolatore ti fa dieci domande sui tuoi documenti, su dove sono archiviati e su chi deve vederli:

I casi d’uso in cui il RAG conviene

Buona parte della settimana di un dipendente se ne va a cercare informazioni. Uno studio di McKinsey molto citato l’ha stimata in 1,8 ore al giorno per gli impiegati il cui lavoro consiste soprattutto nel gestire informazioni. Questi sono i casi in cui un sistema RAG fa recuperare quel tempo più in fretta:

Conoscenza interna e inserimento dei nuovi

Policy HR, procedure, informazioni di prodotto e domande del tipo «qui come si fa?». I nuovi assunti smettono di interrompere sempre le stesse tre persone, che si riprendono i loro pomeriggi.

Servizio clienti

O rivolto ai clienti, con risposte prese dal tuo centro assistenza e passaggio a una persona quando qualcosa non è chiaro, o per il team di assistenza, che vede accanto a ogni ticket il passaggio giusto del manuale. La seconda opzione è un punto di partenza più sicuro.

Legale, compliance e contratti

Trovare una clausola, una data di rinnovo o un obbligo tra centinaia di contratti, normative o pratiche, con il link alla pagina esatta. Qui citazioni e permessi contano più che altrove.

Offerte commerciali e gare

Scrivere le risposte ai bandi partendo da offerte passate, casi di successo e schede tecniche. La prima bozza richiede minuti invece di giorni, e il team si concentra su ciò che è davvero nuovo.

Tecnici sul campo e documentazione tecnica

I tecnici chiedono dal telefono informazioni su una macchina o un impianto e ricevono la risposta dal manuale, anche da schede scansionate e disegni.

Se l’assistente deve anche agire, per esempio aggiornare una scheda nel CRM o prenotare un intervento, si va oltre il RAG e si parla di agente IA. E se vuoi capire quanto costa portare l’IA in un’applicazione che usi già, lo spieghiamo in quanto costa integrare l’IA in un’applicazione aziendale.

Come iniziare un progetto RAG

I progetti che funzionano partono piccoli e misurabili:

1. Scegli un team e un tipo di domanda. «L’assistenza risponde alle domande sul prodotto» è un buon perimetro. «Tutta la conoscenza aziendale» no.
2. Raccogli da 50 a 100 domande vere che fa quel team, con le risposte corrette. Sarà il test che dirà se il sistema funziona.
3. Analizza i documenti che contengono quelle risposte: dove sono, in che formato, quanto sono aggiornati, chi può vederli.
4. Costruisci il pilota e misuralo con quelle domande prima che qualcuno ci faccia affidamento.
5. Allarga gradualmente ad altre fonti e altri team quando la precisione è quella che ti serve.

È proprio qui che interviene Yeeply. Definiamo con te il perimetro, ti presentiamo le proposte di aziende certificate della nostra rete che hanno già costruito sistemi simili e seguiamo lo sviluppo fino al lancio. Trovi tutti i dettagli nella nostra pagina sul RAG aziendale.

Se vuoi una proposta per il tuo caso, clicca su «Richiedi preventivo» in alto a destra o scrivi a sales@yeeply.com. Raccontaci che documenti hai, dove si trovano e chi ha bisogno di risposte.