Perché serve il grounding
Un large language model genera testo a partire da ciò che ha “imparato” durante il training: conosce il mondo fino a una certa data e non sa nulla dei documenti interni della tua azienda. Quando gli chiedi qualcosa che ignora, tende a rispondere comunque in modo plausibile ma inventato: è il fenomeno delle allucinazioni (hallucinations). Il grounding è la pratica di ancorare la risposta a fonti autorevoli e verificabili — tipicamente i tuoi dati — fornite al modello al momento della domanda. Il modello non deve ricordare: deve leggere ciò che gli passi e rispondere solo su quella base, idealmente citando la fonte.
Come funziona il pattern RAG
Retrieval-augmented generation è il pattern più diffuso per fare grounding senza riaddestrare il modello. Il flusso ha due fasi. In fase di ingest i documenti aziendali vengono spezzati in porzioni (chunking), indicizzati e archiviati in un motore di ricerca (in Azure tipicamente Azure AI Search). In fase di query, la domanda dell’utente viene usata per recuperare (retrieval) i chunk più pertinenti; questi vengono inseriti nel prompt insieme alla domanda e passati al modello, che genera (generation) la risposta basandosi su quel contesto.
Il vantaggio chiave: i dati restano nell’indice, non nei pesi del modello. Aggiorni un documento e la risposta cambia subito, senza costi di training. Per l’esame, tieni a mente l’equazione mentale: RAG = retrieval + prompt aumentato + generation.
Il ruolo degli embeddings
Come fa il retrieval a capire quali chunk sono pertinenti? Con gli embeddings. Un embedding è un vettore numerico che rappresenta il significato di un testo: frasi con significato simile hanno vettori vicini nello spazio, anche se non condividono le stesse parole. Un modello di embedding (i modelli text-embedding di Azure OpenAI) trasforma sia i chunk sia la domanda in vettori; la ricerca calcola la similarità e restituisce i chunk semanticamente più affini.
Questa è la vector search, e spiega perché RAG trova risposte anche quando l’utente usa sinonimi o riformula il concetto. Nella pratica la si combina spesso con la ricerca per parole chiave (hybrid search), per unire precisione lessicale e comprensione semantica.
Preparare i dati con Content Understanding
Il grounding vale quanto valgono i dati indicizzati. Molto contenuto aziendale però non è testo pulito: sono PDF, fatture, immagini, audio, video. Azure AI Content Understanding serve proprio a estrarre informazioni strutturate da contenuti multimodali, trasformandoli in dati ordinati e indicizzabili. È il passaggio a monte che rende i documenti “leggibili” dal pattern RAG: senza una buona ingest il retrieval recupera spazzatura e il modello, per quanto ancorato, risponde male. Per i dettagli operativi (formati supportati, campi estratti) rimanda sempre alla documentazione ufficiale, perché il prodotto è recente e in evoluzione.
Trappole tipiche d’esame
- Ridurre le allucinazioni sui dati aziendali → RAG/grounding, non fine-tuning: il fine-tuning modifica stile e comportamento del modello, ma non è il modo per iniettare conoscenza fattuale aggiornata; per rispondere sui tuoi documenti serve il grounding via retrieval.
- “Il modello deve conoscere documenti creati ieri” → aggiorna l’indice, non il modello: in RAG i dati vivono nell’indice di ricerca; basta reindicizzare, nessun retraining.
- Trovare contenuti per significato e non per parola esatta → embeddings + vector search: se lo scenario parla di sinonimi o concetti simili, la risposta è la ricerca vettoriale (eventualmente hybrid), non la sola keyword search.
- Contenuto in PDF/immagini/audio da rendere interrogabile → Content Understanding in fase di ingest: prima estrai dati strutturati dal multimodale, poi indicizzi; il retrieval lavora su testo/dati, non sul file grezzo.
- Il grounding riduce il rischio, non lo azzera → cita e verifica le fonti: anche ancorato, il modello può interpretare male il contesto; per questo si privilegiano risposte con citazioni verificabili.
- Embedding ≠ modello generativo: un embedding non produce testo, genera vettori per la ricerca; confondere i due ruoli è una trappola classica delle domande a scelta multipla.