Le applicazioni di AI generativa non nascono da zero: servono strumenti per scegliere il modello giusto, testarlo e collegarlo ai dati aziendali senza “inventare” risposte. In Azure questo lavoro ruota attorno a Azure AI Foundry e al pattern RAG (Retrieval Augmented Generation). In questa unità vedi cosa fa la piattaforma e quando conviene fare grounding con la ricerca invece di ri-addestrare il modello.
Azure AI Foundry: la piattaforma per i modelli generativi
Azure AI Foundry è l’ambiente unificato per costruire, testare e distribuire soluzioni di AI generativa. Il suo elemento centrale è il model catalog, una raccolta di modelli fondativi tra cui scegliere:
- modelli Azure OpenAI (la famiglia GPT, oltre a modelli di embedding);
- modelli open e di terze parti (Meta Llama, Mistral, ecc.).
Dentro Foundry puoi:
- esplorare e confrontare i modelli in base a capacità, costo e caso d’uso;
- testarli in un playground con i tuoi prompt, senza scrivere codice;
- distribuirli come endpoint da richiamare da un’applicazione;
- applicare filtri di sicurezza tramite Azure AI Content Safety.
Il punto chiave d’esame: Foundry è il posto dove sperimenti e metti in produzione modelli generativi, non un singolo modello.
Il pattern RAG: dare al modello i dati aziendali
Un modello linguistico conosce solo ciò che ha visto in addestramento: non sa nulla dei tuoi documenti interni, dei manuali di prodotto o delle policy HR. Se glielo chiedi, rischia di allucinare una risposta plausibile ma sbagliata.
Il RAG risolve il problema con un’idea semplice: prima recupera, poi genera.
- La domanda dell’utente viene usata per cercare i frammenti di documento più pertinenti in una base di conoscenza aziendale.
- Questi frammenti vengono iniettati nel prompt insieme alla domanda.
- Il modello genera la risposta basandosi (grounding) su quei dati, spesso citando la fonte.
Il vantaggio: risposte aggiornate e verificabili senza modificare il modello.
Azure AI Search come motore di recupero
Il servizio che fa il “retrieval” in RAG è tipicamente Azure AI Search. Per capire davvero il significato — non solo le parole esatte — usa la vector search:
- ogni frammento di testo viene trasformato in un embedding, cioè un vettore numerico che ne rappresenta il significato semantico;
- la domanda viene convertita anch’essa in embedding;
- la ricerca trova i frammenti semanticamente più vicini, anche se usano termini diversi da quelli della domanda.
Spesso si combina la ricerca vettoriale con quella per parole chiave (hybrid search) per ottenere i risultati migliori.
Fine-tuning: alternativa o complemento?
Il fine-tuning è un approccio diverso: si ri-addestra un modello base su un set di esempi specifici, in modo che ne assorba stile, formato o comportamento. Il risultato è un modello personalizzato.
Quando preferire cosa:
- RAG → quando il problema è la conoscenza: dati che cambiano spesso, documenti aziendali, risposte da citare con la fonte. È più economico, aggiornabile e riduce le allucinazioni.
- Fine-tuning → quando il problema è il comportamento: tono di voce coerente, un formato di output rigido, un compito ripetitivo che il prompt da solo non rende affidabile.
Non sono mutuamente esclusivi: si possono combinare (un modello fine-tuned che risponde nello stile giusto, con RAG che gli fornisce i dati freschi). Regola pratica d’esame: serve conoscenza aggiornata → RAG; serve un comportamento specifico → fine-tuning.
Trappole tipiche d’esame
- Scenario: un chatbot deve rispondere sui manuali di prodotto interni, aggiornati ogni mese, citando la fonte. → Risposta giusta: implementa RAG con Azure AI Search, non il fine-tuning.
- Scenario: vuoi trovare documenti pertinenti per significato e non solo per corrispondenza esatta delle parole. → Risposta giusta: vector search basata su embedding (o hybrid search).
- Scenario: ti serve un ambiente per confrontare più modelli generativi e distribuirne uno come endpoint. → Risposta giusta: Azure AI Foundry e il suo model catalog.
- Scenario: il modello deve rispondere sempre con un tono e un formato aziendale molto specifici, e i prompt non bastano. → Risposta giusta: fine-tuning, non RAG.
- Scenario: il modello generativo “inventa” risposte su dati che non conosce. → Risposta giusta: applica il grounding tramite RAG per ancorare le risposte ai dati reali.