Perché un prompt da solo non basta

Un prompt costruito nel prompt builder risponde con la conoscenza che il modello generativo ha già dentro di sé, cioè quella dei suoi dati di addestramento. Va benissimo per riassumere, classificare o riscrivere del testo, ma non sa nulla dei clienti, degli ordini o dei ticket dell’azienda. La documentazione inquadra il problema con il termine Retrieval Augmented Generation (RAG): si recuperano informazioni esterne e le si passano al modello insieme alle istruzioni, così la risposta è ancorata ai dati aziendali invece che alla memoria del modello.

L’aggiunta avviene nello stesso punto in cui si aggiungono gli input. Nel pannello Instructions si digita / oppure si seleziona Add content: il menu che compare ha una sezione Input (con Text, Image or document e Power Fx) e una sezione Knowledge, che è quella che serve qui. Si naviga la sorgente dati e si selezionano una o più colonne: ognuna diventa un knowledge object dentro il prompt, cioè un insieme di dati recuperato tramite una connessione a una sorgente dati.

Sullo stesso knowledge object si imposta il filtro: lo si seleziona, si sceglie il campo in Filter attribute e si indica il criterio in Filter value, che può essere testo libero oppure un input del prompt. Quest’ultima è la modalità più interessante, perché il prompt filtra i knowledge object usando il valore dell’input espresso in linguaggio naturale. Con Insert si inseriscono invece riferimenti a dati e a tabelle correlate, navigando dati e relazioni: il modello usa ogni riferimento per costruire la risposta.

Dataverse, connettori e i limiti che contano

Le sorgenti non sono infinite. La pagina “Add knowledge to your prompt” elenca fra le limitazioni che le sorgenti dati sono limitate a Dataverse e alle tabelle dei connettori Salesforce, Oracle e Zendesk; nel corpo della stessa pagina, la sezione sui connettori nomina anche SAP. Vale la pena aprirla e leggere entrambi i punti, perché l’elenco discorsivo e l’elenco delle limitazioni non coincidono: in un contesto reale conviene verificare la connessione disponibile nell’ambiente invece di fidarsi a memoria.

Un vincolo che sorprende molti: i connettori si possono usare solo per i prompt in Power Automate. Se il prompt deve girare in una canvas app o come tool di un agente, la sorgente realistica resta Dataverse.

Su Dataverse valgono altre regole precise. Le virtual table non sono ancora supportate. Sono supportate solo relazioni uno-a-molti o molti-a-uno, e si possono selezionare fino a due livelli di relazione a partire dalla tabella aggiunta come sorgente. La documentazione mostra proprio la forma del percorso:

Account.'Company Name (Contact)'.'Connected To (Connection)'.'Connection Name'

Come Filter attribute sono disponibili solo attributi di tipo text, number, date and time, choice, currency e unique identifier.

Il numero che va ricordato è quello dei record: ne vengono recuperati 30 per impostazione predefinita, e il limite si può alzare fino a 1.000 nelle impostazioni. È il punto che l’esame ama trasformare in scenario: se un prompt “non vede” una riga che esiste in tabella, la causa plausibile non è il modello ma il numero di record recuperati o un filtro assente. La guida su prestazioni ed esecuzione dei prompt spinge nella stessa direzione: applicare filtri e recuperare solo i campi necessari, perché il sistema prima recupera i dati RAG, poi analizza i documenti in input e solo alla fine chiama il modello, e l’esecuzione del prompt è limitata a 100 secondi.

Le impostazioni del prompt

Il pannello si apre dai tre puntini (…) e poi Settings, in alto nel prompt builder. Le impostazioni documentate sono: Temperature, Record retrieval (è qui che si cambia il numero di record recuperati per le sorgenti di knowledge), Include links in the response (aggiunge le citazioni con i link ai record recuperati), Enable code interpreter e Content moderation level.

La Temperature è uno slider fra 0 e 1, con 0 come valore predefinito: 0 dà risposte più prevedibili e coerenti, 1 lascia più creatività. Il Content moderation level va da Low a High, con Moderate come livello predefinito: più il filtro è basso, più risposte si ottengono, ma cresce il rischio di contenuti dannosi.

Attenzione: non tutte le impostazioni sono disponibili con tutti i modelli. La documentazione dice esplicitamente che lo slider della temperature è disabilitato quando si seleziona il modello GPT-5 reasoning, e che il Content moderation level è disponibile solo per i modelli gestiti, quindi lo slider non è utilizzabile quando si sceglie un modello Anthropic o un modello Azure AI Foundry. Se in un quesito d’esame un’impostazione “sparisce”, la spiegazione corretta è quasi sempre il modello scelto, non un problema di licenza o di permessi.

Scegliere il modello: leggere il tag, non l’elenco

Il modello si cambia da Model, in cima al prompt builder, con un menu a discesa. Non imparare l’elenco a memoria: cambia spesso e varia per regione. Impara invece a leggere la pagina. I modelli sono raggruppati in tre categorie — Mini (veloce, per riassunti e task informativi), General (task complessi e multimodali) e Deep (ragionamento e analisi dei dati) — e sono marcati con un tag di rilascio: Experimental (solo sperimentazione), Preview (non ancora consigliato in produzione), nessun tag (generalmente disponibile) e Default, che indica il modello usato di default e adottato come fallback se quello selezionato è disattivato o non disponibile.

Qui c’è la trappola: l’assenza di tag di solito significa disponibilità generale, ma la stessa tabella avverte che i modelli Anthropic Claude sono allo stadio experimental pur non mostrando alcun tag. Quindi il tag va letto insieme alle note della pagina, e la disponibilità effettiva va confrontata con “Prompt model availability by region and updates”. La guida sulle prestazioni suggerisce inoltre di partire dal modello meno costoso adatto allo scenario e riservare i modelli più avanzati ai casi che li richiedono davvero.

Infine il bring your own model: la funzionalità “Azure AI Foundry models for prompts” permette di collegare un modello del catalogo Azure AI Foundry selezionando il segno più (+) nel campo Model e compilando Model deployment name e Base model name esattamente come appaiono in Foundry. Il vincolo da ricordare è il tipo di endpoint: sono supportati i modelli di tipo chat completion, e l’URL dell’endpoint deve terminare con /chat/completions; usando l’endpoint dell’API Responses la connessione fallisce con un errore Resource not found. La documentazione segnala anche che la famiglia GPT-5 e i modelli successivi non sono attualmente supportati per il bring your own model nei prompt.