L’intelligenza artificiale amplifica le capacità umane, ma introduce anche rischi concreti: decisioni discriminatorie, output inaffidabili, violazioni della privacy, contenuti dannosi. Per governare questi rischi Microsoft ha definito i sei principi di Responsible AI, che orientano la progettazione, lo sviluppo e l’uso dei sistemi. Nell’esame AI-900 questi principi ricorrono spesso: la domanda tipica descrive uno scenario e chiede quale principio è coinvolto o quale strumento usare per rispettarlo.

I sei principi Microsoft

Fairness (equità)

Un sistema AI deve trattare tutte le persone in modo equo, senza discriminare per genere, etnia, età o altre caratteristiche.

  • Considerazione pratica: valutare che i dati di training siano rappresentativi e monitorare le prestazioni del modello sui diversi gruppi.
  • Esempio di rischio: un modello di scoring per prestiti addestrato su dati storici sbilanciati eredita un bias e penalizza sistematicamente un gruppo demografico.

Reliability & Safety (affidabilità e sicurezza)

I sistemi devono funzionare in modo coerente e sicuro anche in condizioni impreviste.

  • Considerazione pratica: testare rigorosamente, definire soglie di confidenza e prevedere un intervento umano nei casi critici.
  • Esempio di rischio: un modello di guida assistita che reagisce in modo imprevedibile a un input mai visto durante il training.

Privacy & Security (privacy e sicurezza)

I dati personali usati dall’AI vanno protetti e trattati nel rispetto delle normative.

  • Considerazione pratica: applicare anonimizzazione, controllo degli accessi e cifratura; classificare i dati sensibili con Microsoft Purview.
  • Esempio di rischio: un modello che memorizza ed espone informazioni personali presenti nei dati di addestramento.

Inclusiveness (inclusività)

L’AI deve dare valore a tutte le persone, incluse quelle con disabilità o esigenze particolari.

  • Considerazione pratica: coinvolgere utenti diversi nel design e supportare tecnologie assistive.
  • Esempio di rischio: un sistema di riconoscimento vocale che non comprende chi ha accenti forti o difficoltà di linguaggio, escludendo di fatto quegli utenti.

Transparency (trasparenza)

Gli utenti devono capire come funziona il sistema, quali sono i suoi limiti e come vengono prese le decisioni.

  • Considerazione pratica: documentare capacità e limiti, spiegare i fattori che influenzano un output (interpretability).
  • Esempio di rischio: un modello “black box” che nega un servizio senza fornire alcuna motivazione comprensibile.

Accountability (responsabilità)

Le persone e le organizzazioni restano responsabili del funzionamento dei sistemi AI che realizzano.

  • Considerazione pratica: definire governance, ruoli e processi di revisione; l’AI non deve mai deresponsabilizzare le persone.
  • Esempio di rischio: nessuno all’interno dell’azienda è incaricato di supervisionare gli esiti del modello, quindi gli errori restano senza controllo.

I primi quattro principi (fairness, reliability & safety, privacy & security, inclusiveness) affrontano rischi specifici; transparency e accountability sono trasversali e reggono tutti gli altri.

Dai principi agli strumenti concreti

Microsoft traduce questi principi in servizi utilizzabili:

  • Azure AI Content Safety: rileva e filtra contenuti dannosi (odio, violenza, sesso, autolesionismo) sia negli input degli utenti sia negli output generati dai modelli, supportando reliability & safety.
  • Responsible AI dashboard in Azure Machine Learning: analizza fairness, errori e interpretabilità del modello.
  • Microsoft Purview: classificazione e protezione dei dati, a supporto di privacy & security.
  • Trasparenza dei modelli (transparency note e schede di modello) per documentarne capacità e limiti.

Questi strumenti si applicano anche alle soluzioni generative costruite con Azure AI Foundry e a copiloti come Microsoft 365 Copilot, dove i filtri di sicurezza sono attivi per impostazione predefinita.

Trappole tipiche d’esame

  • Scenario: un modello di selezione del personale scarta più candidati di un certo genere per via di dati storici sbilanciati → principio violato: Fairness (problema di bias nei dati).
  • Scenario: devi bloccare linguaggio d’odio e contenuti violenti nell’input e nell’output di un’app generativa → servizio corretto: Azure AI Content Safety (principio reliability & safety).
  • Scenario: gli utenti non capiscono perché il sistema ha preso una decisione e ne chiedono la logica → principio: Transparency (spiegabilità/interpretability).
  • Scenario: “chi è responsabile se il sistema AI commette un errore?” → principio: Accountability, non l’algoritmo ma le persone/organizzazione.
  • Scenario: un assistente vocale non riconosce chi ha disabilità del linguaggio → principio: Inclusiveness (non fairness, che riguarda la discriminazione tra gruppi, ma l’accessibilità per tutti).