Le dimensioni dell’AI responsabile

L’AI responsabile è l’insieme di principi e pratiche per progettare, addestrare e usare sistemi di AI in modo etico, sicuro e affidabile. AWS descrive alcune dimensioni fondamentali che l’esame chiede di riconoscere e distinguere:

  • Fairness: trattare in modo equo gruppi e individui, evitando discriminazioni sistematiche.
  • Explainability: capacità di spiegare perché un modello ha prodotto un certo output.
  • Robustness (e veracity): il sistema resta affidabile anche con input inattesi o avversi e produce output corretti.
  • Privacy and security: proteggere i dati personali e i dati di training.
  • Transparency: comunicare agli stakeholder come funziona il sistema, con quali dati e con quali limiti.
  • Governance, safety e controllability: monitorare, controllare e correggere il comportamento del sistema nel tempo.

Nessuna singola metrica copre tutte le dimensioni: la fairness riguarda il “chi” viene trattato equamente, l’explainability il “perché” di una risposta, la transparency il “cosa comunico”. Confonderle è un errore classico d’esame.

Bias e fairness: i rischi nei dati e nelle risposte

Il bias è una distorsione sistematica che porta il modello a favorire o penalizzare certi gruppi. Le fonti principali sono i dati, non solo l’algoritmo:

  • Data bias / sampling bias: il dataset di training non rappresenta la popolazione reale (es. pochi esempi di una fascia d’età).
  • Bias storico: i dati riflettono discriminazioni già presenti nel mondo reale.
  • Bias nelle risposte dei modelli generativi: stereotipi o output tossici appresi dal corpus.

La fairness è l’obiettivo; ridurre il bias è il mezzo. Su AWS, Amazon SageMaker Clarify aiuta a rilevare bias nei dati e nelle predizioni del modello, sia prima sia dopo il training, e a misurare l’importanza delle feature. Per i modelli generativi, Amazon Bedrock Guardrails filtra contenuti dannosi, blocca argomenti indesiderati e maschera PII, riducendo output distorti o non sicuri. Attenzione: nessuno strumento “elimina” il bias in automatico; servono giudizio umano e monitoraggio continuo (Amazon SageMaker Model Monitor per il drift).

Trasparenza, explainability e model card

Transparency ed explainability vengono spesso confuse:

  • Explainability: rispondere a “perché questo output?” — es. quali feature hanno pesato di più (feature attribution via SageMaker Clarify). Riguarda il singolo risultato o il comportamento del modello.
  • Transparency: rendere note al pubblico caratteristiche, limiti, dati e usi previsti del sistema. È comunicazione e documentazione.

Le model card sono lo strumento chiave di transparency: documenti standardizzati che descrivono scopo del modello, dati e metodo di training, metriche di performance, limiti noti, usi previsti e sconsigliati, e un eventuale risk rating. Amazon SageMaker Model Cards permette di creare e versionare questa documentazione insieme al modello, utile per governance e audit. A livello di servizi gestiti, le AWS AI Service Cards documentano casi d’uso previsti, scelte di design e limiti dei servizi AI di AWS. La model card non spiega il singolo output (quello è explainability): serve a dare contesto, tracciabilità e responsabilità.

Trappole tipiche d’esame

  • Serve capire perché il modello ha rifiutato una domanda specifica → explainability: usa feature attribution (es. SageMaker Clarify), non una model card, che documenta il modello nel suo insieme.
  • Serve documentare usi previsti, limiti e rischi del modello → model card: è transparency/governance; non è uno strumento che riduce il bias.
  • Rilevare bias nei dati di training prima del deploy → Amazon SageMaker Clarify: copre sia data bias sia importanza delle feature, non solo la spiegazione post-hoc.
  • Filtrare output tossici o PII di un modello generativo a runtime → Amazon Bedrock Guardrails: è un controllo in esecuzione, distinto dalla misurazione statistica del bias.
  • “Fairness” e “transparency” usate come sinonimi → sono dimensioni diverse: fairness = trattamento equo; transparency = comunicare come funziona il sistema.
  • Un solo tool garantisce l’AI responsabile → falso: l’AI responsabile è multidimensionale e richiede monitoraggio continuo (es. SageMaker Model Monitor), non un singolo prodotto.