Perché l’esame insiste su responsible AI

Microsoft raggruppa il suo approccio all’AI etica in sei principi. Nelle domande non ti viene chiesto di implementarli, ma di riconoscere quale principio risolve uno scenario descritto a parole. La trappola tipica è che due principi sembrano entrambi validi: devi scegliere quello centrale nella situazione. Tienili in ordine mentale: quattro principi “operativi” (fairness, reliability and safety, privacy and security, inclusiveness) e due “trasversali” (transparency, accountability) che reggono gli altri.

I quattro principi operativi

Fairness (equità). Un sistema AI deve trattare tutti in modo equo, senza discriminare per genere, etnia, età o altre caratteristiche. Esempio: un modello che valuta le richieste di prestito non deve penalizzare sistematicamente un gruppo demografico perché i dati storici erano sbilanciati. Il segnale d’esame è la parola “bias” o un gruppo trattato diversamente.

Reliability and safety (affidabilità e sicurezza). Il sistema deve funzionare in modo coerente e sicuro anche in condizioni impreviste. Esempio: il pilota automatico di un veicolo deve comportarsi in modo prevedibile con maltempo o input anomali, e degradare in sicurezza. Segnale: scenari safety-critical, comportamento sotto condizioni nuove, testing rigoroso.

Privacy and security (privacy e sicurezza). I dati personali usati per addestrare e far girare il modello vanno protetti e trattati nel rispetto del consenso. Esempio: un assistente sanitario deve cifrare i dati dei pazienti e impedire che il modello riveli informazioni sensibili. Segnale: dati personali, consenso, protezione dei dati.

Inclusiveness (inclusività). L’AI deve dare potere a tutti e coinvolgere l’intero spettro di persone, incluse quelle con disabilità. Esempio: aggiungere sottotitoli automatici e comandi vocali affinché chi ha difficoltà visive o uditive possa usare il servizio. Segnale: accessibilità, disabilità, “tutti possono usarlo”.

Transparency e accountability: la coppia che confonde

Sono i due principi che l’esame usa più spesso come distrattori l’uno dell’altro.

Transparency (trasparenza) riguarda la comprensibilità: le persone devono capire come funziona il sistema, su quali dati si basa, quali sono i suoi limiti e perché ha prodotto un certo output (interpretability). Esempio: comunicare agli utenti che stanno parlando con un chatbot e spiegare quali fattori hanno pesato su una decisione.

Accountability (responsabilità) riguarda la responsabilità organizzativa: le persone che progettano e gestiscono il sistema ne rispondono, definendo governance, standard e controlli. Esempio: un team che stabilisce policy interne e verifica la conformità del modello a norme e valori aziendali.

Regola pratica: se lo scenario parla di spiegare / far capire, è transparency; se parla di chi risponde, chi governa, chi è responsabile, è accountability.

Human oversight (supervisione umana) non è un settimo principio, ma il meccanismo che rende concreti soprattutto accountability e reliability and safety: un essere umano resta nel loop per rivedere, approvare o annullare le decisioni dell’AI nei contesti a rischio. Esempio: un medico che convalida la diagnosi suggerita dal modello prima di agire. Segnale: “human in the loop”, “un umano approva”, “l’AI supporta ma non decide da sola”.

Trappole tipiche d’esame

  • Bias verso un gruppo demografico → fairness: anche se sembra un problema di dati, il principio richiesto è fairness, non privacy and security.
  • “Gli utenti devono capire perché il modello ha deciso così” → transparency: è comprensibilità / interpretability, non accountability (che è chi ne risponde).
  • “L’organizzazione definisce governance e risponde degli esiti” → accountability: la parola chiave è responsabilità organizzativa, da non confondere con transparency.
  • Sottotitoli, screen reader, comandi vocali → inclusiveness: l’accessibilità per persone con disabilità è inclusiveness, non fairness.
  • “Un umano deve poter annullare la decisione dell’AI” → human oversight: cerca “human in the loop”; ricade sotto accountability, non è reliability and safety anche se aumenta la sicurezza.
  • Cifratura e consenso sui dati dei pazienti → privacy and security: dati personali e protezione, non reliability and safety (che riguarda il comportamento del sistema, non i dati).