Rischio nell'AI industriale: la matrice Automazione–Impatto di Benson Chan

Il 21 ottobre 2026 IIoT World ha pubblicato la risposta di Benson Chan, COO di Strategy of Things, a una domanda del pubblico emersa durante la sessione "From Industrial AI Ambition to Operational Reality: Choosing the Right Use Cases" all'Industrial AI Summit 2026. Chan ha proposto un modo semplice per classificare il rischio dei casi d'uso di AI prima di metterli in produzione.

Alla sessione partecipavano anche Jonathan Weiss (Cumulocity), Flemming Kongsberg (Siemens) e Maddie Zheng (Nyotta AI), con la moderazione di Yash Titus di Strategy of Things.

La matrice Automazione–Impatto

Il modello, chiamato AI Automation–Impact Matrix, mette in relazione la gravità della decisione con il livello di automazione. Ogni caso d'uso ricade in uno di quattro quadranti. Chan precisa che è un modo possibile di classificare il rischio, non l'unico.

L'articolo descrive solo i due casi agli estremi:

• Gravità alta, automazione alta: l'AI regola in autonomia temperatura, pressione e portata in un processo critico per la sicurezza, senza approvazione umana. Un errore potrebbe causare danni alle apparecchiature, rilasci pericolosi, infortuni o il fermo dell'impianto.
• Gravità bassa, automazione bassa: l'AI analizza i dati delle macchine e suggerisce quando fare la manutenzione ordinaria, mentre una persona verifica e approva. Una raccomandazione sbagliata comporterebbe probabilmente solo inefficienza, manutenzione non necessaria o fermi evitabili.

Per gli altri due quadranti non vengono forniti esempi, e l'immagine della matrice non era leggibile: la disposizione esatta e le etichette non sono quindi verificate.

Il messaggio chiave: classificare per mitigare

Il modello non dice di evitare i casi d'uso ad alto rischio. Una volta individuata la posizione del caso d'uso, si pianificano le mitigazioni. Chan indica tre cause tipiche di decisioni errate dell'AI:

• addestramento improprio, oppure uso fuori dalle condizioni per cui il modello è stato addestrato;
• dati in ritardo, mancanti o di scarsa qualità;
• deriva del modello (*model drift*) quando non viene controllato e riaddestrato periodicamente.

Le mitigazioni suggerite

• verificare che i modelli siano addestrati correttamente e usati nell'ambito applicativo previsto;
• testare periodicamente deriva e bias;
• accertarsi che le fonti dati siano affidabili, coerenti e pienamente disponibili.

Se chi adotta la soluzione non è in grado di garantire tutto ciò, secondo Chan il caso d'uso potrebbe non essere adatto a un'organizzazione avversa al rischio.

Perché interessa a chi lavora in automazione

Per ingegneri di automazione e integratori, la matrice offre un modo semplice e difendibile di delimitare un progetto di AI. Aiuta a decidere dove inserire un passaggio di approvazione umana e quanto lavoro prevedere su qualità dei dati e monitoraggio del modello. Può inoltre servire come base di dialogo con il cliente: prima di discutere la tecnologia, si discute di cosa succede se la decisione è sbagliata.

Prima si colloca il caso d'uso, poi si pianificano le mitigazioni.

Limiti da tenere presenti

Si tratta di una risposta breve, di circa tre minuti, data in una conferenza da un dirigente di una società di consulenza. Non include statistiche, casi di studio o riferimenti a norme. È quindi uno spunto metodologico, non una procedura validata: non sostituisce le analisi di rischio e sicurezza funzionale già richieste per i processi critici.

Un'indicazione pratica

In fase di scoping, per ogni caso d'uso conviene porsi due domande: quanto è grave una decisione errata e quanta autonomia ha l'AI? La risposta orienta la scelta tra raccomandazione con approvazione umana e controllo autonomo, e rende esplicite le attività su dati e monitoraggio da includere nel progetto fin dall'inizio.