L'introduzione di un sistema di intelligenza artificiale in un processo produttivo non è neutra rispetto alla valutazione dei rischi dell'art. 28 del D.Lgs. 81/08. Alcuni pericoli sono ormai documentati in letteratura e vanno considerati in modo esplicito.
Il primo è il bias di automazione, ben descritto negli studi sull'aviazione e sul controllo di processo: la tendenza a fidarsi dell'indicazione del sistema anche quando contrasta con altri segnali. Un operatore di controllo qualità che accetta l'esito del sistema di visione senza guardare il pezzo, o un preposto che considera sicura un'area perché il sistema non segnala presenze, ne sono esempi. Il secondo è la perdita di competenze: se per mesi è l'algoritmo a pianificare le sequenze o a riconoscere le anomalie, le persone perdono la capacità di farlo quando il sistema si guasta, proprio nel momento in cui serve. Il terzo è l'aumento del carico cognitivo legato alla supervisione di sistemi che funzionano quasi sempre bene, con lunghi periodi di attenzione passiva e improvvise richieste di intervento.
A questi si aggiungono gli effetti organizzativi già visti, come ritmi definiti dall'algoritmo e controllo continuo, che incidono sullo stress lavoro-correlato; il tema del tecnostress è trattato in un altro blocco del corso.
Nel DVR conviene una sezione dedicata a ogni sistema rilevante, con descrizione della funzione, dei modi di guasto, delle procedure di funzionamento degradato e della formazione per mantenere le competenze manuali.