Chi risponde di una decisione presa da un algoritmo?
E fino a che punto possiamo parlare di “controllo umano”?
Attenzione: l’AI non ha intenzionalità, né responsabilità. È innegabile però, che può orientare le scelte in modo determinante, spesso riducendo il margine di controllo umano.
Nel diritto e nella governance, il rischio maggiore è proprio la zona grigia tra delega e vigilanza: quando la macchina suggerisce e l’uomo conferma senza capire.
La decisione appare “oggettiva”, ma chi la adotta resta pienamente responsabile.
Cosa dice la legge sull’intelligenza Artificiale?
La Legge 23 settembre 2025, n. 132 sull’intelligenza artificiale contiene le disposizioni nazionali che riguardano l’uso dell’AI, anche se il testo è più generale e molti dettagli operativi arriveranno con i decreti attuativi.
La Legge 132/2025 si fonda su un principio chiaro:
L’intelligenza artificiale deve restare uno strumento al servizio dell’essere umano, e la decisione finale deve essere presa da una persona fisica che ne mantiene la responsabilità.
Questo principio, ribadito anche nei documenti preparatori e nella relazione illustrativa, è coerente con l’AI Act europeo, ma nel testo italiano assume un valore più etico e politico.
Significa che:
- l’AI può supportare o automatizzare parti di un processo decisionale, ma non può sostituire il giudizio umano;
- in ogni contesto (sanitario, finanziario, industriale, giudiziario, amministrativo), deve essere individuabile una persona o un organo responsabile delle decisioni;
- i sistemi devono essere progettati in modo da garantire trasparenza, tracciabilità e possibilità di controllo umano significativo.
In termini pratici: se un sistema di AI formula raccomandazioni, suggerisce decisioni o produce risultati che l’organizzazione applica senza verifica, la responsabilità resta a in capo a chi ha deciso di adottare o utilizzare quel sistema.
Usare l’AI nei processi aziendali
In ambito lavorativo, la legge stabilisce che l’utilizzo dell’intelligenza artificiale «deve essere sicuro, affidabile, trasparente e non può svolgersi in contrasto con la dignità umana né violare la riservatezza dei dati personali».
Il datore di lavoro è tenuto a informare il lavoratore dell’utilizzo dell’intelligenza artificiale nei casi e con le modalità previste dall’art. 1-bis del d.lgs. 26 maggio 1997, n. 152 (norma ambientale oggi richiamata) quando l’AI interviene nei processi lavorativi.
Il principio che “l’IA può essere utilizzata come supporto, ma non può sostituire la valutazione critica del professionista o del responsabile” è ribadito in vari contesti professionali: ad esempio l’art. 13 della legge parla dell’uso dell’IA nelle professioni intellettuali.
Il principio del controllo umano
La legge italiana, in pieno accordo con le indicazioni dell’AI Act europeo, non lascia dubbi: ogni decisione automatizzata deve restare sotto un controllo umano significativo. Ciò significa che un algoritmo può proporre, ma non sostituire.
Serve trasparenza sulle logiche decisionali, formazione per chi usa i sistemi, tracciabilità delle scelte e responsabilità chiaramente definite.
Per questo SDBA Benefit supporta le imprese nella costruzione di modelli organizzativi che uniscono diritto, compliance e cultura digitale, in cui la tecnologia diventa alleata della consapevolezza, non sostituto.
