La consultazione pubblica aperta alla base della valutazione d'impatto della presente proposta ha confermato i problemi illustrati sopra. Secondo quanto espresso dai cittadini in sede di consultazione, l'effetto "scatola nera" può rendere difficile, per il danneggiato, dimostrare la colpa e il nesso di causalità, e potrebbe esservi incertezza sul modo in cui le giurisdizioni interpreteranno e applicheranno le norme nazionali vigenti in materia di responsabilità nei casi riguardanti l'IA. Dalla consultazione è inoltre emersa una preoccupazione generale per quanto riguarda il modo in cui le azioni legislative avviate dai singoli Stati membri per adeguare le norme in materia di responsabilità e la conseguente frammentazione inciderebbero sui costi per le imprese, in particolare le PMI, impedendo l'adozione dell'IA in tutta l'Unione.

La presente proposta è parte di un pacchetto di misure volte a sostenere la diffusione dell'IA in Europa promuovendo l'eccellenza e la fiducia. Tale pacchetto comprende tre filoni di lavoro complementari:

Nella proposta di legge sull'IA la Commissione ha elaborato norme volte a ridurre i rischi per la sicurezza e a tutelare i diritti fondamentali. Sicurezza e responsabilità sono due facce della stessa medaglia: si applicano in momenti diversi e si rafforzano a vicenda. Le norme volte a garantire la sicurezza e a tutelare i diritti fondamentali ridurranno i rischi, senza tuttavia eliminarli del tutto 8 . Da tali rischi, qualora dovessero concretizzarsi, possono comunque scaturire dei danni. In tali casi si applicheranno le norme in materia di responsabilità previste dalla presente proposta.

Norme efficaci in materia di responsabilità costituiscono inoltre un incentivo economico a rispettare le norme di sicurezza, contribuendo pertanto a prevenire il verificarsi di danni 9 . La presente proposta agevola altresì l'applicazione dei requisiti per i sistemi di IA ad alto rischio imposti dalla legge sull'IA, in quanto il mancato rispetto di tali requisiti costituisce un elemento importante che rende possibile un alleggerimento dell'onere della prova. È inoltre coerente con le norme generali 10 e settoriali proposte in materia di sicurezza dei prodotti applicabili ai prodotti macchina 11 e alle apparecchiature radio 12 basati sull'IA.

Nelle sue politiche in materia di IA la Commissione adotta un approccio olistico alla responsabilità proponendo adeguamenti alla responsabilità del produttore per danno da prodotti difettosi a norma della direttiva sulla responsabilità per danno da prodotti difettosi, nonché l'armonizzazione mirata prevista dalla presente proposta. Le due suddette iniziative politiche sono strettamente collegate e danno vita a un pacchetto, in quanto le azioni che rientrano nel loro ambito di applicazione riguardano tipologie diverse di responsabilità. La direttiva sulla responsabilità per danno da prodotti difettosi riguarda la responsabilità oggettiva del produttore per prodotti difettosi, che determina un risarcimento per alcuni tipi di danni subiti principalmente da persone fisiche. La presente proposta contempla le azioni di responsabilità a livello nazionale, principalmente per colpa di una persona, nell'ottica di risarcire qualsiasi tipo di danno e qualsiasi tipo di danneggiato. I due atti sono complementari e formano un sistema generale di responsabilità civile efficace.

L'insieme di tali norme promuoverà la fiducia nell'IA (e in altre tecnologie digitali) garantendo l'effettivo risarcimento dei danneggiati in caso di danni malgrado i requisiti preventivi della legge sull'IA e altre norme di sicurezza.

La proposta è coerente con la strategia digitale globale dell'Unione poiché contribuisce alla promozione della tecnologia al servizio delle persone, uno dei tre pilastri principali dell'orientamento politico e degli obiettivi annunciati nella comunicazione "Plasmare il futuro digitale dell'Europa" 13 .

In tale contesto, la presente proposta si prefigge l'obiettivo di rafforzare la fiducia nell'IA e di promuoverne l'adozione. Ciò consentirà di integrare e realizzare sinergie con la [legge sulla ciberresilienza] 14 , che mira anche a rafforzare la fiducia nei prodotti dotati di elementi digitali riducendo le vulnerabilità informatiche e a migliorare la protezione delle imprese e dei consumatori che li utilizzano.

La presente proposta lascia impregiudicate le norme stabilite dalla [legge sui servizi digitali], che prevede un quadro esaustivo e pienamente armonizzato degli obblighi in materia di dovere di diligenza per il processo decisionale algoritmico da parte delle piattaforme online, compresa la relativa esenzione dalla responsabilità dei prestatori di servizi intermediari.

In aggiunta a ciò, promuovendo la diffusione dell'IA, la presente proposta è collegata alle iniziative nell'ambito della strategia dell'UE per i dati 15 e rafforza inoltre il ruolo dell'Unione nel contribuire a definire norme e standard globali e promuovere un'IA affidabile che sia coerente con i valori e gli interessi dell'Unione.

La proposta presenta anche legami indiretti con il Green Deal europeo 16 . Le tecnologie digitali, compresa l'IA, sono in particolare un fattore determinante per conseguire gli obiettivi di sostenibilità del Green Deal in molti settori diversi (tra cui l'assistenza sanitaria, i trasporti, l'ambiente e l'agricoltura).

La direttiva contribuirà alla diffusione dell'IA. Le condizioni per la diffusione e lo sviluppo delle tecnologie di IA nel mercato interno possono essere notevolmente migliorate prevenendo la frammentazione e aumentando la certezza del diritto attraverso misure armonizzate a livello di UE, rispetto a quanto accadrebbe a seguito di eventuali adeguamenti delle norme in materia di responsabilità a livello nazionale. Lo studio economico 17 su cui è basata la valutazione d'impatto della presente proposta ha concluso che misure di armonizzazione mirate in materia di responsabilità civile per l'IA avrebbero un impatto positivo compreso, secondo una stima prudente, tra il 5 e il 7 % sul valore di produzione dei pertinenti scambi transfrontalieri rispetto allo scenario di riferimento. Tale valore aggiunto sarebbe generato in particolare mediante una minore frammentazione e una maggiore certezza del diritto per quanto riguarda l'esposizione alla responsabilità civile dei portatori di interessi. Ciò ridurrebbe i costi sostenuti dai portatori di interessi per l'informazione giuridica/la rappresentanza legale, la gestione interna dei rischi e la conformità, agevolerebbe la pianificazione finanziaria e le stime dei rischi a fini di copertura assicurativa e consentirebbe alle imprese, in particolare alle PMI, di esplorare nuovi mercati transfrontalieri. Sulla base del valore complessivo del mercato dell'IA dell'UE interessato dai problemi legati alla responsabilità oggetto della presente direttiva, si stima che quest'ultima genererà un valore di mercato aggiuntivo compreso tra 500 milioni di EUR circa e 1,1 miliardi di EUR circa.

In termini di impatto sociale, la direttiva rafforzerà la fiducia della società nelle tecnologie di IA e l'accesso a un sistema giudiziario efficace, contribuendo inoltre a un regime di responsabilità civile efficiente, adattato alle specificità dell'IA, nel cui ambito saranno accolte le domande di risarcimento del danno giustificate. Anche tutte le imprese della catena del valore dell'IA trarrebbero vantaggio da un aumento della fiducia a livello sociale, in quanto rafforzare la fiducia dei cittadini contribuirà a una più rapida adozione dell'IA. Grazie all'effetto incentivante delle norme in materia di responsabilità, prevenire le lacune in materia di responsabilità andrebbe anche indirettamente a beneficio di tutti i cittadini attraverso un livello rafforzato di protezione della salute e della sicurezza (articolo 114, paragrafo 3, TFUE) e l'eliminazione delle fonti di pericolo per la salute (articolo 168, paragrafo 1, TFUE).

Per quanto riguarda l'impatto ambientale, si prevede che la direttiva contribuisca anche al conseguimento dei relativi traguardi e obiettivi di sviluppo sostenibile (OSS). L'adozione di applicazioni di IA è vantaggiosa per l'ambiente. I sistemi di IA utilizzati nell'ottimizzazione dei processi, ad esempio, riducono gli sprechi (limitando, tra l'altro, la quantità di fertilizzanti e pesticidi necessari, il consumo di acqua a parità di rendimento, ecc.). La direttiva avrebbe inoltre un impatto positivo sugli OSS, in quanto una legislazione efficace in materia di trasparenza, rendicontabilità e diritti fondamentali indirizzerà il potenziale dell'IA affinché vada a beneficio delle persone e della società verso il conseguimento degli OSS.

La base giuridica della proposta è l'articolo 114 TFUE, che prevede l'adozione di misure volte ad assicurare l'instaurazione e il funzionamento del mercato interno.

I problemi che la presente proposta intende affrontare, in particolare l'incertezza giuridica e la frammentazione giuridica, pregiudicano lo sviluppo del mercato interno e costituiscono pertanto ostacoli significativi agli scambi transfrontalieri di prodotti e servizi basati sull'IA.

La proposta affronta gli ostacoli risultanti dalla mancanza di certezze, per le imprese che intendono produrre, diffondere e gestire prodotti e servizi basati sull'IA a livello transfrontaliero, quanto all'eventualità che i regimi di responsabilità vigenti si applichino ai danni causati dall'IA e alle modalità di tale applicazione. Tale incertezza riguarda in particolare gli Stati membri nei quali le imprese esporteranno o gestiranno i loro prodotti e servizi. In un contesto transfrontaliero, la legge applicabile alla responsabilità extracontrattuale derivante da fatto illecito è quella predefinita del paese in cui si verifica il danno. È pertanto fondamentale, per le suddette imprese, conoscere i rischi di responsabilità rilevanti ed essere in grado di stipulare la relativa copertura assicurativa.

Vi sono perdipiù segnali concreti del fatto che diversi Stati membri stanno prendendo in considerazione misure legislative unilaterali volte ad affrontare le sfide specifiche poste dall'IA in materia di responsabilità. Ad esempio, le strategie per l'IA adottate in Cechia 18 , in Italia 19 , a Malta 20 , in Polonia 21 e in Portogallo 22 prevedono iniziative atte a fornire chiarimenti in materia di responsabilità. Date le ampie divergenze tra le norme vigenti degli Stati membri in materia di responsabilità civile, è probabile che qualsiasi misura nazionale specifica in materia di responsabilità da IA segua approcci nazionali diversi e incrementi pertanto la frammentazione.

Gli obiettivi della presente proposta non possono essere conseguiti adeguatamente a livello nazionale poiché l'emergere di norme nazionali divergenti aumenterebbe l'incertezza giuridica e la frammentazione, creando ostacoli alla diffusione di prodotti e servizi basati sull'IA in tutto il mercato interno. L'incertezza giuridica danneggerebbe in particolare le imprese attive a livello transfrontaliero, imponendo necessità supplementari in termini di informazioni giuridiche/rappresentanza legale, costi di gestione dei rischi e comportando la perdita di entrate. Allo stesso tempo, le norme nazionali divergenti in materia di richieste di risarcimento di danni causati dall'IA comporterebbero un aumento dei costi di transazione per le imprese, in particolare per gli scambi transfrontalieri, creando ostacoli significativi nel mercato interno. Inoltre, l'incertezza giuridica e la frammentazione danneggiano in modo sproporzionato le start-up e le PMI, che rappresentano la maggior parte delle imprese e la quota principale degli investimenti nei mercati pertinenti.

In assenza di norme armonizzate a livello di UE in materia di risarcimento dei danni causati dai sistemi di IA, i fornitori, gli operatori e gli utenti dei sistemi di IA, da un lato, e i danneggiati, dall'altro, si troverebbero di fronte a 27 regimi di responsabilità differenti, che comporterebbero livelli di protezione disuguali e una distorsione della concorrenza tra le imprese di Stati membri diversi.

Misure armonizzate a livello di UE migliorerebbero notevolmente le condizioni per la diffusione e lo sviluppo delle tecnologie di IA nel mercato interno, prevenendo la frammentazione e aumentando la certezza del diritto. Tale valore aggiunto sarebbe generato in particolare mediante una minore frammentazione e una maggiore certezza del diritto per quanto riguarda l'esposizione alla responsabilità civile dei portatori di interessi. Inoltre, solo un'azione dell'UE può conseguire in modo coerente l'effetto desiderato di promuovere la fiducia dei consumatori nei prodotti e nei servizi basati sull'IA, prevenendo il formarsi di lacune in materia di responsabilità connesse alle caratteristiche specifiche dell'IA in tutto il mercato interno. Ciò garantirebbe un livello di protezione (minimo) coerente per tutti coloro che subiscono un danno (persone fisiche e imprese) e incentivi coerenti intesi a prevenire i danni e garantire la rendicontabilità.

La proposta è basata su un approccio in più fasi. Nella prima fase, gli obiettivi sono conseguiti mediante un approccio poco invasivo; la seconda fase prevede il riesame della necessità di misure più rigorose o più ampie.

La prima fase, limitata alle misure relative all'onere della prova volte ad affrontare i problemi specifici all'IA individuati, è basata sui presupposti sostanziali della responsabilità attualmente esistenti nelle norme nazionali, come il nesso di causalità o la colpa, ma è incentrata su misure mirate relative alle prove e garantisce ai danneggiati un livello di protezione equivalente a quello previsto nei casi che non coinvolgono sistemi di IA. Inoltre, tra i vari strumenti disponibili nel diritto nazionale per alleggerire l'onere della prova 23 , la presente proposta ha scelto di utilizzare quello meno intrusivo, ossia le presunzioni relative. Si tratta di presunzioni comunemente presenti nei sistemi nazionali di responsabilità, che bilanciano gli interessi degli attori e dei convenuti, essendo allo stesso tempo concepite per incentivare il rispetto dei vigenti obblighi di diligenza sanciti a livello nazionale o di Unione. La proposta non determina un'inversione dell'onere della prova per evitare di esporre i fornitori, gli operatori e gli utenti dei sistemi di IA a rischi di responsabilità più elevati, che potrebbero ostacolare l'innovazione e limitare l'adozione di prodotti e servizi basati sull'IA.

La seconda fase inclusa nella proposta garantisce che, nel valutare l'effetto della prima fase in termini di protezione dei danneggiati e diffusione dell'IA, si tenga conto dei futuri sviluppi tecnologici, normativi e giurisprudenziali in sede di riesame della necessità di armonizzare altri elementi delle domande di risarcimento o altri strumenti relativi alle azioni di responsabilità, anche per le situazioni in cui risulterebbe più appropriata la responsabilità oggettiva, come richiesto dal Parlamento europeo. Tale valutazione prenderebbe inoltre probabilmente in considerazione l'eventuale necessità di accompagnare tale armonizzazione con una copertura assicurativa obbligatoria, per garantire l'efficacia.

Una direttiva è lo strumento più adatto per la presente proposta, in quanto garantisce l'effetto di armonizzazione e la certezza del diritto auspicati, prevedendo nel contempo la flessibilità per consentire agli Stati membri di integrare le misure armonizzate senza attriti nei rispettivi regimi nazionali di responsabilità.

Uno strumento obbligatorio eviterebbe lacune in termini di protezione derivanti da un recepimento parziale o inesistente. È improbabile che uno strumento non vincolante, per quanto meno intrusivo, possa affrontare in modo efficace i problemi individuati. Il tasso di attuazione degli strumenti non vincolanti è difficile da prevedere e non vi sono indicazioni sufficienti per ritenere che l'effetto persuasivo di una raccomandazione sarebbe sufficientemente elevato da produrre un adeguamento coerente delle normative nazionali.

Tale effetto è ancora meno probabile per le misure relative al diritto privato, di cui fanno parte le norme in materia di responsabilità extracontrattuale. Si tratta di un settore caratterizzato da tradizioni giuridiche di lunga data, il che rende gli Stati membri riluttanti a perseguire riforme coordinate, a meno che non siano stimolati dalla prospettiva chiara di vantaggi per il mercato interno nel quadro di uno strumento vincolante dell'UE o dalla necessità di adattarsi a nuove tecnologie nell'economia digitale.

Le notevoli divergenze esistenti tra i quadri in materia di responsabilità degli Stati membri sono un altro motivo per cui è improbabile che una raccomandazione sia attuata in modo coerente.

Dopo le domande iniziali sulla responsabilità che facevano parte della consultazione pubblica sul Libro bianco sull'IA e della relazione della Commissione sulla sicurezza e la responsabilità, dal 18 ottobre 2021 al 10 gennaio 2022 è stata aperta un'apposita consultazione pubblica online per raccogliere i pareri di un'ampia gamma di portatori di interessi, tra cui i consumatori, le organizzazioni della società civile, le associazioni industriali, le imprese, comprese le PMI, e le autorità pubbliche. Dopo aver analizzato tutte le risposte pervenute, la Commissione ha pubblicato sul proprio sito web una sintesi dei risultati e le singole risposte 24 .

In totale sono state ricevute 233 risposte provenienti da 21 Stati membri e da paesi terzi. Nel complesso, la maggior parte dei portatori di interessi ha confermato i problemi relativi all'onere della prova, all'incertezza giuridica e alla frammentazione e si è espressa a favore di un'azione a livello di UE.

I cittadini dell'UE, le organizzazioni dei consumatori e le istituzioni accademiche hanno confermato ad ampia maggioranza la necessità di un'azione dell'UE per alleviare i problemi riscontrati dai danneggiati in relazione all'onere della prova. Pur riconoscendo gli effetti negativi dell'incertezza in merito all'applicazione delle norme in materia di responsabilità, le imprese si sono mostrate più caute e hanno chiesto misure mirate per non limitare l'innovazione.

Un quadro analogo è emerso per quanto riguarda le opzioni strategiche. I cittadini dell'UE, le organizzazioni dei consumatori e le istituzioni accademiche hanno espresso un forte sostegno per le misure sull'onere della prova e sull'armonizzazione della responsabilità senza colpa (denominata "responsabilità oggettiva") abbinata alla copertura assicurativa obbligatoria. Le imprese si sono rivelate più discordanti sulle opzioni strategiche, con differenze dovute in parte alle rispettive dimensioni. La responsabilità oggettiva è stata ritenuta sproporzionata dalla maggior parte delle imprese rispondenti. L'armonizzazione dell'alleggerimento dell'onere della prova ha ottenuto maggiore sostegno, in particolare tra le PMI. Le imprese hanno tuttavia messo in guardia contro un completo trasferimento dell'onere della prova.

L'opzione strategica prescelta è stata pertanto sviluppata e perfezionata alla luce dei riscontri ricevuti dai portatori di interessi durante l'intero processo di valutazione d'impatto, al fine di trovare un equilibrio tra le esigenze espresse e le preoccupazioni sollevate da tutti i gruppi di portatori di interessi pertinenti.

La proposta è basata su 4 anni di analisi e sul forte coinvolgimento dei portatori di interessi, tra cui il mondo accademico, le imprese, le associazioni dei consumatori, gli Stati membri e i cittadini. I lavori preparatori hanno avuto inizio nel 2018 con l'istituzione del gruppo di esperti sulla responsabilità e le nuove tecnologie (formazione sulle nuove tecnologie). Nel novembre 2019 il gruppo di esperti ha elaborato una relazione 25 nella quale sono state valutate le sfide poste da alcune caratteristiche dell'IA alle norme nazionali in materia di responsabilità civile.

Il contributo della relazione del gruppo di esperti è stato integrato da tre ulteriori studi esterni: