Varie  -  Gabriele Gentilini  -  11/12/2021

Libro bianco UE sull'intelligenza artificiale

Nell’ambito delle fonti del diritto europeo si pongono anche gli atti atipici quali ad esempio le comunicazioni  che la Commissione emana per precisare i propri orientamenti in merito ad una questione, per raccogliere le valutazioni della giurisprudenza relative ad un determinato settore, per indicare le linee guida di future proposte normative. Così come i i libri verdi e i libri bianchi, che sono, nel primo caso documenti pubblicati dalla Commissione allo scopo di avviare il processo di consultazione su specifici argomenti nell'ambito dell'Unione e, nel secondo caso, documenti che seguono spesso quella di un libro bianco in modo che le consultazioni effettuate si traducano in concrete proposte d'azione.

In questo ambito era stata emanata la comunicazione    COM/2020/65 final del 19/2/2020  votata a definire un approccio europeo sull’intelligenza artificiale.

Dal ultimo si ricorda l’adozione della Proposta di regolamento del Parlamento europeo del consiglio sull'intelligenza artificiale COM/2021/206 final https://eur-lex.europa.eu/legal-content/IT/TXT/?uri=CELEX:52021PC0206.

In generale, nella proposta di regolamento si prevedono regole di trasparenza armonizzate applicabili a tutti i sistemi di IA, mentre sono previste specifiche disposizioni per i sistemi di IA classificati "ad alto rischio", per i quali viene introdotta una specifica definizione, affinché rispettino determinati requisiti obbligatori relativi alla loro affidabilità. 

La proposta di regolamento prevede le seguenti pratiche vietate di Intelligenza Artificiale, in quanto contrarie ai principi dell'Unione ed ai suoi diritti fondamentali:

  1. a) l'immissione sul mercato, la messa in servizio o l'uso disistemi di IA che utilizzino tecniche subliminali al di là della consapevolezza di una persona al fine di falsare in misura rilevante il comportamento di una persona in modo tale da provocare o da poter causare a tale persona o ad un'altra persona un danno fisico o psicologico;
  2. b) l'immissione sul mercato, la messa in servizio o l'uso di sistemi di IA che sfruttino qualsiasi vulnerabilità di un gruppo specifico di persone, per la loro età o disabilità fisica o mentale, al fine di falsarne in misura rilevante il comportamento in un modo che provochi o possa provocare danni fisici o psicologici agli stessi o ad altri;
  3. c) l'immissione sul mercato, la messa in servizio o l'uso di sistemi di IA da parte di pubbliche autorità o per loro conto, che valuti o classifichi l'affidabilità delle persone fisiche per un determinato periodo di tempo sulla base del loro comportamento sociale o caratteristiche o della personalità, note o previste, mediante un punteggio sociale che determini uno o entrambi i seguenti elementi:

- un trattamento pregiudizievole o sfavorevole di talune persone fisiche o di interi gruppi di persone fisiche  in contesti sociali che non hanno alcun rapporto con i contesti con cui i dati sono stati originariamente generati o raccolti;

- un trattamento pregiudizievole o sfavorevole di talune persone fisiche o  di interi gruppi di persone fisiche che sia sproporzionato rispetto alla gravità del loro comportamento sociale;

  1. d) l'uso di sistemi di identificazione biometrica remota "in tempo reale" in spazi accessibili al pubblico ai fini dell'applicazione della legge, a meno che e nella misura in cui tale uso sia strettamente necessario per uno dei seguenti motivi:

- la ricerca mirata di potenziali vittime di crimini, inclusi i bambini scomparsi;

- la prevenzione di specifiche e imminenti minacce alla vita di persone o di attacchi terroristici;

- l'accertamento, la localizzazione, l'identificazione o l'azione penale nei confronti di un autore del reato o sospettato di un reato punibile con una pena o una misura massima di almeno tre anni.

 

Il nuovo approccio europeo comprende anche una proposta di regolamento sulle macchine COM(2021) 202 final, che stabilisce i requisiti di sicurezza dei prodotti, sostituendo l'attuale "Direttiva Macchine" n. 2006/42/CE.

 

Il 19 febbraio 2020 la Commissione europea ha presentato un pacchetto di proposte per promuovere e sostenere la transizione digitale dell'UE che comprende la comunicazione quadro in materia "Plasmare il futuro digitale dell'Europa" COM(2020)67 https://eur-lex.europa.eu/legal-content/IT/TXT/?qid=1588242259679&uri=CELEX%3A52020DC0067, la comunicazione sulla Strategia europea per i dati COM(2020)66  https://eur-lex.europa.eu/legal-content/IT/TXT/?qid=1588242215428&uri=CELEX%3A52020DC0066  e il Libro bianco sull'Intelligenza artificiale COM(2020)65.

 

Nella COM/2020/65 final si legge che “L'intelligenza artificiale si sta sviluppando rapidamente. Cambierà le nostre vite migliorando l'assistenza sanitaria (ad esempio rendendo le diagnosi più precise e consentendo una migliore prevenzione delle malattie), aumentando l'efficienza dell'agricoltura, contribuendo alla mitigazione dei cambiamenti climatici e all'adattamento ai medesimi, migliorando l'efficienza dei sistemi di produzione mediante la manutenzione predittiva, aumentando la sicurezza dei cittadini europei e in molti altri modi che possiamo solo iniziare a immaginare. Al tempo stesso, l'intelligenza artificiale (IA) comporta una serie di rischi potenziali, quali meccanismi decisionali opachi, discriminazioni basate sul genere o di altro tipo, intrusioni nelle nostre vite private o utilizzi per scopi criminali.”

Prosgue la sua introduzione “Poiché la tecnologia digitale diventa una parte sempre più centrale di tutti gli aspetti della vita delle persone, queste ultime dovrebbero potersi fidare di tale tecnologia. L'affidabilità è inoltre un prerequisito per la sua adozione. Si tratta di un'opportunità per l'Europa, dato il suo forte attaccamento ai valori e allo Stato di diritto, nonché la sua comprovata capacità di costruire prodotti e prestare servizi affidabili, sicuri e sofisticati dal settore aeronautico a quello energetico, automobilistico e delle apparecchiature mediche.

La crescita economica sostenibile attuale e futura e il benessere sociale dell'Europa si basano sempre di più sul valore creato dai dati. L'IA è una delle più importanti applicazioni dell'economia dei dati. Oggi la maggior parte dei dati riguarda i consumatori ed è conservata e elaborata in infrastrutture centrali basate su cloud. Un'ampia fetta dei dati di domani, ben più abbondanti di quelli di oggi, proverrà invece dall'industria, dalle imprese e dal settore pubblico e sarà conservata in vari sistemi, in particolare dispositivi di calcolo funzionanti ai margini della rete. Ciò apre nuove opportunità per l'Europa, che ha una posizione forte nel settore del digitale e delle applicazioni tra imprese (business-to-business), ma ha una posizione relativamente debole per quanto riguarda le piattaforme destinate ai consumatori.”.

 

La COM(2021) 205 final del 21/4/2021 https://eur-lex.europa.eu/legal-content/IT/TXT/?uri=CELEX%3A52021DC0205&qid=1639239581187 afferma che “L'intelligenza artificiale (IA) avrà un impatto enorme sul modo in cui le persone vivranno e lavoreranno nei prossimi decenni. Questo ragionamento è alla base della strategia europea sull'intelligenza artificiale, che è stata lanciata nell'aprile 2018 e da allora è stata confermata. I potenziali vantaggi offerti dall'IA per le nostre società sono molteplici, da una riduzione dell'inquinamento a un minor numero di vittime della strada, da una migliore assistenza medica e maggiori opportunità per le persone con disabilità e le persone anziane a un'istruzione migliore e a un maggior numero di modi per coinvolgere i cittadini nei processi democratici, da aggiudicazioni più rapide a una lotta più efficace contro terrorismo e criminalità, online e offline, fino a una cibersicurezza rafforzata. L'IA ha dimostrato il proprio potenziale contribuendo alla lotta contro la pandemia di COVID-19, fornendo assistenza nella previsione della diffusione geografica della malattia, nella diagnosi dell'infezione attraverso le scansioni di tomografia computerizzata così come nello sviluppo dei primi vaccini e farmaci contro il virus. L'IA ha dimostrato soprattutto una versatilità che poche altre tecnologie sono in grado di uguagliare. Allo stesso tempo, l'uso dell'IA comporta anche determinati rischi, quali l'esposizione di persone, minori compresi, a errori significativi che possono minare i diritti fondamentali e la sicurezza, nonché i nostri processi democratici.”.

“Allo stesso tempo, l'utilizzo dell'IA dà luogo a rischi che devono essere affrontati. Determinate caratteristiche dell'IA, quali l'opacità di numerosi algoritmi, che rende difficile esaminare le relazioni causali, pone rischi specifici potenzialmente elevati per la sicurezza e i diritti fondamentali che la normativa esistente non è in grado di affrontare o relativamente ai quali è difficile applicare la normativa in vigore. Spesso ad esempio non è possibile stabilire il motivo per cui un sistema di IA è giunto a un risultato specifico. Di conseguenza potrebbe diventare difficile valutare e dimostrare se qualcuno è stato ingiustamente svantaggiato dall'uso di sistemi di IA, ad esempio nel contesto di una decisione di assunzione o di promozione oppure di una domanda di prestazioni pubbliche. L'utilizzo di sistemi di IA può rendere molto difficile per le persone interessate rettificare decisioni errate. Il riconoscimento facciale negli spazi pubblici può avere un effetto decisamente intrusivo sulla vita privata se non è disciplinato adeguatamente. Inoltre uno scarso addestramento e una cattiva progettazione dei sistemi di IA può dare luogo a errori significativi che possono compromettere la tutela della vita privata e la non discriminazione. I robot dotati di IA e i sistemi intelligenti devono essere progettati e realizzati per soddisfare gli stessi standard elevati di sicurezza e tutela dei diritti fondamentali previsti dal diritto dell'Unione per le tecnologie tradizionali.”.

 

Secondo la Comunicazione “possiamo dire che l'IA è un insieme di tecnologie che combina dati, algoritmi e potenza di calcolo.”. Nella sua comunicazione dal titolo "L'intelligenza artificiale per l'Europa" la Commissione ha fornito una prima definizione di IA, che poi è stata ulteriormente perfezionata dal gruppo di esperti ad alto livello per i quali Una definizione di IA, è  "I sistemi di intelligenza artificiale (IA) sono sistemi software (ed eventualmente hardware) progettati dall'uomo che, dato un obiettivo complesso, agiscono nella dimensione fisica o digitale percependo il proprio ambiente attraverso l'acquisizione di dati, interpretando i dati strutturati o non strutturati raccolti, ragionando sulle conoscenze, o elaborando le informazioni derivate da questi dati e decidendo le migliori azioni da intraprendere per raggiungere l'obiettivo dato. I sistemi di IA possono usare regole simboliche o apprendere un modello numerico, e possono anche adattare il loro comportamento analizzando come l'ambiente è influenzato dalle loro azioni precedenti.".

Nella COM(2018) 237 final, si legge a pag. 1: "Intelligenza artificiale (IA) indica sistemi che mostrano un comportamento intelligente analizzando il proprio ambiente e compiendo azioni, con un certo grado di autonomia, per raggiungere specifici obiettivi. I sistemi basati sull'IA possono consistere solo in software che agiscono nel mondo virtuale (ad esempio assistenti vocali, software per l'analisi delle immagini, motori di ricerca, sistemi di riconoscimento vocale e facciale), oppure incorporare l'IA in dispositivi hardware (per esempio in robot avanzati, auto a guida autonoma, droni o applicazioni dell'Internet delle cose).".

 

 

Sul piano delle competenze il Libro bianci ricorda che “L'approccio europeo all'IA dovrà essere sostenuto da misure fortemente incentrate sulle competenze al fine di sopperire alla loro mancanza. La Commissione presenterà a breve un rafforzamento dell'agenda per le competenze, che mira a garantire che tutti in Europa possano beneficiare delle trasformazioni verde e digitale dell'economia dell'UE. Le iniziative potrebbero anche comprendere il sostegno alle autorità di regolamentazione settoriali per migliorare le loro competenze in materia di IA al fine di attuare in modo efficace e efficiente le norme pertinenti. Il piano d'azione per l'istruzione digitale aggiornato contribuirà a migliorare l'uso dei dati e delle tecnologie basate sull'IA, come l'apprendimento e l'analisi predittiva, al fine di migliorare i sistemi di istruzione e di formazione e renderli pronti per l'era digitale. Il piano contribuirà inoltre a far crescere la consapevolezza in merito all'IA a tutti i livelli di istruzione, al fine di preparare i cittadini a decisioni informate che saranno sempre più influenzate dall'IA.

Lo sviluppo delle competenze necessarie per lavorare nel settore dell'IA e il miglioramento del livello delle competenze della forza lavoro per prepararla a una trasformazione guidata dall'IA saranno le priorità della revisione del piano coordinato sull'IA che sarà effettuata insieme agli Stati membri. Ciò potrebbe includere la trasformazione della lista di controllo degli orientamenti etici in un "programma di studi" indicativo per gli sviluppatori di IA che sarà reso disponibile come risorsa per gli istituti di formazione. Occorre impegnarsi in modo particolare per aumentare il numero di donne che ricevono una formazione e sono impiegate in questo settore.”.

 

Si riporta di seguito il Libro bianco.

 

 

 

 

 

 

 

 

/*/*/*/*/*/*/*//*/*/*/*/*/*/*//*/*/*/*/*/*/*//*/*/*/*/*/*/*/*/*/*/*/*/*/*/*/*/*/*/*/*/*/

 

 

 

 

 

Fonte

https://eur-lex.europa.eu/search.html?quickSearch=true&scope=EURLEX&text=COM%282020%29+65+final+intelligenza+artificiale&page=1&type=quick&lang=it&qid=1639239581187  Numero CELEX:  52021DC0205

https://eur-lex.europa.eu/legal-content/IT/TXT/?uri=CELEX%3A52021DC0205&qid=1639239581187

 

COMUNICAZIONE DELLA COMMISSIONE AL PARLAMENTO EUROPEO, AL CONSIGLIO, AL COMITATO ECONOMICO E SOCIALE EUROPEO E AL COMITATO DELLE REGIONI LIBRO BIANCO

sull'intelligenza artificiale - Un approccio europeo all'eccellenza e alla fiducia

COM/2020/65 final/2

 

 

 

Libro bianco sull'intelligenza artificiale

Un approccio europeo all'eccellenza e alla fiducia

L'intelligenza artificiale si sta sviluppando rapidamente. Cambierà le nostre vite migliorando l'assistenza sanitaria (ad esempio rendendo le diagnosi più precise e consentendo una migliore prevenzione delle malattie), aumentando l'efficienza dell'agricoltura, contribuendo alla mitigazione dei cambiamenti climatici e all'adattamento ai medesimi, migliorando l'efficienza dei sistemi di produzione mediante la manutenzione predittiva, aumentando la sicurezza dei cittadini europei e in molti altri modi che possiamo solo iniziare a immaginare. Al tempo stesso, l'intelligenza artificiale (IA) comporta una serie di rischi potenziali, quali meccanismi decisionali opachi, discriminazioni basate sul genere o di altro tipo, intrusioni nelle nostre vite private o utilizzi per scopi criminali.

In un contesto di forte concorrenza globale, è necessario un solido approccio europeo, basato sulla strategia europea per l'IA presentata nell'aprile 2018[1]. Per sfruttare le opportunità e affrontare le sfide derivanti dall'IA, l'UE deve parlare con un'unica voce e definire il suo modo di promuovere lo sviluppo e la diffusione dell'IA basandosi sui valori europei.

La Commissione si impegna a favorire i progressi scientifici, a preservare la leadership tecnologica dell'UE e a garantire che le nuove tecnologie siano al servizio di tutti gli europei e ne migliorino la vita rispettandone i diritti.

La presidente della Commissione Ursula von der Leyen ha annunciato nei suoi orientamenti politici[2] un approccio europeo coordinato alle implicazioni umane ed etiche dell'intelligenza artificiale e una riflessione volta a migliorare l'uso dei big data per favorire l'innovazione.

La Commissione sostiene pertanto un approccio normativo e orientato agli investimenti con il duplice obiettivo di promuovere l'adozione dell'IA e di affrontare i rischi associati a determinati utilizzi di questa nuova tecnologia. Lo scopo del presente libro bianco è definire le opzioni strategiche su come raggiungere tali obiettivi. Non vengono affrontate in questa sede le questioni dello sviluppo e dell'utilizzo dell'IA per scopi militari. La Commissione invita gli Stati membri, le altre istituzioni europee e tutti i portatori di interessi, compresi l'industria, le parti sociali, le organizzazioni della società civile, i ricercatori, il pubblico in generale e tutte le parti interessate, ad esprimersi in merito alle opzioni presentate di seguito e a contribuire al futuro processo decisionale della Commissione in questo settore.

1.        Introduzione

Poiché la tecnologia digitale diventa una parte sempre più centrale di tutti gli aspetti della vita delle persone, queste ultime dovrebbero potersi fidare di tale tecnologia. L'affidabilità è inoltre un prerequisito per la sua adozione. Si tratta di un'opportunità per l'Europa, dato il suo forte attaccamento ai valori e allo Stato di diritto, nonché la sua comprovata capacità di costruire prodotti e prestare servizi affidabili, sicuri e sofisticati dal settore aeronautico a quello energetico, automobilistico e delle apparecchiature mediche.

La crescita economica sostenibile attuale e futura e il benessere sociale dell'Europa si basano sempre di più sul valore creato dai dati. L'IA è una delle più importanti applicazioni dell'economia dei dati. Oggi la maggior parte dei dati riguarda i consumatori ed è conservata e elaborata in infrastrutture centrali basate su cloud. Un'ampia fetta dei dati di domani, ben più abbondanti di quelli di oggi, proverrà invece dall'industria, dalle imprese e dal settore pubblico e sarà conservata in vari sistemi, in particolare dispositivi di calcolo funzionanti ai margini della rete. Ciò apre nuove opportunità per l'Europa, che ha una posizione forte nel settore del digitale e delle applicazioni tra imprese (business-to-business), ma ha una posizione relativamente debole per quanto riguarda le piattaforme destinate ai consumatori.

Semplificando possiamo dire che l'IA è un insieme di tecnologie che combina dati, algoritmi e potenza di calcolo. I progressi compiuti nell'ambito del calcolo e la crescente disponibilità di dati sono pertanto fattori determinanti per l'attuale crescita dell'IA. L'Europa può combinare i suoi punti di forza industriali e tecnologici con un'infrastruttura digitale di elevata qualità e un quadro normativo basato sui suoi valori fondamentali per diventare un leader mondiale nell'innovazione nell'economia dei dati e nelle sue applicazioni, come indicato nella strategia europea per i dati[3]. Su questa base l'Europa può sviluppare un ecosistema di IA che consenta alla sua società e alla sua economia nel loro complesso di godere dei benefici apportati dalla tecnologia:

  • i cittadini potranno usufruire di nuovi vantaggi, ad esempio una migliore assistenza sanitaria, un minor numero di guasti degli elettrodomestici, sistemi di trasporto più sicuri e più puliti e servizi pubblici migliori;
  • nello sviluppo delle imprese sarà possibile, ad esempio, avvalersi di nuove generazioni di prodotti e servizi nei settori in cui l'Europa è particolarmente forte (macchinari, trasporti, cibersicurezza, agricoltura, economia verde e circolare, assistenza sanitaria e settori ad alto valore aggiunto come la moda e il turismo); e
  • i servizi di interesse pubblico potranno beneficiare, ad esempio, della riduzione dei costi di fornitura di servizi (trasporti, istruzione, energia e gestione dei rifiuti), migliorando la sostenibilità dei prodotti[4] e dotando le forze dell'ordine di strumenti appropriati per garantire la sicurezza dei cittadini[5], con adeguate garanzie quanto al rispetto dei loro diritti e delle loro libertà.

Dato l'impatto significativo che l'intelligenza artificiale può avere sulla nostra società e la necessità di creare maggiore fiducia, è essenziale che l'IA europea sia fondata sui nostri valori e diritti fondamentali quali la dignità umana e la tutela della privacy.

L'impatto dei sistemi di IA dovrebbe inoltre essere considerato non solo da una prospettiva individuale, ma anche dal punto di vista della società nel suo complesso. L'uso dei sistemi di IA può svolgere un ruolo significativo nel conseguimento degli obiettivi di sviluppo sostenibile e nel sostegno al processo democratico e ai diritti sociali. Con le sue recenti proposte nell'ambito del Green Deal europeo[6], l'Europa è in prima linea nella risposta alle sfide legate al clima e all'ambiente. Le tecnologie digitali quali l'IA sono fattori abilitanti fondamentali per conseguire gli obiettivi del Green Deal. Data la crescente importanza dell'IA, l'impatto ambientale dei sistemi di IA deve essere debitamente preso in considerazione durante il loro intero ciclo di vita e lungo l'intera catena di approvvigionamento, ad esempio per quanto riguarda l'uso di risorse per l'addestramento degli algoritmi e la conservazione dei dati.

È necessario un approccio comune europeo all'IA per raggiungere dimensioni sufficienti ed evitare la frammentazione del mercato unico. L'introduzione di iniziative nazionali rischia di compromettere la certezza del diritto, di indebolire la fiducia dei cittadini e di ostacolare l'emergere di un'industria europea dinamica.

Il presente libro bianco presenta opzioni strategiche che consentano uno sviluppo sicuro e affidabile dell'IA in Europa, nel pieno rispetto dei valori e dei diritti dei cittadini dell'UE. I principali elementi costitutivi del presente libro bianco sono i seguenti:

  • il quadro strategico che stabilisce misure per allineare gli sforzi a livello europeo, nazionale e regionale. Tramite un partenariato tra il settore pubblico e privato, l'obiettivo di tale quadro è mobilitare risorse per conseguire un "ecosistema di eccellenza" lungo l'intera catena del valore, a cominciare dalla ricerca e dall'innovazione, e creare i giusti incentivi per accelerare l'adozione di soluzioni basate sull'IA, anche da parte delle piccole e medie imprese (PMI);
  • gli elementi chiave di un futuro quadro normativo per l'IA in Europa, che creerà un "ecosistema di fiducia" unico. A tal fine, deve garantire il rispetto delle norme dell'UE, comprese le norme a tutela dei diritti fondamentali e dei diritti dei consumatori, in particolare per i sistemi di IA ad alto rischio gestiti nell'UE[7]. La costruzione di un ecosistema di fiducia è un obiettivo strategico in sé e dovrebbe dare ai cittadini la fiducia di adottare applicazioni di IA e alle imprese e alle organizzazioni pubbliche la certezza del diritto necessaria per innovare utilizzando l'IA. La Commissione sostiene con forza un approccio antropocentrico basato sulla comunicazione "Creare fiducia nell'intelligenza artificiale antropocentrica"[8] e terrà conto anche dei contributi ottenuti durante la fase pilota degli orientamenti etici elaborati dal gruppo di esperti ad alto livello sull'IA.

La strategia europea per i dati che accompagna il presente libro bianco ha l'obiettivo di far sì che l'Europa diventi l'economia agile basata sui dati più attraente, sicura e dinamica del mondo, mettendo a sua disposizione i dati necessari a migliorare le decisioni e la vita di tutti i suoi cittadini. La strategia definisce una serie di misure strategiche necessarie per raggiungere questo obiettivo, tra cui la mobilitazione degli investimenti pubblici e privati. Le implicazioni dell'intelligenza artificiale, dell'Internet delle cose e di altre tecnologie digitali per la legislazione in materia di sicurezza e responsabilità sono infine analizzate nella relazione della Commissione che accompagna il presente libro bianco.

2.        Trarre vantaggio dai punti di forza dei mercati industriali e professionali

L'Europa si trova in una posizione ideale per beneficiare del potenziale dell'IA, non solo in quanto utente, ma anche come creatore e produttore di questa tecnologia. Dispone di centri di ricerca di eccellenza, start-up innovative, di una posizione di leadership a livello mondiale nella robotica e di settori competitivi dell'industria manifatturiera e dei servizi, dal settore automobilistico all'assistenza sanitaria, all'energia, ai servizi finanziari e all'agricoltura. L'Europa ha sviluppato una potente infrastruttura di calcolo (ad esempio i computer ad alte prestazioni), essenziale per il funzionamento dell'IA. L'Europa dispone inoltre di grandi volumi di dati pubblici e industriali, il cui potenziale è attualmente sottoutilizzato, e di punti di forza industriali riconosciuti nell'ambito dei sistemi digitali sicuri a basso consumo energetico che sono essenziali per l'ulteriore sviluppo dell'IA.

Lo sfruttamento della capacità dell'UE di investire nelle tecnologie e nelle infrastrutture di prossima generazione nonché nelle competenze digitali, come l'alfabetizzazione ai dati (data literacy), accrescerà la sovranità tecnologica dell'Europa nell'ambito delle tecnologie e infrastrutture abilitanti fondamentali per l'economia dei dati. Le infrastrutture dovrebbero sostenere la creazione di pool europei di dati che consentano lo sviluppo di un'IA affidabile basata su valori e regole europei.

L'Europa dovrebbe sfruttare i propri punti di forza per far crescere la propria posizione negli ecosistemi e lungo la catena del valore, da determinati settori della produzione di hardware al software e ai servizi. Ciò sta già avvenendo, in una certa misura. L'Europa produce più di un quarto di tutti i robot di servizio industriali e professionali (ad esempio per l'agricoltura di precisione, la sicurezza, la salute e la logistica) e svolge un ruolo importante nello sviluppo e nell'utilizzo di applicazioni software per le imprese e le organizzazioni (applicazioni business-to-business quali i software per l'ingegneria, il design, e la pianificazione delle risorse aziendali), nonché di applicazioni a sostegno dell'e-government e dell'"impresa intelligente".

L'Europa svolge un ruolo guida per quanto riguarda la diffusione dell'IA nell'industria manifatturiera: oltre la metà dei principali fabbricanti implementano almeno un'istanza di IA nelle operazioni di fabbricazione[9].

Uno dei motivi alla base della posizione forte dell'Europa nella ricerca è il programma di finanziamento dell'UE, che si è dimostrato fondamentale per mettere in comune le azioni, evitare duplicazioni e mobilitare gli investimenti pubblici e privati negli Stati membri. Nel corso degli ultimi tre anni i finanziamenti dell'UE per la ricerca e l'innovazione nell'IA sono saliti a 1,5 miliardi di EUR, ossia un aumento del 70 % rispetto al periodo precedente.

Tuttavia, gli investimenti nella ricerca e nell'innovazione in Europa sono ancora nettamente inferiori agli investimenti pubblici e privati in altre regioni del mondo. Nel 2016 sono stati investiti in Europa circa 3,2 miliardi di EUR nell'IA, rispetto a circa 12,1 miliardi di EUR in America settentrionale e 6,5 miliardi di EUR in Asia[10]. L'Europa ha quindi bisogno di aumentare in modo significativo i suoi livelli di investimento. Il piano coordinato sull'IA[11], sviluppato insieme agli Stati membri, si sta rivelando un buon punto di partenza per rafforzare la cooperazione in materia di IA in Europa e per creare sinergie al fine di massimizzare gli investimenti nella catena del valore dell'IA.

3.        Cogliere le opportunità future: la prossima ondata di dati

Sebbene l'Europa sia attualmente in una posizione più debole per quanto riguarda le applicazioni destinate ai consumatori e le piattaforme online, che si traduce in uno svantaggio competitivo nell'accesso ai dati, sono in corso importanti cambiamenti nel valore e nel riutilizzo di dati tra diversi settori. Il volume dei dati prodotti a livello mondiale è in rapida crescita, dai 33 zettabyte del 2018 ai 175 zettabyte previsti nel 2025[12]. Ogni nuova ondata di dati offre all'Europa l'opportunità di farsi spazio nell'economia agile basata sui dati e diventare un leader mondiale nel settore. Inoltre le modalità di conservazione e elaborazione dei dati cambieranno significativamente nei prossimi cinque anni. Attualmente l'80 % delle elaborazioni e delle analisi dei dati che hanno luogo nel cloud vengono effettuate in centri di dati e strutture di calcolo centralizzate e il 20 % in oggetti connessi intelligenti, quali automobili, elettrodomestici o robot di fabbricazione, e in strutture di calcolo vicine all'utente ("edge computing"). Entro il 2025 tali proporzioni cambieranno in modo significativo[13].

L'Europa è leader mondiale nel settore dell'elettronica a basso consumo, che è fondamentale per la prossima generazione di processori specializzati per l'IA. Tale mercato è attualmente dominato da soggetti extra UE, ma questa situazione potrebbe cambiare grazie sia a progetti quali l'iniziativa europea in materia di processori, che si concentra sullo sviluppo di sistemi di calcolo a basso consumo sia per l'edge computing ad alte prestazioni sia per la prossima generazione di calcolo ad alte prestazioni, sia al lavoro dell'impresa comune per le tecnologie digitali chiave, il cui avvio è stato proposto per il 2021. L'Europa è inoltre leader nelle soluzioni neuromorfiche[14], che sono ideali per l'automazione dei processi industriali (industria 4.0) e dei modi di trasporto e possono migliorare l'efficienza energetica di vari ordini di grandezza.

I recenti progressi nell'ambito del calcolo quantistico genereranno un aumento esponenziale della capacità di elaborazione[15]. L'Europa può essere all'avanguardia in questa tecnologia grazie all'alto livello accademico nell'ambito del calcolo quantistico, nonché alla forte posizione dell'industria europea nell'ambito dei simulatori quantistici e degli ambienti di programmazione per il calcolo quantistico. Le iniziative europee volte ad aumentare la disponibilità di strutture di prova e sperimentazione quantistica contribuiranno all'applicazione di queste nuove soluzioni quantistiche a numerosi settori industriali e accademici.

Parallelamente, l'Europa continuerà a guidare il progresso per quanto riguarda le basi algoritmiche dell'IA, basandosi sulla propria eccellenza scientifica. È necessario creare collegamenti tra discipline che attualmente lavorano separatamente, come l'apprendimento automatico (machine learning) e l'apprendimento profondo (deep learning), che sono caratterizzati da una limitata interpretabilità e dalla necessità di una grande quantità di dati per addestrare i modelli e apprendere mediante correlazioni, e gli approcci simbolici, in cui le regole sono create mediante l'intervento umano. Combinare il ragionamento simbolico con le reti neurali profonde può aiutarci a rendere maggiormente spiegabili i risultati dell'IA.

4.        Un ecosistema di eccellenza

Per costruire un ecosistema di eccellenza che possa sostenere lo sviluppo e l'adozione dell'IA nell'economia e nella pubblica amministrazione dell'UE è necessario intensificare le azioni su più livelli.

  1. Collaborazione con gli Stati membri

Nell'ambito dell'attuazione della strategia sull'IA adottata nell'aprile 2018[16], la Commissione ha presentato, nel dicembre 2018, un piano coordinato predisposto insieme agli Stati membri per promuovere lo sviluppo e l'utilizzo dell'intelligenza artificiale in Europa[17].

Tale piano propone circa 70 azioni comuni per una cooperazione più stretta ed efficiente tra gli Stati membri e la Commissione in settori chiave quali la ricerca, gli investimenti, l'adozione da parte del mercato, le competenze e i talenti, i dati e la cooperazione internazionale. Si prevede che il piano durerà fino al 2027, con monitoraggi e revisioni periodiche.

L'obiettivo è di massimizzare l'impatto degli investimenti in ricerca, innovazione e diffusione dell'IA, valutare le strategie nazionali in materia di IA nonché sviluppare ed estendere il piano coordinato sull'IA in collaborazione con gli Stati membri.

  • Azione 1: la Commissione, tenendo conto dei risultati della consultazione pubblica sul libro bianco, proporrà agli Stati membri una revisione del piano coordinato da adottare entro la fine del 2020.

Il finanziamento dell'IA a livello di UE dovrebbe attrarre e mettere in comune gli investimenti in settori in cui gli sforzi richiesti vanno al di là di quanto i singoli Stati membri possono ottenere. L'obiettivo è attrarre, nei prossimi dieci anni, oltre 20 miliardi di EUR[18] di investimenti totali annui nell'IA nell'Unione europea. Per stimolare gli investimenti pubblici e privati, l'UE metterà a disposizione risorse provenienti dal programma Europa digitale, da Orizzonte Europa e dai Fondi strutturali e di investimento europei per far fronte alle esigenze delle regioni meno sviluppate e delle zone rurali.

Il piano coordinato potrebbe inoltre considerare il benessere della società e dell'ambiente quale principio chiave per l'IA. I sistemi di IA promettono di contribuire ad affrontare le preoccupazioni più urgenti, tra cui i cambiamenti climatici e il degrado ambientale; è importante che ciò avvenga in modo compatibile con l'ambiente. La stessa IA può e dovrebbe esaminare in modo critico l'uso di risorse e il consumo di energia ed essere addestrata ad effettuare scelte positive per l'ambiente. La Commissione, in collaborazione con gli Stati membri, prenderà in considerazione le opzioni volte a incoraggiare e promuovere soluzioni di IA che svolgano tali funzioni.

 

  1. Concentrare gli sforzi della comunità della ricerca e dell'innovazione

L'Europa non può permettersi di mantenere l'attuale panorama frammentato dei centri di competenza, in cui nessuno di questi raggiunge le dimensioni necessarie per competere con i principali istituti a livello mondiale. È indispensabile creare più reti e sinergie tra diversi centri di ricerca europei sull'intelligenza artificiale e allineare i loro sforzi per migliorarne l'eccellenza, trattenere e attrarre i migliori ricercatori e sviluppare le migliori tecnologie. L'Europa ha bisogno di un centro di ricerca, innovazione e competenza di riferimento che coordini tali sforzi, che rappresenti un referente mondiale di eccellenza nell'IA e che possa attrarre gli investimenti e i migliori talenti nel settore.

I centri e le reti dovrebbero concentrarsi nei settori in cui l'Europa ha il potenziale per diventare leader a livello mondiale, come l'industria, la salute, i trasporti, la finanza, le catene del valore agroalimentari, l'energia/l'ambiente, il settore forestale, l'osservazione della Terra e lo spazio. In tutti questi settori si sta svolgendo la corsa alla leadership mondiale e l'Europa offre notevoli potenzialità, conoscenze e competenze[19]. Altrettanto importante è la creazione di siti di prova e sperimentazione a sostegno dello sviluppo e della successiva diffusione di nuove applicazioni di IA.

  • Azione 2: la Commissione agevolerà la creazione di centri di prova e di eccellenza che possano combinare gli investimenti europei, nazionali e privati, eventualmente anche con un nuovo strumento giuridico. Nell'ambito del quadro finanziario pluriennale per il periodo 2021-2027 la Commissione ha proposto di dedicare un importo ambizioso a sostegno di centri di prova di riferimento a livello mondiale in Europa nel quadro del programma Europa digitale e di integrare tale misura, ove opportuno, con azioni di ricerca e innovazione nel quadro di Orizzonte Europa.
  1. Competenze

L'approccio europeo all'IA dovrà essere sostenuto da misure fortemente incentrate sulle competenze al fine di sopperire alla loro mancanza[20]. La Commissione presenterà a breve un rafforzamento dell'agenda per le competenze, che mira a garantire che tutti in Europa possano beneficiare delle trasformazioni verde e digitale dell'economia dell'UE. Le iniziative potrebbero anche comprendere il sostegno alle autorità di regolamentazione settoriali per migliorare le loro competenze in materia di IA al fine di attuare in modo efficace e efficiente le norme pertinenti. Il piano d'azione per l'istruzione digitale aggiornato contribuirà a migliorare l'uso dei dati e delle tecnologie basate sull'IA, come l'apprendimento e l'analisi predittiva, al fine di migliorare i sistemi di istruzione e di formazione e renderli pronti per l'era digitale. Il piano contribuirà inoltre a far crescere la consapevolezza in merito all'IA a tutti i livelli di istruzione, al fine di preparare i cittadini a decisioni informate che saranno sempre più influenzate dall'IA.

Lo sviluppo delle competenze necessarie per lavorare nel settore dell'IA e il miglioramento del livello delle competenze della forza lavoro per prepararla a una trasformazione guidata dall'IA saranno le priorità della revisione del piano coordinato sull'IA che sarà effettuata insieme agli Stati membri. Ciò potrebbe includere la trasformazione della lista di controllo degli orientamenti etici in un "programma di studi" indicativo per gli sviluppatori di IA che sarà reso disponibile come risorsa per gli istituti di formazione. Occorre impegnarsi in modo particolare per aumentare il numero di donne che ricevono una formazione e sono impiegate in questo settore.

Inoltre un centro di ricerca e innovazione di riferimento per l'IA in Europa attirerebbe talenti da tutto il mondo, grazie alle possibilità che potrebbe offrire, oltre a sviluppare e diffondere l'eccellenza in competenze che si radicano e si sviluppano in tutta Europa.

  • Azione 3: istituire e sostenere, attraverso il pilastro relativo alle competenze avanzate del programma Europa digitale, reti che collegano le università e gli istituti di istruzione superiore principali, al fine di attrarre i migliori professori e scienziati e di offrire corsi di laurea magistrale di eccellenza a livello mondiale nel campo dell'IA.

Oltre al miglioramento del livello delle competenze, i lavoratori e i datori di lavoro sono interessati direttamente dalla progettazione e dall'uso dei sistemi di IA sul luogo di lavoro. Il coinvolgimento delle parti sociali sarà un fattore cruciale per garantire un approccio antropocentrico all'IA sul lavoro.

  1. Maggiore attenzione alle PMI

Sarà inoltre importante garantire che le PMI possano accedere all'IA e utilizzarla. A tal fine, è opportuno rafforzare ulteriormente i poli dell'innovazione digitale[21] e la piattaforma di IA on demand[22] e promuovere la collaborazione tra le PMI. Il programma Europa digitale sarà determinante per conseguire questi obiettivi. Mentre tutti i poli dell'innovazione digitale dovrebbero fornire sostegno alle PMI affinché comprendano e adottino l'IA, sarà importante che almeno un polo dell'innovazione per Stato membro sia altamente specializzato in IA.

Le PMI e le start-up avranno bisogno di accedere ai finanziamenti al fine di adattare i loro processi o di innovare usando l'IA. Basandosi sul prossimo fondo pilota per gli investimenti di 100 milioni di EUR per l'IA e la blockchain, la Commissione rafforzerà ulteriormente l'accesso ai finanziamenti per l'IA nell'ambito di InvestEU[23]. L'IA è citata esplicitamente tra le aree ammissibili per l'utilizzo della garanzia InvestEU.

  • Azione 4: la Commissione collaborerà con gli Stati membri per garantire che almeno un polo dell'innovazione digitale per Stato membro sia altamente specializzato in IA. I poli dell'innovazione digitale possono ricevere sostegno nell'ambito del programma Europa digitale.
  • La Commissione e il Fondo europeo per gli investimenti avvieranno un progetto pilota con un investimento di 100 milioni di EUR nel primo trimestre del 2020 per fornire finanziamenti con capitale di rischio per sviluppi innovativi nel campo dell'IA. Fatto salvo l'accordo definitivo sul QFP, l'intenzione della Commissione è di far crescere significativamente tale progetto a partire dal 2021 mediante InvestEU.
  1. Partenariato con il settore privato

È altresì essenziale garantire che il settore privato sia pienamente coinvolto nella definizione dell'agenda per la ricerca e l'innovazione e fornisca il necessario livello di coinvestimenti. Per far ciò è necessario istituire un ampio partenariato pubblico-privato, nonché assicurarsi l'impegno dei massimi dirigenti delle società interessate.

  • Azione 5: nel contesto di Orizzonte Europa, la Commissione istituirà un nuovo partenariato pubblico-privato per l'IA, i dati e la robotica, al fine di unire gli sforzi, garantire il coordinamento della ricerca e dell'innovazione nell'IA, collaborare con altri partenariati pubblico-privati di Orizzonte Europa e lavorare insieme alle strutture di prova e ai poli dell'innovazione digitale precedentemente menzionati.

 

  1. Promuovere l'adozione dell'IA nel settore pubblico

È essenziale che le amministrazioni pubbliche, gli ospedali, i servizi di pubblica utilità e di trasporto, le autorità di vigilanza finanziaria e altri settori di interesse pubblico inizino rapidamente a utilizzare nelle loro attività prodotti e servizi che si basano sull'IA. Un'attenzione particolare sarà rivolta ai settori dell'assistenza sanitaria e dei trasporti, in cui la tecnologia è abbastanza matura da consentire una diffusione su vasta scala.

  • Azione 6: la Commissione avvierà dialoghi settoriali aperti e trasparenti dando priorità agli operatori del servizio pubblico, delle amministrazioni rurali e dell'assistenza sanitaria, al fine di presentare un piano d'azione che faciliti lo sviluppo, la sperimentazione e l'adozione dell'IA. I dialoghi settoriali saranno utilizzati per elaborare uno specifico "Programma di adozione dell'IA", che sosterrà gli appalti pubblici di sistemi di IA e contribuirà a trasformare le procedure stesse degli appalti pubblici.
  1. Garantire l'accesso ai dati e alle infrastrutture di calcolo

Le aree di intervento stabilite nel presente libro bianco sono complementari a quelle del piano presentato in parallelo nella strategia europea per i dati. Migliorare l'accesso ai dati e la gestione degli stessi è una questione fondamentale. Senza dati lo sviluppo dell'IA e di altre applicazioni digitali è impossibile. Questo enorme volume di nuovi dati che deve essere ancora generato rappresenta un'opportunità per l'Europa di assumere una posizione di primo piano nella trasformazione basata sui dati e sull'IA. La promozione di pratiche responsabili in materia di gestione dei dati e la conformità dei dati ai principi FAIR[24] contribuiranno a creare fiducia e a garantire la riutilizzabilità dei dati. Altrettanto importante è investire nelle tecnologie e nelle infrastrutture di calcolo chiave.

Nell'ambito del programma Europa digitale la Commissione ha proposto più di 4 miliardi di EUR di finanziamento a sostegno del calcolo quantistico e ad alte prestazioni, compresi l'edge computing e l'infrastruttura per l'IA, i dati e il cloud. La strategia europea per i dati sviluppa ulteriormente tali priorità.

  1. Aspetti internazionali

L'Europa si trova nella posizione ideale per esercitare una leadership mondiale costruendo alleanze attorno ai valori condivisi e promuovendo l'uso etico dell'IA. Il lavoro svolto dall'UE nel campo dell'IA ha già influenzato le discussioni a livello internazionale. Nell'elaborare i propri orientamenti etici, il gruppo di esperti ad alto livello ha coinvolto una serie di organizzazioni extra UE e vari osservatori governativi. Parallelamente l'UE è stata coinvolta da vicino nello sviluppo dei principi etici per l'IA dell'OCSE[25]. Il G20 ha successivamente approvato tali principi nella dichiarazione ministeriale sul commercio e l'economia digitale del giugno 2019.

Allo stesso tempo l'UE riconosce che sono in corso importanti lavori sull'IA in altri consessi multilaterali, tra cui il Consiglio d'Europa, l'Organizzazione delle Nazioni Unite per l'educazione, la scienza e la cultura (UNESCO), l'Organizzazione per la cooperazione e lo sviluppo economici (OCSE), l'Organizzazione mondiale del commercio e l'Unione internazionale delle telecomunicazioni (UIT). Nell'ambito delle Nazioni Unite, l'UE sta lavorando per dare seguito alla relazione del gruppo ad alto livello sulla cooperazione digitale, anche per quanto riguarda la raccomandazione sull'IA.

L'UE continuerà a cooperare in materia di IA con i paesi che condividono gli stessi principi, ma anche con gli attori globali, seguendo un approccio che promuova le regole e i valori dell'UE (ad esempio sostenendo la convergenza normativa verso l'alto, garantendo l'accesso alle risorse fondamentali, compresi i dati, e creando condizioni di parità). La Commissione monitorerà da vicino le politiche dei paesi terzi che limitano i flussi di dati e affronterà le restrizioni indebite nei negoziati commerciali bilaterali e mediante iniziative nell'ambito dell'Organizzazione mondiale del commercio. La Commissione è convinta che la cooperazione internazionale sulle questioni riguardanti l'IA debba basarsi su un approccio che promuova il rispetto dei diritti fondamentali, tra cui la dignità umana, il pluralismo, l'inclusione, la non discriminazione e la protezione della privacy e dei dati personali[26], e si adopererà per esportare i suoi valori nel mondo[27]. È inoltre chiaro che lo sviluppo e l'uso responsabili dell'IA possono essere una forza trainante per conseguire gli obiettivi di sviluppo sostenibile e portare avanti l'Agenda 2030.

5.        Un ecosistema di fiducia: quadro normativo per l'IA

L'uso dell'IA, come l'uso di qualunque nuova tecnologia, comporta sia opportunità sia rischi. I cittadini temono di essere privati dei mezzi per difendere i loro diritti e la loro sicurezza di fronte alle asimmetrie informative del processo decisionale algoritmico, mentre le imprese sono preoccupate per l'incertezza giuridica. L'IA può contribuire a proteggere la sicurezza dei cittadini e consentire loro di godere dei diritti fondamentali, tuttavia i cittadini temono anche che l'intelligenza artificiale possa avere effetti indesiderati o essere addirittura utilizzata per scopi dolosi. A queste preoccupazioni occorre dare una risposta. Oltre alla mancanza di investimenti e di competenze, la mancanza di fiducia è infatti uno dei fattori principali che frenano una più ampia adozione dell'IA.

Per questo motivo il 25 aprile 2018 la Commissione ha definito una strategia per l'IA[28] che affronta gli aspetti socioeconomici parallelamente a un aumento degli investimenti nella ricerca, nell'innovazione e nelle capacità di IA in tutta l'UE, e ha concordato con gli Stati membri un piano coordinato[29] per l'allineamento delle strategie. La Commissione ha inoltre istituito un gruppo di esperti ad alto livello che, nell'aprile 2019, ha pubblicato orientamenti per un'IA affidabile[30].

La Commissione ha pubblicato una comunicazione[31] in cui accoglie con favore i sette requisiti fondamentali individuati negli orientamenti del gruppo di esperti ad alto livello:

  • intervento e sorveglianza umani,
  • robustezza tecnica e sicurezza,
  • riservatezza e governance dei dati,
  • trasparenza,
  • diversità, non discriminazione ed equità,
  • benessere sociale e ambientale, e

Negli orientamenti è compresa inoltre una lista di controllo per l'uso pratico da parte delle imprese. Nella seconda metà del 2019, oltre 350 organizzazioni hanno testato tale lista di controllo e hanno inviato un feedback che il gruppo ad alto livello sta utilizzando per rivedere i propri orientamenti; la conclusione di tale revisione è prevista per giugno 2020. Un risultato fondamentale emerso durante tale processo di feedback è che, sebbene i regimi giuridici o normativi esistenti prevedano già numerose prescrizioni, quelle relative alla trasparenza, alla tracciabilità e alla sorveglianza umana non sono contemplate dalla legislazione vigente in molti settori economici.

In aggiunta a questa serie di orientamenti non vincolanti del gruppo di esperti ad alto livello, e in linea con gli orientamenti politici della presidente, un quadro normativo europeo chiaro rafforzerebbe la fiducia dei consumatori e delle imprese nell'IA e accelererebbe quindi l'adozione della tecnologia. Tale quadro normativo dovrebbe essere coerente con altre azioni volte a promuovere la capacità di innovazione e la competitività dell'Europa in questo settore. Deve inoltre garantire risultati ottimali sul piano sociale, ambientale ed economico nonché il rispetto della legislazione, dei principi e dei valori dell'UE. Ciò è particolarmente importante negli ambiti che interessano direttamente i diritti dei cittadini, ad esempio nel caso delle applicazioni di IA per le forze dell'ordine e la magistratura.

Coloro che si occupano di sviluppare e applicare l'IA sono già soggetti alla legislazione europea in materia di diritti fondamentali (ad esempio per quanto riguarda la protezione dei dati, la privacy, la non discriminazione) e di protezione dei consumatori e alle norme in materia di responsabilità e di sicurezza dei prodotti. I consumatori si attendono lo stesso livello di sicurezza e di rispetto dei loro diritti, indipendentemente dal fatto che un prodotto o un sistema si basi sull'IA. Tuttavia determinate caratteristiche specifiche dell'IA (ad esempio l'opacità) possono rendere più difficile l'applicazione e il rispetto di tale legislazione. Per questo motivo è necessario esaminare se la legislazione attuale sia in grado di affrontare i rischi connessi all'IA e se possa essere applicata in modo efficace, se siano necessarie modifiche della legislazione o se sia necessaria una nuova legislazione.

Considerata la rapida evoluzione dell'IA, il quadro normativo deve lasciare spazio a ulteriori sviluppi. Tutte le modifiche dovrebbe essere limitate a problemi chiaramente individuati per i quali esistono soluzioni praticabili.

Gli Stati membri hanno rilevato l'attuale assenza di un quadro europeo comune. La commissione tedesca per l'etica dei dati ha chiesto un sistema normativo su cinque livelli basato sul rischio che spazi dall'assenza di regolamentazione per i sistemi di IA più innocui a un divieto totale per i più pericolosi. La Danimarca ha appena avviato il prototipo di un "marchio per l'etica dei dati". Malta ha introdotto un sistema di certificazione volontaria per l'IA. Se l'UE non riesce a fornire un approccio comune a livello di Unione, esiste un rischio reale di frammentazione del mercato interno, che comprometterebbe gli obiettivi di fiducia, certezza del diritto e adozione da parte del mercato.

Un solido quadro normativo europeo per un'IA affidabile proteggerà tutti i cittadini europei e contribuirà a creare un mercato interno senza attriti che favorirà l'ulteriore sviluppo e l'adozione dell'IA rafforzando la base industriale dell'Europa nel campo dell'IA.

  1. Definizione del problema

L'IA può essere estremamente utile, ad esempio in quanto può rendere prodotti e processi più sicuri, ma può anche risultare dannosa. Tale danno può essere di natura sia materiale (quando incide sulla salute e sulla sicurezza delle persone, provocando perdite di vite umane o danni patrimoniali) sia immateriale (quando causa una perdita della privacy, restrizioni alla libertà di espressione, pregiudizi alla dignità umana o discriminazioni, ad esempio nell'accesso all'occupazione), e può riguardare un'ampia gamma di rischi. Il quadro normativo dovrebbe concentrarsi su come ridurre al minimo i diversi rischi di danno potenziale, soprattutto quelli più significativi.

I rischi principali connessi all'uso dell'IA riguardano l'applicazione di norme intese a tutelare i diritti fondamentali (comprese la protezione dei dati personali e della privacy e la non discriminazione), nonché le questioni legate alla sicurezza[32] e alla responsabilità.

 

 

Rischi per i diritti fondamentali, comprese la protezione dei dati personali e della privacy e la non discriminazione

L'uso dell'IA può pregiudicare i valori su cui si fonda l'Unione e causare violazioni dei diritti fondamentali[33], compresi i diritti alle libertà di espressione e di riunione, la dignità umana, la non discriminazione fondata sul sesso, sulla razza, sull'origine etnica, sulla religione o sulle convinzioni personali, sulla disabilità, sull'età o sull'orientamento sessuale (ove applicabili in determinati settori), la protezione dei dati personali e della vita privata[34] o il diritto a un ricorso giurisdizionale effettivo e a un giudice imparziale, nonché la tutela dei consumatori. Tali rischi potrebbero derivare da difetti nella progettazione complessiva dei sistemi di IA (anche per quanto riguarda la sorveglianza umana) o dall'uso di dati senza che ne siano state corrette le eventuali distorsioni (ad esempio se un sistema è addestrato utilizzando solo o principalmente dati riguardanti gli uomini, il che comporta risultati non ottimali per quanto concerne le donne).

L'IA può svolgere molte funzioni che in precedenza potevano essere esercitate solo dagli esseri umani. I cittadini e le persone giuridiche saranno pertanto sempre più soggette ad azioni realizzate e a decisioni prese da sistemi di IA o con la loro assistenza; si tratta di un risultato non sempre facile da comprendere e cui è difficile opporsi in modo efficace ove necessario. L'IA aumenta inoltre le possibilità di seguire e analizzare le abitudini quotidiane delle persone. Vi è ad esempio il rischio potenziale che l'IA venga utilizzata, in violazione della normativa dell'UE sulla protezione dei dati e di altre norme, dalle autorità statali o da altri soggetti a fini di sorveglianza di massa, oppure dai datori di lavoro per osservare il comportamento dei loro dipendenti. Poiché permette di analizzare grandi quantità di dati e di individuare collegamenti tra di essi, l'IA può essere usata anche per ricostruire e deanonimizzare dati riguardanti le persone, il che implica nuovi rischi per la protezione dei dati personali anche in relazione a set di dati che di per sé non contengono dati personali. L'IA è utilizzata anche dagli intermediari online per stabilire priorità riguardo alle informazioni da fornire ai loro utenti oppure a fini di moderazione dei contenuti. I dati trattati, le modalità con cui vengono progettate le applicazioni e il margine di intervento umano possono incidere sui diritti alla libertà di espressione, alla protezione dei dati personali e alla privacy nonché sulle libertà politiche.

Alcuni algoritmi dell'IA, se usati per prevedere il rischio di recidiva di atti delittuosi, possono riflettere distorsioni legate alla razza e al genere, prevedendo probabilità di rischio di recidiva diverse per le donne rispetto agli uomini, oppure per i cittadini di un determinato paese rispetto agli stranieri. Fonte: Tolan S., Miron M., Gomez E. e Castillo C. "Why Machine Learning May Lead to Unfairness: Evidence from Risk Assessment for Juvenile Justice in Catalonia" (Perché l'apprendimento automatico può portare a risultati iniqui: risultanze della valutazione dei rischi per la giustizia minorile in Catalogna), Best Paper Award, International Conference on AI and Law, 2019.

Alcuni programmi di IA per l'analisi facciale riflettono distorsioni legate al genere e alla razza, in quanto identificano con maggiore facilità il genere degli uomini di carnagione chiara mentre commettono più errori nel determinare il genere delle donne di pelle più scura. Fonte: Joy Buolamwini, Timnit Gebru; Proceedings of the 1st Conference on Fairness, Accountability and Transparency (Atti della 1ª conferenza sull'equità, sulla responsabilità e sulla trasparenza), PMLR 81:77-91, 2018.

 

Le distorsioni e le discriminazioni rappresentano un rischio intrinseco di qualunque attività sociale od economica. Il processo decisionale umano non è immune da errori e distorsioni. Queste stesse distorsioni, se presenti nell'IA, potrebbero tuttavia avere effetti molto maggiori e colpire o discriminare numerose persone in assenza dei meccanismi di controllo sociale che disciplinano il comportamento umano[35]. Ciò può accadere anche quando il sistema di IA "apprende" nel corso del suo funzionamento. In tali casi, in cui i risultati non potevano essere evitati o anticipati in fase di progettazione, i rischi deriveranno non da difetti nella progettazione originale del sistema, bensì dagli effetti pratici delle correlazioni o dei modelli che il sistema individua all'interno di un ampio set di dati.

Le caratteristiche specifiche di molte tecnologie di IA, tra cui l'opacità (effetto "scatola nera"), la complessità, l'imprevedibilità e un comportamento parzialmente autonomo, possono rendere difficile verificare il rispetto delle normative dell'UE in vigore volte a proteggere i diritti fondamentali e possono ostacolarne l'applicazione effettiva. Le autorità preposte all'applicazione della legge e le persone interessate potrebbero non disporre dei mezzi per verificare come sia stata presa una determinata decisione con il coinvolgimento di sistemi di IA e, di conseguenza, se sia stata rispettata la normativa pertinente. Le persone fisiche e giuridiche possono incontra