La Commissione propone nuove regole e azioni volte a trasformare l'Europa nel polo mondiale per un'intelligenza artificiale (IA) affidabile. L'unione tra il primo quadro giuridico sull'IA mai realizzato e un nuovo piano coordinato con gli Stati membri garantirà la sicurezza e i diritti fondamentali di persone e imprese, rafforzando nel contempo l'adozione dell'IA e gli investimenti e l'innovazione nel settore in tutta l'UE. Le nuove regole sulle macchine integreranno questo approccio adattando le regole di sicurezza per far crescere la fiducia degli utenti in una nuova e versatile generazione di prodotti.
Margrethe Vestager, Vicepresidente esecutiva per Un'Europa pronta per l'era digitale, ha dichiarato: "Per quanto riguarda l'intelligenza artificiale, la fiducia non è facoltativa, è indispensabile. Queste regole rappresentano una svolta, che consentirà all'UE di guidare lo sviluppo di nuove norme globali per garantire che l'IA possa essere considerata affidabile. Definendo le norme possiamo spianare la strada a una tecnologia etica in tutto il mondo e garantire che l'UE rimanga competitiva. Le nostre regole saranno adeguate alle esigenze future e favorevoli all'innovazione e interverranno ove strettamente necessario: quando sono in gioco la sicurezza e i diritti fondamentali dei cittadini dell'UE."
Thierry Breton, Commissario per il Mercato interno, ha aggiunto: "L'IA è un mezzo, non un fine. Esiste da decenni, ma ora sono possibili nuove capacità alimentate dalla potenza di calcolo. Ciò offre un enorme potenziale in tanti settori diversi tra cui la sanità, i trasporti, l'energia, l'agricoltura, il turismo o la cibersicurezza, ma presenta anche una serie di rischi. Le proposte odierne mirano a rafforzare la posizione dell'Europa quale polo globale di eccellenza nell'IA dai laboratori al mercato, a garantire che l'IA in Europa rispetti i nostri valori e le nostre regole e a sfruttare il potenziale dell'IA per uso industriale."
Il nuovo regolamento sull'IA garantirà che i cittadini europei possano fidarsi di ciò che l'IA ha da offrire, grazie a regole proporzionate e flessibili che affronteranno i rischi specifici posti dai sistemi di IA e fisseranno i più elevati standard a livello mondiale. Il piano coordinato delinea i cambiamenti strategici e gli investimenti necessari a livello di Stati membri per rafforzare la posizione di primo piano dell'Europa nello sviluppo di un'IA antropocentrica, sostenibile, sicura, inclusiva e affidabile.
L'approccio europeo a un'IA affidabile
Le nuove regole saranno applicate direttamente e nello stesso modo in tutti gli Stati membri, sulla base di una definizione di IA adeguata alle esigenze future, e seguono un approccio basato sul rischio.
Rischio inaccettabile: i sistemi di IA considerati una chiara minaccia per la sicurezza, i mezzi di sussistenza e i diritti delle persone saranno vietati. Sono compresi i sistemi o le applicazioni di IA che manipolano il comportamento umano per aggirare il libero arbitrio degli utenti (ad esempio, giocattoli che utilizzano l'assistenza vocale per incoraggiare i comportamenti pericolosi dei minori) e i sistemi che consentono ai governi di attribuire un "punteggio sociale".
Rischio alto: sono considerati ad alto rischio i sistemi in cui la tecnologia di IA è utilizzata:
- in infrastrutture critiche (ad esempio i trasporti), poiché potrebbe mettere a rischio la vita e la salute dei cittadini;
- nell'istruzione o formazione professionale, poiché può determinare l'accesso all'istruzione e il percorso professionale della vita di una persona (ad esempio, attribuzione del punteggio degli esami);
- in componenti di sicurezza dei prodotti (ad esempio un'applicazione di IA utilizzata nella chirurgia assistita da robot);
- nell'ambito dell'occupazione, della gestione dei lavoratori e dell'accesso al lavoro autonomo (ad esempio, software di selezione dei CV per le procedure di assunzione);
- in servizi pubblici e privati essenziali (ad esempio, lo scoring del credito che può negare ai cittadini la possibilità di ottenere un prestito);
- in attività di contrasto che possono interferire con i diritti fondamentali delle persone (ad esempio, valutazione dell'affidabilità delle prove);
- nella gestione della migrazione, dell'asilo e del controllo delle frontiere (ad esempio, verifica dell'autenticità dei documenti di viaggio);
- nell'amministrazione della giustizia e nei processi democratici (ad esempio, applicazione della legge a una serie concreta di fatti).
I sistemi di IA ad alto rischio saranno soggetti a obblighi rigorosi prima che possano essere immessi sul mercato:
- adeguati sistemi di valutazione e attenuazione dei rischi;
- elevata qualità dei set di dati che alimentano il sistema, per ridurre al minimo i rischi e i risultati discriminatori;
- registrazione delle attività per garantire la tracciabilità dei risultati;
- documentazione dettagliata che fornisca tutte le informazioni necessarie sul sistema e sulle sue finalità affinché le autorità possano valutarne la conformità;
- informazioni chiare e adeguate per l'utente;
- appropriate misure di sorveglianza umana, per ridurre al minimo i rischi;
- elevato livello di robustezza, sicurezza e accuratezza.
In particolare, tutti i sistemi di identificazione biometrica remota sono considerati ad alto rischio e soggetti a requisiti rigorosi. Il loro utilizzo in tempo reale ai fini di attività contrasto in spazi accessibili al pubblico è in linea di principio vietato. Sono previste poche eccezioni rigorosamente definite e regolamentate (ad esempio, ove strettamente necessario per cercare un minore scomparso, prevenire una minaccia terroristica specifica e imminente o individuare, localizzare, identificare o perseguire autori o sospettati di un reato grave). Tale uso è soggetto all'autorizzazione di un organo giudiziario o di un altro organo indipendente e a limiti per quanto riguarda il tempo, la portata geografica e le banche dati ricercate.
Rischio limitato, ossia sistemi di IA con specifici obblighi di trasparenza: quando utilizzano sistemi di IA come i chatbot, gli utenti dovrebbero essere consapevoli del fatto che stanno interagendo con una macchina, in modo da poter decidere con cognizione di causa se continuare ad usarli oppure no.
Rischio minimo: la proposta legislativa consente il libero utilizzo di applicazioni quali videogiochi o filtri spam basati sull'IA. La grande maggioranza dei sistemi di IA rientra in questa categoria. Il progetto di regolamento non interviene in questo caso, poiché questi sistemi di IA presentano solo un rischio minimo o nullo per i diritti o la sicurezza dei cittadini.
In termini di governance, la Commissione propone che le autorità nazionali di vigilanza del mercato competenti supervisionino le nuove regole, mentre l'istituzione di un comitato europeo per l'intelligenza artificiale ne faciliterà l'attuazione e stimolerà lo sviluppo di norme per l'IA. Vengono inoltre proposti codici di condotta volontari per i sistemi di IA non ad alto rischio, nonché spazi di sperimentazione normativa per facilitare un'innovazione responsabile.
L'approccio europeo all'eccellenza nell'IA
Il coordinamento rafforzerà la leadership dell'Europa in relazione a un'IA antropocentrica, sostenibile, sicura, inclusiva e affidabile. Per mantenere la competitività a livello globale, la Commissione si è impegnata a promuovere l'innovazione nello sviluppo e nell'utilizzo delle tecnologie di IA in tutti i settori industriali e in tutti gli Stati membri.
Pubblicato per la prima volta nel 2018 per definire azioni e strumenti di finanziamento per lo sviluppo e l'adozione dell'IA, il piano coordinato sull'IA ha reso possibile un vivace panorama di strategie nazionali e finanziamenti dell'UE per i partenariati pubblico-privato e le reti di ricerca e innovazione. L'aggiornamento completo del piano coordinato propone azioni comuni concrete di collaborazione per garantire che tutti gli sforzi siano in linea con la strategia europea sull'IA e il Green Deal europeo, tenendo conto, nel contempo, delle nuove sfide poste dalla pandemia di coronavirus. Esso presenta una visione volta ad accelerare gli investimenti nell'IA che possono favorire la ripresa. Mira inoltre a stimolare l'attuazione delle strategie nazionali in materia di IA, eliminare la frammentazione e affrontare le sfide globali.
Il piano coordinato aggiornato utilizzerà i finanziamenti assegnati attraverso i programmi Europa digitale e Orizzonte Europa, nonché il dispositivo per la ripresa e la resilienza, che prevede un obiettivo di spesa per il digitale del 20%, e i programmi della politica di coesione al fine di:
- creare le condizioni favorevoli allo sviluppo e all'adozione dell'IA attraverso lo scambio di informazioni strategiche, la condivisione dei dati e gli investimenti nelle capacità di calcolo critiche;
- promuovere l'eccellenza in materia di IA "dal laboratorio al mercato" istituendo un partenariato pubblico-privato, costruendo e mobilitando capacità di ricerca, sviluppo e innovazione e mettendo a disposizione delle PMI e delle pubbliche amministrazioni strutture di prova e sperimentazione nonché poli dell'innovazione digitale;
- garantire che l'IA sia al servizio delle persone e sia una forza positiva nella società, operando in prima linea nello sviluppo e nella diffusione di un'IA affidabile, coltivando talenti e competenze mediante tirocini, reti di dottorato e borse post-dottorato in ambito digitale, integrando la fiducia nelle politiche in materia di IA e promuovendo la visione europea di un'IA sostenibile e affidabile a livello globale;
- creare la leadership strategica in settori e tecnologie ad alto impatto, compreso l'ambiente, concentrandosi sul contributo dell'IA alla produzione sostenibile, alla salute, ampliando lo scambio transfrontaliero di informazioni, nonché al settore pubblico, alla mobilità, agli affari interni e all'agricoltura e alla robotica.
L'approccio europeo alle nuove macchine
Le macchine comprendono un'ampia gamma di prodotti professionali e di consumo, dai robot ai tosaerba, alle stampanti 3D, alle macchine per l'edilizia e alle linee di produzione industriale. La direttiva macchine, sostituita dal nuovo regolamento macchine, ha definito i requisiti in materia di salute e di sicurezza delle macchine. Il nuovo regolamento macchine farà sì che la nuova generazione di macchine garantisca la sicurezza degli utenti e dei consumatori e incoraggi l'innovazione. Mentre il regolamento sull'IA affronterà i rischi per la sicurezza dei sistemi di IA, il nuovo regolamento macchine garantirà l'integrazione sicura dei sistemi di IA nelle macchine nel loro complesso. Le imprese dovranno effettuare solo un'unica valutazione della conformità.
Il nuovo regolamento macchine risponderà inoltre alle esigenze del mercato apportando maggiore chiarezza giuridica alle disposizioni vigenti, semplificando gli oneri amministrativi e i costi per le imprese consentendo formati digitali per la documentazione e adeguando le spese di valutazione della conformità per le PMI, e garantirà nel contempo la coerenza con il quadro legislativo dell'UE per i prodotti.
Prossime tappe
Il Parlamento europeo e gli Stati membri dovranno adottare le proposte della Commissione relative a un approccio europeo all'intelligenza artificiale e ai macchinari nell'ambito della procedura legislativa ordinaria. Una volta adottati, i regolamenti saranno direttamente applicabili in tutta l'UE. La Commissione continuerà parallelamente a collaborare con gli Stati membri per attuare le azioni annunciate nel piano coordinato.
