Sei sulla pagina 1di 14

Comitato economico e sociale europeo

TEN/679
La rivoluzione digitale in funzione delle esigenze e dei diritti dei cittadini

PARERE

Sezione specializzata Trasporti, energia, infrastrutture, società dell'informazione

La rivoluzione digitale in funzione delle esigenze e dei diritti dei cittadini


[Parere d'iniziativa]

Relatore: Ulrich SAMM

All'attenzione dei membri della sezione specializzata

Amministratrice Maja RADMAN


Data del documento 13/02/2019

TEN/679 – EESC-2018-04168-00-00-AS-TRA (EN) 1/14


IT
Decisione dell'Assemblea
plenaria 12/07/2018
Base giuridica Art. 29, par. 2, del Regolamento interno
Parere d'iniziativa

Sezione competente Trasporti, energia, infrastrutture, società dell'informazione


Adozione in sezione 11/02/2019
Adozione in sessione plenaria DD/MM/YYYY
Sessione plenaria n. …
Esito della votazione
(favorevoli/contrari/astenuti) …/…/…

TEN/679 – EESC-2018-04168-00-00-AS-TRA (EN) 2/14


1. Conclusioni e raccomandazioni

1.1 La rivoluzione digitale oggi in corso potrebbe operare una trasformazione radicale della
società, dell'economia e dei luoghi di lavoro, cambiando il nostro modo di vivere, lavorare e
comunicare e apportando benefici a lungo termine sia per la crescita economica che per la
qualità della vita, con un impatto su tutti i settori. In merito il Comitato economico e sociale
europeo (CESE) ha espresso con chiarezza la sua posizione, e cioè che la trasformazione in atto
(per mano dell'uomo) dovrebbe andare a beneficio di tutti. Il CESE accoglie quindi con favore
tutte le iniziative, politiche e della società civile, che siano di aiuto per i cittadini europei.
Il presente parere verte principalmente sulle esigenze e le preoccupazioni dei cittadini, siano essi
lavoratori dipendenti, datori di lavoro o, più in generale, consumatori, e individua gli ambiti in
cui la partecipazione della società civile riveste un'importanza cruciale. È solo prendendo
l'iniziativa di plasmare la transizione digitale che riusciremo ad attuarla con successo.

1.2 L'avanzata della digitalizzazione, in particolare con l'introduzione di nuovi prodotti e servizi
digitali, può essere molto rapida (come nel caso dei dispositivi mobili/smartphone) ma può
anche essere piuttosto lenta, quando i cittadini, e la società in generale, non accettano le nuove
tecnologie senza metterle in discussione, come nei casi in cui siano in gioco l'autonomia, la
responsabilità, la sicurezza, la dignità e la vita privata delle persone.

1.3 La digitalizzazione offre un intero ventaglio di nuove possibilità, consentendo agli individui di
compiere scelte che ne migliorano la vita in modi del tutto inediti. D'altro canto, quanto più la
digitalizzazione domina la nostra vita, tanto più rende possibile anche essere manipolati. Una
situazione, questa, che può minare la nostra autonomia in ambiti quali la guida degli
autoveicoli, la scelta dei prodotti alimentari, la cura della nostra salute, il riscaldamento delle
case che abitiamo, il fumo, il consumo di alcol, la gestione delle nostre finanze e molti altri
ancora. Il CESE esorta a elaborare, adeguare e applicare norme trasparenti che disciplinino l'uso
di queste tecnologie in rapida evoluzione. Una buona tecnologia "persuasiva" dovrebbe basarsi
sulla formazione (non sulla manipolazione) e rispettare il principio della libera scelta
individuale, in modo da garantire l'autonomia degli esseri umani.

1.4 Il CESE ha una posizione chiara sulla questione della misura in cui sia eticamente accettabile
delegare le scelte da compiere (con implicazioni morali) a sistemi basati sull'intelligenza
artificiale (IA): tutti i sistemi automatizzati, per quanto sofisticati essi siano, devono operare
secondo il principio del controllo dell'uomo sulla macchina (human-in-command), il che
significa che solo un essere umano può prendere la decisione finale e assumersene la
responsabilità.

1.5 Il progredire della domotica offre una serie di potenziali varchi d'accesso per l'intrusione di
pirati informatici (hacker). È quindi necessario informare i consumatori in merito a questi rischi
e incentivare misure di sicurezza rigorose, atte a evitare in particolare che gli hacker assumano
il controllo di dispositivi "intelligenti". Il CESE invita l'UE a rivedere le normative vigenti in
materia di sicurezza, e a elaborare, adattandole alle nuove tecnologie in evoluzione, rigorose
norme di sicurezza destinate a proteggere i cittadini nelle loro abitazioni.

TEN/679 – EESC-2018-04168-00-00-AS-TRA (EN) 3/14


1.6 Il CESE accoglie con favore la politica volta ad accrescere la sicurezza stradale grazie
all'introduzione di sempre più tecnologia digitale negli autoveicoli, ma manifesta
preoccupazione per la lentezza di tali miglioramenti. Per accelerare il passaggio ad una guida
più automatizzata, il CESE chiede che l'UE introduca degli incentivi per affrontare il problema
degli alti costi che queste tecnologie comportano per gli utenti (i quali devono acquistare nuovi
autoveicoli) e il fatto che i sistemi di assistenza alla guida non sono ancora sufficientemente
accettati (per via della loro complessità e della carenza di formazione specifica degli utenti).
Il CESE è del parere che debba essere elaborata una strategia europea volta a modificare e
adattare la rete stradale dell'UE in modo tale da consentirvi la circolazione assolutamente sicura
(e l'ampio diffondersi dell'uso) di veicoli completamente autonomi.

1.7 In considerazione della rapida evoluzione delle tecnologie digitali, il CESE sollecita un
adeguamento e una revisione del regolamento generale sulla protezione dei dati. Le nuove
tecnologie di riconoscimento facciale, in particolare, costituiscono una minaccia per la nostra
vita privata. Infatti, una volta divenute meno costose, tali tecnologie saranno alla portata di
chiunque intenda farne uso, un uso che, in ultima analisi, potrebbe condurre a una situazione in
cui non sia più possibile camminare per strada o fare acquisti senza essere "riconosciuti".
La minaccia per la nostra vita privata e per la nostra autonomia è ancora più grave quando
queste tecnologie vengono utilizzate per la profilazione dei cittadini o per attribuire loro dei
punteggi. Pertanto, il CESE chiede con forza che le persone abbiano diritto alla riservatezza
anche quando si trovano in uno spazio pubblico. Il CESE esorta la Commissione a rivedere
periodicamente (in funzione della rapidità con cui evolvono le tecnologie in questione) il
regolamento generale sulla protezione dei dati e i regolamenti collegati.

1.8 Il singolo consumatore, che non dispone di competenze digitali professionali, ha bisogno di
essere aiutato in modo efficace a utilizzare sistemi digitali complessi, siano essi elettrodomestici
o piattaforme digitali. Il manuale di istruzioni può essere molto lungo, e l'autorizzazione all'uso
dei propri dati viene spesso accordata inconsapevolmente. Il CESE è convinto che la trasparenza
non basti, ma che, per aiutare i consumatori, siano necessarie una semplificazione e procedure
standardizzate valide in tutta l'UE.

1.9 Le piattaforme digitali possono facilmente tracciare i loro utenti adoperando strumenti
relativamente semplici. Ciò significa che, per garantire il rispetto della vita privata, applicare le
norme generali stabilite dal regolamento generale sulla protezione dei dati non è sufficiente nei
casi in cui, senza che il cittadino ne sia consapevole, viene fatto intenzionalmente un uso
improprio o abusivo dei suoi dati. Il CESE reputa che la tutela della vita privata possa essere
garantita soltanto facendo in modo, oltretutto, da restringere l'accesso ai dati sensibili, accesso
che deve essere consentito solo a un numero limitato di persone accreditate. Devono essere
adottate misure di sicurezza conformi agli standard più elevati e più affidabili, misure tra cui
figurino controlli regolari ad opera di organismi dell'UE indipendenti.

1.10 Il CESE è preoccupato che l'impiego di sistemi di sorveglianza basati su tecnologie


biometriche possa condurre ad abusi di classificazione e a stigmatizzazioni, collocando
automaticamente una persona in una determinata categoria (ad esempio quella di terrorista, di
criminale o di individuo inaffidabile). I sistemi che identificano e classificano automaticamente

TEN/679 – EESC-2018-04168-00-00-AS-TRA (EN) 4/14


determinate persone come sospette non dovrebbero mai funzionare senza una stretta interazione
umana e una verifica accurata.

1.11 Si prevede che la robotica sarà impiegata anche nel campo dell'assistenza sanitaria. I robot,
tuttavia, sono dispositivi che non sono in grado di riprodurre la reciprocità e le capacità di
empatia che contraddistinguono i rapporti di cura e assistenza tra persone. Se non vengono
utilizzati in determinate condizioni quadro, i robot possano ledere la dignità umana. I robot
impiegati nella cura e assistenza, quindi, dovrebbero essere utilizzati soltanto per mansioni che
non richiedano alcuna intimità e alcun coinvolgimento emotivo o personale.

1.12 Il CESE raccomanda che, ogniqualvolta nell'industria, nel commercio e nel settore dei servizi
siano previsti nuovi sistemi di automazione, si impieghino metodi scientifici obiettivi per
ottimizzare e valutare l'interazione uomo-macchina. I metodi scientifici elaborati
dall'ergonomia cognitiva consentono di valutare oggettivamente le sfide che l'impiego dei
nuovi sistemi di assistenza tecnica pone ai processi cognitivi della mente umana. Per valutare le
interfacce utente, l'ergonomia cognitiva combina gli strumenti di diverse discipline, come la
psicologia e l'ergonomia. Il CESE è convinto che, nel lungo termine, la digitalizzazione possa
avere successo soltanto se sia stata concepita in modo tale da mettere al centro il fattore umano.

2. Introduzione

2.1 Il CESE ha già avuto occasione di esprimere il suo compiacimento1 per il fatto che la
Commissione europea abbia definito un programma specifico (Europa digitale) in cui
sottolinea l'intenzione di fare dell'Europa un attore di primo piano del processo di
digitalizzazione, accrescendo così la forza economica e la competitività dell'UE a livello
mondiale, creando le condizioni per la realizzazione di un mercato unico digitale e plasmando la
trasformazione digitale in modo tale che essa risulti vantaggiosa per tutti i cittadini dell'Unione.

2.2 La rivoluzione digitale in corso ha già trasformato la società e lo farà ancora di più negli anni a
venire. Tale processo avrà delle ripercussioni sull'economia e sui luoghi di lavoro, cambiando il
nostro modo di vivere, lavorare e comunicare e apportando benefici a lungo termine sia per la
crescita economica che per la qualità della vita, con un impatto su tutti i settori. In merito il
CESE ha espresso con chiarezza la sua posizione2, e cioè che la trasformazione in atto (per
mano dell'uomo) dovrebbe andare a beneficio di tutti. Il CESE accoglie quindi con favore tutte
le iniziative, politiche e della società civile, che siano di aiuto per i cittadini europei. Il presente
parere verte principalmente sulle esigenze e le preoccupazioni dei cittadini, siano essi lavoratori
dipendenti, datori di lavoro o, più in generale, consumatori. Il testo individua gli ambiti in cui la
partecipazione della società civile riveste un'importanza cruciale per plasmare in maniera
proattiva la transizione digitale e assicurarne il successo.

1
Cfr. il parere del CESE sull'Europa digitale (TEN/677).
2
Cfr. i pareri del CESE sul futuro del lavoro: SOC/561, 562, 570 e 578.

TEN/679 – EESC-2018-04168-00-00-AS-TRA (EN) 5/14


2.3 L'avanzata della digitalizzazione, in particolare con l'introduzione di nuovi prodotti e servizi
digitali, può essere molto rapida (come nel caso dei dispositivi mobili/smartphone) ma può
anche essere piuttosto lenta, quando i cittadini, e la società in generale, non accettano le nuove
tecnologie senza metterle in discussione, come nei casi in cui siano in gioco l'autonomia, la
responsabilità, la sicurezza, la dignità e la vita privata delle persone. L'analisi svolta nel
presente parere si basa in parte su quella condotta dal prof. Lambèr Royakkers e da altri studiosi
(in Ethics and Information Technology, 20183).

2.4 Lo sviluppo di nuove applicazioni digitali viene oggi promosso da numerosi entusiasti nel
mondo dell'industria, della ricerca e delle università, e non soltanto, come molti credono, dai
giganti di Internet come Google, Apple, Facebook, Amazon o Microsoft. Se è vero che questo
entusiasmo è condiviso da buona parte delle nostre società, vi è però una minoranza non
trascurabile di persone scettiche o preoccupate, per via delle minacce che queste tecnologie
rappresentano per la loro vita privata, autonomia, sicurezza ecc. o magari a causa della scarsa
conoscenza che ne hanno e di una generica paura del futuro. La tecnologia non è l'unico fattore
di spinta della transizione digitale; le esigenze e le aspirazioni dei cittadini e della società,
nonché i diritti individuali e sociali, dovrebbero avere un impatto decisivo sull'ulteriore sviluppo
tecnologico. Se si vuole garantire il successo della transizione digitale, occorre coinvolgere i
cittadini nella progettazione e nei processi decisionali: una sfida evidente per tutti, e per la
società civile in particolare. Questo significa anche che andrebbe garantito l'accesso ad una
connessione Internet sicura e a prezzi abbordabili, in modo da evitare discriminazioni ed
esclusione.

3. La rapidità del processo di transizione digitale

3.1 La rivoluzione digitale consiste nel passaggio dalla tecnologia meccanica ed elettronica
analogica a quella elettronica digitale, un processo che si è svolto grosso modo tra la fine degli
anni Cinquanta e la fine degli anni Settanta del secolo scorso, con l'avvento e la proliferazione
dei calcolatori centrali (mainframe) e dei personal computer. Nei successivi anni Ottanta la
tecnologia digitale si è diffusa in un gran numero di settori diversi, e oggi l'uso dei tablet e degli
smartphone è in procinto di superare quello dei personal computer.

3.2 A partire dal 1991, l'accessibilità al pubblico del worldwide web ha messo a disposizione una
nuova infrastruttura che ha reso possibile collegare dispositivi digitali, creando nuove funzioni
che vanno ben oltre quelle di un singolo dispositivo digitale isolato. La combinazione di queste
tecnologie ha trasformato radicalmente il nostro modo di comunicare, di lavorare e di fare
impresa. Le piattaforme digitali hanno dato luogo a modi di fare le cose radicalmente nuovi:
nel giro di pochi anni, imprese come Airbnb, Uber e Amazon (per citare soltanto alcuni esempi)
sono divenute importanti attori economici.

3
L. Royakkers, J. Timmer, L. Kool et al., Societal and ethical issues of digitization, in Ethics and Information Technology, 2018, vol.
20, pag. 127 (https://doi.org/10.1007/s10676-018-9452-x).

TEN/679 – EESC-2018-04168-00-00-AS-TRA (EN) 6/14


3.3 I progressi della digitalizzazione sembrano non conoscere limiti. Il crescente utilizzo di sensori
intelligenti consente di leggere ed elaborare dati relativi alla localizzazione e agli spostamenti,
ma anche all'ambiente, alla biologia e alla chimica di qualsiasi tipo di oggetto; e in proposito si
parla appunto di "Internet delle cose" o, più precisamente, di "Internet degli oggetti".
Potenzialmente non vi è alcun limite al numero di sensori, cosicché è teoricamente possibile
generare una mappa digitale del nostro intero ambiente fisico. In futuro la banda larga veloce
(5G) renderà possibile reagire in tempo reale ai dati inviati dai sensori.

3.4 Enormi quantità di dati provenienti dai sensori e dalle attività delle piattaforme (megadati o big
data) saranno elaborate da programmi informatici sulla base di determinati algoritmi.
I programmatori saranno in grado di calibrare con estrema precisione tali algoritmi o di
generarli in modo dinamico a partire da una serie di dati di ingresso (apprendimento
automatico o intelligenza artificiale). In particolare dall'intelligenza artificiale molti si
aspettano innovazioni tecnologiche di portata dirompente4. La questione di stabilire fino a che
punto consentire alla macchina di compiere delle scelte (che hanno implicazioni morali) è di
vitale importanza, e richiede un controllo sia sociale che politico. Esiste già una forte domanda
di porre dei limiti ai sistemi informatizzati automatici utilizzati in alcuni settori (come quello
"fintech", ossia della tecnologia finanziaria) per via della loro scarsa trasparenza e di una
significativa perdita di controllo.

3.5 Il ritmo di sviluppo della digitalizzazione nella società è estremamente rapido. Gli organismi
pubblici e le imprese stanno adottando una moltitudine di nuovi approcci, come dimostrano i
progetti pilota o i prodotti già in via di commercializzazione, la cui penetrazione sul mercato
può variare enormemente, a seconda del settore interessato, o può invece essere molto lenta, ad
esempio in alcuni settori in cui le nuove tecnologie non sono accettate senza manifestare dubbi
o esitazioni, come illustrato nei punti che seguono.

3.6 Un tipico esempio di Internet degli oggetti che gode finora di un'accettazione limitata è
costituito dalla domotica (la cosiddetta smart home o casa intelligente), ossia dai sistemi che
consentono il controllo centralizzato delle apparecchiature presenti in un'abitazione: impianti di
illuminazione e di riscaldamento, dispositivi per l'intrattenimento, elettrodomestici e molto altro
ancora. Tra l'altro, anche sistemi di controllo degli accessi e di allarme, con telecamere di
sicurezza in grado di videoregistrare. Ad oggi per i sistemi di domotica non esistono norme
tecniche, il che rende difficile sviluppare applicazioni che funzionino in modo coerente per
oggetti diversi. Tali sistemi, inoltre, possono richiedere competenze avanzate e un
aggiornamento costante. Un'altra difficoltà risiede nel fatto che la maggior parte delle abitazioni
è costituita da ambienti condivisi tra più persone, le quali hanno competenze, abilità ed interessi
diversi (si pensi ad esempio ai bambini, agli anziani o alle persone ospiti). È molto più facile
vivere in una "casa intelligente" che gestisce l'ambiente di vita di una sola persona.

3.7 I sensori delle "auto intelligenti" rendono possibile una mobilità connessa e automatizzata,
offrendo una ricca gamma di nuove soluzioni per una maggiore comodità e un'accresciuta
sicurezza, nonché, quando si giungerà alla completa automazione, il più elevato livello di

4
Cfr. il parere del CESE sull'intelligenza artificiale (INT/806).

TEN/679 – EESC-2018-04168-00-00-AS-TRA (EN) 7/14


sicurezza possibile nel trasporto stradale5. La tecnologia per la guida automatica è ormai
sufficientemente matura, ma per una serie di motivi la sua applicazione si diffonde ancora
lentamente. In primo luogo, un grado elevato di guida assistita è possibile solo nei veicoli nuovi,
dove i sensori e il computer di bordo sono parte integrante del veicolo. I costi di questi
dispositivi per il singolo utente e per la società costituiscono un ostacolo alla loro penetrazione
sul mercato. In secondo luogo, il moltiplicarsi dei sistemi di assistenza può rendere la
conduzione di un veicolo molto più complessa e limitare l'accettazione di questo nuovo tipo di
guida. In terzo luogo, l'esigenza che i veicoli completamente autonomi siano sicuri al 100 %
costituisce un grosso ostacolo, fintanto che tali veicoli coesistono con le automobili
convenzionali e con altri utenti della strada. I veicoli totalmente automatici costituiscono una
sfida, in quanto rendono necessario riprogettare in modo sostanziale la rete stradale.

3.8 Google e Facebook fanno già un uso intensivo ed efficace dell'intelligenza artificiale (IA) per
"ottimizzare" la visualizzazione delle informazioni e la pubblicità. Ma vi sono molti altri settori
in cui l'IA può essere (e in effetti sarà) utilizzata offrendo un aiuto prezioso nelle attività di tipo
cognitivo, ad esempio le professioni basate sulla conoscenza. Alcune di queste applicazioni,
tuttavia, potrebbero svilupparsi più lentamente del previsto a causa di un problema
fondamentale: come è stato di recente affermato6, uno dei fattori che ancora limitano lo sviluppo
dell'IA non è costituito dalla tecnologia in sé (ossia dall'insufficiente potenza dei computer)
bensì dalla nostra scarsa comprensione di fondo del modo esatto di apprendere e di pensare
degli esseri umani. Pensare fuori dagli schemi e far tesoro della propria esperienza concreta di
vita rimane una prerogativa dell'uomo.

3.9 Vi sono esempi di pionieri di grande successo che sono riusciti a trasformare i servizi pubblici
in soluzioni digitali flessibili. In Estonia, per citare un paese pioniere in questo campo, un gran
numero di servizi, quali la pubblica amministrazione elettronica (e-government), compresa
quella tributaria (e-tax), la sanità elettronica (e-health) o il voto elettronico, sono oggi ben
accolti, ampiamente utilizzati e considerati da molti come un modello tecnologico di riferimento
da applicare in tutti i paesi dell'UE, preferibilmente con gli stessi standard in modo da
consentire l'interoperabilità. Solo una strategia a livello dell'UE e progetti dotati di
finanziamenti adeguati possono consentirci di superare gli ostacoli posti dalle notevoli
differenze esistenti tra le varie regioni, istituzioni e culture, e la conseguente domanda di
sussidiarietà rispetto al governo centrale.

4. Preoccupazioni e raccomandazioni

4.1 Nel 2017 la Commissione europea ha pubblicato un'indagine Eurobarometro7 da cui risulta che
il 76 % di coloro che usano Internet tutti i giorni considera positivo l'impatto di tali tecnologie
sulla qualità della propria vita, mentre il 38 % dei partecipanti non ha mai utilizzato Internet.
Quest'ultima percentuale può, certo, essere dovuta a una carenza di competenze digitali;
tuttavia, vi sono anche parecchie persone che, pur disponendo delle competenze necessarie,

5
Cfr. il parere del CESE sui veicoli connessi e automatizzati (TEN/673).
6
Da Yann LeCun, responsabile di Facebook per l'intelligenza artificiale (FAZ, 6.11.2018).
7
Indagine speciale Eurobarometro n. 460, condotta dalla società di ricerche di mercato TNS Opinion & Social, marzo 2017.

TEN/679 – EESC-2018-04168-00-00-AS-TRA (EN) 8/14


nutrono serie preoccupazioni riguardo all'uso di Internet, che le inducono ad esitare a seguire
l'esempio di chi ha già adottato questa tecnologia. È un punto di vista, questo, che va rispettato e
preso sul serio. I timori espressi si concentrano in particolare sulle questioni dell'autonomia,
della responsabilità, della sicurezza, della dignità umana, del rispetto della vita privata e di
condizioni di lavoro dignitose, come spiegato nei punti seguenti.

4.2 Autonomia

4.2.1 Si definisce paternalistico l'atteggiamento di chi sostiene di sapere ciò che è bene per gli altri
meglio di quanto non lo sappiano essi stessi. Con il paternalismo tecnologico, tale
atteggiamento viene "delegato" alla tecnologia. Il paternalismo può essere fatto accettare con la
persuasione oppure imposto con la costrizione. Una buona tecnologia "persuasiva" dovrebbe
basarsi sulla formazione (non sulla manipolazione) e rispettare il criterio della libera scelta
individuale, in modo da garantire l'autonomia degli esseri umani. La digitalizzazione offre un
intero ventaglio di nuove possibilità, consentendo agli individui di compiere scelte che ne
migliorano la vita in modi del tutto inediti. D'altro canto, quanto più la digitalizzazione domina
la nostra vita, tanto più rende possibile essere manipolati. Una situazione, questa, che mina la
nostra autonomia in ambiti quali la guida degli autoveicoli, la scelta dei prodotti alimentari, la
cura della nostra salute, il riscaldamento delle nostre case, il fumo, il consumo di alcol, la
gestione delle nostre finanze o persino, come si è visto di recente, le consultazioni elettorali, la
cui manipolazione può costituire una minaccia per la democrazia. Il CESE esorta a elaborare,
adeguare e applicare norme trasparenti (comprese, se necessario, disposizioni giuridiche
restrittive) che disciplinino l'uso di queste tecnologie in rapida evoluzione.

4.2.2 L'esempio più lampante di utilizzo estremo della tecnologia digitale per influenzare i cittadini si
riscontra in Cina. A ciascuno dei suoi cittadini, infatti, il governo cinese assegna un "punteggio"
che contribuisce a determinare se la persona in questione possa ottenere un prestito, un visto o
un determinato impiego. Ciò è in netto contrasto con i valori e i diritti che vigono in Europa
(protezione dei dati personali, rispetto della vita privata, protezione sociale, sostenibilità).

4.2.3 Si registra una tendenza delle persone a sviluppare un crescente desiderio di vivere, almeno per
una parte del tempo, una vita più "analogica"8. Esistono campi di riposo dove gli adulti si
recano per "staccare la spina" e trascorrere un fine settimana senza connessioni digitali, oppure
le persone si ritagliano uno spazio di vita "offline" (dunque senza telefonino a portata di mano)
da dedicare interamente ai figli, alla famiglia e agli amici. Vi è una costante domanda di beni
oggi considerati "analogici", per i quali cioè esiste già un'alternativa digitale: libri, musica non
creata al computer, dischi di vinile, carta, penne per scrivere e molte altre cose ancora. E si ha
notizia di un fenomeno denominato e-mail bankrupcy: alti dirigenti che, di quando in quando,
"dichiarano fallimento" per quanto riguarda la posta elettronica, cancellando ogni messaggio
dalla cartella della posta in arrivo o addirittura chiudendo il loro account, per "riprendersi" dal
diluvio delle e-mail che li sommerge. Il CESE è dell'avviso che la transizione digitale abbia
bisogno anche di simili "contrappesi" per avere successo ed essere accettata da tutti, e mette in

8
Jessica Elefante, The six signs of analogue craving, The Guardian.

TEN/679 – EESC-2018-04168-00-00-AS-TRA (EN) 9/14


guardia contro l'eccessiva insistenza nel voler sostituire le tecnologie analogiche con quelle
digitali.

4.3 Responsabilità

L'uomo è "fuori dal circuito" (man out-of-the-loop) quando vi è una completa automazione,
ossia un sistema elettronico prende una decisione senza alcun intervento umano. Ne sono
esempi i sistemi esperti che effettuano diagnosi mediche sulla base di un gran numero di dati,
oppure i robot militari che assumono decisioni di vita o di morte utilizzando informazioni
provenienti da varie fonti. Qui la domanda cruciale che ci si pone sempre più spesso è: fino a
che punto è eticamente accettabile delegare le scelte da compiere (con implicazioni morali) a
sistemi basati sull'IA? Il CESE ha già espresso chiaramente la sua posizione al riguardo9:
i termini "etica" e "responsabilità" vanno riferiti esclusivamente agli esseri umani, mentre
determinati tratti psicologici e di personalità non possono essere attribuiti a robot. Pertanto, tutti
i sistemi automatizzati, per quanto sofisticati essi siano, devono operare secondo il principio del
controllo dell'uomo sulla macchina ("human-in-command"): solo un uomo può prendere la
decisione finale e assumersene la responsabilità.

4.4 Sicurezza e consumatori

4.4.1 Nuovi e attraenti gadget rendono le nostre case più intelligenti, ma anche più vulnerabili.
Adesso che sempre più dispositivi sono collegati ad Internet - televisori intelligenti (smart tv),
webcam, console per videogiochi, orologi da polso intelligenti (smartwatch) - è di cruciale
importanza avere un buon piano di difesa per la propria rete domestica10. Smartwatch e altri
dispositivi indossabili costituiscono un'estensione dello smartphone, dando istantaneamente
accesso a potenti app(licazioni), alla posta elettronica, agli SMS e ad Internet. Oltre ad estrarre
informazioni preziose, gli hacker possono anche assumere il controllo di questi dispositivi
intelligenti. Ricercatori che si occupano di sicurezza hanno dimostrato quanto sia semplice
"hackerare" la bambola Cayla o persino un microinfusore (ossia una pompa di insulina), oppure
spiare chi indossa uno smartwatch. È necessario informare e sensibilizzare i consumatori in
merito a questi rischi. Il CESE invita l'UE a rivedere le normative vigenti in materia di
sicurezza, e a elaborare, adattandole alle nuove tecnologie in evoluzione, rigorose norme di
sicurezza destinate a proteggere i cittadini nelle loro abitazioni.

4.4.2 Le applicazioni basate su dati biometrici (riconoscimento facciale, impronte digitali, scansione
dell'iride) sono eccellenti, ma solo se il sistema funziona correttamente. Spesso, infatti, per le
persone che il sistema identifica erroneamente come sospette è molto difficile rettificare tale
errore. L'impiego di tale tecnologia può indurre ad errori di classificazione e determinare una
stigmatizzazione, collocando automaticamente una persona in una determinata categoria (ad
esempio terrorista, criminale o individuo inaffidabile). Tutto ciò può condurre a un'inversione
dell'onere della prova, ribaltando la presunzione d'innocenza. Inoltre, sembra che i dati
biometrici non possano essere utilizzati proprio per tutti. Ad esempio, non è possibile "leggere"

9
Cfr. il parere del CESE sull'intelligenza artificiale (INT/806).
10
Symantec (Norton).https://us.norton.com/internetsecurity-iot-smart-gadget-hacks-that-might-surprise-you.html.

TEN/679 – EESC-2018-04168-00-00-AS-TRA (EN) 10/14


le impronte del 2 % della popolazione, per motivi riconducibili all'età avanzata della persona o
al fatto che essa svolga o abbia svolto determinate professioni o si sia sottoposta a trattamenti di
chemioterapia. I sistemi digitali utilizzati nella nostra società devono essere concepiti in modo
tale da non escludere o discriminare le persone che non soddisfino determinati criteri standard.
I sistemi che classificano automaticamente determinate persone come sospette non dovrebbero
mai funzionare senza una stretta interazione umana e una verifica accurata.

4.4.3 Un grave problema è poi costituito dalla frode d'identità, ossia dalla condotta intenzionale che
consiste nell'ottenere, appropriarsi, detenere o creare dati identificativi falsi al fine di
commettere un illecito. La nostra società necessita di strumenti giuridici sufficienti per
proteggere le vittime di tali frodi.

4.5 Dignità umana

4.5.1 L'utilizzo della robotica nel campo dell'assistenza sanitaria è fonte di preoccupazione. I robot
sono dispositivi che non sono in grado di riprodurre la reciprocità e le capacità di empatia che
contraddistinguono i rapporti di cura e assistenza tra persone. I robot impiegati nella cura e
assistenza, quindi, dovrebbero essere utilizzati soltanto per mansioni che non richiedano alcuna
intimità e alcun coinvolgimento emotivo o personale. Se non vengono utilizzati in determinate
condizioni quadro, i robot possano ledere la dignità umana.

4.6 Rispetto della vita privata

4.6.1 Il riconoscimento facciale confronta il profilo facciale di una persona con quelli già presenti in
una banca dati per verificare se tra questi figura il profilo della persona scansionata. Tale
tecnologia è utilizzata per indagini di polizia o da telecamere di sicurezza collocate in spazi
pubblici, e il suo impiego è disciplinato dalla legge. Dati altamente sensibili come quelli relativi
al volto di una persona devono essere conservati in modo sicuro e protetto. Con il tempo, però,
il riconoscimento facciale diventerà più economico e facilmente accessibile a tutti, cosicché
potrà essere utilizzato da qualsiasi negozio, impresa o anche privato cittadino. Vi sono tentativi
di ricorrere a queste tecniche persino per il riconoscimento delle emozioni. Il timore è che le
tecnologie di riconoscimento facciale possano, in ultima analisi, condurre a una situazione in cui
non sia più possibile camminare per strada o fare acquisti senza essere "riconosciuti". Pertanto,
il CESE chiede con forza che le persone abbiano diritto alla riservatezza anche quando si
trovano in uno spazio pubblico. In generale, il riconoscimento mediante videocamera
all'insaputa delle persone interessate deve essere vietato.

4.6.2 Se lo scenario da "grande fratello" (in cui tutti sono spiati dal governo) è ormai ben noto, lo
scenario da "piccolo fratello" (in cui individui o piccole imprese si spiano a vicenda) sta
diventando sempre più plausibile. A titolo di esempio, occhiali "intelligenti" possono essere
utilizzati per registrare e recuperare dati su un proprio interlocutore o visitatore. Via via che
questa tecnologia si svilupperà ulteriormente e sarà disponibile a prezzi accessibili, saranno
immessi in commercio sempre nuovi gadget per lo spionaggio elettronico. Il CESE sottolinea
con forza che, al di là dell'applicazione del vigente regolamento generale sulla protezione dei
dati, abbiamo bisogno di norme chiare e rigorose che tutelino la vita privata delle persone.

TEN/679 – EESC-2018-04168-00-00-AS-TRA (EN) 11/14


4.6.3 Con il diffondersi della domotica, uno spazio considerato "privato" come la propria casa sta
diventando sempre più trasparente. Il confine tra la propria casa e il mondo esterno diviene
sempre più incerto, dato che le pareti domestiche non bastano più a proteggere l'intimità della
casa dagli sguardi indiscreti. Dispositivi per l'intrattenimento, sistemi d'allarme con telecamere
di sorveglianza e sistemi di controllo centralizzato (tramite computer da tavolo, smartphone,
assistente virtuale...) offrono una serie di potenziali varchi d'accesso per l'intrusione di hacker.
Il CESE invita l'UE ad adottare un'azione coordinata per informare i consumatori in merito a
questi rischi e incentivare le misure di sicurezza.

4.6.4 Un fattore di rischio dei sistemi digitali è costituito dalla loro complessità. In particolare il
singolo consumatore, che non dispone di competenze digitali professionali, deve essere aiutato
in modo efficace. Si pensi ad esempio ai manuali d'uso delle apparecchiature digitali, talora
molto voluminosi: anche se di norma essi avvertono gli utenti dei problemi legati alla tutela
della vita privata, l'autorizzazione a utilizzare alcuni dati viene spesso accordata
inconsapevolmente dall'utente stesso, il quale non è in grado di comprendere l'intero manuale o
si arrende alla cosiddetta "stanchezza da consenso" (consent fatigue), dal momento che deve
accordare ripetutamente l'autorizzazione all'uso dei propri dati ai dispositivi che li rilevano.
Si pone allora la questione di stabilire a quale livello di questo processo risieda la responsabilità.
Il CESE invoca una semplificazione, e propone di introdurre procedure UE standard o
"pacchetti" di misure standard in materia di tutela della vita privata che siano di facile
comprensione per tutti.

4.6.5 Problemi di tutela della vita privata si pongono altresì con riguardo alle piattaforme digitali.
Tali piattaforme possono facilmente tracciare i loro utenti adoperando strumenti relativamente
semplici. Ad esempio, dipendenti di Uber hanno utilizzato lo strumento "God View" messo a
loro disposizione da tale società per tracciare personaggi più o meno famosi (politici, celebrità e
altre personalità); una pratica, questa, che è stata stroncata in seguito a un procedimento
giudiziario11, il che però non ha impedito a tale tecnologia di continuare a rilevare dati di
tracciatura e di connessione a Internet. Il CESE reputa che la tutela della vita privata possa
essere garantita soltanto con una serie di ulteriori misure, vale a dire restringendo l'accesso ai
dati sensibili, che deve essere consentito solo a un numero limitato di persone accreditate. Tali
misure di sicurezza devono essere elaborate conformemente agli standard più elevati e più
affidabili e comprendere tra l'altro anche l'effettuazione di controlli regolari da parte di
organismi dell'UE indipendenti.

4.7 Il lavoro del futuro

4.7.1 Anche nell'era digitale il lavoro continuerà ad essere la fonte principale di reddito. Nell'ambito
della trasformazione digitale, l'occupabilità, nella prospettiva del datore di lavoro, e la capacità
di lavorare, dal punto di vista del lavoratore dipendente, sono due facce della stessa medaglia.
La capacità dei lavoratori di adattarsi a nuove mansioni equivale alla possibilità di adattare il
lavoro, grazie alla tecnologia digitale, alle richieste di lavoro individuali. Dato che il discrimine
tra lavorare per guadagnare e lavorare per fini privati diventa sempre più incerto, le parti sociali

11
https://nypost.com/2017/08/15/uber-settles-federal-probe-over-god-view-spy-software/.

TEN/679 – EESC-2018-04168-00-00-AS-TRA (EN) 12/14


in particolare sono chiamate a raccogliere la sfida di definire nuovi criteri per misurare le
prestazioni individuali in modo equo. Anticipare la trasformazione digitale richiede il
coinvolgimento dei lavoratori dipendenti attraverso l'informazione, la consultazione e la
partecipazione. La sicurezza sociale, l'esistenza di servizi pubblici di interesse generale e la
salvaguardia di mezzi di sussistenza rispettosi dell'ambiente rimangono presupposti
indispensabili della futura società del lavoro nel contesto della trasformazione digitale.

4.7.2 L'automazione e i robot avranno un impatto significativo sul futuro del lavoro. Ad esempio,
l'uso di sistemi di trasporto senza conducente (driverless transport systems - DTS) è già
all'ordine del giorno per il trasporto di materiali nei depositi. I robot possono sostituire le
persone anche in attività ripetitive, faticose o pericolose, e quelli appartenenti a una nuova
generazione di cosiddetti "robot collaborativi" possono diventare partner fisici dei lavoratori
umani e risultare particolarmente utili per le persone con disabilità fisiche. Oggi i robot
sostituiscono gli esseri umani principalmente nell'esecuzione di attività manuali, ma i robot che
utilizzeranno l'IA svolgeranno anche lavoro intellettuale. Un numero considerevole di
professioni sarà interessato da questa evoluzione, a mano a mano che i robot assumeranno
nuove mansioni o addirittura rimpiazzeranno completamente i lavoratori umani, come già si è
osservato negli ultimi decenni. Si stima che in tutti i settori industriali l'occupazione rimarrà
stabile fino al 2022. Uno sguardo alla situazione delle grandi imprese rivela anzi che i posti di
lavoro e profili professionali creati dalla nuova ripartizione del lavoro tra l'uomo e la macchina
sono quasi il doppio di quelli soppiantati12. Il CESE ha già affrontato questi aspetti in diversi
suoi pareri13.

4.7.3 Detto ciò, i lavoratori che collaborano o interagiscono con sistemi automatizzati, o lavorano
con un gran numero di informazioni, potrebbero essere confrontati a determinati problemi. Essi
devono assolvere mansioni complesse, a elevata intensità informativa. La realtà virtuale, per
esempio, è utilizzata per finalità di formazione e pianificazione, mentre la realtà aumentata aiuta
a realizzare progetti di manutenzione. Il CESE raccomanda che, ogniqualvolta nell'industria e
nel commercio siano previsti nuovi sistemi di automazione, si utilizzino metodi scientifici
obiettivi per ottimizzare e valutare l'interazione uomo-macchina.

4.7.4 D'altro canto, i datori di lavoro si trovano ad affrontare la sfida di scegliere, fra le tante opzioni
rese possibili dalle nuove tecnologie, le soluzioni digitali adeguate. È importante sviluppare
sistemi di assistenza tecnologica idonei per le attività e i processi lavorativi delle imprese.
Inoltre, si raccomanda che, prima di introdurre nuove tecnologie, si stabilisca il grado di
competenza tecnologica dei lavoratori, sì da fornire loro, se necessario, la formazione adatta.
Il coinvolgimento dei lavoratori nell'introduzione di nuove tecnologie rappresenta anch'esso un
fattore cruciale.

12
Forum economico mondiale (17 settembre 2018). Relazione 2018 sul futuro dell'occupazione
(https://www.weforum.org/reports/the-future-of-jobs-report-2018).
13
I pareri del CESE sul futuro del lavoro: SOC/561, SOC/562, SOC/570, SOC/578.

TEN/679 – EESC-2018-04168-00-00-AS-TRA (EN) 13/14


4.7.5 In quest'epoca di digitalizzazione, l'ambito di ricerca dell'ergonomia cognitiva conosce un
notevole sviluppo. I metodi scientifici elaborati da tale disciplina14 consentono di valutare
oggettivamente le sfide che l'impiego dei nuovi sistemi di assistenza tecnica pone ai processi
cognitivi della mente umana. Per valutare le interfacce utente, l'ergonomia cognitiva combina
gli strumenti di diverse discipline, come la psicologia e l'ergonomia. Lo scopo è quello di
concepire un luogo di lavoro ottimale, realizzando una situazione vantaggiosa sia per i
dipendenti che per i datori di lavoro: una situazione tale, cioè, da consentire ai lavoratori di
fruire di un livello ottimale di gratificazione professionale, benessere e salute e di fornire
all'impresa una prestazione e una produttività ottimali e a lungo termine. Il CESE raccomanda
che tali metodi di valutazione diventino la norma, a beneficio sia dei dipendenti che delle
imprese. Il processo di trasformazione digitale dovrebbe essere oggetto di monitoraggio tramite
la realizzazione, con fondi europei, di ricerche a tutto campo orientate al lavoro sul tema della
"digitalizzazione al servizio di un lavoro dignitoso". Il CESE è convinto che, nel lungo periodo,
il successo della digitalizzazione dipenda dalla concezione di sistemi di Industria 4.0 efficienti e
favorevoli ai lavoratori.

Bruxelles, 11 febbraio 2019

Pierre Jean COULON


Presidente della sezione specializzata Trasporti, energia, infrastrutture, società dell'informazione

_____________

14
G. Rinkenauer, V. Kretschmer e M. Kreutzfeldt, Kognitive Ergonomie in der Intralogistik, nella collana Future Challenges in
Logistics and Supply Chain Management, vol. 2, 2017.

TEN/679 – EESC-2018-04168-00-00-AS-TRA (EN) 14/14