Documenti di Didattica
Documenti di Professioni
Documenti di Cultura
sanitaria e intelligenza
artificiale
(Grandi Sfide - Salute)
LEZIONE 1 – Prof.ssa Vera Tripodi
INTRODUZIONE ALL’ETICA DELLA TECNOLOGIA E DELL’INGEGNERIA
Perché la tecnica è oggetto dell’etica? Perché un’etica delle
tecniche?
RISPOSTA POSSIBILE:
* Gli ingegneri devono comportarsi secondo uno standard di comportamento
professionale che richiede l'adesione ai più alti principi di condotta etica.
Gli ingegneri esercitano una professione che riveste una particolare
importanza perché riguarda in parte temi fondamentali per la vita e la
sostenibilità:
– sicurezza
– inquinamento
– sfruttamento dell’energia
– salute pubblica
……….
Gli articoli della Costituzione Italiana:
Responsabilità professionale?
La sicurezza pubblica?
Disinformazione?
Indagini
Il violinista
Citigroup Center È uno dei più alti grattacieli di New York
City inaugurato nel 1977: ha 59 piani, è
alto 279 metri, ha il tetto spiovente e la
base del grattacielo non è a livello della
terra ma è sollevata di 35 metri.
È stato disegnato dall'architetto Hugh
Stubbins e dall'ingegnere strutturale
William LeMessurier
Citigroup Center Crisi del 1978
Nel 1978 Diane Hartley scoprì che, a
causa di un errore di progetto e di
modifiche in corso d'opera, il grattacielo
non era strutturalmente solido in
determinate condizioni.
Responsabilità professionale?
La sicurezza pubblica?
Disinformazione?
Indagini
In cosa consiste?
È una decisione che richiede una scelta tra principi concorrenti.
Conseguenze?
Le decisioni prese avranno comunque un’implicazione (costo) morale per chi
sceglie e per chi le subisce.
Nel conflitto tra i due principi, proteggere gli altri dal pericolo è –
per Socrate – un principio che ha una priorità̀ morale. L’obbligo di
proteggere gli altri dal pericolo ha dunque la precedenza
sull’obbligo di rimborsare i propri debiti restituendo un oggetto
preso in prestito quando il proprietario ne richiede la restituzione.
Altro esempio di dilemma morale: Jean Paul Sartre, L’esistenzialismo è
un umanesimo (1946)
Nel caso del Trapianto, nonostante il chirurgo abbia il dovere positivo di salvare
le vite di cinque pazienti malati, si presenta un conflitto con il dovere negativo
che suggerisce di non far del male ad un paziente innocente e sano. Inoltre, nel
caso della Leva non si fa altro che deviare una minaccia già in movimento (il
vagone), mentre nel Trapianto, uccidendo un paziente si introduce una minaccia
totalmente nuova.
Assistenza sanitaria e intelligenza
artificiale
(Grandi Sfide - Salute)
LEZIONE 3 – Prof.ssa Vera Tripodi
Sommario della lezione:
1. TRE APPROCCI AL PROCESSO DECISIONALE ETICO
2. L’ETICA DELLA SACRALITÀ DELLA VITA, L’ETICA DELLA QUALITÀ
DELLA VITA
3. ETICA DEONTOLOGICA ED ETICA CONSEQUENZIALISTA
4. RIVOLUZIONE BIOMEDICA
5. IL TECNOSCENTISMO
Dalla lezione precedente…
PARTIAMO DA TRE CASE STUDIES E UN ESPERIMENTO MENTALE…..
Esempi: mentire non è per forza sbagliato, se si tratta di difendere una persona cara.
L’uso della bomba atomica non è per forza sbagliato se può porre fine a una guerra e
salvare un numero consistente di vite umane.
Concetto chiave: ATTO
Massima: “agisci in modo da trattare l’umanità, sia nella tua persona sia in
quella di ogni altro, sempre come fine e mai semplicemente come mezzo”.
I principi sono tali se si applicano universalmente.
Concetto chiave: AGENTE
Essere nel giusto non ha a che fare con l’obbligatorietà dell’azione. Per essere nel giusto
bisogna essere un certo tipo di persona, non basta semplicemente agire in un certo
modo.
Quando le persone acquisiscono tali
tratti caratteriali (gentilezza,
generosità, coraggio, onestà) sono più
capaci di regolare le emozioni e di
assumere decisioni.
Aristotele
(384 a.C.-322 a. C.)
Kant
la categoricità è la caratteristica distintiva del dovere morale: l’imperativo
morale è categorico, ossia vale sempre e indefettibilmente
La messa in dubbio dell’etica della sacralità della vita e il passaggio all’etica della
qualità della vita è un fenomeno molto recente determinato dalla rivoluzione
interna alla medicina e all’etica medica
Caratterista fondamentale:
i doveri/divieti valgono ex ante, ossia da prima dell’azione e delle
eventuali conseguenze causate dall’azione, la quale è doverosa perché
ingiusta in sé
Per alcuni, i principi devono Per altri, i principi devono rimandare alla
essere intuitivamente auto- “natura umana” o corrispondono
evidenti all’ordine naturale”
Caratterista fondamentale:
i doveri/divieti valgono ex post, ossia da dopo l’azione, perché è in base
alle conseguenze causate dall’azione che si può stabilire se una data
azione o classe di azioni sia doverosa o vietata.
IL DISSENSO
Questi progressi hanno rimesso in discussione alcuni limiti che fino a pochi
anni fa apparivano naturali, scontati e solidi
la dialisi (1962)
Non solo le persone umane hanno biografie, ma anche gli animali non umani
In passato, il problema
della laicità riguardava
solo lo Stato e la
legittimità del potere
politico
La breccia di Porta Pia (20 settembre 1870): sancì l'annessione di Roma al Regno
d’Italia e decretò la fine dello Stato Pontificio retto dal papa re.
Oggi, il problema della laicità riguarda anche le questioni bioetiche e familiari
Il potere della tecnica come “minaccia” per l’umano e il problema del “limite”:
la tecnica consente la manipolazione della vita e della vita umana in particolare.
Thamus risponde:
«O ingegnosissimo Theuth, c'è chi è capace di creare le arti e chi è invece
capace di giudicare quale danno o quale vantaggio ne ricaveranno coloro che
le adopereranno. […] Infatti, la scoperta della scrittura avrà per effetto di
produrre la dimenticanza nelle anime di coloro che la impareranno, perché
fidandosi della scrittura si abitueranno a ricordare dal di fuori mediante segni
estranei, e non dal di dentro e da se medesimi: dunque, tu hai trovato non il
farmaco della memoria, del richiamare alla memoria»
Fine della scrittura e della registrazione?
Cesare Lombroso
(1835-1909, medico-criminolgo)
La bicicletta è pericolosa
socialmente, in quanto aumenta
le possibili cause della
criminalità, conducendo fino
all’omicidio.
«…causa…e strumento del
crimine. Ciò può spiegarsi
per molti modi: per
l’enorme diffusione di
questo meccanismo, non
solo come mezzo di
trasporto e di sollazzo, ma
anche come amminicolo di
guadagno nei record e nelle
rivendite, come occasione
di maggiori rapporti e attriti
fra gli uomini…fa accrescere
sempre più il numero dei
delitti»
Copenhagen è la città
più bicycle friendly
scienza tecnoscienza
Dalla lezione precedente…
In Italia….
Embrace
(assiste la persona che
soffre di epilessia)
In alcuni casi, l’App salute è in grado di essere anche una
vera e propria terapia digitale, come i farmaci che
assumiamo. Vale a dire, se usata efficacemente, essa può
portare benefici clinici: se si segue un certo protocollo
alimentare o fisico, in linea con le linee guida
scientificamente approvate e sotto stretto controllo medico,
questa tipologia di dispositivi permette di ottenere effetti
clinicamente rilevanti.
Le novità riguardano un po’ tutta la linea della nostra salute dalla
prevenzione alla diagnostica e poi anche la cura.
Diagnostica
Cura e Sperimentazione
PREVENZIONE
Amicomed
aiuta a tenere la pressione
arteriosa sotto controllo
PREVENZIONE
l’utente deve inserire i dati richiesti sul proprio stato di salute, per poi
ricevere un programma personalizzato di attività fisica pensato sulle sue
caratteristiche cliniche e preferenze di movimento
PREVENZIONE
One Drop
misura la glicemia e ti
dice come questa sarà
tra 4/6 ore
DIAGNOSTICA
Skin Vision
Avatar
per simulare terapie e processi di cura prima di essere poi utilizzate realmente
sul corpo umano. Questa del gemello digitale è una grande frontiera.
CURA
Al medico ippocratico era riservato il cosiddetto “privilegio terapeutico”, ossia
dire o di non dire la verità al paziente:
Nascondere all’ammalato la verità è un dovere, forse il più nobile, del medico cui spetta
di stabilire ciò che il paziente debba sapere e quanto debba essergli nascosto.
Nel MODELLO IPPOCRATICO Nel MODELLO “CONSENSO INFORMATO”:
“Etica dell'informazione”
all'Università di Oxford; dirige il
Digital Ethics Lab.
4. RIVOLUZIONE DIGITALE: TEMPO, SPAZIO
TEMPORALITA’
ON-LIFE
neologismo che nasce dalla
combinazione tra ON-LINE e OFF-
LINE
INFOSFERA:
il luogo dove passiamo gran parte
del nostro tempo; un mondo fatto
di informazioni
la nostra centralità non è più giustificata
Dalla lezione precedente…
1. COME CI CUREREMO NEI PROSSIMI ANNI?
Come ci cureremo nei prossimi mesi? come alcuni di noi si stanno
già curando?
Le novità riguardano un po’ tutta la linea della nostra salute dalla
prevenzione alla diagnostica e poi anche la cura.
Diagnostica
Cura e Sperimentazione
Alessandro Blasimme, Medicina digitale e IA: profili etici, in Fossa, Schiaffonati, Tamburrini (a cura di),
Automi e persone, Carocci 2021, pp. 55-69.
1.
Dispositivi connessi possono essere portatili
o di tipo residenziale
un’algebra morale
alla base dello Stato non vi è alcun contratto sociale ma una necessità utilitaria
di promuovere collettivamente la felicità, il piacere di tutti. Le leggi avranno
così il compito di incoraggiare le azioni buone (cioè che promuovono l’utile) e di
impedire e sanzionare quelle che ostacolano il bene comune
Il violinista
Citigroup Center È uno dei più alti grattacieli di New York
City inaugurato nel 1977: ha 59 piani, è
alto 279 metri, ha il tetto spiovente e la
base del grattacielo non è a livello della
terra ma è sollevata di 35 metri.
È stato disegnato dall'architetto Hugh
Stubbins e dall'ingegnere strutturale
William LeMessurier
Space Shuttle Challenger la mattina del 28 gennaio 1986 lo Space
Shuttle Challenger fu distrutto dopo 73
secondi di volo.
Indagini
LA VISIONE MICROSCOPICA
può limitare la sua indipendenza e la sua obiettività oppure far sorgere dei
conflitti difficili da gestire
in che senso l’interesse personale potrebbe aver impedito il compiersi
di un’azione responsabile nel caso del Challenger ?
LA VISIONE MICROSCOPICA
Talvolta, però, il tentativo di trovare una ragione alla nostra condotta e alle
nostre scelte non sempre conduce a riconoscere con onestà e dovuto
distacco quello che stiamo facendo.
Talvolta, la tendenza a razionalizzare può però scaturire in atteggiamenti
difensivi o giustificatori
Nel caso del Challenger, dunque, non è stata violata nessuna norma. Il
disastro non è scaturito dall’infrazione delle norme di sicurezza bensì da un
rigoroso rispetto di esse.
AUTO-INGANNO
INTERESSE PERSONALE
PAURA
IGNORANZA
LA VISIONE MICROSCOPICA
Nella seconda votazione avvenuta la sera prima del decollo, alcuni ingegneri
della Morton Thiokol potrebbero aver cambiato opinione ed essersi
conformati alla scelta dei manager della NASA – vale a dire alla decisione di
non posticipare il lancio del Challenger – per paura di subire conseguenze
negative o ripercussioni sul piano lavorativo.
AUTO-INGANNO
INTERESSE PERSONALE
PAURA
IGNORANZA
LA VISIONE MICROSCOPICA
Come emerso per esempio dal rapporto «Rogers», i dirigenti della NASA non
erano sempre ben informati delle varie problematiche dello shuttle e, in alcune
fasi, della missione non possedevano (dunque ignoravano) informazioni rilevanti.
La ragione di ciò potrebbe essere stata la seguente: a mano a mano che le
informazioni raggiungevano le sfere più alte della gerarchia organizzativa sempre
più i punti di vista dissenzienti venivano filtrati dando così luogo a una versione
eccessivamente sterile dei fatti.
Il rapporto «Rogers» ha fatto emergere l’esistenza di un ‘recinto
culturale’ (cultural fence) tra ingegneri e manager.
AUTO-INGANNO
INTERESSE PERSONALE
PAURA
IGNORANZA
LA VISIONE MICROSCOPICA
LA VISIONE MICROSCOPICA
LA VISIONE MICROSCOPICA
(1933 –1984)
l’esperimento di Milgram mostra che una percentuale alta di persone demanda
e affida il proprio giudizio in maniera ossequiosa a figure autorevoli; delega le
decisioni a chi riveste un ruolo gerarchicamente superiore e rispetta
passivamente gli ordini che riceve
L’insegnante deve poi ripetere la seconda parola di ogni coppia insieme a quattro associazioni
diverse («azzurra: auto, acqua, scatola, lampada) e domandare all’allievo quale sia la parola
indicata nella coppia originaria
L’insegnante deve poi stabilire la correttezza delle risposte. In caso di risposta scorretta,
l’insegnante ha il compito di punire l’allievo con una scossa elettrica (si parte da 15 volt fino
ad arrivare a 450 volt).
In base ai risultati ottenuti, molti soggetti T seguitano a impartire scosse
elettriche anche di fronte a lamentele e suppliche di pietà da parte dei soggetti
che le subiscono.
Anche quando hanno protestato verbalmente durante le prove, i partecipanti
hanno ubbidito ed eseguito quello che gli veniva ordinato di fare. Secondo
Milgram, questo grado di obbedienza è stato indotto dalla presenza di una figura
legittimamente riconosciuta come un’autorità.
LA VISIONE MICROSCOPICA
1. nei processi decisionali, occorrerebbe confrontarsi con un gruppo più vasto;
2. il leader dovrebbe mostrarsi imparziale durante una discussione ed eventualmente
esprimere la propria opinione dopo tutti gli altri;
3. occorrerebbe suddividere il gruppo in gruppi più piccoli e assegnare ad essi compiti
diversi;
4. il lavoro finale dei piccoli gruppi dovrebbe essere discusso insieme agli altri gruppi;
5. esperti esterni dovrebbero essere invitati a partecipare alle discussioni; i membri dei
singoli gruppi dovrebbero avere la possibilità di fare domande e discutere insieme agli
esperti.
6. occorrerebbe individuare un ‘Avvocato del Diavolo’ in grado di mettere in discussione le
idee del gruppo;
7. occorrerebbe avere la possibilità di un secondo momento (una seconda fase) per
presentare alternative.
Il «pensiero di gruppo» può dunque impedire e ostacolare anche
l’azione responsabile di un tecnico?