You are on page 1of 17

A. M. TURING, Macchine calcolatrici e intelligenza, (tit. orig.

Computing Machinery and Intelligence)

I - IL GIOCO DELL'IMITAZIONE Mi propongo di considerare la domanda "Le macchine possono pensare?". Si dovrebbe cominciare col definire il significato dei termini "macchina" e "pensare". Le definizioni potrebbero essere formulate in modo da riflettere al massimo grado l'uso normale di queste parole, ma in ci vi sono dei pericoli. Se il significato delle parole "macchina" e "pensare" da ricavarsi in base al loro uso comune, difficile sfuggire alla conclusione che per scoprire il significato e la risposta alla domanda "Le macchine possono pensare?" si debba ricorrere a un'indagine statistica, come pu esserlo un sondaggio Gallup. Il che assurdo. Invece di tentare di dare una definizione del genere, sostituir quella domanda con un'altra, che strettamente connessa alla prima ed espressa con parole relativamente non ambigue. La nuova forma del problema pu essere descritta ricorrendo a un gioco che chiameremo "gioco dell'imitazione". Vi sono tre giocatori: un uomo (A), una donna (B) e un interrogante (C), che pu, essere dell'uno o dell'altro sesso. L'interrogante sta in una stanza da solo, separato dagli altri due. Scopo del gioco per l'interrogante quello di determinare quale delle altre due persone sia l'uomo e quale la donna. Egli le conosce tramite le etichette X e Y, e alla fine del gioco dir "X A e Y B", oppure "X B e Y A". L'interrogante ha facolt di porre ad A e a B domande del tipo: C: X, vuole dirmi per favore quanto sono lunghi i suoi capelli? Ora, supponendo che X sia A, A che deve rispondere. Scopo di A nel gioco quello d'ingannare C e d'indurlo a sbagliare l'identificazione. La sua risposta quindi potrebbe essere: "Ho i capelli pettinati alla maschietta e le ciocche pi lunghe sono circa venti centimetri". Per evitare che il tono della voce possa aiutare l'interrogante, le risposte dovrebbero essere scritte, o meglio ancora battute a macchina. La soluzione migliore sarebbe quella di collegare le due stanze con una telescrivente. Oppure le domande e le risposte potrebbero essere riportate da un intermediario. Scopo del gioco per il terzo giocatore (B) quello di aiutare l'interrogante. Probabilmente la strategia migliore per B, cio per la donna, di dare risposte veritiere. Essa pu aggiungere alle sue risposte frasi del tipo: "Sono io la donna, non dargli ascolto!"; ma ci non approder a nulla, dato che anche l'uomo pu fare osservazioni analoghe. Ora chiediamoci: "Che cosa accadr se in questo gioco una macchina prender il posto di A?". L'interrogante sbaglier altrettanto spesso in questo caso di quando il gioco effettuato fra un uomo e una donna? Queste domande sostituiscono la nostra domanda originaria "Le macchine possono pensare?". II - CRITICA DEL NUOVO PROBLEMA Oltre a chiedere: "Qual la risposta alla domanda in questa sua nuova formulazione?", si pu anche chiedere: "Vale la pena indagare su questo nuovo problema?". Ci occuperemo senz'altro indugio di quest'ultima domanda, interrompendo cos un regresso all'infinito. Il nuovo problema ha il vantaggio di tracciare una linea di demarcazione abbastanza netta tra le capacit fisiche e quelle intellettuali dell'uomo. Nessun ingegnere o chimico sostiene di poter fabbricare un materiale indistinguibile dalla pelle umana. possibile che prima o poi forse ci si riesca ma anche supponendo che questa invenzione sia gi stata fatta, dovrebbe esser chiaro che rivestire una "macchina pensante" di questa carne artificiale non servirebbe granch a renderla pi umana. La forma che abbiamo dato al problema riflette questo fatto nella condizione che l'interrogante non deve vedere o toccare i suoi compagni di gioco o udirne la voce. Altri vantaggi del criterio proposto possono essere messi in luce attraverso esempi di domande e risposte. Eccone uno: D.: Per cortesia, mi scriva un sonetto che tratti del Ponte sul Forth [un ponte sul fiordo di Forth, in Scozia]. R.: Non faccia affidamento su di me per questo, non ho mai saputo scrivere poesie.

2
D.: Sommi 34957 a 70764. R.: (Pausa di circa 30 secondi e poi la risposta) 105621. D.: Gioca a scacchi? R.: S. D.: Ho il Re in e1 e nessun altro pezzo. Lei ha solo il Re in c3 e una Torre in h8: Tocca a lei muovere. Che mossa fa? R.: (Dopo una pausa di 15 secondi) Torre in hl, matto. Il metodo basato su domanda e risposta sembra essere quello pi adatto a consentirci d'introdurre quasi tutti i campi dell'attivit umana che desideriamo considerare. Non vogliamo penalizzare la macchina per la sua incapacit di brillare in un concorso di bellezza, n penalizzare luomo perch perde una corsa contro un aeroplano. Le condizioni in cui si svolge il nostro gioco rendono non pertinenti questi difetti. I testimoni", se lo ritengono opportuno, possono gloriarsi quanto vogliono del loro fascino, della loro forza o del loro eroismo, ma l'interrogante non pu pretendere dimostrazioni pratiche. Il gioco pu forse essere criticato sulla base del fatto che troppo nettamente a sfavore della macchina. Se l'uomo dovesse fingere di essere la macchina, farebbe certamente una ben misera figura. Sarebbe tradito immediatamente dalla sua lentezza e imprecisione nell'aritmetica. Non potrebbe darsi che le macchine si comportino in una maniera che non pu non essere descritta come pensiero, ma che molto differente da quanto fa un essere umano? Questa obiezione molto forte, ma almeno possiamo dire che, se ci nonostante si pu costruire una macchina in grado di giocare soddisfacentemente il gioco dell'imitazione, non c bisogno di preoccuparsene. Si potrebbe obiettare che, giocando al "gioco dell'imitazione", la strategia migliore per la macchina potrebbe forse non essere l'imitazione del comportamento umano. Pu anche darsi; ma non credo che si possa dare gran peso a una possibilit del genere. In ogni caso, non nostra intenzione esaminare qui la teoria di questo gioco, e sar dato per scontato che la strategia migliore per la macchina sia quella di provare a formulare le risposte che sarebbero date spontaneamente da un essere umano. III - LE MACCHINE AMMESSE AL GIOCO La domanda che abbiamo posto all'inizio non sar del tutto definita finch non avremo specificato che cosa intendiamo con il termine macchina". Naturalmente noi vogliamo consentire, per la costruzione delle nostre macchine, l'uso di ogni possibile sorta di tecnica ingegneristica. Desideriamo anche ammettere la possibilit che un ingegnere o un gruppo di ingegneri costruisca una macchina funzionante, ma il cui funzionamento non possa essere descritto in modo soddisfacente dai costruttori perch il metodo da essi impiegato per costruirla in gran parte empirico. Infine dal novero delle macchine vogliamo escludere gli uomini nati nel modo solito. difficile formulare le definizioni cos da soddisfare queste tre condizioni. Si potrebbe ad esempio pretendere che tutti gli ingegneri del gruppo fossero del medesimo sesso, ma ci non sarebbe soddisfacente, poich probabile che si possa far sviluppare un individuo completo da una sola cellula (della pelle, per esempio) di un uomo. Riuscire a far ci sarebbe una conquista della tecnica biologica degna del pi alto elogio, ma non ci sentiremmo disposti a considerarlo un caso di "costruzione di una macchina pensante". Questo ci spinge ad abbandonare la richiesta che debbano essere permesse tecniche di ogni genere. Siamo tanto pi disposti a questa rinuncia in quanto l'interesse attuale per le "macchine pensanti" stato destato da un genere particolare di macchina, chiamato di solito "calcolatore elettronico" o "calcolatore digitale". Alla luce di questa considerazione, ammetteremo al nostro gioco solo i calcolatori elettronici digitali... Questa speciale propriet dei calcolatori digitali di poter imitare qualsiasi macchina a stati discreti viene espressa dicendo che essi sono macchine universali. L'esistenza di macchine dotate di questa propriet ha una conseguenza importante: a prescindere da considerazioni di velocit, non necessario progettare macchine sempre diverse per eseguire diversi processi di calcolo. Essi

3
possono essere eseguiti tutti da un solo calcolatore digitale opportunamente programmato per ciascun caso. Vedremo che, in conseguenza di ci, tutti i calcolatori digitali sono in un certo senso equivalenti. Si potrebbe anche sostenere che lidentificazione delle macchine con i calcolatori digitali, come pure il nostro criterio per il concetto di pensare, sarebbe insoddisfacente se (contrariamente a quanto credo) risultasse che i calcolatori digitali sono incapaci di fare una buona figura nel gioco. C gi un buon numero di calcolatori digitali in funzione e si potrebbe chiedere: Perch non tentare immediatamente lesperimento? Sarebbe facile soddisfare le condizioni del gioco. Potrebbe essere usato un certo numero di esaminatori, e potrebbero essere compilate statistiche per mostrare in quale proporzione stata fornita lidentificazione giusta. La risposta pi rapida che non ci stiamo chiedendo se tutti i calcolatori digitali potrebbero far buona figura nel gioco n se potrebbero fare buona figura nel gioco i calcolatori attualmente disponibili, ma se siano immaginabili calcolatori che potrebbero farla. Ma questa solo una risposta per tagliar corto alle discussioni. Considereremo pi tardi questa domanda sotto una luce diversa. IV - CALCOLATORI DIGITALI L'idea che sta alla base dei calcolatori digitali pu essere spiegata dicendo che queste macchine sono costruite per compiere qualsiasi operazione che possa essere compiuta da un calcolatore umano. Si suppone che il calcolare umano segua regole fisse; egli non ha l'autorit di deviare da esse in un dettaglio. Possiamo supporre che queste regole siano fornite da un libro, che viene modificato ogni volta che egli viene adibito ad un nuovo lavoro. Egli ha pure una riserva illimitata di carta sulla quale fare i suoi calcoli. Pu anche compiere le sue moltiplicazioni e addizioni con una calcolatrice da tavolo, ma questo non importante. Se usiamo la spiegazione data sopra come una definizione rischiamo cadere in un circolo vizioso. Evitiamo questo rischio dando unindicazione dei metodi attraverso i quali leffetto desiderato viene raggiunto. Un calcolatore digitale pu essere normalmente considerato composto di tre parti: a) memoria; b) unit operativa; c) governo. La memoria un deposito di informazioni, e corrisponde alla carta del calcolatore umano, sia che si tratti della carta sulla quale egli fa i suoi calcoli, sia di quella sulla quale stampato il suo libro di regole. Per quella parte dei calcoli che il calcolatore umano compie con il suo cervello, una parte di questo deposito corrisponder alla sua memoria. L'unit operativa la parte che compie le varie operazioni singole che un calcolo comporta. Quali saranno queste singole operazioni dipender dalle diverse macchine. Di solito possono essere compiuti calcoli piuttosto lunghi come "moltiplicare 3 540 675445 per 7 076 345687", ma in alcune macchine sono possibili soltanto operazioni molto semplici del tipo "scrivere zero. Abbiamo fatto presente che il "libro delle regole" fornito al calcolatore umano sostituito nella macchina da una parte della memoria. Si chiama allora "tavola delle istruzioni". E compito del "governo" controllare che queste istruzioni siano eseguite correttamente e nell'ordine giusto. Il governo costruito in maniera tale che questo avviene necessariamente. Le informazioni contenute nella memoria sono comunemente suddivise in sezioni di dimensioni abbastanza ridotte. In una macchina, per esempio, una sezione potrebbe consistere di dieci cifre decimali. Vengono assegnati dei numeri alle parti della memoria nelle quali le varie sezioni di informazione vengono immagazzinate, in una qualche maniera sistematica. Unistruzione tipica potrebbe dire: "Sommare il numero immagazzinato nella posizione 6809 a quello contenuto nella posizione 4302 e riportare il risultato in quest'ultima cella di memoria." Inutile dire che non sarebbe necessario esprimersi in un linguaggio umano nei confronti della macchina. L'ordine sarebbe pi probabilmente codificato in una forma del tipo 6 809 430 217. Qui 17 indica quale delle possibili operazioni deve essere compiuta sui due numeri. In questo caso l'operazione quella descritta sopra, cio: "Sommare il numero..." Si sar notato che l'istruzione comprende 10 cifre e forma cos un blocchetto di informazione, cosa molto conveniente. Il governo

4
normalmente far in modo che le istruzioni siano eseguite secondo l'ordine delle posizioni nelle quali sono immagazzinate, ma occasionalmente si possono incontrare istruzioni del tipo: "Obbedire alla istruzione immagazzinata nella posizione 5606, e continuare", oppure: "Se la posizione 4505 contiene uno zero obbedire poi alla istruzione 6707, altrimenti continuare." Istruzioni di questi ultimi tipi sono molto importanti perch rendono possibile ripetere pi volte una sequenza di operazioni fino a quando non siano soddisfatte determinate condizioni, e obbedendo, in questo modo, non a nuove istruzioni per ogni ripetizione dell'operazione, ma sempre alle stesse. Per fare un'analogia di carattere familiare, supponiamo che la mamma voglia che Tommy passi dal calzolaio ogni mattina mentre va a scuola per vedere se le sue scarpe sono pronte. Essa pu chiederglielo di nuovo tutte le mattine. Oppure pu appendere una volta per tutte un avviso nell'ingresso, che egli vedr ogni volta che esce per andare a scuola, e che gli ricorda di occuparsi delle scarpe; e anche di distruggere l'avviso quando le ha ritirate. Il lettore deve accettare come un dato che i calcolatori digitali possono essere costruiti, e in effetti sono stati costruiti, secondo i principi che abbiamo descritto, e che essi possono in effetti imitare molto da vicino le azioni di un calcolatore umano. Il libro delle regole di cui abbiamo attribuito l'uso al nostro calcolatore umano naturalmente una comoda immagine. Il calcolatore umano, in realt, si ricorda di quello che ha da fare. Se si vuole che una macchina imiti il comportamento di un calcolatore umano in una serie di operazioni complesse si deve chiedere all'uomo come vanno compiute quelle operazioni e quindi tradurre la risposta nella forma di una tavola di istruzioni. Il costruire tavole di istruzioni comunemente descritto come "programmare". Programmare una macchina in modo che compia l'operazione Asignifica inserire nella macchina una tavola di istruzioni appropriate, in modo tale che essa compia l'operazione A. Una variante interessante dell'idea di calcolatore digitale quella di "calcolatore digitale con un elemento casuale". Queste macchine contengono istruzioni che comportano operazioni come gettare un dado o un processo elettronico equivalente; un'istruzione del genere potrebbe essere, per esempio: "Gettare il dado e memorizzare il numero che risulta nella posizione 1000." Alcune volte macchine del genere sono descritte come fornite di un libero arbitrio (anche se io non userei una frase del genere). Normalmente risulta impossibile determinare semplicemente osservando una macchina se essa contiene un elemento casuale, perch un effetto analogo pu essere prodotto con qualche espediente: facendo dipendere le scelte, ad esempio, dalle successive cifre decimali di . La maggior parte dei calcolatori digitali esistenti ha soltanto una memoria finita. Non c' difficolt teorica nell'idea di un calcolatore con una memoria illimitata. Naturalmente in ogni istante potr esserne usata soltanto una parte finita. Allo stesso modo pu esserne stata costruita soltanto una parte finita, ma possiamo immaginarci successive aggiunte a seconda delle esigenze. Calcolatori del genere hanno un interesse teorico particolare e li chiameremo calcolatori a capacit infinita. L'idea di un calcolatore digitale piuttosto vecchia. Charles Babbage, professore di matematica a Cambridge dal 1828 al 1839, progett una macchina del genere, da lui battezzata macchina analitica, che per non fu mai completata. Sebbene Babbage avesse tutte le idee essenziali, la sua machina a quel tempo non lasciava prevedere prospettive molto attraenti. Le velocit disponibili sarebbero state certamente superiori a quelle di un calcolatore umano, ma all'incirca 100 volte inferiori a quelle della macchina Manchester, una delle macchine moderne pi lente. La memoria doveva essere puramente meccanica, a base di ingranaggi e schede. Il fatto che la macchina analitica di Babbage dovesse essere nelle intenzioni del suo ideatore interamente meccanica ci aiuter a liberarci di una superstizione. Si data spesso importanza al fatto che i moderni calcolatori digitali sono elettrici, e che elettrico anche il sistema nervoso. Dato che la macchina di Babbage non era elettrica, e dato che tutti i calcolatori digitali sono in un certo senso equivalenti, evidente che questo uso della elettricit non pu avere importanza teorica.

5
Naturalmente l'elettricit interviene ogni volta che occorrono segnalazioni rapide, quindi non c' da sorprendersi se la troviamo in entrambi questi casi. Nel sistema nervoso i fenomeni chimici sono almeno altrettanto importanti di quelli elettrici. In alcuni calcolatori il sistema di memorizzazione prevalentemente acustico. La caratteristica di servirsi dell' elettricit d luogo quindi soltanto ad analogie superficiali. Desiderando trovare somiglianze tra calcolatori e sistema nervoso dovremmo piuttosto interessarci delle analogie matematiche di funzionamento. V - UNIVERSALITA DEI CALCOLATORI DIGITALI I calcolatori digitali esaminati nell'ultimo paragrafo possono essere classificati tra le "macchine a stati discreti", cio tra quelle che si muovono a salti o scatti improvvisi da uno stato ben definito a un altro. Questi stati sono abbastanza differenti tra loro perch si possa ignorare la possibilit di confusione tra di essi. Strettamente parlando non esistono macchine del genere. In realt ogni cosa si muove con continuit. Ma ci sono molti tipi di macchine che possono vantaggiosamente essere viste come macchine a stati discreti. Per esempio, considerando gli interruttori di un sistema di illuminazione comodo supporre che ogni interruttore sia decisamente chiuso o aperto. Necessariamente esistono posizioni intermedie, ma per la maggior parte degli scopi possono essere trascurate. Come esempio di macchina a stati discreti possiamo considerare una ruota che scatti girando 20 gradi una volta al secondo, ma che pu essere fermata da una leva azionata dall'esterno; inoltre vi sia una lampada che si accende in una delle posizioni della ruota. Una tale macchina pu essere descritta in forma astratta come segue. Lo stato interno della macchina (che indicato dalla posizione della ruota pu essere q1, q2 o q3 C' un segnale di ingresso io o i1 (posizione la leva). Ad ogni istante lo stato interno determinato dall'ultimo stato e dal segnale di ingresso secondo la tabella: Ultimo stato ql q2 q3 i0 Ingresso i1 q1 q1 q2 q3

q2 q3

I segnali in uscita, sole indicazioni esternamente visibili dello stato interno (la luce), sono descritti dalla tabella: Stato q l q 2 q3 Uscita u0 u 0 u1 Questo un esempio rappresentativo delle macchine a stati discreti. Esse possono essere descritte da tavole del genere purch abbiano soltanto un numero finito di stati possibili. Sembrer che, dati lo stato iniziale della macchina e i segnali di ingresso, sia sempre possibile predire tutti gli stati successivi. Questo ricorda l'ipotesi di Laplace che dallo stato completo dell'universo a un momento dato, descritto mediante la posizione e la velocit di ogni particella, sia possibile predirne tutti gli stati futuri. La predizione che stiamo esaminando , tuttavia, molto pi vicina alla realizzazione pratica di quella formulata da Laplace. Il sistema dell'universo come un tutto tale che errori molto piccoli nelle condizioni iniziali possono avere effetti disastrosi in un momento successivo. Lo spostamento di un singolo elettrone per un miliardesimo di centimetro, a un momento dato, potrebbe significare la differenza tra due avvenimenti molto diversi, come l'uccisione di un uomo un anno dopo, a causa di una valanga, o la sua salvezza. E una propriet essenziale dei sistemi meccanici che abbiamo chiamati "macchine a stati discreti", che questo fenomeno non si verifica. Perfino quando consideriamo le attuali macchine concrete, in luogo di quelle idealizzate, una conoscenza sufficientemente precisa del loro stato in un dato momento porta

6
a una conoscenza sufficientemente precisa del loro stato a un qualsiasi numero di passi successivi. Come abbiamo fatto presente, i calcolatori digitali rientrano nella classe delle macchine a stati discreti. Ma il numero di stati dei quali una macchina del genere capace di solito enormemente elevato. Per esempio per la macchina che lavora in questo momento a Manchester di circa 2165000, cio di circa 1050000. Si pu fare un paragone tra questa macchina e il nostro esempio della ruota a scatti descritta sopra che aveva tre stati. Non difficile vedere perch il numero degli stati debba essere cos elevato. Il calcolatore contiene una memoria corrispondente alla carta usata dal calcolatore umano. Deve essere possibile inserire nella memoria qualsiasi combinazione di simboli che potrebbe essere stata scritta sulla carta. Per semplicit supponiamo che vengano usati come simboli soltanto le cifre da 0 a 9. Le variazioni di grafia vengono trascurate. Supponiamo che il calcolatore abbia a disposizione 100 fogli di carta contenenti ognuno 50 righe con spazio sufficiente per 30 cifre ciascuna. Il numero degli stati allora diviene 10100 x 50 X 30, cio 10150000. Questo all'incirca il numero degli stati di tre macchine di Manchester messe insieme. Il logaritmo in base due del numero di stati chiamato di solito la "capacit di memorizzazione" della macchina. Cos la macchina di Manchester possiede una capacit di memorizzazione di circa 165.000 e la macchina a ruota del nostro esempio di circa 1,6. Se due macchine sono messe insieme le loro capacit devono essere addizionate per ottenere la capacit della macchina che ne risulta. Questo porta alla possibilit di affermazioni del genere: La macchina di Manchester contiene 64 piste magnetiche, ognuna con una capacit di 2560, e otto tubi elettronici con una capacit di 1280. La memoria mista di circa 300, il che fa un totale di 174380. Data la tavola corrispondente allo stato di una macchina a stati discreti, possibile predire cosa essa far. Non c' alcuna ragione per cui questo calcolo non possa essere compiuto facendo uso di un calcolatore digitale. Purch esso possa venir eseguito con una velocit sufficiente, il calcolatore digitale potrebbe imitare il comportamento di qualsiasi macchina a stati discreti. Il gioco dell'imitazione potrebbe allora essere giocato tra la macchina in questione (nella parte di B) e il calcolatore digitale (nella parte di A) e l'interrogante non sarebbe capace di distinguerli. Naturalmente il calcolatore digitale dovrebbe avere una memoria adeguata e funzionante a velocit abbastanza alta. Inoltre bisognerebbe programmarlo di nuovo per ogni nuova macchina che si desidera fargli imitare. Questa speciale propriet dei calcolatori digitali, cio che essi possono imitare. ogni macchina a stati discreti, si pu descrivere dicendo che essi sono macchine universali. L'esistenza di macchine con questa propriet ha la conseguenza importante che, a parte considerazioni di velocit, non necessario progettare varie macchine differenti per compiere processi differenti di calcolo. Questi possono essere compiuti tutti con un solo calcolatore digitale programmato nella forma adatta caso per caso. Si vedr che come conseguenza di ci tutti i calcolatori digitali sono in un certo senso equivalenti. Possiamo ora considerare di nuovo la questione che si era sollevata in precedenza. Era stato proposto, a titolo di prova, che la domanda: "Possono pensare le macchine?" venisse sostituita dall'altra: "Sono immaginabili calcolatori digitali che si comporterebbero bene nel gioco dell'imitazione?" Se lo desideriamo possiamo rendere la domanda ancora pi generica e chiedere: "Esistono macchine a stati discreti che si comporterebbero bene?" Ma considerando la propriet dell'universalit vediamo che entrambe queste domande sono equivalenti all'ulteriore: "Fissiamo la nostra attenzione su un particolare calcolatore digitale C. vero che, modificando il calcolatore in maniera da avere a disposizione una memoria adeguata, incrementando adeguatamente la sua velocit d'azione e fornendogli una programmazione adeguata, C pu prendere soddisfacentemente la parte di A nel gioco dell'imitazione, se la parte di B viene assunta da un uomo?" VI - OPINIONI CONTRARIE SUL PROBLEMA PRINCIPALE

7
A questo punto possiamo ritenere sgombro il terreno,e siamo pronti a iniziare il dibattito .sulla nostra domanda "Le macchine possono pensare?"... Non possiamo abbandonare del tutto la formulazione originale del problema, poich vi saranno opinioni contrastanti quanto alla legittimit della sostituzione e dobbiamo almeno ascoltare ci che altri hanno da dire a questo proposito. Aiuter il lettore a orientarsi meglio se, per cominciare, gli esporr le mie convinzioni sulla questione. Consideriamo dapprima la formulazione pi precisa della domanda. lo credo che tra una cinquantina d'anni sar possibile programmare calcolatori aventi una capacit di memoria di circa 109, in modo da farli giocare cos bene al gioco dell'imitazione che un interrogante medio avr una probabilit non superiore al 70% di compiere l'identificazione giusta dopo cinque minuti di interrogatorio. Credo che la domanda iniziale "Le macchine possono pensare?" sia troppo priva di senso per meritare una discussione. Ci nonostante, credo che alla fine del secolo l'uso delle parole e l'opinione corrente saranno talmente mutati che si potr parlare di macchine pensanti senza aspettarsi di essere contraddetti. Credo inoltre che nascondere queste convinzioni non abbia nessuna utilit. L'opinione popolare che gli scienziati procedano in modo inesorabile da un fatto ben stabilito a un altro, senza esser mai influenzati da congetture non dimostrate, assolutamente sbagliata. Purch sia chiaro quali sono i fatti dimostrati e quali sono le congetture, non pu esserci alcun inconveniente. Le congetture hanno una grande importanza, poich suggeriscono utili linee di ricerca. Passo ora a considerare alcune opinioni opposte alla mia. (l) Obiezione teologica. Pensare una funzione dell' anima immortale dell'uomo. Dio ha dato un'anima immortale a tutti gli uomini e a tutte le donne, ma non agli altri animali o alle macchine. Perci n gli animali n le macchine sono in grado di pensare. Non riesco ad accettare neanche una parola di ci, ma cercher di rispondere in termini teologici. L'argomento sarebbe a mio parere pi convincente se gli animali fossero collocati nella stessa categoria degli uomini, poich ritengo che vi sia una differenza maggiore tra l'essere animato in genere e l'essere inanimato che non fra l'uomo e gli altri animali. Il carattere arbitrario della concezione ortodossa diventa pi chiaro se consideriamo come essa potrebbe apparire a un membro di qualche altra confessione religiosa. Che cosa pensano i cristiani dell'idea musulmana che le donne non hanno anima? Ma lasciamo perdere questo punto e torniamo all'argomento principale. A me sembra che l'argomento riportato sopra implichi una seria imitazione dell'onnipotenza dell Onnipotente. Pur ammettendo che ci sono certe cose che Egli non pu fare, ad esempio rendere uno uguale a due, non dovremmo credere che Egli ha la libert di dare l'anima a un elefante se lo ritiene opportuno? Potremmo attenderci che Egli eserciterebbe questo potere solo in concomitanza con una mutazione che desse all'elefante un cervello opportunamente potenziato per prendersi cura di quest'anima. Nel caso delle macchine si pu fare un ragionamento di forma esattamente simile. Esso pu sembrare diverso perch pi difficile da "mandar gi", ma in realt ci significa soltanto che noi riteniamo meno probabile che Egli giudichi tali circostanze idonee al conferimento di un'anima. Le circostanze in questione sono discusse nel seguito di questo articolo. Cercare di costruire macchine siffatte non sar da parte nostra un'empia usurpazione del Suo potere di creare anime pi di quanto non lo sia la procreazione dei bambini: in entrambi i casi siamo piuttosto strumenti della Sua volont, in quanto procuriamo dimore pel le anime che Egli crea.. Queste tuttavia sono mere speculazioni. Non mi lascio impressionare molto dagli argomenti teologici, qualunque sia la tesi che vogliono sostenere. Gi in passato essi sono spesso risultati insoddisfacenti. All'epoca di Galileo si sosteneva che i versetti -"Si ferm il Sole... e non s affrett a calare quasi un giorno intero" (Giosu lO, 13) e "Hai fondato la terra sulle sue basi, mai potr vacillare" (Salmi 104, 5) costituissero una confutazione soddisfacente della teoria copernicana. Alla luce del1 conoscenze attuali questo argomento appare inconsistente, ma quando. non si disponeva ancora di tali conoscenze, esso faceva un'impressionI molto diversa.

8
(2) Obiezione dello "struzzo". "Se le macchine pensassero, le conseguenze sarebbero terribili; speriamo e crediamo che esse non possano " farlo". raro che questo argomento venga espresso in forma cos esplicita. Tuttavia, se ci si pensa appena un po', quasi inevitabile esserne influenzati. Ci piace credere che, sotto sotto, l'Uomo sia superiore al resto del creato. La cosa migliore sarebbe poter dimostrare che egli necessariamente superiore, poich allora non correrebbe nessun pericolo di perdere la sua posizione di comando. La popolarit dell'argomento teologico chiaramente legata a questa convinzione. probabile che essa sia molto forte tra gli intellettuali, poich essi apprezzano pi degli altri la facolt di pensare e sono pi inclini a basare su questa facolt la loro fede nella superiorit dell'Uomo. Non ritengo questo argomento tanto importante da meritare una confutazione: ha piuttosto bisogno di consolazione, forse da ricercarsi nella metempsicosi. (3) Obiezione matematica. Vi sono molti risultati della logica matematica che possono essere usati per dimostrare l'esistenza di limitazioni a ci che le macchine a stati discreti possono fare. Il pi noto di questi risultati conosciuto col nome di teorema di GodeI; esso mostra come in qualunque sistema logico sufficientemente potente si possono formulare enunciati non dimostrabili n confutabili all'interno del sistema, a meno che, forse, il sistema stesso non sia incoerente. Altri risultati, simili sotto certi aspetti, sono dovuti a Church, Kleene, Rosser e Turing. Quest'ultimo risultato quello che si presta meglio a essere esaminato, poich si riferisce direttamente alle macchine, mentre gli altri possono essere usati solo in un'argomentazione relativamente indiretta: se vogliamo ad esempio usare il teorema di GodeI dobbiamo anche poter descrivere i sistemi logici in termini di macchine e le macchine in termini di sistemi logici. Il risultato in questione riguarda un tipo di macchina che in sostanza un calcolatore digitale con capacit infinita; esso asserisce che vi sono certe cose che una tale macchina non pu fare. Se predisposta per rispondere a delle domande, come nel gioco dell'imitazione, vi saranno domande alle quali o risponder in modo erroneo oppure non risponder affatto, anche dandole tutto il tempo che si vuole per rispondere. Le domande del genere sono naturalmente molte, e quelle che non ricevono risposta soddisfacente da una macchina posso- no riceverla da un'altra. Per il momento supponiamo naturalmente che le domande siano del genere cui si pu rispondere con un "s" o con un "no", e non quelle del tipo: "Che cosa pensi di Picasso?". Le domande alle quali sappiamo che la macchina non sapr rispondere sono di questo tipo: "Considera la macchina che abbia le seguenti caratteristiche... Questa macchina risponder mai 's' a qualche domanda?". Al posto del puntini ci dovr essere la descrizione in forma standard di una qualche macchina... Quando. la macchina descritta sta in una qualche relazione abbastanza semplice con la macchina interrogata, si pu dimostrare che la risposta o sbagliata o non viene data. Questo il risultato matematico: Si sostiene che esso dimostra una limitazione delle macchine di cui l'intelletto umano non soffre. Per rispondere in poche parole a questa argomentazione si pu dire che, pur essendo stato accertato che qualunque macchina particolare soffre di limitazioni della propria potenza, il fatto che limitazioni di questa sorta non valgano per l'intelletto umano stato soltanto enunciato, ma non suffragato da qualche dimostrazione. Non penso tuttavia che di questa opinione ci si possa sbarazzare in modo cos sbrigativo. Quando a una di queste macchine si pone la domanda critica appropriata ed essa d una risposta precisa, sappiamo che questa risposta deve essere erronea, e questo ci d una certa sensazione di superiorit. illusoria questa sensazione? Non c' dubbio che essa sia genuina, ma non credo che dovremmo attribuirle troppa importanza. Noi stessi diamo troppo spesso risposte sbagliate perch sia giustificato il nostro compiacimento di fronte a questa dimostrazione di fallibilit da parte delle macchine. Inoltre, in queste occasioni, possiamo sentirci superiori solo nei confronti della macchina particolare sulla quale abbiamo riportato il nostro meschino trionfo. Trionfare contemporaneamente su tutte le macchine non sarebbe affatto possibile. In breve, dunque, vi potrebbero essere uomini pi intelligenti di una qualsiasi macchina data, ma vi potrebbero anche essere altre macchine pi intelligenti ancora, e cos via.

9
Coloro che sostengono l'argomento matematico sarebbero per la maggior parte disposti, io credo, ad accettare il gioco dell'imitazione come base per la discussione. Coloro che credono nelle due obiezioni precedenti non avrebbero probabilmente nessun interesse per alcun criterio. (4) Argomento della coscienza. Questo argomento stato ottimamente esposto dal professor Jefferson nella Lister Oration del 1949, dalla quale cito: "Fino a quando una macchina non potr scrivere un sonetto o comporre un concerto in base a pensieri ed emozioni che ha provato, e non per giustapposizione casuale di simboli, non potremo accettare che la macchina eguagli il cervello, cio che non solo scriva ma sappia di aver scritto. Fino a quel momento, nessun meccanismo potr sentire (e non semplicemente segnalarlo artificialmente, il che sarebbe un facile trucco) piacere per i suoi successi o dolore quando una sua valvola si brucia; n potr inorgoglirsi per l'adulazione, deprimersi per i propri errori, essere attratto dal sesso, arrabbiarsi o abbattersi quando non pu ottenere quel che desidera". Questo argomento sembra proprio confutare la validit del nostro test. Secondo la versione pi radicale di questa posizione, l'unico modo per essere sicuri che una macchina pensa di essere quella macchina e sentirsi pensare. Si potrebbe allora descrivere questa sensazione al mondo, ma naturalmente nessuno sarebbe tenuto a prenderne atto. Allo stesso modo, secondo questa concezione, l'unica maniera per sapere che un dato uomo pensa di essere quell'uomo. Si tratta in effetti della posizione solipsistica. Pu essere la concezione pi logica da sostenere, ma rende difficile la comunicazione delle idee. Si crea questa situazione: A convinto che "A pensa ma B no", mentre B crede che "B pensa ma A no". Invece di discutere continuamente su questo punto, di solito per educazione si adotta la convenzione che tutti pensano. Sono sicuro che il professor Jefferson non desidera assumere il punto di vista estremo e solipsistico. Probabilmente egli sarebbe dispostissimo ad accettare come test il gioco dell'imitazione. Questo gioco (senza la partecipazione del giocatore B) usato spesso, e conosciuto col nome di "esame orale", per scoprire se una persona ha davvero capito una cosa o se l'ha imparata "a pappagallo". Ascoltiamo un brano di un tale esame orale: l INTERROGANTE: Nel primo verso del suo sonetto che dice "Ti paragoner ~ a un giorno d'estate?", "un giorno di primavera" andrebbe bene lo stesso, o magari meglio? INTERROGATO: Non quadrerebbe metricamente. INTERROGANTE: E "un giorno d'inverno"? Metricamente andrebbe bene. INTERROGATO: S, ma nessuno vorrebbe essere paragonato a un giorno d'inverno. INTERROGANTE: Lei direbbe che il signor Pickwick le ricorda Natale? INTERROGATO: In un certo senso. INTERROGANTE: Eppure Natale un giorno d'inverno, e non credo che il paragone dispiacerebbe al signor Pickwick. INTERROGATO: Credo che lei voglia scherzare, Dicendo "un giorno d'inverno" si pensa a un tipico giorno d'inverno, piuttosto che a un giorno speciale come Natale. . E cos via. Che cosa direbbe il professor Jefferson se la macchina che scrive sonetti fosse capace di rispondere in questo modo in un esame orale? Non so se egli riterrebbe che la macchina sta solo "segnalando artificialmente" queste risposte, ma se le risposte fossero soddisfacenti e senza esitazioni, come nel passo precedente, non credo che parlerebbe di "facile trucco". Esprimendosi cos egli intende riferirsi, io credo, a certi espedienti come l'inserimento nella macchina della registrazione di un sonetto letto da qualcuno, con un interruttore apposito che di quando in quando la faccia partire. In breve, dunque, ritengo che la maggior parte di coloro che sostengono l'argomento della coscienza si persuaderebbero ad abbandonarlo piuttosto che vedersi obbligati alla posizione solipsistica. A questo punto sarebbero probabilmente disposti ad accettare il nostro test. Non voglio dar l'impressione di pensare che riguardo alla coscienza non ci sia alcun mistero: ad esempio, ogni tentativo di trovarne la sede porta a qualche forma di paradosso. Tuttavia non penso

10
che sia necessario risolvere questi misteri prima di poter dare una risposta alla domanda di cui ci occupiamo in questo articolo. (5) Argomenti fondati su incapacit varie. Tali argomenti si presentano in questa forma: "Ammetto che si possa far fare alle macchine tutto quello cui si accennato, ma non si potr mai costruirne una capace di fare X". Vengono proposti a questo riguardo numerosi X. Eccone alcuni: Essere gentile, piena di risorse, bella, cordiale... avere iniziativa, avere il senso dello humour, distinguere il bene dal male, commettere errori... innamorarsi, gustare le fragole con la panna... far s che qualcuno si innamori di lei, imparare dall'esperienza... usare le parole in modo appropriato, essere l'oggetto dei propri pensieri... avere un comportamento vario quanto quello umano, fare qualcosa di realmente nuovo... Di solito queste affermazioni non vengono suffragate in alcun modo. Credo che per lo pi esse siano basate sul principio dell'induzione scientifica. Nel corso della propria vita un uomo vede migliaia di macchine e, da ci che di esse vede, trae un gran numero di conclusioni generali: sono brutte; sono progettate ciascuna per uno scopo ben preciso e quando le si vuole usare per uno scopo anche solo un po' diverso diventano inutili; la variet di comportamento di ognuna di esse molto limitata, ecc., ecc. Naturalmente egli conclude che tutte queste sono propriet necessarie delle macchine in generale. Molte di queste limitazioni sono legate alla piccolissima capacit di memoria della maggior parte delle macchine. (Parto dall'assunto che il concetto di memoria venga esteso, in qualche modo, anche a macchine diverse da quelle a stati discreti. La definizione esatta non ha importanza, poich in questa discussione non si mira alla precisione matematica). Fino ad alcuni anni fa, quando si parlava ancora poco di calcolatori digitali, era possibile suscitare molta incredulit se si illustravano. le loro propriet senza descrivere come erano costruiti. Ci era dovuto presumibilmente a un'applicazione analoga del principio dell'induzione scientifica. Queste applicazioni del principio sono naturalmente:e in ampia misura inconsce. Quando un bambino che una volta si scottato teme il fuoco e dimostra questo timore sfuggendolo, direi che egli applica l'induzione scientifica. (Naturalmente potrei descrivere il suo comportamento anche in molti altri modi. Le attivit e le abitudini degli uomini non sembrano costituire un buon terreno di applicazione per l'induzione scientifica. Se si vogliono ottenere risultati attendibili, si deve prendere in esame una porzione vastissima dello spazio-tempo; altrimenti si finir magari col credere (come fanno gran parte dei bambini inglesi) che tutti parlino inglese e che stupido imparare il francese. A proposito di molte delle incapacit che abbiamo ricordato sopra, dobbiamo tuttavia fare alcune osservazioni specifiche. Il lettore pu aver pensato che l'incapacit di gustare le fragole con la panna sia futile. Forse si potrebbe costruire una macchina capace di gustare questo delizioso dessert, ma qualunque sforzo in questo senso sarebbe idiota. Il fatto importante che questa incapacit concorre ad aggravare qualcuna delle altre, ad esempio aumenta la difficolt che tra uomo e macchina si stabilisca lo stesso genere di cameratismo che c' fra due bianchi oppure fra due neri. L'affermazione che "le macchine non possono commettere errori" sembra curiosa. Si tentati di ribattere: "Forse che per questo sono peggiori?". Ma assumiamo un atteggiamento pi comprensivo e cerchiamo di capire il vero significato di questa critica. Credo che ne troveremo la spiegazione proprio col gioco dell'imitazione. Si sostiene che l'interrogante potrebbe distinguere la macchina dall'uomo semplicemente sottoponendo loro un certo numero di problemi aritmetici. La macchina sarebbe tradita dalla sua tremenda precisione. facile ribattere a questa obiezione: la macchina (programmata per giocare quel gioco) non cercherebbe di dare le risposte giuste ai problemi aritmetici: introdurrebbe a bella posta errori calcolati in modo da confondere l'interrogante. Un difetto meccanico probabilmente si manifesterebbe attraverso una decisione inadeguata sul tipo di errori da inserire nelle operazioni aritmetiche. Neppure questa interpretazione della critica ne coglie tutto il significato, ma non possiamo permetterci, per ragioni di spazio, di approfondirla oltre. A me sembra che questa critica derivi da una confusione fra due generi di errori, che possiamo chiamare "errori di funzionamento" ed "errori di conclusione". Gli errori di funzionamento sono dovuti a qualche difetto meccanico o elettrico che porta la macchina a comportarsi diversamente da com'era stata progettata. Nelle discussioni filosofiche si preferisce ignorare la possibilit di tali errori e ci si

11
occupa quindi di "macchine astratte". Queste macchine astratte sono finzioni matematiche, e non oggetti fisici; per definizione esse non sono soggette a errori di funzionamento. In questo senso possiamo dire a buon diritto che "le macchine non possono mai commettere errori". Gli errori di conclusione possono presentarsi solo quando ai segnali che escono dalla macchina viene attribuito qualche significato. La macchina, ad esempio, potrebbe scrivere equazioni matematiche o frasi in inglese. Quando la macchina scrive una proposizione falsa, diciamo che essa ha commesso un errore di conclusione. chiaro che non c' alcuna ragione per affermare che una macchina non pu commettere errori di questo genere: essa potrebbe non fare altro che scrivere ripetutamente "0= l ". Per fare un esempio meno esagerato, la macchina potrebbe disporre di un metodo per trarre conclusioni basate sull'induzione scientifica. Dobbiamo aspettarci che ogni tanto questo metodo porti a risultati erronei. All'affermazione che una macchina non pu essere oggetto, o argomento, del proprio pensiero naturalmente si pu rispondere solo se si riesce a dimostrare che la macchina ha qualche pensiero su qualche oggetto, o argomento. Nondimeno l'espressione "oggetto delle operazioni di una macchina" sembra avere un qualche significato, almeno per le persone che se ne occupano. Se per esempio la macchina stesse tentando di trovare una soluzione dell'equazione x2 -40x -Il = O, si sarebbe tentati di dire che questa equazione fa parte in quell'istante dell'argo- mento su cui la macchina opera, cio dell'oggetto della macchina. In questo senso la macchina pu senza dubbio costituire oggetto di se stessa. La si pu usare per allestire i suoi stessi programmi o per prevedere quale effetto avranno le alterazioni della sua struttura. Osservando i risultati del proprio comportamento, essa pu modificare i propri programmi per conseguire in modo pi efficace un qualche obiettivo. Si tratta di possibilit di un futuro prossimo e non di sogni utopistici. . Criticare una macchina perch non pu manifestare una grande variet di comportamenti solo un modo per dire che essa non pu avere una grande capacit di memoria. Fino a tempi piuttosto recenti una memoria anche solo di un migliaio di cifre era rarissima. Le critiche che stiamo considerando ora sono spesso travestimenti dell'argomento della coscienza. Anche se qualcuno sostiene che una macchina riesce a fare una di queste cose e descrive il tipo di metodo che la macchina potrebbe seguire, di solito non produce una grande impressione. Si pensa infatti che il metodo, qualunque esso sia, poich deve essere meccanico, sia in realt piuttosto meschino. Si vedano le parole tra parentesi nella dichiarazione di Jefferson citata sopra. (6) Obiezione di Lady Lovelace. Le informazioni pi dettagliate che possediamo sulla Macchina Analitica di Babbage sono tratte da un saggio di Lady Lovelace. In esso si afferma: "La Macchina Analitica non ha la pretesa di creare alcunch. Pu fare qualunque cosa siamo in grado di ordinarle di fare" (corsivo dell'autrice). Questa affermazione citata da Hartree, il quale aggiunge: "Ci non significa che non sia possibile costruire un'apparecchiatura elettronica che 'pensi per conto proprio' o nella quale, per esprimersi in termini biologici, si possa inserire un riflesso condizionato che costituirebbe una base per lapprendimento'. Se ci sia possibile o no in linea di principio un problema emozionante e stimolante sollevato da alcuni degli sviluppi pi recenti. Ma non sembrava che le macchine costruite o progettate a quel tempo avessero questa propriet". Su questo punto concordo perfettamente con Hartree. Si noter che egli non afferma che le macchine in questione non avessero quella propriet, ma piuttosto che gli elementi a disposizione di Lady Lovelace non l'incoraggiavano a ritenere che l'avessero. tuttavia possibile che le macchine in questione possedessero in un certo senso questa propriet. Supponiamo infatti che una macchina a stati discreti la possegga. La Macchina Analitica era un calcolatore digitale universale, e di conseguenza, se la sua capacit di memoria e la sua velocit fossero state sufficienti, opportunamente programmata essa avrebbe potuto imitare la macchina in questione. Probabilmente questo ragionamento non venne in mente alla Contessa o a Babbage; comunque essi non erano tenuti a sostenere tutto ci che si poteva sostenere. Tutto questo problema sar ripreso in considerazione quando parler delle macchine apprendono. Una variante dell'obiezione di Lady Lovelace asserisce che una macchina "non pu mai fare qualcosa di realmente nuovo". A questo si pu opporre per un momento il detto "Non c' nulla di

12
nuovo sotto il sole". Chi pu essere sicuro che il "lavoro originale" da lui compiuto non sia soltanto il frutto del seme gettato in lui dall'insegnamento o un risultato ottenuto applicando princpi generali ben noti? Secondo una variante migliore dell'obiezione, una macchina non pu mai "coglierci di sorpresa". Quest'asserzione una sfida pi diretta e pu essere affrontata direttamente. Le macchine mi colgono di sorpresa molto di frequente; questo dipende in gran parte dal fatto che non mi applico abbastanza a calcolare che cosa devo aspettarmi da loro, o piuttosto dal fatto che, per quanto mi applichi a questo calcolo, lo faccio in modo sciatto, affrettato e arrischiato. Magari mi dico: "Qui la tensione dovrebbe essere la stessa che l; be', supponiamo che sia cos". Naturalmente spesso mi sbaglio, e il risultato per me una sorpresa, perch ora che l'esperimento concluso queste supposizioni sono gi state dimenticate. Tali ammissioni mi espongono a lunghe tirate sulla riprovevolezza del mio comportamento, ma non gettano alcun dubbio sulla mia credibilit quando attesto le mie sorprese: Non mi aspetto che questa risposta chiuda la bocca al mio critico: probabilmente egli dir che queste sorprese sono causate da qualche mio atto mentale creativo e non riflettono un merito della macchina. Questo ci allontana dall'idea della sorpresa e ci riporta all'argomento della coscienza. un argomento che dobbiamo considerare concluso, ma forse vale la pena osservare che per trovare sorprendente qualcosa occorre un "atto mentale creativo" tanto se l'evento sorprendente causato da un uomo quanto se causato da un libro, da una macchina o da qualunque altra cosa. L'idea che le macchine non possano procurarci sorprese dovuta, a mio parere, a un errore in cui cadono particolarmente i filosofi e i matematici. Si tratta dell'assunto che non appena un fatto si presenta alla mente, contemporaneamente a esso balzino alla mente tutte le conseguenze di quel fatto. In molte circostanze questo assunto utilissimo, ma ci si dimentica troppo facilmente che falso. Esso porta, come conseguenza naturale, a svalutare totalmente il lavoro di deduzione delle conseguenze dai dati e dai princpi generali. (7) Argomento fondato sulla continuit nel sistema nervoso. Il sistema nervoso non certo una macchina a stati discreti. Un piccolo errore sulla grandezza di un impulso nervoso che colpisce un neurone pu essere cruciale per quanto riguarda la grandezza dell'impulso in uscita. Si pu sostenere che, stando cos le cose, non si pu pensare di riuscire a imitare il comportamento del sistema nervoso con un sistema a stati discreti. vero che una macchina a stati discreti deve essere diversa da una macchina continua, ma se ci atteniamo alle condizioni del gioco dell'imitazione, l'interrogante non sar in grado di trarre alcun vantaggio da questa differenza. La situazione pu essere chiarita prendendo in considerazione qualche macchina continua pi semplice. A questo scopo andr benissimo un analizzatore differenziale. (Si tratta di un tipo di macchina non a stati discreti, usata per certi calcoli particolari). Alcuni analizzatori differenziali forniscono risposte stampate e sono quindi adatti a partecipare al gioco. Un calcolatore digitale non sarebbe in grado di prevedere esattamente le risposte che un analizzatore differenziale darebbe a un problema, ma sarebbe comunque capace di dare il tipo giusto di risposta. Ad esempio, richiesto di fornire il valore di pi greco (che circa 3,1416), sarebbe ragionevole che esso scegliesse a caso tra i valori 3,12; 3,13; 3,14; 3,15; 3,16 con probabilit, diciamo, 0,05; 0,15; 0,55; 0,19; 0,06. In queste condizioni sarebbe assai difficile per l'interrogante distinguere l'analizzatore differenziale dal calcolatore. (8) Argomento del comportamento senza regole rigide. Non possibile offrire un insieme di regole miranti a descrivere ci che un uomo dovrebbe fare in ogni circostanza immaginabile. Ad esempio, pu esistere la regola che ci si deve fermare a un semaforo quando acceso il rosso e proseguire quando acceso il verde; ma che si deve fare se per un guasto i due colori si accendono insieme? Forse si pu decidere che la cosa pi sicura fermarsi, ma questa decisione pu procurare in seguito qualche altra difficolt. Tentare di fornire regole di condotta per qualsiasi eventualit, anche solo quelle relative ai semafori, appare impossibile. E su questo sono d'accordo. Sulla base di ci si sostiene che noi non possiamo essere macchine. Tenter di riassumere l'argomentazione, ma temo che non riuscir a farlo adeguatamente. Dovrebbe essere pressappoco di questo tipo: "Se ogni uomo avesse un insieme definito di regole di condotta secondo le quali

13
regolare la propria vita, non sarebbe migliore di una macchina. Ma non esistono tali regole, quindi gli uomini non possono essere macchine". Salta all'occhio che qui il termine medio equivoco. Non penso che l'argomentazione venga mai enunciata in questo modo, nondimeno credo che l'argomento usato sia questo. La questione oscurata tuttavia dalla confusione tra "regole di condotta" e "leggi di comporta- mento". Per "regole di condotta" intendo precetti del tipo: "Se a un semaforo acceso il rosso, fermati", in base a cui si pu agire e di cui si pu essere consci. Per "leggi di comportamento" intendo leggi di natura riferite al corpo umano, come: "Se lo pizzichi, strilla". Se nell'argomentazione riportata sopra, invece di "regole di condotta secondo le quali regolare la propria esistenza" diciamo "leggi di comportamento che governano la propria vita", l'equivocit del termine medio pu essere superata. Infatti non solo crediamo che se si regolati da leggi di comportamento allora si una macchina di qualche genere (bench non necessariamente una macchina a stati discreti), ma anche, viceversa, che se si una siffatta macchina allora si regolati da leggi siffatte. Tuttavia convincersi che non esistono leggi di comportamento complete non tanto facile quanto convincersi che non esistono regole di condotta complete. L'unica via che conosciamo per scoprire queste leggi l'osservazione scientifica e certamente non conosciamo alcuna circostanza 'nella quale si possa dire: "Abbiamo cercato abbastanza; non esistono tali leggi". Possiamo anzi dimostrare in modo pi efficace che qualunque affermazione del genere sarebbe ingiustificata. Supponiamo infatti di poter essere sicuri di trovare tali leggi, nel caso esistessero. Allora, data una macchina a stati discreti, dovrebbe essere certamente possibile raccogliere su di essa con l'osservazione informazioni sufficienti a consentire di prevedere il suo comportamento futuro, e ci in un tempo ragionevole, diciamo mille anni. Ma le cose non sembrano stare cosi. Per il calcolatore di Manchester ho allestito un programmino che fa uso di solo mille unit di memoria, con il quale, se si fornisce alla macchina un numero di sedici cifre, essa d in risposta un altro numero di sedici cifre in due secondi. Sfido chiunque a raccogliere, da queste risposte, informazioni sufficienti a consentire di prevedere le risposte ai numeri non ancora provati. (9) Argomento fondato sulla percezione extrasensoriale (ESP). Do per scontato che il lettore sappia che cos' la percezione extrasensoriale e conosca il significato delle sue quattro branche, cio la telepatia, la chiaroveggenza, la precognizione e la psicocinesi. Questi fenomeni imbarazzanti sembrano contraddire tutte le nostre usuali idee scientifiche. Come saremmo contenti di screditarli! Purtroppo, almeno per la telepatia, le prove statistiche sono schiaccianti. molto difficile ristrutturare le nostre idee cos da farvi rientrare questi fatti nuovi. Una volta che li si accettati, non dovrebbe esser difficile arrivare a credere ai fantasmi e ai folletti. L'idea che il nostro corpo si muova semplicemente in conformit con le leggi note della fisica, insieme con alcune altre non ancora scoperte ma in qualche modo simili, sarebbe una delle prime a scomparire. A mio parere questo argomento molto forte. Si pu ribattere facendo notare che molte teorie scientifiche rimangono utilizzabili in pratica, pur scontrandosi con la percezione extrasensoriale; e che anzi possiamo andare avanti benissimo se di essa non ci curiamo affatto. una consolazione piuttosto magra, tuttavia, e ho il sospetto che il pensiero sia proprio il genere di fenomeno dove la percezione extrasensoriale pu forse essere particolarmente pertinente. Un'argomentazione pi specifica basata sulla percezione extrasensoriale potrebbe essere enunciata cos: "Giochiamo il gioco dell'imitazione prendendo come testimoni un uomo che abbia eccellenti doti di ricezione telepatica e un calcolatore. L'interrogante pu porre domande del tipo: 'A che seme appartiene la carta nella mia destra?'. L'uomo, per telepatia o chiaroveggenza, d la risposta esatta centotrenta volte su quattrocento carte. La macchina pu solo indovinare a caso, per esempio dando centoquattro volte la risposta esatta, sicch l'interrogante pu giungere alla giusta identificazione". Qui si apre una possibilit interessante. Supponiamo che il calcolatore digitale contenga un generatore di numeri casuali; allora sar naturale che se ne serva per decidere la risposta da dare. Ma allora il generatore di numeri casuali sar soggetto ai poteri psicocinetici dell'interrogante. Questo effetto psicocinetico potrebbe far s che la macchina indovinasse pi sovente di quanto non ci si attenderebbe su basi probabilistiche, sicch l'interrogante non sarebbe pi in grado di giungere

14
all'identificazione esatta. D'altra parte, egli potrebbe essere capace di indovinare senza fare alcuna domanda, per chiaroveggenza. Con l'ESP pu accadere di tutto. Se si ammette la telepatia, necessario rendere pi rigoroso il nostro test. La situazione potrebbe essere considerata analoga a quella che si presenterebbe se l'interrogante pensasse ad alta voce e uno dei giocatori ascoltasse con l'orecchio al muro. Se i giocatori fossero chiusi in una "stanza a prova di telepatia", tutte le esigenze sarebbero soddisfatte. VII - MACCHINE CHE APPRENDONO Il lettore si sar gi accorto che non ho alcuna argomentazione molto convincente di carattere positivo per sostenere il mio punto di vista. Se l'avessi avuta non mi sarei certo dedicato con tanta cura a indicare gli errori dei punti di vista opposti al mio. Le prove che ho le esporr ora. Torniamo per un attimo all'obiezione di Lady Lovelace, secondo la quale la macchina pu fare solo ci che noi le diciamo di fare. Si potrebbe dire che un uomo pu "iniettare" una idea nella macchina, e che essa risponder in una certa misura per poi ricadere nello stato di riposo, come una, corda di pianoforte colpita da un martello. Un altro paragone potrebbe essere costituito da una pila atomica di grandezza inferiore a quella critica: un'idea immessa corrisponderebbe allora a un neutrone che entra nella pila dal di fuori. Ciascun neutrone di questo tipo determiner un certo disturbo che eventualmente poi scomparir. Se, tuttavia, la grandezza della pila viene sufficientemente aumentata, il disturbo causato da un neutrone in ingresso molto probabilmente continuer ad aumentare fino alla distruzione dell'intera pila. Esiste un fenomeno corrispondente per la mente, e ne esiste uno per le macchine? Per la mente umana sembra che ne esista uno. La maggior parte delle menti umane sembra essere "sotto il livello critico", esse equivalgono cio in questa analogia alle pile di grandezza inferiore a quella critica. Un'idea che si presenti a una mente di questo tipo far nascere in media meno di un'idea, in risposta. Una parte piuttosto piccola delle menti umane invece "sopra il livello critico". Un'idea che si presenti a una di queste menti pu far nascere un'intera teoria fatta di idee del secondo ordine, del terzo o ancora pi remote. La mente degli animali pare invece essere decisamente sotto il livello critico. Attenendoci a questa analogia possiamo chiedere: "Si pu fare in modo che una macchina sia sopra il livello critico?" Anche l'analogia della "sfoglia della cipolla" pu servire. Considerando le funzioni mentali o cerebrali troviamo certe operazioni che possiamo spiegare in termini puramente meccanici. Questo, diciamo, non corrisponde alla mente come essa in realt: una specie di sfoglia che dobbiamo togliere se vogliamo trovare la mente reale. Ma poi in ci che rimane troviamo un'altra sfoglia da togliere, e cos via. Procedendo a questo modo arriviamo infine alla mente "reale", o solo a una sfoglia che non contiene nulla? Nell'ultimo caso tutta la mente sarebbe di tipo meccanico. (Non si tratterebbe comunque di una macchina a stati discreti. Ne abbiamo gi discusso.) I due precedenti capoversi non pretendono di presentare argomentazioni convincenti. Dovrebbero piuttosto essere descritti come "'tirate' tendenti a far nascere una credenza". L'unico sostegno veramente soddisfacente che pu essere fornito per il punto di vista espresso all'inizio del paragrafo precedente si avr aspettando la fine di questo secolo ed eseguendo l'esperimento descritto. Ma cosa possiamo dire nel frattempo? Che passi dobbiamo compiere ora, perch l'esperimento riesca? Come ho spiegato, il problema soprattutto di programmazione. Si dovranno compiere progressi anche nella tecnica ma sembra improbabile che essi non risultino adeguati al bisogno. Le valutazioni delle capacit di memorizzazione del cervello vanno da 10 alla decima a 10 alla quindicesima unit binarie. lo sono incline a considerare pi esatte le valutazioni pi basse e penso che solo una parte piccolissima venga usata per i tipi superiori di pensiero. La maggior parte viene probabilmente usata per ritenere le impressioni visive. Mi sorprenderei se occorressero pi di 10 alla nona unit per giocare in modo soddisfacente il gioco dell'imitazione, almeno contro un cieco. (Si noti che la capacit dell' Enciclopedia britannica, undicesima edizione, di 2 X 10 alla nona unit binarie.) Una capacit di memorizzazione di 107 unit sarebbe senzaltro alla nostra portata

15
anche con le attuali tecniche. Non probabilmente affatto necessario aumentare la velocit di funzionamento delle macchine. Le parti delle macchine moderne che possono essere considerate analoghe alle cellule nervose funzionano a una velocit circa mille volte superiore. Ci dovrebbe fornire un "margine di sicurezza" sufficiente a compensare le perdite di velocit che in vario modo possono determinarsi. Il nostro problema quindi di trovare il modo di programmare queste macchine per poter giocare il gioco. Al mio attuale ritmo di lavoro elaboro In giorno circa mille unit di programma, cosicch circa sessanta operatori, lavorando continuamente per cinquant' anni, potrebbero portare a termine il lavoro, se nulla dovesse venir cestinato. Appare desiderabile un metodo pi rapido. Cercando di imitare una mente umana adulta siamo tenuti a riflettere parecchio sul processo che l'ha condotta allo stato in cui si trova. Possiamo notare qui tre componenti: a) lo stato iniziale della mente, diciamo alla nascita; b) l'educazione cui stata sottoposta; c) altre esperienze, che non ,sono venir descritte come educazione, che essa ha vissuto. Invece di elaborare un programma per la simulazione di una mente adulta, perch non proviamo piuttosto a realizzarne uno che simuli quella di un bambino? Se la macchina fosse poi sottoposta a un appropriato corso di istruzione, si otterrebbe un cervello adulto. Presumibilmente il cervello infantile qualcosa di simile a un taccuino di quelli che si comprano dai cartolai. Poco meccanismo e una quantit di fogli bianchi (meccanismo e scrittura sono dal nostro punto di vista quasi sinonimi). La nostra speranza che ci sia cos poco meccanismo nel cervello infantile, che qualcosa di analogo possa venir facilmente programmato. Per il processo educativo possiamo supporre che il lavoro, in prima approssimazione, sia pressappoco uguale a quello necessario per il bambino. Abbiamo cos diviso il nostro problema in due parti. Il programma a livello infantile e il processo educativo. Essi sono strettamente connessi. Non possiamo aspettarci di trovare una buona macchina al primo tentativo. Bisogna sperimentare un metodo dinsegnamento per una macchina del genere e vedere in che misura essa impara. Si pu poi provarne un'altra e vedere se migliore o peggiore. C una connessione evidente tra questo processo e l'evoluzione: Struttura della macchina-bambino Materiale ereditario Cambiamenti della macchina-bambino Mutazioni Giudizio dello sperimentatore Selezione naturale E da sperare, peraltro, che questo processo sia pi rapido dell'evoluzione. La sopravvivenza del pi adatto un metodo troppo lento per quanto concerne l'evidenziazione del progresso realizzato. Lo sperimentatore, servendosi della sua intelligenza, dovrebbe essere in grado di renderlo pi veloce. Ugualmente importante il fatto che egli pu non limitarsi ad attendere le mutazioni casuali. Se in grado di scoprire la causa di qualche difetto pu probabilmente pensare al tipo di mutazione che lo eliminerebbe. Non sar possibile applicare alla macchina proprio lo stesso metodo d'insegnamento che si usa per un bambino. Per esempio, essa non avr gambe e quindi non le si potr chiedere di uscire per riempire il secchio del carbone. Potrebbe non avere occhi. Ma anche se questi difetti potessero venir brillantemente superati da abili espedienti meccanici, non si potrebbe mandare una simile creatura a scuola senza farla beffeggiare in modo eccessivo dagli altri bambini. Bisogna le sia data una certa protezione. Non dobbiamo preoccuparci troppo per le gambe, gli occhi ecc. L'esempio di Helen Keller mostra che il processo educativo si pu svolgere, purch vi sia un mezzo per la comunicazione in ambedue le direzioni tra maestro e allievo. Normalmente associamo punizioni e ricompense al processo d'insegnamento. Alcune semplici macchine-bambino possono essere costruite o programmate in base a questo tipo di principio. La macchina deve essere costruita in modo che sia impossibile che si ripetano gli avvenimenti che precedettero di poco il verificarsi di un segnale di punizione, mentre un segnale di ricompensa aumenta la probabilit di ripetizione degli avvenimenti che hanno condotto ad esso. Queste definizioni non presuppongono alcun sentimento da parte della macchina. Ho fatto alcuni esperimenti con una simile macchina-bambino e sono riuscito a insegnarle alcune cose, ma il

16
metodo d'insegnamento era troppo poco ortodosso perch gli esperimenti potessero venir considerati veramente riusciti. L'uso di punizioni o ricompense pu al pi costituire una parte del processo d'insegnamento. Parlando approssimativamente, se l'insegnante non ha altri mezzi per comunicare con l'allievo, la quantit d'informazione che pu fargli giungere non supera il numero totale delle ricompense e delle punizioni assegnategli. Un bambino che fosse arrivato a trovare la parola "Casabianca" avrebbe probabilmente la faccia molto gonfia, se la parola fosse stata individuabile solo con una tecnica del tipo "venti domande", e ogni "no" si fosse tradotto in ceffone. necessario perci disporre di altri canali di comunicazione, "non emozionali". Se vi sono questi canali, possibile mediante punizioni e premi insegnare a una macchina a eseguire ordini dati in un certo linguaggio, per esempio un linguaggio simbolico. L'uso di questo linguaggio diminuir notevolmente il numero delle punizioni e delle ricompense necessario. Ci possono essere vari punti di vista sulla complessit pi opportuna per la macchina-bambino. Si potrebbe tentare di farla pi semplice possibile purch in accordo coi princpi generali. Oppure si potrebbe "incorporarvi" un sistema completo di inferenza logica: In quest'ultimo caso la memoria sarebbe in gran parte occupata da definizioni e proposizioni. Le proposizioni sarebbero di vari tipi, per esempio fatti ben fondati, congetture, teoremi dimostrati matematicamente, dichiarazioni fornite da un'autorit, espressioni aventi la forma logica di una proposizione, ma nessun valore di credibilit. Alcune proposizioni possono essere descritte come "imperativi". La macchina dovrebbe venir costruita in modo che appena un imperativo viene classificato come "ben fondato" si svolge automaticamente l'azione opportuna. Per illustrare questo, supponiamo che l'insegnante dica alla macchina: "Fa' i tuoi compiti ora." Ci potrebbe determinare l'inclusione tra i fatti ben fondati dell'espressione: "L'insegnante dice: 'Fa' i tuoi compiti ora.' " Un altro fatto simile potrebbe essere: "Ogni cosa che dice l'insegnante vera." La combinazione di queste espressioni potrebbe eventualmente condurre a includere tra i fatti ben fondati l'imperativo: "Fa' i tuoi compiti ora", e ci per il modo in cui la macchina costruita, significa che essa comincer effettivamente a fare i compiti, e che il risultato sar molto soddisfacente. Il processo di inferenza usato dalla macchina non ha bisogno di possedere requisiti tali da soddisfare i logici pi esigenti. Potrebbe, per esempio, non esserci alcuna gerarchia di tipi. Ma questo non significa necessariamente che verranno commessi errori di tipo, quant' vero che non siamo obbligati a cadere da un dirupo per il fatto che non recintato. Imperativi opportuni (espressi nell'ambito dei sistemi, non compresi nelle regole del sistema) come: "Non usare una classe a meno che non sia una sottoclasse di una di cui ha parlato l'insegnante", possono avere un effetto simile a: "Non avvicinarti troppo all'orlo." Gli imperativi cui pu obbedire una macchina che non ha membra sono necessariamente di tipo piuttosto intellettuale, come nell'esempio fornito sopra (fare i compiti). Avranno speciale importanza tra questi imperativi quelli che regolano l'ordine in cui devono essere applicate le regole del sistema logico in questione. Ad ogni livello infatti, quando si usa un sistema logico, c' un grandissimo numero di passi diversi, ciascuno dei quali pu essere compiuto, pur rispettando le regole del sistema logico in questione. Queste scelte mettono in luce la differenza tra un ragionatore brillante e uno sciocco, non la differenza tra un ragionamento valido e uno errato. Le proposizioni che portano a imperativi di questo tipo potrebbero essere: "Quando si cita Socrate usare il sillogismo in BARBARA", oppure: "Se stato provato che un metodo pi rapido di un altro, non usare il metodo pi lento." Qualcuna di esse pu essere fornita alla macchina "d'autorit", ma altre possono essere prodotte dalla macchina stessa, per esempio per induzione scientifica. L'idea di una macchina che impara pu apparire paradossale ad alcuni lettori. Come possono cambiare le regole di funzionamento della macchina? Esse dovrebbero descrivere completamente come reagir la macchina qualsiasi possa essere la sua storia, a qualsiasi cambiamento possa essere soggetta. Le regole sono quindi assolutamente invarianti rispetto al tempo. Questo verissimo. La

17
spiegazione del paradosso che le regole che vengono cambiate nel processo di apprendimento sono di un tipo meno pretenzioso e intendono avere solo una validit temporanea. Il lettore pu fare un parallelo con la costituzione degli Stati Uniti. Una caratteristica importante di una macchina che impara che il suo insegnante ignorer spesso in gran parte ci che di preciso si verifica al suo interno, quantunque possa essere in grado di predire in qualche misura il comportamento del suo allievo. Questo dovrebbe valere nel modo pi deciso per l'educazione successiva di una macchina nata da una macchina- bambino ben progettata (o programmata). Ci contrasta nettamente con la procedura normale quando si usa una macchina per fare calcoli: lo scopo allora di avere una chiara immagine mentale dello stato della macchina in ogni momento del calcolo. Questo scopo pu essere conseguito con uno sforzo. La teoria che "la macchina pu fare soltanto ci che sappiamo come ordinarle",' sembra strana se consideriamo tutto questo. La maggior parte dei programmi che possiamo inserire nella macchina avranno come risultato di farle fare qualcosa che non possiamo assolutamente capire, o che giudichiamo come comportamento completamente casuale. Il comportamento intelligente consiste presumibilmente nello staccarsi dal comportamento completamente prevedibile implicato nel calcolo, ma di poco, in modo da non determinare un comportamento casuale o dei giri viziosi che si risolvono in inutili ripetizioni. Preparando la macchina per la sua parte nel gioco dell'imitazione mediante un processo di insegnamento e di apprendimento conseguiamo un altro importante risultato: probabile cio che non occorra pi preoccuparsi della "capacit dell'uomo di commettere errori" imitandola in modo naturale, ossia senza un "tirocinio speciale" (il lettore dovrebbe conciliare questo punto di vista con quello delle pp.6 sgg.). I processi che si apprendono non assicurano al cento per cento il risultato: altrimenti non potrebbero essere disimparati. probabilmente un buon provvedimento introdurre un elemento casuale in una macchina che impara. Un elemento casuale piuttosto utile quando cerchiamo la soluzione di qualche problema. Supponiamo, per esempio, di voler trovare un numero tra 50 e 200 uguale al quadrato della somma delle sue unit; potremmo cominciare con 51, poi con 52 e continuare fino a ottenere un numero che vada bene. Come alternativa, potremmo scegliere numeri a caso fino a trovarne uno buono. Tale metodo ha il vantaggio che non necessario tenere conto dei valori gi provati, ma lo svantaggio che sussiste la possibilit di provare due volte lo stesso numero; questo per non ha molta importanza se esistono diverse soluzioni. il metodo sistematico ha lo svantaggio che pu esserci un blocco enorme senza alcuna soluzione proprio nel gruppo che deve essere esaminato per primo. Ora il processo di apprendimento pu essere considerato come la ricerca di una forma di comportamento che soddisfer l'insegnante (o qualche altro criterio). Dato che esiste probabilmente un gran numero di soluzioni soddisfacenti, il metodo casuale sembra migliore di quello sistematico. Bisogna notare che esso impiegato nell'analogo processo di evoluzione. Ma in quel caso il metodo sistematico non possibile. Come si potrebbe tener conto delle diverse combinazioni genetiche che sono state tentate, in modo da evitare di sperimentarle di nuovo? Possiamo sperare che le macchine saranno alla fine in grado di competere con gli uomini in tutti i campi puramente intellettuali. Ma quali sono i migliori per cominciare? Anche questa una decisione difficile. Molta gente pensa che un'attivit molto astratta, come giocare a scacchi, sarebbe la migliore. Si pu anche sostenere che meglio fornire alla macchina i migliori organi di senso che si possano comprare e poi insegnarle a capire e parlare una lingua umana. Questo processo potrebbe seguire il metodo d'insegnamento normale per un bambino. Le cose verrebbero indicate, verrebbe dato loro un nome ecc. Ancora una volta ignoro quale sia la risposta esatta, ma penso che bisognerebbe tentare ambedue le strade. Possiamo vedere nel futuro solo per un piccolo tratto, ma possiamo pure vedere che in questo piccolo tratto c' molto da fare.