La Singolarit Tecnologica, di Vernor Vinge

Visioni del futuro - Singolarita

Entro trent'anni, avremo le tecnologie necessarie a creare intelligenze super-umane. In breve, dopo tale evento, l'era umana sar terminata. E' possibile evitare tali sviluppi? Se non possibile evitarli, possiamo allora influenzarli in modo di garantire la nostra sopravvivenza? In questo articolo si considerano tali domande, si offrono alcune possibili risposte e si presentano ulteriori pericoli. 1 - Cosa la singolarit L'accelerazione del progresso tecnologico stato l'avvenimento centrale di questo secolo. Siamo sull'orlo di cambiamenti comparabili all'emergere degli esseri umani sul pianeta Terra. La causa di questi cambiamenti l'imminente creazione tecnologica di entit con un'intelligenza superiore a quella umana. La scienza pu portare a tali sviluppi per vie diverse (e questa un'altra ragione per cui tali sviluppi appaiono probabili): La creazione di computer coscienti e con intelligenza super-umana. (A tutt'oggi controverso se sia possile creare una macchina equivalente [come intelligenza - NdT] ad un essere umano. Ma se la risposta fosse s, allora sicuramente il passo successivo sarebbe quello di costruire esseri ancora pi intelligenti). L'improvviso svegliarsi dell'insieme dei grandi network di computer e dei loro utilizzatori che [insieme -NdT] potrebbero divenire entit dotate di intelligenza super-umana. Le interfaccie fra computer e esseri umani potrebbero divenire cos complete da offrire agli utilizzatori un livello di intelligenza super-umano. Le scienze biologiche potrebbe fornire i mezzi per incrementare l'intelletto naturale umano. Le prime tre possibilit dipendono dal perfezionamento dell'hardware dei computer. Il progresso in questo campo ha seguito una curva incredibilmente regolare negli ultimi decenni. Sulla base di questa tendenza, sono convinto che la creazione di un'intelligenza superiore a quella umana potrebbe verificarsi nell'arco dei prossimi trent'anni. (Charles Platt ha notato che sono ormai trent'anni che i sostenitori dell'Intelligenza Artificiale ripetono questa stessa dichiarazione. Per evitare di essere accusato di ambiguit sui tempi, vorrei essere pi preciso: mi stupirei se tale evento accadesse prima del 2005 o dopo il 2030). Quali sarebbero le conseguenze di tale evento? Con un'intelligenza superiore a quella umana alla guida del progresso, il progresso stesso sarebbe pi rapido e non vedo perch questo progresso non dovrebbe comportare la creazione di entit ancora pi intelligenti... in tempi ancora pi brevi. L'analogia migliore che mi viene in mente con l'evoluzione: le specie animali possono adattarsi ai problemi che incontrano e possono inventarsi delle soluzioni a questi problemi, ma sono spesso limitate dalla lentezza del processo di selezione naturale - il mondo f da simulatore di s stesso nel caso della selezione naturale. Noi esseri umani, invece, abbiamo l'abilit di proiettare il mondo al nostro interno e di creare simulazioni (il cosa-succede-se). Possiamo risolvere molti problemi, migliaia di volte pi velocemente di quanto possa fare la selezione naturale. Ora, nel creare i mezzi per eseguire tali simulazioni pi velocemente, entriamo in un territorio che radicalmente diverso dal nostro passato umano, quanto noi esseri umani siamo diversi dagli invertebrati. Con tale cambiamento, tutte le regole umane diverranno inutili, forse in un batter d'occhio: una fuga, una corsa a velocit esponenziale che non potremo controllare. Sviluppi considerati possibili solo fra "un milione di anni", o addirittura considerati impossibili, diverranno fattibili nel prossimo secolo [l'autore scrive nel 1993 e si riferisce quindi al XXI secolo - NdT]. Un evento di questo genere pu ragionevolmente essere descritto come una singolarit (che d'ora in poi, in questo articolo, chiamer la Singolarit). E' un momento in cui i nostri vecchi modelli della realt devono essere abbandonati e siamo confrontati da una nuova realt, un momento la cui sagoma crescer sempre pi sull'orizzonte degli esseri umani fino a quando il concetto diverr d'uso comune. Eppure, quando si verificher, potrebbe ugualmente essere una grossa sorpresa e un'ancor pi grossa incognita. Negli anni '50 pochissimi se ne resero conto: Stan Ulam (1) ha parafrasato John von Neumann, dicendo:[Si tratta di - NdT] Una situazione condizionata dalla continua accelerazione del progresso tecnologico e del cambiamento dei modelli della vita umana, che pare avvicinarsi ad una qualche singolarit, fondamentale nella storia della razza umana e oltre la quale le vicende umane non possono continuare nella forma che conosciamo. Von Neumann usa persino il termine singolarit, anche se pare si riferisca al normale progresso e non alla creazione di intelligenza super-umana (per me la super-umanit l'essenza della Singolarit. Senza di essa non avremmo altro che un'abbondanza di ricchezza tecnologica, mai completamente assorbita). Negli anni '60 abbiamo assistito al riconoscimento di alcune delle implicazioni dell'intelligenza super-umana. I.J. Good ha scritto: Definiamo una macchina ultra intelligente come una macchina che pu superare di gran lunga tutte le attivit intellettuali della persona pi intelligente. Dato che la progettazione di macchine una di queste attivit intellettuali, una macchina ultra intelligente potrebbe progettare macchine migliori; ci sarebbe quindi, senza ombra di dubbio, una "esplosione di intelligenza" e l'intelligenza dell'Uomo rimarrebbe molto indietro. Potremmo quindi dire che la prima macchina ultra intelligente sarebbe l'ultima invenzione che l'Uomo avrebbe bisogno di realizzare, ammesso che la macchina sia sufficientemente docile da dirci come tenerla sotto controllo. (...) E' probabile che, entro il ventesimo secolo, una macchina ultra-intelligente sia costruita e che questa sar l'ultima invenzione che l'uomo dovr realizzare.

(2) Good ha colto l'essenza di questa fuga, ma non ne considera le conseguenze pi preoccupanti. Qualsiasi macchina intelligente del tipo da lui descritto non vorr essere uno "strumento" dell'umanit, esattamente come gli uomini non sono gli strumenti di conigli, pettirossi o scimpanz. Negli anni sessanta, settanta e ottanta, la consapevolezza di questo cataclisma all'orizzonte si diffusa. Forse furono gli scrittori di fantascienza a rendersene conto per primi. Dopotutto, gli scrittori di fantascienza "hard" si occupano specificamente dell'impatto che la tecnologia potrebbe avere su di noi. Sempre pi, questi scrittori cominciarono a percepire la presenza di un qualcosa di simile ad una barriera opaca all'orizzonte. In passato, essi potevano ambientare le loro fantasie milioni di anni nel futuro, ma ora si rendevano conto che le loro estrapolazioni pi attente annunciavano l'arrivo di un futuro incomprensible in tempi molto pi stretti. Una volta, gli imperi galattici apparivano come possibilit post-umane, ora, purtroppo, lo sono anche quelli interplanetari. Cosa accadr nelle prossime decadi, mentre ci avviciniamo al precipizio? Che impatto avr, sulla nostra visione del mondo, la realizzazione che la Singolarit si sta avvicinando ? I critici della Intelligenza Artificiale avranno vita facile ancora per qualche tempo. Dopotutto, fino a quando non avremo dell'hardware potente quanto il cervello umano, probabilmente assurdo pensare di poter creare un'intelligenza equivalente, o superiore, a quella umana. (Esiste, comunque, una remota possibilit che sarebbe possibile realizzare un equivalente umano con un hardware molto meno potente, se fossimo disposti ad rinunciare alla velocit e se fossimo disposti ad accontentarci di un essere artificiale che fosse estremamente lento. E' molto pi probabile che lo sviluppo del software sar un processo difficile, con molti tentativi falliti e false partenze. In queso caso, l'arrivo di macchine coscienti non sar possibile fino a quando non avremo hardware significativamente pi potente dell'hardware naturale dell'umanit). Con il passare del tempo, per, altri sintomi appariranno. Il dilemma degli scrittori di fantascienza viene gi percepito anche in altri settori creativi (ho sentito di sceneggiatori di fumetti che si preoccupano di come creare effetti spettacolari in ambientazioni in cui le tecnologie di ogni giorno possono produrre qualunque oggetto desiderato). Assisteremo alla sostituzione di personale umano in occupazioni sempre pi intellettualmente elevate con sistemi automatizzati. Gi utilizziamo alcuni strumenti (programmi matematici simbolici, cad/cam) per lavori noiosi e/o di basso livello. Per dirla in un altro modo: le attivit che sono realmente produttive, sono svolte da una frazione dell'umanit sempre pi piccola ed elitaria. Con l'avvicinarsi della Singolarit vedremo finalmente la realizzazione delle predizioni di una disoccupazione realmente causata dallo sviluppo tecnologico. Un altro sintomo del progresso verso la Singolarit, sar il fatto che le idee stesse si diffonderanno ancora pi rapidamente e anche quelle pi radicali entreranno rapidamente nell'immaginario collettivo. E per quanto riguarda il momento in cui la Singolarit arriver? Cosa si pu dire specificamente a proposito del momento del suo arrivo? Dato che implica una fuga, un rapido sviluppo intellettuale, probabilmente accadr pi velocemente di qualsiasi rivoluzione tecnica finora vista. Probabilmente, l'evento precipitante sar inatteso, forse anche dagli stessi ricercatori coinvolti ("Ma come?! Tutti i nostri altri modelli erano catatonici! Stavamo solo regolando un paio di parametri..."). Se l'uso di network sar sufficientemente diffuso (nella forma di sistemi interconnessi ubiqui), potr sembrare che i nostri macchinari si siano improvvisamente svegliati. E che cosa succeder un mese o due (o un giorno o due) dopo tutto ci? Posso solo offrire, come analogia, l'emergere dell'umanit. Saremo nell'era post-umana. E per quanto sia un ottimista tecnologico, penso che mi sentirei meglio se stessi osservando questi eventi trascendentali da una distanza di mille di anni... invece che di venti. 2 - Possiamo evitare la Singolarit? Chiss, forse non accadr neanche! A volte cerco di immaginare quali sintomi dovremmo aspettarci se la Singolarit non fosse all'orizzonte. Le argomentazioni di Penrose (3) e Searle (4) contro la fattibilit di macchine senzienti sono molto rispettate. Nell'agosto del 1992 la Thinking Machines Corporation ha tenuto un seminario per investigare "Come costruiremo una macchina pensante". Come suggerito dal titolo del convegno, i partecipanti non avevano particolari simpatie per le teorie contrarie alla possibilit di creare macchine intelligenti. In pratica, tutti si dichiararono convinti che la mente possa esistere su substrati non biologici e che sono gli algoritmi ad essere di importanza centrale per l'esistenza di una mente. Si assistette, per, anche ad un serio dibattito su quanto sia potente l'hardware del cervello organico. Una minoranza riteneva che i pi potenti computer del 1992 fossero entro tre ordini di magnitudine della potenza del cervello umano. La maggioranza dei partecipanti concordava invece con la stima di Hans Moravec (5), cio che ci vorranno fra i dieci e i quarant'anni per raggiungere la parit fra hardware (umano e computer - NdT ). Infine, c'era anche un'altra minoranza, la quale congetturava che le attivit computazionali di un singolo neurone potrebbero essere maggiori di quanto si creda. In questo caso, i computer di oggi potrebbero essere fino a dieci ordini di magnitudine al di sotto dell'hardware che ognuno di noi ha nel cranio. Se ci fosse vero (o se le teorie di Penrose e Searle fossero valide), potremmo non assistere mai ad una Singolarit. Al suo posto assisteremmo, nei primi anni del XXI secolo, ad un inizio di appiattimanto della curva delle prestazione dell'hardware, dovuta alla nostra incapacit di automatizzare la progettazione necessaria per ulteriori miglioramenti dell'hardware stesso. Ci ritroveremmo con dell'hardware estremamente potente, ma senza la capacit di spingerlo pi avanti. Potremmo avere incredibili applicazioni commerciali del processo del segnale digitale, il che darebbe un aspetto analogico anche alle operazioni digitali, ma non sarebbe possibile nessun "svegliarsi" e non si verificherebbe mai la fuga in avanti dell'intelligenza che l'essenza della Singolarit. Probabilmente, questa sarebbe vista come una era splendida... ma sarebbe anche la fine del progresso. Questo scenario assomiglia molto al futuro predetto da Gunther Stent (6), il quale per cita esplicitamente lo sviluppo dell'intelligenza transumana come condizione sufficiente a scardinare le sue proiezioni.

Ma se la Singolarit tecnologica possibile, essa si realizzer. Anche se tutti i governi del mondo comprendessero la "minaccia" [in essa contenuta - NdT] e ne fossero mortalmente spaventati, il progresso verso la Singolarit continuerebbe. I vantaggi competitivi - economici, militari e perfino artistici - di ogni progresso nell'automazione talmente allettante che l'imposizione di divieti non farebbe altro che permettere a qualcun altro di essere il primo ad ottenerli. Eric Drexler ha fornito delle spettacolari intuizioni su dove pu arrivare il progresso tecnico (7). E' d'accordo sul fatto che le intelligenze super-umane saranno una realt nel prossimo futuro, ma Drexler convinto che potremo confinare tali entit transumane in modo che le loro attivit possano essere esaminate ed usate in sicurezza. Io sostengo che il confinamento sia intrinsecamente impraticabile. Immaginate di essere rinchiusi in casa con accesso limitato all'esterno e ai vostri padroni. Se tali padroni pensassero ad una velocit, per esempio, un milione di volte pi lenta della vostra, senza dubbio nell'arco di qualche anno (del vostro tempo) trovereste un modo di evadere. Io chiamo questa versione ad alta velocit della super-intelligenza, una super-umanit debole. Tale entit "debolmente superumana" probabilmente si brucerebbe nel giro di qualche settimana (di tempo esterno). Una "super-umanit forte", invece, sarebbe molto pi di un semplice aumento della velocit di pensiero rispetto alla mente umana. E' difficile dire con precisione come sar la super-umanit forte, ma le differenze dovrebbero essere profonde. Immaginate di poter far funzionare il cervello di un cane ad alta velocit. Basterebbero mille anni di vita canina per arrivare ad un livello simile a quello umano? Molte speculazioni sulla super-intelligenza sembrano basarsi sul modello super-umano debole. Secondo me, per poter fare previsioni sensate sul mondo post-Singolarit, bisogna prendere in considerazione la natura della super-umanit forte. Torner su questo punto, pi avanti. Un altro approccio al contenimento consiste nell'inserire delle regole precise nella mente dell'entit super-umana. Penso, per, che qualsiasi regola sufficientemente limitante da essere efficace, risulterebbe in uno strumento [cio l'entit super-intelligente cos creata - NdT] la cui abilit sarebbe chiaramente inferiore ad una versione senza restrizioni (la competizione fra umani, quindi, favorirebbe lo sviluppo dei modelli pi pericolosi) [cio meno regolati NdT]. Se la Singolarit non pu essere prevenuta o confinata, quanto potrebbe essere pericolosa questa era post-umana? Non poco. L'estinzione della razza umana una chiara possibilit (o, come dice Eric Drexler a proposito della nanotecnologia: considerato quello che tale tecnologia pu fare, i governi potrebbero semplicemente decidere che non hanno pi bisogno di cittadini). Eppure, l'estinzione potrebbe non essere la possibilit pi spaventosa. Pensate ai vari modi in cui ci poniamo in relazione con gli animali. Un mondo post-umano avrebbe ancora molte nicchie in cui l'automazione con entit equivalenti agli esseri umani sarebbe utile: sistemi embedded [inseriti, immersi - NdT] all'interno di sistemi autonomi e daemons [demoni, programmi semi-autonomi - NdT] coscienti nei livelli inferiodi di funzionalit di entit senzienti. (E' probabile che una intelligenza super-umana forte sarebbe una Society of Mind (8) con alcuni componenti estremamente competenti). Alcune di queste entit equivalenti agli umani potrebbero venir utilizzate solo per funzioni di processo del segnale digitale. Altre potrebbero apparire molto umane, ma con una monodimensionalit ed una dedicazione tale, che ai nostri giorni li farebbe rinchiudere in manicomio. Sebbene nessuna di queste creature sarebbe un essere umano in carne ed ossa, esse potrebbero essere, in questo nuovo ambiente, quanto di pi simile a ci che ora chiamiamo esseri umani. Ho sostenuto, pi sopra, che non possiamo prevenire la Singolarit, che il suo arrivo una conseguenza inevitabile della nostra competitivit naturale e delle possibilit intrinseche della tecnologia. Eppure, siamo noi i catalizzatori. Anche la valanga pi grossa nasce da piccoli eventi. Abbiamo la libert di stabilire le condizioni iniziali, di fare in modo che il tutto si svolga in modo favorevole o meno sfavorevole delle alternative. Naturalmente (come nel causare una valanga), potrebbe non essere chiaro quale sia il piccolo evento necessario. 3 - Altri approcci alla Singolarit Quando si parla di creare esseri dotati di intelligenza super-umana, molta gente immagina uno sforzo nel settore della Intelligenza Artificiale, ma come ho fatto notare all'inizio di questo articolo, altre strade verso la super-umanit sono possibili. Le reti di computer e l'interfaccia uomo/computer sembrano pi semplici dell'I.A., eppure anch'essi potrebbero portare alla Singolarit. Chiamo questo approccio alternativo, Amplificazione dell'Intelligenza (A.I.). L'A.I. si sta sviluppando in maniera naturale, spesso senza essere neppure riconosciuto per quello che dai suoi stessi studiosi. Per, ogni volta che miglioriamo la nostra capacit di accedere ad informazioni e di comunicarle ad altri, in un certo senso incrementiamo l'intelligenza naturale. Un duo formato da un laureato umano e un buon computer (anche non collegato all'internet) pu gi oggi raggiungere il massimo dei voti in qualsiasi test di intelligenza scritto. E' inoltre molto probabile che l'A.I. sia una strada molto pi facile verso la super-umanit rispetto all'I.A. pura. Negli esseri umani, i problemi pi difficili, per quanto riguarda lo sviluppo, sono gi stati risolti. La creazione di un'entit super-intelligente partendo dal nostro organismo, dovrebbe essere pi facile di scoprire in dettaglio il nostro funzionamento per poi costruire macchine con lo stesso livello di complessit. Esiste, inoltre, un possibile precedente a questo approccio. Cairns-Smith (9) ha speculato che la vita biologica potrebbe essere iniziata come aggiunta ad una forma di vita pi primitiva, basata sulla crescita dei cristalli. Lynn Margulis (10 e altrove) offre convincenti argomentazioni sul fatto che il mutualismo sia una forza trainante dell'evoluzione. Si noti che non sto proponendo di ignorare la ricerca sull'I.A. Sviluppi nell'I.A. troveranno spesso applicazioni nell'A.I. e viceversa. Quello che sto proponendo di ammettere che nella ricerca su reti informatiche e interfaccia, si nasconda qualcosa di altrettanto profondo (e potenzialmente selvaggio) quanto nella ricerca sull'intelligenza artificiale. Con questa intuizione, comprendiamo come progetti che non appaiono come direttamente collegati alla Singolarit, come

quelli su interfaccia convenzionali e la progettazione in rete, ci spingano verso la Singolarit secondo l'approccio dell'A.I. Seguono alcuni possibili progetti che assumono un particolare significato dal punto di vista dell'A.I.: Automazione del team uomo/computer: partendo da problemi normalmente considerati risolvibili con una semplice soluzione meccanica (come problemi di scalata) si preparino programmi e interfacce che si avvantaggino dell'intuizione degli esseri umani e della disponibilit dell'hardware informatico. Considerando la bizzarria dei problemi di scalata ad alta dimensione (e gli efficienti algoritmi che sono stati proposti per la loro soluzione), si potrebbro fornire al rappresentante umano del team degli strumenti di controllo alquanto interessanti. La simbiosi uomo/computer nell'arte: combinando la capacit di generare grafica dei moderni computer con la sensibilit estetica dell'uomo. Naturalmente, enormi sforzi di ricerca sono gi stati compiuti nel progettare supporti computerizzati per artisti. Propongo di puntare esplicitamente verso una ulteriore fusione di competenze, di riconoscere esplicitamente l'approccio cooperativo che possibile. Karl Sims ha prodotto splendidi sviluppi in questa direzione (11). Team uomo/computer ai tornei di scacchi: abbiamo gi programmi che possono giocare meglio di qualsiasi essere umano, ma quanto lavoro stato fatto in modo che tale potere possa essere usato da un essere umano per ottenere qualcosa di ancor meglio? L'ammissione di team uomo/computer ai tornei di scacchi potrebbe avere lo stesso effetto positivo sulla ricerca nell'A.I. che l'ammissione dei computer ha avuto per la corrispondente nicchia nell'I.A. Interfacce che permettano l'accesso al computer e all'internet senza obbligare l'utilizzatore ad essere in un posto specifico, cio seduto di fronte al computer (questo aspetto dell'A.I. offre tali evidenti vantaggi economici che molti sforzi sono gi stati fatti in questa direzione). Sistemi di supporto decisionale pi simmetrici. Un'area affermata, sia come ricerca che come prodotti, in anni recenti, quella dei sistemi di supporto decisionale. E' una forma di A.I., ma potrebbe risentire negativamente di un eccessiva attenzione a sistemi che operano quasi come oracoli. E' necessario che, cos come il programma fornisce informazioni all'utente, anche l'utente possa fornire la guida al programma. Reti di computer locali per rendere gruppi di lavoro umani pi efficienti della semplice somma dei singoli componenti. Generalmente, questa l'area del "groupware"; il cambiamento di attitudine in questo settore sarebbe nel considerare l'attivit di gruppo come un organismo combinatorio. In un certo senso, l'intenzione di questo suggerimento potrebbe essere di inventare delle "regole d'ordine" per tali operazioni combinatorie. Per esempio, la capacit del gruppo di concentrarsi sul tema di un incontro, potrebbe essere pi facilmente mantenuta che in incontri classici. Le capacit individuali dei singoli membri potrebbero essere isolate ed utilizzate senza le interferenze causate da problemi interpersonali, caratteriali, etc, cos da concentrare gli sforzi del gruppo sul progetto. Naturalmente, anche i database comuni potrebbero essere usati in maniera pi conveniente di come succede in operazioni simili, ma convenzionali. L'internet come combinazione uomo/macchina. Fra i punti di questa lista, il progresso in questo campo quello che procede pi velocemente. Il potere e l'impatto dell'internet sono largamente sottovalutati. Il suo stesso anarchico sviluppo una dimostrazione del suo potenziale. Con l'aumento di connettivit, ampiezza di banda, dimensioni degli archivi e velocit dei computer, assistiamo ad un qualcosa di simile alla visione di Lynn Margulis, in cui la biosfera un elaboratore di dati, ma ad una velocit milioni di volte maggiore e con milioni di agenti intelligenti (noi stessi). Gli esempi di cui sopra illustrano il tipo di ricerca che pu essere condotta nel contesto dei dipartimenti di scienza informatica contemporanei. Ci sono, per, anche altri paradigmi. Per esempio, gran parte della ricerca nell'intelligenza artificiale e nelle reti neurali potrebbe beneficiare di una connessione pi stretta con la vita biologica. Invece di usare il computer solo per costruire modelli per comprendere la vita biologica, potremmo spingere la ricerca verso la creazione di sistemi compositi che si affidino usino la biologia come guida o per quegli aspetti che ancora non conosciamo sufficientemente bene da poterli implementarli nell'hardware. Da tempo, un sogno della fantascienza quello di un'interfaccia diretta fra cervello e computer e molta ricerca concreta si sta svolgendo in questa area: Le protesi artificiali sono un'area con un chiaro sbocco commerciale. Trasduttori fra tessuto nervoso e silicio sono realizzabili. Questo un entusiasmante passo in avanti verso la comunicazione diretta. Un collegamento diretto con il cervello sembra realizzabile, se il traffico di bit basso: data la flessibilit della capacit di apprendimento umana, non necessario selezionare con precisione gli obiettivi dei neuroni. Anche solo 100 bit al secondo sarebbero meglio di interfacce a men, per le vittime di emorragie cerebrali [che spesso soffrono di paralisi e possono solo comunicare attraverso l'uso di mezzi telematici - NdT]. Un collegamento con il nervo ottico ha il potenziale di un'ampiezza di banda di circa 1 Mbit al secondo, ma implicher una profonda comprensione del funzionamento della visione e l'installazione di una enorme rete di elettrodi, ognuno dei quali dovr essere posizionato con estrema precisione. Se vogliamo aggiungere una connessione di banda larga alle reti gi presenti nel cervello, il problema diventa ancora pi ostico. Installare una rete di ricettori a banda larga nel cervello non sar sufficiente. Ma la situazione sarebbe diversa se la rete a banda larga fosse presente nel momento in cui le strutture cerebrali si formano, cio durante lo sviluppo dell'embrione. Questo ci suggerisce di provare quanto segue: Esperimenti su embrioni di animali. Non mi aspetto alcun successo per l'A.I. nei primi anni di questa ricerca, ma il dare accesso a complesse strutture neurali simulate a dei cervelli in formazione potrebbe, alla lunga, produrre animali con addizionali reti sensoriali e con interessanti abilit intellettuali. Speravo che questa discussione sull'A.I. potesse rivelare approcci meno pericolosi alla Singolarit (dopotutto l'A.I.

permette la nostra partecipazione in una specie di trascendenza). Purtroppo, per, l'unica cosa di cui sono convinto, al momento, che se queste proposte vanno considerate dato che potrebbero fornire ulteriori opzioni, per quanto riguarda la sicurezza, alcuni di questi suggerimenti sono un tantino preoccupanti. L'uso di A.I. da parte di singoli esseri umani creerebbe una lite piuttosto sinistra. Come esseri umani, ci portiamo dietro milioni di anni di bagaglio evolutivo che ci fa considerare la competizione come un rischio mortale. Tale rischio potrebbe non essere per cos letale nel mondo odierno, un mondo in cui chi perde pu a sua volta utilizzare i trucchi del vincitore e/o pu essere cooptato a far parte delle attivit dei vincenti. Una entit costruita de novo potrebbe, forse, essere molto pi benigna di una basata su una logica che a sua volta si basi su zanne e artigli. Il problema non solo che la Singolarit rappresenta l'uscita di palcoscenico dell'umanit, ma che contraddice le nostre nozioni di identit pi profonde. Uno sguardo pi ravvicinato alla nozione di super-umanit forte spiega perch. 4 - Super-umanit forte e i limiti massimi che possiamo aspettarci Immagina di poter dar forma alla Singolarit in completo controllo. Immagina di poter realizzare i nostri sogni pi ambiziosi. Cosa vorremmo vedere realizzato? Che l'umanit sia succeduta da se stessa, che qualsiasi ingiustizia sia temperata dalla nostra conoscenza delle nostre radici. Coloro rimasti inalterati, vorranno ricevere un trattamento benigno (forse dando loro perfino l'illusione di essere i padroni di schiavi dai poteri quasi divini). Potrebbe essere un'et dell'oro e che potrebbe anche portare ulteriore progresso (superando la barriera di Stent). L'immortalit (o se non altro, una vita lunga quanto si riuscir a tenere in vita l'universo) sarebbe a nostra disposizione. Ma in questo mondo luminoso e gentile, sarebbero i problemi filosofici ad essere preoccupanti. Una mente che rimanesse della stessa capacit non potrebbe vivere per sempre: dopo qualche migliaio d'anni, pi che una persona sarebbe un disco che salta, ripetendosi all'infinito. Per vivere indefinitamente a lungo, la mente deve crescere... e una volta raggiunto un livello sufficientemente sviluppato e guardandosi indietro... quale senso di continuit potrebbe provare con l'anima che era originalmente? L'essere che essa divenuta conterrebbe tutto ci che conteneva l'originale, ma avrebbe anche quantit enormi di altri contenuti. E cos, anche per l'individuo, ancora valido il concetto di CairnsSmith o Lynn Margulis: la nuova vita cresce incrementalmente dalla vecchia. Questo problema dell'"immortalit" si manifesta anche in modi molto pi diretti. Il concetto di io e di coscienza stato alla base del razionalismo da qualche secolo. Ora, per, il concetto di coscienza sfidato dai ricercatori del settore dell'Intelligenza Artificiale e l'Amplificazione dell'Intelligenza attacca il nostro concetto di ego da un'altra direzione. Il mondo, post-Singolarit, comporter dei network a banda estremamente larga. Sembra ragionevole aspettarsi che un aspetto centrale di entit super-umane forti sar l'abilit di comunicare su varie ampiezze di banda, incluse quelle molto pi alte della parola e della scrittura. Cosa accadr quando parti dell'io potranno essere copiati e fusi fra di loro, quando la consapevolezza di s pu essere aumentata o ridotta per adattarsi alla natura dei problemi presi in considerazione? Questi sono aspetti essenziali della super-umanit forte e della Singolarit. Prendenoli in considerazione, cominciamo ad intuire quanto fondamentalmente strana e diversa sar l'era Post-umana, indipendentemente da quanto possa essere benigna o intelligentemente realizzata. Da un certo punto di vista, questa visione risponde a molti dei nostri sogni: un'era senza fine, dove potersi realmente conoscere l'un l'altro e svelare i misteri pi profondi. Da un altro punto di vista, invece, ci ricorda gli scenari meno positivi a cui ho accennato in precedenza. In pratica, credo che la nuova era sar semplicemente troppo diversa per essere giudicata con lo schema classico del bene e del male. Questo schema si basa infatti su menti isolate e immutabili, connesse da legami tenui e a bassa ampiezza di banda. Il mondo post-Singolarit rientra invece nella pi ampia tradizione di cambiamento e cooperazione che inizi nel passato remoto (forse perfino prima del sorgere della vita biologica). Penso che alcuni concetti etici si adatteranno ad un'era simile. La ricerca nell'A.I. e nella comunicazione a banda larga ne miglioreranno la nostra comprensione. Per ora, vedo solo i bagliori di tutto questo. Chiss, forse ci sono regole per distinguere l'io dagli altri sulla base dell'ampiezza della banda di connessione. E se mente e coscienza saranno pi labili che in passato, non significa che dovremo rinunciare a quanto pi ci sta a cuore (sapere, memoria e pensiero). Penso che Freeman Dyson abbia espresso tutto ci alla perfezione dicendo che "Dio ci che la mente diviene quando arriva al di l della nostra comprensione." (12) Fonti: 1. Ulam, S., "Tribute to John von Neumann," Bulletin of the American Mathematical Society, vol. 64. no. 3, May 1958, pp. 1-49. 2. Good, I. J., "Speculations Concerning the First Ultraintelligent Machine," in Advances in Computers, vol 6, Franz L. Alt and Morris Rubinoff, eds., 31-88, 1965, Academic Press. 3. Penrose, Roger, The Emperor's New Mind, Oxford University Press, 1989. 4. Searle, John R., "Minds, Brains, and Programs," in The Behavioral and Brain Sciences, vol. 3, Cambridge University Press, 1980. 5. Moravec, Hans, Mind Children, Harvard University Press, 1988. 6. Stent, Gunther S., The Coming of the Golden Age: A View of the End of Progress, The Natural History Press, 1969. 7. Drexler, K. Eric, Engines of Creation, Anchor Press/Doubleday, 1986. 8. Minsky, Marvin, Society of Mind, Simon and Schuster, 1985 9. Cairns-Smith, A. G., Seven Clues to the Origin of Life, Cambridge University Press, 1985. 10. Margulis, Lynn and Dorian Sagan, Microcosmoss: Four Billion Years of Evolution From Our Microbial Ancestors, Summit Books, 1986.

11. Sims, Karl, "Interactive Evolution of Dynamical Systems," Thinking Machines Corporation, Technical Report Series (published in Toward a Practice of Autonomous Systems: Proceedings of the First European Conference on Artificial Life, Paris, MIT Press, December 1991. 12. Dyson, Freeman, Infinite in All Directions, Harper & Row, 1988. Altre fonti: Alfvin, Hannes, writing as Olof Johanneson, "The End of Man?", Award Books, 1969. Anderson, Poul, "Kings Who Die," If, March 1962, 8-36. Asimov, Isaac, "Runaround," Astounding Science Fiction, March 1942, 94. Barrow, John D. and Frank J. Tipler, "The Anthropic Cosmological Principle", Oxford University Press, 1986. Bear, Greg, "Blood Music," Analog Science Fiction-Science Fact, June, 1983. Conrad, Michael, et al., "Towards an Artificial Brain," BioSystems, vol. 23, 175-218, 1989. Dyson, Freeman, "Physics and Biology in an Open Universe," Review of Modern Physics, vol. 51, 447-460, 1979. Herbert, Frank, "Dune", Berkeley Books, 1985. Kovacs, G. T. A., et al., "Regeneration Microelectrode Array for Peripheral Nerve Recording and Stimulation," IEEE Transactions on Biomedical Engineering, vol. 39, no. 9, 893-902. Niven, Larry, "The Ethics of Madness," If, April 1967, 82-108. Platt, Charles, private communication. Rasmussen, S. et al., "Computational Connectionism within Neurons: a Model of Cytoskeletal Automata Subserving Neural Networks," in Emergent Computation, Stephanie Forrest, ed., 428-449, MIT Press, 1991. Stapledon, Olaf, "The Starmaker", Berkeley Books, 1961. Swanwick Michael, "Vacuum Flowers", serialized in Isaac Asimov's Science Fiction Magazine, December 1986 February 1987. Thearling, Kurt, "How We Will Build a Machine That Thinks," a workshop at Thinking Machines Corporation, August 24-26, 1992. Vinge, Vernor, "Bookworm, Run!", Analog, March 1966, 8-40. Vinge, Vernor, "True Names," Binary Star Number 5, Dell, 1981. Vinge, Vernor, "First Word," Omni, January 1983, 10.