Mario Santos Sousa De la Habitacin China al Laboratorio de I.A.

De la Habitacin China al
Laboratorio de I.A.
Mario SANTOS SOUSA
Universidad Autnoma de Madrid
Recibido: 26/09/05
Arobado: !/""/05
#$s %e&'timo atribuir (mente) a un inter%ocutor mec*nico +demostrab%emente,
cometente- $% e.erimento menta% de %a /0abitacin 12ina34 concebido or Sear%e en
"9504 2a &enerado un torrente de %iteratura4 de r6%icas 7 contrarr6%icas4 8ue %%e&a 2asta
nuestros d'as9 :einticinco a;os desu6s4 #8ueda a%&o interesante 8ue a;adir a %a discusin4
aarte de resucitar vie<as ob<eciones- #O acaso 2emos a%can=ado un imasse >i%os>ico4 una
suerte de e8ui%ibrio insu%so- A mi modo de ver4 %a osicin de Sear%e %antea4 a?n 2o74 un
serio desa>'o a% sue;o de una @nte%i&encia Arti>icia% >uerte9 No obstante4 considero 8ue dic2o
desa>'o no es en modo a%&uno insuerab%e9 Aara e%%o4 roon&o adotar un unto de vista
di>erente4 no e% de %a 0abitacin 12ina sino e% de un %aboratorio de @9A9
@ma&inemos 8ue 2ubiese Bm*8uinas ta%es 8ue seme<asen a nuestros cueros e imitasen
nuestras accionesC +Descartes E"6!FG 200": 55,9 #De 8u6 manera odr'amos reconocer 8ue
no or e%%o son humanas- $% roio Descartes o>rece una osib%e resuesta:
BAJO PALABRA9 Revista de Hi%oso>'a9
IF @@ Joca4 NK 04 a;o 2005: IFL52
@SSN: "5F6L!9!5
Mario Santos Sousa De la Habitacin China al Laboratorio de I.A.
BAues si bien se uede concebir 8ue una m*8uina est6 de ta% modo 2ec2a 8ue ro>iera a%abras4 7 2asta
8ue %as ro>iera a rosito de acciones corora%es 8ue causen a%&una a%teracin en sus r&anos4 como4
erbi !ratia4 si se %a toca en una arte4 8ue re&unte %o 8ue se 8uiere decir%e4 7 si en otra4 8ue &rite 8ue se
%e 2ace da;o4 7 otras cosas or e% mismo esti%o4 sin embar&o4 no se concibe 8ue ordene en varios modos
%as a%abras ara contestar al sentido de todo lo "ue en su #resencia se di!a4 como ueden 2acer%o aun %os
m*s est?idos de entre %os 2ombresC +Descartes E"6!FG 200": 55M %a cursiva es m'a,9
Descartes se;a%a 8ue %a rincia% caracter'stica 8ue nos distin&ue como 2umanos4 es
decir4 nuestra inte%i&encia4 no deende e.c%usivamente de nuestras acciones corora%es4 sino
de nuestra caacidad ara mantener una conversacin en %a 8ue e% sentido de nuestras
a%abras se a<uste a% sentido de %as a%abras ro>eridas or nuestro inter%ocutor9 $% /<ue&o de
imitacin3 8ue roone Turin& en (1omutin& Mac2iner7 and @nte%%i&ence) +"950, reco&e
esa misma idea: se trata de un test 8ue one a rueba %a cometencia %in&N'stica de un
inter%ocutor mec*nico9 Tambi6n conocido como /Test de Turin&34 consiste en 8ue una
m*8uina convenientemente ro&ramada manten&a una conversacin con un e.erimentador
+8uien debe averi&uar si su inter%ocutor es 2umano o mec*nico4 solamente en >uncin de
cmo resonde a% sentido de sus re&untas,9 Aun8ue Descartes no udiese concebir un
a&ente mec*nico caa= de suerar seme<ante test4 es decir4 de (en&a;ar) a% e.erimentador
2aci6ndose asar or (2umano)4 #8u6 ra=ones tenemos ara descartar dic2a osibi%idad-
Merece %a ena e.aminar %a ostura 8ue de>iende Sear%e >rente a %a %%amada @nte%i&encia
Arti>icia% >uerte4 7a 8ue one en entredic2o esa misma osibi%idad +tomada en su sentido
$uerte,9 Ante %a idea de 8ue una m*8uina adecuadamente ro&ramada no s%o ueda
simular %a inte%i&encia 2umana4 esto es4 mantener una conversacin inte%i&ente4 sino
realmente com#render %o 8ue 2ace 7 dice4 adem*s de oseer otros estados menta%es +o
intenciona%es,4 Sear%e ob<etar* 8ue comrender un %en&ua<e +o tener estados menta%es en
&enera%,4 no s%o consiste en rea%i=ar una tarea de tio simb%ico4 sino 8ue Bre8uiere tener
una interretacin4 o un si&ni>icado unido a dic2os s'mbo%osC +Sear%e "95I: !!,:
interretacin de %a 8ue sim%emente carecer'a una m*8uina9
Sear%e i%ustra su cr'tica mediante e% e.erimento menta% de %a /0abitacin 12ina34 8ue
resenta or rimera ve= en su art'cu%o (Minds4 Orains4 and Aro&rams) de "950:
suon&amos 8ue nos encierran en una 2abitacin 7 nos entre&an un manua% 8ue contiene
re&%as ara maniu%ar ideo&ramas c2inos +o4 me<or a?n4 s'mbo%os marcianos,9 Acto se&uido4
nos 2acen %%e&ar de% e.terior secuencias de s'mbo%os 8ue debemos trans>ormar +uti%i=ando
e% manua%, ara >ormar nuevas secuencias 8ue4 >ina%mente4 enviaremos de nuevo a% e.terior9
Desde $uera arece 8ue estemos manteniendo una conversacin inte%i&ente en c2ino +Po en
marcianoQ,4 mientras 8ue nosotros senci%%amente i&noramos 8ue esos inL 7 out#uts reciben
e% nombre de /re&untas3 7 /resuestas3 resectivamente999 Pni si8uiera sabemos 8ue estamos
manteniendo una conversacin +menos a?n sobre 8u6 trata,Q An*%o&amente4 un inter%ocutor
mec*nico recibe un in#ut4 %o rocesa o comuta si&uiendo una serie de re&%as4 7 com%eta
su tarea mec*nica e inconsciente emitiendo un determinado out#ut9 A% i&ua% 8ue B%a ersona
encerrada en %a 2abitacin4 disone de toda %a sinta.is 8ue %e odamos dar4 ero no or e%%o
ad8uiere %a sem*ntica aroiadaC +Sear%eM en Dennett "95F: !2!,9
Ra 0abitacin 12ina es un e.erimento menta% 8ue ae%a a %a intuicin de% %ector4
invit*ndo%e a e.traer %a conc%usin de 8ue (tener un ro&rama Sun ro&rama or s' so%oS no
es su>iciente ara +ni e8uiva%ente a, tener una mente) +Sear%e "95I: !9,9 Sin embar&o4
merece %a ena estudiar %as remisas 8ue sub7acen a% %edan&ene'#eriment de Sear%e:
"9 Un ro&rama se de>ine enteramente or su estructura >orma% o sint*ctica9
29 Una mente tiene contenidos menta%es o sem*nticos9
!9 Tener sinta.is no es su>iciente ara +ni e8uiva%ente a, tener sem*ntica9
BAJO PALABRA9 Revista de Hi%oso>'a9
@@ Joca4 NK 04 a;o 2005: IFL52 I5
Mario Santos Sousa De la Habitacin China al Laboratorio de I.A.
De acuerdo con Sear%e4 %a rimera es verdadera or de>inicin4 Bes %o 8ue entendemos
or ro&ramaC9 Mientras 8ue %a se&unda Bre>%e<a un 2ec2o evidente de% >uncionamiento de
nuestras mentesC: %os estados menta%es son intenciona%es4 versan sobre +o re>ieren a, a%&o4
or e<em%o4 ciertos estados de cosas en e% mundo9 Hina%mente4 %a tercera es una verdad
concetua% 8ue Bsim%emente articu%a nuestra distincin entre %a nocin de %o 8ue es
uramente >orma% 7 %o 8ue osee un contenidoC +Sear%e "95I: !9,9
No obstante4 dic2as remisas re8uieren ser e.aminadas con ma7or atencin9 $n rimer
%u&ar4 cabe re&untarse si es correcto 8ue un ro&rama se de>ina (enteramente) or su
estructura >orma%9 Dennett se;a%a adecuadamente 8ue Bsi no se >i<an a%&unos deta%%es de
im%ementacin Sor medio de %a sem*ntica interna de% %en&ua<e de m*8uina en e% 8ue e%
ro&rama est* escrito en ?%timo t6rminoS un ro&rama ni si8uiera es un ob<eto sint*ctico4
sino meramente un con<unto de marcas tan inerte como un ae% estamadoC +Dennett
"95F: !!F,9 $n e>ecto4 arte de %a (identidad) de% ro&rama viene dada or %o 8ue e%
ro&rama hace4 or cmo interact?a con e% mundo 7 %o modi>ica9 +Aensemos en un virus
in>orm*tico4 or e<em%o9 Su caacidad destructiva constitu7e4 sin duda4 uno de sus ras&os
de>initorios9, Una ve= e.aminada %a tercera remisa4 veremos en 8u6 sentido %a rimera
resu%ta inadecuada9
Ra se&unda remisa descansa sobre e% suuesto de 8ue %a mente 2umana osee estados
intenciona%es (&enuinos) +rea%es4 intr'nsecos4 ori&ina%es4999,4 mientras 8ue un arte>acto s%o
osee una intenciona%idad (derivada) +i%usoria o (como(si),9 S%o %os seres 2umanos oseen
mente4 debido a %as roiedades causa%es 8ue tiene e% cerebro 2umano9 Sear%e es bastante
e.%'cito a% resecto: BRa intenciona%idad es4 en todo caso4 un >enmeno bio%&ico4 7 es tan
robab%e 8ue deenda de %a bio8u'mica esec'>ica de sus or'&enes como %a %actancia4 %a
>otos'ntesis4 o cua%8uier otro >enmeno bio%&icoC +Sear%e "950M en 0o>stadter 7 Dennett
E"95"G 2000: !F2,9
Dos cuestiones ocuan nuestra a&enda inmediata9 Arimero4 #en 8u6 medida deende
nuestra mente de %as (roiedades causa%es) de% cerebro- T se&undo4 #acaso se sostiene %a
distincin entre intenciona%idad (&enuina) e intenciona%idad (derivada-)
Sear%e abo&a or una suerte de (carboLcentrismo)
"
a% dec%arar 8ue es robab%e 8ue %a
intenciona%idad deenda causa%mente de %a (bio8u'mica esec'>ica) de% cerebro9 A
continuacin4 tratar6 de destacar %a imortancia 8ue uede %%e&ar a tener %a comosicin
materia% de% cerebro ara nuestra inte%i&encia9 T e%%o en re%acin con a%&o 8ue s' deseme;a
un ae% esencia% ara %a misma: e% tiemo 8ue tardamos en rocesar %a mir'ada de
est'mu%os 8ue nos %%e&an9 De 2ec2o4 e% cerebro 2umano a%can=a ve%ocidades de
comutacin verti&inosasM dada su ar8uitectura en ara%e%o es caa= de rea%i=ar varias tareas
a% mismo tiemo: ercibir4 de%iberar 7 actuar en >uncin de un entorno com%e<o 7 en
continuo cambio9 De acuerdo con un estudio rea%i=ado or Se<noUsVi en "955 +v6ase e%
art'cu%o (Hast T2inVin&) de Dennett4 "95F: !5F,4 e% cerebro tiene una caacidad media de
rocesamiento de "0
"5
oeraciones or se&undo4 cinco rdenes de ma&nitud suerior a %os
ordenadores di&ita%es de rocesamiento ara%e%o 8ue e.ist'an en %os oc2enta9 +1abe notar4
sin embar&o4 8ue un ordenador en serie odr'a rea%i=ar en rinciio %as misma tareas999 Pa
cambio de reducir considerab%emente su ve%ocidadQ,
No obstante4 todav'a no 2emos %o&rado demostrar or 8u6 %as #ro#iedades causales de%
cerebro son re%evantes9 Aun suoniendo 8ue a%&?n d'a una m*8uina convenientemente
ro&ramada a%can=ase nuestra ve%ocidad de rocesamiento4 #ser'a eso su>iciente como ara
" Se uede encontrar %a e.resin4 aun8ue em%eada en otro conte.to4 en e% art'cu%o (Savin& Mac2ines Hrom
T2emse%ves: T2e $t2ics o> Dee Se%>LModi>ication) de Aeter Suber9
BAJO PALABRA9 Revista de Hi%oso>'a9
I9 @@ Joca4 NK 04 a;o 2005: IFL52
Mario Santos Sousa De la Habitacin China al Laboratorio de I.A.
dotar%a de mente- Sear%e es ta<ante: BNo estamos 2ab%ando sobre un estado tecno%&ico
articu%ar9 No tiene nada 8ue ver con %a distincin entre rocesamiento seria% o ara%e%o4 o
%a ve%ocidad de %as oeraciones de un ordenador4 o con comutadores 8ue uedan
interactuar causa%mente con e% entorno4 o inc%uso con %a invencin de robotsC +Sear%e "95I:
!6L!F,9 #1on 8u6 otra cosa uede tener 8ue ver- De acuerdo con Sear%e4 tiene 8ue ver con
%a distincin entre intenciona%idad (&enuina) e intenciona%idad (derivada)9
@nc%uso un inter%ocutor mec*nico cometente debe sus 2abi%idades a un &ruo de
sesudos dise;adores 2umanos9 Nin&?n ro&rama de ordenador4 nin&?n robot 8ue odamos
dise;ar 7 construir4 aun8ue veamos en 6% a un inter%ocutor inte%i&ente4 ser* <am*s un
ensador verdaderamente autnomo con e% mismo tio de intenciona%idad &enuina de %a 8ue
&o=amos %os seres 2umanos9
Sin embar&o4 como tratar6 de mostrar a continuacin4 %a distincin entre intenciona%idad
&enuina e intenciona%idad derivada di>'ci%mente se sostiene9 Aensemos4 or e<em%o4 en
a%&?n otente ro&rama de a<edre=4 como )rit* o Dee# Blue9 $n cada <u&ada4 e% /ro&rama
madre3 debe eva%uar un sin>'n de movimientos9 Aara e%%o4 e<ecuta un &ran n?mero de
subrutinas +7 de subL999LsubLrutinas999, 8ue comiten entre s' or >ormar arte de %a <u&ada
&anadora9 1ada una de e%%as si&ue su roio <ue&o 7 dise;a su roia estrate&ia4 de ta%
manera 8ue cada una osee una suerte de intenciona%idad4 aun8ue deriada con resecto a%
/ro&rama madre3 8ue suervisa 7 eva%?a +74 en cierta manera4 sabe interretar, sus
movimientos ara incororar%os a su <u&ada9 #Acaso odemos a>irmar 8ue e% ro&rama
madre osea una intenciona%idad !enuina- S' 7 no +s' con resecto a una determinada
subrutina4 no con resecto a su ro&ramador4 &enera%mente 2umano,: %a atribucin de uno u
otro tio de intenciona%idad deender* de% unto de vista 8ue adotemos9
A2ora bien4 demos un aso m*s 7 tras%ademos este e<em%o a% caso 8ue nos ocua4
adotando un unto de vista estrictamente evo%utivo9 #$n 8u6 medida odemos a>irmar 8ue
nosotros4 %os seres 2umanos4 &ocemos de un tio de intenciona%idad &enuina- 1abe
re&untarse si no somos tambi6n oseedores de% tio de intenciona%idad 8ue Sear%e
considerar'a (derivada)4 en tanto 8ue somos roducto +una subrutina4 si se 8uiere, de un
ro&rama madre denominado /Madre Natura%e=a39 Aero si esto es as'4 #8u6 sentido tiene
mantener una distincin absoluta entre intenciona%idad (&enuina) e intenciona%idad
(derivada)- Desde esta ersectiva4 todo a&ente oseer'a una intenciona%idad derivada9
#Aero si acetamos esto4 no estamos ca7endo en una suerte de anLsi8uismo- B$%
recio de ne&ar %a distincin entre intenciona%idad intr'nseca 7 derivada Sdir* Sear%eS es e%
absurdo4 or8ue convierte todo %o 8ue 2a7 en e% universo en menta%C +"992: 5",9 No
obstante4 ne&ar dic2a distincin no nos otor&a %icencia ara atribuir mente a un termostato o
a una iedra4 en contra de %o 8ue ueda ensar Sear%e9 Aara no caer en e% absurdo4 no
debemos erder de vista e% tema 8ue nos ocua4 a saber4 si es %e&'timo atribuir mente a un
inter%ocutor mec*nico +demostrab%emente, cometente +or e<em%o4 caa= de suerar e%
Test de Turin&,9 Nadie est* su&iriendo4 ues4 8ue sea osib%e mantener una conversacin
inte%i&ente con un termostato o con una iedra9
Aasemos a %a tercera remisa: tener sinta.is no es su>iciente ara +ni e8uiva%ente a, tener
sem*ntica9 Ta 2emos mencionado 8ue un ro&rama sin im%ementar es tan inerte como %os
estamados de un tai=9 De nuevo4 es imortante se;a%ar 8ue un ro&rama se caracteri=a en
&ran medida or %o 8ue hace4 or su caacidad de modi>icar estados de cosas9 $ste asecto
suscita cuestiones de inter6s %e&a%9 @ma&inemos dos ro&ramas 8ue cum%en %a misma
>uncin4 8ue rea%i=an %a misma tarea4 ero 8ue4 sin embar&o4 di>ieren sint*cticamente +9e<94
or estar escritos en %en&ua<es di>erentes,9 #Se trata de un so%o ro&rama o de dos
ro&ramas distintos- 1iertamente ambos (2acen %o mismo4) aun8ue de distinta manera9 Sea
BAJO PALABRA9 Revista de Hi%oso>'a9
@@ Joca4 NK 04 a;o 2005: IFL52 50
Mario Santos Sousa De la Habitacin China al Laboratorio de I.A.
como >uere4 %o 8ue 8ueda c%aro es 8ue resu%ta di>'ci% searar e% ro&rama de sus condiciones
de im%ementacin9 $n cierto modo4 dec%arar 8ue un ro&rama es incaa= de roducir
sem*ntica or s' mismo es an*%o&o a decir 8ue una artitura no uede roducir m?sica or
s' misma9 Ambos tienen 8ue ser e<ecutados9 R%e&ados a este unto4 arece m*s adecuado
re&untarse si un ro&rama im#lementado es caa= de roducir sem*ntica9
Un e<em%o adecuado de un ro&rama conversaciona% +im%ementado en una m*8uina
su>icientemente (*&i%) como ara interactuar a tiemo rea% con su entorno, es Ri#le+4 e%
?%timo (robot conversaciona%) de% M@T Media Rab4 un robot 8ue tiene4 entre otras
caacidades4 un sistema de ercecin visua% 7 auditiva4 caacidades motoras4 7 %a
2abi%idad de maniu%ar ob<etos de tama;o medio con su (boca mec*nica9) Adem*s4 Ri%e7
es caa= de determinar %a osicin de un observador cercano4 7 uti%i=ar dic2a in>ormacin
ara conte.tua%i=ar %a descricin de ob<etos en su entorno inmediato9 $stas caracter'sticas
%e ermiten rea%i=ar di>erentes tareas4 or e<em%o4 comrender 7 e<ecutar instrucciones de%
tio /Toca a8ue%%a cosa a=u% 7 esada 8ue se encontraba a mi i=8uierda34 or tanto4 es caa=
de identi>icar ob<etos 7 maniu%ar%os4999 %o 8ue one de mani>iesto un tio de
intenciona%idad (cruda9) Ro imortante4 no obstante4 es 8ue Ri%e7 es caa= de asi&nar un
e8uiva%ente >unciona% de (si&ni>icado) a sus variab%es internas4 interretar%as 7 >ormar una
reresentacin interna de su entorno
2
4 en otras a%abras +7 sin ecar de otimismo,: es
caa= de roducir sem*ntica9
$% e.erimento menta% de %a 0abitacin 12ina constitu7e una (bomba de intuicin)
+intuition #um#4 tomando restada %a e.resin de Dennett,4 destinada a estimu%ar nuestra
ima&inacin4 7 8ue nos invita a e.traer %a conc%usin de 8ue nin&?n ro&rama or s' mismo
es caa= de roducir sem*ntica4 una conc%usin 8ue sit?a en un im#asse a %os de>ensores de
%a @nte%i&encia Arti>icia% >uerte9 No obstante4 e% tr*nsito de %a 0abitacin 12ina a%
%aboratorio de @9A94 arro<a nueva %u= sobre e% rob%ema4 o>reciendo una ersectiva 8ue4 a
mi modo de ver4 resu%ta m*s >ruct'>era e interesante4 7 8ue merece %a ena e.%orar9 Abre4
en de>initiva4 %a osibi%idad de 8ue una m*8uina convenientemente ro&ramada ueda
roducir %o 8ue es caa= de roducir un cerebro or&*nico como e% nuestro con sus oderes
causa%es articu%ares: una mente cometente caa= de desenvo%verse en e% mundo9
BIBLIOGRAFA:
D$NN$TT4 D9 19 +"95F, ,he Intentional Stance9 1ambrid&e: M@T Aress/A Orad>ord
OooV9
D$NN$TT4 D9 19 E"955G +"995, Brainchildren. -ssa+s on Desi!nin! Minds9
1ambrid&e: M@T Aress/A Orad>ord OooV9
D$S1ART$S4 R9 E"6!FG 200" Discurso del M.todo9 +trad9 Manue% Warc'a Morente,9
Madrid: $sasa4 1o%9 Austra%9
0OHSTADT$R4 D9 R9 7 Dennett4 D9 19 E"95"G +2000, ,he Mind/s I9 )antasies and
Re$lections on Sel$ and Soul9 NeU TorV: Oasic OooVs9
S$ARR$4 X9 R9 +"950, (Minds4 Orains4 and Aro&rams) en 0o>tstadter 7 Dennett E"95"G
20009
2 Aara m*s deta%%es sobre e% ro7ecto Ri%e74 cons?%tese %a *&ina 2tt://UUU9media9mit9edu/co&mac/4 en esecia%4
e% art'cu%o introductorio (1onversationa% Robots: Oui%din& O%ocVs >or Wroundin& Yord Meanin&s) +Deb Ro7 et a%9
200!,9
BAJO PALABRA9 Revista de Hi%oso>'a9
5" @@ Joca4 NK 04 a;o 2005: IFL52
Mario Santos Sousa De la Habitacin China al Laboratorio de I.A.
S$ARR$4 X9 R9 +"95I, Minds0 Brains and Science9 1ambrid&e: 0arvard Universit7
Aress9
S$ARR$4 X9R9 +"992, ,he Rediscoer+ o$ the Mind9 1ambrid&e: M@T Aress/ A Orad>ord
OooV9
TUR@NW4 A9M9 +"950, (1omutin& Mac2iner7 and @nte%%i&ence) en 0o>tstadter 7
Dennett E"95"G 20009
BAJO PALABRA9 Revista de Hi%oso>'a9
@@ Joca4 NK 04 a;o 2005: IFL52 52