10/7/2015

ElApocalipsisrobticoQuinlecontagielmiedoaBillGates?

ESTSENLASECCIN CIENCIAYTECNOLOGA

ELAPOCALIPSISROBTICOQUINLECONTAGIEL
MIEDOABILLGATES?

PorRedaccin/SinEmbargojulio9,201500:06h

1Comentario

PersonajesreconocidoscomoBillGates,ElonMuskeinclusoStephenHawkingaseguranqueel
futurodelainteligenciaartificialesaterrador.Foto:EFE
PorCristinaSnchez
ElfundadordeTeslaySpaceXsemuestrapreocupadodesdequehadescubiertolaobrade
NickBostrom,unodelosexpertoseninteligenciaartificialquehanadvertidodelosriesgosque
correlahumanidadsiunamquinasuperanuestrasmortaleslimitaciones.Noeselnico:el
InstitutodelFuturodelaVidayabuscaalternativasparaevitarlasconsecuenciasirreversibles
decrearunrobotmsinteligentequenosotros.Porqualgunosinvestigadoresestntan
asustados?
CiudaddeMxico,9dejulio(SinEmbargo/ElDiario).Seconsigueelltimoinventoquela
humanidadjamstendrquerealizar,lasuperinteligencia(ynoteimaginesaunrobotconcarade
data:text/htmlcharset=utf8,%3Ch3%20style%3D%22border%3A%200px%3B%20margin%3A%200px%200px%2015px%3B%20padding%3A%200px%2010px

1/9

10/7/2015

ElApocalipsisrobticoQuinlecontagielmiedoaBillGates?

sdicocomoeldelafotoporqueeldeverdadnovaatenerformahumana).Unodesusobjetivosbien
podraserhacernossonrer.Parahacerlodelaformamseficazposible,decidecolocarelectrodosen
nuestrosmsculosfaciales.Nuestrassonrisassoneternas,perolaideanonosgustademasiado.
Decidimosdesenchufarlamquina,peroacasotieneunbotndeapagado?Losneandertales
pudierondetenerlaevolucinhumana?Sioptamosporencerrarlaenunalmpara,nolograrelgenio
escaparse?
ConesteilustrativoejemploexplicabaNickBostromlosfuturosriesgosdelainteligenciaartificialen
unarecienteconferenciaTED.DirectordelInstitutoparaelFuturodelaHumanidaddelaUniversidad
deOxford,estefilsofoytecnlogosuecosehaconvertidoenunodelosinvestigadoresmsfamosos
porsuspesimistaspredicciones,ysusideashancontagiadoyaaotraspersonalidadesdelmundodela
tecnologa.
ElonMuskquedimpactadotrasleerSuperintelligence,ellibroenelqueBostromharesumidosus
ideas,yadvirtiporTwitterquelainteligenciaartificialerapotencialmentemspeligrosaquelas
armasnucleares.Otrosdosgeniosdelainformticasehansumadoaestacorrientedepensamiento:
BillGateshaaseguradoquecompartelaspreocupacionesdelfundadordeTeslaySteveWozniakque
elfuturodelainteligenciaartificialesaterradorynadabuenoparalagenteoquelosrobotsnos
utilizarncomomascotas.Enlosltimosmeses,inclusoelastrofsicoStephenHawkinghamostrado
sutemoraquelainteligenciaartificialacabeconlaespeciehumana.
MientrasalgunosfuturlogoscomoRayKurzweildefiendenquelainteligenciaartificialnostraer
msventajasqueinconvenientes,comolacuradedeterminadasenfermedadesoeldesarrollode
nuevasfuentesdeenerga,Bostromcreequesuevolucinpuedeserunadelasmayoresamenazaspara
lavidaenelplanetaTierra.Noeselnicoenelclubdeinvestigadoresquepiensanqueelapocalipsis
puedellegardelamanodeunasuperinteligencia.

data:text/htmlcharset=utf8,%3Ch3%20style%3D%22border%3A%200px%3B%20margin%3A%200px%200px%2015px%3B%20padding%3A%200px%2010px

2/9

10/7/2015

ElApocalipsisrobticoQuinlecontagielmiedoaBillGates?

ELINSTITUTOQUEESTUDIASILOSHUMANOSTENEMOSFUTURO
ElmultimillonariosudafricanoElonMuskesttanpreocupadoporlospeligrosdelasmquinasqueha
decididodonardiezmillonesdedlares(unosnuevemillonesdeeuros)alInstitutoporelFuturodela
Vida(FLIporsussiglaseningls),unaorganizacindeinvestigadorescreadahaceunaoconelfin
demitigarlosriesgosexistencialesalosqueseenfrentalahumanidad.

ElempresarioquesueaconviajaraMartesehaconvertidoenmiembrodelComitdeAsesores
CientficosdelFLI,delquetambinformanparteNickBostrom,StephenHawkingyhastaMorgan
Freeman,quetraspresentarlaseriedocumentalGrandesMisteriosdelUniversodebehaber
comenzadoapreguntarsepornuestroporvenir.
ElpromotordeestainstitucineselprofesordefsicadelMITMaxTegmark,quehacalificadocomo
estpidonoprepararseparaeladvenimientodelasmquinaspensantes.Esteprofesordesconoce
cuntotardarnlascomputadorasensuperarnuestraslimitaciones,perocreequehallegadoel
momentodepreguntarsesihabrespacioparalossereshumanoscuandoesosuceda.
Aprincipiosdeao,elFLIreunia70investigadoreseninteligenciaartificialenunhotelde
Californiaparadebatirsobrelaseguridaddelfuturo.Deleventosaliunacartaabiertaquealababalos
beneficiosdelainteligenciaartificial,altiempoquereclamabaevitarlospotencialesinconvenientes
paralograrquelasmquinasrespetenlosvaloreshumanos.
Casi7milpersonashanapoyadolamisiva,principalmenteestudiantesyprofesoresdeinformticao
robticadetodoelmundo,perotambinprofesionalesdelasprincipalescompaastecnolgicascomo
SteveWozniak,YannLeCun(responsabledelLaboratoriodeInteligenciaArtificialdeFacebook)y
algunostrabajadoresdeIBM,TeslaMotorsoDeepMind,unaempresadeinteligenciaartificial
propiedaddeGoogle.

data:text/htmlcharset=utf8,%3Ch3%20style%3D%22border%3A%200px%3B%20margin%3A%200px%200px%2015px%3B%20padding%3A%200px%2010px

3/9

10/7/2015

ElApocalipsisrobticoQuinlecontagielmiedoaBillGates?

MiembrosdelInstutodelFuturodelaVida.Foto:FLI,ElDiario.es
AunqueelFLIpretendademostrarconestacartaquelosexpertoseninteligenciaartificialactande
maneraresponsableconsusinvestigaciones,sullamamientohaacabadocreandounaciertaalarma
meditica.Alfinyalcabo,silossabiospiensanquepuedenexistirobstculosparalapervivenciade
larazahumana,noesinevitableasustarse?
Silosobjetivosdelainteligenciaartificialestnalineadosconlosinteresesdelahumanidad,podran
tenerunimpactomuypositivo,comodescubrirlasolucinparaevitarlapobrezaylasenfermedades.
Sielmodelodevaloreshumanosdelainteligenciaartificialnoestespecificadocorrectamente,podra
serpeligroso,explicaViktoriyaKrakovna,doctorandadelaUniversidaddeHarvardycofundadora
delFLIjuntoaTegmarkyJaanTallinn,unodelosprimerosdesarrolladoresdeSkype.
Krakovnadetallaqueretoscomolaespecificacindelosvaloreshumanosenlasmquinaspodran
tardardcadasenresolverse,asquedesdeelFLIsehanpuestomanosalaobrayacabandeotorgar
becasa37equiposdeinvestigacinparabuscaresainteligenciaartificialconlaqueseaposible
convivir.
LASCONSECUENCIASIRREVERSIBLES
ElprimerfirmantedelacartayunodesusprincipalesimpulsoresfueStuartJ.Russell,profesordela
UniversidaddeCaliforniaenBerkeleyautorjuntoaPeterNorvig(directordeInvestigacindeGoogle
data:text/htmlcharset=utf8,%3Ch3%20style%3D%22border%3A%200px%3B%20margin%3A%200px%200px%2015px%3B%20padding%3A%200px%2010px

4/9

10/7/2015

ElApocalipsisrobticoQuinlecontagielmiedoaBillGates?

ysimpatizantedelacausadelFLI)deInteligenciaArtificial:unenfoquemoderno,unodeloslibros
clsicosenestecampo.
Traslosgrandesavancesquesehanproducidoenlosltimosaos,Russellcreequelosinvestigadores
nodebenesperarms.Siunaredneuronalhasidocapazdeaprenderporsmismaajugaral
comecocosyunchatbotquehablabasndoseenfrasesanterioresyenprediccionesyadeclaraqueel
propsitodevivireshacerloparasiempre,eshoradeplantearsequpodrapasarsilasmquinas
llegaranasuperarlainteligenciahumanaentodoslosaspectos.

Lasuperinteligencianosermalvada,sinoquepodrdaarnosalobedecernuestrasrdenes.Foto:
RV1864,ElDiario.es
Eldesarrollodeunainteligenciaartificialaunnivelhumanomarcarunhitoenlahistoria,yno
podemosmarcharhacialconlosojosvendados,explicaRussell.Tenemosqueentenderloque
significa,loqueestamoshaciendoycmovamosagarantizarquevayabien.Sinopodemoshacerlo,
corremoselriesgodequelasconsecuenciasseanirreversibles.

data:text/htmlcharset=utf8,%3Ch3%20style%3D%22border%3A%200px%3B%20margin%3A%200px%200px%2015px%3B%20padding%3A%200px%2010px

5/9

10/7/2015

ElApocalipsisrobticoQuinlecontagielmiedoaBillGates?

Esteprofesorcritica,esos,losinnecesariossupuestosquedescribenunasuperinteligenciadotada
deunaconscienciaespontneaounamaldadintrnseca,frecuentesenlacienciaficcin.Elproblema
realestenlamquinadesonrisasquedescribaBostrom,unadificultadqueyahabaexpuesto
anteriormenteconunejemplomsbanal:unamquinadefabricarclips,aparentementepacfica,que
recibelaordendecreartanaspiezasdealambrecomoseaposible.
Lamquinaobedeceraciegamentey,coneltiempo,encontraralamaneradetransformarcualquier
materialsobrelafazdelaTierra(quinsabesiinclusocarnehumana)ensuspreciadosclips.
Podramosordenarlaquesolofabricaraunmilln,peroBostromargumentaquepodradedicarsede
formaobsesivaacomprobarquehacumplidolatarea,consumiendomsymsrecursos.Tienes
exactamenteloquehaspedido,noloquequieres,advierteRussell.Oprogramamosbienla
superinteligenciaoacabaremoscomoelreyMidas,convirtiendotodoeninservibleoro(oenestecaso,
eninserviblesclips).

Inclusounamquinaquefabriqueelmximonmerodeclipspuedeserunaamenaza.Foto:
Shutterstock
TRANQUILO,LOSPESIMISTASESTNBARAJANDOSOLUCIONES
Sialconocerlasteorasdeestosinvestigadorestehainvadidoelmiedo,detntuimaginacin.Los
investigadoresdelFLIyaestnestudiandoquhaceralrespecto.StuartRusselldefendihaceunos
meseslanecesidaddeconstruirunainteligenciaqueestalineadaconlosvaloreshumanosdeforma
data:text/htmlcharset=utf8,%3Ch3%20style%3D%22border%3A%200px%3B%20margin%3A%200px%200px%2015px%3B%20padding%3A%200px%2010px

6/9

10/7/2015

ElApocalipsisrobticoQuinlecontagielmiedoaBillGates?

demostrable.UndeliberadooxmoronconelqueRussellquiereponerdemanifiestolanecesidadde
probarcongarantasmatemticasqueunamquinaconocelasnecesidadeshumanas.
Lapresuncinesquelamayorpartedeltiempo,lamayoradelaspersonasactanmsomenosde
acuerdoconunosvalores,nosexplica.Asquesitenemosmquinastancapacescomoloshumanos,
deberanaprendersistemasdevaloressimilaresytratarloscomoprimordialespordiseo.Dondehaya
incertidumbre,lamquinadeberaserreaciaaactuar.
RyanCalo,profesorenlaEscueladeDerechodelaUniversidaddeWashington,esotrodelosquehan
firmadolacartaabiertadelFLI.Esteabogadollevatiemporeclamandoundebatesobrelasleyesdela
robticayaseguraque,sihubieraunainteligenciasuperior,habraquecambiarporcompletolas
normasylasinstituciones.
Russellcoincideenquedebemosempezararegularlosavancesparticularesenlamateria,comolos
cochesautnomosolacirugaconrobots,perodefiendequedefinirlasreglasdelainteligencia
artificialnohadesersolounatareadeloslegisladores.Tambinlosexpertoseninteligenciaartificial
tienenquepreocuparseporimpedireldesarrollodeSistemasdeArmasAutnomosLetales(los
llamadoskillerrobots)quepuedanviolarladignidadhumana,untemaquesedebatielpasado
mesdeabrilenlaConvencindeArmasConvencionalesdelaONUalaqueRusselasisticomo
experto.
Aligualquelosfsicostienenqueadoptarunaposturaacercadelasarmasnucleares,esteprofesor
opinaquelosexpertosenrobticaeinteligenciaartificialdebenmostrarsupuntodevistasobrelas
armasdelfuturo:elquecallaacabaotorgando.Podranserutilizadas,porejemplo,paraacabarcon
todaslaspersonasdeundeterminadotipo(edad,gnero,raza)enunreageogrficadeterminadao
parasometerapoblacionesenterasatravsdelaamenazadelaejecucininstantnea,advierte.

data:text/htmlcharset=utf8,%3Ch3%20style%3D%22border%3A%200px%3B%20margin%3A%200px%200px%2015px%3B%20padding%3A%200px%2010px

7/9

10/7/2015

ElApocalipsisrobticoQuinlecontagielmiedoaBillGates?

LosexpertospidenquedejemosdecreerquelasuperinteligenciasepareceraTerminator.Foto:
WikimediaCommons
UNREFERNDUMSOBREINTELIGENCIAARTIFICIAL?
Debemosentrarloscomunesmortalesenestosdebatesquetantonosafectanodebemosdejarque
decidanlosexpertos,quealmenosnopiensanquelasuperinteligenciavayaaparecerseaTerminator?
ViktoriyaKrakovnasealaqueunamejorcomprensinpblicadeestostemasquenoestbasadaen
laspelculasdeHollywoodserapositiva,ydesdeelFLIyahancriticadoelalarmistahypedelos
mediosconestetema.
StuartRussellesunodelosinvestigadoresquemsdefiendequedeberamostenervozyvoto.Estas
preguntastienenunainfluenciaimportanteenlafuturaconfiguracindelavidahumana.Enltima
instancia,lagentedebedecidirqufuturoquiere,nodejarlasdecisionesatecnlogosomilitares,
seala.
Porsuparte,ColinAllen,profesorenlaUniversidaddeIndianayunodelosinvestigadoresqueha
estudiadocmointroducirenlaprogramacindelasmquinasalgunaspautasmorales,coincideen
quelosciudadanosdeberanestarmsinformadossobrelacuestin.Enlugardeunamoratoria,yo
propondraquelainteligenciaartificialdeberaestarsujetaaungrupoderevisinciudadano,opina
data:text/htmlcharset=utf8,%3Ch3%20style%3D%22border%3A%200px%3B%20margin%3A%200px%200px%2015px%3B%20padding%3A%200px%2010px

8/9

10/7/2015

ElApocalipsisrobticoQuinlecontagielmiedoaBillGates?

Allen,quedesestimalasprediccionesdeRayKurzweilsobrelainminentellegadadelasingularidad.

StuartRussellcreequelosciudadanosdeberamosestarmsinformadossobreinteligenciaartificial.
Foto:Sids1,ElDiario.es
AunqueelexcntricodirectordeingenieradeGooglehayasealado2045comoelaoenquelas
mquinasalcanzarnlainteligenciasobrehumana,Russellaseguraquenosolodesconocemoslafecha,
sinoquetampocopuedepronosticarsecomosideunpartedeltiemposetratara.
Dehecho,incluyeunelementodeeleccin:esimprobablequeocurrasiloshumanosnolo
buscamos,sentenciaesteinvestigador.Entonces,sitododependedelospropsitosdelosexpertosen
inteligenciaartificialydenosotrosmismos,debemostenermiedocomoMusk,emocionarnoscomo
Kurzweilosimplementeexigiralosinvestigadoresqueseancapacesdecontrolarsuspropias
creaciones?
ESTECONTENIDOESPUBLICADOPORSINEMBARGOCONAUTORIZACIN
EXPRESADEELDIARIO.ES.VerORIGINALaqu.Prohibidasureproduccin.

data:text/htmlcharset=utf8,%3Ch3%20style%3D%22border%3A%200px%3B%20margin%3A%200px%200px%2015px%3B%20padding%3A%200px%2010px

9/9