EL FUTURE DE HUMAN EVOLUCIN

Nick Bostrom
futuro de la humanidad, los
profesores del Instituto de Filosofa & James Martin 21st
Century School de la
Universidad de Oxford
www.nickbostrom.com
[Primera versin: 2004. Publicado en muerte y Anti-muerte:
Doscientos aos despus de Kant, cincuenta aos despus de Turing,
ed. Charles Tandy (Ria University Press: Palo Alto, California,
2004): pp. 339-371. Republicado en
Bedeutung (2009): El prximo]
Resumen
El desarrollo evolutivo a veces se piensa que exhibe una tendencia
inexorable
hacia mayores, ms complejos y normativamente valiosas formas de
vida. Este documento explora algunos escenarios distpico donde
rueda libre evolucin, mientras se
sigue produciendo y complejas formas de organizacin inteligente,
conducir a la eliminacin progresiva de todas las formas de vida que
nos preocupa. Luego consideramos cmo tales resultados catastrficos
podran evitarse y argumentan que, bajo ciertas condiciones, la
nica solucin posible sera una poltica coordinada a nivel mundial
para el control de la evolucin humana, modificando
la funcin de adecuacin de las futuras formas de vida inteligente.
1. La vista Panglossian
podemos confiar en el desarrollo evolutivo de nuestra especie en
adoptar ampliamente deseable direcciones?
A partir de primitivos, vida inconsciente, la evolucin biolgica ha
conducido al desarrollo de
microorganismos cada vez ms avanzadas, incluyendo las criaturas que
tienen mentes, la conciencia, el
lenguaje y la razn. Ms recientemente, cultural y tecnolgico, que
exhiben
ciertos paralelismos con la evolucin biolgica, han permitido a
nuestra especie a avanzar a un
ritmo acelerado enormemente. Los ltimos cien aos han visto enormes
mejoras en la
duracin de la vida humana, la productividad laboral, el
conocimiento cientfico y la organizacin social y poltica,
que han permitido que miles de millones de personas a disfrutar de
oportunidades sin precedentes para el disfrute
y el desarrollo personal. En un histrico as como en una escala de
tiempo geolgico, la gran
imagen muestra una tendencia global hacia el aumento de los niveles
de complejidad, el conocimiento, la

conciencia, y 1 coordinada organizacin dirigido hacia una meta, una

tendencia que, de no poner demasiado finas
1 un punto en ella, es posible que la etiqueta de "progreso".
Lo que llamaremos la vista Panglossian sostiene que este historial
de xito
nos da buenas razones para pensar que la evolucin (ya sea
biolgico, memetic, o
tecnolgicos) continuar liderando en direcciones deseables. Este
Panglossian ver, sin embargo,
puede ser criticada por al menos dos razones. En primer lugar,
porque no tenemos ninguna razn para pensar que todo este progreso
fue pasado en ningn sentido inevitable--mucho de l puede, para
aught sabemos, ha sido debido a la suerte. Y segundo, porque incluso
si el progreso logrado en el pasado fueron hasta cierto punto
inevitable, no hay garanta de que la melioristic tendencia
continuar en el
futuro indefinido. La primera objecin deriva cierto grado de apoyo
de la consideracin de que un
efecto de seleccin de observacin est funcionando para filtrar las
pruebas podemos tener acerca del xito
2 de nuestro propio desarrollo evolutivo. Supongamos que fuera
cierto que el 99,9% de todos los planetas
donde la vida surgi, se extinguieron antes de desarrollar hasta el
punto de que
los observadores inteligentes podran comenzar a meditar sobre su
origen. Si este fuera el caso, qu deberamos esperar para
observar? Respuesta: algo similar a lo que hacemos en el hecho de
observar. Claramente, la hiptesis de
que las probabilidades de desarrollar vida inteligente en un planeta
dado son bajos no predice que debemos
encontrarnos en un planeta donde la vida se extinguieron en una
etapa temprana. En su lugar, predice que debemos encontrarnos en un
planeta donde la vida inteligente ha evolucionado, incluso si tales
planetas constituyen una fraccin muy pequea de todos los planetas
donde la vida primitiva evolucion. El largo historial de xito de
la vida en nuestro pasado evolutivo, que uno puede tomar para
ingenuamente apoyan la hiptesis de que la vida es, en general, las
perspectivas son buenas y que hay algo parecido a la
inevitabilidad del surgimiento de organismos superiores desde
simples replicadores, resulta,
despus de reflexionar sobre el abrumador efecto de seleccin de
observacin el filtrado posibles
evidencias podramos Tienen, no ofrecer ningn ese apoyo en todo,
porque esta es la misma evidencia de que deberamos esperar a haber
tenido si la hiptesis optimista eran falsas. Una mucho
ms cuidadoso examen de los detalles de nuestra historia evolutiva
se necesitaran para
eludir este efecto de seleccin. Dicho examen est ms all del
alcance del presente
documento 3. Este documento se centrar ms bien en la segunda
objecin a la vista Panglossian. Incluso si el surgimiento de vida
inteligente desde simples replicadores han un robusto y casi
inevitable
, este proceso no nos dan fuertes motivos para pensar que la
tendencia positiva continuar. Una posibilidad es, por supuesto, que
un evento catastrfico puede provocar la repentina

1 Para un argumento que tanto la historia geolgica y humana

manifiestan una tendencia hacia una mayor complejidad, vase (Wright
1999). Para un argumento contrario (criticado en el captulo 9 del
libro de Wright), vase (Gould 1990).
2 Para la teora de la observacin de los efectos de seleccin, vea
Bostrom (2002a) y sus referencias.
3 Pero vase, por ejemplo, (Carter, 1983, 1989; Bostrom Hanson,
2002a; 1998b).
2 La

extincin de la especie humana. Algunos riesgos existenciales surgen

de la naturaleza, por ejemplo,
riesgos de impacto (meteoritos y asteroides), las pandemias, las
catstrofes, astrofsicos y supervolcano erupciones. Pero los
mayores riesgos existenciales son antropognicas y surgen, ms
especficamente,
presentes o futuras previstas de los desarrollos tecnolgicos. Usos
destructivos de la
avanzada nanotecnologa molecular, diseador de los patgenos, las
futuras carreras de armamentos nucleares, experimentos de fsica de
alta energa, y auto-mejoramiento de AI con un mal concebido meta
system estn entre las preocupantes perspectivas que podran causar
el mundo humano para terminar en una explosin. Aqu, sin embargo,
vamos a estudiar un conjunto diferente de riesgo existencial, en el
que el mundo terminara el
4 de manera ms gradual, no con una explosin, sino con un quejido.
Dejemos pues suponer que ningn
cataclismo repentino pone fin a la vida. Tambin nosotros debemos
apartar los escenarios en los cuales la evolucin conduce a la
erosin de la complejidad. Vamos a estudiar cmo, incluso si el
desarrollo evolutivo contina sin cesar en la direccin de una mayor
complejidad, sin embargo, las cosas podran tomar un giro equivocado
que conduce a la desaparicin de todas las cosas que valoramos. Este
papel no se afirman que esto es lo que suceder. El objetivo es, ms
bien, para
socavar nuestra confianza en la vista Panglossian y sugerir que una
postura ms agnstica refleja mejor la evidencia disponible. Voy a
examinar un par de escenarios en los cuales
rueda libre evolucin nos llevan en direcciones indeseables, y voy a
argumentar
que si el futuro paisaje de fitness evolutivo es tal que estos
cursos evolutivos predeterminado (y no tenemos slidas razones a
favor o en contra de esta hiptesis), entonces
la nica forma en que podramos evitar existencial a largo plazo
Desastre est por tomar el control de nuestra propia
evolucin. Haciendo esto, voy a argumentar ms, requerira la
elaboracin de un "singleton",
un orden mundial en el que al ms alto nivel de organizacin hay
slo un
poder de decisin independiente (que puede ser, pero no
necesariamente, un gobierno mundial).5
2. Dos distpica "hacia arriba" escenarios evolutivos
en esta seccin vamos a considerar dos escenarios en los que la
evolucin humana, potenciados por la

tecnologa avanzada, conduce en direcciones que debemos considerar

como altamente indeseable.
Escenario I: Los insensatos Outsourcers
contina el progreso tecnolgico para acelerar y en algn momento la
tecnologa de
6 "mente cargando" llega a ser posible. Algunos individuos humanos
cargar y hacer
4 Para obtener ms informacin sobre riesgos existenciales, y la
clasificacin de estos en "bangs", "whimpers" y otras categoras,
consulte Bostrom (2002b); tambin (Leslie 1996; Rees 2003; Posner
2004).
5 En singletons, vea Bostrom (2006).
6 Cargando abarcara, en primer lugar, congelar un cerebro y, a
continuacin, cortar en rodajas, luego de escanear las rodajas con
alguna tcnica de escaneado de alta resolucin y, a continuacin,
utilizando el software de procesamiento de imgenes automatizado
para reconstruir y etiquetar un mapa 3D muy detallado del cerebro
original. El mapa mostrara todas las neuronas, la matriz de sus
interconexiones sinpticas, las fortalezas de estas uniones, y otros
detalles relevantes. Utilizando
3

muchas copias de s mismos. Mientras tanto, hay un progreso gradual

en la neurociencia
y la inteligencia artificial, y eventualmente es posible aislar
los mdulos cognitivos individuales y conectarlas a los mdulos
cargados de otras mentes. Posiblemente, mdulos tendra que estar
capacitado para poder comunicarse entre s de
manera efectiva. Los mdulos que se ajusten a una norma comn, sera
mejor poder
comunicarse y cooperar con otros mdulos y sera, por tanto,
econmicamente ms productivos, creando una presin para la
normalizacin. Pueden existir
mltiples estndares; algunos mdulos podran especializarse en la
traduccin entre
normas incompatibles. Comenzar la carga competitiva creciente
externalizacin porciones
de su funcionalidad: "Por qu necesito saber aritmtica cuando
puedo comprar tiempo de
aritmtica-Modules Inc. siempre que necesito para hacer mis cuentas?
Por qu necesito para ser
buenos con el lenguaje cuando puedo contratar a un profesional del
mdulo de lenguaje para expresar mis
pensamientos? Por qu necesito para molestarse con la toma de
decisiones acerca de mi vida personal
cuando hay certificacin ejecutiva-mdulos que puede escanear mi
objetivo estructurar y administrar mis activos, de modo que lo mejor
para cumplir mis objetivos?" Algunas cargas pueden preferir
conservar la mayor parte de su funcionalidad y gestionar tareas s
que podra ser ms
eficiente si se hace por otros. Seran como los aficionados que
disfrutan de cultivar sus

propios vegetales o tejer sus propias cardigans; pero no sera menos

eficiente que otras cargas, y que, por tanto, quedara outcompeted a
lo largo del tiempo.
Es posible que la eficiencia ptima se alcanzar mediante la
agrupacin de habilidades en
agregados que son aproximadamente equivalentes en humanos. Podra
ser el caso, por ejemplo, que un
mdulo de matemticas deben estar adaptados a la lengua-module, y
que ambos deben ser adaptados a
la ejecutiva-mdulo, a fin de que los tres son capaces de trabajar
juntos de manera eficaz.
La normalizacin podra estar casi totalmente impracticable. Pero es
difcil ver alguna
razn convincente para estar seguros de que esto es as. Para aught
sabemos,
mentes de tipo humano puede ser slo ptimo dadas las limitaciones
de la neurologa. Cuando resulta posible copiar mdulos a voluntad,
para enviar seales de alto ancho de banda entre las piezas de
diferentes cerebros, y construir arquitecturas que no puede ser
fcilmente implementado en redes neuronales biolgicas, puede
resultar que la optima en relacin a este nuevo paisaje de
restricciones se ha desplazado de la regin como la mente humana.
Puede no existir un nicho para arquitecturas mental de
7 a la especie humana.
Modelos computacionales de cmo funcionan estos elementos bsicos,
todo el cerebro podra entonces ser emulados De manera
suficientemente amplio equipo. Para ms detalles, vase (Sandberg
& Bostrom 2008).
7 algunas especulaciones sobre el futuro de la ecologa de los
agentes inteligentes pueden encontrarse en (Chislenko 1996; Moravec
Moravec, 1989; 1999); cf. tambin Minsky (1988). Existe una amplia
literatura econmica sobre los contratos, los costos de transaccin,
el tamao de la empresa, etc. que forman un fondo pertinente para
pensar acerca de la plausibilidad de la hiptesis de
externalizacin, pero una revisin de esta literatura est ms all
del alcance de este papel; el locus classicus (Coase 1937).
4

Puede haber nichos ecolgicos para los complejos que o bien son
menos complejas (como
mdulos individuales), ms complejas (como las inmensas colonias de
mdulos), o de complejidad similar como la mente humana pero con
arquitecturas radicalmente diferente. Seran estos complejos merezca
la pena desde nuestro punto de vista actual? Nosotros, previa
reflexin, realmente
a favor de un mundo en el que tales tipos de aliengenas complejos
han reemplazado complejos de tipo humano? La respuesta podra
depender de la naturaleza exacta de esos complejos aliengena. El
mundo actual contiene muchos niveles de organizacin. Algunas
entidades altamente complejas como
las corporaciones multinacionales y los estados nacin contienen
seres humanos como constituyentes. Sin embargo, solemos

asignar estos complejos de alto nivel slo valor instrumental. Las

empresas y los Estados
no (se supone generalmente) tienen por s mismos la conciencia, ms
all de la
conciencia de la gente que constituyen ellos; no puede sentir dolor
o
placer fenomenal. Pensamos que son de valor slo en la medida en que
sirven a las necesidades humanas. En
los casos en que no contribuyen al bienestar de toda criatura
sensible, nos "matar" a ellos
8 sin escrpulos. Tambin hay niveles inferiores de la organizacin
en el mundo de hoy, y a las
entidades que habitan en esos niveles no gozan de considerable valor
moral. Pensamos que no est mal para borrar un trozo de cdigo
informtico. Tampoco pensamos que un neurocirujano est
daando a nadie cuando ella extirpates un mdulo (quizs conteniendo
un centro epilpticos) de un cerebro humano si la operacin ayuda a
las restantes partes del cerebro para que funcione mejor. En cuanto
a formas aliengenas de complejos de la misma complejidad como un
cerebro humano, la mayora de nosotros podra asignarles valor slo
si pensamos que tenan una capacidad de experiencia consciente. As
podemos imaginar una sociedad tecnolgicamente muy avanzados, que
contiene muchos
tipos de estructuras complejas, algunas de las cuales son mucho ms
inteligentes y ms intrincados que
nada de lo que existe hoy en da, en la cual no sera, sin embargo,
una ausencia total de cualquier
tipo de ser cuyo bienestar ha significado moral. En cierto sentido,
esto sera una
sociedad deshabitadas. Todos los tipos de vida que nos preocupamos
siquiera remotamente sobre habra
desaparecido. Qu hara un mundo sin valor no es el hecho de que
las mquinas que habra
sustituido el hombre biolgico. Si una cuenta est implementado en
las neuronas biolgicas o en procesadores de silicio parece no hacer
ninguna diferencia moral fundamental. Ms bien, la catstrofe sera
que ese mundo no contendra incluso el tipo correcto de las
mquinas, es decir, aquellas que
son conscientes y cuyo bienestar asuntos. Puede haber una abundancia
de riqueza econmica y capacidad tecnolgica en un mundo como el
actual, sin embargo, sera intil porque no habra nadie all para
beneficiarse de ella.
Escenario II: Todo-trabajo-y-no-Fun
8 Algunos nacionalistas fundamentalistas pueden creer que un Estado
nacin ha estado moral independiente y tiene derecho a los
sacrificios humanos incluso cuando ninguna necesidad humana sera
servida. La mayora de nosotros rechazamos esas opiniones.
5

incluso si no suponemos que la carga y la externalizacin resultar

en una
prdida generalizada de conciencia, an podemos contemplar la
posibilidad de que actividades intrnsecamente valiosa y estados de

conciencia se vuelven ms escasos o desaparecer. Gran parte de la

vida humana su significado posiblemente depende del goce, por
su propio bien, humor y amor, el juego, el arte, el sexo, el baile,
la conversacin social, la
filosofa, la literatura, el descubrimiento cientfico, la comida y
la bebida, la amistad, la paternidad,
y el deporte. Tenemos preferencias y capacidades que nos hacen
participar en tales
actividades, y estas predisposiciones son adaptables en nuestra
especie' pasado evolutivo;
pero lo que suelo hacer, hemos de estar seguros de que estas
actividades continuarn o similares
para ser adaptables en el futuro? Quizs lo que maximizar la
aptitud en el
futuro ser nada pero non-stop de alta intensidad la monotona, el
trabajo de una montona y
repetitiva, encaminadas a mejorar el octavo decimal de cierta
produccin econmica medida. Incluso si los trabajadores
seleccionados en este escenario son conscientes, el mundo resultante
sera todava empobrecido radicalmente en trminos de las cualidades
que
dan valor a la vida.
Para ver por qu estos escenarios evolutivos no son absolutamente
tan improbable como puede
parecer, consideraremos brevemente cmo llegamos a donde estamos
hoy, y si los factores
que conducen a la evolucin de la conciencia e interesantes
actividades ser necesariamente
seguir promoviendo estos fenmenos valiosos, o si podran reflejar
en su lugar Una fase transitoria en la historia de la vida
inteligente.
3. El nuestro es un desequilibrio evolutivo
si deseaba maximizar el nmero de su descendencia, su mejor
estrategia sera probablemente para donar como cantidad de
espermatozoides a los bancos de esperma como puede si son hombres, o
para convertirse en un
donante del huevo si son mujeres. La mayora de nosotros no hacemos
esto porque la mayora de nosotros no tienen ninguna gran deseo de
xito reproductivo concebido de manera abstracta. Especialmente en
los
pases desarrollados, las parejas suelen elegir a los nios tienen
mucho menos que el mximo que poda apoyar, y los programas de
bienestar social garantizara la supervivencia de cualquier nmero
de hijos que una pareja no poda apoyar. La naturaleza humana es en
un desequilibrio evolutivo; nuestro evolucionado
disposiciones no estn adaptadas a la adecuacin del paisaje
contemporneo y no maximizar el
9 inclusive fitness actual de los individuos.
Si la tecnologa y la organizacin social fueron congelados
mgicamente en su estado actual,
la especie humana seguramente tendra que evolucionar las
preferencias que refleje ms cabalmente la
funcin de fitness moderna. Esto podra suceder por nuestro
desarrollo de una preferencia directa para el xito reproductivo (en
contraste con las preferencias por sexo, la crianza de los hijos,
etc.). Alternativamente, podramos

9 No hay pruebas recientes de influencia gentica sobre la

fertilidad humana resultados, ms all de lo que puede atribuirse al
equilibrio tasas de mutacin; ver (Kirk 2001; Rogers et al. 2003).
6

desarrollar una fuerte aversin instintiva a la utilizacin de

mtodos de control de natalidad. Tambin es posible que
la evolucin cultural sera actuar ms rpido que la evolucin
biolgica, produciendo un meme dominante
conjunto favoreciendo abundante descendencia y oponerse a todas las
formas de control de la natalidad.10 El crecimiento de la poblacin
es limitada no slo por nuestra relativa falta de inters en tener
hijos, sino tambin por la biologa de la reproduccin humana y
maduracin. Las parejas pueden producir slo un nio por ao y se
lleva a un recin nacido alrededor de una dcada y media para
alcanzar la madurez sexual. Incluso estos inhibidores fisiolgicos
del crecimiento de la poblacin puede ser reducida. Si bien la
evolucin biolgica probablemente podra reducir la duracin del
embarazo humano y tiempo a la pubertad, en cierta medida, efectos
mucho ms radical podra ser el resultado de la
evolucin tecnolgica. Cargas (y las inteligencias artificiales)
podra reproducir prcticamente de manera instantnea. Adems, desde
sus "hijos" (copias) sera idntico al
original, no habra ningn maturational latencia. El crecimiento de
la poblacin en la poblacin
podra ser una carga rpidamente exponencial, con un tiempo de
duplicacin potencial de das o menos. El actual nivel sin
precedentes de renta media global es el resultado del hecho de
que, durante mucho tiempo, la economa mundial ha crecido ms rpido
que la poblacin mundial.
La renta media slo puede aumentar si el crecimiento econmico
supera el crecimiento de la poblacin. Si y cuando
la motivacin fisiolgica y los impedimentos para el crecimiento de
la poblacin se reduce,
la tasa de crecimiento de la poblacin sera empezar a acelerar,
alcanzar potencialmente "cerca del infinito" cuando la carga llega a
ser posible. El crecimiento econmico sera incapaz de mantenerse a
la par con el
crecimiento de la poblacin en una poblacin de reproducir
libremente las cargas. Si un programa de bienestar social trat de
garantizar una renta mnima para cargas mientras permitiendo una
reproduccin ilimitada,
11 sera muy rpido quiebran incluso estelar dadas las tasas de
crecimiento econmico. Si
no se impusieran limitaciones sociales sobre la reproduccin, las
limitaciones de recursos se iniciara en el ingreso promedio y
conduzca a un nivel que hizo imposible la reproduccin frecuente.12
Estas reflexiones nos advierten contra la importacin ingenuamente
intuiciones sobre el
estado actual de las cosas en nuestro modo de pensar acerca del
futuro. Podra parecer que el pesimismo maltusiano
10 ya hay algunos datos sugiriendo memetic efectos en el gimnasio.
La expansin de la Hutterites, una secta anabaptista, es atribuible

a su extremadamente alta tasa de fecundidad (Eaton y Mayer, 1953).

Un promedio Hutterite mujer da a luz a nueve hijos. Los Hutterites
se oponen a cualquier tipo de control de la natalidad y ver la alta
fecundidad como un signo de la bendicin divina. Las mujeres
catlicas romanas tienen aproximadamente un 20% mayor aptitud
reproductora de la mujer de otras religiones (KIRK 2001). Por el
contrario, los partidarios de VHEMT (movimiento de extincin humana
voluntaria) han rechazado el tener hijos por completo, lo que les
dara cero fitness (Knight, 2001). Las mujeres con estudios
universitar soitienne un 35% de menor aptitud que aquellos con menos
de siete aos de educacin (KIRK 2001), y no religiosas tambin
tienen menor al promedio de fitness.
11 Incluso si pudiramos colonizar el universo en todas direcciones
a la velocidad de la luz, ello slo servira para aumentar los
recursos bajo control humano exponencialmente (a una tasa de ~ t2),
mientras que el crecimiento demogrfico desenfrenado puede
fcilmente ser exponencial (~ e t).
12 Para un anlisis de la economa de cargar, ver (Hanson, 1994).
7

13 han sido refutadas por la historia de los ltimos doscientos

aos. Han
mejorado las condiciones de vida incluso en la ausencia de control
de la poblacin, al contrario de Malthus es notorio la
prediccin. Sin embargo, esta anomala se explica por los factores
mencionados anteriormente: nuestras
preferencias no estn en un equilibrio evolutivo y la lentitud de la
reproduccin humana. Si evolutivo ms o desarrollos tecnolgicos
fueron para eliminar estos
factores inhibitorios, las tasas de crecimiento de la poblacin
podra fcilmente llegar a superar el crecimiento econmico, en el
advenimiento de una era malthusiana donde la renta media se cierne
cerca del nivel de subsistencia. Con
carga ilimitada de reproduccin, esta transicin podra pasar casi
instantneamente.
4. Sealizacin costosa y ostentosa exhibicin?
Hacemos muchas cosas que no lo son, en un sentido estricto
instrumentalmente til: bailamos, broma, escribir poesa, Tira
Partes, ir de vacaciones, se visten con ropa de moda caros, observar
y participar en deportes, y as sucesivamente. Que actualmente
estamos en un
desequilibrio evolutivo no da cuenta de esto: Incluso nuestros
antepasados Pleistoceno exhiben muchos de
estos comportamientos "intil". Por otra parte, dichos
comportamientos no se limitan a los seres humanos:
[extravagante muestra] aparecen en una variedad de contextos, desde
concursos de seleccin sexual en el mundo animal, a concursos de
prestigio entre los miembros de los estados-nacin contemporneos
que abarcan continentes con enormes sistemas de carreteras, e
incluso la gente de la tierra a
la Luna.14 Una explicacin evolutiva para la existencia de Tales
comportamientos es que funcionan

como duro-a-seales falsas de importantes cualidades que son

difciles de observar directamente,
tales como la aptitud fsica o mental, condicin social, calidad de
aliados, capacidad y voluntad de prevalecer en una lucha, o la
posesin de recursos. No slo el comportamiento sino la morfologa,
tambin puede servir como una seal, la cola del pavo real de ser un
paradigma. Una extravagante cola es un
handicap que slo caben pavos puede permitirse y, peahens han
evolucionado para ser sexualmente atrado por esas colas porque son
indicadores de aptitud gentica.15 Dado que la ostentosa exhibicin
es tan comn entre los seres humanos y otras
especies, uno podra considerar si no tambin ser parte del
repertorio de
13 Thomas Robert Malthus (1766-1834), poltico economista y
demgrafo, argument que el nivel de vida de la clase obrera no
podra elevarse sin control de la poblacin debido a que el aumento
de los ingresos llevara eventualmente a los trabajadores que tienen
ms hijos sobrevivientes, lo que elevara los salarios hacia abajo
otra vez. Pero Malthus no era tan completamente pesimista como
comnmente se piensa. En la segunda, rara vez leen, edicin de su
ensayo sobre la poblacin escribe: "Aunque nuestras perspectivas de
futuro respetando la mitigacin de los males derivados del principio
de la poblacin puede no ser tan brillante como podramos desear,
pero estn lejos de ser totalmente desalentador." (Malthus 1803).
14 (Kansa 2003).
15 Vase, por ejemplo, (Zehavi et al. 1999).
8

formas de vida tecnolgicamente ms madura. Tenemos la esperanza de

que incluso si no hubiera
estricto uso instrumental para jugar o incluso para mentes
conscientes en el futuro ecologa de vida inteligente, estas
caractersticas podran sin embargo conferir ventajas evolutivas a
sus poseedores en virtud de ser seales fiables de otras cualidades
adaptativas. Sin embargo, aunque esta posibilidad es difcil de
descartar, hay varias razones para el escepticismo que socavan la
confianza Panglossian prescrito por la vista. En primer lugar,
muchos de los extravagantes muestra que encontramos en la naturaleza
estn relacionadas con Sexual
16 seleccin. Sin embargo, la reproduccin entre formas de vida
tecnolgicamente maduros bien puede ser asexual.
En particular, esto es as en la carga de situacin descrita
anteriormente. En segundo lugar, los nuevos mtodos de comunicar
informacin fiable sobre s mismo podra estar disponible para las
criaturas, mtodos tecnolgicamente maduros que no se basan en la
ostentosa
exhibicin. Incluso hoy, los prestamistas profesionales tienden a
depender ms de certificados de propiedad,
extractos bancarios y similares, que en costosas pantallas como
trajes de diseo y relojes Rolex.
En el futuro, podra ser posible utilizar firmas de auditora que
puede comprobar mediante

inspeccin directa que un cliente posee un atributo reclamados. Uno

de sealizacin por las cualidades de este tipo de auditora puede
ser mucho ms eficaz que la va de sealizacin ostentosa
exhibicin. Dicha
seal mediada profesionalmente an sera costoso fake (esto es, por
supuesto, la
caracterstica esencial que hace que la seal fiable), pero la seal
podra ser mucho ms barato para transmitir de
una forma llamativa comunicado uno cuando es veraz. En tercer lugar,
no todas las posibles costosas o "Flamboyant" muestra son las que
debemos
considerar como intrnsecamente valiosa:
[sealizacin] costosos no slo toma la forma de aprovisionamiento
de bienes pblicos que mejoran las prestaciones del grupo. Muchas
seales costosas adoptan la forma de "residuos" donde
los gastos no confieren ningn beneficio de grupo... En el noroeste
de Estados Unidos, el
Kwakiutl n potlatch ceremonias pblicas implic la destruccin de
vastas cantidades de
riqueza acumulada principalmente en el contexto de la competencia.
17,
mientras que el humor, la msica y la poesa puede plausiblemente
decirse para mejorar la calidad intrnseca de la vida humana--aparte
de ninguna de las prestaciones sociales--es ms dudoso que la misma
afirmacin puede ser sostenido con respecto a la costosa bsqueda de
tendencias de moda o con respecto a posturas machistas que conducen
a la violencia de las pandillas o bravado militar. Incluso si en el
futuro las formas de vida inteligente,
utilizara la sealizacin costosa, por lo tanto, es una cuestin
abierta si la seal sera
intrnsecamente valiosa: si sera como el ruiseor's extasiada
cancin o ms como
el sapo's monoslabos croar.
16 Vase (Miller 2000a).
17 (Kansa 2003). Para tomar una provocativa, vase tambin (Frank,
2000).
9

5. Dos sentidos de outcompeted

debemos distinguir dos sentidos diferentes en los que una especie
puede ser outcompeted por otras formas de vida. En los escenarios
presentados en la seccin 2, la subcontratacin y las cargas de
trabajo de todos- no reproducir los agentes fueron postuladas para
medrar mejor que los agentes que conservan la conciencia y
aficionado intereses (vamos a trmino este ltimo eudaemonic
agentes). Esto podra significar una cosa es
que los antiguos tipos de agente gradualmente obtener los recursos
originalmente celebrada por los
agentes eudaemonic, de manera que este ltimo podra quedarse sin
recursos y extinguido.

Este es el tpico resultado evolutivo cuando un tipo de organismo

outcompetes otro. Pero tambin podramos concebir el caso donde los
agentes eudaemonic continuar
existiendo indefinidamente, quizs en nmeros sin mengua, y son
outcompeted slo en el sentido
de que comprende una constante disminucin de la fraccin de la
poblacin total de agentes y de controlar a una constante
disminucin de la fraccin de la riqueza total del mundo. Es
cuestionable si los
agentes eudaemonic podra, a la larga, evitar su idoneidad
maximizando los competidores de
que asolaban a ellos y expropiar sus bienes. Pero incluso si los
agentes eudaemonic podra
hacerlo, y escapar de la extincin, el resultado seguira siendo un
desastre porque supondra una
enorme prdida de oportunidades. Como un fuego que asola, el
fitness-maximizers sera consuma
recursos (espacio, luz solar, asunto, etc.) que podran haberse
utilizado para
fines ms significativa por los agentes eudaemonic.18
6. Podemos controlar nuestra propia evolucin?
Supongamos que se poda prever que una de la distpica escenarios
evolutivos descritos anteriormente representa el curso
predeterminado del desarrollo de nuestra especie. Lo que sera
entonces nuestras
opciones? Una respuesta sera sentarse y dejar que las cosas se
deslice. Podramos reforzar nuestra
pasividad contemplando la mayor aptitud evolutiva de la no-agentes
eudaemonic:
ser ms apto, no son ms dignos poseedores de los recursos del
mundo? Aunque pocos apoyara este argumento en su forma explcita,
es bastante posible que algunos pensamientos relacionados--Quizs
deferencia al "orden natural" o la aceptacin de la idea de que el
poder
da la razn--puede haber encontrado un escondite en las esquinas
oscuras de algunas mentes. Podemos expulsar a esas nociones
recordando que si una plaga de doomsday surgido y mat a todos los
mamferos, esto no implicara que los patgenos", "Victoria" era una
buena cosa, aunque
esto significara que la plaga haba demostrado ser montador.
18 cumplimiento estricto Los derechos de propiedad podra limitar la
destruccin de recursos no originalmente propiedad del eudaemonic
agentes. Esto ltimo podra incluso gestionar para salvar algunos
recursos adicionales por colonizar nuevos territorios, aunque
finalmente las oportunidades para tal adquisicin desaparecera como
el fitness maximizers (siendo ex hypothesi ms eficiente) habra
conseguido all primero. La dinmica de esa colonizacin es
analizada en la carrera (Hanson, 1998a).
10

otra respuesta sera de lamentar el resultado distpica sino llegar

a la conclusin de que

no se poda hacer nada para evitarlo. Si la externalizacin o fatiga

constante tiene un mayor valor de fitness
de eudaemonic vivir, no teora de la evolucin entonces implica que
los agentes eudaemonic desaparecer? Sin embargo, como veremos, el
futuro no necesitan ser desesperada, incluso si el curso de la
evolucin es predeterminado distpica. La evolucin nos hizo lo que
somos, pero ningn
principio fundamental se interpone en el camino de nuestro
desarrollo de la capacidad de intervenir en el
curso de los acontecimientos predeterminados con el fin de orientar
la evolucin futura hacia un destino ms agradable para los valores
humanos. Dirigir nuestra propia evolucin, sin embargo, requiere la
coordinacin. Si el
curso evolutivo predeterminado es distpica, tomara coordinado para
girar el barco remando a la
humanidad en una direccin ms favorable. Si slo algunas personas
eligieron la alternativa eudaemonic, mientras que otros persiguen la
maximizacin de fitness, entonces, por supuesto, sera el
ltimo que prevaleceran. Fitness-maximizar variantes, incluso si
ellos comenz como una minora, sera seleccionado para
preferentemente a expensas del eudaemonic agentes, y se establecera
un proceso en movimiento que conducen inexorablemente a la
minimizacin o desaparicin de
eudaemonic cualidades, y el no-agentes eudaemonic quedara para
ejecutar la presentacin.
A este problema slo hay dos posibles soluciones: la prevencin no
eudaemonic
variantes surjan en primer lugar, o bien modificar la funcin de
adecuacin para que eudaemonic
fitness rasgos se maximiza. Examinemos estas dos opciones a la vez.
7. Prevencin No eudaemonic agentes de derivados
es bastante verosmil suponer que formas de vida tecnolgicamente
avanzada sera capaz de
prevenir la ocurrencia de mutaciones no deseados, al menos si
entendemos "mutacin" en un sentido estrecho. Los mtodos
criptogrficos y cdigos de correccin de errores podra reducir la
transmisin de errores y errores de copia a niveles insignificantes.
Los sistemas de control de los
replicadores nanotechnological puede estar encriptada, de manera que
tengan una evolucin-Prueba (cualquier azar
19 cambio sera prcticamente seguro para destruir totalmente el
replicador). Para cargas,
evitando la mutacin reproductiva puede ser simplemente una cuestin
de realizar varias comprobaciones
que la copia es idntica al original antes de que se ejecute.
Incluso para las criaturas biolgicas
simple por la nanotecnologa, suficientemente avanzada tecnologa
gentica debera hacer todo lo posible
para escanear todos los embriones no deseados y ordinaria de las
mutaciones, la recombinacin gentica podra evitarse
con el uso de la clonacin reproductiva. Cdigo fuente de mutacin y
recombinacin gentica no son, sin embargo, la nica manera en que
las nuevas variantes con propiedades inesperadas pueden surgir.
Examine de nuevo la
carga de escenario donde carga subcontratar gran parte de su
funcionalidad y compartir mdulos mentales. Recombinando diferentes
mdulos podra provocar inesperados fenmenos emergentes.

19 Vase (Drexler, 1985).

11

Asimismo, el fortalecimiento de las diversas capacidades cognitivas

o emocionales, o la entrega de
nuevas capacidades, podra producir efectos combinatorio que puede
no ser totalmente
predecible. El crecimiento y la maduracin normal de un individuo
podra conducir al desarrollo de un fitness-maximizacin no
eudaemonic personaje, incluso donde no se
manifiesta en el momento de la concepcin. Novela influencias
memetic tambin podra desencadenar no eudaemonic
tendencias. Por lo tanto, aunque es plausible que una forma de vida
avanzada podra evitar mutaciones aleatorias en su cdigo fuente, es
ms dudoso que sera capaz de predecir y evitar efectos emergentes
de crecimiento, la mejora y el aprendizaje en personas o en la
interaccin de
las comunidades de desarrollo de agentes. Prevencin de idoneidad
maximizar no-eudaemonic
ocasionalmente las variantes derivadas puede ser inviable o puede
requerir la creacin de una sociedad completamente esttica, donde
la experimentacin individual y las mejoras son prohibidos y donde
no
se permite la reorganizacin social. Tal fossilized mundo parece
intrnsecamente indeseable.20
Incluso si los agentes eudaemonic podra impedir que surjan mutantes
peligrosos, sus
esfuerzos seran en vano si la poblacin original ya contena
algunos individuos con no-fitness eudaemonic maximizar las
preferencias, porque estos sera proliferan y eventualmente dominar.
Y sin duda podemos suponer que al menos algunos
individuos humanos actual sera cargar si pudieran, haran que
muchas copias de s mismos si se les
carga, y estara encantado de abrazar la externalizacin o privarse
de ocio si pudieran incrementar su idoneidad. Estas personas que de
alguna manera tienen que desaparecer de la
poblacin, y es difcil ver alguna prctica y tica en el modo en
que esto podra suceder. Prevenir la distpica escenarios evolutivos
impidiendo a los no-eudaemonic
agentes de derivados es, pues, un non-starter. En la mayora, esta
medida podra servir un papel auxiliar. En ciertos casos, podra
tener sentido para intentar reducir la frecuencia con que
se generan los mutantes peligrosos--En los casos en que esto se
puede hacer de una forma relativamente econmica,
de una manera ticamente aceptables, y donde perjudica claro y
especfico se pueden prever. Por
ejemplo, en el futuro podramos aprobar leyes en contra de la
creacin de potentes inteligencias artificiales
con el objetivo de sistemas que son hostiles a los valores humanos.
Pero no podemos confiar en esta estrategia solo
para prevenir un escenario evolutivo distpica si tal escenario
debera pasar a ser la
predeterminada.

8. Modificar la funcin de adecuacin de

la segunda opcin es modificar la funcin de adecuacin para que
agentes continan eudaemonic tienen al menos algn nicho en el que
son maximizar la aptitud. El xito reproductivo diferencial de genes
humanos- o meme-tipos est determinada
no slo por el hbitat natural en el que viven, sino tambin por su
entorno social.
Las instituciones sociales, leyes y actitudes de otras personas
definen las opciones abiertas para nosotros como
20 Cf. (Huxley, 1932).
12

individuos y determinar los efectos que estas decisiones tienen

sobre nuestra adaptabilidad. Las
estructuras sociales podra organizarse de una manera que reduce la
aptitud de no eudaemonic tipos
y mejora la aptitud de eudaemonic tipos. Estas estructuras, si lo
suficientemente estable, podra
limitar el desarrollo evolutivo de un conjunto de trayectorias en la
cual el tipo eudaemonic florece. Sera engaoso para caracterizar
esa intervencin como "ayudar al dbil e
inadecuado". La manera en que la sociedad est configurado
parcialmente define qu tipos son aptos y "fuerte" (en el sentido de
ser capaz de utilizar los medios disponibles para proliferar). Si
queremos evitar las
trayectorias evolutivas que conducen a una regin del espacio de
estados donde las cualidades valoramos estn extintas o
marginados, luego escultura social de las condiciones para el xito
reproductivo puede ser nuestro
nico recurso. El trmino "xito reproductivo" aqu no slo abarca
la
reproduccin sexual biolgica sino tambin cargar la duplicacin y
en general la difusin de formas de organizaciones. La conformacin
social de las condiciones para el xito reproductivo, por supuesto,
es un hecho
de la vida de cada organismo que vive en las sociedades; pero la
sugerencia aqu es que podra
ser necesario ajustar deliberadamente para que estas condiciones
favorecen eudaemonic tipos. Evidentemente, no necesidad de
reestructurar todos los nichos de mercado para que favorecen
eudaemonic agentes.
Hacerlo equivaldra a trabajar hacia la eliminacin de todos los noeudaemonic agentes. Pero muchos no-eudaemonic agentes son
inofensivos; muchos de ellos son muy tiles para
los agentes eudaemonic. As como los seres humanos actuales se
benefician de otras especies, que no representan una amenaza seria
para la especie humana, as tambin agentes tecnolgicamente ms
avanzados pueden
beneficiarse de la existencia de una ecologa no eudaemonic agentes.
No eudaemonic tales agentes podran servir econmicamente tiles
funciones. No slo aquellos agentes eudaemonic que amenazan con
invadir el nicho ocupado por los agentes eudaemonic plantean un
riesgo evolutivo; o, ms exactamente, (desde los agentes eudaemonic

podran moverse de una posicin a otra), la preocupacin se refiere

a los no-eudaemonic agentes como reducira el tamao total de los
nichos disponibles para eudaemonic tipos. El objetivo es maximizar
la
cantidad total de recursos posedos por agentes eudaemonic o, en
cualquier caso, para evitar que esta cantidad se
caiga a cero. No eudaemonic agentes, incluso si reducen la fraccin
de los recursos
posedos por agentes eudaemonic, podra ser beneficiosa en
equilibrio si tambin aument el
monto total de los recursos disponibles. No sensible robots de
propietarios, por ejemplo, tericamente podra tener ese efecto.
9. Polticas para la direccin evolutiva de
qu tipo de intervencin sera necesaria para dar forma a las
condiciones sociales, de modo que favorecen
eudaemonic tipos? Un mtodo sencillo pero crudo sera prohibir la
subcontratacin (y otros
tipos de no-eudaemonic fenotipos). Dicha prohibicin, sin embargo,
resultara costoso ya que estamos
suponiendo que muchas tareas productivas son la manera ms eficiente
a travs de la
13 de la

externalizacin. Un enfoque ms eficaz sera gravar a la

externalizacin y subsidiar
eudaemonic arquitecturas cognitivas. De esta manera, la
externalizacin se utilizara para las tareas
donde se produce los mayores retornos y el nivel de tributacin
podra fijarse en un nivel que garantice el tipo eudaemonic contina
prosperando. Uno podra pensar que no habra razones econmicas para
subvencionar el
tipo eudaemonic, porque en la medida en que valoramos este tipo
estaramos dispuestos a gastar
nuestro dinero en asegurar su existencia, quizs por ocuparnos de
eudaemonic
actividades. No tenemos, en el mundo de hoy, consulte cualquier
necesidad especial para fomentar el
consumo presente al gravar la inversin. Quizs no los individuos
que actan en un mercado libre, asignar
sus recursos de manera ptima entre eudaemonic "consumo" y no
eudaemonic
"inversin" (en empresas que pueden producir recursos que podran
posteriormente han sido
eudaemonically consumidos)? Hay al menos tres posibles razones para
ser escpticos de
que la mano invisible constituira en s misma orquestar una viable,
mucho menos ptima, la solucin al problema no eudaemonic
competencia.
En primer lugar, los derechos de propiedad no siempre pueden ser
perfectamente aplicados. Si no eudaemonic
tipos emergen y se vuelven inmensamente poderosas, podran robar la
eudaemonic agentes. Tal podra ser el robo descarado, como en un
gran golpe de estado o en una serie de agresiones leves por no

eudaemonic grupos o individuos; o podra tomar una forma ms sutil,

como en influenciar a los gobiernos a promulgar legislacin que
favorece injustamente no eudaemonic intereses.
Agentes Eudaemonic tambin podra robar no eudaemonic agentes, sino
porque sera menos productivo que
uno esperara un flujo neto de recursos a organizaciones no
eudaemonic agentes. Incluso si los
derechos de propiedad existentes fueron cumplidas, persistira el
enorme costo de oportunidad de tener el
no-agentes eudemonic colonizando el cosmic commons para que los
derechos de propiedad todava no han sido asignados. 21 En
segundo lugar, los valores de la poblacin eudaemonic inicial no
puede ser conservado para siempre. Tal preservacin requerira que
los agentes eudaemonic inicial no
mueran y que sus eudaemonic preferencias no cambian a travs de los
eones, o bien que se
elija para reproducir casi exclusivamente en formas que transmiten
sus preferencias eudaemonic
a su progenie sin diluir. Si hubo cruzamientos ocasionales donde
desarrollar agentes eudaemonic no eudaemonic preferencia, o tener
descendencia con tales preferencias, entonces
esto tendra que ser compensado con al menos igualmente gran flujo
en la
direccin opuesta. Ya hemos discutido el problema de prevenir la
ocurrencia de tales cruces.22
21 Vase Hanson (1998a).
22 Hemos observado que los cdigos de correccin de errores debe
realizar reproducciones arbitrariamente fiables. Las cargas no
sufren crianza biolgica, y la costumbre de mantener copias de
seguridad en ubicaciones dispersas debera reducir el riesgo de
muerte accidental a un nivel muy bajo. Como una posible forma de
reducir el riesgo de que las preferencias bsicas podra derivar en
maneras inesperadas cuando se instalan o nuevas capacidades
adquiridas, sera interesante considerar el uso de pactos de
seguridad. La idea es que se potencie algunos agentes
14 En

tercer lugar, si la existencia de una floreciente poblacin

aficionado es un bien pblico (es decir, no
rivalrous y no excluyentes), ser infrasuministrado por el mercado.
Usted y yo y otro milln de personas podran todos desean que exista
eudaemonic agentes en el mundo un largo
tiempo desde ahora. Cada uno de nosotros se da cuenta de que
nuestras acciones individuales, pero tendr un efecto insignificante
sobre el resultado. Por lo tanto, nosotros cada gastar nuestros
recursos en otros objetivos, y el resultado
es que el tipo de eudaemonic desaparece. Esto es compatible con
nuestra conviniendo en que nuestros
intereses habra sido mejor si alguna fraccin de nuestros recursos
haban sido retiradas
en una eudaemonics fondo de conservacin. La provisin del bien
pblico mundial--En este caso, la continua existencia de eudaemonic

tipos en el futuro indefinido--ha sido frustrado por el problema de

parasitismo.
Por estos tres motivos, hay motivo para dudar de que un enfoque de
laissez-faire dara
una proteccin adecuada al tipo de eudaemonic. Pero antes de
avanzar, consideremos de nuevo la primera de estas objeciones al
enfoque de laissez-faire en un poco ms de detalle.
10. Desvo de
la preocupacin es que podra resultar inviable para garantizar que
los derechos de propiedad estn perfectamente
ejecutada. Los agentes pueden ocasionalmente robar mutuamente los
recursos; o en un escenario ms extremas, puede haber una guerra
general de recursos. Sin embargo, no parece haber ninguna razn para
pensar que esas peleas sera perfectamente bipolar entre dos grandes
coaliciones de concurso,
y el no-eudaemonic agentes eudaemonic luchando en bandos opuestos.
En su lugar,
puede haber diversas y cambiantes alianzas entre individuo y no
eudaemonic eudaemonic agentes. En un conflicto de esta ndole,
habra una prdida social neto en trminos de gasto en proteccin y
servicios de seguridad, armamentos y, probablemente, tambin en
trminos de
bajas y daos colaterales. Es casi seguro que hay un
costo de oportunidad adicional en trminos de oportunidades perdidas
para la colaboracin. Pero suponiendo que no
se ha desplegado armas doomsday que causa la extincin de toda la
poblacin de formas de vida inteligente (que no es una pura
suposicin) todava podemos preguntarnos si tal conflicto conducira
necesariamente a la eventual extincin del eudaemonic tipo. Pues lo
que tenemos aqu es un caso de dos tipos de organismo-un tipo ms
eficiente que el de otros enzarzados en una lucha por el mismo
recurso nicho, uno podra esperar,
Que confe a revertir su auto-modificaciones si creen que las
modificaciones han cambiado en una forma que no hubiera aprobado
antes del cambio. Si son una carga, tambin podra ser capaz de
crear una copia de s mismo y, a continuacin, nombrar esta copia
como un supervisor de confianza del proceso de transformacin con la
autoridad para revertir los cambios realizados dentro de un
intervalo si juzga que las modificaciones han sido para peor.
Tambin podra ser interesante estudiar cmo dichas tcnicas se
refieren a dispositional hipotticas teoras del valor (Lewis, 1989;
Johnston 1989), teora del observador ideal y, ms generalmente, a
la tica de la potenciacin humana (Glover, 1984; 2004; Bostrom
Bostrom y Roache 2007; Savulescu y Bostrom 2009).
15

de tipo ecolgico, que el menos eficiente tipo acabarn por

desaparecer. (Algunos de los
agentes eudaemonic pueden sobrevivir, pero al precio de perder sus
inclinaciones eudaemonic o verse
obligado, a fin de seguir siendo competitivos, para mantener esas
inclinaciones perpetuamente reprimidas.)

Pero, en realidad, no es del todo claro que esto es lo que

sucedera. La situacin difiere de la de la competencia entre las
formas de vida ms primitivas, como las plantas y los animales. Los
agentes implicados en esta lucha pueden formar alianzas
estratgicas. Adems, a diferencia de la competencia poltica del
hombre actual, donde las alianzas cambian con el tiempo, podra ser
posible que formas de vida ms avanzadas de forma verificable a
comprometerse definitivamente a una
alianza particular-mente (quizs usando las tcnicas de exploracin
y tecnologas para controlar la
motivacin). Si esos compromisos permanentes son posibles, entonces
cuando estalla la guerra,
varias coaliciones en ciernes pueden negociar a favor de la lealtad
de los individuos no afiliados. En esta etapa, algunos agentes
pueden eudaemonic huelga acuerdos favorables con lo que resulta ser
la coalicin ganadora. Despus de la victoria, el eudemonic agentes
en la coalicin ganadora no poda,
por supuesto, cambie sus lealtades, as que los agentes eudaemonic
sobreviviente puede entonces tener garantizada su seguridad en
perpetuo.
11. Slo un singleton podra controlar la evolucin,
incluso si los supervivientes de ese concurso, en definitiva llegar
a disfrutar de la paz perpetua, habran llegado hasta all por un
costoso y arriesgado desvo. Podramos llegar al mismo destino ms
directamente, evitando el desperdicio y el desgaste y algunos de los
riesgos de conflicto, creando
un singleton. La alianza estable que hemos especulado podran
formarse en el final del conflicto
sera de hecho un rgimen global que podra aplicar leyes bsicas
para sus miembros; en otras palabras, sera una especie de
singleton. A fin de estar seguros de la estabilidad, no slo
tendran que carecen de competidores externos; sus asuntos internos
tambin tendra que regularse de tal manera que no hay retos
internos para su constitucin podra surgir. Esto requerira que la
alianza se implementa una poltica coordinada para prevenir los
acontecimientos internos de
inaugurar ste en una trayectoria evolutiva que termina por derrocar
su acuerdo constitucional, y hacerlo sera presumiblemente implica
modificar la funcin de adecuacin para su
ecologa interna de los agentes, por ejemplo, por medio de un
impuesto independiente cdigos para eudaemonic y no
eudaemonic agentes combinados, Quizs, con una prohibicin de la
creacin de agentes de los
tipos ms peligrosos.
El Reining en evolucin es una hazaa que slo poda lograrse
mediante un singleton. Un
poder local podra ser capaz de controlar la evolucin de su propio
sistema interno de la ecologa, pero a menos que estas
intervenciones han servido para maximizar su productividad total (lo
cual sera incompatible con la accin afirmativa para eudaemonic
actividades), la seleccin evolutiva sera simplemente resurgir
a un nivel superior. Las potencias que optaron a maximizar su
desarrollo econmico en lugar de su
productividad eudaemonic superan a las potencias rivales que eran
menos de modo unnime

obsesionada por adelantar su situacin competitiva y en el largo

plazo los poderes eudaemonic
16

pasara a ser marginados o extintos o estara obligado a rescindir

sus eudaemonic
polticas. En este contexto, el "largo plazo" puede ser muy corto,
especialmente en la carga de escenario donde la reproduccin podra
ser extremadamente rpido. Adems, si las potencias eudaemonic
podra anticipar que seran outcompeted si continuaban con
sus actividades eudaemonic, podrn decidir a escala volver sobre
tales actividades incluso antes fueron invadidos por los noeudaemonic poderes. Tales efectos anticipatorios podra producir
manifestaciones inmediatas de desarrollo evolutivo que tomaran
mucho
tiempo para desplegar. El resultado, en cualquier caso, sera una
tremenda prdida de eudaemonic
potencial. Un singleton podra evitar este desafortunado desenlace
promoviendo eudaemonic tipos
y actividades dentro de su jurisdiccin.23 Desde un singleton
carecera de
competidores externos, no habra un nivel superior al que podra
obtener la seleccin evolutiva
afianzada y empezar a penalizar el singleton no la poltica de
maximizacin de la
productividad econmica.
Un singleton no necesita ser un monolito (excepto en el sentido
trivial que tiene algn tipo de mecanismo o procedimiento de
decisin que le permite resolver problemas de coordinacin interna).
Hay muchas posibles constituciones singleton: un singleton podra
ser un
gobierno mundial democrtico, benvolo y abrumadoramente poderoso
superintelligent mquina, una dictadura mundial, una alianza estable
de potencias, o incluso algo tan abstracto como un
cdigo moral generalmente difundida que inclua disposiciones para
asegurar su propia estabilidad y
cumplimiento.24 un singleton puede resultar bastante minimalista
Estructura que podra funcionar sin perturbar significativamente la
vida de sus habitantes. Y no tiene por qu prohibir la novedad y la
experimentacin, puesto que conservara la capacidad para intervenir
en una etapa posterior para proteger su
constitucin si algunos acontecimientos gira malignos.
Aumento de la transparencia social, como pueden ser el resultado de
los avances en la
tecnologa de vigilancia de deteccin o mentira, podra facilitar el
desarrollo de un singleton.25 deliberar
23 Uno podra preguntarse cmo un espacio-colonizar singleton podra
aplicar sus leyes sobre las distancias csmicas y hacerlo sin
desintegrarse an ms escalas temporales de millones de aos. Sin
embargo, esto parece estar en la raz de un problema tcnico. Una
solucin sera asegurar que la meta-sistema de todos los
colonizadores enva incluyen un deseo fundamental para obedecer las
leyes bsicas de la singleton. Y una de estas leyes puede ser

asegurarse que cualquier progenie producida tambin deben compartir

este deseo fundamental. Adems, la Ley fundamental se podra
estipular que, a medida que mejora la tecnologa, las normas de
seguridad para la reproduccin (el grado de verificacin necesarios
para asegurar que la progenie o sondas de colonizacin comparten el
deseo fundamental de obedecer la constitucin bsica) mejoran
correspondientemente, de modo que la probabilidad de desercin
asymptotically se aproxima a cero. Si bien esta propuesta puede
parecer intimidante tecnolgicamente, debemos tener en cuenta que
cualquier Imperio galctico sera tecnolgicamente muy avanzado. Un
singleton podra posponer el amplio espacio hasta que la
colonizacin ha desarrollado la tecnologa de control necesaria para
asegurar su propia estabilidad a largo plazo.
24 para un escenario de este tipo, vase (Miller 2000b).
25 Vase (Brin 1998).
17

las iniciativas polticas internacionales tambin podra conducir a

la aparicin gradual de un singleton, y
estas iniciativas pueden verse drsticamente catalizada por 'wild
card' de eventos tales como una serie de
cataclismos que puso de relieve las desventajas de una fractura en
el orden mundial. Sera un
error juzgar la verosimilitud de la ltima evolucin de un
singleton, sobre la base de
las tendencias efmeras en los asuntos internacionales actuales. La
conformacin de las condiciones bsicas de la
realidad poltica puede cambiar a medida que las nuevas tecnologas
estn en lnea, y, vale la pena sealar que la
tendencia histrica a largo plazo es hacia el aumento del alcance de
la coordinacin y la
integracin poltica.26 Si esta tendencia contina, la culminacin
lgica es un singleton.
12. Conclusin
contraria a la opinin Panglossian, las pruebas actuales no
justifican un gran confianza en
la creencia de que el curso predeterminado de la futura evolucin
humana apunta en una direccin deseable. En particular, hemos
examinado un par de escenarios en los cuales distpica evolutivo de
la
competencia conduce a la extincin de las formas de vida que
consideramos como valioso. Intrnsecamente valiosa experiencia puede
resultar no ser adaptables en el futuro. La nica manera de evitar
estos resultados, si lo hacen de hecho representan la
trayectoria predeterminada, es asumir el control de la evolucin. Se
argument que esto requerira la creacin de un singleton. Singleton
carecera de competidores externos, y su
mecanismo de decisin sera suficientemente integrados que le
permitan resolver problemas de coordinacin interna, en particular,
el problema de cmo reformar la funcin de adecuacin para su
agente interno ecologa a favor eudaemonic tipos. Un mero poder
local tambin podra tratar de hacer esto, pero sera disminuir su
competitividad y asegurar su propia desaparicin. El control a largo

plazo de la evolucin exige la coordinacin global. Un singleton

podra adoptar una variedad de formas y no necesita parecerse a una
cultura monoltica o una mente colmena. En el singleton podra haber
espacio para una amplia gama de diferentes formas de vida,
incluyendo aquellas que se centran en la no-eudaemonic objetivos.
Singleton podra garantizar la supervivencia y la prosperidad del
eudaemonic tipos restringiendo los derechos de propiedad de
entidades no-eudaemonic, subvencionando actividades eudaemonic,
garantizando el
cumplimiento de los derechos de propiedad, prohibiendo la creacin
de agentes con
valores humano-antiptico o tendencias psicpatas, o en un nmero de
otras maneras. Tal un singleton podran guiar la evolucin csmica e
impedir que nuestro procomn de voy a perder en
un primer llegado primer servido colonizacin raza. Las reflexiones
que se ofrecen en este documento no pretenden ser la ltima palabra
sobre el
tema. No sabemos que un escenario distpico resultado evolutivo es
la predeterminada. Incluso si lo es, y aunque la creacin de un
singleton es la nica forma de anticiparse a la ltima
catstrofe, es una pregunta aparte qu polticas tiene sentido
promover en el aqu y el
26 Para un argumento convincente para esta reclamacin, consulte
(Wright 1999).
18

ahora. Al crear un singleton ayudara a reducir determinados

riesgos, puede al mismo tiempo
aumentar otros, tales como el riesgo de que un rgimen opresivo
podra ser global y
permanente. Si nuestro estudio preliminar sirve para llamar la
atencin sobre algunos posiblemente no
consideraciones evidentes y estimular ms riguroso de la labor
analtica, su propsito se ha logrado
.27
Referencias
Bostrom, N. (2002a), el sesgo antrpico: Observacin efectos de
seleccin en la ciencia y la filosofa.
Nueva York: Routledge.
--- (2002b), Existential riesgos: Anlisis de escenarios y
extincin humana relacionados
Hazards, Oficial de la evolucin y la tecnologa 9.
--- (2003), el Transhumana FAQ: v 2.1. Asociacin Transhumana
mundial.
Http://www.transhumanism.org/resources/FAQv21.pdf.
--- (2005), Transhumanist Values, Fredrick Adams (ed.), problemas
ticos para el siglo XXI
, edicin especial de la conferencia oficial de la investigacin
filosfica.
--- (2006), es un singleton What?, lingsticos y de
investigaciones filosficas 5 (2): 48-54. Bostrom, N. y Roache, R.
(2007), cuestiones de derechos Enhancement Ethical, J. Ryberg, T.

Petersen, y C. Wolf (eds.), nuevas olas en tica aplicada.

Basingstoke: Palgrave
Macmillan: 120-152.
Brin, D. (1998), la sociedad transparente. Lectura, MA: De Addison
Wesley. Carter, B. (1983), principio antrpico The y sus
implicaciones biolgicas, Evolution para
Transacciones Filosficas de la Royal Society una 310: 347-363.
--- (1989), principio de seleccin antrpica The y la ultradarwinista Synthesis, en F.
Bertola y U. Curi (eds.), el principio antrpico. Cambridge:
Cambridge
University Press: 33-63.
Chislenko, A. (1996), la creacin de redes en la mente de la edad.
Manuscrito indito.
Http://www.ethologic.com/sasha/mindage.html.
Coase, R. H. (1937), la naturaleza de la Firm The, Economica 4
(16): 386-405. Drexler, K. E. (1985), los motores de la Creacin: La
prxima era de la nanotecnologa. Londres: sucesivamente
Break.
Eaton, J. W. y Mayer, A. J. (1953) La Biologa Social The de muy
alta fecundidad entre los
Hutterites; la demografa de una singular Population, Biologa
Humana 25 (3): 206-64.
Frank, R. H. (2000), Fiebre de lujo: el dinero y la felicidad en una
poca de exceso. Princeton:
Princeton University Press.
27 un proyecto Versin de este documento distribuido en mayo de
2001. Una versin anterior de este documento fue publicada en muerte
y Anti-muerte: Doscientos aos despus de Kant, cincuenta aos
despus de Turing, ed. Charles Tandy (Ria University Press: Palo
Alto, California, 2004), pgs. 339-371. Estoy agradecido a Wei Dai,
Robin Hanson, y Rebecca Roache para comentarios.
19

Glover, J. (1984), qu tipo de personas debe haber? Londres: el

pingino.
Gould, S. J. (1990), maravillosa vida: el Burgess Shale y la
naturaleza de la historia. Nueva York:
W.W. Norton & Company.
Hanson, R. (1994), What si carga vienen primero: la grieta de un
futuro Extropy Dawn, 6 (2). --- (1998a), quemando el Commons
csmico: estrategias evolutivas de la
colonizacin interestelar. Manuscrito indito.
Http://hanson.gmu.edu/filluniv.pdf.
--- (1998b), debe ser fcil de Vida temprana? El ritmo de las
grandes transiciones evolutivas.
Inditos. Http://hanson.gmu.edu/hardstep.pdf.
Huxley, A. (1932), Brave New World. Londres: Chatto & Windus.
Johnston, M. (1989), teoras de Value Dispositional, Actas de la
sociedad aristotlica, supl. 63: 139-174.
Kansa, E. (2003), Social complejidad y ostentosa exhibicin en
competencia: Ms
reflexiones sobre el Paradox Fermi. Documento de trabajo.

Kirk, K. M. (2001), y la seleccin gentica cuantitativa Natural de

rasgos de historia de vida en
las mujeres occidentales: un Twin Study, evolucin 55 (2): 432-435.
Knight, L. U. (2001), el movimiento de extincin humana voluntaria.
Http://www.vhemt.org/. Leslie, J. (1996), El Fin del Mundo: La
ciencia y la tica de la extincin del ser humano. Londres:
Routledge.
Lewis, D. (1989), teoras de Value Dispositional, Actas de la
sociedad aristotlica,
supl. 63: 113-137.
Malthus, T. R. (1803), un ensayo sobre el principio de poblacin. 2
Ed. Londres: J. Johnson. Miller, G. (2000a), el apareamiento cuenta:
Cmo la preferencia sexual moldearon la evolucin de la naturaleza
humana.
Nueva York: Doubleday.
--- (2000b) Visin Moral. Manuscrito indito.
Http://www.unm.edu/~gfmiller/new_papers2/miller%202000%20moralvision
.doc.
Minsky, M. (1988), de la sociedad de la mente. Nueva York: Simon
& Schuster. Moravec, H. (1989), mente a los nios. Harvard:
Harvard University Press. --- (1999), Robot: la mera mquina a la
mente trascendente. Nueva York: Oxford University
Press.
Posner, R. (2004), la catstrofe. Oxford: Oxford University Press.
Rees, M. (2003), nuestra ltima hora: un Scientists Advertencia:
cmo el terror, Error y
desastre ambiental Humankinds amenazan el futuro en este siglo - en
la tierra y ms all. Nueva
York: Basic Books.
Rogers, J. L., et al. (2003), influencia Genetic ayuda a explicar
la variacin en la fertilidad humana:
Pruebas de Gentica Molecular y comportamiento reciente Studies,
direcciones actuales en Ciencia Psicolgica 10 (5): 184-188.
Sandberg, A. y Bostrom, N. (2008), emulacin de la totalidad del
cerebro: una "Hoja de Ruta". Informe Tcnico
n 2008-3, el futuro de la humanidad Institute, La Universidad de
Oxford.
20 http://www.fhi.ox.ac.uk/Reports/2008-3.pdf

Savulescu, J. y Bostrom, N. (eds.) (2009), el mejoramiento humano.

Oxford: Oxford University
Press.
Wright, R. (1999), distintas de cero: La lgica del destino humano.
New York: Pantheon Books. Zehavi, A. et al. (1999), el principio de
Handicap: Falta una pieza del rompecabezas Darwins. Oxford:
Oxford University Press.
21