Documenti di Didattica
Documenti di Professioni
Documenti di Cultura
TICAMENTE
DISEO ALINEADOS
Una visin para la priorizacin de bienestar de las personas con
inteligencia artificial y los sistemas autnomos
DISEO DE UNA
VERSIN-TICAMENTE ALINEADOS
SOLICITUD DE ENTRADA
Los comentarios del pblico son invitados en Diseo ticamente Alineados: Una Visin para la priorizacin de bienestar de las
personas con inteligencia artificial y los sistemas autnomos ( AI / AS) que fomenta tecnlogos de dar prioridad a las
consideraciones ticas en la creacin de tecnologas autnomas e inteligentes. Este documento ha sido creado por los comits de La
Iniciativa Global para el IEEE Consideraciones ticas en la Inteligencia Artificial y Sistemas Autnomos , compuesto de ms de cien
lderes mundiales de pensamiento y expertos en inteligencia artificial, la tica y temas relacionados.
El siguiente resumen es una introduccin a la vista tico Alineados diseo, un documento impulsado por La
Iniciativa Global para el IEEE Consideraciones ticas en la Inteligencia Artificial y Sistemas Autnomos . Descargar
el documento completo .
El propsito del documento es avanzar en un debate pblico sobre cmo estas tecnologas inteligentes y autnomas pueden
estar alineados a los valores morales y principios ticos que priorizan el bienestar humano.
Al invitar a los comentarios de la Versin Uno de Alineados con tica de diseo, La Iniciativa Global IEEE ofrece la oportunidad
de reunir a mltiples voces de la Inteligencia Artificial y Sistemas Autnomos (AI / AS) las comunidades con el pblico en
general para identificar y encontrar un amplio consenso sobre las cuestiones ticas presionando y recomendaciones
entrada acerca ticamente Alineados Diseo deben ser enviados por correo electrnico antes del 6 de marzo de 2017 y se pondr a
disposicin del pblico en la Iniciativa Global para el IEEE Consideraciones ticas en la inteligencia artificial y sistemas autnomos no ms
tarde del 10 de abril de 2017. Los detalles sobre cmo presentar comentarios pblicos estn disponibles a travs el Directrices para el envo .
comits nuevos y existentes que contribuyen a una versin actualizada de ticamente Alineados Diseo
ser presentado en la reunin cara a cara La Iniciativa Global de IEEE en el Centro Robert S. Strauss de la Universidad de
Texas en Austin, que se celebrar 5-6 de junio se consideran 2017. Los comentarios disponibles al pblico en respuesta a
esta solicitud de entrada por los comits y participantes de la reunin para su posible inclusin en la versin de dos ticamente
Alineados Diseo
para ser lanzado en el otoo de 2017.
Si usted es un periodista y le gustara saber ms acerca de la Iniciativa Global de IEEE para ticamente Alineados diseo, por favor, pngase en
1
INTRODUCCIN
Para aprovechar plenamente el potencial de la Inteligencia Artificial y Sistemas Autnomos (AI / AS),
tenemos que ir ms all de la percepcin y ms all de la bsqueda de una mayor potencia de clculo o
Hay que asegurarse de que estas tecnologas estn alineados a los seres humanos en trminos de nuestros valores morales y
principios ticos. AI / AS tiene que comportarse de una manera que es beneficioso para las personas ms all de la consecucin de
objetivos funcionales y hacer frente a problemas tcnicos. Esto permitir un elevado nivel de confianza entre los seres humanos y
nuestra tecnologa que se necesita para un uso generalizado fructfera de AI / AS en nuestra vida diaria.
eudaimonia, como fue esclarecido por Aristteles, es una prctica que define el bienestar humano como la virtud ms alta para una
sociedad. Traducirse aproximadamente como florecimiento, los beneficios de la eudaimonia empiezan por la contemplacin consciente,
donde las consideraciones ticas nos ayudan a definir cmo queremos vivir.
Al alinear la creacin de AI / Al igual que con los valores de sus usuarios y la sociedad podemos priorizar el aumento del bienestar
Herclito dijo que la paradoja del cambio es que slo algo que conserva su ncleo puede sufrir
transformacin, de lo contrario ser sustituido por otra cosa. A medida que la tecnologa tiene la sociedad a espacios ms all de nuestra
imaginacin, la pregunta es cmo podemos evolucionar y todava preservar nuestro ncleo - que
lo que nos hace humanos. ticamente Alineados Diseo es un esfuerzo colectivo IEEE-apoyado precisamente
abordar esta cuestin. Representa un hito para el desarrollo de metodologas que aseguren la humanidad utiliza la tecnologa
que da prioridad inherentemente nuestro bienestar y lleva a nuestros valores explcitos en cuenta. Slo manteniendo nuestra agencia
Konstantinos Karachalios,
Ph.D., Director Gerente del Instituto de Ingenieros Elctricos y Electrnicos (IEEE)
Standards Association y miembro del Consejo de Administracin de la IEEE
2
QUIENES SOMOS
La Iniciativa Global de IEEE para Consideraciones ticas en la Inteligencia Artificial y Sistemas
Autnomos ( La Iniciativa Global IEEE) es un programa del Instituto de Ingenieros Elctricos y
Electrnicos, Incorporated ( IEEE), la mayor organizacin profesional tcnica del mundo dedicada al
avance de la tecnologa en beneficio de la humanidad con ms de 400.000 miembros en ms de 160
pases.
La Iniciativa Global IEEE ofrece la oportunidad de reunir a varias voces en las comunidades de inteligencia artificial y
IEEE har E thically Alineados Diseo (EAD) disponible bajo el 3.0 Licencia de Estados Unidos Creative
Sujeto a los trminos de dicha licencia, organizaciones o individuos pueden adoptar aspectos de este trabajo, a su discrecin en cualquier
momento. Tambin se espera que el contenido de EAD y el tema sern seleccionados para su presentacin en los procesos formales de
La Iniciativa Global IEEE y el EAD contribuyen a un mayor esfuerzo que se puso en marcha en IEEE para fomentar la conversacin
abierta, amplio e inclusivo sobre la tica en la tecnologa, conocida como el programa IEEE TechEthics .
ticamente Alineados Diseo y el trabajo de nuestra Iniciativa Global se centra en la capacitacin de los
tcnicos para dar prioridad a las consideraciones ticas en la creacin de la Inteligencia Artificial y Sistemas
Autnomos. En lugar de asumir una mquina o sistema de facto proporcionar beneficios positivos, debemos
Raja Chatila,
(Presidente Initiative) CNRS-UPMC Sorbona Instituto de Robtica y Sistemas Inteligentes, Pars, Francia;
Como sociedad, no podemos avanzar en un espritu de temor en torno a la creacin de la Inteligencia Artificial
Kay Firth-Butterfield,
(Iniciativa Vicepresidente) Director Ejecutivo, AI Austin
3
LA MISIN
DE LA INICIATIVA
Para asegurar que cada tcnico es educado, capacitado y facultado para dar prioridad a las
consideraciones ticas en el diseo y desarrollo de sistemas autnomos e inteligentes.
Por tecnlogo, nos referimos a cualquier persona involucrada en la investigacin, diseo, fabricacin o mensajera en torno AI /
AS incluyendo universidades, organizaciones y corporaciones que hacen estas tecnologas sean una realidad para la sociedad.
Este documento representa la entrada colectiva de ms de cien lderes mundiales de pensamiento en el campo de la inteligencia
artificial, la ley y la tica, la filosofa y la poltica de los reinos de la academia, la ciencia y el gobierno y los sectores
empresariales. Nuestro objetivo es que ticamente Alineados Diseo se proporciona una visin y recomendaciones de estos
compaeros que proporcionan una referencia clave para el trabajo de AI / AS tecnlogos en los prximos aos. Para lograr este
objetivo, en la versin actual de ticamente Alineados Diseo ( v1 EAD), se identifican temas y recomendaciones de candidato en
Un segundo objetivo de la iniciativa global IEEE es proporcionar recomendaciones para los estndares de IEEE sobre la base de Alineado
ticamente Diseo. IEEE P7000 - Modelo de proceso para tratar asuntos ticos Durante Diseo de Sistemas Fue el primer
proyecto estndar IEEE (aprobado y en desarrollo) inspirado en la iniciativa. Otros dos proyectos de normas, IEEE P7001 TM - La
transparencia de los sistemas autnomos y IEEE P7002 TM - Proceso de privacidad de datos, han sido aprobados, lo que demuestra
ticamente Alineados Diseo incluye ocho secciones, cada una abordando un tema especfico relacionado con AI /
AS que ha sido discutido ampliamente por un comit especfico de la Iniciativa Global de IEEE. Usted puede aprender
ms sobre su trabajo (junto con nuestros nuevos Comits) mediante la lectura de las descripciones de cada Comit
Esto permitir
Cmo van a saber qu mquinas valoramos si no nos conocemos a nosotros mismos?
tica y orientado por los valores de diseo proporcionan herramientas para los tecnlogos de introspeccin debe
dar prioridad a medida que construimos las mquinas y sistemas de guiado nuestras vidas para el futuro. No podemos aumentar
valores colectivos antes de crear la tecnologa que conocemos se alinear con esos ideales
John C. Havens,
Director Ejecutivo de la Iniciativa Global para el IEEE Consideraciones ticas en la inteligencia artificial y sistemas autnomos, autor,
4
1
PRINCIPIOS GENERALES
El Comit de Principios Generales busca articular las preocupaciones ticas de alto nivel que se aplican a todos los
1) Encarnar los ms altos ideales de los derechos humanos que hacen honor a su
la dignidad y el valor inherentes.
sistemas socio-tcnicos.
Es nuestra intencin que mediante la identificacin de problemas y recomendaciones candidatos con respecto a estos principios
que eventualmente servir para sustentar y andamio normas y estndares futuros dentro de un nuevo marco de gestin tica.
Para los sistemas autnomos e inteligentes para ser de confianza, y por lo tanto llevar el mayor beneficio, deben ser diseadas y
operadas de forma tica. Por tanto, es vital que construimos este tipo de sistemas de
Alan Winfield,
(Co-Presidente) Profesor, Laboratorio de Robtica de Bristol, Universidad del Oeste
Los Principios que la dignidad humana mejor de honor debe ser reflejado en las consideraciones ticas que utilizamos al
priorizar el mximo beneficio para la humanidad para asegurar la sociedad florece durante mucho tiempo en el futuro .
Kay Firth-Butterfield,
(Copresidente) Director Ejecutivo, AI Austin
5
2
INTEGRAR LOS VALORES
EN SISTEMAS
INTELIGENTES AUTNOMAS
Para el desarrollo de sistemas de xito Autnomos Inteligentes (AIS) que beneficiarn a nuestra sociedad, es crucial
para la comunidad tcnica para comprender y ser capaz de integrar las normas o los valores humanos pertinentes en
sus sistemas.
Nuestro Comit ha tomado en el objetivo ms amplio de la incorporacin de valores en AIS como un enfoque de tres
1) Identificar las normas y valores de una comunidad especfica afectada por un AIS;
AJung Luna,
(Co-Presidente) Co-fundador de la iniciativa Open Roboethics, y Candidato a Doctor y Acadmico Vanier
En ambos sistemas autnomos y entornos hombre-mquina, es esencial que las funciones del sistema de IA de acuerdo a los valores
correctos morales, las normas sociales y los cdigos profesionales. Esto permitir la construccin del correcto nivel de confianza entre
Adems de las capacidades tcnicas para lograr los objetivos especificados, tendrn una ventaja en el mercado
Francesca Rossi,
(Co-Presidente), la investigacin de IBM, Yorktown Heights, Nueva York, y profesor titular
6
3
Metodologas para guiar la
investigacin TICA Y
DISEO
Con el fin de crear mquinas que mejoran el bienestar humano, la habilitacin y la libertad, metodologas de diseo de
sistemas deben extenderse a poner un mayor nfasis en los valores humanos como una forma de derechos humanos,
como los reconocidos en la Declaracin Universal de los derechos humanos. Por lo tanto, estamos convencidos de que
la metodologa de diseo basada en valores debe convertirse en un foco esencial para la organizacin moderna.
Diseo del sistema moderno debe extenderse a poner un mayor nfasis en los derechos humanos
como una forma primaria de los valores humanos. Valores alineados metodologas de diseo proporcionan
herramientas prcticas para los tecnlogos modernos a las necesidades sociales mejor de honor, mientras
Raja Chatila,
(Presidente Initiative) Instituto UPMC CNRS-Sorbona de Robtica y Sistemas Inteligentes, Pars,
Francia; Miembro de la Comisin francesa de tica de las Ciencias y Tecnologas Digitales CERNA; Ex
Inteligencia artificial y los sistemas autnomos necesitan, ante todo, para mejorar el bienestar humano.
Esto no puede ser una idea de ltimo momento, y como tal, la tica tiene que ser parte de la metodologa de
diseo. Nuestro comit se ha centrado en cmo AI / AS organizaciones pueden asegurar que sus diseo del
Corinne Cath,
(Co-Presidente) estudiante de doctorado de la Universidad de Oxford, Oficial de Programas de ARTICLE 19
7
4
SEGURIDAD Y DE BENEFICENCIA
INTELIGENCIA ARTIFICIAL GENERAL (AGI)
Y super-inteligencia ARTIFICIAL (ASI)
Futuros sistemas de IA de alta capacidad (a veces conocido como la inteligencia general artificial o AGI) pueden tener un efecto transformador en
el mundo en la escala de la revolucin agrcola o industrial, lo que podra llevar a niveles sin precedentes de prosperidad mundial. No es de
ninguna manera est garantizado sin embargo, que esta transformacin ser una positiva sin un esfuerzo concertado de la comunidad para dar
su trabajo ms .
Richard Mallah,
(Presidente Co) - Director de Proyectos de AI,
adopcin amplia .
Malo Bourgon,
(Co-Presidente) - COO, Mquina Instituto de Investigacin en Inteligencia
8
5
DATOS PERSONALES
Y CONTROL DE
ACCESO INDIVIDUAL
Un dilema tico clave sobre la informacin personal es la asimetra de datos. Para hacer frente a esta asimetra
existe una necesidad fundamental de las personas a definir, gestionar y acceder a sus datos personales como
curadores de su identidad nica. Nos damos cuenta de que no existen soluciones perfectas, y que cualquier
herramienta digital puede ser hackeado. Pero es necesario para permitir un entorno de datos donde las personas
controlan su sentido de s mismo. Nuestro objetivo es prever las herramientas y prcticas evolucionados que
erradicar la asimetra de datos para proyectar una imagen positiva de nuestro futuro.
consideraciones en cuanto al uso de estos datos por las tecnologas autnomas e inteligentes significa que vamos a
al tiempo que mejora la calidad de la informacin proporcionada a los sistemas que estamos
Michelle Dennedy,
(Co-Presidente) vicepresidente, director de privacidad, Cisco;
Autor, el manifiesto del Ingeniero de privacidad: Cmo salir de la Poltica de Cdigo de control de calidad para Valor
Junto con las metodologas de personalizacin que hacen un seguimiento de nuestras acciones, necesitamos herramientas para gestionar el
los datos personales que reflejan nuestras intenciones y la identidad subjetiva. Consideraciones ticas para
AI / AS debe tener en cuenta y se alinean con estos valores para el bienestar humano mejor aumento .
John C. Havens,
(Copresidente) Director Ejecutivo, La Iniciativa Global para el IEEE Consideraciones ticas en la Inteligencia Artificial y autnoma
Sistemas, autor, Heartificial Inteligencia: Abrazando nuestra humanidad para maximizar Mquinas
9
6
reframing
AUTNOMA
SISTEMAS DE ARMAS
Los sistemas autnomos que estn diseados para causar dao fsico tienen ramificaciones ticas adicionales
en comparacin con las dos armas tradicionales y sistemas autnomos que no estn diseados para causar
dao. La tica profesional sobre stos pueden y deben tener un nivel ms alto que abarca una gama ms amplia
de preocupaciones. En trminos generales, se recomienda que las organizaciones tcnicas aceptan que el
control humano significativa de los sistemas de armas es beneficioso para la sociedad, que las pistas de
auditora que garanticen la rendicin de cuentas a garantizar dicho control, que los que crean estas tecnologas
comprender las implicaciones de su trabajo, y que los cdigos ticos profesionales abordan adecuadamente las
Consideraciones ticas y cdigos de tica diseados para guiar la creacin de tecnlogos autnoma
sistemas de armas deben priorizar el control humano significativo para los sistemas que crean .
Richard Mallah,
(Presidente) - Director de Proyectos, AI futuro de Life Institute.
10
7
CIENCIAS ECONMICAS/
CUESTIONES HUMANITARIAS
Tecnologas, metodologas y sistemas que tienen por objeto reducir la intervencin humana en nuestro da a da estn
evolucionando a un ritmo rpido y estn a punto de transformar la vida de las personas de muchas maneras. El objetivo
de nuestro comit de mltiples partes interesadas es identificar los factores clave la formacin de la tecnologa humana
ecosistema global y abordar ramificaciones econmicas y humanitarias, y sugerir oportunidades clave para las
soluciones que podran ser implementadas por el desbloqueo de los cuellos de botella crticos de tensin. El objetivo
de nuestras recomendaciones es sugerir una direccin pragmtica en relacin con estas preocupaciones centrales en
la relacin de los seres humanos, sus instituciones y las tecnologas basadas en la informacin emergentes, para
facilitar el dilogo interdisciplinario, intersectorial que pueden ser ms plenamente informado por el experto,
direccional,
beneficios al tiempo que reduce el dao a la sociedad. De lo contrario no sern diseados para el
Raj Madhavan,
(Presidente) Fundador y CEO de Robtica Humanitarios Technologies, LLC, Maryland, EE.UU.
11
8
LEY
El desarrollo temprano de la Inteligencia Artificial y Sistemas Autnomos (AI / AS) ha dado lugar a muchos problemas
ticos complejos. Estas cuestiones ticas casi siempre se traducen directamente en los desafos legales concretos - o
que dan lugar a problemas legales colaterales difciles. Hay mucho que hacer por los abogados en este campo que
hasta ahora ha atrado muy pocos profesionales y acadmicos a pesar de ser una zona de urgente necesidad. Los
abogados deben ser parte de los debates sobre la regulacin, gobierno, nacional e internacional, la legislacin en estas
reas y queremos aprovechar esta oportunidad para asegurar que los enormes beneficios disponibles para la
Es esencial que las leyes creadas para guiar AI / AS se construyen a mejor honor a la comunidad
Derek Jinks,
(Co-Presidente) de la Universidad de la Escuela de Leyes de Texas; Consorcio de Derecho y tica de la artificial
El aumento del bienestar humano significa crear y adaptar nuestras leyes para reflejar los valores que queremos
Kay Firth-Butterfield,
(Copresidente) Director Ejecutivo, AI Austin
12
1
nuevos comits
tica clsicos en Tecnologas de Informacin y Comunicacin
Este Comit se centrar en el examen de la tica clsica ideologas (utilitarismo, etc.) a la luz de la IA y
tecnologas autnomas.
realidad mixta podra alterar nuestras nociones de identidad y la realidad en la prxima generacin, ya que estas tecnologas se
infiltran cada vez ms aspectos de nuestras vidas, desde el trabajo a la educacin, a partir de la socializacin con el comercio. Una
red troncal de la IA que permita la personalizacin en tiempo real de este mundo ilusorio plantea una serie de cuestiones ticas y
filosficas, sobre todo porque la tecnologa se mueve de auriculares para mejoras sensoriales mucho ms sutiles e integrados. Este
comit trabajar para descubrir las metodologas que podran proporcionar este futuro con un esqueleto de tica y la garanta de
que los derechos de la persona, incluyendo el control sobre la propia identidad cada vez ms multifactica, se reflejarn en la
Las metodologas clsicas de tica tienen, en cierto grado, Los medios de realidad mixta en combinacin con las
inform la inteligencia artificial y sistemas autnomos de tecnologas inteligentes y autnomas tienen el potencial para
Norbert Weiner, la primera metodologa impulsada por los vemos, omos y experiencia slo lo que queremos ver, or y
valores que se pretende estudiar sistemticamente aspectos experiencia. Por esta razn, es fundamental que los tcnicos
de los valores intrnsecamente sesgados en inteligencia estn entrenados en la tica para que puedan construir y
artificial de la mquina. Mediante la exploracin de la tica de tecnologa de diseo que promueve e inspira nuestra empata
varias tradiciones de diversas culturas y la aplicacin de la colectiva, nuestro trabajo, nosotros mismos y nuestra sociedad
Jared Bielby,
(Presidente del Comit de tica clsica), Co-Presidente del
13
2
nuevos comits
afectiva Computing
Este Comit aborda el impacto sobre los individuos y la sociedad que los sistemas autnomos capaces de sentir, modelado, o exhibir
un comportamiento afectivo como las emociones, estados de nimo, actitudes y personalidad pueden producir. artefactos
computacionales y robticos afectivos tienen o se estn desarrollando actualmente para su uso en reas tan diversas como
compaeros, la salud, rehabilitacin, cuidado de nios y ancianos, la formacin y la aptitud, entretenimiento, e incluso la intimidad. Las
preocupaciones ticas en torno apego humano y el impacto global sobre el tejido social pueden ser profundas y es crucial que
entendemos que las trayectorias afectivos sistemas autnomos pueden conducirnos a proporcionar mejores soluciones que aumentan
Este comit:
3) iluminar los nuevos modelos de la formulacin de polticas tanto existentes y experimentar para apoyar la
Tenemos que proporcionar orientacin tica en el diseo Tenemos que tener claro que la decisin de usar afecta en
y uso de la computacin afectiva adecuada dentro de AI / sistemas inteligentes tiene ramificaciones ticas
AS para asegurarse de que no viola los derechos de los importantes. Si bien hay una clara utilidad para los sistemas
usuarios y la sociedad en su conjunto, mientras que al emocionales en la inteligencia natural, tanto para el control
mismo tiempo asegurando beneficios a aquellos que a individual y la coordinacin social, la confusin de la
sabiendas emplean para su propio disfrute y el bienestar . emocin, sufrimiento, y el estado moral en ejemplos
de Georgia
Joanna Bryson
(Comit Affective Computing Co-Presidente) Visiting Research
Computacin
14
nuevos comits 3
Citas adicionales
A medida que la realidad mixta y las tecnologas asociadas evolucionan, es inevitable que se entremezclan y se convierten en cada vez ms
impulsado por la IA. Al igual que la inteligencia artificial con el tiempo se ve simplemente como inteligencia, la convergencia de estas tecnologas
que controlan la percepcin y simulan la realidad con el tiempo se ve simplemente como realidad. Este escenario plantea una serie de cuestiones
ticas, as como preguntas acerca nuestras nociones mismas de uno mismo, la identidad y la realidad .
Jay Iorio,
(Co-Presidente del Comit de Realidad Mixta) Director de Innovacin, IEEE Standards Association
Necesitamos tanto las polticas como en lugares de servicio pblico en el que podemos colaborar con los ciudadanos y socios del
sector privado en nuevas formas de hacer el negocio de servicio pblico mejor - para incluir la inteligencia artificial y sistemas
autnomos. Los beneficios de la inteligencia artificial para cada nacin y el mundo estn en el dominio civil, ms que cualquier otro
dominio .
residencia
AI y sistemas autnomos van a influir en muchos aspectos de la vida, los negocios, la salud y la educacin. Como resultado de
ello, las consideraciones ticas estn llenos de complejidad. De pie como un puente entre los polticos y el sector comercial, la
Iniciativa Global ofrece una perspectiva nica imparcial y equilibrada en esta conversacin global. En este trabajo se une a los
Michael Krigsman,
analista de la industria y la gran cantidad de CXOTALK
Todos los trabajos de pintado en las pginas 2, 5, 11, 14, 15 y 16 son los derechos de
autor 2016 Edward Povey y Tolar Schultz. Todos los derechos reservados.
15
poveyandschultz.com