Sei sulla pagina 1di 16

VISIÓN DE CONJUNTO

ÉTICAMENTE DISEÑO ALINEADOS

Una visión para la priorización de bienestar de las personas con inteligencia artificial y los sistemas autónomos

Una visión para la priorización de bienestar de las personas con inteligencia artificial y los sistemas
DISEÑO DE UNA VERSIÓN-ÉTICAMENTE ALINEADOS SOLICITUD DE ENTRADA LosLos comentarioscomentarios deldel
DISEÑO DE UNA
VERSIÓN-ÉTICAMENTE ALINEADOS
SOLICITUD DE ENTRADA
LosLos comentarioscomentarios deldel públicopúblico sonson invitadosinvitados enen DiseñoDiseño éticamenteéticamente Alineados:Alineados: UnaUna VisiónVisión parapara lala priorizaciónpriorización dede bienestarbienestar dede laslas
personaspersonas concon inteligenciainteligencia artificialartificial yy loslos sistemassistemas autónomosautónomos (( AIAI // AS)AS) queque fomentafomenta tecnólogostecnólogos dede dardar prioridadprioridad aa laslas
consideracionesconsideraciones éticaséticas enen lala creacióncreación dede tecnologíastecnologías autónomasautónomas ee inteligentes.inteligentes. EsteEste documentodocumento haha sidosido creadocreado porpor loslos comitéscomités dede LaLa
IniciativaIniciativaIniciativaIniciativa GlobalGlobalGlobalGlobal paraparaparapara elelelel IEEEIEEEIEEEIEEE ConsideracionesConsideracionesConsideracionesConsideraciones éticaséticaséticaséticas enenenen lalalala InteligenciaInteligenciaInteligenciaInteligencia ArtificialArtificialArtificialArtificial yyyy SistemasSistemasSistemasSistemas AutónomosAutónomosAutónomosAutónomos ,,,, compuestocompuestocompuestocompuesto dededede másmásmásmás dededede ciencienciencien
lídereslíderes mundialesmundiales dede pensamientopensamiento yy expertosexpertos enen inteligenciainteligencia artificial,artificial, lala éticaética yy temastemas relacionados.relacionados.
ElEl siguientesiguiente resumenresumen eses unauna introducciónintroducción aa lala vistavista éticoético AlineadosAlineados diseño,diseño, unun documentodocumento impulsadoimpulsado porpor LaLa
IniciativaIniciativaIniciativa GlobalGlobalGlobal paraparapara elelel IEEEIEEEIEEE ConsideracionesConsideracionesConsideraciones éticaséticaséticas enenen lalala InteligenciaInteligenciaInteligencia ArtificialArtificialArtificial yyy SistemasSistemasSistemas AutónomosAutónomosAutónomos
elel documentodocumento completocompleto
DescargarDescargarDescargar
El propósito del documento es avanzar en un debate público sobre cómo estas tecnologías inteligentes y autónomas pueden
estar alineados a los valores morales y principios éticos que priorizan el bienestar humano.
AlAlAl invitarinvitarinvitar aaa losloslos comentarioscomentarioscomentarios dedede lalala VersiónVersiónVersión UnoUnoUno dedede AlineadosAlineadosAlineados conconcon éticaéticaética dedede diseño,diseño,diseño, LaLaLa IniciativaIniciativaIniciativa GlobalGlobalGlobal IEEEIEEEIEEE ofreceofreceofrece lalala oportunidadoportunidadoportunidad
de reunir a múltiples voces de la Inteligencia Artificial y Sistemas Autónomos (AI / AS) las comunidades con el público en
general para identificar y encontrar un amplio consenso sobre las cuestiones éticas presionando y recomendaciones
candidatos con respecto a estas tecnologías.
entradaentradaentrada acercaacercaacerca ÉticamenteÉticamenteÉticamente AlineadosAlineadosAlineados DiseñoDiseñoDiseño debendebendeben serserser enviadosenviadosenviados porporpor correocorreocorreo electrónicoelectrónicoelectrónico antesantesantes deldeldel 666 dedede marzomarzomarzo dedede 201720172017 yyy sesese pondrápondrápondrá aaa
disposición del público en la Iniciativa Global para el IEEE Consideraciones éticas en la inteligencia artificial y sistemas autónomos no más
tardetardetarde deldeldel 101010 dedede abrilabrilabril dedede 2017.2017.2017. LosLosLos detallesdetallesdetalles sobresobresobre cómocómocómo presentarpresentarpresentar comentarioscomentarioscomentarios públicospúblicospúblicos estánestánestán disponiblesdisponiblesdisponibles aaa travéstravéstravés elelel DirectricesDirectricesDirectrices paraparapara elelel envíoenvíoenvío
comitéscomités nuevosnuevos yy existentesexistentes queque contribuyencontribuyen aa unauna versiónversión actualizadaactualizada dede ÉticamenteÉticamente AlineadosAlineados DiseñoDiseño
será presentado en la reunión cara a cara La Iniciativa Global de IEEE en el Centro Robert S. Strauss de la Universidad de
Texas en Austin, que se celebrará 5-6 de junio se consideran 2017. Los comentarios disponibles al público en respuesta a
estaesta solicitudsolicitud dede entradaentrada porpor loslos comitéscomités yy participantesparticipantes dede lala reuniónreunión parapara susu posibleposible inclusióninclusión enen lala versiónversión dede dosdos ÉticamenteÉticamente
Alineados Diseño
para ser lanzado en el otoño de 2017.
ParaParaPara másmásmás información,información,información, aprenderaprenderaprender másmásmás enenen LaLaLa IniciativaIniciativaIniciativa GlobalGlobalGlobal IEEEIEEEIEEE
Si usted es un periodista y le gustaría saber más acerca de la Iniciativa Global de IEEE para éticamente Alineados diseño, por favor, póngase en

contactocontactocontacto conconcon elelel equipoequipoequipo dedede lalala bandabandabanda IEEE-SAIEEE-SAIEEE-SA

INTRODUCCIÓN Para aprovechar plenamente el potencial de la Inteligencia Artificial y Sistemas Autónomos (AI /

INTRODUCCIÓN

Para aprovechar plenamente el potencial de la Inteligencia Artificial y Sistemas Autónomos (AI / AS), tenemos que ir más allá de la percepción y más allá de la búsqueda de una mayor potencia de cálculo o las capacidades de resolución de problemas.

Hay que asegurarse de que estas tecnologías están alineados a los seres humanos en términos de nuestros valores morales y

principios éticos. AI / AS tiene que comportarse de una manera que es beneficioso para las personas más allá de la consecución de

objetivos funcionales y hacer frente a problemas técnicos. Esto permitirá un elevado nivel de confianza entre los seres humanos y

nuestra tecnología que se necesita para un uso generalizado fructífera de AI / AS en nuestra vida diaria.

eudaimonia,eudaimonia, comocomo fuefue esclarecidoesclarecido porpor Aristóteles,Aristóteles, eses unauna prácticapráctica queque definedefine elel bienestarbienestar humanohumano comocomo lala virtudvirtud másmás altaalta parapara unauna

sociedad. Traducirse aproximadamente como “florecimiento”, los beneficios de la eudaimonia empiezan por la contemplación consciente,

donde las consideraciones éticas nos ayudan a definir cómo queremos vivir.

Al alinear la creación de AI / Al igual que con los valores de sus usuarios y la sociedad podemos priorizar el aumento del bienestar

humano como nuestra métrica para el progreso en la era algorítmica.

“Heráclito dijo que la paradoja del cambio es que sólo algo que conserva su núcleo puede sufrir

transformación, de lo contrario será sustituido por otra cosa. A medida que la tecnología tiene la sociedad a espacios más allá de nuestra

imaginación, la pregunta es cómo podemos evolucionar y todavía preservar nuestro núcleo - que

lololo quequeque nosnosnos hacehacehace humanos.humanos.humanos. ÉticamenteÉticamenteÉticamente AlineadosAlineadosAlineados DiseñoDiseñoDiseño eseses ununun esfuerzoesfuerzoesfuerzo colectivocolectivocolectivo IEEE-apoyadoIEEE-apoyadoIEEE-apoyado precisamenteprecisamenteprecisamente

abordar esta cuestión. Representa un hito para el desarrollo de metodologías que aseguren la humanidad utiliza la tecnología

que da prioridad inherentemente nuestro bienestar y lleva a nuestros valores explícitos en cuenta. Sólo manteniendo nuestra agencia

podemos ir más allá de los temores asociados con éstos

tecnologías y traer valiosos beneficios para la humanidad de hoy y en el futuro “.

Konstantinos Karachalios,

Ph.D., Director Gerente del Instituto de Ingenieros Eléctricos y Electrónicos (IEEE)

Standards Association y miembro del Consejo de Administración de la IEEE

Ingenieros Eléctricos y Electrónicos (IEEE) Standards Association y miembro del Consejo de Administración de la IEEE

QUIENES SOMOS

La Iniciativa Global de IEEE para Consideraciones éticas en la Inteligencia Artificial y Sistemas Autónomos ( “La Iniciativa Global IEEE”) es un programa del Instituto de Ingenieros Eléctricos y Electrónicos, Incorporated ( “IEEE”), la mayor organización profesional técnica del mundo dedicada al avance de la tecnología en beneficio de la humanidad con más de 400.000 miembros en más de 160 países.

La Iniciativa Global IEEE ofrece la oportunidad de reunir a varias voces en las comunidades de inteligencia artificial y

IEEEIEEEIEEE haráharáhará EEE thicallythicallythically AlineadosAlineadosAlineados DiseñoDiseñoDiseño (EAD)(EAD)(EAD) disponibledisponibledisponible bajobajobajo elelel 3.03.03.0 LicenciaLicenciaLicencia dedede EstadosEstadosEstados UnidosUnidosUnidos CreativeCreativeCreative

Sujeto a los términos de dicha licencia, organizaciones o individuos pueden adoptar aspectos de este trabajo, a su discreción en cualquier

momento. También se espera que el contenido de EAD y el tema serán seleccionados para su presentación en los procesos formales de

IEEE, incluyendo para el desarrollo de normas.

La Iniciativa Global IEEE y el EAD contribuyen a un mayor esfuerzo que se puso en marcha en IEEE para fomentar la conversación

abierta, amplio e inclusivo sobre la ética en la tecnología, conocida como el programa IEEE TechEthics ™.

“““ ÉticamenteÉticamenteÉticamente AlineadosAlineadosAlineados DiseñoDiseñoDiseño yyy elelel trabajotrabajotrabajo dedede nuestranuestranuestra IniciativaIniciativaIniciativa GlobalGlobalGlobal sesese centracentracentra enenen lalala capacitacióncapacitacióncapacitación dedede losloslos

técnicos para dar prioridad a las consideraciones éticas en la creación de la Inteligencia Artificial y Sistemas

Autónomos. En lugar de asumir una máquina o sistema de facto proporcionar beneficios positivos, debemos

determinar y alinearse con la

los valores de la sociedad antes de su aplicación “.

Raja Chatila,

(Presidente Initiative) CNRS-UPMC Sorbona Instituto de Robótica y Sistemas Inteligentes, París, Francia;

Miembro de la Comisión francesa de Ética de las Ciencias y Tecnologías Digitales CERNA;

Ex Presidente de la IEEE de Robótica y Automatización Sociedad

“Como sociedad, no podemos avanzar en un espíritu de temor en torno a la creación de la Inteligencia Artificial

y Sistemas Autónomos. Al asegurar metodologías éticas se convierten en estándar de la industria en la creación de

estas tecnologías que vamos a pasar de un espíritu

de paranoia al pragmatismo y redefinir la innovación en torno al cual las máquinas

o sistemas mejores de honor los valores de sus usuarios.”

Kay Firth-Butterfield,

(Iniciativa Vicepresidente) Director Ejecutivo, AI Austin

honor los valores de sus usuarios.” Kay Firth-Butterfield, (Iniciativa Vicepresidente) Director Ejecutivo, AI Austin 3

LA MISIÓN

DE LA INICIATIVA

LA MISIÓN DE LA INICIATIVA Para asegurar que cada técnico es educado, capacitado y facultado para

Para asegurar que cada técnico es educado, capacitado y facultado para dar prioridad a las consideraciones éticas en el diseño y desarrollo de sistemas autónomos e inteligentes.

Por “tecnólogo”, nos referimos a cualquier persona involucrada en la investigación, diseño, fabricación o mensajería en torno AI /

AS incluyendo universidades, organizaciones y corporaciones que hacen estas tecnologías sean una realidad para la sociedad.

Este documento representa la entrada colectiva de más de cien líderes mundiales de pensamiento en el campo de la inteligencia

artificial, la ley y la ética, la filosofía y la política de los reinos de la academia, la ciencia y el gobierno y los sectores

empresariales.empresariales.empresariales. NuestroNuestroNuestro objetivoobjetivoobjetivo eseses quequeque ÉticamenteÉticamenteÉticamente AlineadosAlineadosAlineados DiseñoDiseñoDiseño sesese proporcionaproporcionaproporciona unaunauna visiónvisiónvisión yyy recomendacionesrecomendacionesrecomendaciones dedede estosestosestos

compañeros que proporcionan una referencia clave para el trabajo de AI / AS tecnólogos en los próximos años. Para lograr este

objetivo,objetivo,objetivo, enenen lalala versiónversiónversión actualactualactual dedede ÉticamenteÉticamenteÉticamente AlineadosAlineadosAlineados DiseñoDiseñoDiseño ((( v1v1v1 EAD),EAD),EAD), sesese identificanidentificanidentifican temastemastemas yyy recomendacionesrecomendacionesrecomendaciones dedede candidatocandidatocandidato enenen

ámbitos que comprenden la Inteligencia Artificial y Sistemas Autónomos.

UnUn segundosegundo objetivoobjetivo dede lala iniciativainiciativa globalglobal IEEEIEEE eses proporcionarproporcionar recomendacionesrecomendaciones parapara loslos estándaresestándares dede IEEEIEEE sobresobre lala basebase dede AlineadoAlineado

éticamenteéticamenteéticamenteéticamente Diseño.Diseño.Diseño.Diseño. IEEEIEEEIEEEIEEE P7000P7000P7000P7000 ™™™™ ---- ModeloModeloModeloModelo dededede procesoprocesoprocesoproceso paraparaparapara tratartratartratartratar asuntosasuntosasuntosasuntos éticoséticoséticoséticos DuranteDuranteDuranteDurante DiseñoDiseñoDiseñoDiseño dededede SistemasSistemasSistemasSistemas FueFueFueFue elelelel primerprimerprimerprimer

proyectoproyectoproyecto estándarestándarestándar IEEEIEEEIEEE (aprobado(aprobado(aprobado yyy enenen desarrollo)desarrollo)desarrollo) inspiradoinspiradoinspirado enenen lalala iniciativa.iniciativa.iniciativa. OtrosOtrosOtros dosdosdos proyectosproyectosproyectos dedede normas,normas,normas, IEEEIEEEIEEE P7001P7001P7001 TMTMTM --- LaLaLa

transparenciatransparenciatransparencia dedede losloslos sistemassistemassistemas autónomosautónomosautónomos yyy IEEEIEEEIEEE P7002P7002P7002 TMTMTM --- ProcesoProcesoProceso dedede privacidadprivacidadprivacidad dedede datos,datos,datos, hanhanhan sidosidosido aprobados,aprobados,aprobados, lololo quequeque demuestrademuestrademuestra

la influencia pragmática de la Iniciativa sobre temas de AI / AS ética.

ÉticamenteÉticamente AlineadosAlineados DiseñoDiseño incluyeincluye ochoocho secciones,secciones, cadacada unauna abordandoabordando unun tematema específicoespecífico relacionadorelacionado concon AIAI // AS que ha sido discutido ampliamente por un comité específico de la Iniciativa Global de IEEE. Usted puede aprender más sobre su trabajo (junto con nuestros nuevos Comités) mediante la lectura de las descripciones de cada Comité con citas de sus sillas en las páginas que siguen.

Esto permitirá

“¿Cómo van a saber qué máquinas valoramos si no nos conocemos a nosotros mismos?

Ética y orientado por los valores de diseño proporcionan herramientas para los tecnólogos de introspección debe

dar prioridad a medida que construimos las máquinas y sistemas de guiado nuestras vidas para el futuro. No podemos aumentar

positivamente el bienestar humano si no nos tomamos el tiempo de nuestra identidad

valores colectivos antes de crear la tecnología que conocemos se alineará con esos ideales”

John C. Havens,

Director Ejecutivo de la Iniciativa Global para el IEEE Consideraciones éticas en la inteligencia artificial y sistemas autónomos, autor,

Heartificial Inteligencia: Abrazando nuestra humanidad para maximizar Máquinas

y sistemas autónomos, autor, Heartificial Inteligencia: Abrazando nuestra humanidad para maximizar Máquinas 4

4

1

PRINCIPIOS GENERALES

El Comité de Principios Generales busca articular las preocupaciones éticas de alto nivel que se aplican a todos los tipos de inteligencia artificial y sistemas autónomos que:

1)1) EncarnarEncarnar loslos másmás altosaltos idealesideales dede loslos derechosderechos humanoshumanos queque hacenhacen honorhonor aa susu

la dignidad y el valor inherentes.

2)2) PriorizarPriorizar elel máximomáximo beneficiobeneficio parapara lala humanidadhumanidad yy lolo naturalnatural ambiente.

3)3) MitigarMitigar loslos riesgosriesgos yy loslos impactosimpactos negativosnegativos comocomo AIAI // ASAS evolucionarevolucionar aa medidamedida

sistemas socio-técnicos.

Es nuestra intención que mediante la identificación de problemas y recomendaciones candidatos con respecto a estos principios

que eventualmente servir para sustentar y andamio normas y estándares futuros dentro de un nuevo marco de gestión ética.

“Para los sistemas autónomos e inteligentes para ser de confianza, y por lo tanto llevar el mayor beneficio, deben ser diseñadas y

operadas de forma ética. Por tanto, es vital que construimos este tipo de sistemas de

una base sólida de principios éticos “.

Alan Winfield,

(Co-Presidente) Profesor, Laboratorio de Robótica de Bristol, Universidad del Oeste

de Inglaterra; Profesor invitado de la Universidad de York

“Los Principios que la dignidad humana mejor de honor debe ser reflejado en las consideraciones éticas que utilizamos al

crear tecnologías futuras. Inteligencia artificial y sistemas deben Autónomas

priorizar el máximo beneficio para la humanidad para asegurar la sociedad florece durante mucho tiempo en el futuro “.

Kay Firth-Butterfield,

(Copresidente) Director Ejecutivo, AI Austin

florece durante mucho tiempo en el futuro “. Kay Firth-Butterfield, (Copresidente) Director Ejecutivo, AI Austin 5
florece durante mucho tiempo en el futuro “. Kay Firth-Butterfield, (Copresidente) Director Ejecutivo, AI Austin 5

5

2

INTEGRAR LOS VALORES EN SISTEMAS INTELIGENTES AUTÓNOMAS

Para el desarrollo de sistemas de éxito Autónomos Inteligentes (AIS) que beneficiarán a nuestra sociedad, es crucial

para la comunidad técnica para comprender y ser capaz de integrar las normas o los valores humanos pertinentes en

sus sistemas.

Nuestro Comité ha tomado en el objetivo más amplio de la incorporación de valores en AIS como un enfoque de tres

vertientes, es ayudar a los diseñadores:

1)1) IdentificarIdentificar laslas normasnormas yy valoresvalores dede unauna comunidadcomunidad específicaespecífica afectadaafectada porpor unun AIS;AIS;

2)2) PonerPoner enen prácticapráctica laslas normasnormas yy valoresvalores dede lala comunidadcomunidad dentrodentro dede lala AIS;AIS; y,y,

3)3) EvaluarEvaluar lala alineaciónalineación yy lala compatibilidadcompatibilidad dede dichasdichas normasnormas yy valoresvalores entreentre

los seres humanos y los AIS dentro de esa comunidad.

“La alineación de valores entre un sistema y su usuario es de importancia crítica para asegurar

Inteligencia Artificial y sistemas autónomos aumentar el bienestar humano

mientras que la optimización de la innovación “.

AJung Luna,

(Co-Presidente) Co-fundador de la iniciativa Open Roboethics, y Candidato a Doctor y Académico Vanier

en el Departamento de Ingeniería Mecánica de la Universidad de la Columbia Británica

“En ambos sistemas autónomos y entornos hombre-máquina, es esencial que las funciones del sistema de IA de acuerdo a los valores

correctos morales, las normas sociales y los códigos profesionales. Esto permitirá la construcción del correcto nivel de confianza entre

los seres humanos y AI. Empresas priorizan estos temas,

Además de las capacidades técnicas para lograr los objetivos especificados, tendrán una ventaja en el mercado

objetivos especificados, tendrán una ventaja en el mercado sobre los competidores que ignoran su importancia crítica

sobre los competidores que ignoran su importancia crítica “.

Francesca Rossi,

(Co-Presidente), la investigación de IBM, Yorktown Heights, Nueva York, y profesor titular

de la informática en la Universidad de Padua, Italia.

de IBM, Yorktown Heights, Nueva York, y profesor titular de la informática en la Universidad de
3 Metodologías para guiar la investigación ÉTICA Y DISEÑO Con el fin de crear máquinas
3
Metodologías para guiar la
investigación ÉTICA Y
DISEÑO
Con el fin de crear máquinas que mejoran el bienestar humano, la habilitación y la libertad, metodologías de diseño de
sistemas deben extenderse a poner un mayor énfasis en los valores humanos como una forma de derechos humanos,
como los reconocidos en la Declaración Universal de los derechos humanos. Por lo tanto, estamos convencidos de que
la metodología de diseño basada en valores debe convertirse en un foco esencial para la organización moderna.
“Diseño del sistema moderno debe extenderse a poner un mayor énfasis en los derechos humanos
como una forma primaria de los valores humanos. Valores alineados metodologías de diseño proporcionan
herramientas prácticas para los tecnólogos modernos a las necesidades sociales mejor de honor, mientras
la redefinición de la innovación en la era algorítmico “.
Raja Chatila,
(Presidente Initiative) Instituto UPMC CNRS-Sorbona de Robótica y Sistemas Inteligentes, París,
Francia; Miembro de la Comisión francesa de Ética de las Ciencias y Tecnologías Digitales CERNA; Ex
Presidente de la IEEE de Robótica y Automatización Sociedad
“Inteligencia artificial y los sistemas autónomos necesitan, ante todo, para mejorar el bienestar humano.
Esto no puede ser una idea de último momento, y como tal, la ética tiene que ser parte de la metodología de
diseño. Nuestro comité se ha centrado en cómo AI / AS organizaciones pueden asegurar que sus diseño del
sistema AI / AS son metodologías
basado en una metodología de diseño valores alineados, que engendra humana
dignidad y respete los derechos humanos “.
Corinne Cath,
(Co-Presidente) estudiante de doctorado de la Universidad de Oxford, Oficial de Programas de ARTICLE 19
Corinne Cath, (Co-Presidente) estudiante de doctorado de la Universidad de Oxford, Oficial de Programas de ARTICLE

7

 
 
 
 
 
 

4

SEGURIDAD Y DE BENEFICENCIA

 

INTELIGENCIAINTELIGENCIA ARTIFICIALARTIFICIAL GENERALGENERAL (AGI)(AGI)

YY super-inteligenciasuper-inteligencia ARTIFICIALARTIFICIAL (ASI)(ASI)

Futuros sistemas de IA de alta capacidad (a veces conocido como la inteligencia general artificial o AGI) pueden tener un efecto transformador en

   

el mundo en la escala de la revolución agrícola o industrial, lo que podría llevar a niveles sin precedentes de prosperidad mundial. No es de

ninguna manera está garantizado sin embargo, que esta transformación será una positiva sin un esfuerzo concertado de la comunidad para dar

forma a la IA de esa manera.

“La comunidad de la IA tiene que estimular y fomentar el

intercambio y el uso de herramientas de investigación y

relacionados con la seguridad, y en general llevar a la

consideración de la beneficencia para

su trabajo más “.

su trabajo más “.  
 

Richard Mallah,

(Presidente Co) - Director de Proyectos de AI,

(Presidente Co) - Director de Proyectos de AI,  
 

Futuro de Life Institute

 
Futuro de Life Institute  
 
 
de AI,   Futuro de Life Institute     “A medida que los sistemas de IA
de AI,   Futuro de Life Institute     “A medida que los sistemas de IA

“A medida que los sistemas de IA se hacen más útil y capacidades

aumentan, los comportamientos no deseados

y los accidentes plantearán correspondientemente

mayores riesgos. Es esencial que la comunidad AI

adoptar algunas mejores prácticas de seguridad

informática, donde los sistemas y las medidas de

seguridad / seguridad son sometidos a evaluaciones muy

rigurosas antes de ver

adopción amplia “.

Malo Bourgon,

(Co-Presidente) - COO, Máquina Instituto de Investigación en Inteligencia

8

5

DATOS PERSONALES Y CONTROL DE ACCESO INDIVIDUAL

Un dilema ético clave sobre la información personal es la asimetría de datos. Para hacer frente a esta asimetría

existe una necesidad fundamental de las personas a definir, gestionar y acceder a sus datos personales como

curadores de su identidad única. Nos damos cuenta de que no existen soluciones perfectas, y que cualquier

herramienta digital puede ser hackeado. Pero es necesario para permitir un entorno de datos donde las personas

controlan su sentido de sí mismo. Nuestro objetivo es prever las herramientas y prácticas evolucionados que

erradicar la asimetría de datos para proyectar una imagen positiva de nuestro futuro.

“Datos Personales forma la base de la economía algorítmica. Dar prioridad ética

consideraciones en cuanto al uso de estos datos por las tecnologías autónomas e inteligentes significa que vamos a

ayudar a los individuos a obtener claridad en torno a sus activos digitales

al tiempo que mejora la calidad de la información proporcionada a los sistemas que estamos

la construcción de orientar mejor nuestro futuro “.

Michelle Dennedy,

(Co-Presidente) vicepresidente, director de privacidad, Cisco;

Autor, el manifiesto del Ingeniero de privacidad: ¿Cómo salir de la Política de Código de control de calidad para Valor

“Junto con las metodologías de personalización que hacen un seguimiento de nuestras acciones, necesitamos herramientas para gestionar el

los datos personales que reflejan nuestras intenciones y la identidad subjetiva. Consideraciones éticas para

AI / AS debe tener en cuenta y se alinean con estos valores para el bienestar humano mejor aumento “.

John C. Havens,

(Copresidente) Director Ejecutivo, La Iniciativa Global para el IEEE Consideraciones éticas en la Inteligencia Artificial y autónoma

Sistemas, autor, Heartificial Inteligencia: Abrazando nuestra humanidad para maximizar Máquinas

Artificial y autónoma Sistemas, autor, Heartificial Inteligencia: Abrazando nuestra humanidad para maximizar Máquinas 9

6

reframing

AUTÓNOMA

SISTEMAS DE ARMAS

Los sistemas autónomos que están diseñados para causar daño físico tienen ramificaciones éticas adicionales

en comparación con las dos armas tradicionales y sistemas autónomos que no están diseñados para causar

daño. La ética profesional sobre éstos pueden y deben tener un nivel más alto que abarca una gama más amplia

de preocupaciones. En términos generales, se recomienda que las organizaciones técnicas aceptan que el

control humano significativa de los sistemas de armas es beneficioso para la sociedad, que las pistas de

auditoría que garanticen la rendición de cuentas a garantizar dicho control, que los que crean estas tecnologías

comprender las implicaciones de su trabajo, y que los códigos éticos profesionales abordan adecuadamente las

obras que se encuentran la intención de causar daño.

las obras que se encuentran la intención de causar daño. “Consideraciones éticas y códigos de ética
las obras que se encuentran la intención de causar daño. “Consideraciones éticas y códigos de ética

“Consideraciones éticas y códigos de ética diseñados para guiar la creación de tecnólogos autónoma

sistemas de armas deben priorizar el control humano significativo para los sistemas que crean “.

Richard Mallah,

(Presidente) - Director de Proyectos, AI futuro de Life Institute.

para los sistemas que crean “. Richard Mallah, (Presidente) - Director de Proyectos, AI futuro de

7

7 CIENCIAS ECONÓMICAS/ CUESTIONES HUMANITARIAS Tecnologías, metodologías y sistemas que tienen por objeto reducir la

CIENCIAS ECONÓMICAS/ CUESTIONES HUMANITARIAS

Tecnologías, metodologías y sistemas que tienen por objeto reducir la intervención humana en nuestro día a día están

evolucionando a un ritmo rápido y están a punto de transformar la vida de las personas de muchas maneras. El objetivo

de nuestro comité de múltiples partes interesadas es identificar los factores clave la formación de la tecnología humana

ecosistema global y abordar ramificaciones económicas y humanitarias, y sugerir oportunidades clave para las

soluciones que podrían ser implementadas por el desbloqueo de los cuellos de botella críticos de tensión. El objetivo

de nuestras recomendaciones es sugerir una dirección pragmática en relación con estas preocupaciones centrales en

la relación de los seres humanos, sus instituciones y las tecnologías basadas en la información emergentes, para

facilitar el diálogo interdisciplinario, intersectorial que pueden ser más plenamente informado por el experto,

direccional,

“La inteligencia artificial y sistemas autónomos necesitan priorizar ética

consideraciones en su diseño para asegurar la distribución equitativa de su

beneficios al tiempo que reduce el daño a la sociedad. De lo contrario no serán diseñados para el

aumento del bienestar de toda la humanidad, sino simplemente para

aquellos individuos que tienen el privilegio de cosechar sus beneficios”

Raj Madhavan,

(Presidente) Fundador y CEO de Robótica Humanitarios Technologies, LLC, Maryland, EE.UU.

Raj Madhavan, (Presidente) Fundador y CEO de Robótica Humanitarios Technologies, LLC, Maryland, EE.UU. 11

8

8 LEY El desarrollo temprano de la Inteligencia Artificial y Sistemas Autónomos (AI / AS) ha
LEY El desarrollo temprano de la Inteligencia Artificial y Sistemas Autónomos (AI / AS) ha
LEY
El desarrollo temprano de la Inteligencia Artificial y Sistemas Autónomos (AI / AS) ha dado lugar a muchos problemas
éticos complejos. Estas cuestiones éticas casi siempre se traducen directamente en los desafíos legales concretos - o
que dan lugar a problemas legales colaterales difíciles. Hay mucho que hacer por los abogados en este campo que
hasta ahora ha atraído muy pocos profesionales y académicos a pesar de ser una zona de urgente necesidad. Los
abogados deben ser parte de los debates sobre la regulación, gobierno, nacional e internacional, la legislación en estas
áreas y queremos aprovechar esta oportunidad para asegurar que los enormes beneficios disponibles para la
humanidad y nuestro planeta de AI / AS se stewarded cuidadosamente para el futuro.
“Es esencial que las leyes creadas para guiar AI / AS se construyen a mejor honor a la comunidad
y los valores sociales de las comunidades en las que están desarrollando “.
Derek Jinks,
(Co-Presidente) de la Universidad de la Escuela de Leyes de Texas; Consorcio de Derecho y Ética de la artificial
La inteligencia y la robótica, Strauss Center, Universidad de Texas
“El aumento del bienestar humano significa crear y adaptar nuestras leyes para reflejar los valores que queremos
desarrollan en nosotros mismos, la sociedad y las máquinas que construyen en el futuro.”
Kay Firth-Butterfield,
(Copresidente) Director Ejecutivo, AI Austin
12
1 nuevos comités Ética clásicos en Tecnologías de Información y Comunicación Este Comité se centrará

1

nuevos comités

Ética clásicos en Tecnologías de Información y Comunicación

Este Comité se centrará en el examen de la ética clásica ideologías (utilitarismo, etc.) a la luz de la IA y tecnologías autónomas.

Comité de Realidad Mixta

realidad mixta podría alterar nuestras nociones de identidad y la realidad en la próxima generación, ya que estas tecnologías se

en la próxima generación, ya que estas tecnologías se infiltran cada vez más aspectos de nuestras

infiltran cada vez más aspectos de nuestras vidas, desde el trabajo a la educación, a partir de la socialización con el comercio. Una

red troncal de la IA que permita la personalización en tiempo real de este mundo ilusorio plantea una serie de cuestiones éticas y

filosóficas, sobre todo porque la tecnología se mueve de auriculares para mejoras sensoriales mucho más sutiles e integrados. Este

comité trabajará para descubrir las metodologías que podrían proporcionar este futuro con un esqueleto de ética y la garantía de

que los derechos de la persona, incluyendo el control sobre la propia identidad cada vez más multifacética, se reflejarán en la

codificación de este entorno en evolución.

“Las metodologías clásicas de ética tienen, en cierto grado,

informó la inteligencia artificial y sistemas autónomos de

investigación desde 1948, originarios de la cibernética de

Norbert Weiner, la primera metodología impulsada por los

valores que se pretende estudiar sistemáticamente aspectos

de los valores intrínsecamente sesgados en inteligencia

artificial de la máquina. Mediante la exploración de la ética de

varias tradiciones de diversas culturas y la aplicación de la

miles años de edad, la tradición de la ética clásica de

metodologías orientados a los valores en las TIC un diseño nd

AI podemos lograr el objetivo de aumentar el bienestar

humano para un futuro positivo “.

Jared Bielby,

(Presidente del Comité de Ética clásica), Co-Presidente del

Centro Internacional de Ética de la Información

“Los medios de realidad mixta en combinación con las

tecnologías inteligentes y autónomas tienen el potencial para

precipitarse en un mundo de software-meditado en la que

vemos, oímos y experiencia sólo lo que queremos ver, oír y

experiencia. Por esta razón, es fundamental que los técnicos

están entrenados en la ética para que puedan construir y

tecnología de diseño que promueve e inspira nuestra empatía

colectiva, nuestro trabajo, nosotros mismos y nuestra sociedad

en su conjunto “.

Monique Morrow

(Co-Presidente del Comité de Realidad Mixta) CTO

New Frontiers Ingeniería de Cisco

2 nuevos comités afectiva Computing Este Comité aborda el impacto sobre los individuos y la

2

nuevos comités

afectiva Computing

Este Comité aborda el impacto sobre los individuos y la sociedad que los sistemas autónomos capaces de sentir, modelado, o exhibir

un comportamiento afectivo como las emociones, estados de ánimo, actitudes y personalidad pueden producir. artefactos

computacionales y robóticos afectivos tienen o se están desarrollando actualmente para su uso en áreas tan diversas como

compañeros, la salud, rehabilitación, cuidado de niños y ancianos, la formación y la aptitud, entretenimiento, e incluso la intimidad. Las

preocupaciones éticas en torno apego humano y el impacto global sobre el tejido social pueden ser profundas y es crucial que

entendemos que las trayectorias afectivos sistemas autónomos pueden conducirnos a proporcionar mejores soluciones que aumentan

el bienestar humano en línea con la innovación.

Política:Política: LaLa formulaciónformulación dede políticaspolíticas eficaceseficaces parapara laslas ComunidadesComunidades innovadorasinnovadoras correspondientescorrespondientes Inteligencia Artificial y Sistemas Autónomos (EPICAIAS)

Este comité:

1)1)

explorarexplorar lala formaforma enen lala formulaciónformulación dede políticaspolíticas eficaceseficaces queque empleaemplea autónomaautónoma ee inteligenteinteligente

tecnologías se pueden hacer en un mundo que cambia rápidamente,

2)2)

generargenerar recomendacionesrecomendaciones sobresobre laslas iniciativasiniciativas deldel sectorsector públicopúblico yy privadoprivado

debe perseguir un impacto positivo en las personas y la sociedad, y

3)

iluminar los nuevos modelos de la formulación de políticas tanto existentes y experimentar para apoyar la

innovación de AI / AS para compartir el beneficio humano.

“Tenemos que proporcionar orientación ética en el diseño

y uso de la computación afectiva adecuada dentro de AI /

AS para asegurarse de que no viola los derechos de los

usuarios y la sociedad en su conjunto, mientras que al

mismo tiempo asegurando beneficios a aquellos que a

sabiendas emplean para su propio disfrute y el bienestar “.

Ronald C. Arkin,

(Comité Affective Computing Co-Presidente) Regents' Profesor y Director

del Laboratorio de robot móvil; Decano Asociado de Investigación y

Planificación Espacial de la Facultad de Informática Instituto de Tecnología

de Georgia

“Tenemos que tener claro que la decisión de usar afecta en

sistemas inteligentes tiene ramificaciones éticas

importantes. Si bien hay una clara utilidad para los sistemas

emocionales en la inteligencia natural, tanto para el control

individual y la coordinación social, la confusión de la

emoción, sufrimiento, y el estado moral en ejemplos

naturales conocidas de la inteligencia hace que la

transparencia en relación con el papel y la naturaleza del

afecto en la IA particularmente difícil y importante."

Joanna Bryson

(Comité Affective Computing Co-Presidente) Visiting Research

colaborador, Centro de Política de Informática, Universidad de

Princeton; Profesor Asociado de la Universidad de Bath, Intelligent

Systems Group Investigación, Departamento de Ciencias de la

Computación

nuevosnuevos comitéscomités 33 Citas adicionales “A medida que la realidad mixta y las tecnologías asociadas

nuevosnuevos comitéscomités 33

Citas adicionales

“A medida que la realidad mixta y las tecnologías asociadas evolucionan, es inevitable que se entremezclan y se convierten en cada vez más

impulsado por la IA. Al igual que la “inteligencia artificial” con el tiempo se ve simplemente como “inteligencia”, la convergencia de estas tecnologías

que controlan la percepción y simulan la realidad con el tiempo se ve simplemente como “realidad”. Este escenario plantea una serie de cuestiones

éticas, así como preguntas acerca nuestras nociones mismas de uno mismo, la identidad y la realidad “.

Jay Iorio,

(Co-Presidente del Comité de Realidad Mixta) Director de Innovación, IEEE Standards Association

“Necesitamos tanto las políticas como en lugares de servicio público en el que podemos colaborar con los ciudadanos y socios del

sector privado en nuevas formas de hacer el negocio de servicio público mejor - para incluir la inteligencia artificial y sistemas

autónomos. Los beneficios de la inteligencia artificial para cada nación y el mundo están en el dominio civil, más que cualquier otro

dominio “.

El Dr. David A. Bray,

(EPICAIAS Copresidente del Comité) Ejecutivo Senior y CIO de la FCC; Eisenhower Fellow a Taiwán y Australia; Visitante Ejecutivo de Harvard en

residencia

“AI y sistemas autónomos van a influir en muchos aspectos de la vida, los negocios, la salud y la educación. Como resultado de

ello, las consideraciones éticas están llenos de complejidad. De pie como un puente entre los políticos y el sector comercial, la

Iniciativa Global ofrece una perspectiva única imparcial y equilibrada en esta conversación global. En este trabajo se une a los

sectores público y privado, en beneficio de todos”

Michael Krigsman,

analista de la industria y la gran cantidad de CXOTALK

Dirección Creativa y Diseño por Rich Silivanch

Todos los trabajos de pintado en las páginas 2, 5, 11, 14, 15 y 16 son los derechos de

autor © 2016 Edward Povey y Tolar Schultz. Todos los derechos reservados.

poveyandschultz.com

15