UNIVERSIDAD NACIONAL DE COLOMBIA, HUMANOS Y MAQUINAS INTELIGENTES
Resumen No. 9: AI Now 2019 Report,How we’ll
earn money in a future without jobs, How AI can
enhance our memory, work and social lives
Diego Arturo Narváez Puentes
danarvaezp@unal.edu.co
Humanos y maquinas inteligentes
I. AI N OW 2019 R EPORT: S ALUD , AVANCES EN LA
COMUNIDAD DE M ACHINE L EARNING
Las tecnologı́as de IA de hoy median las experiencias de
salud de las personas de muchas maneras: desde populares
tecnologı́as basadas en el consumidor como Fitbits y Apple
Watch, para soporte de diagnóstico automatizado sistemas en
hospitales, para el uso de análisis predictivo en plataformas
de redes sociales para predecir comportamientos autolesivos.
Esto atrae a las preocupaciones por la complejidad de
la información de la biomedicina, necesidades de salud
basadas en la población y el aumento de los costos de la
atención médica. Sin embargo, como tecnologı́as de IA se ha
movido rápidamente de entornos de laboratorio controlados a
contextos de salud de la vida real, nuevas redes sociales Las
preocupaciones también están surgiendo rápidamente.
I-A. La escala y el alcance en expansión de las infraestruc-
turas de salud algorı́tmica
Los avances en las técnicas de aprendizaje automático y
los recursos de computación en la nube han hecho posible
clasificar y analizar grandes cantidades de datos médicos,
permitiendo la automatización y precisión detección de
condiciones médicas. Al mismo tiempo, ansiosas por aplicar
técnicas de IA a los desafı́os de salud, las compañı́as de
tecnologı́a tienen estado analizando experiencias cotidianas
como salir a caminar, comprar comida, dormir y menstruar
a inferencias marca y predicciones sobre el comportamiento
de la salud de las personas y su estado. Si bien estos
desarrollos pueden ofrecer beneficios para la salud positivos
en el futuro, se han realizado pocas investigaciones empı́ricas
publicado sobre cómo la IA afectará los resultados de salud
del paciente o las experiencias de atención. Además, los
recursos informáticos y de datos en la nube necesarios para
los modelos de capacitación en salud de la IA los sistemas
han creado nuevas y problemáticas oportunidades, ampliando
lo que se considera ”datos de salud”, pero también los lı́mites
de la asistencia sanitaria. El alcance y la escala de estas
nuevas ı̈nfraestructuras algorı́tmicas de salud” dan lugar a
una serie de problemas sociales, económicos y polı́ticos.
1
La proliferación de alianzas clı́nico-corporativas para
compartir datos para entrenar modelos de IA ilustra estos
Impactos de infraestructura. Google ayudó a la infraestructura
de la Ascensión migran a su entorno de nube, y, a cambio,
recibió acceso a cientos de miles de pacientes médicos
protegidos por la privacidad registros para usar en el
desarrollo de soluciones de IA para Ascension y también
para vender a otros profesionales de la salud Los sistemas
de IA que se crearon con ayuda de estos datos. Google, sin
embargo, no está solo. Microsoft, IBM, Apple, Amazon y
Facebook, ası́ como un amplio Una gama de nuevas empresas
de atención médica, han hecho acuerdos lucrativos de
.asociación de datosçon una amplia gama de organizaciones
de atención médica para obtener acceso a datos de salud
para la capacitación y el desarrollo de la salud impulsada
por IA Los sistemas. Sin embargo, incluso cuando se siguen
estrictamente las polı́ticas regulatorias actuales, la seguridad y
privacidad pueden ser vulneradas dentro de las infraestructuras
tecnológicas más grandes, presentando serios desafı́os para
la recopilación y el uso seguros de los datos del Registro
electrónico de salud (EHR).
I-B. Nuevos desafı́os sociales para la comunidad sanitaria
Informes, documentos y artı́culos de opinión se publicaron
respecto a la ética de IA en la asistencia sanitaria. Aunque
principalmente generado por médicos y especialistas en ética
médica en Europa y América del Norte, estos esfuerzos
iniciales son importantes para comprender mejor los usos
situados de los sistemas de IA en cuidado de la salud.
Por ejemplo, las Sociedades de Radiologı́a de Europa y
América del Norte emitieron recientemente una declaración
que describe cuestiones éticas clave para el campo, incluido
el sesgo algorı́tmico y de automatización en relación con
las imágenes médicas. La radiologı́a es actualmente una
de las especialidades médicas en las que se encuentran los
sistemas de IA el más avanzado. Estos desafı́os incluyen
posibles daños sociales para los pacientes, como el potencial
de decisiones de ser empujados o guiados por los sistemas
de inteligencia artificial de manera que no (necesariamente)
traigan a las personas beneficios para la salud, pero están
al servicio de requisitos métricos de calidad o aumento de
2 UNIVERSIDAD NACIONAL DE COLOMBIA, HUMANOS Y MAQUINAS INTELIGENTES
ganancias.
Es importante destacar que los grupos médicos también
están rechazando las promesas tecno-solucionistas de la
IA, y elaboran recomendaciones de polı́ticas para abordar
las preocupaciones sociales. Por ejemplo, la Academia de
Informe de Medical Royal Colleges (Reino Unido) 2019,
Ïnteligencia Artificial en Salud”, pragmáticamente declara:
”Los polı́ticos y los encargados de formular polı́ticas deben
evitar pensar que la IA va a resolver todos los problemas de
los sistemas de salud y cuidado de todo el Reino Unido”.
También ha habido llamadas recientes para establecer una
agenda más comprometida en torno a la IA y la salud. Este
año, Eric Topol, un médico e investigador de IA / ML,
cuestionó las promesas de la IA para solucionar problemas
sistémicos. problemas de salud, como agotamiento clı́nico,
sin la acción colectiva y la participación de trabajadores
de la salud. Además, se necesitan con urgencia más voces
en la mesa, incluida la experiencia de grupos de pacientes,
familiares cuidadores, trabajadores de salud comunitarios
y enfermeras, para comprender mejor cómo la IA Las
tecnologı́as afectarán a diversas poblaciones y contextos de
salud para evitar sesgos y discriminación.
I-C. El duro camino hacia las perspectivas sociotécnicas
A medida que la investigación y las perspectivas sobre las
implicaciones sociales de la IA evolucionan, Las comunidades
de investigación sobre aprendizaje automático (ML) se están
dando cuenta de las limitaciones de las definiciones estrechas
de .equidad están cambiando su enfoque a intervenciones
2
y estrategias más impactantes, ası́ como a fomentar una
mayor apertura hacia la inclusión activa y el compromiso
con otras disciplinas. En respuesta a estas crı́ticas, muchos
investigadores técnicos han recurrido al uso de los llamados
Métodos de equidad çausal.o çontrafactual”. En lugar de
confiar en las correlaciones que los modelos de ML utilizan
para hacer sus predicciones, estos enfoques tienen como
objetivo dibujar diagramas causales que explicar cómo
los diferentes tipos de datos producen diversos resultados.
Cuando se analiza para el uso de categorı́as sensibles o
protegidas, como raza o género, estos investigadores buscan
declarar un ML ”justo”si factores como la raza o el género
no influyen causalmente en la predicción del modelo.
Las técnicas para interpretar y explicar los sistemas de
ML también han ganado popularidad. Sin embargo, sufren de
muchas de estas mismas crı́ticas, y se ha demostrado que son
fundamentalmente frágiles y propenso a la manipulación, y
hacer caso omiso de una larga historia de puntos de vista de
las ciencias sociales. Como resultado, algunos investigadores
han comenzado a presionar más sobre la necesidad de
interdisciplinariedad y para la integración de las lecciones
de ciencias sociales y humanas en la práctica de desarrollar
sistemas de inteligencia artificial. Han surgido algunas
estrategias prácticas, incluidos los métodos para documentar
el desarrollo de modelos de aprendizaje automático para
imponer algún nivel adicional de reflexión ética y la
presentación de informes en todo el proceso de ingenierı́a.
esfuerzos encabezados por la industria La asociación en IA e
IEEE también está intentando consolidar estas propuestas de
documentación y estandarizar los requisitos de información
en toda la industria.
I-D. Enfrentando las vulnerabilidades inherentes de la IA
Las preocupaciones sobre las vulnerabilidades de los
sistemas de IA también ganaron mayor atención, destacando
la urgente necesidad de que sean sometidos al mismo trato
aplicado a la automatización las tecnologı́as en otros campos
de la ingenierı́a, como la aviación y los sistemas de energı́a.
Entre las vulnerabilidades más urgentes para abordar está
el peligro de las técnicas de envenenamiento de datos, un
método de explotación en el que un mal actor puede jugar
con los datos de entrenamiento de IA para alterar el sistema
decisiones Un ejemplo clásico es el filtrado de correo no
deseado, en el que se cura intencionalmente el contenido de
los mensajes que enseñan a un filtro de spam cómo se ve el
spam pueden ayudar a que pasen ciertos tipos de spam el
filtro no detectados. Un segundo tipo de vulnerabilidad de
IA que puede explotarse es la llamada ”puerta trasera”, que
permite los atacantes encuentran formas de infiltrarse en un
sistema de inteligencia artificial a través del código que los
programadores maliciosos incorporan sistemas que entrenaron
o diseñaron para la posterior infiltración de un mal actor.
Este tipo de vulnerabilidad plantea serias preocupaciones
dado el movimiento rápido hacia la externalización de los
procedimientos de formación de modelos ML de plataformas
en la nube. Una tendencia relacionada es el movimiento para
reducir los costos de capacitación mediante la reutilización y
el reciclaje de modelos de IA para tareas nuevas o especı́ficas,
un fenómeno conocido como transferencia de aprendizaje.
transferencia del aprendizaje es particularmente popular
para aplicaciones que requieren modelos de gran tamaño,
como el procesamiento de lenguaje natural o clasificación de
imágenes, pero el uso repetido de algoritmos previamente
hechos aumenta su vulnerabilidad. Los ataques adversos
son particularmente efectivos contra sistemas con una gran
cantidad de entradas, que son las variables que considera
un modelo de AI para tomar una decisión o una predicción
cuando se despliega. Esta dependencia de una gran cantidad
de entradas es inherente a los sistemas de visión por
computadora, donde generalmente Cada pı́xel es una entrada.
Mientras que la investigación expone vulnerabilidades
técnicas y propone nuevas defensas contra ellas es ahora
de alta prioridad, construir sistemas robustos de aprendizaje
automático sigue siendo un objetivo difı́cil de alcanzar.
Un grupo de investigadores de Google Brain, MIT y la
Universidad de Tübingen encuestaron recientemente el campo
y concluyó que pocos mecanismos de defensa han tenido
HUMANOS Y MAQUINAS INTELIGENTES
éxito. Hay consenso en el campo. que la mayorı́a de los
documentos que proponen defensas se muestran rápidamente
como incorrectos o insuficientes. Debemos tener mucho
cuidado al llevar los sistemas de inteligencia artificial a
contextos donde sus errores conducen a problemas sociales.
A pesar de que los enfoques de ciencias sociales y humani-
dades tienen una larga historia en seguridad de la información
y la gestión del riesgo, investigaciones que aborden tanto
dimensiones técnicas y sociales en la seguridad son necesarias,
lo primordial en este reto es volver a dibujar los lı́mites de
análisis y diseño para expandirse más allá del algoritmo y
asegurar canales para todas las partes interesadas afectadas
para dirigir democráticamente el desarrollo del sistema y
disentir cuando surgen preocupaciones.
I-E. Conclusión
A pesar del crecimiento de los marcos éticos, los sistemas
de IA continúan desplegándose rápidamente a través de
dominios de considerable importancia social: en salud,
educación, empleo, criminal justicia y muchos otros, sin
salvaguardas apropiadas o estructuras de responsabilidad
establecidas. Quedan muchas preocupaciones urgentes, y la
agenda de temas a tratar continúa creciendo
Sin embargo, los movimientos del año pasado son
motivo de esperanza, marcada por una oleada de retrocesos.
desde lugares esperados e inesperados, desde reguladores e
investigadores hasta la comunidad, organizadores y activistas
para trabajadores y defensores. Juntos, están formando nuevas
coaliciones y forjando nuevos lazos de solidaridad. Nosotros
determinaremos las implicaciones de la IA, y hay mucho
trabajo con anticipación para garantizar que el futuro se vea
brillante.
II. H OW WE ’ LL EARN MONEY IN A FUTURE WITHOUT
JOBS
El conferencista inicia tratando el tema de un futuro sin
empleos, donde resalta el informe de la triple revolución el
cual dice que se esta al borde de una agitación económica y
social por consecuencia de la automatización industrial, por
tanto, se afirma que en el futuro los empleos pueden cambiar
totalmente y ası́ mismo surgir nuevos empleos que pueden
ser mejores, mas seguros y cómodos en comparación con los
antiguos.
Posteriormente, realiza una comparación de los caballos con
el ser humano y como su trabajo fue remplazado por camiones
y tractores. Menciona que las personas pueden aprender y
adaptarse y por tanto es inteligente, pero esto es algo que las
maquinas ya pueden hacer, por tanto, el ser humano se puede
ver afectado y no ser un pilar fundamental de la economı́a.
Depues, realiza una comparación entre la tecnologı́a actual y
la que se vio en el pasado:
3
1. Aceleración exponencial: La aceleración lleva décadas
sin parar, la potencia de cálculo se ha duplicado 30 veces.
2. Las máquinas están empezando a pensar: Al existir
el machine learning o aprendizaje autónomo se han
creado cosas impresionantes, como el campeón de Go,
es increı́ble debido a la complejidad de algoritmos que
debe desarrollar y la infinidad de configuraciones para el
juego.
3. Esto no atañe solo a trabajos manuales o de salario
bajo: Estas tecnologı́as pueden competir con trabajadores
profesionales. Es muy probable que exista desempleo en
el futuro o si no, que exista subempleo o estancamiento
de sueldos o bajas salariales.
El autor menciona un problema económico fundamental
el cual es enfocado en que los empleos son las forma del
poder adquisitivo a los empleados que consiguen productos y
servicios que se producen, por tanto para que exista una ver-
dadera economı́a, también deben haber consumidores capaces
de comprar, sin estos el modelo económico no tendrá validez
alguna.
Se puede imaginar un futuro utópico donde se trabaje menos,
se tenga más tiempo para ocio, para la familia, para cosas que
se consideran gratificantes. Pero se debe ser realista y pensar
en quienes se quedan atrás. Se puede pensar en una renta
básica universal. No es la panacea ni una solución inmediata
sino un punto de partida. Es importante evaluar los incentivos;
se da un ejemplo de estudiantes que sabiendo que, si estudian
o no se ganarán la misma renta básica, muchos dejarán de
estudiar. Se puede entonces pagar a quienes acaban el colegio
algo más que a los que se limitan a dejarlo. Esta idea de
incentivos se puede extender, por ejemplo, a trabajar con la
comunidad, ayudar a los demás y al medio ambiente. Pero,
aun ası́, ¿Cómo vamos a encontrar sentido y plenitud, y cómo
vamos a ocupar nuestro tiempo en un mundo con menos
demanda de trabajo tradicional?
El autor finaliza mencionando que el miedo al implementar
la renta básica seria que no haya suficiente gente tirando del
carro en comparación con la gente que esta subida en este, por
tanto, se debe pensar en que la tecnologı́a ya puede apoyar a
tirar de este carro.
III. H OW AI CAN ENHANCE OUR MEMORY, WORK AND
SOCIAL LIVE
El autor inicia dando un ejemplo de como Siri ha ayudado
a una persona, que es ciega y parapléjica, a interactuar con
la tecnologı́a y con las personas de su entorno. La relación
humano-IA ayuda a mejorar las relaciones humano-humano y
eso es considerado como ÏA humanista”.
Después se presenta otro ejemplo con la detección de células
cancerı́genas, donde los seres humanos tienen un porcentaje
de acierto para su detección del 96,6 % y las herramientas
de IA de cerca de 92,5 %. Pero al combinarse, llegan a
una precisión de 99,5 %. Se menciona que los humanos son
mejores rechazando falsos positivos y las IA son mejores en
reconocer los casos difı́ciles. Combinar las habilidades genera
un rendimiento sobrehumano y eso es ÏA humanistica”.
4 UNIVERSIDAD NACIONAL DE COLOMBIA, HUMANOS Y MAQUINAS INTELIGENTES

Se presenta otro ejemplo en el diseño de ingenierı́a, donde al

combinar humano y maquina se logran miles de aplicaciones,
y el humano es el encargado del diseño inicial pero la IA
se encarga de darle infinidad de posibilidades, y la persona
escoge el modelo más conveniente.
Posteriormente explica como mejorar la memoria y la capa-
cidad cognitiva y se pregunta que tan inteligentes pueden ser
las maquinas. Habla de la memoria humana y como es famosa
por no ser perfecta y como si se tuviera la memoria de una
maquina se podrı́a recordar cada detalle de la vida, cualquier
canción, cualquier libro que se haya leı́do en el pasado. Por
tanto, se plantea que pasarı́a con nuestros cuerpos y nuestras
emociones. El autor menciona que una memoria personal es
algo privado y totalmente esencial que se mantenga seguro,
esto ayudarı́a bastante a las personas con enfermedades como
la demencia y el Alzheimer
Gruber termina hablando del nuevo renacimiento de la IA, esta
puede solucionar miles de problemas que antes ni se podrı́a
pensar en hacer, por tanto, si se encuentran nuevas maneras
de dar inteligencia a las maquinas, el ser humano como tal,
también se hará más inteligente.

R EFERENCIAS
[1] .AI Now Report 2019”, Ainowinstitute.org, 2019. [Online]. Available:
https://ainowinstitute.org/AI-Now-2019-Report.pdf. [Accessed:18 may-
2020].

[2] M. Ford, How we’ll earn money in a future without jobs 2017.

[3] T. Gruber, How AI can enhance our memory, work and social lives 2017.