Maria De-Arteaga, Inteligencia Artificial Responsable

Inteligencia Artificial Responsable
Maria De-Arteaga
Candidata a Doctora, Machine Learning & Public Policy, Carnegie Mellon University
Co-fundadora, Early
“Colombia is on a trajectory to become a hub of AI in Latin America. AI is
still in its infancy (...) there are still opportunities for every major country.”
Andrew Ng
Copyright @ 2019 Maria De Arteaga

Copyright © 2019 Maria De-Arteaga
La inteligencia artificial y el aprendizaje de máquinas como
herramientas para el desarrollo sostenible,
gobernadas por los principios de las sociedades sostenibles.


Predicción
Descripción
Hipótesis

herramientas para el desarrollo sostenible

Mejorar la calidad de los datos
Utilizar imágenes satelitales

para mejorar indicadores
económicos (Jean, 2016)

Desarrollar herramientas y
sistemas
Utilizar imágenes satelitales Herramientas de educación

para mejorar indicadores multi-usuarios (Brunskill, 2010)

Desarrollar herramientas y Informar políticas públicas y
sistemas toma de decisiones
Utilizar imágenes satelitales Herramientas de educación Descubrimiento de patrones de

para mejorar indicadores multi-usuarios (Brunskill, 2010) violencia sexual (De Arteaga, 2016)

Asegurarse de que ML4D considere el contexto local
Desarrollar herramientas y Informar políticas públicas y

sistemas toma de decisiones
Utilizar imágenes satelitales Herramientas de educación Descubrimiento de patrones de

para mejorar indicadores multi-usuarios (Brunskill, 2010) violencia sexual (De Arteaga, 2016)
Maria De-Arteaga, William Herlands, Daniel B. Neill, Artur Dubrawski, “Machine Learning for the Developing
World”, ACM Transactions on Management Information Systems, 2018.
ML4D NeurIPS Workshop
2017: 2018: 2019:

Smart solutions for intractable problems Achieving sustainable impact Challenges and risks

gobernadas por los principios de las sociedades sostenibles

¿Los riesgos de la inteligencia artificial?

¿Robots asesinos?

¿Robots asesinos? ¿Mayores brechas de desigualdad y
discriminación de las minorías?

¿Robots asesinos? ¿Mayores brechas de desigualdad y
discriminación de las minorías?
Crédito: Moritz Hardt

“There’s software used across the country to predict future criminals. And
it’s biased against blacks.” Propublica
Angwin, Julia, et al. "Machine bias." Pro Publica (2016).

Un robot headhunter?
19
Un robot headhunter?
20
Computer Programmer
21
Slide created by Adam Kalai
Computer Programmer
22
Computer Programmer
23
Computer Programmer
BLACK FEMALE
24
Computer Programmer
25
26
Bias in Bios: A Case Study of Semantic Representation Bias in a High-Stakes Setting (FAT* 2019)
Maria De-Arteaga (CMU), Alexey Romanov (UMASS), Hanna Wallach (MSR), Jennifer Chayes (MSR), Christian Borgs (MSR), Alexandra
Chouldechova (CMU), Sahin Geyik (LinkedIn), Krishnaram Kenthapadi (LinkedIn), Adam Kalai (MSR)
● 400,000 biografías en tercera persona.
“Xxx Xxx is a(n) (xxx) [title]...he/she…” title ∈ {common BLS SOC titles}
Alexandra Chouldechova is an Assistant Professor of Statistics and Public Policy at

Carnegie Mellon University's Heinz College of Informations Systems and Public
Policy. She received her B.Sc. from the University of Toronto in 2009, and in 2014
she completed her Ph.D. in Statistics at Stanford University. While at Stanford, she
also worked at Google and Symantec on developing statistical assessment
methods for information retrieval systems.
● Problema de clasificación: 28 títulos-a partir de-biografía 27

Log frequency 400k total bios
28
Estructura de aprendizaje
Representación
semántica:
1. Bag-of-words
Datos: 2. Word embedding Objetivo:
Biografías 3. Deep neural network Predecir Y = Ocupación
(GRU) with attention
29
El rol de los pronombres: ¿Cómo cambian las
predicciones si los pronombres cambian?
30
31
32
33
Más allá de los pronombres: la brecha de género en la
precisión del algoritmo
34
Más acertado
PRECISIÓN EN MUJERES – PRECISIÓN EN HOMBRES: para las mujeres
BRECHA DE GENERO
Más acertado
para los hombres
35
% MUJERES Copyright @ 2019 Maria De Arteaga
Amplifica Más acertado
PRECISIÓN EN MUJERES – PRECISIÓN EN HOMBRES: brechas de género para las mujeres
BRECHA DE GENERO
Más acertado
para los hombres
36
% MUJERES Copyright @ 2019 Maria De Arteaga
Amplifica
brechas de género Más acertado
para las mujeres
PRECISIÓN EN MUJERES – PRECISIÓN EN

BRECHA DE GENERO
HOMBRES:
Más acertado
para los hombres
% MUJERES
Si la fracción de mujeres p < 0.5 y la brecha de género < 0

Imbalance para una ocupación, entonces la fracción de mujeres en
compuesto los verdaderos positivos < p.
(análogo para los hombres) 37
Amplifica
brechas de género Más acertado
para las mujeres
PRECISIÓN EN MUJERES – PRECISIÓN EN

BRECHA DE GENERO
HOMBRES:
Más acertado
para los hombres
% MUJERES
Injusticias
compuestas Si el imbalance inicial es resultado de injusticias sociales,
la predicción del modelo se basa, y amplifica, la injusticia.
[Hellman’18]
38
Amplificación de las brechas de género
Cirujanas
Mujeres cirujanas en los

datos:
14.6%
39
Amplificación de las brechas de género
Hombres:
71% recall
Cirujanas
Mujeres cirujanas en los

datos:
14.6%
Mujeres en los verdaderos
positivos: Mujeres:
11.6% 54% recall
40
Otros riesgos de sesgos y discriminación
Sesgos en herramientas Policia predictiva: ¿replicando Representaciones semánticas:

de reconocimiento facial la opresión? (Lum, 2016) ¿diccionario o guía de estereotipos?
(Buolamwini, 2018) (Bolukbasi, 2016)

¿Qué hacemos ahora?
● ¿Qué tan inteligente es la inteligencia artificial?
● A diferencia de los humanos, hoy en día el aprendizaje de máquinas no
aprende relaciones de causalidad, aprenden correlaciones.
● Detrás de la “magia”, todo es estadística: ¿Cómo queremos usar esas
estadísticas?
○ Las tareas que definimos determinan los posibles impactos!
● ¿Cómo usamos el aprendizaje de máquinas de forma responsable? Colombia
tiene la oportunidad de convertirse en líder en este espacio.


Gracias!
mdeartea@andrew.cmu.edu

Maria De-Arteaga, Inteligencia Artificial Responsable

Caricato da

Informazioni sul documento

Titolo originale

Copyright

Formati disponibili

Condividi questo documento

Condividi o incorpora il documento

Opzioni di condivisione

Hai trovato utile questo documento?

Questo contenuto è inappropriato?

Copyright:

Formati disponibili

Maria De-Arteaga, Inteligencia Artificial Responsable

Caricato da

Copyright:

Formati disponibili

Inteligencia Artiﬁcial Responsable

Copyright @ 2019 Maria De Arteaga

Copyright @ 2019 Maria De Arteaga

Copyright @ 2019 Maria De Arteaga

Copyright @ 2019 Maria De Arteaga

Copyright @ 2019 Maria De Arteaga

Utilizar imágenes satelitales

Copyright @ 2019 Maria De Arteaga

Utilizar imágenes satelitales Herramientas de educación

Copyright @ 2019 Maria De Arteaga

Utilizar imágenes satelitales Herramientas de educación Descubrimiento de patrones de

Copyright @ 2019 Maria De Arteaga

Desarrollar herramientas y Informar políticas públicas y

Utilizar imágenes satelitales Herramientas de educación Descubrimiento de patrones de

2017: 2018: 2019:

Copyright @ 2019 Maria De Arteaga

Copyright @ 2019 Maria De Arteaga

Copyright @ 2019 Maria De Arteaga

Copyright @ 2019 Maria De Arteaga

Copyright @ 2019 Maria De Arteaga

Crédito: Moritz Hardt

Angwin, Julia, et al. "Machine bias." Pro Publica (2016).

Copyright @ 2019 Maria De Arteaga

● 400,000 biografías en tercera persona.

Alexandra Chouldechova is an Assistant Professor of Statistics and Public Policy at

● Problema de clasiﬁcación: 28 títulos-a partir de-biografía 27

PRECISIÓN EN MUJERES – PRECISIÓN EN

Si la fracción de mujeres p < 0.5 y la brecha de género < 0

PRECISIÓN EN MUJERES – PRECISIÓN EN

Mujeres cirujanas en los

Mujeres cirujanas en los

Sesgos en herramientas Policia predictiva: ¿replicando Representaciones semánticas:

Copyright @ 2019 Maria De Arteaga

Copyright @ 2019 Maria De Arteaga

Copyright @ 2019 Maria De Arteaga

Potrebbero piacerti anche