LOG IN

677,476
Views Add Rate Like Share

Damon Horowitz clama por um "sistema

operacional moral"
Up next Details Transcript Comments (135)

Portugus brasileiro

Translated by Thiago Bello

Reviewed by Wesley Oliveira

00:11

Poder. Esta a palavra que vem mente. Ns somos os novos tecnlogos. Ns temos
uma grande quantidade de informao, ento temos uma grande quantidade de poder.
Quanto poder ns temos? Cena do filme "Apocalypse Now" -- excelente filme. Ns temos
que levar o nosso heroi, Capito Willard, para a foz do Rio Nung na perseguio ao
Coronel Kurtz. A forma que faremos isso lev-lo e deix-lo em solo seguro. Ento a cena
comea: o cu est coberto de helicpteros transportando o nosso heroi. E ao fundo h
aquela msica estrondosa, excitante e selvagem. Dum da ta da dum Dum da ta da
dum Da ta da da Isto muito poder. Este o tipo de poder que sinto nesta sala.
Este o tipo de poder que ns dado por causa de toda a informao que temos.
00:56

Vejamos um exemplo. O que podemos fazer com a informao de apenas uma pessoa? O
que podemos fazer com a informao deste cara? Posso analisar seus rastros bancrios.
Posso dizer se voc paga suas contas em dia. Sei se voc pode receber um emprstimo.
Posso observar seus registros mdicos, posso ver se seu corao continua batendo -- ver
se vale a pena oferecer um seguro a voc. Posso observar seu padro de navegao.
Quando voc vem a meu site, eu j sei o que voc vai fazer, pois j vi voc visitar milhes
de sites anteriormente. E sinto muito em dizer a voc, voc como jogador de poker,
voc tem uma forma de se expressar. Posso falar, com anlise da informao, o que voc
vai fazer antes mesmo que o faa. Eu sei o que voc gosta. Eu sei o que voc . Mesmo
antes de checar o seu e-mail ou o seu telefone.

01:41

Estas so coisas que podemos fazer com todas as informaes que temos. Mas eu no
estou aqui para falar sobre o que podemos fazer. Estou aqui para falar sobre o que
deveriamos fazer. Qual a coisa certa a fazer?

02:00

Agora vejo algumas pessoas intrigadas como, "Porque voc est nos perguntando qual a
coisa certa a fazer? Ns apenas estamos criando essas coisas. Outras pessoas esto
usando." Bastante justo. Mas isto faz com que eu relembre. Penso a respeito da Segunda
Guerra Mundial -- alguns de nossos maiores tecnlogos da poca, alguns de nossos
maiores fsicos, estudando fisso e fuso nuclear -- apenas assuntos nucleares. Ns
reunimos aqueles fsicos em Los Alamos para ver o que eles construiriam. Ns queremos
pessoas construindo a tecnologia pensando no que deveriamos fazer com essa
tecnologia.

02:37

Ento, o que deveriamos fazer com as informaes deste cara? Devemos colet-la e
junt-la para que possamos fazer a sua experincia online ainda melhor? Podemos fazer
dinheiro? Podemos nos proteger se ele no era capaz de nada bom? Ou devemos
respeitar a sua privacidade, proteger a sua dignidade e deix-lo em paz? Qual dessas
alternativas? Como podemos descobrir?

03:03
03:03

Eu sei: crowdsource. Vamos fazer crowdsource disto. Ento, para aquecer todo mundo,
vamos comear com uma simples questo -- algo que eu tenho certeza que todos tem
uma opinio formada sobre o tema: iPhone contra Android. Vamos levantar as mos --
iPhone. Aham. Android. Voc poderia pensar que em um grupo de pessoas inteleligentes
ns no seramos to tolos em escolher somente os telefones bonitos. (Risos) Prxima
pergunta, um pouco mais complicada. Deveramos coletar a informao desta pessoa
para tornar suas experincias ainda melhor e nos proteger em caso dela no capaz de
nada bom? Ou devemos deix-lo em paz? Coletar seus dados. Deix-lo em paz. Voc
est segura. Est tudo bem. (Risos) Tudo bem, ltima pergunta -- uma pergunta mais
difcil -- quando tentamos avaliar o que deveramos fazer neste caso, deveramos utilizar
uma estrutura moral deontolgica Kantiana ou devemos utilizar a tica consequencialista
de Stuart Mill? Kant. Mill. Sem muitos votos. (Risos) Sim, este um resultado terrvel.
Terrvel pois temos opinies mais fortes a respeito de nossos dispositivos portteis do que
a respeito da estrutura moral que deveramos usar para guiar nossas decises.

04:40

Como sabemos o que fazer com o poder que temos se no temos uma estrutura moral
definida? Sabemos muito sobre sistemas operacionais de celulares, mas o que ns
realmente precisamos um sistema operacional moral. O que um sistema operacional
moral? Todos ns sabemos o que certo e errado, certo. Voc se sente bem quando faz
alguma coisa correta, voc se sente mau quando faz algo incorreto. Nossos pais nos
ensinam isso: enaltea os bons e repreenda os maus. Mas como sabemos o que certo
ou errado? No nosso dia a dia temos as tcnicas que ns usamos. Talvez ns apenas
seguimos nossa razo interior. Talvez ns apenas votemos -- ns fazemos crowd source.
Ou talvez ns jogamos -- pergunte ao departamento jurdico, veja o que eles dizem. Em
outras palavras, isto se d aleatoriamente, meio ad hoc, a maneira como resolvemos o
que deveramos fazer. E talvez, se ns queremos estar em terra firme, o que na verdade
ns queremos uma estrutura moral que nos guie, que nos diga que tipo de aes so
certas ou erradas primeiramente, e o que ns faramos em uma determinada situao.

05:42

Ento vamos criar uma estrutura moral. Ns somos pessoas que vivem com nmeros.
Como podemos usar nmeros como a base para a estrutura moral? Conheo um cara que
fez exatamente isso, um cara brilhante -- que morreu a 2500 anos atrs. Plato,
exatamente. Lembra-se dele -- velho fil Voc estava dormindo durante a aula. Plato
possuia vrias preocupaes parecidas com as nossas. Ele estava preocupado sobre o
certo e o errado. Ele queria saber o que era justo. Mas ele estava preocupado com o fato
de que tudo o que parecamos estar fazendo era trocar opinies a respeito disto. Ele diz
que algo justo. Ela diz que algo justo. meio que convincente quando ele fala e
quando ela fala, tambm. Estou somente indo e voltando; No estou indo a lugar algum.
quando ela fala, tambm. Estou somente indo e voltando; No estou indo a lugar algum.
Eu no quero opinies, eu quero conhecimento. Eu quero saber a verdade sobre a justia
-- como ns temos verdades na matemtica. Na matemtica, sabemos os fatos exatos.
Pegue um nmero, qualquer nmero -- 2. Nmero favorito. Adoro esse nmero. Existem
verdades sobre o nmero dois. Se voc tem duas unidades de alguma coisa, e voc
adiciona mais dois, voc tem quatro. Isto verdade, no importando sobre o qu voc
est falando. uma verdade objetiva sobre o dois, a forma abstrata. Quando voc tem
dois itens de algo -- dois olhos, duas orelhas, dois narizes, somente duas projees --
todos parte do mesmo dois. Eles todos fazem parte das verdades que o dois tem. Todos
tem as particularidades do dois. E ento, isto no diz respeito a opinies de cada um.

07:09

E caso, Plato pensou, tica fosse como matemtica? E se existiesse a pura forma da
justia? E se existissem verdades sobre a justia, e voc pudesse somente olhar o mundo
ao seu redor e enxergar que coisas participam, so parte integrante desta forma de
justia? Ento voc saberia o que de fato era justo e o que no era. Isso no seria uma
questo de mera opinio ou aparncias. Esta uma viso impressionante. Quero dizer,
pense sobre isso. O quo grande. O quo ambicioso. Isso to ambicioso quanto ns
somos. Ele quer solucionar a tica. Ele quer verdades objetivas. Se pensar dessa forma,
voc tem uma estrutura moral platnica.

07:50

Se voc no pensa dessa forma, bem, voc tem muita companhia na histria da filosofia
Ocidental, por causa dessa precisa ideia -- voc sabe, as pessoas criticam isso.
Aristteles, em particular, no era to impressionado por isso. Ele achava que isto era
impraticvel. Aristteles disse, "S devemos buscar preciso em um determinado assunto
at o ponto em que este assunto permite." Aristteles no achava que a tica era como a
matemtica. Ele acreditava que a tica era uma questo de tomar decises aqui e agora,
utilizando nosso melhor julgamento para achar o caminho certo. Se pensar assim, Plato
no o seu cara. Mas no desista. Talvez exista um outro caminho que possamos utilizar
os nmeros como base para a nossa estrutura moral.

08:29

Que tal isso: E se em qualquer situao voc pudesse simplesmente calcular, observar as
opes, mensurar qual a melhor e saber o que fazer? Isso soa familiar? Essa uma
estrutura moral utilitarista. John Stuart Mill era um grande defensor disto -- um excelente
cara -- e s morreu a cerca de 200 anos. Ento, base do utilitarismo -- eu tenho certeza
que voc familiar. As trs pessoas que votaram a favor de Mill anteriormente so
familiares com isso. Mas aqui est a forma que isso funciona. E se a moral, e se o que faz
com que algo seja moral, seja somente uma questo de maximizar o prazer e minimizar a
com que algo seja moral, seja somente uma questo de maximizar o prazer e minimizar a
dor? Isso algo intrnseco ao ato. No algo relacionado a uma forma abstrata. s uma
questo de saber as consequncias. Voc somente observa as consequncias e v se, de
maneira geral, isto para melhorar algo ou para piorar. Isso seria simples. Assim
saberamos o que fazer.

09:18

Vamos tomar um exemplo. Digamos que eu levante e diga, "Vou pegar seu telefone." No
somente porque ele tocou anteriormente, mas pegarei isso pois eu fiz um pequeno
clculo. Eu pensei, esse cara parece suspeito. E se ele est mandando mensagens para o
esconderijo de Bin Laden -- ou quem quer que seja quem assumiu depois de Bin Laden --
e ele , na verdade, um terrorista, um agente infiltrado. Eu descobrirei isto e quando eu
descobrir isto, eu evitaria uma grande quantidade de danos que ele poderia causar. Esta
foi uma ao muito til para prevenir o dano. E comparado ao pequeno dano que isso vai
causar -- pois vai ser embaraoso eu olhar seu telefone e ver que ele tem um problema na
sua Farmville -- isso superado pelo valor de olhar o telefone. Se voc se sente dessa
forma, essa uma escolha utilitarista.

10:06

Mas talvez voc tambm no se sinta assim. Talvez voc pense, esse o telefone dele.
errado pegar seu telefone, pois ele uma pessoa ele tem direitos e tem dignidade, e no
podemos interferir nisto. Ele tem autonomia. No interessa que clculos eu fiz. Existem
coisas que so intrnsecamente erradas - como mentir errado, como torturar crianas
inocentes errado. Kant era muito bom nesse sentido, e ele disse um pouco melhor do
que eu direi. Ele disse que deveramos utilizar nossa razo para enteder as regrar pelas
quais ns deveramos guiar a nossa conduta. E ento seria o nosso dever seguir essas
regras. Isto no uma questo de clculo.

10:47

Ento vamos parar. Ns estamos no mago disto, no ncleo filosfico disto. E isto
continua por milhares de anos, pois estas so questes difceis, e s tenho 15 minutos.
Ento vamos direto ao ponto. Como deveramos tomar nossa deciso? Pelo pensamento
de Plato, Aristteles, Kant ou Mill? O que deveramos fazer? Qual a resposta? Qual a
frmula que podemos utilizar em qualquer situao e determinar o que devemos fazer, se
devemos utilizar os dados deste cara ou no? Qual a frmula? No h nenhuma frmula.
No h uma resposta simples.

11:27
11:27

tica difcil. tica requer pensamento. E isto desconfortvel. Eu sei; Eu gastei muito de
minha carreira na intelgncia artificial, tentando criar mquinas que poderiam fazer boa
parte desse pensar por ns, que poderia nos dar respostas. Mas elas no podem. Voc
no pode pegar o pensamento humano e colocar uma uma mquina. Ns que devemos
fazer isto. Felizmente, no somos mquinas, e podemos fazer isso. No apenas podemos,
devemos. Hannah Arendt disse, "A triste verdade que a maioria do mal feito nesse
mundo no feito por pessoas que escolheram serem ms. Isso emerge do no pensar."
Isto o que ela chamou de "banalidade do mal." E a resposta a isso que necessitamos
do exerccio do pensar de toda pessoa s.

12:25

Ento vamos fazer isto. Vamos pensar. De fato, vamos comear agora mesmo. Todos
nesta sala faam isso: pense na ltima vez que voc teve que tomar uma deciso, quando
voc estava preocupado em fazer a coisa certa, quando voc pensou, "O que eu devo
fazer?" Traga isso mente. Agora reflita sobre isso e diga, "Como cheguei a essa
concluso?" O que eu fiz? Eu segui meu eu interior? Fiz uma votao sobre isso? Ou eu
apostei no que era legal? Agora ns temos algumas outras opes. "Eu avaliei o que traria
as maiores vantagens, como Mill faria? Ou como Kant, eu usei a razo para imaginar o
que estava intrinsecamente correto? Pense sobre isto. Traga isso sua mente. Isto
importante. Isto to importante que gastaremos 30 segundos valiosos do TEDTalk
fazendo nada, somente pensando a respeito disto. Est pronto? Vai.

13:29

Pare. Bom trabalho. O que voc acabou de fazer, este o primeiro passo em direo a
tomar responsabilidae para aquilo que podemos fazer com o nosso poder.

13:41

Agora o prximo passo -- tente isto. Procure um amigo e explique a ele como voc tomou
essa deciso. No agora. Espere que eu termine a palstra. Faa isso no almoo. E no o
faa com outro amigo da rea de tecnologia. Ache algum diferente de voc. Ache um
artista ou escritor -- ou, que os cus proibam, ache um filsofo e fale com ele sobre isso.
Na verdade, ache algum da rea de humanas. Porqu? Pois eles pensam sobre
problemas diferente de como pensamos enquanto tecnlogos. Alguns dias atrs, logo do
outro lado da rua, havia centemas de pessoas juntas. eram pessoas da rea de tecnologia
e humanas na gramde Conferncia BiblioTech. Eles estavam juntos pois os tecnlogos
queriam aprender como seria pensar sobre a perspectiva da rea humana. Voc tem
algum do Google conversando com algum que faz literatura comparativa. Voc est
pensando sobre a relevncia do teatro francs do sculo XVII -- o que isto tem a ver com
capital de risco? Isso interessante. Esta uma diferente forma de pensar. E quando voc
pensa dessa forma, voc se torna mais sensvel para as consideraes humanas, que so
cruciais para a tomada de decises ticas.

14:45

Ento imagine que agora mesmo voc encontrasse seu amigo msico. E voc dissesse
para ele sobre o que estamos falando, sobre nossa revoluo de dados e tudo isso --
talvez at cantarolasse algo da nossa msica tema. Dum ta da da dum dum ta da da
dum Bem, seu amigo msico pararia e diria, "Sabe, a msica tema de sua revoluo de
dados, uma pera escrita por Wagner. baseada nas lendas Nrdicas. Seus deuses e
criaturas mticas lutando por joias mgicas." Isto interessante. tambm uma linda
pera. E somos movidos pela pera. Somos movidos pois sobre uma batalha entre o
bem e o mal, entre o certo e o errado. E nos importamos com o bem e o mal. Nos
importamos com o que acontece na pera. Nos importamos com o que acontece no
"Apocalypse Now." E com certeza nos importamos com o que acontece com nossas
tecnologias.

15:42

Temos tanto poder hoje, e nossa responsabilidade entender o que fazer. Essa a boa
notcia. Ns somos as pessoas escrevendo a pera. Este o nosso filme. Ns dizemos o
que acontecer com essa tecnologia. Ns determinamos como tudo isso ir acabar.

16:00

Obrigado.

16:02

(Aplausos)

Programs & initiatives

TEDx
TED Prize
TED Fellows
TED Ed
TED Translators
TED Books
TED Institute

Ways to get TED

TED Radio Hour on NPR

More ways to get TED

Follow TED

Facebook
Twitter
Google+
Pinterest
Instagram
YouTube
TED Blog

Our community

TED Speakers
TED Fellows
TED Translators
TEDx Organizers
TED Community

Get TED email updates

Subscribe to receive email notifications whenever new talks are published.

Daily Weekly

Your email address

Submit

TED Talks Usage Policy

Privacy Policy
Advertising / Partnership

TED.com Terms of Use

Contact

Jobs

Press

Help

TED Conferences, LLC