

(https://outraspalavras.net/)

OUTRASPALAVRAS
Deep Fake, a mais recente ameaça distópica
(HTTPS://OUTRASPALAVRAS.NET/
Estas pessoas não existem: são “criadas” por Inteligência Artificial. Fotos,
JORNALISMO DE PROFUNDIDADE E PÓS CAPITALISMO
 vídeos e textos muito verossímeis multiplicam os riscos de manipulação

(https://www.facebook.co
total. Emerge imenso problema: como regular a ciência, em meio à crise
civilizatória?

OUTRASPALAVRAS TECNOLOGIA EM DISPUTA

(HTTPS://OUTRASPALAVRAS.NET/CATEGORY/TECNOLOGIAEMDISPUTA/)

por Michael K. Spencer Publicado 30/05/2019 às 19:34 - Atualizado 30/05/2019 às

(https://outraspalavras.net/author/michaelspencer/) 19:47

net/tecnologiaemdisputa/deep-
m/sharer/sharer.php?

%3C%2Fi%3E%2C+a+mais+recente+amea%C3%A7a+dist%C3%B3pica&url=https://outraspalavras.net/tecnologiaemdisputa/deep-
t/tweet?

m/send?
t/tecnologiaemdisputa/deep-

re/url?
t/tecnologiaemdisputa/deep-

utraspalavras.net/tecnologiaemdisputa/deep-

Por Michael K. Spencer | Tradução: Gabriela Leite

Em 2019, vivemos em um mundo no qual vídeos e imagens deepfake de pessoas, totalmente

fabricadas, podem ser criadas por inteligência artificial

Enquanto isso, uma tecnologia chamada GPT-2 (https://towardsdatascience.com/openais-gpt-

2-the-model-the-hype-and-the-controversy-1109f4bfd5e8) da OpenAI está ficando famosa por
sua habilidade de escrever convincentemente e enganosamente [reproduzindo o estilo de
autores como George Orwell, ou o seu (N.T.)].

Nesse novo mundo, a IA é capaz de mimetizar conteúdo humano, e tem o potencial de ser usada
por maus atores, e campanhas financiadas por Estados, para influenciar os sentimentos da
população de várias formas.

(https://outraspalavras.net/outrosquinhentos/)

Estamos testemunhando uma explosão de fraude online. Em uma era na qual até o Facebook
recusa o título de empresa de mídia, o que exatamente são os deepfakes?

A invasão dos deepfakes

Deepfakes são, essencialmente, identidades falsas criadas com o deep learning [aprendizagem
profunda (https://pt.wikipedia.org/wiki/Aprendizagem_profunda), por meio de uso maciço de
dados], por meio de uma técnica de síntese de imagem humana baseada na inteligência
artificial. É usada para combinar e sobrepor imagens e vídeos preexistentes e transformá-los em
imagens ou vídeos “originais”, utilizando a tecnologia de GAN (Generative Adversarial Network,
ou rede geradora antagônica). Veja uma primeira explicação neste vídeo:
  What are 'deepfakes?'
(https://outraspalavras.net/)

OUTRASPALAVRAS
(HTTPS://OUTRASPALAVRAS.NET/
Essa combinação de vídeos existentes e “originais” resulta em vídeos falsos, que mostram uma
ou algumas pessoas realizando ações ou fazendo coisas que nunca aconteceram na realidade.
Em 2019, também estamos vendo uma explosão de faces fake, através das quais a IA é capaz de
conjurar pessoas que não existem na realidade, e que têm um certo fator de fluência.
JORNALISMO DE PROFUNDIDADE E PÓS CAPITALISMO

De maneira fascinante, o engenheiro de software da Nvidia, Philip Wang, criou um website 
(https://www.facebook.co
demonstrando a potência da técnica GAN para gerar imagens de pessoas falsas. Você pode
conferir neste endereço:.

O site gera imagens baseado em um novo método de StyleGAN

(https://www.youtube.com/watch?v=DFrJv-eJb64), desenvolvido pela Nvidia, que torna
possível treinar o sistema para construir imagens artificiais de alta qualidade, com resolução de
até 1024×1024 pixels.

Se você atualizar o site continuamente, verá um exemplo dessas “faces fake”, através do qual
humanos digitais e personas falsas poderiam se tornar robôs (bots) de internet, capazes de nos
influenciar em diversas maneiras. Aqui está uma amostra desses rostos: thispernondoesnotexist
net/tecnologiaemdisputa/deep-
m/sharer/sharer.php? (https://thispersondoesnotexist.com/) (essas pessoas não existem na vida real).

Como você pode observar, não há nenhuma maneira de dizer que essas não são pessoas reais.
%3C%2Fi%3E%2C+a+mais+recente+amea%C3%A7a+dist%C3%B3pica&url=https://outraspalavras.net/tecnologiaemdisputa/deep-
t/tweet?
Personagens e textos fake são os próximos fronts do debate em torno do deepfake, que está só
m/send?
t/tecnologiaemdisputa/deep- começando e é ainda outra maneira com a qual a inteligência artificial pode ser aproveitada
como máscara e alterar o sentimento coletivo através de truques digitais.
re/url?
t/tecnologiaemdisputa/deep-

utraspalavras.net/tecnologiaemdisputa/deep- Tecnologias como o GPT-2 e os GANs vão se tornar cada vez mais inteligentes. A suposta
interferência russa no ciclo eleitoral norte americano de 2016 é um despertar para muitos, mas
provavelmente apenas o início. Humanos digitais, âncoras de jornais de inteligência artificial,
personas virtuais — tudo é possível na nova internet. O mercado de farsa online já está maduro.

Meio caminho rumo à Matriz

Criar uma realidade deepfake é meio caminho andado à Matrix. Pense só no potencial de uso
indevido da combinação de vídeos e identidades deepfake com as fake news.

O crescimento dos deepfakes poderia abrir um novo front na guerra desinformacional.

A infiltração deepfake seria relativamente barata e fácil de transformar em arma.

Se as imagens, notícias e vídeos gerados por AI alcançaram um nível no qual estão

frequentemente indistinguíveis de fotografias e vídeos reais, e conteúdo humano, estamos no
limiar de uma nova era de guerras de inteligência artificial.

Não ser capaz de dizer o que é real na internet já é fortemente problemático em uma era de
redes sociais e Facebook, mas nas condições atuais só vai piorar. Considerando que os jovens
gastam mais tempo online do que nunca, eles provavelmente se tornarão mais acostumados à AI
a cada ano, o que pode gerar consequências inesperadas na sociedade.

Por que o deep learning aumenta as fake news

O perigo dos deepfakes representa um novo tipo de ameaça à cybersegurança, na qual o que
pode ser feito está muito à frente de como combatê-lo. Essas redes geradoras antagônicas
(GANs), desenvolvidas pelo Nvidia, poderiam ser facilmente classificadas como uma má
utilização do deep learning, se tais corpos regulatórios existissem.

Pode ser que você tenha visto o vídeo deepfake abaixo no YouTube. Obama poderia ter dito isso,
mas ele não disse.

You Won’t Believe What Obama Says In This Video! 😉

Em 2019, não apenas sua identidade pode ser roubada, você pode ser enquadrado, difamado e
ser vítima de farsantes com os vídeos deepfake, que podem ser difíceis de se provar falsos. Você
pode sofrer golpes, fraudes e ficar vulnerável online, e o inimigo seria a inteligência artificial.
 A facilidade de usar os deepfakes (https://goberoi.com/exploring-deepfakes-20c9947c22d9)
 implica que um novo tipo de hipocrisia e de conteúdo ilusório online está chegando. Não se trata
(https://outraspalavras.net/)
mais de fake news, mas de memes, spam e conteúdo feito cada vez menos por humanos, para o

OUTRASPALAVRAS
bem e para o mal.

Geradores de texto falso. Imagens falsas. Vídeos falsos. Clonagem de voz. Clonagem de
personas. A combinação de tecnologia mais inteligente vai criar problemas humanos muito

(HTTPS://OUTRASPALAVRAS.NET/
reais, que vão muito além das fake news e dos discursos de ódio, que o facebook será incapaz de
conter.

JORNALISMO DE PROFUNDIDADE E PÓS CAPITALISMO

 A Style-Based Generator Architecture for Generative Adversarial Net…
Net…

(https://www.facebook.co

net/tecnologiaemdisputa/deep-
m/sharer/sharer.php?

%3C%2Fi%3E%2C+a+mais+recente+amea%C3%A7a+dist%C3%B3pica&url=https://outraspalavras.net/tecnologiaemdisputa/deep-
t/tweet?

m/send?
t/tecnologiaemdisputa/deep- Antes de morrer, serei capaz de clonar a mim mesmo em uma persona feita por inteligência
artificial que retenha não apenas alguns de meus pensamentos mais profundos, mas meus
re/url?
t/tecnologiaemdisputa/deep- padrões comportamentais. Poderei deixar essa persona para meus descendentes.

utraspalavras.net/tecnologiaemdisputa/deep-
Entrando na toca do coelho virtual
Enquanto isso, a internet continuará a evoluir na interseção da IA, de uma maneira na qual o
modo como os humanos fazem versões de si mesmos pode ser irreconhecível até para nós.
Caminhamos rapidamente em direção a um mundo de implantes neuro e no qual estaremos
cercados não apenas de robôs, mas de identidades de IA (chame-os como quiser).

A geração Z, grupo das pessoas que nasceram na última década do século XX e nos primeiros
anos do século XXI, está passando tanto tempo na internet que sua realidade é mais repleta de
eventos online do que face a face.

A desinformação vai aumentar de tal maneira que o facebook e os deepfakes vão gerar um
mundo de eventos míticos de imersão, entretenimento e um capitalismo de vigilância que será
profundamente perturbador para nossa saúde mental e estabilidade política.

Se regulação da IA atrasar, muitos perigos surgirão, devido aos desenvolvimentos tecnológicos e

os usos de novas ferramentas.

Gostou do texto? Contribua para manter e ampliar nosso jornalismo de

profundidade: OUTROSQUINHENTOS
(HTTPS://OUTRASPALAVRAS.NET/OUTROSQUINHENTOS/)

TAGS
CONTROLE (HTTPS://OUTRASPALAVRAS.NET/TAG/CONTROLE/), DEEPFAKE
(HTTPS://OUTRASPALAVRAS.NET/TAG/DEEPFAKE/), FAKE NEWS (HTTPS://OUTRASPALAVRAS.NET/TAG/FAKE-NEWS/),
INTELIGÊNCIA ARTIFICIAL (HTTPS://OUTRASPALAVRAS.NET/TAG/INTELIGENCIA-ARTIFICIAL/), INTERNET
(HTTPS://OUTRASPALAVRAS.NET/TAG/INTERNET/), MANIPULAÇÃO
(HTTPS://OUTRASPALAVRAS.NET/TAG/MANIPULACAO/), TECNOLOGIA
(HTTPS://OUTRASPALAVRAS.NET/TAG/TECNOLOGIA/)

 (https://www.facebook.com/sharer/sharer.php?
u=https://outraspalavras.net/tecnologiaemdisputa/deep-fake-
a-ultima-distopia/)  (https://twitter.com/intent/tweet?
text=%3Ci%3EDeep+Fake%3C%2Fi%3E%2C+a+mais+recente+amea%C3%A7a+dist%C3%B3pic
fake-a-ultima-distopia/)  (https://api.whatsapp.com/send?
text=<i>Deep Fake</i>, a mais recente ameaça distópica -
https://outraspalavras.net/tecnologiaemdisputa/deep-fake-a-
ultima-distopia/)  (https://telegram.me/share/url?url=
<i>Deep Fake</i>, a mais recente ameaça distópica -
https://outraspalavras.net/tecnologiaemdisputa/deep-fake-a-
ultima-distopia/)

MICHAEL K. SPENCER
Editor do FutureSin (https://medium.com/futuresin)
(https://outraspalavras.net/author/michaelspencer/)
 
(https://outraspalavras.net/)

OUTRASPALAVRAS
LEIA TAMBÉM:

(https://outraspalavras.net/tecnologiaemdisputa/escolas-
(https://outraspalavras.net/tecnologiaemdisputa/eua-
(https://outraspalavras.net/tecnologiaemdisputa/como-
na-mira-das-corporacoes-da-internet/) x-china-trump-e-um-possivel-tiro-no-pe/) construir-uma-internet-sem-violencia/)

(HTTPS://OUTRASPALAVRAS.NET/ JORNALISMO DE PROFUNDIDADE E PÓS CAPITALISMO



(https://www.facebook.co
OUTRASPALAVRAS OUTRASPALAVRAS OUTRASPALAVRAS

(https://outraspalavras.net/tecnologiaemdisputa/escolas-
na-mira-das-corporacoes-da-internet/)
Escolas na mira das
corporações da internet
Diversas secretarias de educação fecharam
parcerias com Google e Facebook. Com
ações suspeitas — como usar estudantes
para divulgar ferramentas — educação
brasileira é usada para captura de dados e
net/tecnologiaemdisputa/deep-
m/sharer/sharer.php? propaganda gratuita
(https://outraspalavras.net/tecnologiaemdisputa/eua-
(https://outraspalavras.net/tecnologiaemdisputa/como-
x-china-trump-e-um-possivel-tiro-no-pe/) construir-uma-internet-sem-violencia/)
EUA x China: o que pode Como construir uma
tirar o sono de Trump internet sem violência?
Ao ordenar à Google sabotar a Huawei, ele Ataque de supremacistas brancos na Nova
revela um Ocidente rancoroso e dominador Zelândia vitimou 51 muçulmanos.
— mas abre um flanco. Chineses recorrerão Primeira-ministra iniciou ação
ao software livre. E se resgatarem a lógica internacional contra ódio e extremismo na
de circulação de saberes que marcou a rede. Mas seu caminho — articular-se com
internet em seu início? governos e corporações — terá futuro?

(https://outraspalavras.net/tecnologiaemdisputa/escolas-
(https://outraspalavras.net/tecnologiaemdisputa/eua-
%3C%2Fi%3E%2C+a+mais+recente+amea%C3%A7a+dist%C3%B3pica&url=https://outraspalavras.net/tecnologiaemdisputa/deep-
t/tweet? (https://outraspalavras.net/tecnologiaemdisputa/como-
na-mira-das-corporacoes-da-internet/) x-china-trump-e-um-possivel-tiro-no-pe/) construir-uma-internet-sem-violencia/)
m/send?
t/tecnologiaemdisputa/deep- TECNOLOGIA EM DISPUTA TECNOLOGIA EM DISPUTA TECNOLOGIA EM DISPUTA
(HTTPS://OUTRASPALAVRAS.NET/CATEGORY/TECNOLOGIAEMDISPUTA/)
(HTTPS://OUTRASPALAVRAS.NET/CATEGORY/TECNOLOGIAEMDISPUTA/)
(HTTPS://OUTRASPALAVRAS.NET/CATEGORY/TECNOLOGIAEMDISPUTA/)
re/url?
t/tecnologiaemdisputa/deep- | por Fabiana Oliveira | por Pablo Romero | por Inês Castilho (https://outraspalavras.net/author/inescastilho/)
(https://outraspalavras.net/author/fabianaoliveira/) (https://outraspalavras.net/author/pabloromero/)

utraspalavras.net/tecnologiaemdisputa/deep-
(https://outraspalavras.net/tecnologiaemdisputa/reconhecimento-
(https://outraspalavras.net/outrasmidias/controle-
(https://outraspalavras.net/tecnologiaemdisputa/nao-
facial-em-busca-dos-inimigos-publicos/) da-internet-uma-reedicao-da-corrida- estamos-condenados-a-tecnologia-da-
espacial/) adaptacao/)

OUTRASPALAVRAS
OUTRASMÍDIAS OUTRASPALAVRAS
(https://outraspalavras.net/tecnologiaemdisputa/reconhecimento-
facial-em-busca-dos-inimigos-publicos/) (https://outraspalavras.net/outrasmidias/controle-
(https://outraspalavras.net/tecnologiaemdisputa/nao-
A tecnologia em busca dos da-internet-uma-reedicao-da-corrida- estamos-condenados-a-tecnologia-da-
“inimigos públicos” espacial/) adaptacao/)
Nos espaços vigiados por Reconhecimento Controle da internet, uma A Tecnologia da Adaptação
Facial, grupos sociais e étnicos poderão ser nova “corrida espacial” — e como vencê-la
enquadrado nos “perfis perigosos” — ao Ataque dos EUA a Huawei é só o começo de Falta à esquerda uma crítica mais profunda
menos, para Estado e corporações. O uma disputa maior pelo monopólio da às redes sociais e à captura e tráfico de
debate é urgente: temos o direito de tecnologia 5G. China está na frente — e dados. Não se trata de “desmembrar o
proteger nossa identidade e localização? pode dominar mercado europeu e Facebook”, mas de opor, às “inovações” que
enfraquecer hegemonia da Casa Branca em apenas conservam a ordem social, uma
(https://outraspalavras.net/tecnologiaemdisputa/reconhecimento-
capturar nossos dados possível Tecnologia Rebelde
facial-em-busca-dos-inimigos-publicos/)
TECNOLOGIA EM DISPUTA (https://outraspalavras.net/outrasmidias/controle-
(https://outraspalavras.net/tecnologiaemdisputa/nao-
(HTTPS://OUTRASPALAVRAS.NET/CATEGORY/TECNOLOGIAEMDISPUTA/)
da-internet-uma-reedicao-da-corrida-
| por Sally Applin (https://outraspalavras.net/author/sallyapplin/)
estamos-condenados-a-tecnologia-da-
espacial/) adaptacao/)
TECNOLOGIA EM DISPUTA TECNOLOGIA EM DISPUTA
(HTTPS://OUTRASPALAVRAS.NET/CATEGORY/TECNOLOGIAEMDISPUTA/)
(HTTPS://OUTRASPALAVRAS.NET/CATEGORY/TECNOLOGIAEMDISPUTA/)
| por Esquerda.net | por Evgeny Morozov
(https://outraspalavras.net/author/esquerdanet/) (https://outraspalavras.net/author/evgenymorozov/)

3 comentários para "Deep Fake, a mais recente ameaça distópica"

— Nisa Diogo (http://www.vip-escritoriovirtual.com) 31 de maio de 2019 às 08:23
(https://outraspalavras.net/tecnologiaemdisputa/deep-
disse:
fake-a-ultima-distopia/#comment-37605)
Assustador.

RESPONDER

— josé mário ferraz 31 de maio de 2019 às 08:52

(https://outraspalavras.net/tecnologiaemdisputa/deep-
disse:
fake-a-ultima-distopia/#comment-37606)
Se é o povo que vai se ferrar com a novidade, não há novidade. Povo sempre existiu para isso mesmo. Bem feito. Quem manda não se ligar no
lado mais importante da atividade de viver que é a vida propriamente dita e se ligar em igreja, axé, futebola, “famosos” e “celebridades”?

RESPONDER

Pingback: Deep Fake, a mais recente ameaça distópica - Bem Blogado (http://bemblogado.com.br/site/deep-fake-a-mais-recente-ameaca-
distopica/)

DEIXE UMA RESPOSTA

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *
 COMENTÁRIO

(https://outraspalavras.net/)

OUTRASPALAVRAS
(HTTPS://OUTRASPALAVRAS.NET/ JORNALISMO DE PROFUNDIDADE E PÓS CAPITALISMO
NOME *

(https://www.facebook.co

E-MAIL *

SITE

net/tecnologiaemdisputa/deep-
m/sharer/sharer.php? PUBLICAR COMENTÁRIO

%3C%2Fi%3E%2C+a+mais+recente+amea%C3%A7a+dist%C3%B3pica&url=https://outraspalavras.net/tecnologiaemdisputa/deep-
t/tweet?

m/send?
t/tecnologiaemdisputa/deep-

re/url?
t/tecnologiaemdisputa/deep-
OUTRASPALAVRAS
utraspalavras.net/tecnologiaemdisputa/deep- JORNALISMO DE PROFUNDIDADE E PÓS-CAPITALISMO

INSTITUCIONAL NOSSOS CANAIS ASSINE O

BOLETIM
SOBRE (HTTPS://OUTRASPALAVRAS.NET/SOBRE/) OUTRASPALAVRAS (/)
EQUIPE (HTTPS://OUTRASPALAVRAS.NET/EQUIPE/) OUTRASMÍDIAS seu e-mail aqui

TRADUTORES (HTTPS://OUTRASPALAVRAS.NET/TRADUTORES/) (HTTPS://OUTRASPALAVRAS.NET/OUTRASMIDIAS/) ASSINAR

AJUDE A SUSTENTAR (HTTPS://OUTRASPALAVRAS.NET/OUTROSQUINHENTOS) BLOGDAREDAÇÃO
CONTATO (HTTPS://OUTRASPALAVRAS.NET/CONTATO/) REDES
(HTTPS://OUTRASPALAVRAS.NET/BLOGDAREDACAO/)
SOBRE OUTRA SAÚDE (HTTPS://OUTRASPALAVRAS.NET/OUTRA-SAUDE-QUEM- OUTRASAÚDE
SOMOS/)  
(HTTPS://OUTRASPALAVRAS.NET/OUTRASAUDE/)
(https://www.facebook.com/outraspalavras)(https://w
LIVRARIA OP (HTTPS://OUTRASPALAVRAS.NET/LIVRARIAOP/) OUTROSLIVROS (/LIVRARIAOP)
OUTROSQUINHENTOS LICENÇA
PRINCIPAIS CATEGORIAS
(HTTP://WWW.OUTRASPALAVRAS.NET/OUTROSQUINHENTOS/)
VÍDEOS PODCASTS
(HTTPS://OUTRASPALAVRAS.NET/VIDEOS/)
OUTROS BLOGS
(HTTPS://OUTRASPALAVRAS.NET/PODCASTS/)
PÓS-CAPITALISMO TRABALHO E PRECARIADO site pelo hacklab/
TERRA
(HTTPS://OUTRASPALAVRAS.NET/CATEGORY/POS-
(HTTPS://OUTRASPALAVRAS.NET/CATEGORY/TRABALHOEPRECARIADO/)
EM TRANSE (https://hacklab.com.br/)
CAPITALISMO/) (HTTPS://OUTRASPALAVRAS.NET/TERRAEMTRANSE/)
MOVIMENTOS E REBELDIAS CIDADES EM TRANSE
GAVIN
(HTTPS://OUTRASPALAVRAS.NET/CATEGORY/MOVIMENTOSEREBELDIAS/) ADAMS
(HTTPS://OUTRASPALAVRAS.NET/CATEGORY/CIDADESEMTRANSE/)
DESCOLONIZAÇÕES FEMINISMOS (HTTPS://OUTRASPALAVRAS.NET/GAVINADAMS/)
(HTTPS://OUTRASPALAVRAS.NET/CATEGORY/DESCOLONIZACOES/)
(HTTPS://OUTRASPALAVRAS.NET/CATEGORY/FEMINISMOS/)
LUIZA
TECNOLOGIA EM DISPUTA POÉTICAS SANSÃO
(HTTPS://OUTRASPALAVRAS.NET/CATEGORY/TECNOLOGIAEMDISPUTA/) (HTTPS://OUTRASPALAVRAS.NET/LUIZASANSAO/)
(HTTPS://OUTRASPALAVRAS.NET/CATEGORY/POETICAS/)
CRISE BRASILEIRA MERCADO X DEMOCRACIA MAURÍCIO
(HTTPS://OUTRASPALAVRAS.NET/CATEGORY/CRISE- AYER
(HTTPS://OUTRASPALAVRAS.NET/CATEGORY/MERCADOVSDEMOCRACIA/)
BRASILEIRA/) (HTTPS://OUTRASPALAVRAS.NET/MAURICIOAYER/)

ALCEU
REDAÇÃO REDE PARCEIRA CASTILHO
(HTTPS://OUTRASPALAVRAS.NET/ALCEUCASTILHO/)
Rua Conselheiro O JOIO
Ramalho, 945 Bixiga, E O TRIGO

São Paulo/SP (HTTPS://OUTRASPALAVRAS.NET/OJOIOEOTRIGO/)

DE OLHO
NOS RURALISTAS
(HTTPS://DEOLHONOSRURALISTAS.COM.BR/)
TERRA
EM TRANSE
(HTTPS://OUTRASPALAVRAS.NET/TERRAEMTRANSE/)