{"id":13563,"date":"2018-06-01T18:58:39","date_gmt":"2018-06-01T21:58:39","guid":{"rendered":"https:\/\/gersonguelmann.com.br\/blog\/?p=13563"},"modified":"2018-06-01T19:10:48","modified_gmt":"2018-06-01T22:10:48","slug":"ja-ouviu-falar-no-infocalypse-ele-pode-acontecer","status":"publish","type":"post","link":"https:\/\/gersonguelmann.com.br\/blog\/ja-ouviu-falar-no-infocalypse-ele-pode-acontecer\/","title":{"rendered":"J\u00e1 Ouviu Falar no “Infocalypse”? Ele Pode Acontecer!"},"content":{"rendered":"

\"\"<\/p>\n

A mat\u00e9ria abaixo, publicada originalmente pelo site\u00a0BuzzFeed News, deveria ser lida por todas as pessoas que usam a internet e se preocupam com o futuro das comunica\u00e7\u00f5es, as rela\u00e7\u00f5es interpessoais e a qualidade das informa\u00e7\u00f5es:<\/span><\/p>\n

Ele previu a crise de not\u00edcias falsas de 2016. Agora est\u00e1 preocupado com um apocalipse de informa\u00e7\u00f5es<\/span><\/strong><\/span><\/p>\n

“O que acontece quando qualquer um pode fazer com que pare\u00e7a que qualquer coisa aconteceu, independente de ter acontecido ou n\u00e3o?”, pergunta o tecn\u00f3logo Aviv Ovadya.<\/span><\/strong><\/span><\/p>\n

\n

publicado\u00a0

 <\/p>\n<\/div>\n

\n

Charlie Warzel<\/span><\/strong><\/p>\n

BuzzFeed News Reporter<\/span><\/strong><\/div>\n<\/div>\n
\n

Em meados de 2016<\/b>,\u00a0Aviv Ovadya\u00a0percebeu que havia algo fundamentalmente errado com a internet \u2014 t\u00e3o errado que ele abandonou seu trabalho e soou um alarme. Algumas semanas antes das elei\u00e7\u00f5es de 2016, ele apresentou suas preocupa\u00e7\u00f5es a tecn\u00f3logos na \u00c1rea da Ba\u00eda de S\u00e3o Francisco e advertiu sobre uma crise iminente de desinforma\u00e7\u00e3o em uma apresenta\u00e7\u00e3o que chamou de “Infocalypse”.<\/span><\/p>\n

A web e o ecossistema de informa\u00e7\u00e3o que se desenvolveu nela estavam doentios, argumentou Ovadya. Os incentivos que governavam suas principais plataformas foram ajustados para recompensar informa\u00e7\u00f5es que eram enganosas e\/ou polarizadas. Plataformas como Facebook, Twitter e Google priorizavam cliques, compartilhamentos, an\u00fancios e dinheiro em detrimento da qualidade de informa\u00e7\u00e3o, e Ovadya n\u00e3o p\u00f4de ignorar a sensa\u00e7\u00e3o de que tudo isso estava tomando um caminho ruim \u2014 um tipo de limite cr\u00edtico de desinforma\u00e7\u00e3o viciante e t\u00f3xica. A apresenta\u00e7\u00e3o foi praticamente ignorada pelos funcion\u00e1rios das plataformas das empresas Big Tech (como Google, Amazon, Facebook e Apple).<\/span><\/p>\n

\n

“Naquela \u00e9poca, parecia que est\u00e1vamos em um carro fora de controle. O problema n\u00e3o era que todo mundo estava dizendo ‘estamos bem’ \u2014 \u00e9 que eles nem mesmo estavam vendo o carro”, disse ele.<\/span><\/p>\n

Ovadya estava dizendo o que muitos \u2014 incluindo legisladores, jornalistas e CEOs das Big Tech \u2014 n\u00e3o captariam at\u00e9 meses depois: o nosso mundo cheio de plataformas e otimizado por algoritmos \u00e9 t\u00e3o vulner\u00e1vel \u2014 de propaganda, desinforma\u00e7\u00e3o e an\u00fancios direcionados a governos estrangeiros \u2014 que isso amea\u00e7a minar uma pedra fundamental do discurso humano : a credibilidade do fato.<\/span><\/p>\n

Ainda assim, \u00e9 o que ele v\u00ea se aproximando que realmente \u00e9 assustador.<\/span><\/p>\n

“O alarmismo pode ser bom \u2014 voc\u00eas deveriam ser alarmistas sobre essas coisas”, disse Ovadya em uma tarde de janeiro antes de delinear calmamente uma proje\u00e7\u00e3o profundamente perturbadora sobre as pr\u00f3ximas duas d\u00e9cadas de not\u00edcias falsas, campanhas de desinforma\u00e7\u00e3o assistidas por intelig\u00eancia artificial e propaganda. “Isso \u00e9 algo que est\u00e1 al\u00e9m do que muitos aqui imaginam”, disse ele. “Est\u00e1vamos completamente fodidos um ano e meio atr\u00e1s e estamos ainda mais fodidos agora. E, dependendo da dist\u00e2ncia que voc\u00ea v\u00ea no futuro, s\u00f3 piora.”<\/span><\/p>\n

Esse futuro, de acordo com Ovadya, chegar\u00e1 com ferramentas muito \u00e1geis e f\u00e1ceis de se usar para manipular a percep\u00e7\u00e3o e falsificar a realidade. A\u00e7\u00f5es que at\u00e9 j\u00e1 ganharam termos pr\u00f3prios, como “apatia com a realidade”, “phishing via laser automatizado” e “fantoches humanos”.<\/span><\/p>\n

\u00c9 por isso que\u00a0Ovadya, tecn\u00f3logo formado pelo MIT que j\u00e1 trabalhou com engenharia em empresas de tecnologia como a Quora, largou tudo em 2016 para tentar evitar o que ele viu como uma crise de informa\u00e7\u00e3o causada pelas empresas Big Tech. “Um dia, algo clicou na minha cabe\u00e7a”, disse ele sobre seu despertar. Ficou claro para ele que, se algu\u00e9m quisesse tirar vantagem da nossa economia de aten\u00e7\u00e3o e utilizar as plataformas que refor\u00e7am isso para distorcer a verdade, n\u00e3o haveria controle ou equil\u00edbrio para parar tal a\u00e7\u00e3o. “Eu percebi que, se esses sistemas sa\u00edssem do controle, n\u00e3o haveria nada para control\u00e1-los”, disse.<\/span><\/p>\n

“Est\u00e1vamos completamente ferrados um ano e meio
\natr\u00e1s e estamos ainda mais ferrados agora”<\/span><\/strong><\/span><\/p>\n

Hoje, Ovadya e um grupo de pesquisadores e acad\u00eamicos est\u00e3o se preparando para um futuro dist\u00f3pico. Eles est\u00e3o projetando cen\u00e1rios de desastre a partir de tecnologias que come\u00e7aram a surgir, e os resultados s\u00e3o bem desanimadores.<\/span><\/p>\n

Para Ovadya \u2014 agora chefe-tecn\u00f3logo do Centro de Responsabilidade de M\u00eddias Sociais da Universidade de Michigan e membro de inova\u00e7\u00e3o Knight News do Tow Center for Digital Journalism na Universidade Columbia \u2014, o choque e a ansiedade cont\u00ednua sobre os an\u00fancios russos no Facebook e bots do Twitter s\u00e3o pouco se comparados \u00e0 maior amea\u00e7a: tecnologias que podem ser usadas para distorcer o que \u00e9 real est\u00e3o evoluindo mais rapidamente do que nossa habilidade de compreend\u00ea-las e control\u00e1-las ou mitig\u00e1-las.<\/span><\/p>\n

As apostas s\u00e3o altas, e as poss\u00edveis consequ\u00eancias s\u00e3o mais desastrosas do que intromiss\u00f5es estrangeiras em uma elei\u00e7\u00e3o \u2014 uma impugna\u00e7\u00e3o ou reviravolta das institui\u00e7\u00f5es nucleares da civiliza\u00e7\u00e3o, um “infocalypse”. Ou seja, qualquer um poderia fazer com que “parecesse que qualquer coisa aconteceu, independente de ter acontecido ou n\u00e3o”.<\/span><\/p>\n

“O que acontece quando qualquer um pode fazer
\ncom\u00a0que pare\u00e7a que qualquer coisa aconteceu,
\nindependente de ter acontecido ou n\u00e3o?”<\/strong><\/span><\/p>\n

E assim como as campanhas de desinforma\u00e7\u00e3o patrocinadas por entidades estrangeiras n\u00e3o pareciam uma amea\u00e7a plaus\u00edvel de curto prazo at\u00e9 acontecerem, Ovadya avisa que as ferramentas impulsionadas pela intelig\u00eancia artificial, pelo aprendizado de m\u00e1quina e pela tecnologia de realidade aumentada podem ser sabotadas e utilizadas por pessoas ruins para imitar humanos e causar uma guerra de informa\u00e7\u00e3o.<\/span><\/p>\n

E estamos mais perto do que algu\u00e9m pode pensar de um “Infocalypse”, segundo ele. Ferramentas j\u00e1 dispon\u00edveis de manipula\u00e7\u00e3o de \u00e1udio e v\u00eddeo j\u00e1 come\u00e7am a aparecer. Em recantos sombrios da internet, pessoas come\u00e7aram a utilizar algoritmos de aprendizado de m\u00e1quina e software de c\u00f3digo aberto para\u00a0criar v\u00eddeos pornogr\u00e1ficos que, com facilidade, sobrep\u00f5em realisticamente rostos de celebridades\u00a0\u2014 ali\u00e1s, de qualquer um \u2014 nos corpos dos atores porn\u00f4. Em institui\u00e7\u00f5es como a Stanford, tecn\u00f3logos desenvolveram programas que\u00a0combinam e misturam grava\u00e7\u00f5es de v\u00eddeos\u00a0com monitoramento facial em tempo real para manipular v\u00eddeos. Similarmente, na Universidade de Washington, cientistas da computa\u00e7\u00e3o desenvolveram com sucesso um programa capaz de “transformar recortes de \u00e1udio em um v\u00eddeo realista com sincroniza\u00e7\u00e3o labial\u00a0da pessoa que fala as palavras”. Como prova de conceito, ambas as equipes manipularam v\u00eddeos em que l\u00edderes mundiais pareciam dizer coisas que nunca disseram.<\/span><\/p>\n