For many years, I’ve been arguing that while science fiction can’t predict the future, it can reveal important truths about the present: the stories writers tell reveal their hopes and fears about technology, while the stories that gain currency in our discourse and our media markets tell us about our latent societal aspirations and anxieties. In Fake News is an Oracle, my latest Locus Magazine column, I use this tool to think about the rise of conspiratorial thinking and ask what it says about our world.
more

I was honored to be invited to contribute to the New York Times‘s excellent “Op-Eds From the Future” series (previously), with an op-ed called “I Shouldn’t Have to Publish This in The New York Times,” set in the near-future, in which we have decided to solve the problems of Big Tech by making them liable for what their users say and do, thus ushering in an era in which all our speech is vetted by algorithms that delete anything that looks like misinformation, harassment, copyright infringement, incitement to terrorism, etc — with the result that the only place where you can discuss anything of import is newspapers themselves.
more

I’m all for making Big Tech small again and fixing the internet so that it’s not just five giant websites filled with screenshots from the other four, not to mention doing something about market dominance, corporate bullying, rampant privacy invasions and so on.
more

My latest Locus column is “Steering with the Windshield Wipers,” and it ties together the growth of Big Tech with the dismantling of antitrust law (which came about thanks to Robert Bork’s bizarre alternate history of antitrust, a theory so ridiculous that it never would have gained traction except that it promised to make rich people a lot richer).
more

The book Detective Comics: 80 Years of Batman commemorates the 1000th issue of Batman comics; my contribution is an essay called Occupy Gotham, about the terror of letting a billionaire vigilante decide who is and isn’t a criminal (featuring Lessig and Piketty jokes!).
more

My latest Locus Magazine column is “Disruption for Thee, But Not for Me,” and it analyzes how Big Tech has been able to “disrupt” incumbent industries, but has repurposed obscure technology regulations to prevent anyone from meting out the same treatment to their new digital monopolies.
more

My latest Locus Magazine column is What the Internet Is For: it describes the revolutionary principle (end-to-end communications) and technologies (general purpose computers, strong cryptography) that undergird the net, but also cautions that these are, themselves, not sufficient to revolutionize the world.
more

Brent Longborough did me the enormous favor of translating my latest Locus column, Zuck’s Empire of Oily Rags, into Portuguese, and sent it to me to publish.

Cory Doctorow: Zuck e seu Império de Trapos Oleosos

2 de julho de 2018 Cory Doctorow

Durante vinte anos, os defensores da privacidade vem soando o alarme sobre a vigilância comercial on-line, a maneira de as empresas coletarem dossiês detalhados sobre nós para ajudar os profissionais de marketing a nos almejar com seus anúncios. Esse alarde não surtiu efeito: em geral, as pessoas eram céticas em relação à eficácia da publicidade direcionada; os anúncios que recebíamos raramente eram muito persuasivos e, quando funcionavam, era porque os anunciantes haviam descoberto o que queríamos e se ofereceram para nos vender: as pessoas que já haviam comprado um sofá viam anúncios de sofás e, se comprassem um sofá, os anúncios persistiam por algum tempo porque os sistemas almejadores de anúncios não eram inteligentes o suficiente para saber que seus serviços não eram mais necessários, mas, de fato, onde estava o problema? O pior cenário era que os anunciantes desperdiçariam seu dinheiro com anúncios que não tinham efeito, e o melhor cenário era que as compras se tornariam mais convenientes, conforme os algoritmos preditivos facilitassem cada vez mais a busca das coisas que estávamos prestes a procurar .
Os defensores da privacidade tentaram explicar que a persuasão era apenas a ponta do iceberg. Bancos de dados comerciais eram alvos suculentos para espiões e ladrões de identidade, ainda sem falar das oportunidades para chantagem das pessoas cujos dados revelavam práticas sexuais socialmente arriscadas, crenças religiosas ou visões políticas.

Agora estamos vivendo a reação técnica, e, finalmente, as pessoas estão voltando aos defensores da privacidade, para dizer que tínhamos razão o tempo todo; dada vigilância suficiente, as empresas podem nos vender qualquer coisa: Brexit, Trump, limpeza étnica no Mianmar, e lances eleitorais bem-sucedidos para bastardos absolutos como Erdoğan na Turquia, e Orban, na Hungria.

É ótimo que a mensagem, que a privacidade é importante, esteja finalmente alcançando um público mais amplo, e é emocionante pensar que estamos nos aproximando de um ponto de inflexão pela indiferença à privacidade e à vigilância.

Mas, apesar de o reconhecimento do problema da Big Tech seja muito bem-vindo, estou preocupado que o diagnóstico esteja errado.

O problema é este: estamos confundindo o ‘persuadir’ automatizado com o ‘almejar’ automatizado. Mentiras risíveis sobre o Brexit, os estupradores mexicanos e a infiltração rasteira da lei Sharia não convenceram pessoas de outras maneiras ajuizadas que ‘para cima’ era ‘para baixo’, nem sequer que o céu era verde.

Em vez disso, os sofisticados sistemas almejadores disponíveis através do Facebook, Google, Twitter e outras plataformas de publicidade da Big Tech facilitaram a localização de pessoas racistas, xenófobas, medrosas e iradas que queriam acreditar que eram estrangeiros, financiados, por sinal, por George Soros, que estavam destruindo seu país.

Lembre-se que as eleições são no geral equilibradas na ponta da faca, mesmo para aqueles políticos que ocupam seus assentos, durante décadas, com margens pequenas: 60% dos votos é uma vitória excelente. Lembre-se, também, que o vencedor na maioria das corridas é “nenhum das opções acima”, com um grande número de eleitores se abstendo da eleição. Se mesmo um número pequeno desses não-eleitores puderem ser motivados a comparecer às urnas, os lugares seguros poderão se tornar contestáveis. Numa corrida apertada, possuir uma maneira barata de alcançar todos os sócios latentes da KKK em determinado distrito, e silenciosamente informá-los na surdinha que o Donald J. Trump é o homem deles, é fator de mudança.

Cambridge Analytica são como mentalistas de palco: estão fazendo algo trabalhoso enquanto fingem que é algo sobrenatural. Um mentalista de palco vai treinar por anos para aprender a memorizar rapidamente um baralho e, em seguida, afirmar que podem identificar sua carta graças aos seus poderes psíquicos. Você nunca vê a prática de memorização nada glamourosa e inexpressiva. A Cambridge Analytica usa o Facebook para encontrar idiotas racistas e dizer-lhes para votar em Trump e, em seguida, eles afirmam que descobriram uma maneira mística de fazer pessoas de outro modo ajuizadas votarem em maníacos.

Isso não quer dizer que a persuasão é impossível. As campanhas automatizadas de desinformação podem inundar o canal com relatos contraditórios e aparentemente plausíveis sobre o atual estado das coisas, dificultando que um observador casual compreenda os eventos. A repetição a longo prazo duma narrativa consistente, mesmo cabalmente desequilibrada, pode criar dúvidas e encontrar adeptos – pense na negação da mudança climática, ou nas conspirações sobre George Soros, ou no movimento anti- vacinas.

Esses são processos longos e lentos, entretanto, que ao longo dos anos fazem pequenas mudanças na opinião pública, e funcionam melhor quando há outras condições que os alimentam – por exemplo, movimentos fascistas, xenófobos e nativistas que são as servas da austeridade e da privação. Quando por longos tempos você não tem o suficiente, você está maduro para mensagens culpando seus vizinhos por tê-lo privado de seu quinhão.

Mas não precisamos de vigilância comercial para criar multidões furiosas: Goebbels e Mao fizeram muito bem com técnicas analógicas, sem recursos digitais.

O Facebook não é um raio de controle mental. É uma ferramenta para encontrar pessoas que possuem características incomuns e difíceis de localizar, seja “pessoa pensando em comprar uma nova geladeira”, “pessoa com a mesma doença rara que você” ou “pessoa que pode participar de um pogrom genocida”. E depois vendendo-os um belo lado-a-lado ou algumas tochas tiki, enquanto os mostra a prova social da boa utilidade de seu curso de ação, na forma de outras pessoas (ou bots) que estão fazendo a mesma coisa, de forma que eles se sentem parte da multidão.

Mesmo que os raios de controle mental continuem uma ficção científica, o Facebook e outras plataformas de vigilância comercial ainda são preocupantes, e não apenas porque permitem que pessoas com pontos de vista extremos se encontrem. O ato de reunir enormes dossiês sobre todos no mundo é assustador por si só: na Camboja, o governo autocrático usa o Facebook para identificar dissidentes e sujeitá-los à prisão e tortura; o serviço de Alfândega e Proteção de Fronteiras dos EUA usa as mídias sociais para encontrar visitantes culpados por asociação, impedindo-os de entrar no país com base em seus amigos, afiliações e interesses. Também há os ladrões de identidade, chantagistas e vigaristas que usam dados de agências de crédito, dados vazados de usuários, e mídias sociais para arruinar a vida das pessoas. Finalmente, há os hackers que reforçam seus ataques de “engenharia social” pela coleta de informações pessoais vazadas a fim de realizar falsas e convincentes representações que ludibriam seus alvos de forma a revelar informações que os permitam invadir redes vulneráveis.

Está na moda tratar as disfunções das mídias sociais como desfechar da ingenüidade dos primeiros tecnólogos, que não conseguiram prever esses resultados. A verdade é que a capacidade de construir serviços semelhantes ao Facebook é relativamente comum. O que era raro era a imprudência moral necessária para levar isso a cabo.

A questão é esta: sempre foi óbvio que, ao espionar os usuários da Internet, você poderia melhorar a eficácia da publicidade. Isso não é tanto porque a espionagem fornece discernimento fantástico sobre novas maneiras de convencer as pessoas a comprar produtos, mas sim uma homenagem ao quão ineficiente é o marketing. Quando a taxa de sucesso esperada de um anúncio está bem abaixo de um por cento, dobrar ou triplicar sua eficácia ainda deixa você com uma taxa de conversão de menos de um por cento.

Mas também ficou óbvio desde o início que acumular enormes dossiês sobre todos os que usavam a Internet, enquanto geraria ganhos mínimos para os anunciantes, poderia criar problemas reais para toda a sociedade, e que por comparação tornariam pífios tais ganhos.

É como se Mark Zuckerberg acordasse uma manhã e percebesse que os trapos oleosos que acumulava em sua oficina poderiam ser refinados para um óleo cru de baixo teor e baixo grau. Ninguém pagaria muito por esse óleo, mas havia muitos trapos oleosos, e desde que ninguém lhe pedisse para pagar pelos inevitáveis incêndios horríveis que resultariam do enchimento das garagens do mundo com trapos oleosos, ele poderia obter um lucro considerável.

Dez anos mais tarde, tudo está em chamas e estamos tentando dizer a Zuck e seus amigos que eles vão precisar pagar pelos danos e instalar os tipos de equipamentos de supressão de incêndio nos quais qualquer pessoa que esteja armazenando panos oleosos deveria ter investido desde o começo. Mas a indústria de vigilância comercial reluta absolutamente em contemplar qualquer coisa desse tipo.

Isso porque os dossiês de bilhões de pessoas possuem o poder de causar danos quase inimagináveis e, no entanto, cada dossiê traz apenas alguns dólares por ano. Para que a vigilância comercial seja rentável, é preciso socializar todos os riscos associados à vigilância em massa e privatizar todos os ganhos.

Há uma palavra antiquada para isso: corrupção. Em sistemas corruptos, alguns maus atores custam bilhões a todos os demais, a fim de gerar milhões – as economias que uma fábrica pode obter ao despejar a poluição no abastecimento de água são muito menores do que os custos que todos suportamos ao sermos envenenados por efluentes. Mas os custos são amplamente difusos, enquanto os ganhos são fortemente concentrados, de modo que os beneficiários da corrupção sempre podem gastar mais do que suas vítimas para permanecerem limpos.

O Facebook não tem um problema de controle mental, tem um problema de corrupção. A Cambridge Analytica não convenceu pessoas decentes a se tornarem racistas; convenceram os racistas a se tornarem eleitores.

Tradução por: Brent Longborough (@orelhoes)

Esta tradução está licenciada com uma Licença Creative Commons – Atribuição 4.0 Internacional.

Surveillance capitalism sucks: it improves the scattershot, low-performance success-rate of untargeted advertising (well below 1 percent) and doubles or triples it (to well below 1 percent!).
more