# O Livro em Poucos Parágrafos The Chaos Machine investiga como plataformas de mídia social como Facebook, YouTube e Twitter remodelaram fundamentalmente a psicologia individual, a dinâmica social e os eventos globais. O livro argumenta que essas plataformas não são condutos neutros, mas forças poderosas projetadas para [[Social media busca maximizar engajamento|maximizar engajamento]] acima de tudo. Este objetivo central impulsiona seus [[Algoritmos que impulsionam camaras de eco de extremismo|algoritmos]] a explorar o [[Poder de amplificação das redes sociais]], frequentemente promovendo conteúdo divisivo, extremo e emocionalmente carregado porque ele captura a atenção de forma mais eficaz. O autor, Max Fisher, explora como [[As ideologias do vale do silício estão embutidas na tecnologia]], combinadas com estratégias de negócios específicas como [[Estratégia de tarifa zero]] e a [[Estratégia de zero a um]] impulsionadas por [[Investidores-anjo impulsionando a disrupção]], criaram sistemas que manipulam o comportamento humano. O livro aprofunda os mecanismos psicológicos explorados, como [[Reforço variável inconsistente]], o [[Ciclo de feedback de validação social]], e nosso [[Sociômetro]] inato relacionado a [[Autoestima]]. Ele sugere que [[Redes sociais nos transformam]] profundamente, tornando os usuários sujeitos em [[Estamos em um experimento psicológico em andamento]] onde [[Consenso é internalizado como nosso]] e vieses cognitivos como o [[Efeito da verdade ilusória]] são amplificados. Além disso, o livro detalha as consequências sociais, argumentando que as plataformas contribuem significativamente para [[Falsa polarização]], [[Anomia]] e radicalização, sugerindo que [[Notícias falsas podem não ser o problema, mas sim a própria radicalização]]. Ele examina fenômenos como [[Indignação moral]], o poder das [[palavras moral-emocionais]], [[Trolar na internet]], [[Magia dos memes]], [[Swatting]] e [[Amplificação de propaganda]]. Conceitos como [[Ameaça de status]], [[Sentimento de direito lesado]], [[Desindividualização]], [[Envenenamento por ironia]] e a [[Tirania dos primos]] são explorados no contexto das interações online. O livro postula que o próprio design dessas plataformas, resumido em conceitos como [[Modelo MAD]], atua como uma [[Redes sociais são forças invisíveis|invisible force]] que distorce a realidade, alimenta conflitos e desestabiliza sociedades em todo o mundo, desafiando os primeiros ideais utópicos como os expressos em [[Declaração da independência do ciberespaço]]. Ele também observa como [[As demandas de grupos nas redes sociais são diferentes das de grupos tradicionais]], frequentemente carecendo de estrutura para ação coerente apesar da rápida mobilização. # Como Este Livro Me Mudou Eu li este livro porque estou realmente intrigado com a forma como as empresas de Mídia Social têm moldado diferentes culturas, impulsionando a economia da atenção a toda velocidade. É realmente incrível perceber que a maioria dos produtos digitais que impulsionam as mídias sociais foram apoiados desde o início do Vale do Silício. Para mim, o que se destacou neste livro é a ideia de que, em algum momento, as empresas de mídia social estavam indicando que estavam fazendo algo para combater a radicalização e as más consequências, enquanto na realidade não estavam nem perto de fazer isso. Isso foi particularmente verdadeiro para países menores e distantes dos Estados Unidos, como Mianmar e Sri Lanka. # Como Este Livro Me Mudou A leitura de The Chaos Machine surgiu de uma profunda curiosidade sobre como as plataformas de mídia social moldam ativamente as culturas, impulsionadas pela busca implacável da economia da atenção. Eu estava ciente da influência, mas este livro esclareceu a extensão em que as ideologias do Vale do Silício, incorporadas à tecnologia desde o início, ditaram a direção dessas ferramentas poderosas. O que realmente ressoou comigo, e mudou significativamente minha perspectiva, foi o forte contraste que o livro apresenta entre os esforços públicos de empresas como o Facebook para lidar com danos e suas prioridades operacionais reais. A ideia de que a mídia social busca maximizar o engajamento acima de tudo não é apenas uma estratégia de negócios; é a lógica central que impulsiona os algoritmos da maioria das empresas de mídia social. O livro ilustra poderosamente como esse foco levou a consequências devastadoras no mundo real, particularmente em lugares como Mianmar e Sri Lanka. Lá, as plataformas se expandiram rapidamente usando táticas como a [[Estratégia de tarifa zero]], mas falharam em investir adequadamente em segurança ou moderação, apesar dos avisos claros. Isso não foi mera supervisão; parecia uma consequência direta de uma fé inabalável no produto e de um sistema onde as métricas de engajamento tinham precedência sobre o custo humano. Além disso, o livro iluminou os _mecanismos_ pelos quais [[Redes sociais nos transformam]]. Compreender conceitos como o [[Ciclo de feedback de validação social]], [[Reforço variável inconsistente]] e a exploração do nosso [[Sociômetro]] inato me fez perceber a profundidade do experimento psicológico contínuo do qual todos fazemos parte. É inquietante compreender como as plataformas são projetadas para sequestrar necessidades humanas fundamentais de conexão e validação. Em última análise, The Chaos Machine solidificou meu entendimento de que a mídia social não é uma ferramenta neutra mal utilizada por indivíduos maliciosos, mas uma [[Redes sociais são forças invisíveis|invisible force]] com [[Poder de amplificação das redes sociais|amplification power]] inerente. Ela molda ativamente o comportamento, alimenta [[Falsa polarização]] e contribui para [[Anomia]] e radicalização, frequentemente como resultado direto de seu design central e modelo de negócios. Isso me tornou muito mais crítico em relação às informações que consumo online e à própria natureza da interação social digital. # Notas - [[As ideologias do vale do silício estão embutidas na tecnologia]] - [[A fé no produto das redes sociais é imquebrável]] - [[Poder de amplificação das redes sociais]] - [[Algoritmos que impulsionam camaras de eco de extremismo]] - [[Redes sociais nos transformam]] - [[Social media busca maximizar engajamento]] - [[Redes sociais são forças invisíveis]] - [[Ideologia do Vale do Silício]] - [[Consenso é internalizado como nosso]] - [[Reforço variável inconsistente]] - [[Autoestima]] - [[Sociômetro]] - [[Ciclo de feedback de validação social]] - [[Estratégia de tarifa zero]] - [[Swatting]] - [[Declaração da independência do ciberespaço]] - [[Nem em Educação, Emprego ou Formação|NEET]] - [[Trolar na internet]] - [[Ideia central do capitalismo dos Estados Unidos]] - [[Limite de Dunbar]] - [[Magia dos memes]] - [[Estamos em um experimento psicológico em andamento]] - [[Indignação moral]] - [[Sentimentalismo]] - [[Ostracismo social é prejudicial para nós]] - [[Nós nos auto-domesticamos]] - [[Lei de Moore]] - [[Faça isso sempre que puder para que os usuários participem]] - [[Efeito da verdade ilusória]] - [[Anomia]] - [[Notícias falsas podem não ser o problema, mas sim a própria radicalização]] - [[palavras moral-emocionais]] - [[Teoria do contato]] - [[Falsa polarização]] - [[Amplificação de propaganda]] - [[Modelo MAD]] - [[Estratégia de zero a um]] - [[Ameaça de status]] - [[Desindividualização]] - [[Envenenamento por ironia]] - [[Tirania dos primos]] - [[Sentimento de direito lesado]] - [[Investidores-anjo impulsionando a disrupção]] - [[As demandas de grupos nas redes sociais são diferentes das de grupos tradicionais]] # Meus 3 Principais Destaques - Esta tecnologia exerce uma atração tão poderosa sobre nossa psicologia e nossa identidade, e é tão onipresente em nossas vidas, que muda a forma como pensamos, nos comportamos e nos relacionamos uns com os outros. O efeito, multiplicado por bilhões de usuários, tem sido o de mudar a própria sociedade. - Em ecossistemas digitais fechados, onde os usuários controlam o fluxo de informações, as evidências que confirmam os vieses da comunidade podem parecer surgir por si mesmas, como um tabuleiro Ouija se movendo em direção às letras de uma palavra na mente de todos. - Cada um de nós se esforça, ainda que inconscientemente, para seguir os costumes sociais de nosso grupo. Mas tentar inferir essas normas nas mídias sociais era como estar dentro de uma casa de espelhos, onde certos comportamentos eram distorcidos para parecerem mais comuns e mais aceitos do que realmente eram. # Todos os Destaques (329) ENTRAR NA SEDE DO FACEBOOK pode parecer entrar no Vaticano: um centro de poder envolto em segredo e opulência que envergonharia um oligarca russo. - 60 ^ref-53281 --- Como muitos, eu inicialmente presumi que os perigos das mídias sociais vinham principalmente do uso indevido por maus atores – propagandistas, agentes estrangeiros, vendedores de notícias falsas – e que, na pior das hipóteses, as várias plataformas eram um conduto passivo para os problemas preexistentes da sociedade. Mas praticamente em todos os lugares que viajei em minhas reportagens, cobrindo déspotas distantes, guerras e levantes, eventos estranhos e extremos continuavam sendo ligados às mídias sociais. - 70 ^ref-57064 --- Mas, ao longo de alguns meses em 2017 e 2018, eles notaram que as postagens estavam se tornando mais odiosas, mais conspiratórias e mais extremas. E quanto mais incendiária a postagem, eles sentiam, mais amplamente as plataformas a espalhavam. Parecia-lhes um padrão, que se desenrolava simultaneamente nas dezenas de sociedades e idiomas que lhes cabia supervisionar. - 88 ^ref-13589 --- Mas, à medida que os manuais se mostravam inadequados para conter danos que muitas vezes eram gerados pela própria plataforma, e à medida que a supervisão corporativa dessa parte menos glamorosa do negócio se desviava, os guias mundiais se espalharam por centenas de páginas confusas e muitas vezes contraditórias. Algumas das mais importantes, sobre identificação de recrutamento terrorista ou supervisão de eleições contenciosas, estavam cheias de erros de digitação, erros factuais e lacunas óbvias. A desleixo e as lacunas sugeriam um perigoso descaso por um trabalho que Jacob via como uma questão de vida ou morte, e em um momento em que as plataformas estavam transbordando de extremismo que cada vez mais se infiltrava no mundo real. - 94 ^ref-60757 --- Eles dificilmente eram os hackers de porão e os desistentes sonhadores que outrora governavam as plataformas – embora mais tarde ficasse claro que as ideologias e preconceitos de dormitório dos primeiros dias do Vale do Silício ainda eram mantidos com convicção quase religiosa em seus campi, e permaneciam incorporados na própria tecnologia que empurrava esses mesmos ideais para o mundo em geral. - 115 ^ref-34086 Parece uma noção ingênua do mundo e uma mentalidade despreocupada --- Por que jornalistas como eu, que têm pouca visibilidade das operações das plataformas e uma fração infinitesimal de sua equipe ou orçamento, continuam encontrando atrocidades e cultos nascidos no Facebook que parecem pegá-los de surpresa? - 124 ^ref-33299 --- “Não há nada de novo nos tipos de abuso que você vê”, disse a chefe de política global da empresa quando perguntei sobre as consequências da plataforma. “O que é diferente aqui é o poder de amplificação de algo como uma plataforma de mídia social”, disse ela. “Como sociedade, ainda estamos bem no início da compreensão de todas as consequências das mídias sociais”, disse o chefe de segurança cibernética da empresa, sugerindo que a principal mudança provocada pela tecnologia foi simplesmente reduzir o “atrito” na comunicação, o que permitiu que as mensagens viajassem mais rápido e mais longe. - 127 ^ref-5558 --- Dentro das paredes com murais do Facebook, porém, a crença no produto como uma força para o bem parecia inabalável. O ideal central do Vale do Silício de que fazer as pessoas passarem cada vez mais tempo online enriquecerá suas mentes e melhorará o mundo se manteve especialmente firme entre os engenheiros que, em última análise, criam e moldam os produtos. - 147 ^ref-51265 Pelo que sei, isso não mudou. Aqueles que veem o problema parecem deixar a empresa --- Quaisquer riscos criados pela missão da plataforma de maximizar o engajamento do usuário seriam eliminados por engenharia, ela me garantiu. - 151 ^ref-28012 --- A pergunta que eu havia levado aos corredores do Facebook – quais são as consequências de rotear uma parcela cada vez maior de toda a política, informação e relações sociais humanas por meio de plataformas online expressamente projetadas para manipular a atenção? – era claramente tabu aqui. - 158 ^ref-52481 E provavelmente ainda é --- Eles revelaram salas de guerra de integridade eleitoral e políticas de revisão de conteúdo atualizadas. Mas seu modelo de negócios – manter as pessoas grudadas em suas plataformas o máximo de horas por dia possível – e a tecnologia subjacente implantada para atingir esse objetivo permaneceram em grande parte inalterados. - 163 ^ref-34344 --- Seus algoritmos e sistemas de recomendação estavam “levando as pessoas a câmaras de eco de extremismo que se auto-reforçam”, treinando-as para odiar. Talvez o mais condenatório, o relatório concluiu que a empresa não entendia como seus próprios produtos afetavam seus bilhões de usuários. - 170 ^ref-10210 --- Eles conduziram seu trabalho, pelo menos inicialmente, independentemente um do outro, buscando métodos muito diferentes para a mesma questão: quais são as consequências dessa tecnologia? Este livro é sobre a missão de responder a essa pergunta, contada em parte através das pessoas que a lideraram. - 177 ^ref-35914 --- Essa tecnologia exerce uma atração tão poderosa sobre nossa psicologia e nossa identidade, e é tão onipresente em nossas vidas, que muda a forma como pensamos, nos comportamos e nos relacionamos uns com os outros. O efeito, multiplicado por bilhões de usuários, tem sido o de mudar a própria sociedade. - 181 ^ref-32255 --- As consequências – embora em retrospectiva quase certamente previsíveis, se alguém tivesse se importado em olhar – foram obscurecidas por uma ideologia que dizia que mais tempo online criaria almas mais felizes e livres, e por uma vertente do capitalismo do Vale do Silício que capacita uma subcultura de engenharia contrária, impetuosa, quase milenarista, a gerenciar as empresas que gerenciam nossas mentes. - 188 ^ref-54231 --- “guerras de chamas” que tinham milhares de posts, e tudo sobre um tópico que ela raramente havia encontrado offline: vacinação. - 204 ^ref-24610 --- Mas os legisladores temiam o movimento antivacina extraordinariamente vocal – composto por jovens pais californianos tomados por paranoia e raiva – que parecia estar emergindo do Twitter, YouTube e Facebook. - 215 ^ref-12238 --- Sempre que ela digitava “vacina”, ou qualquer coisa tangencialmente conectada ao tópico, na ferramenta de segmentação de anúncios da plataforma, ela retornava grupos e tópicos que eram esmagadoramente opostos às vacinas. - 221 ^ref-30875 --- Logo, DiResta notou o Facebook fazendo algo estranho: enviando um fluxo de notificações instando-a a seguir outras páginas antivacina. “Se você entrasse no grupo antivacina”, disse ela, “era transformador”. Quase todas as recomendações relacionadas a vacinas promovidas a ela eram para conteúdo antivacina. “O motor de recomendação as empurrava e empurrava e empurrava.” - 227 ^ref-18761 --- A razão pela qual o sistema empurrava os _outliers_ conspiratórios com tanta força, ela percebeu, era o engajamento. As plataformas de mídia social exibiam qualquer conteúdo que seus sistemas automatizados concluíam que maximizaria a atividade dos usuários online, permitindo assim que a empresa vendesse mais anúncios. - 242 ^ref-56090 --- Para a IA que governa uma plataforma de mídia social, a conclusão é óbvia: mães interessadas em questões de saúde passarão muito mais tempo online se entrarem em grupos antivacina. - 247 ^ref-11132 --- Se ela estivesse certa, DiResta sabia, então o Facebook não estava apenas tolerando extremistas antivacina. Estava criando-os. - 249 ^ref-39101 --- Mas a tecnologia que construía esse movimento marginal era impulsionada por algo que nem mesmo o CEO da empresa conseguia superar: os costumes culturais e financeiros no cerne de toda a sua indústria. - 261 ^ref-49245 --- Departamentos de pesquisa universitária geralmente trabalham, pelo menos em teoria, em prol do bem maior. Stanford borrou a linha entre o trabalho acadêmico e o trabalho com fins lucrativos, um desenvolvimento que se tornou central para a visão de mundo do Vale do Silício, - 280 ^ref-13375 --- Galápagos de silício. Assim como a geologia peculiar e o isolamento extremo dessas ilhas produziram espécies únicas de pássaros e lagartos, as condições peculiares do Vale produziram formas de fazer negócios e de ver o mundo que não poderiam ter florescido em nenhum outro lugar – e levaram, em última análise, ao Facebook, YouTube e Twitter. - 284 ^ref-39887 --- Alguns, como Shockley, eram brilhantes, mas difíceis de trabalhar. Isso estabeleceu as startups do Vale, para sempre, como o domínio de desajustados autodidatas que ascendiam por puro mérito – um legado que levaria suas futuras gerações a elevar desistentes misantropos e a desculpar culturas corporativas tóxicas, no estilo Shockley, como de alguma forma essenciais ao modelo. - 295 ^ref-49095 --- Essa reserva de talento, dinheiro e tecnologia – os três ingredientes essenciais – seria mantida no Vale, e o resto do mundo seria mantido fora, por uma prática de financiamento incomum: o capital de risco. - 304 ^ref-14573 --- O arranjo ia além do dinheiro. Um capitalista de risco eficaz, para salvaguardar um investimento, muitas vezes assumiria um assento no conselho da empresa, ajudaria a selecionar a equipe executiva, e até mesmo orientaria pessoalmente o fundador. - 308 ^ref-49416 --- Isso significava que cada classe de engenheiros bem-sucedidos reificava suas forças, bem como seus preconceitos e pontos cegos, na próxima, como uma espécie isolada cujas características se tornam mais pronunciadas a cada geração subsequente. - 310 ^ref-55012 O viés seletivo é um grande problema neste lugar --- As consequências de seu modelo, em todas as suas peculiaridades, não se tornariam aparentes até que os sucessores de Shockley assumissem, na forma de gigantes das mídias sociais, o controle indireto sobre todos nós. Mas as primeiras indicações já estavam surgindo em meados dos anos 2000, quando o Vale do Silício começou a mexer com um pedaço de hardware mais complexo do que qualquer semicondutor ou computador: a mente humana. - 315 ^ref-44698 --- As duas vantagens competitivas do Facebook estavam começando a parecer passivos. Seu design limpo o tornava visualmente atraente, mas menos lucrativo do que o LiveJournal ou o Myspace, repletos de anúncios. E sua exclusividade para campi universitários havia lhe rendido uma grande fatia de um mercado que era limitado e com pouco dinheiro. - 324 ^ref-4338 --- A segunda parte de seu plano de duas partes era, eventualmente, abrir o Facebook para qualquer pessoa. - 333 ^ref-56753 --- Ele reformularia a página inicial do Facebook para mostrar a cada usuário um feed personalizado do que seus amigos estavam fazendo no site. - 334 ^ref-51743 --- Quando as pessoas pensam que algo se tornou uma questão de consenso, psicólogos descobriram, elas tendem não apenas a concordar, mas a internalizar esse sentimento como seu próprio. - 346 ^ref-53753 --- Essa amplificação digital enganou os usuários do Facebook, e até mesmo sua liderança, fazendo-os perceber erroneamente as vozes mais altas da plataforma como representando a todos, transformando um lampejo de raiva em um incêndio. - 351 ^ref-43074 --- Em uma indústria onde o engajamento do usuário é a principal métrica de sucesso, e em uma empresa ansiosa para provar que recusar a oferta de um bilhão de dólares do Yahoo havia sido mais do que arrogância, as distorções do feed de notícias não eram apenas toleradas, elas eram abraçadas. - 353 ^ref-10439 --- Pela primeira vez, os 200 milhões de americanos com uma conta ativa no Facebook passaram, em média, mais tempo na plataforma (quarenta minutos por dia) do que socializando pessoalmente (trinta e oito minutos). - 362 ^ref-60337 --- Muito depois de o potencial de dano de sua tecnologia ter sido esclarecido, as empresas alegariam apenas servir, e nunca moldar ou manipular, os desejos de seus usuários. Mas a manipulação havia sido incorporada aos produtos desde o início. - 369 ^ref-60466 --- Ele chamou isso de “ciclo de feedback de validação social”, dizendo que era “exatamente o tipo de coisa que um hacker como eu criaria, porque você está explorando uma vulnerabilidade na psicologia humana”. Ele e Zuckerberg “entenderam isso” desde o início, disse ele, e “fizemos isso de qualquer maneira”. - 384 ^ref-41009 --- Ele é projetado para responder a cada uma de suas ações com feedback visual, auditivo e tátil. Um _ping_ quando você insere uma moeda. Um _ka-chunk_ quando você puxa a alavanca. Um flash de luz colorida quando você a solta. Isso é conhecido como condicionamento pavloviano, - 393 ^ref-4239 --- Aplicativos sociais sequestram uma compulsão – a necessidade de se conectar – que pode ser ainda mais poderosa do que a fome ou a ganância. - 405 ^ref-50922 --- reforço variável intermitente. O conceito, embora pareça esotérico, é diabolicamente simples. O psicólogo B. F. Skinner descobriu que, se ele atribuísse a um sujeito humano uma tarefa repetível – resolver um quebra-cabeça simples, por exemplo – e a recompensasse toda vez que ela a completasse, ela geralmente obedeceria, mas pararia logo depois que ele parasse de recompensá-la. Mas se ele distribuísse a recompensa apenas às vezes, e randomizasse seu tamanho, então ela completaria a tarefa de forma muito mais consistente, até mesmo obstinadamente. - 410 ^ref-51846 --- ligação traumática. O parceiro vitimizado se vê buscando compulsivamente uma resposta positiva, como um jogador alimentando uma máquina caça-níqueis, ou um viciado em Facebook incapaz de sair da plataforma – mesmo que, para muitos, isso só os torne mais solitários. - 419 ^ref-13407 --- Além disso, embora postar nas mídias sociais possa parecer uma interação genuína entre você e uma audiência, há uma diferença crucial e invisível. Online, a plataforma atua como um intermediário invisível. Ela decide quais de seus comentários distribuir para quem, e em que contexto. - 421 ^ref-54024 --- sociômetro. O conceito surgiu de uma pergunta feita pelo psicólogo Mark Leary: qual é o propósito da autoestima? A angústia que sentimos com a baixa autoestima é totalmente autogerada. Não teríamos desenvolvido uma vulnerabilidade tão incomum e dolorosa, raciocinou Leary, a menos que ela fornecesse algum benefício que superasse seus tremendos custos psíquicos. Sua teoria, agora amplamente aceita, - 445 ^ref-64355 --- a autoestima é, de fato, “um medidor psicológico do grau em que as pessoas percebem que são valorizadas relacionalmente e socialmente aceitas por outras pessoas”. - 447 ^ref-46016 --- Ao longo de milhões de anos, essas pressões selecionaram pessoas sensíveis e hábeis em maximizar sua posição. É o que o antropólogo Brian Hare chamou de “sobrevivência dos mais amigáveis”. - 452 ^ref-27666 --- O resultado foi o desenvolvimento de um sociômetro: uma tendência a monitorar inconscientemente como outras pessoas em nossa comunidade parecem nos perceber. - 454 ^ref-59885 --- O recurso “Curtir” do Facebook, alguma versão do qual agora existe em todas as plataformas, é o equivalente a uma bateria de carro conectada a esse sociômetro. - 458 ^ref-43975 --- Além disso, as plataformas adicionaram um toque poderoso: um contador na parte inferior de cada postagem indicando o número de curtidas, retuítes ou votos positivos que havia recebido – uma quantificação contínua da aprovação social para cada e toda declaração. - 464 ^ref-56439 --- Para a maioria de nós, o processo é mais sutil. Em vez de comprar anúncios no Facebook, modificamos nossas postagens e comentários diários para manter a dopamina fluindo, geralmente sem perceber que o fizemos. Este é o verdadeiro “ciclo de feedback de validação social”, como Sean Parker o chamou: perseguir inconscientemente a aprovação de um sistema automatizado projetado para usar nossas necessidades contra nós. - 484 ^ref-27739 --- a força mais poderosa nas mídias sociais é a identidade. É o estímulo que melhor se desempenha nos sistemas da tecnologia e que seus sistemas são, portanto, projetados para ativar e gerar acima de tudo. - 492 ^ref-25392 --- Nosso senso de identidade deriva em grande parte de nossa participação em grupos. - 496 ^ref-9480 --- A identidade social, demonstrou Tajfel, é como nos ligamos ao grupo e eles a nós. - 506 ^ref-18310 --- Nosso impulso para cultivar uma identidade compartilhada é tão poderoso que construiremos uma mesmo do nada. - 509 ^ref-26214 --- A sobrevivência de um grupo pode exigir a derrota de outro. Por causa disso, os instintos de identidade social nos levam a desconfiar e, se necessário, a nos unir contra membros de grupos externos. - 517 ^ref-43822 --- Esses são instintos profundamente sociais, então as plataformas de mídia social, ao transformar cada toque ou deslize em um ato social, os revelam de forma confiável. E como as plataformas elevam quaisquer sentimentos que melhor geram engajamento, elas frequentemente produzem esses instintos em sua forma mais extrema. O resultado pode ser uma realidade artificial em que o grupo interno é sempre virtuoso, mas sitiado, o grupo externo é sempre uma ameaça aterrorizante, e praticamente tudo o que acontece é uma questão de nós contra eles. - 522 ^ref-23384 --- Uma indústria desesperada tomou nota. Organizações inteiras surgiram ou se reorganizaram em torno da busca pela viralidade. - 532 ^ref-47409 --- Os líderes de Mianmar também acreditavam na visão do Vale do Silício. Um jornal estatal advertiu seus cidadãos que “uma pessoa sem identidade no Facebook é como uma pessoa sem endereço residencial”. - 560 ^ref-41114 O quê???? --- Para superar esse obstáculo e, assim, vencer a corrida para capturar os dois ou três bilhões de clientes mais pobres do mundo, o Facebook e outras empresas de tecnologia americanas começaram a “zero-rating” – essencialmente, subsidiando toda a população ao fechar acordos com operadoras locais para isentar as cobranças por quaisquer dados usados por meio dos aplicativos dessas empresas. - 565 ^ref-25937 --- Wirathu. O monge budista havia sido preso por seus sermões cheios de ódio na última década e acabara de ser libertado como parte de uma anistia geral. Ele imediatamente se juntou ao Facebook e ao YouTube. Agora, em vez de viajar pelo país de templo em templo para espalhar o ódio, ele usava as plataformas para alcançar grande parte do país, talvez várias vezes por dia. - 577 ^ref-37372 --- No dia seguinte, funcionários do Facebook finalmente responderam ao representante da Deloitte, não para perguntar sobre a violência, mas para saber se ele sabia por que a plataforma havia sido bloqueada. - 594 ^ref-30645 --- Ele se ancorou inteiramente em um credo do Vale do Silício que se autoenriquece, que Schmidt havia recitado naquela primeira visita a Yangon: “A resposta para o discurso ruim é mais discurso. Mais comunicação, mais vozes.” - 601 ^ref-1104 Isso é semelhante à noção ingênua de informação escrita por Harari --- Gjoni alegou que ela havia dormido com um revisor de videogame em troca de cobertura positiva de Depression Quest. Sua acusação foi facilmente desmascarada; a resenha supostamente obtida ilegalmente nem sequer existia. Mas a verdade mal importava. - 619 ^ref-5896 --- A postagem de Gjoni também foi interpretada como um incentivo à justiça bruta frequentemente adotada na web social: o assédio coletivo. - 623 ^ref-65246 --- Também lançou um novo tipo de política, definida pelas características fundamentais das mídias sociais: uma cultura digital construída em torno de jovens niilistas, sonhos do Vale do Silício de revolução destrutiva e plataformas projetadas de forma a superalimentar a identidade em uma questão de conflito totalizante e existencial. - 638 ^ref-14397 --- Entre analistas e jornalistas que tentaram entender essa nova era, quando as regras que governavam a web social passaram a nos governar a todos, uma abreviação se consolidou: “tudo é Gamergate”. - 643 ^ref-44086 --- Um método preferido era o “swatting” – ligar para o 911 com histórias de uma tomada de reféns na casa do alvo para provocar, muitas vezes com sucesso, uma incursão da equipe SWAT que, na confusão, poderia terminar com a polícia atirando no alvo ou em sua família. - 654 ^ref-8655 --- As empresas menos responsivas foram o Facebook, que não se engajaria com ela de forma alguma, e o Reddit, um dos lugares onde o Gamergate havia começado. Quanto mais Wu interagia com os operadores da plataforma ou explorava o veneno que emanava de seus sites, mais ela suspeitava de um perigo maior. - 684 ^ref-22979 --- Gamergate anunciou nossa nova era, da vida americana moldada pelos incentivos e regras das mídias sociais, a partir de plataformas logo além dos limites da sociedade _mainstream_. Em poucos anos, essas plataformas transformariam o Gamergate e seus desdobramentos em movimentos nacionais, os levariam para as casas de milhões de recém-chegados digitais e os mobilizariam em um movimento que, muito em breve, chegaria à Casa Branca. - 695 ^ref-28321 --- A conversa sobre a quebra de estruturas de poder era, a princípio, principalmente retórica. Mas um punhado de zelotes construiu esses ideais, levados a um extremo quase milenarista, em algo que chamaram de WELL, a primeira rede social de real consequência. - 727 ^ref-44073 --- Whole Earth ’Lectronic Link, ou WELL. - 736 ^ref-13117 --- Os fundadores do site o imaginaram como a realização de seus sonhos de uma utopia anarquista. A quase ausência de regras, eles acreditavam, levaria a uma comunidade autogovernada na qual as ideias surgiriam ou cairiam por mérito. - 738 ^ref-51191 --- O debate ruidoso passou a ser visto como a mais pura meritocracia: se você não conseguisse se virar ou conquistar a multidão, se se sentisse assediado ou indesejado, era porque suas ideias não haviam prevalecido por mérito. - 742 ^ref-13547 O quê?! --- Em 1996, um ex-membro do conselho da WELL escreveu o documento que definiu a era da web, “Uma Declaração de Independência do Ciberespaço”. - 747 ^ref-59826 --- O manifesto consagrou um ideal em particular: a total liberdade de expressão. Assim como na WELL, este seria o mecanismo da web para o autogoverno, o primeiro mandamento e o maior presente para o mundo. - 752 ^ref-1322 --- Mas esse idealismo – a crença de que as startups que conquistassem mais usuários poderiam e deveriam refazer toda a sociedade – refletia uma arrogância que se mostraria catastrófica. - 762 ^ref-53424 --- Mas ainda mais importante do que a crença do Vale em uma grande missão era o tipo de engenheiros que seus investidores elevaram para liderar sua revolução, e à imagem dos quais o mundo seria refeito. - 767 ^ref-34954 --- Na maioria das indústrias, tais peculiaridades seriam diluídas, com o tempo, por novas chegadas e gerações subsequentes. Mas, como acontece tão frequentemente no Vale, a força oculta por trás de tudo, definindo tanto a cultura quanto a economia, era o capital de risco. A prática de engenheiros se tornando VCs que escolhem a próxima geração de engenheiros dominantes manteve o pool genético ideológico incestuosamente estreito. - 784 ^ref-46539 Este parece ser o ponto principal para entender o que aconteceu no Vale do Silício --- Este, mais do que raça ou gênero sozinhos, era o arquétipo rígido em torno do qual o Vale projetou seus produtos: geeks brancos, masculinos, implacáveis, lógicos e misantropos. - 799 ^ref-60326 --- E as normas e valores que eles codificaram na web inicial acabaram guiando seus milhões de primeiros usuários para algo muito diferente da utopia igualitária que eles haviam imaginado. - 807 ^ref-41384 --- “Eu sou um NEET, meu caro”, disse ele, usando um termo do governo britânico para alguém “não empregado, em educação ou treinamento” que, online, se tornou um autoidentificador para aqueles que se sentem deixados para trás. - 833 ^ref-49470 --- A promessa de total liberdade da internet atraiu especialmente as crianças, para quem a vida offline é governada por pais e professores. - 846 ^ref-17364 --- Adolescentes também têm um impulso mais forte para socializar do que adultos, o que se manifesta como um uso mais intenso de redes sociais e uma maior sensibilidade ao que acontece lá. - 847 ^ref-34562 --- Adam disse, “vem do ato de ultrapassar limites e expandir seu alcance para lugares mais _mainstream_ que parecem intocáveis”. Vencer um mundo que os tratava como párias. - 856 ^ref-54511 --- Transgredir tabus cada vez maiores – até mesmo contra a crueldade com pais enlutados – tornou-se uma forma de sinalizar que você estava por dentro da piada. - 861 ^ref-38159 --- Rir do material – ou, melhor ainda, superá-lo – afirmava que você compartilhava o desapego cínico e conhecedor do clube. E isso reformulou o relacionamento deles com o mundo exterior: não é a sociedade nos rejeitando, somos nós rejeitando a sociedade. - 864 ^ref-62087 --- Essas duas atividades unificadoras, ostentar tabus e pregar peças, convergiram para se tornar o _trolling_. - 866 ^ref-55998 --- Um fórum de mensagens dos anos 90 definiu _trolling_ como postar comentários “sem outro propósito senão incomodar alguém ou atrapalhar uma discussão”, possivelmente nomeado em homenagem a “um estilo de pesca em que se arrasta uma isca por um local provável na esperança de uma mordida”. - 867 ^ref-10980 --- O sonho do Vale do Silício de liberdade de leis e hierarquias tornou-se, online, liberdade de códigos sociais e morais também. - 872 ^ref-28295 --- A maioria das plataformas é construída em torno de uma crença supostamente neutra de que a atenção indica valor. - 874 ^ref-41406 --- Uma lição se mantém consistentemente. Para se destacar entre dezenas de milhares de vozes, independentemente do que você posta, é melhor aumentar o volume, ser mais extremo. - 880 ^ref-36467 --- A falta de vergonha era característica; usuários do 4chan “regularmente enquadravam sua atividade como uma espécie de serviço público”, escreveram as teóricas culturais Whitney Phillips e Ryan Milner. Eles se viam como baseados na missão fundadora da web social: derrubar os velhos e quebrados modos e substituí-los por um mundo de liberdade de expressão auto-policiada e pensamento impiedosamente independente. - 896 ^ref-35069 --- A cultura Chan, expressa em memes e piadas internas agora tão reconhecíveis quanto o Mickey Mouse, infundiu as plataformas, cujos recursos e algoritmos de maximização de engajamento absorveram e reificaram suas tendências mais extremas, e então as amplificaram para um mundo que não tinha ideia do que estava por vir. - 926 ^ref-63688 --- Gordon disse em uma conferência da indústria alguns meses depois que havia “três temas que vocês, CEOs, precisam dominar”, listando mobile, social e, com um soco no ar, “gamificação”. - 935 ^ref-60993 --- Explorar nossas necessidades psicológicas mais profundas, e então nos treinar para persegui-las através do consumo comercial que nos deixará insatisfeitos e voltando para mais, tem sido central para o capitalismo americano desde o boom do pós-guerra. - 948 ^ref-49112 E parece que isso tem se espalhado mais rápido do que pensamos --- o chamado limite de Dunbar. O antropólogo britânico Robin Dunbar propôs, na década de 1990, que os humanos são cognitivamente limitados a manter cerca de 150 relacionamentos. Era um número derivado dos grupos sociais máximos de 150 pessoas nos quais evoluímos. - 991 ^ref-19390 --- Os usuários eram direcionados a conteúdo do que o Facebook chamava de “laços fracos”: amigos de amigos, contatos de contatos, primos de primos. - 998 ^ref-33994 E, no entanto, temos que aprofundar para notar que a maioria das pessoas que seguimos não são próximas a nós. --- “Existe esse efeito de correlação de conspiração”, disse DiResta, “no qual a plataforma reconhece que alguém interessado na conspiração A geralmente tende a se interessar pela conspiração B, e a exibe para eles”. - 018 ^ref-31081 --- A lógica algorítmica era sólida, até brilhante. A radicalização é um processo obsessivo e que consome a vida. Os crentes voltam repetidamente, sua obsessão se tornando uma identidade, com as plataformas de mídia social no centro de suas vidas diárias. - 026 ^ref-33689 --- Gamergate, sob essa ótica, parecia quase inevitável, precisamente o que aconteceria quando os primeiros usuários da web social, os gamers, interagissem com uma máquina habilmente calibrada para produzir exatamente essa resposta. Comunidades maiores e mais _mainstream_, pessoas comuns sem apego especial à web, já estavam migrando para o online, submetendo-se à influência da máquina. Havia todas as razões para esperar que sua experiência fosse muito semelhante. No início de 2015, isso já estava começando. - 038 ^ref-24084 --- Ainda assim, o Reddit foi construído e governado em torno dos mesmos ideais da internet primitiva que o 4chan, e havia absorvido os usuários e tiques culturais dessa plataforma. Sua votação para cima ou para baixo impunha um majoritarismo eclipsante que levava as coisas ainda mais longe. - 058 ^ref-31981 --- Isso refletia, Pao havia argumentado, um viés ainda mais específico entre os investidores em tecnologia, um que favorecia não apenas homens brancos, mas contrários idealistas com políticas libertárias; - 072 ^ref-37583 O viés era ainda mais específico. --- “Todo mundo estava falando sobre isso”, disse Pao. Pessoas nas notícias, no Vale, em sua vida pessoal. E isso, em última análise, foi o que fez a diferença. Não foi a crescente pressão pública e legal, ou as vítimas implorando às plataformas de mídia social para não permitir essa violação de suas vidas e corpos. - 088 ^ref-22287 Só quando todo mundo começa a falar sobre isso é que eles olham para isso. --- Ele anunciou em uma postagem que, embora os líderes do Reddit “entendam o dano que o uso indevido de nosso site causa às vítimas desse roubo”, eles não cederiam. O Reddit, ele escreveu, não era apenas uma plataforma social “mas o governo de um novo tipo de comunidade”. Como muitos outros operadores de plataforma que viriam, no entanto, ele deixou claro que o seu era um governo que se recusava a governar, deixando para os próprios usuários “escolher entre o certo e o errado, o bem e o mal”. - 100 ^ref-10310 --- Ele intitulou sua postagem “Cada Homem É Responsável por Sua Própria Alma”. Isso se tornaria uma defesa padrão dos senhores das mídias sociais: que a importância de sua revolução os obrigava a desconsiderar as leis e morais mesquinhas do mundo offline antiquado. Além disso, qualquer mau comportamento era culpa dos usuários, não importa quão crucial fosse o papel da plataforma em permitir, encorajar e lucrar com essas transgressões. - 103 ^ref-59540 --- Pao também estava testando uma teoria: que as vozes mais odiosas, embora poucas em número, exploravam a tendência das mídias sociais de amplificar conteúdo extremo por seu poder de atrair atenção, tingindo toda a plataforma no processo. - 135 ^ref-45089 --- Essa sequência de episódios – Gamergate, os fóruns de ódio, a reação a Pao – abalou a web social, mas, estranhamente, não seus supervisores, que não deram sinais de perceber o quão profundamente a cultura do extremismo e do majoritarismo da multidão havia se infiltrado na web social. - 153 ^ref-14020 --- “Os _trolls_ estão vencendo”, escreveu Pao em um artigo de opinião no Washington Post alguns dias depois. Os ideais fundamentais da internet, embora nobres, levaram as empresas de tecnologia a abraçar uma interpretação estreita e extrema da liberdade de expressão que se mostrava perigosa, ela alertou. Ela durou apenas oito meses. - 166 ^ref-26506 --- Um buscador de atenção descarado, ele absorvia quaisquer mensagens que parecessem dominantes online, as exagerava em alguns graus e depois as postava de volta nas mesmas plataformas. Ele era um algoritmo de mídia social vivo e respirante que também podia aparecer em painéis de programas de TV a cabo. - 190 ^ref-19338 --- “Eles chamam de ‘magia dos memes’ – quando memes da web antes obscuros se tornam tão influentes que começam a afetar eventos do mundo real”, escreveu Yiannopoulos naquele verão antes da eleição. - 209 ^ref-53276 --- O movimento se uniu em torno de Trump, que havia convergido para os mesmos tiques e táticas de Yiannopoulos e outras estrelas do Gamergate, e aparentemente pela mesma razão: era o que as mídias sociais recompensavam. - 216 ^ref-15191 --- Se você lia regularmente o Facebook para notícias em 2016 – o que 43% dos americanos faziam naquele ano – você provavelmente estava lendo o Breitbart. - 225 ^ref-46258 --- O estudo concluiu que “mídias altamente partidárias” que disseminavam desinformação e “sites de clickbait político hiperpartidários impulsionados pelo Facebook” eram ambos endêmicos em 2016, uma tendência que “desempenhou um papel muito maior na direita do que na esquerda”. - 244 ^ref-36592 --- Uma das subseções mais populares do Reddit na época era _worldnews_, um repositório de relatórios globais e notícias de agências. Com os usuários postando mais de mil links por dia, subir para os primeiros lugares da página geralmente exigia uma descrição projetada para provocar uma emoção intensa. - 272 ^ref-43877 E isso é particularmente perigoso --- Inconscientemente seguindo os incentivos da plataforma, os usuários a preencheram com posts sobre Cecil, cada rodada escalando as apostas emocionais. A morte do leão foi uma perda triste, depois um golpe devastador para os amantes de animais em todos os lugares, depois um crime enfurecedor. O caçador era um covarde gordo, depois um assassino ensanguentado, e então considerado “com doença mental ou uma forma de psicopatia”. - 282 ^ref-39180 --- À medida que mais eventos mundiais se desenrolavam ao vivo no Twitter, qualquer pessoa que se importasse com as notícias ou estivesse envolvida em produzi-las se juntava. Ele mudou de um serviço de mensagens em grupo para uma plataforma de posts curtos e públicos: um microblog onde milhões transmitiam, discutiam e debatiam coletivamente as maquinações políticas do dia ou o episódio de Game of Thrones. - 296 ^ref-18108 As coisas ficam confusas e complexas rapidamente --- Quando as plataformas se tornam um coro consensual de “Peguem-no”, a ação geralmente segue. - 308 ^ref-7938 --- Tudo impulsionado pela viralidade das mídias sociais. Então, um dia, a febre passou e todos seguiram em frente. - 315 ^ref-31346 --- O ritmo crescente desses colapsos que tudo consomem, talvez um por semana, indicava que as mídias sociais não estavam apenas influenciando a cultura mais ampla, mas, em certa medida, suplantando-a, - 323 ^ref-1980 --- A filosofia moral, antes um domínio de pensadores, estava se tornando mais empírica, aproveitando a ciência dura em busca da verdadeira natureza da moralidade. Suas descobertas sugeriam uma explicação para o comportamento de Brady. Ficar furioso em sua mesa ou disparar um insulto parecia mais ruim do que bom. Mas quando suas expressões de indignação atraíam atenção online, especialmente encorajamento de outros com a mesma mentalidade, a sensação era viciante. - 335 ^ref-35388 --- Em certo sentido, disse ele, todos os usuários estão simultaneamente conduzindo e servindo como sujeitos de um experimento psicológico interminável. As pessoas, via de regra, estão atentas e se adaptam ao feedback social, um impulso que curtidas e compartilhamentos digitais exploram. - 340 ^ref-6138 --- A indignação é um coquetel emocional simples: raiva mais nojo. A indignação moral é um instinto social. - 345 ^ref-7763 --- Isso exigia um código de conduta compartilhado. Mas como fazer com que todos internalizem e sigam esse código? A indignação moral é a adaptação de nossa espécie para esse desafio. Quando você vê alguém violando uma norma importante, você fica com raiva. Você quer vê-los punidos. E você se sente compelido a transmitir essa raiva, para que outros também vejam a violação e queiram se juntar à vergonha, e talvez à punição, do transgressor. - 347 ^ref-1939 --- Foi a confirmação de que a indignação moral não é apenas raiva contra um transgressor. É um desejo de ver toda a comunidade se alinhar contra eles. - 353 ^ref-59295 --- sentimentalismo. “É essa ideia de que nosso senso de moralidade está interligado e talvez até impulsionado por nossas respostas emocionais”, disse ele. “O que é contra essa ideia mais antiga de que os humanos são muito racionais quando se trata de moralidade.” - 356 ^ref-41662 --- O sentimentalismo diz que é realmente motivado por impulsos sociais como conformidade e gerenciamento de reputação (lembra do sociômetro?), que experimentamos como emoção. - 358 ^ref-14684 --- Ela reconheceu para si mesma, pela primeira vez, o quanto de sua experiência nas mídias sociais era organizada em torno de provocar ou participar de campanhas de humilhação pública. Algumas duravam semanas e outras alguns minutos. Algumas estavam a serviço de uma causa importante, ou assim ela dizia a si mesma, outras apenas porque alguém a havia irritado. - 373 ^ref-56667 --- “Hoje, é mais fácil do que nunca”, escreveu Klonick, “usar a humilhação para impor as chamadas normas sociais, e é mais fácil do que nunca para a humilhação sair do controle”. - 401 ^ref-4378 --- Mas, quando a verdade veio à tona, em um longo relatório de um escritório de advocacia terceirizado que a universidade havia contratado, a versão dos eventos do Facebook, calcificada por uma efusão de profunda emoção coletiva, já havia se solidificado na mente das pessoas. - 434 ^ref-35327 --- A verdade ou falsidade tem pouca influência na recepção de uma postagem, exceto na medida em que um mentiroso é mais livre para alterar fatos para se conformar a uma narrativa que provoca emoções. - 441 ^ref-16271 --- Para seus alvos, o dano, merecido ou não, é real e duradouro. Nossos cérebros processam o ostracismo social como, literalmente, dor. Ser evitado dói pela mesma razão que uma faca perfurando sua pele dói: você evoluiu para experimentar ambos como ameaças mortais. - 450 ^ref-14704 --- Trut estudou os animais por meio século, finalmente descobrindo o segredo da domesticação: as células da crista neural. - 472 ^ref-29270 --- Com as descobertas de Trut, a razão ficou subitamente clara. Esses eram os marcadores de uma queda repentina nas células da crista neural – da domesticação. - 483 ^ref-4170 --- Todos os grandes símios desprezam os _bullies_. Chimpanzés, por exemplo, mostram tratamento preferencial a colegas que são gentis com eles e desfavorecem aqueles que são cruéis. - 488 ^ref-62250 --- Toda vez que um clã humano antigo derrubava um alfa despótico, eles estavam fazendo a mesma coisa que Lyudmila Trut fez com suas raposas: selecionando a docilidade. Machos mais cooperativos se reproduziam, os agressivos não. Nós nos autodomesticamos. - 493 ^ref-6571 --- Mas, assim como os primeiros humanos estavam eliminando uma forma de agressão, eles estavam selecionando outra: a violência coletiva que usaram tanto para derrubar os alfas quanto para impor uma nova ordem em seu lugar. - 495 ^ref-46034 --- A indignação moral, quando ganha impulso suficiente, torna-se o que Wrangham chama de agressão “proativa” e “coalizional” – coloquialmente conhecida como uma multidão. - 503 ^ref-25324 --- Exames cerebrais mostram que, quando os sujeitos prejudicam alguém que acreditam ser um agressor moral, seus centros de recompensa de dopamina são ativados. - 513 ^ref-40226 --- As plataformas sociais são anormalmente ricas em fontes de indignação moral; sempre há um tuíte ou um desenvolvimento de notícias para se irritar, juntamente com muitos usuários para destacá-lo para uma audiência potencial de milhões. - 518 ^ref-31231 --- Isso cria poderosos incentivos para o que os filósofos Justin Tosi e Brandon Warmke chamaram de “exibicionismo moral” – mostrar que você está mais indignado e, portanto, mais moral do que todos os outros. - 520 ^ref-35781 --- Todas eram falsas. Mas o viés extremo da plataforma em relação à indignação significava que a desinformação prevalecia, o que criava demanda por mais rumores e mentiras que confirmassem a indignação. - 534 ^ref-44060 --- Tal raiva cria um impulso, às vezes avassalador, para encontrar alguém para punir. Em um experimento perturbador, os sujeitos foram solicitados a atribuir uma punição para a transgressão moral de outra pessoa. Eles se tornaram mais severos quando levados a acreditar que estavam sendo observados, ainda mais severos quando lhes disseram que sua audiência era altamente política ou ideológica. Muitos aumentaram a punição mesmo que achassem que sua vítima não a merecia. Sua motivação era simples: eles esperavam que a crueldade os fizesse ser mais apreciados pelos observadores. - 538 ^ref-13489 --- O efeito escala; as pessoas expressam mais indignação e demonstram mais disposição para punir os que não merecem, quando pensam que sua audiência é maior. E não há audiência maior na Terra do que o Twitter ou o Facebook. - 541 ^ref-31527 --- Foi justiça, tanto para Christian Cooper quanto para estabelecer que tal comportamento seria rapidamente punido. E focou a atenção necessária no poder que a violência policial dá a qualquer pessoa branca com um celular para ameaçar a vida de uma pessoa negra. Mas o Twitter também levou essa justiça exatamente até onde os usuários mais raivosos do site queriam levar sua raiva algoritmicamente encorajada. - 572 ^ref-43551 --- Qualquer sistema de justiça tem vieses, pontos cegos e excessos. - 580 ^ref-14602 --- A mudança não foi a sociedade de repente se tornando mais justa ou o surgimento da chamada cultura do cancelamento; foi a chegada de uma tecnologia tão ubíqua, tão arraigada em nossa própria cognição, que alterou a forma como a moralidade e a justiça funcionam. - 592 ^ref-42796 --- Alguns repórteres entrevistaram Dillard, que parecia confuso e incoerente, não um mestre manipulador ou gênio cínico. Ele simplesmente havia aprendido, ao longo de algumas iterações, qual combinação de palavras e imagens lhe renderia validação e atenção na maior máquina geradora de indignação da história. As plataformas fizeram o resto. - 616 ^ref-10904 --- um especialista em IA do Google tentou desvendar um dos maiores segredos abertos de sua indústria: ninguém sabe exatamente como os algoritmos que governam as mídias sociais realmente funcionam. - 634 ^ref-6563 --- e a equipe de liderança do YouTube”, Goodrow escreveu mais tarde. “Assunto: ‘Tempo de exibição, e apenas tempo de exibição.’ Foi um chamado para repensar como medíamos o sucesso.” - 648 ^ref-19855 --- Mas Goodrow argumentou que o YouTube deveria promover o segundo. “Nosso trabalho era manter as pessoas engajadas e conosco”, escreveu ele. Dê aos usuários um vídeo longo que eles não vão querer desligar, depois outro, depois outro. Mais tempo de exibição “gera mais publicidade, o que incentiva mais criadores de conteúdo, o que atrai mais espectadores”, argumentou ele. Seus chefes concordaram. - 652 ^ref-9355 --- melhor do que escrever um programa para pegar spam. Eles projetaram um programa que guiaria sua própria evolução. Alimentaram esse programa com grandes conjuntos de e-mails de spam e não-spam. O sistema então construiu automaticamente milhares de filtros de spam, todos ligeiramente diferentes, e testou cada um nos e-mails de amostra. Em seguida, construiu uma nova geração de filtros de spam com base nos melhores desempenhos e repetiu o processo, repetidamente, como um botânico identificando e cruzando as plantas mais resistentes. Estava evoluindo, e em velocidade de dobra, até produzir uma variação de si mesmo tão sofisticada e poderosa que poderia fazer o que nenhum filtro projetado por humanos poderia: identificar e bloquear proativamente quase todo o spam. - 668 ^ref-31882 --- Assim que o vídeo que você está assistindo termina, o sistema até mesmo escolherá um desses para reproduzir automaticamente em seguida. Cada um é selecionado entre bilhões de vídeos do YouTube por uma IA corporativa abreviada como “o algoritmo” – um dos sistemas de aprendizado de máquina mais poderosos em tecnologia de consumo. - 679 ^ref-10396 --- O sistema do YouTube busca algo muito mais abrangente do que uma taxa de assinatura mensal. Seu olho que tudo vê rastreia cada detalhe do que você assiste, por quanto tempo você assiste, no que você clica em seguida. Ele monitora isso em dois bilhões de usuários, acumulando o que é certamente o maior conjunto de dados sobre preferências de espectadores já reunido, que ele constantemente escaneia em busca de padrões. Chaslot e outros ajustaram o sistema à medida que ele avançava, impulsionando seu processo de aprendizado para melhor cumprir seu objetivo: tempo máximo de exibição. - 689 ^ref-36420 --- Uma das ferramentas mais poderosas do algoritmo é a afinidade tópica. Se você assistir a um vídeo de gato até o fim, explicou Chaslot, o YouTube mostrará mais em visitas de retorno. Ele especialmente impulsionará quaisquer vídeos de gato que tenha considerado mais eficazes para capturar a atenção. - 692 ^ref-49932 --- Assim como no Twitter e no Reddit, a indignação e o tribalismo ativam as emoções dos usuários de forma mais eficaz no YouTube, fazendo-os assistir a mais e mais vídeos – exatamente o que Goodrow havia pedido à equipe de Chaslot para priorizar. - 704 ^ref-3393 --- Naquele outono, em 2012, em uma conferência de liderança do YouTube em Los Angeles, um executivo chamou Goodrow e alguns outros para dizer que faria um anúncio surpresa. A empresa se reorientaria em torno de um objetivo que tudo consumia: aumentar o tempo de exibição diário em um fator de dez. - 713 ^ref-19716 --- Um dia, disse Pariser, posts de amigos conservadores haviam desaparecido de seu feed de notícias do Facebook, e posts de liberais começaram a aparecer com mais destaque. O algoritmo do Facebook provavelmente havia notado que Pariser interagia com conteúdo liberal em uma taxa maior. Nenhuma surpresa: ele é um ativista progressista que por vários anos dirigiu o site de organização de esquerda MoveOn.org. A mudança provavelmente aumentou seu tempo no Facebook. Mas isso era bom para ele, mostrar-lhe apenas posts que falavam de seus preconceitos preexistentes? Era bom para a sociedade? Ele tinha um nome para o efeito: bolhas de filtro. - 728 ^ref-12905 --- Mais tarde, o Facebook ajustou seu algoritmo e o tráfego do Upworthy evaporou. Dezenas de milhões de pessoas não haviam tanto escolhido o Upworthy, descobriu-se, quanto haviam sido manipuladas por máquinas para lê-lo. - 747 ^ref-54317 --- O YouTube estava treinando os usuários para passarem seus dias absorvendo conteúdo que variava de _junk food_ intelectual a veneno puro – longe da jornada de iluminação e descoberta que Chaslot sentia que a plataforma tornava possível. “É tão importante, preciso impulsionar o projeto”, ele lembrou de seu pensamento. “E então fui demitido.” - 761 ^ref-26381 --- “Esses valores de moderação, de bondade, tudo o que você pode pensar que são valores nos quais nossa sociedade se baseia, os engenheiros não se importaram em colocar esses valores no sistema”, disse ele. “Eles só se importavam com a receita de anúncios. Eles pensavam que, apenas se importando com uma métrica, que é o tempo de exibição, então você faria o bem para todos. Mas isso é simplesmente falso.” - 765 ^ref-28074 --- O antecessor de Grove na Intel, um engenheiro de longa data chamado Gordon Moore, cunhou o que ficou conhecido como a lei de Moore: que o poder de processamento dobraria a cada dois anos. Tal crescimento exponencial constante, impossível em qualquer outra indústria, traria possibilidades transformadoras. - 775 ^ref-33330 --- Mas, à medida que o Vale expandia seu alcance, essa cultura de otimização a todo custo assumiu efeitos de segunda ordem. O Uber, otimizando para as coletas de caronas mais rápidas, eliminou as proteções trabalhistas do mercado global de táxis. O Airbnb, otimizando para a receita de aluguel de curto prazo, tornou a moradia de longo prazo mais escassa e cara. As redes sociais, ao otimizar para quantos usuários poderiam atrair e por quanto tempo poderiam mantê-los lá, podem ter tido o maior impacto de todos. “Era uma ótima maneira de construir uma startup”, disse Chaslot. “Você se concentra em uma métrica, e todos estão a bordo [para] essa métrica. E é realmente eficiente para o crescimento. Mas é um desastre para muitas outras coisas.” - 789 ^ref-841 --- “Esqueça a estratégia”, escreveu o investidor Roger McNamee sobre essa nova abordagem. “Reúna alguns amigos, crie um produto de que goste e experimente no mercado. Cometa erros, corrija-os, repita.” Foi transformador para os investidores também, que não precisavam mais investir milhões para levar uma startup ao mercado. Eles podiam fazer isso com troco. - 823 ^ref-42911 --- O gráfico em forma de rabisco, como DiResta o via, com sua promessa de usar serviços online gratuitos para atrair o maior número possível de usuários sem um plano de lucro, não era um truque. Era o que os investidores exigiam. - 837 ^ref-1207 --- O valor da publicidade é a atenção: seu olho passa por um banner, que o Facebook vende para a Toyota ou a Gap por cerca de um centavo. Mas o orçamento de publicidade da Toyota é fixo. O mesmo acontece com o pool total de atenção humana. Portanto, toda vez que uma rede social atualiza seus sistemas para roubar mais alguns minutos do dia de alguém, ela está escalando uma corrida armamentista tecnológica pelo seu campo de visão. E à medida que a oferta de anúncios online aumenta, o preço cai. Em um memorando de 2014, o CEO da Microsoft anunciou que “a verdadeira commodity escassa é cada vez mais a atenção humana”. - 848 ^ref-42301 --- O YouTube de Wojcicki existia para converter olhares em dinheiro. Democracia e coesão social eram problema de outra pessoa. - 866 ^ref-45089 --- Era como se a Coca-Cola abastecesse um bilhão de máquinas de refrigerante com alguma bebida projetada por IA sem que um único humano verificasse o conteúdo das garrafas – e se a IA de enchimento de bebidas fosse programada apenas para aumentar as vendas, sem se importar com a saúde ou a segurança. Como um dos engenheiros de _deep learning_ do YouTube disse em uma conferência da indústria: “O produto nos diz que queremos aumentar essa métrica, e então vamos e a aumentamos.” - 875 ^ref-8615 --- “Nós projetamos muitos algoritmos para que possamos produzir conteúdo interessante para você”, disse Zuckerberg em uma entrevista. “Ele analisa todas as informações disponíveis para cada usuário e realmente calcula qual será a peça de informação mais interessante.” Um ex-funcionário do Facebook colocou de forma mais direta: “Ele é projetado para fazer você querer continuar rolando, continuar olhando, continuar curtindo.” Outro: “Essa é a chave. Esse é o molho secreto. É assim, é por isso que valemos X bilhões de dólares.” - 881 ^ref-47262 --- Se as empresas não se preocupavam em verificar como o sistema realizava isso, era porque mantinham o mesmo otimismo cego que o CEO de longa data do Google, Eric Schmidt, havia transmitido em Mianmar: mais engajamento significava mais bem social. - 902 ^ref-29021 --- impulsos podem nos dominar, geralmente para nosso detrimento. Era uma verdade central da experiência humana, incompatível com economias de crescimento exponencial, e por isso foi convenientemente esquecida. - 911 ^ref-61168 --- Assim como os antivacinas de DiResta, ou mesmo o Upworthy, os russos sequestraram as próprias preferências do algoritmo. Não era apenas que os agentes repetiam frases ou comportamentos que tinham bom desempenho. Sua aparente missão, de incitar a discórdia política, parecia se alinhar naturalmente com o que os algoritmos já favoreciam, muitas vezes ao extremo. Controvérsia, tribalismo, conspiração. Mas a facilidade dos russos em explorar isso era, concluiu DiResta, um sintoma; o problema era o sistema. Ele convidava a essa manipulação. Até a recompensava. - 930 ^ref-1126 --- O YouTube estava explorando uma lacuna cognitiva conhecida como efeito da verdade ilusória. Somos, a cada hora de cada dia, bombardeados com informações. Para lidar com isso, usamos atalhos mentais para decidir rapidamente o que aceitar ou rejeitar. Um deles é a familiaridade; se uma afirmação parece algo que já aceitamos como verdadeiro antes, provavelmente ainda é. - 946 ^ref-24649 --- Mas quando ele levantou preocupações em particular com pessoas que conhecia no YouTube, a resposta era sempre a mesma: “Se as pessoas clicam neste conteúdo prejudicial, quem somos nós para julgar?” - 963 ^ref-38256 o quê? as pessoas realmente não se importam? --- “Chegamos a um ponto em que coisas que são populares e emocionalmente ressonantes são muito mais propensas a serem vistas por você do que coisas que são verdadeiras”, ela lhes disse. - 987 ^ref-27694 --- “Os algoritmos estão influenciando a política”, disse DiResta. O problema pioraria a menos que fossem reescritos com “um senso de responsabilidade cívica”. A recepção foi educada, mas contida. “Recebi muitos ‘Essa é uma teoria realmente interessante’”, lembrou DiResta. - 990 ^ref-56917 --- Como um pesquisador de processamento de linguagem disse ao site de tecnologia Motherboard: “Você absolutamente NÃO deve deixar um algoritmo devorar cegamente um monte de dados que você não verificou nem um pouco.” - 011 ^ref-15518 bem, é isso que os LLMs têm feito ultimamente, não é? --- “Em uma gloriosa segunda-feira daquele outono, verifiquei novamente – e vi que havíamos atingido um bilhão de horas no fim de semana”, escreveu ele. “Havíamos alcançado o OKR estendido que muitos pensavam ser impossível.” Embora ele tenha admitido que houve “consequências imprevistas”, ele mencionou apenas uma: o aumento do tempo de exibição também havia impulsionado o número de visitas por dia. “OKRs estendidos tendem a colocar forças poderosas em movimento”, ele se maravilhou, “e você nunca pode ter certeza de onde elas levarão.” - 025 ^ref-36254 parece que os perigos nem são visíveis para aqueles que criam a tecnologia. --- A crença em conspirações está altamente associada à “anomia”, a sensação de estar desconectado da sociedade. - 049 ^ref-1300 --- Em ecossistemas digitais fechados, onde os usuários controlam o fluxo de informações, evidências que confirmam os vieses da comunidade podem parecer surgir por si mesmas, como um tabuleiro Ouija flutuando em direção às letras de uma palavra na mente de todos. - 054 ^ref-22262 --- Na Alemanha, de acordo com o relatório, mais de um terço dos grupos políticos do Facebook foram considerados extremistas. O próprio algoritmo parecia ser o responsável: 64% das pessoas nos grupos haviam aderido por sugestão do sistema. - 085 ^ref-39781 --- Da noite para o dia, a “empresa da revolução”, como Zuckerberg havia descrito o Facebook – a plataforma que se creditava por ajudar a Primavera Árabe e que em seu próprio experimento de 2010 havia demonstrado empiricamente sua capacidade de mobilizar 340.000 eleitores, a líder de uma indústria que se via como o culminar da promessa do Vale do Silício de transformar a consciência humana – de repente alegou ser apenas um site. - 094 ^ref-3139 E veja onde estamos agora. Com Mark afirmando que o Facebook deveria voltar às suas raízes, à liberdade de expressão e ao que estava fazendo antes. --- As empresas de mídia social, ela escreveu, sabiam que a verdadeira preocupação não eram as “farsas” de notícias falsas, mas a radicalização em todo o sistema, a distorção da realidade e a polarização. - 103 ^ref-64713 --- Era inegável que Trump devia sua ascensão também a fatores não digitais: o colapso institucional do Partido Republicano, uma ascensão de décadas na polarização e desconfiança pública, a reação branca à mudança social, um eleitorado de direita radicalizado. As mídias sociais não criaram nada disso. Mas, com o tempo, uma rede de analistas e denunciantes provaria que elas haviam exacerbado tudo isso, em alguns casos drasticamente. - 120 ^ref-31754 --- Sua equipe coletou meio milhão de tuítes que faziam referência a mudanças climáticas, controle de armas ou casamento entre pessoas do mesmo sexo, usando-os como um proxy para a discussão política. - 142 ^ref-53338 Isso pode não ser preciso, mas é bom o suficiente? --- o que os psicólogos se referem como “palavras moral-emocionais” consistentemente aumentavam o alcance de qualquer tuíte. Palavras moral-emocionais transmitem sentimentos como nojo, vergonha ou gratidão. (“Refugiados merecem compaixão.” “As opiniões daquele político são repulsivas.”) - 147 ^ref-23594 --- Mais do que apenas palavras, estas são expressões de, e chamadas para, julgamento comunitário, positivo ou negativo. Quando você diz: “O comportamento de Suzy é chocante”, você está realmente dizendo: “Suzy cruzou uma linha moral; a comunidade deve tomar nota e talvez até agir.” Isso torna essas palavras diferentes de sentimentos estritamente emocionais (“Extremamente feliz com a decisão de igualdade de casamento de hoje”) ou puramente morais (“O presidente é um mentiroso”), para os quais o efeito de Brady não apareceu. - 149 ^ref-21149 --- Cada um de nós se esforça, por mais inconscientemente que seja, para seguir os costumes sociais de nosso grupo. Mas tentar inferir essas normas nas mídias sociais era como estar dentro de uma casa de espelhos, onde certos comportamentos eram distorcidos para parecerem mais comuns e mais aceitos do que realmente eram. - 164 ^ref-33833 As mídias sociais podem distorcer como vemos o mundo. --- O Twitter, sob uma gestão relativamente nova com Jack Dorsey, que havia retornado à empresa em 2015 para assumir como CEO, anunciou que estava mudando seu foco de crescimento para conter os propagadores de ódio e assediadores, uma afirmação que poderia ter sido fácil de descartar como _corporate spin_ se sua base de usuários não tivesse parado imediatamente de crescer. Alguns dos maiores acionistas do Twitter, furiosos com o preço estagnado das ações do Twitter, pressionaram Dorsey a mudar de rumo e, mais tarde, quando ele não o fez, quiseram forçá-lo a sair completamente. - 180 ^ref-27659 Esse é o problema de usar investidores que não se importam com o impacto --- Sua plataforma simplesmente não era influente o suficiente para ser credivelmente acusada de provocar um genocídio ou influenciar uma eleição. - 193 ^ref-32054 E, no entanto, em alguns momentos, sentimos que o Twitter foi o principal catalisador dessas mudanças. --- A arrogância do Vale do Silício, ao que parecia, não apenas sobreviveu à eleição, mas estava prosperando. Se 2016 foi o ano em que o Vale foi forçado a reconhecer que servia como titereiro de uma vasta rede de fios invisíveis que nos puxavam como dois bilhões de marionetes, então 2017 foi quando seus programadores mais brilhantes decidiram que a solução não era cortar os fios, mas assumir um controle ainda mais firme sobre eles. Era apenas uma questão de nos fazer dançar todos na melodia certa. - 217 ^ref-9773 --- Eles estavam agindo com base em uma interpretação amplamente difundida de algo conhecido como teoria do contato. Cunhada após a Segunda Guerra Mundial para explicar por que tropas dessegregadas se tornaram menos propensas ao racismo, a teoria sugeria que o contato social levava grupos desconfiados a se humanizarem. Mas pesquisas subsequentes mostraram que esse processo funciona apenas em circunstâncias restritas: exposição gerenciada, igualdade de tratamento, território neutro e uma tarefa compartilhada. Simplesmente juntar tribos hostis, pesquisadores descobriram repetidamente, piora a animosidade. - 220 ^ref-56806 --- As pessoas, via de regra, percebem os grupos externos como monolitos. Quando vemos um membro de um clã oposto se comportar mal, presumimos que isso representa todos eles. - 230 ^ref-2794 --- À medida que o tuíte do apoiador de Clinton se torna viral por indignação, usuários com a mesma mentalidade que o veem se tornarão mais propensos a notar transgressões semelhantes de apoiadores de Sanders. À medida que eles as circulam, isso parece evidência de um antagonismo generalizado: os apoiadores de Sanders são sexistas. Cientistas políticos chamam isso de “polarização falsa”. - 231 ^ref-63143 --- Mesmo em sua forma mais rudimentar, a própria estrutura das mídias sociais incentiva a polarização. Ler um artigo e depois o campo de comentários abaixo dele, um experimento descobriu, leva as pessoas a desenvolverem visões mais extremas sobre o assunto do artigo. Grupos de controle que leram o artigo sem comentários se tornaram mais moderados e de mente aberta. Não era que os comentários em si fossem persuasivos; era o mero contexto de ter comentários. Leitores de notícias, os pesquisadores descobriram, processam informações de forma diferente quando estão em um ambiente social: os instintos sociais dominam a razão, levando-os a buscar a afirmação da retidão de seu lado. - 237 ^ref-3145 --- Nós nos unimos à nossa equipe gritando com os fãs da outra.” Ajustar os algoritmos para empurrar os usuários de uma forma ou de outra, em direção a colegas partidários ou para longe deles, acabaria apenas produzindo diferentes versões das forças perigosas tornadas quase inevitáveis pelo design fundamental das plataformas. - 246 ^ref-33167 --- (Ela mais tarde chamou isso de “ampliganda”, uma espécie de propaganda cujo poder vem de sua propagação por massas de pessoas muitas vezes inconscientes.) - 309 ^ref-19182 --- Após muitas iterações, os russos chegaram a uma estratégia. Apelar para a identidade de grupo das pessoas. Dizer-lhes que essa identidade estava sob ataque. Despertar indignação contra um grupo externo. E usar o máximo de linguagem moral-emocional possível. - 313 ^ref-12475 --- Para cada intrometido russo, havia mil Douglass Mackeys, pessoas comuns radicalizadas online, explorando as plataformas para sua própria gratificação. E para cada Mackey, havia outros mil conduzindo desinformação em massa sem saber. - 336 ^ref-49884 --- Mas a verdade não importava. As postagens não eram realmente sobre a fronteira. Eram sobre proteger a identidade compartilhada dos apoiadores de Trump, prova de que eles estavam certos e que os liberais eram os verdadeiros monstros. - 346 ^ref-65012 E na maioria das vezes, as postagens não são sobre a verdade ou ideias, mas sobre a defesa da mesma visão de mundo. --- “A maioria das pessoas não quer espalhar desinformação”, escreveram os autores do estudo, diferenciando a mentira intencional da crença socialmente motivada. “Mas o contexto das mídias sociais foca sua atenção em fatores que não a verdade e a precisão.” - 355 ^ref-4265 --- Quando vemos pessoas compartilhando desinformação, especialmente pessoas que consideramos antipáticas, é fácil presumir que são desonestas ou pouco inteligentes. Mas muitas vezes tudo o que são é humano, dominadas por instintos sociais para ver a verdade em histórias que, em um contexto mais neutro, escolheriam rejeitar. - 356 ^ref-18660 --- As plataformas, concluíram, estavam remodelando não apenas o comportamento online, mas os impulsos sociais subjacentes, e não apenas individualmente, mas coletivamente, potencialmente alterando a natureza do “engajamento cívico e ativismo, polarização política, propaganda e desinformação”. Eles chamaram isso de modelo MAD, para as três forças que religavam as mentes das pessoas. Motivação: os instintos e hábitos sequestrados pela mecânica das plataformas de mídia social. Atenção: o foco dos usuários manipulado para distorcer suas percepções de sinais e costumes sociais. Design: plataformas que foram construídas de forma a treinar e incentivar certos comportamentos. - 399 ^ref-51838 --- A economia da atenção digital amplifica o impacto social dessa dinâmica exponencialmente. Lembre-se de que o número de segundos em seu dia nunca muda. A quantidade de conteúdo de mídia social competindo por esses segundos, no entanto, dobra a cada ano ou mais, dependendo de como você mede. - 413 ^ref-5153 --- Com o tempo, sua impressão de sua própria comunidade se torna radicalmente mais moralista, engrandecedora e indignada – e você também. Ao mesmo tempo, formas de conteúdo menos intrinsecamente envolventes – verdade, apelos ao bem maior, apelos à tolerância – tornam-se cada vez mais superadas. Como estrelas sobre a Times Square. - 418 ^ref-41629 --- A segunda etapa da influência distorcida das mídias sociais, de acordo com o modelo MAD, é algo chamado internalização. Usuários que perseguiam os incentivos das plataformas recebiam recompensas sociais imediatas e de alto volume: curtidas e compartilhamentos. - 420 ^ref-18572 --- Eles eram uma atualização digital da Rádio Milles Collines, que havia transmitido chamadas para o genocídio em Ruanda na década de 1990. Mas essa Rádio Genocídio foi construída sobre infraestrutura de propriedade de ricas empresas de tecnologia americanas, amplificada não por terminais de transmissão controlados por milícias, mas por algoritmos executados no Vale do Silício. - 532 ^ref-13838 --- Em Mianmar, nunca houve tais dúvidas. Um único engenheiro poderia ter fechado toda a rede ao terminar seu café da manhã. Um milhão de rohingyas aterrorizados mais seguros da morte e do deslocamento com algumas teclas. Os sinais de alerta eram livremente visíveis. Madden e outros lhes deram as informações necessárias para agir. Eles simplesmente optaram por não fazê-lo, mesmo enquanto aldeias inteiras eram purgadas em fogo e sangue. - 539 ^ref-442 --- As empresas de cigarros levaram meio século, e a ameaça de litígios potencialmente fatais, para admitir que seus produtos causavam câncer. Com que facilidade o Vale do Silício concederia que seus produtos poderiam causar agitação, incluindo genocídio? - 553 ^ref-905 --- Assim como em Mianmar, as mídias sociais foram inicialmente recebidas como uma força para o bem no Sri Lanka. Elas mantinham as famílias em contato, mesmo com muitos trabalhando no exterior para enviar dinheiro para casa. Ativistas e líderes eleitos as creditaram por ajudar a inaugurar a democracia. E graças aos programas de _zero-rating_, a mesma estratégia que o Facebook usou em Mianmar, milhões de pessoas puderam acessar os serviços gratuitamente. - 629 ^ref-47150 --- Facebook, WhatsApp, Twitter, Snapchat e outros lançaram serviços _zero-rated_ em dezenas de países, da Colômbia ao Quênia, onde não tinham presença e pouca familiaridade, raciocinando que aprenderiam à medida que avançavam. Eles poderiam contratar alguns professores de inglês locais para traduzir o essencial, como o botão “Adicionar amigo”. O resto eles terceirizariam para – o que mais? – algoritmos de aprendizado de máquina. Se as traduções estivessem erradas, eles descobririam rastreando o comportamento do usuário. - 636 ^ref-18469 Eles precisam lançar um produto rápido e não um bom, veja bem --- Isso era mais do que arrogância. Baseava-se em uma ideia, que permeava o Vale, originada de Peter Thiel, investidor fundamental do Facebook: “zero a um”. Era um mandato, comercial e ideológico, para as empresas inventarem algo tão novo que não houvesse mercado para isso – começando do zero – e então controlar esse mercado absolutamente, um campo com um único participante. - 643 ^ref-34239 --- monopólios, via de regra, alavancam seu poder para entregar cada vez menos valor, enquanto extraem cada vez mais rendas dos consumidores. - 648 ^ref-27809 --- Talvez no último suspiro do utopismo do Vale, ele prometeu que o Facebook forneceria a “infraestrutura social” de uma nova era, elevando-nos além de meras “cidades ou nações” para “uma comunidade global”. Isso permitiria “espalhar prosperidade e liberdade, promover a paz e a compreensão, tirar as pessoas da pobreza”, e até mesmo “acabar com o terrorismo, combater as mudanças climáticas e prevenir pandemias”. - 654 ^ref-9858 --- Para coordenar movimentos, usuários do Facebook circulavam links para grupos privados do WhatsApp. O aplicativo de mensagens de propriedade do Facebook permite comunicação rápida, semelhante a mensagens de texto em grupo para centenas de pessoas ao mesmo tempo, com algumas reviravoltas amigáveis à viralidade. Os usuários podem encaminhar conteúdo de um grupo para outro, permitindo que as postagens se espalhem exponencialmente. Um grande grupo do WhatsApp pode se assemelhar a uma mistura de Facebook, Twitter e YouTube, preenchido com conteúdo viral copiado dos três. O WhatsApp se vende especialmente pela privacidade: a criptografia de ponta a ponta impede a intromissão de autoridades. Não há verificadores de fatos ou moderadores. - 701 ^ref-20026 --- Assim que as multidões se dissiparam, a polícia prendeu Weerasinghe por incitação. O Facebook finalmente fechou sua página. Mas o vídeo de Ampara que havia inspirado tanta violência, do inocente funcionário muçulmano de restaurante Farsith Atham-Lebbe pressionado a confirmar uma guerra racial inexistente, permaneceu online. Os pesquisadores continuaram enviando pedidos para que o Facebook o removesse, e a empresa continuou recusando, ignorando seus relatórios ou respondendo que o conteúdo não violava nenhuma regra. - 737 ^ref-62231 --- Fiquei chocado. Mesmo que ele não tivesse má vontade para com a empresa cuja plataforma havia virado a vida de sua família de cabeça para baixo, eu disse, ele sabia em primeira mão que não podia acreditar no que via lá. Não era que ele tivesse fé de que as mídias sociais eram precisas, disse ele. “Mas você tem que gastar tempo e dinheiro para ir ao mercado comprar um jornal. Eu posso simplesmente abrir meu telefone e receber as notícias.” Ele levantou o olhar do chão, encolhendo os ombros. “Se está errado ou certo, é o que eu leio.” - 774 ^ref-21617 A conveniência sempre cobra seu preço --- “As mídias sociais desempenham o papel que o toque dos sinos da igreja costumava desempenhar no passado”, disse Santamaría. “É assim que as pessoas sabem que um linchamento vai acontecer.” As plataformas, explicou ela, reproduziam certos mecanismos antigos pelos quais uma comunidade se levava à violência coletiva. O linchamento, quando um grupo segue sua indignação moral a ponto de ferir ou matar alguém – a tirania dos primos em ação – é um impulso comunitário. Uma demonstração pública do que acontece com aqueles que transgridem a tribo. - 792 ^ref-42968 --- um fenômeno chamado ameaça de status. Quando membros de um grupo social dominante se sentem em risco de perder sua posição, isso pode desencadear uma reação feroz. - 810 ^ref-4749 --- É uma espécie de mecanismo de defesa coletiva para preservar o domínio. É principalmente inconsciente, quase animalístico, e, portanto, facilmente manipulado, seja por líderes oportunistas ou por algoritmos que buscam lucro. - 813 ^ref-49838 --- A definição abreviada de desindividualização é “mentalidade de multidão”, embora seja mais comum do que se juntar a uma multidão. Você pode se desindividualizar sentando nas arquibancadas de um jogo de esportes ou cantando na igreja, entregando parte de sua vontade à do grupo. O perigo surge quando essas duas forças se misturam: a desindividualização, com seu poder de anular o julgamento individual, e a ameaça de status, que pode desencadear agressão coletiva em uma escala terrível. - 819 ^ref-59088 --- Uma coisa se destacou. Cidades com uso de Facebook acima da média consistentemente experimentaram mais ataques a refugiados. Isso se manteve verdadeiro em praticamente qualquer tipo de comunidade: grande ou pequena, afluente ou em dificuldades, liberal ou conservadora. - 853 ^ref-22258 Esta é uma visão interessante. Quais são outras coisas em que as redes sociais têm influência? --- O sentimento anti-refugiado é uma das expressões mais puras da ameaça de status, combinando o medo da mudança demográfica com o tribalismo racial. - 869 ^ref-62165 --- Há um termo para o processo que Pauli descreveu, de piadas online gradualmente internalizadas como sinceras. Chama-se envenenamento por ironia. - 880 ^ref-22168 As coisas começam a ficar nebulosas e o que pensamos ser uma piada começa a se tornar sério. --- A dessensibilização faz com que as ideias pareçam menos tabu ou extremas, o que, por sua vez, as torna mais fáceis de adotar. - 884 ^ref-7531 --- Os superpostadores são uma raça à parte, e uma que as plataformas tornaram excepcionalmente influente. Quando usuários mais casuais abrem as mídias sociais, muitas vezes o que veem é um mundo moldado por superpostadores. As mídias sociais atraem pessoas com certas peculiaridades de personalidade que tornam o uso intenso incomumente gratificante. Sua predominância, por sua vez, distorce as normas e vieses das plataformas. - 917 ^ref-16011 É por isso que as mídias sociais distorcem o mundo ao nosso redor. --- Crianças na escola praticam _bullying_ ou não, ela descobriu em uma longa investigação, baseada em grande parte não em se esperam punição ou acham que o alvo merece, mas em se isso lhes parece moral. - 936 ^ref-58601 --- Gostamos de pensar em nós mesmos como seguindo um código moral inato, derivado de princípios elevados, experiência vivida, o conselho de um ancião de confiança. Na verdade, estudos mostram repetidamente que nosso senso de certo ou errado é fortemente, embora inconscientemente, influenciado pelo que acreditamos que nossos pares pensam: moralidade por consenso tribal, guiada não por algum anjo melhor ou poder superior, mas por deferência autopreservadora à tirania dos primos. - 939 ^ref-44404 --- Na maioria das vezes, deduzir as visões morais de nossos pares não é tão fácil. Então, usamos um atalho. Prestamos atenção especial a um punhado de pares que consideramos influentes, tiramos nossas dicas deles e assumimos que isso refletirá as normas do grupo como um todo. As pessoas que escolhemos como referências morais são conhecidas como “referentes sociais”. Dessa forma, a moralidade é “uma espécie de tarefa perceptual”, disse Paluck. “Quem em nosso grupo está realmente se destacando para nós? Quem recrutamos em nossas memórias quando pensamos sobre o que é comum, o que é desejável?” - 948 ^ref-28651 --- Mas, online, nossos referentes sociais, as pessoas artificialmente empurradas para nossos campos de visão moral, são os superpostadores. Não porque sejam persuasivos, ponderados ou importantes, mas porque geram engajamento. - 958 ^ref-3742 --- Havia inúmeros outros alemães que também haviam se tornado mais xenófobos, mais conspiratórios, mais nacionalistas. A maioria nunca recorreria à violência. Mas sua deriva coletiva teve consequências mais profundas, puxando invisivelmente os costumes e a política da sociedade. Em uma democracia rica como a Alemanha, o resultado pode não ser tão óbvio quanto um linchamento ou um motim. Pode ser pior. O centro político do país estava em colapso. A extrema direita alemã estava em ascensão. - 005 ^ref-6008 A influência é mais complicada do que pensamos a princípio --- Naquele agosto, as Nações Unidas emitiram seu relatório formal sobre o genocídio. Ele chamou o papel das mídias sociais, particularmente do Facebook, de “significativo”. Mas o Facebook ainda se recusou a compartilhar seus dados com os investigadores da ONU, disseram os investigadores, impedindo sua capacidade de entender como o genocídio havia acontecido e, portanto, como prevenir outro. - 046 ^ref-45916 Os dados nem sequer estão perto de serem abertos a outras instituições --- Embora Serrano considerasse os vídeos abomináveis e perigosos, ele admitiu que algo neles era difícil de desligar. “Esse é o objetivo do YouTube”, disse ele. “Eu continuo engajado, os anúncios são reproduzidos. E funciona.” - 102 ^ref-61857 --- Em vez disso, a rede se exibia como uma série organizada de clusters, dispostos um ao lado do outro, como um mapa de metrô. Eles ficaram maravilhados. Para os sistemas do YouTube analisarem e classificarem bilhões de horas de vídeo em tempo real, e então direcionarem bilhões de usuários pela rede com esse nível de precisão e consistência, foi um feito tecnológico incrível, demonstrando a sofisticação e o poder do algoritmo. - 167 ^ref-23155 --- O YouTube, disse Kaiser, havia criado uma nova “identidade coletiva”. - 178 ^ref-4110 --- Obrigado, algoritmo de vídeos sugeridos do YouTube.” Como muitos, as recomendações do YouTube o levaram, disse ele, primeiro a vozes ultraconservadoras. Depois a nacionalistas brancos, depois a supremacistas brancos, depois a neonazistas supostamente irônicos e, finalmente, a neonazistas de verdade. - 228 ^ref-59358 --- O mesmo acontece com seu método de ementa universitária de serializar seu argumento ao longo de semanas, o que exige retornar para a próxima palestra e a próxima. Mas, acima de tudo, Peterson apela para o que o sociólogo Michael Kimmel chama de “direito agravado”. Por gerações, homens brancos esperavam e recebiam tratamento preferencial e status especial. À medida que a sociedade avançava em direção à igualdade, esses privilégios, embora ainda substanciais, diminuíram. Alguns homens brancos se adaptaram. Alguns se rebelaram. Outros sabiam apenas que sentiam algo sendo tirado. - 244 ^ref-35485 --- A acadêmica J. M. Berger chama isso de “a construção crise-solução”. Quando as pessoas se sentem desestabilizadas, elas frequentemente buscam uma forte identidade de grupo para recuperar um senso de controle. Pode ser tão amplo quanto a nacionalidade ou tão restrito quanto um grupo de igreja. Identidades que prometem recontextualizar as dificuldades individuais em um conflito mais amplo têm um apelo especial. Você não está infeliz por causa de sua luta para lidar com circunstâncias pessoais; você está infeliz por causa Deles e de sua perseguição a Nós. Isso torna essas dificuldades compreensíveis e, como você não as está enfrentando sozinho, muito menos assustadoras. - 261 ^ref-11410 --- Crise-solução: há uma crise, o grupo externo é responsável, seu grupo interno oferece a solução. - 265 ^ref-52310 --- Os fóruns Incel começaram como lugares para compartilhar histórias sobre sentir-se sozinho. Os usuários discutiam como lidar com a vida “sem abraços”. Mas as normas de superação das mídias sociais, de busca por atenção, ainda prevaleciam. As vozes mais altas subiam. As visões se tornavam mais extremas. A indignação predominante nas plataformas reinterpretava as dificuldades individuais como uma luta tribal de Nós e Eles. Os Incels ali adotaram uma crença central radicalizadora: Feministas estão conspirando para subjugar e emasculizar nossa subclasse de homens de baixo status. Grupo interno e grupo externo. Crise e solução. - 277 ^ref-57493 --- O YouTube dificilmente faz isso em todos os casos. Os espectadores de Jordan Peterson também serão direcionados, por exemplo, a acadêmicos pop ou autoajuda. Mas as plataformas frequentemente privilegiam conexões radicalizadoras por uma razão: funciona. - 290 ^ref-30478 --- O YouTube atualizou seus algoritmos em 2016 e 2017, adicionando um sistema que chamou de Reinforce, que recomendava usuários para subgêneros desconhecidos. - 294 ^ref-64097 --- Era mais do que entretenimento. Esses canais eram seus “amigos do YouTube”, um bálsamo para um casamento perdido e sentimentos de isolamento. Eram comunidade. Eram identidade. - 310 ^ref-38834 --- Ela havia caído no que é conhecido como toca do coelho. - 311 ^ref-64520 --- depois que o sistema Reinforce foi implementado, “toca do coelho” passou a se referir cada vez mais a seguir canais políticos do YouTube em direção ao extremismo. Os usuários caíam nessas tocas, quer procurassem vídeos de política ou não, muitas vezes sendo levados a lugares que não haviam procurado – lugares ainda mais perturbadores do que a extrema direita. - 313 ^ref-40097 --- O sistema do YouTube, eles descobriram, fazia três coisas estranhamente bem. - 318 ^ref-21487 --- Primeiro, ele unia clusters de canais totalmente originais. - 319 ^ref-36795 --- Foi o que tornou suas outras descobertas tão importantes, a segunda das quais foi que, como há muito se suspeitava, as recomendações do YouTube geralmente se moviam para o extremo mais radical de qualquer rede em que o usuário estivesse. - 327 ^ref-3783 --- E então a terceira descoberta. Em uma versão ainda mais perigosa do que haviam visto na Alemanha, as recomendações do sistema estavam agrupando canais de direita _mainstream_, e até mesmo alguns canais de notícias, com muitos dos mais virulentos propagadores de ódio, _incels_ e teóricos da conspiração da plataforma. - 329 ^ref-57977 --- Aqui, finalmente, estava uma resposta para o porquê de haver tantas histórias de pessoas caindo em tocas de coelho de extrema direita. Alguém que chegasse ao YouTube com interesse em tópicos favoráveis à direita, como armas ou politicamente correto, seria direcionado para um mundo construído pelo YouTube de nacionalismo branco, misoginia violenta e conspiracionismo louco, e então puxado ainda mais para seus extremos. - 334 ^ref-20464 --- Ele e Rauchfleisch alertaram: “Ser um conservador no YouTube significa que você está a apenas um ou dois cliques de canais de extrema direita, teorias da conspiração e conteúdo radicalizador.” - 351 ^ref-62637 --- E os usuários se moviam em paralelo com as recomendações do YouTube, mais uma evidência de que era o algoritmo que os impulsionava. - 356 ^ref-25552 --- “Sou judeu, e há um grupo de pessoas que nega que o Holocausto aconteceu. Acho isso profundamente ofensivo. Mas, no final das contas, não acredito que nossa plataforma deva remover isso, porque acho que há coisas que pessoas diferentes entendem errado. Não acho que estejam intencionalmente erradas.” - 374 ^ref-51255 E então as coisas acontecem e têm consequências --- Este era o problema de Alex Jones: o Vale do Silício não conseguia agir no interesse público, nem mesmo em seu próprio interesse aparente, ao extirpar um problema que encarnava, até personificava, as crenças de sua indústria, escritas nos sistemas que, afinal, haviam elevado Jones ao que ele era. Engajamento é igual a valor. Mais conexão constrói entendimento. A liberdade de expressão vence o discurso ruim. Agir significaria reconhecer que esses ideais eram falhos, perigosos. Puxar esse fio, e tudo poderia desmoronar. - 380 ^ref-56551 --- “Eles me disseram: ‘As pessoas clicam em vídeos da Terra Plana, então elas querem um vídeo da Terra Plana’”, ele lembrou. “E meu ponto era, não, não é porque alguém clicou no vídeo da Terra Plana que ele quer ser enganado. Ele está apenas curioso, e há um título de _clickbait_. Mas para o algoritmo, quando você assiste a um vídeo, significa que você o endossa.” - 410 ^ref-20020 --- O YouTube, ao mostrar aos usuários muitos vídeos em sequência, todos ecoando a mesma coisa, atinge especialmente dois de nossos pontos fracos cognitivos – que a exposição repetida a uma afirmação, bem como a impressão de que a afirmação é amplamente aceita, cada uma as torna mais verdadeiras do que julgaríamos de outra forma. A maioria dos espectadores, é claro, provavelmente rejeita vídeos de conspiração. Mas em uma escala de bilhões, esses métodos superam defesas suficientes entre os suscetíveis para conquistar milhares de convertidos até mesmo para a causa mais ridícula. Ou a mais perigosa. - 416 ^ref-29902 Se 1% das pessoas acredita em algo, isso não é um grande problema. Mas se for 1% de um bilhão de pessoas, isso significa 1 milhão de pessoas. --- As conspirações, por sua vez, prometem resolução para sentimentos de impotência em meio a um mundo caótico e incompreensível. - 441 ^ref-1561 --- As conspirações insistem que os eventos, em vez de incontroláveis ou impessoais, fazem parte de um plano oculto cujos segredos você pode desvendar. - 444 ^ref-3598 --- Até mesmo alguns dos próprios funcionários do Facebook, no entanto, estavam soando o alarme. Outro relatório interno, posteriormente vazado para o Wall Street Journal, alertava: “Setenta por cento dos 100 principais grupos cívicos mais ativos dos EUA são considerados não recomendáveis para questões como ódio, desinformação, _bullying_ e assédio.” Um engenheiro que havia trabalhado no recurso alertou um repórter do The Verge que era “onde a geração da bolha começa”. A prática de empurrar os usuários para grupos que foram escolhidos para atrair atenção, acrescentou o engenheiro, havia se tornado “realmente perigosa”. - 491 ^ref-30794 --- Era fácil descartar, a menos que você estivesse prestando atenção. Em uma rede social após a outra, comunidades de anomia e crise – _incels_ do Reddit, grupos Q do Facebook, a extrema direita do YouTube – haviam escalado a ponto de ação. Se apenas uma minoria minúscula levava as ameaças a cabo, então era assim que o extremismo violento sempre funcionou. Não havia razão para pensar que o 8chan não faria o mesmo. - 518 ^ref-1375 --- Mas para cada piada ou _troll_ havia páginas de invocações aparentemente sinceras de conspirações de extrema direita, slogans nazistas e chamadas para uma guerra racial global para expulsar e extinguir não-cristãos e não-brancos. Acima de tudo, Tarrant cercou sua violência com piadas internas que se tornaram, para sua comunidade, mortalmente sinceras, encarnações de sua deriva do extremismo irônico para o extremismo que era meramente velado por ironia. - 555 ^ref-5569 E isso é perigoso. Demasiado perigoso --- O objetivo era reduzir questões com muito contexto que até mesmo uma equipe de advogados especializados teria dificuldade em analisar – o que constitui uma ameaça, quando uma ideia é odiosa, quando um rumor é perigoso – a uma questão preto no branco tão direta que qualquer moderador pudesse decidi-la sem pensamento independente. Muitas das centenas de regras faziam sentido individualmente. Mas em sua totalidade bizantina, elas sugeriam um absurdo no esforço do Facebook para encaixar as nuances da fala humana, da política e das relações sociais em árvores de decisão do tipo “se-então”. - 644 ^ref-6418 --- Nenhum livro de regras poderia conter o ódio e a desinformação que os sistemas do Facebook foram projetados, por mais não intencionalmente que fosse, para produzir em massa. Era como colocar mais e mais purificadores de ar do lado de fora de uma fábrica de lixo tóxico enquanto a produção simultaneamente aumentava lá dentro. - 661 ^ref-59345 --- O Facebook governava, no que Jacob enfatizava repetidamente como a falha fatal do sistema, por meio de empresas terceirizadas ávidas por lucro que não compartilhavam seus objetivos ou valores. - 687 ^ref-8903 --- Na agência de Jacob, se os moderadores encontrassem uma postagem em um idioma que ninguém presente pudesse ler, eles eram instruídos a marcá-la como aprovada, mesmo que os usuários tivessem sinalizado a postagem como discurso de ódio perigoso. - 701 ^ref-7476 --- HÁ TANTO que torna a tecnogovernança das mídias sociais peculiar. A arrogância tanto de sua escala quanto de seu sigilo. A crença de que a política e as relações sociais são problemas de engenharia. A fé nos engenheiros para resolvê-los. A ingenuidade em pensar que o haviam feito, ou pelo menos o suficiente para continuar expandindo. Tudo isso remonta, como tantas das características definidoras das plataformas, aos imperativos do capitalismo do Vale do Silício. - 709 ^ref-54185 --- No ano anterior, a idade média dos fundadores em seu programa de startups era de vinte e três anos. O resultado, disse Berlin, foi “muito poder nas mãos de pessoas muito jovens que pensam que as pessoas ao seu redor não têm nada a oferecer”. - 731 ^ref-43732 --- Para aqueles que fizeram sucesso, o dinheiro parecia uma afirmação do que os investidores e empregadores sempre lhes disseram: vocês são diferentes das outras pessoas. Mais inteligentes, melhores. Mestres legítimos do universo. - 742 ^ref-40666 --- Esse senso de missão divina impulsionou os investidores-anjo da Geração PayPal que selecionaram as startups e os fundadores para refazer o mundo em torno de sua visão. Eles chamaram isso de perturbar os incumbentes. Uber e Lyft não apenas ofereceriam uma nova maneira de chamar táxis, eles aboliriam e substituiriam a antiga. Airbnb perturbaria a moradia de curto prazo. Todos os três eram investidos por ex-alunos do PayPal. Muitos outros buscaram o mesmo deslocamento violento. Amazon e varejo físico, Napster e música. Apenas alguns, como Thiel, sugeriram seriamente fazer com a governança global o que o Uber fez com o compartilhamento de caronas. Mas uma vez que as plataformas de mídia social tropeçaram nesse papel, deve ter parecido apenas uma continuação de seu lugar de direito. Da crença de que a sociedade é um conjunto de problemas de engenharia esperando para serem resolvidos. - 761 ^ref-27454 --- Quanto mais sua equipe analisava os gigabytes de dados fornecidos pelas plataformas, disse ela, mais certa ficava de “que não importava tanto se era a Rússia ou antivacinas ou terroristas. Essa era apenas a dinâmica que estava tomando forma como resultado desse sistema”. - 783 ^ref-24028 --- Zuckerberg havia revelado um detalhe revelador: em suas pesquisas internas, eles descobriram que as pessoas se engajam mais com conteúdo extremo “mesmo quando nos dizem depois que não gostam do conteúdo”. - 795 ^ref-52370 --- As mudanças foram dramáticas. Pessoas que excluíram o Facebook ficaram mais felizes, mais satisfeitas com suas vidas e menos ansiosas. A mudança emocional foi equivalente a 25 a 40 por cento do efeito de ir à terapia – uma queda impressionante para uma pausa de quatro semanas. - 817 ^ref-61403 Uma pausa de quatro semanas pode ser mais profunda do que ir a um psicólogo --- POR MUITO TEMPO, desde que existe uma era democrática, ela foi governada por _gatekeepers_. Os estabelecimentos partidários ditam as agendas e selecionam quem entra na cédula. Os estabelecimentos de mídia controlam quem recebe tempo de antena e quem não, quem é retratado como aceitável e quem não é. Empresas e grupos de interesse distribuem o financiamento que vence eleições. As mídias sociais, entre outros fatores, erodiram o poder desses _gatekeepers_. A custo zero, os candidatos podiam construir seus próprios impérios de mensagens públicas, organização e arrecadação de fundos, contornando os _gatekeepers_. Os estabelecimentos ainda detêm influência, mas, para o bem ou para o mal, seu domínio sobre a democracia acabou. - 838 ^ref-27516 a internet mudou a forma como a influência política é criada e usada. --- Era uma agenda que só poderia surgir das mídias sociais: maximalista, incoerente, enraizada na identidade, sem restrições de tomadores de decisão que pudessem dar coerência à lista. Puro id. - 863 ^ref-25508 algumas identidades só podem ser reunidas na internet. --- As mídias sociais permitem que os protestos pulem muitas dessas etapas, colocando mais pessoas nas ruas mais rapidamente. “Isso pode dar às pessoas uma sensação de falsa confiança”, disse Chenoweth, “porque é um compromisso menor”. Sem a infraestrutura subjacente, os movimentos de mídia social são menos capazes de organizar demandas coerentes, coordenar ou agir estrategicamente. - 884 ^ref-10110 sem compromisso, há apenas um grande volume de pessoas, mas não pressão suficiente depois disso. --- William Shockley havia encarnado a era dos semicondutores da indústria, Andy Grove a era dos microchips, e Peter Thiel a era inicial da web, então Andreessen e Horowitz personificaram a era das mídias sociais. Não era apenas onde eles investiam (Facebook, onde Andreessen estava no conselho, bem como Twitter, Slack, Pinterest, Airbnb, Lyft e Clubhouse), mas como. Eles institucionalizaram, como estratégia de investimento, a deriva do Vale em direção a CEOs jovens, inexperientes e sem restrições. Eles prometeram elevar “fundadores técnicos” com pouca experiência ou conhecimento além da engenharia, e então libertá-los da supervisão adulta ou de qualquer expectativa de comportamento corporativo normal. - 964 ^ref-60037 --- Alguns haviam se juntado à empresa pensando que poderiam fazer mais bem melhorando o Facebook por dentro do que criticando por fora. E eles haviam ficado com o trabalho impossível de servir como zeladores para as bagunças feitas pelas equipes de crescimento mais bem-sucedidas e mais celebradas da empresa. - 040 ^ref-56114 --- Os próprios pesquisadores do Facebook vinham acumulando evidências, em pilhas de relatórios e experimentos internos, para uma conclusão que emitiriam explicitamente em agosto de 2019: “a mecânica de nossa plataforma não é neutra”. - 052 ^ref-46941 --- Debates no Vale sobre como usar seu poder – deferir mais ou menos aos governos, enfatizar a neutralidade ou o bem-estar social, a consistência ou a flexibilidade – raramente consideravam a possibilidade de que não deveriam ter tal poder. Que consolidar informações e relações sociais sob o controle de empresas que maximizam o lucro era fundamentalmente contrário ao bem público. - 074 ^ref-18576 --- Harris chamou a campanha de uma apropriação que pouco fazia para abordar os danos reais. Os aplicativos continuavam atualizando seus algoritmos de “motor de vício”, mas adicionavam pequenos contadores para informar quantas horas você havia passado online. Outros chamaram de golpe de marketing. Para mim, parecia uma jogada para autoabsolvição. Para cada campanha publicitária dizendo aos consumidores que o Vale do Silício agora defendia o bem-estar digital, havia muitas outras retiros de ioga ou grupos de meditação voltados para dentro, dizendo o mesmo aos habitantes do Vale. - 086 ^ref-36364 --- Winter havia visitado o gabinete de Bolsonaro, esperando entender sua estranha e súbita ascensão. Todos os oito funcionários estavam “usando as mídias sociais o tempo todo em que estive lá”, disse ele. “Não havia trabalho legislativo sendo feito.” - 136 ^ref-40185 --- Enquanto Trump havia sido auxiliado pelas plataformas, ele não era delas. No Brasil, era como se a própria mídia social tivesse assumido o cargo. - 156 ^ref-10817 --- Brasileiros como Martins e Dominguez faziam uma afirmação muito além de tudo o que pesquisadores como Jonas Kaiser ou Guillaume Chaslot haviam observado: que o YouTube não havia meramente criado alguma comunidade online marginal ou alterado as visões de certos usuários, mas que havia radicalizado todo o movimento conservador de seu país, e de forma tão eficaz a ponto de suplantar a política de direita quase que inteiramente. - 182 ^ref-28961 --- Assim como Chaslot havia descoberto durante as eleições francesas de 2017, o YouTube se inclinou dramaticamente pró-Bolsonaro e para a extrema direita durante um período em que os números de Bolsonaro nas pesquisas permaneceram estáticos e baixos. A plataforma não estava refletindo tendências do mundo real. Estava criando as suas próprias. - 194 ^ref-34633 --- Cada rumor, por mais implausível que fosse por si só, no agregado, conferia credibilidade aos outros, uma estrutura de desinformação auto-sustentável. - 228 ^ref-50403 --- Jordy, com o suor escorrendo pelos olhos, abandonou qualquer pretensão. “Fiz isso para chocar, fiz isso para expô-la”, disse ele, levantando os ombros e estufando o peito. “Eu queria que ela sentisse medo.” - 241 ^ref-58064 Isso é vil, não é? --- Todo estudante com quem conversei enfatizou que gostava do YouTube, especialmente de canais de jogos e comédia. Mas todos reclamaram que a plataforma os empurrava, repetidamente, para assistir a conspirações e discursos políticos. “Acaba afetando a forma como as pessoas pensam”, disse Inzaghi. - 257 ^ref-47109 --- Além disso, acrescentou ele, o Facebook havia tomado medidas repetidas contra seu grupo por desinformação, enquanto o YouTube nunca o fez, embora o MBL postasse exatamente o mesmo conteúdo em ambos. Isso era algo que eu ouvia repetidamente: o YouTube era muito mais permissivo, uma das razões pelas quais grupos como o dele o amavam. - 278 ^ref-34880 --- Explicava, disse ela, por que seu ministério havia investido cada vez mais recursos na educação de jovens famílias como essas, apenas para se ver superado pela desinformação que se espalhava ainda mais rápido, via mídias sociais. A recusa em vacinar estava aumentando no Brasil. O mesmo acontecia com os relatos de comunidades que se recusavam a usar larvicidas para mosquitos, um método preferido para combater o Zika que também é frequentemente citado em vídeos de conspiração. “As mídias sociais estão vencendo”, disse Nunes. - 314 ^ref-40049 --- Remédios caseiros faziam as mães sentirem que estavam retomando o controle da saúde de seus filhos. E as plataformas estavam sempre presentes de uma forma que a Dra. Oliveira não podia estar, aparecendo dia após dia na vida de mães que, por trabalharem em vários empregos ou morarem longe, ela poderia ver uma vez por mês. Elas buscavam aplicativos de smartphone não por preguiça ou ignorância, mas por necessidade. - 348 ^ref-35970 --- A equipe identificou uma enorme rede de canais de saúde e bem-estar ligados algoritmicamente, cobrindo tudo, desde relatórios médicos até cristais de cura. Assim como nos vídeos de política, o algoritmo usava canais mais credíveis ou familiares como portas de entrada para direcionar os usuários para as piores conspirações e desinformação. Os próprios vídeos que pais e médicos angustiados nos mostraram estavam perto do centro da rede, o destino final do algoritmo. - 361 ^ref-54619 --- Em muitas partes do mundo, as pessoas não podem pagar por computadores de tamanho normal ou banda larga, ou mesmo pelas taxas de dados associadas à transmissão de vídeo. O WhatsApp forneceu uma solução. Com acordos de _zero-rating_ frequentemente cobrindo as taxas de dados incorridas no aplicativo, pessoas que não podiam pagar para transmitir o YouTube podiam assistir a trechos que haviam sido recarregados no WhatsApp e, em seguida, encaminhá-los para amigos e compartilhá-los em grupos superdimensionados do WhatsApp. - 377 ^ref-43737 --- Usuários do WhatsApp, eles descobriram, carregavam um vídeo para cada quatorze mensagens de texto, uma taxa surpreendentemente alta. - 388 ^ref-58735 --- Mas Küster era, Diniz acreditava, em muitos aspectos, um produto de forças maiores do que ele mesmo. Tanto ele quanto as ameaças que ele inspirava, ela argumentou, vinham de um “ecossistema de ódio” cultivado pelo YouTube. - 421 ^ref-8796 --- As leis americanas contra a visualização de pornografia infantil oferecem poucas exceções para pesquisadores ou jornalistas. A maioria dos clipes provavelmente não chegava a constituir legalmente pornografia infantil. Mas alguns sim. E o contexto em que o YouTube os havia colocado não permitia ambiguidade quanto à sua intenção. - 485 ^ref-13438 --- Havia, temiam os psicólogos, outro risco. O YouTube havia cultivado uma enorme audiência de espectadores que nunca haviam procurado o conteúdo, mas sim foram atraídos por ele pelas recomendações da plataforma. Isso não era apenas mais uma toca de coelho. O caminho parecia imitar, passo a passo, um processo que os psicólogos haviam observado repetidamente em pesquisas sobre como as pessoas desenvolvem atrações por pornografia infantil. - 496 ^ref-56522 --- Este era um problema comum no Vale: pessoas que estudam o impacto das plataformas, como não-engenheiros, têm pouca voz em seu design. - 568 ^ref-17121 --- Depois que uma dessas organizações contatou Christiane, a mãe do Brasil, ela se ofereceu para discutir sua experiência. Confusa e irritada, ela disse que estava lutando para absorver o que havia acontecido. Ela se preocupava com o que dizer ao marido. Expressou confusão com as práticas do YouTube, em certo momento perguntando se seria possível processar a empresa. E se preocupava com o que fazer por sua filha, que havia sido exibida para uma audiência do tamanho de uma cidade por um algoritmo sexualizador de crianças. Como ela poderia mantê-la segura? “A única coisa que posso fazer”, ela decidiu, “é proibi-la de publicar qualquer coisa no YouTube”. - 575 ^ref-51832 --- Postagens no Facebook já estavam ganhando centenas de milhares de interações ao insistir, um mês e meio antes de Trump projetar a mesma afirmação do pódio na sala de imprensa da Casa Branca, que o vírus poderia ser curado bebendo água sanitária diluída. - 600 ^ref-10166 --- Pelas outras 23 horas e 59 minutos do dia, os medrosos ou solitários podiam recorrer àquela outra janela para o mundo exterior: seu computador. Vários anos de adoção digital aconteceram da noite para o dia. - 613 ^ref-41974 Tudo foi para o mundo digital --- Apesar dos esforços de Pattison para preparar as empresas, alguns selos de verificação de fatos não conseguiram resolver o problema central. As mídias sociais ainda eram uma máquina projetada para distorcer a realidade através da lente do conflito tribal e puxar os usuários para os extremos. E a pandemia – o espectro de uma ameaça invisível, onipresente e incontrolável – ativou as mesmas emoções que alimentavam a máquina, em uma escala maior do que qualquer outro evento desde a criação das próprias plataformas. - 617 ^ref-33404 --- Pesquisadores da empresa descobriram que “compartilhamentos em série” – postagens compartilhadas repetidamente de usuário para usuário – eram mais propensos a serem desinformação. O algoritmo, vendo essas postagens como bom material viral, aumentava artificialmente seu alcance. Simplesmente desativar esse impulso, descobriram os pesquisadores do Facebook, reduziria a desinformação relacionada ao Covid em até 38%. - 643 ^ref-23297 --- Até então, era tarde demais. Embora tenham removido o vídeo em si, suas afirmações e chamadas para ação já estavam bem na corrente sanguínea digital, e ressurgiram em conspirações nas mídias sociais desde então. - 663 ^ref-24135 --- Amigos na base o apresentaram a grupos do Facebook que se autodenominavam milícias. Na realidade, eram páginas de bate-papo dedicadas a fantasiar sobre insurreição ou guerra civil. - 694 ^ref-23985 --- Conspiracionistas da Covid, interligados a causas milicianas pelos algoritmos das plataformas, trouxeram a essas milícias recrutas e uma causa recém-urgente, enquanto as milícias deram aos conspiracionistas um senso de propósito: um conflito final iminente com o governo. Crise e solução. - 704 ^ref-1173 --- O padrão estava se desenrolando em todas as principais plataformas, convertendo o medo e a confusão dos americanos primeiro em uma crença conspiratória mais suave, depois em um QAnonismo completo, um enorme impulsionador de engajamento nas plataformas. - 732 ^ref-33314 --- Páginas Boogaloo como a dele não geraram seu senso de conflito civil iminente por conta própria. Elas o absorveram de plataformas de mídia social, que estavam saturadas dele. - 754 ^ref-4988 --- Após a paralisação do Facebook, em um bálsamo para os funcionários, Zuckerberg anunciou que apoiava o BLM. No entanto, no mesmo dia, a postagem mais popular de sua plataforma era um vídeo da personalidade de direita Candace Owens alegando que “a brutalidade policial motivada por racismo é um mito” e que George Floyd era “um criminoso” e “um ser humano horrível”. Foi visto 94 milhões de vezes, aproximadamente o mesmo que o Super Bowl. - 812 ^ref-18908 --- Mas os auditores, que tiveram acesso que o Facebook havia sugerido que provaria que seus críticos estavam errados, concluíram que seus algoritmos promoviam polarização e extremismo, suas políticas permitiam que a desinformação eleitoral se espalhasse desenfreadamente, e suas práticas internas permitiam pouca sensibilidade aos danos do mundo real. - 836 ^ref-5739 --- Ambas as mudanças, embora pequenas, cruzaram um limiar importante: restringir os recursos básicos dos produtos para o bem da sociedade. - 861 ^ref-27966 --- O Twitter também adicionou um elemento há muito tempo solicitado por especialistas externos: atrito. Normalmente, os usuários podiam compartilhar uma postagem clicando em “retweetar”, promovendo-a instantaneamente em seus próprios feeds. Agora, pressionar “retweetar” traria um prompt instando o usuário a adicionar alguma mensagem própria. Isso forçava uma pausa, reduzindo a facilidade de compartilhamento. - 866 ^ref-4589 --- Agora era a vez dos americanos implorarem ao Vale do Silício, com sucesso limitado, para lembrar antes que fosse tarde demais que não éramos apenas um mercado para eles explorarem. - 893 ^ref-53854 --- E eles fizeram isso promovendo conteúdo que impulsionava a mesma mentira que Trump estava usando para tentar permanecer no cargo e que havia animado o grupo Stop the Steal, rapidamente fechado: Trump havia vencido, os democratas haviam instituído uma fraude eleitoral massiva, e os patriotas teriam que derrubar os resultados falsos. Isso ficou conhecido como a Grande Mentira. - 920 ^ref-5612 --- Até o final de dezembro, muitos usuários estavam convergindo para um plano. Alguns trariam armas e explosivos para Washington. Outros instigariam uma multidão grande o suficiente para dominar a polícia do Capitólio. Eles invadiriam o prédio, interrompendo a certificação da votação pela força. E então, como um usuário do Parler escreveu: “Vamos matar o Congresso.” - 956 ^ref-9566 --- Como em tantos casos anteriores, seja com _incels_ ou _Boogaloos_, o que começou como bravata online para encontrar comunidade em meio à desorientação tornou-se, em plataformas que recompensavam a escalada e criavam um falso senso de consenso em torno das visões mais extremas, uma vontade sincera de ação. - 967 ^ref-25842 --- 6 de janeiro foi o culminar do trumpismo, sim, mas também de um movimento construído sobre e pelas mídias sociais. Foi um ato que havia sido planejado, dias antes, sem planejadores. Coordenado entre milhares de pessoas sem coordenadores. E agora seria executado por meio de uma vontade coletiva digitalmente guiada. - 985 ^ref-55938 --- Em praticamente todas as fotos do cerco ao Capitólio, você verá manifestantes segurando smartphones. Eles estão tuitando, postando no Instagram, transmitindo ao vivo para o Facebook e YouTube. Isso foi, como o tiroteio em Christchurch um ano antes ou os assassinatos de _incels_ um ano antes disso, uma performance, tudo conduzido para e nas mídias sociais. - 999 ^ref-25186 --- a poucos metros dos legisladores que sua comunidade insistia que deveriam ser mortos, foi baleada por um policial do Capitólio. Ela morreu imediatamente. Como muitos outros na multidão, John Sullivan, um usuário assíduo de mídias sociais, filmou a morte de Babbitt. “Isso me comoveu, isso me deixou furioso!”, disse Sullivan na gravação. Enquanto Babbitt caía de volta na multidão, com sangue escorrendo da boca, ele exclamou: “Cara, essa merda vai viralizar!” - 036 ^ref-37098 --- As cartas atribuíam grande parte da responsabilidade pela insurreição às empresas. “O problema fundamental”, escreveram eles aos CEOs do Google e do YouTube, “é que o YouTube, como outras plataformas de mídia social, classifica, apresenta e recomenda informações aos usuários, fornecendo-lhes conteúdo com maior probabilidade de reforçar seus vieses políticos existentes, especialmente aqueles enraizados na raiva, ansiedade e medo”. - 078 ^ref-28660 --- Sem plataformas _mainstream_ para acelerar sua causa ou interligá-la com a web social mais ampla, os crentes restantes tinham poucos lugares para aplicar suas energias outrora poderosas. Eles giravam e giravam, buscando validação que nunca obtinham, ansiando por uma resolução para a crise psicológica que anos de radicalização haviam aberto neles. - 096 ^ref-13207 --- “Toda nova tecnologia passou por essas ondas”, disse ele, traçando um conjunto de comparações que eu já havia ouvido antes no Vale: “Isso aconteceu com o VHS. Isso aconteceu com a escrita. Isso aconteceu com as bicicletas.” Mas ninguém jamais conseguiu me dizer quais genocídios foram atribuídos ao VHS. - 135 ^ref-27187 --- Apesar de toda a sua conversa sobre reconstruir a confiança, o Vale do Silício mostrou, em um episódio apenas um mês após a posse de Biden, que usaria todo o peso de seu poder contra sociedades inteiras para dissuadi-las de agir. Reguladores australianos haviam se movido para atingir a maior vulnerabilidade do Vale: a receita. - 163 ^ref-6692 --- A empresa finalmente fez o que não faria em Mianmar, durante um genocídio de meses que havia sido credivelmente acusada de auxiliar. Ou no Sri Lanka ou na Índia. Em nenhum caso a violência crescente, por mais mortal que fosse, levou a empresa a desligar o botão, mesmo em apenas um componente da plataforma. Mas na semana em que a Austrália ameaçou sua receita, foi um apagão. - 174 ^ref-1801 --- Existe um grupo com a alavancagem, o acesso e o conhecimento técnico para pressionar efetivamente o Vale do Silício: sua própria força de trabalho. - 212 ^ref-23626 --- Sua entrevista atravessou um debate já de anos sobre essa tecnologia pela clareza com que ela fez suas acusações: as plataformas amplificavam o dano; o Facebook sabia disso; a empresa tinha o poder de pará-lo, mas optou por não fazê-lo; e a empresa mentia continuamente para reguladores e para o público. “O Facebook percebeu que, se mudarem o algoritmo para ser mais seguro”, disse Haugen, “as pessoas passarão menos tempo no site, clicarão em menos anúncios, ganharão menos dinheiro”. - 235 ^ref-27431 --- Os fundadores e CEOs dessas empresas, apesar de toda a sua fabulosa riqueza, foram, quer percebessem ou não, prisioneiros de suas criações desde o dia em que um capitalista de risco lhes deu um cheque em troca da promessa de crescimento permanente e exponencial. - 256 ^ref-52839 E isso parece ser verdade para qualquer empresa que faça o mesmo --- Afinal, os algoritmos dificilmente são o único recurso por trás do caos das mídias sociais. Interfaces estilo cassino, botões de compartilhamento, contadores de “curtidas” exibidos publicamente, recomendações de grupos – tudo isso é intrínseco às plataformas e seus danos. - 266 ^ref-34938 --- E eles passaram a entender que um aspecto de sua defesa pública é verdadeiro: eles acreditam que não estão promovendo deliberadamente desinformação, ódio ou tribalismo. Na medida em que pensam sobre esses efeitos, é para contê-los. Mas é isso que torna a visita ao Vale tão perturbadora. Alguma combinação de ideologia, ganância e a opacidade tecnológica do aprendizado de máquina complexo cega os executivos de ver suas criações em sua totalidade. As máquinas são, nos aspectos que importam, essencialmente ingovernáveis. - 279 ^ref-48464 --- A lição de 2001 dificilmente era atualizar o HAL com mais ajustes algorítmicos, na esperança de que, da próxima vez, ele se comportasse um pouco mais responsavelmente. Nem era que os engenheiros do HAL deveriam pedir desculpas e prometer fazer melhor. E certamente não era que o fabricante corporativo do HAL deveria assumir um controle cada vez maior sobre a vida de seus clientes enquanto legisladores e jornalistas divagavam sobre a natureza do robô. A lição era inequívoca: desligue o HAL. Mesmo que isso significasse perder quaisquer benefícios que o HAL trouxesse. Mesmo que fosse difícil, nas cenas finais do filme, arrancar os tentáculos do HAL dos sistemas que governavam cada faceta da vida dos astronautas. Mesmo que a máquina lutasse com todo o seu poder. - 289 ^ref-35758