Como umas poucas empresas de tecnologia controlam bilhões de mentes todos os dias.
Um punhado de pessoas trabalhando em umas poucas empresas de tecnologia orientam os pensamentos de bilhões de pessoas todos os dias, diz o pensador de design Tristan Harris. De notificações do Facebook a Snapstreaks e reproduções automáticas do YouTube, todos eles estão competindo por uma coisa: sua atenção. Harris compartilha como essas empresas se aproveitam de nossa psicologia para seu próprio lucro e pede um renascimento do design em que nossa tecnologia nos incentive a viver a linha do tempo que desejamos.
Vídeo: TED Ideias que valem a pena espalhar
Tradução: Maurício Kakuei Tanaka. Revisão: Maricene Krus
Tristan Harris ajuda a indústria de tecnologia a moldar de forma mais consciente e ética o espírito humano e o potencial humano. Ele já foi chamado de “a coisa mais próxima de uma consciência que o Vale do Silício tem” pela revista The Atlantic. Antes de fundar o novo Center for Human Technology, ele era o Design Ethicist do Google, desenvolvendo uma estrutura de como a tecnologia deve “eticamente” orientar os pensamentos e ações de bilhões de pessoas nas telas.
Harris passou uma década entendendo as influências invisíveis que sequestram o pensamento e a ação humana. Com base na literatura sobre vícios, magia performativa, engenharia social, design persuasivo e economia comportamental, ele está atualmente desenvolvendo uma estrutura para a persuasão ética, especialmente no que se refere à responsabilidade moral das empresas de tecnologia.
A revista Rolling Stone nomeou Harris como uma das “25 pessoas que moldam o mundo” em 2017. Seu trabalho foi apresentado no TED, “60 Minutes”, “RealTime with Bill Maher” da HBO, “PBS NewsHour”, Recode, The Atlantic , WIRED , o New York Times , Der Spiegel , The Economist e muitos mais. Harris informou chefes de estado, CEOs de empresas de tecnologia e membros do Congresso dos Estados Unidos sobre a economia da atenção.
Vídeo da palestra de Tristan Harris no TED:
Tradução integral da palestra de Tristan Harris:
Eu quero que você imagine entrar em uma sala, uma sala de controle com um monte de pessoas, cem pessoas, curvadas sobre uma mesa com pequenos botões, e que essa sala de controle irá moldar os pensamentos e sentimentos de um bilhão de pessoas. Isso pode soar como ficção científica, mas na verdade existe agora, hoje.
Eu sei porque eu costumava ficar em uma daquelas salas de controle. Eu era um especialista em ética de design no Google, onde estudei como orientar “eticamente” os pensamentos das pessoas. Porque o que não falamos é como esse punhado de pessoas que trabalham em um punhado de empresas de tecnologia por meio de suas escolhas orientará o que um bilhão de pessoas estão pensando hoje. Porque quando você pega seu telefone e eles definem como isso funciona ou o que está no feed, estamos programando pequenos blocos de tempo em nossas mentes. Se você vir uma notificação, ela o programa para ter pensamentos que talvez não tivesse a intenção de ter.
Se você deslizar sobre essa notificação, você perderá um pouco de tempo sendo sugado por algo que talvez você não pretendia ser sugado. Quando falamos sobre tecnologia, tendemos a falar sobre isso como uma oportunidade de céu azul. Pode ir em qualquer direção. E quero levar a sério por um momento e dizer por que isso está indo em uma direção muito específica. Porque não está evoluindo aleatoriamente. Há um objetivo oculto que direciona a direção de toda a tecnologia que criamos, e esse objetivo é a corrida por nossa atenção. Porque todo site de notícias, o TED, eleições, políticos, jogos, até mesmo aplicativos de meditação têm que competir por uma coisa, que é a nossa atenção, e ela tem um limite limitado. E a melhor maneira de chamar a atenção das pessoas é saber como a mente de alguém funciona. E há um monte de técnicas persuasivas que aprendi na faculdade em um laboratório chamado Laboratório de Tecnologia Persuasiva para chamar a atenção das pessoas.
Um exemplo simples é o YouTube. O YouTube quer maximizar quanto tempo você gasta. E então o que eles fazem? Eles reproduzem automaticamente o próximo vídeo. E digamos que funcione muito bem. Eles estão aproveitando um pouco mais do tempo das pessoas. Bem, se você é o Netflix, olha para isso e diz, bem, isso está diminuindo minha participação no mercado, então vou reproduzir automaticamente o próximo episódio. Mas se você for o Facebook, você diz, isso está diminuindo toda a minha participação no mercado, então agora tenho que reproduzir automaticamente todos os vídeos do feed de notícias antes de esperar que você clique em reproduzir. Portanto, a internet não está evoluindo aleatoriamente. A razão pela qual parece que está nos sugando do jeito que está é por causa dessa corrida por atenção. Nós sabemos para onde isso vai dar. A tecnologia não é neutra, e se torna uma corrida até o fundo do tronco cerebral de quem pode ir mais fundo para obtê-la.
Deixe-me dar um exemplo de Snapchat. Se você não sabia, o Snapchat é a forma número um de comunicação entre os adolescentes nos Estados Unidos. Então, se você é como eu e usa mensagens de texto para se comunicar, o Snapchat é para adolescentes, e há, tipo, cem milhões deles que o usam. E eles inventaram um recurso chamado Snapstreaks, que mostra o número de dias consecutivos que duas pessoas se comunicaram. Em outras palavras, o que acabaram de fazer é dar a duas pessoas algo que elas não querem perder. Porque se você é um adolescente e tem 150 dias seguidos, você não quer que isso vá embora. E então pense nos pequenos blocos de tempo que isso programa na mente das crianças. Isso não é teórico: quando as crianças saem de férias, foi demonstrado que elas dão suas senhas a até cinco outros amigos para manter seus Snapstreaks funcionando, mesmo quando não podem. E eles têm, tipo, 30 dessas coisas, então eles têm que tirar fotos apenas de fotos ou paredes ou tetos apenas para passar o dia. Então nem é como se eles estivessem tendo conversas de verdade. Temos a tentação de pensar sobre isso porque, ah, eles estão apenas usando o Snapchat da maneira que costumávamos fazer fofoca ao telefone. Provavelmente está tudo bem. Bem, o que falta é que na década de 1970, quando você estava apenas fofocando ao telefone, não havia uma centena de engenheiros do outro lado da tela que sabiam exatamente como sua psicologia funcionava e orquestrava você em um vínculo duplo um com o outro.
Agora, se isso está fazendo você se sentir um pouco indignado, observe que esse pensamento simplesmente vem sobre você. A indignação é uma maneira muito boa também de chamar sua atenção, porque não escolhemos indignação. Acontece conosco. E se você for o feed de notícias do Facebook, queira ou não, você realmente se beneficia quando há indignação. Porque a indignação não marca apenas uma reação no tempo emocional, no espaço, para você. Queremos compartilhar essa indignação com outras pessoas. Então, queremos compartilhar e dizer: "Você pode acreditar no que eles disseram?" E assim, a indignação funciona muito bem para chamar a atenção, de forma que se o Facebook tivesse a opção de mostrar o feed de indignação e um feed de notícias calmo, eles gostariam de mostrar a você o feed da indignação, não porque alguém o escolheu conscientemente, mas porque funcionou melhor para chamar sua atenção. E a sala de controle do feed de notícias não é responsável por nós. É responsável apenas por maximizar a atenção. Também é responsável, por causa do modelo de negócios da propaganda, que qualquer pessoa que puder pagar mais realmente entre na sala de controle e diga: "Aquele grupo ali, quero programar esses pensamentos em suas mentes". Para que você possa mirar, você pode direcionar precisamente uma mentira diretamente às pessoas que são mais suscetíveis. E porque isso é lucrativo, só vai piorar.
Então, estou aqui hoje porque os custos são muito óbvios. Não conheço um problema mais urgente do que esse, porque esse problema está por trás de todos os outros problemas. Não é apenas tirar nossa agência para gastar nossa atenção e viver a vida que queremos, está mudando a maneira como temos nossas conversas, está mudando nossa democracia e está mudando nossa capacidade de ter as conversas e relacionamentos que queremos uns com os outros. E isso afeta a todos, porque um bilhão de pessoas tem um desses no bolso.
Então, como podemos consertar isso? Precisamos fazer três mudanças radicais na tecnologia e na nossa sociedade. A primeira é que precisamos reconhecer que somos persuadíveis. Uma vez que você começa a entender que sua mente pode ser programada para ter pequenos pensamentos ou pequenos blocos de tempo que você não escolheu, não gostaríamos de usar essa compreensão e nos proteger contra o modo como isso acontece? Acho que precisamos nos ver fundamentalmente de uma nova maneira. É quase como um novo período da história humana, como o Iluminismo, mas quase uma espécie de Iluminismo autoconsciente, de que podemos ser persuadidos, e pode haver algo que queremos proteger. A segunda é que precisamos de novos modelos e sistemas de responsabilidade para que, à medida que o mundo fica melhor e mais e mais persuasivo ao longo do tempo - porque só vai ficar mais persuasivo - que as pessoas nessas salas de controle sejam responsáveis e transparentes com o que nós queremos. A única forma de persuasão ética que existe é quando os objetivos do persuasor estão alinhados com os objetivos do persuasor . E isso envolve questionar grandes coisas, como o modelo de negócios da publicidade. Por último, precisamos de um renascimento do design, porque uma vez que você tem essa visão da natureza humana, você pode controlar a linha do tempo de um bilhão de pessoas - imagine, há pessoas que têm algum desejo sobre o que eles querem fazer e o que querem estar pensando e o que querem sentir e como querem ser informados, e todos nós somos levados a essas outras direções. E você tem um bilhão de pessoas simplesmente puxadas para todas essas direções diferentes. Bem, imagine todo um renascimento do design que tentasse orquestrar a maneira exata e mais poderosa e bem gasta de tempo para que esses cronogramas acontecessem. E isso envolveria duas coisas: uma seria proteger contra os cronogramas que não queremos experimentar, os pensamentos que não gostaríamos que acontecessem, de modo que quando aquele ding acontecer, não ter o ding que nos envia longe; e a segunda nos capacitaria a cumprir a linha do tempo que desejamos.
Deixe-me dar um exemplo concreto. Hoje, digamos que seu amigo cancele o jantar e você esteja se sentindo um pouco solitário. E então o que você faz naquele momento? Você abre o Facebook. E, nesse momento, os designers na sala de controle querem programar exatamente uma coisa, que é maximizar o tempo que você passa na tela. Agora, em vez disso, imagine se esses designers criassem uma linha do tempo diferente que fosse a maneira mais fácil, usando todos os seus dados, para realmente ajudá-lo a sair com as pessoas que você gosta? Basta pensar, aliviando toda a solidão da sociedade, se essa fosse a linha do tempo que o Facebook queria tornar possível para as pessoas. Ou imagine uma conversa diferente. Digamos que você queira postar algo supercontroverso no Facebook, o que é muito importante poder fazer, para falar sobre temas polêmicos. E agora, quando há aquela grande caixa de comentário, é quase perguntando a você, qual chave você deseja digitar? Em outras palavras, é programar uma pequena linha do tempo das coisas que você vai continuar a fazer na tela. E imagine, em vez disso, que houvesse outro botão dizendo, qual seria a maior parte do tempo bem gasto para você? E você clica em "organizar um jantar". E logo abaixo do item dizia: "Quem quer confirmar presença no jantar?" E assim você ainda terá uma conversa sobre algo controverso, mas você o teria no lugar mais poderoso da sua linha do tempo, que seria em casa naquela noite com um grupo de amigos para conversar sobre isso. Então imagine que estamos executando, tipo, localizar e substituir em todas as linhas do tempo que atualmente estão nos direcionando para mais e mais tempo de tela de forma persuasiva e substituindo todas essas linhas do tempo com o que queremos em nossas vidas.
Não tem que ser assim. Em vez de fragilizando a nossa atenção, imagine se nós usamos todos esses dados e todo esse poder e essa nova visão da natureza humana para nos dar uma capacidade sobre-humana para se concentrar e uma capacidade sobre-humana para colocar a nossa atenção para o que se preocupava e uma sobre-humano capacidade de ter as conversas de que precisamos para a democracia. Os desafios mais complexos do mundo exigem não apenas que usemos nossa atenção individualmente. Eles exigem que usemos nossa atenção e a coordenemos juntos. A mudança climática exigirá que muitas pessoas sejam capazes de coordenar sua atenção da maneira mais poderosa possível. E imagine criar uma habilidade sobre-humana para fazer isso.
Às vezes, os problemas mais urgentes e importantes do mundo não são essas coisas futuras hipotéticas que poderíamos criar no futuro. Às vezes, os problemas mais urgentes são aqueles que estão bem debaixo de nossos narizes, as coisas que já estão dirigindo os pensamentos de um bilhão de pessoas. E talvez em vez de ficarmos entusiasmados com a nova realidade aumentada e virtual e essas coisas legais que podem acontecer, que estarão suscetíveis à mesma corrida por atenção, se pudéssemos consertar a corrida por atenção naquilo que já está em um bolsos de bilhões de pessoas. Talvez, em vez de ficar empolgado com os novos e interessantes aplicativos educacionais sofisticados, poderíamos consertar a maneira como as mentes das crianças estão sendo manipuladas para enviar mensagens vazias de um lado para outro.
Talvez em vez de nos preocuparmos com futuras inteligências artificiais em fuga que estão maximizando para um objetivo, pudéssemos resolver a inteligência artificial em fuga que já existe agora, que são esses feeds de notícias maximizando para uma coisa. É quase como se, em vez de fugir para colonizar novos planetas, pudéssemos consertar aquele em que já estamos.
Resolver esse problema é uma infraestrutura crítica para resolver todos os outros problemas. Não há nada em sua vida ou em nossos problemas coletivos que não exija nossa capacidade de colocar nossa atenção onde nos importamos. No final de nossas vidas, tudo que temos é nossa atenção e nosso tempo. Qual será o tempo bem gasto para o nosso?
Chris Anderson: Tristan, obrigado. Ei, fique aqui um segundo. Em primeiro lugar, obrigado. Eu sei que pedimos a você para fazer esta palestra em um prazo muito curto, e você teve uma semana muito estressante para organizar tudo isso, então, obrigado. Algumas pessoas que estão ouvindo podem dizer, você reclama é vício, e todas essas pessoas fazendo essas coisas, para elas é realmente interessante. Todas essas decisões de design criaram um conteúdo de usuário incrivelmente interessante. O mundo está mais interessante do que nunca. O que há de errado nisso?
Tristan Harris: Eu acho muito interessante. Uma maneira de ver isso é se você for apenas o YouTube, por exemplo, você quer sempre mostrar o próximo vídeo mais interessante. Você quer ficar cada vez melhor na sugestão do próximo vídeo, mas mesmo se pudesse propor o próximo vídeo perfeito que todos gostariam de assistir, seria apenas melhor e melhor em mantê-lo preso à tela. Então, o que está faltando nessa equação é descobrir quais seriam nossos limites. Você gostaria que o YouTube soubesse algo sobre, digamos, adormecer. O CEO da Netflix disse recentemente: "nossos maiores concorrentes são Facebook, YouTube e sono." E então o que precisamos reconhecer é que a arquitetura humana é limitada e que temos certos limites ou dimensões de nossas vidas que queremos ser honrados e respeitados, e a tecnologia pode ajudar a fazer isso.
CA: Quero dizer, você poderia argumentar que parte do problema aqui é que temos um modelo ingênuo da natureza humana? Muito disso é justificado em termos de preferência humana, onde temos esses algoritmos que fazem um trabalho incrível de otimização para a preferência humana, mas qual preferência? Existem as preferências de coisas com as quais realmente nos importamos quando pensamos sobre elas, em comparação com as preferências daquilo em que apenas clicamos instintivamente. Se pudéssemos implantar essa visão mais matizada da natureza humana em cada projeto, isso seria um passo à frente?
TH: Com certeza. Quer dizer, acho que agora é como se toda a nossa tecnologia fosse basicamente apenas perguntar ao nosso cérebro de lagarto qual é a melhor maneira de impulsivamente levá-lo a fazer a próxima coisa mínima com seu tempo, em vez de perguntar a você em sua vida o que faríamos será a maior parte do tempo bem gasto para você? Qual seria o cronograma perfeito que poderia incluir algo mais tarde, seria um tempo bem gasto para você aqui no TED em seu último dia aqui?
CA: Então, se o Facebook, o Google e todos nos dissessem primeiro: "Ei, você gostaria que otimizássemos o seu cérebro reflexivo ou o cérebro de lagarto? Você escolhe."
TH: Certo. Essa seria uma maneira. Sim.
CA: Você disse persuasão, é uma palavra interessante para mim porque, para mim, existem dois tipos diferentes de persuasão. Há a persuadibilidade de que estamos tentando agora da razão e pensando e argumentando, mas acho que você está quase falando sobre um tipo diferente, um tipo mais visceral de persuadibilidade , de ser persuadido sem nem mesmo saber que está pensando .
TH: Exatamente. A razão pela qual me importo tanto com esse problema é que estudei em um laboratório chamado Laboratório de Tecnologia Persuasiva em Stanford, que ensinou [os alunos a reconhecer] exatamente essas técnicas. Há conferências e workshops que ensinam às pessoas todas essas maneiras secretas de chamar a atenção das pessoas e orquestrar a vida delas. E é porque a maioria das pessoas não sabe que existe que essa conversa é tão importante.
CA: Tristan, você e eu, nós dois conhecemos muitas pessoas de todas essas empresas. Na verdade, há muitos aqui na sala e não sei sobre você, mas minha experiência com eles é que boas intenções não faltam. As pessoas querem um mundo melhor. Eles estão realmente - eles realmente querem isso. E eu não acho que você está dizendo que essas pessoas são más. É um sistema em que existem consequências indesejadas que realmente escaparam ao controle -
TH: Desta corrida por atenção. É a clássica corrida para o fundo do poço, quando você precisa chamar a atenção, e é muito tensa. A única maneira de conseguir mais é ir mais para baixo no tronco cerebral, para ir mais baixo na indignação, ir mais fundo na emoção, ir mais fundo no cérebro do lagarto.
CA: Bem, muito obrigado por nos ajudar a ficar um pouco mais sábios sobre isso.
LEIA MAIS EM
