Por milhares de anos, os humanos acreditaram que a autoridade vinha dos deuses. Então, durante a era moderna, com o humanismo, transferiu-se gradualmente a autoridade de divindades para as pessoas. Jean-Jacques Rousseau resumiu essa revolução no seu tratado sobre educação Emile, de 1762. Buscando pelas regras de como se conduzir na vida, Rousseau as encontrou

“nas profundezas do meu coração, traçados pela natureza em caracteres que nada pode apagar. Eu preciso somente me perguntar sobre o que eu gostaria de fazer: o que eu sinto ser bom é bom, o que eu sinto ser ruim é ruim.”

Pensadores humanistas, como Rousseau, nos convenceram de que nossos próprios sentimentos e desejos são a melhor fonte de significado, e que o nosso livre arbítrio é, portanto, a mais alta autoridade de todas.

Neste momento, uma nova mudança está ocorrendo. Assim como a autoridade divina foi legitimada por mitologias religiosas e a autoridade humana foi legitimada por ideologias humanistas, do mesmo modo hoje gurus da alta tecnologia e profetas do Vale do Silício estão criando uma nova narrativa universal que legitima a autoridade de algoritmos e do Big Data (nota do tradutor: no sentido do texto, a expressão é utilizada para referir-se ao conjunto gigantesco de dados computacionais complexos existente no mundo).

Essa crença pode ser chamada de “Dataísmo”. Em sua forma extrema, os proponentes da visão de mundo Dataísta percebem todo o universo como um fluxo de dados, vêem os organismos como pouco mais do que algoritmos bioquímicos e acreditam que a vocação cósmica da humanidade é criar um sistema de processamento de dados abrangente — e então fundir-se a tudo isso.

Nós já estamos nos tornando minúsculos chips dentro de um sistema gigante que ninguém realmente entende. Todo dia absorvo incontáveis bits de dados através de e-mails, telefonemas e mensagens de texto. Depois processo os dados e transmito novos bits através de mais e-mails, telefonemas e mensagens de texto.

Eu realmente não sei onde me encaixo no grande esquema das coisas, e de que forma meus bits de dados se conectam com os bits produzidos por milhares de milhões de outros seres humanos e computadores. E eu não tenho tempo para descobrir, porque eu estou muito ocupado respondendo e-mails. Este fluxo de dados gera implacáveis faíscas e novas invenções e perturbações que ninguém planejava, consegue controlar ou compreender.

Mas ninguém precisa entender. Tudo que você precisa fazer é responder seus e-mails mais rápido. Assim como os capitalistas acreditam na mão invisível do mercado, do mesmo modo os Dataístas acreditam na mão invisível do fluxo de dados. Como o sistema de processamento de dados global se torna onisciente e todo-poderoso, então a conexão com o sistema torna-se a fonte de todo o significado.

O novo lema diz: “Se você experimentar algo novo, registre a experiência. Se você registra alguma coisa, coloque-a na internet. Se você colocar alguma coisa na internet, compartilhe-a”.

© Janne Iivonen
© Janne Iivonen

Dataístas acreditam ainda que, com dados biométricos suficientes e poder de computação, este sistema abrangente poderia compreender os seres humanos muito melhor do que entendemos a nós mesmos. Quando isso acontecer, os seres humanos perderão a sua autoridade, e práticas humanistas, tais como eleições democráticas, se tornarão tão obsoletas como danças da chuva e facas de pedra.

Na política, nós acreditamos que a autoridade depende das escolhas livres de eleitores comuns. Na economia de mercado, afirmamos que o cliente sempre tem razão. Na arte humanista, pensamos que a beleza está nos olhos de quem vê; A educação humanista nos ensina a pensar por nós mesmos. E a ética humanista no diz que, se nos sentimos bem, devemos ir em frente e fazer o que desejamos fazer.

Claro, a ética humanista muitas vezes pode nos trazer certas dificuldades em situações em que algo que me faz sentir bem faça você sentir-se mal.

Por exemplo, anualmente, durante a última década, a comunidade LGBT de Israel tem realizado uma parada gay nas ruas de Jerusalém. É um dia único de harmonia numa cidade dividida pelo conflito, porque é a única ocasião em que os judeus religiosos, muçulmanos e cristãos, de repente, encontram uma causa comum — todos eles juntos contra a parada gay.

O que é realmente interessante, porém, é o argumento que os fanáticos religiosos usam. Eles não dizem: “Você não deve realizar uma parada gay porque Deus proíbe a homossexualidade.” Em vez disso, eles explicam a cada microfone e câmera de TV disponível que “ver uma parada gay passando pela cidade santa de Jerusalém fere nossos sentimentos, e assim como as pessoas homossexuais querem que respeitemos seus sentimentos, elas devem respeitar os nossos.” Não importa o que você pensa sobre esta questão em particular, é muito mais importante entender que, em uma sociedade humanista, debates éticos e políticos são conduzidos em nome de sentimentos humanos em conflito, em vez de em nome de mandamentos divinos.

No entanto, o humanismo agora está enfrentando um desafio existencial e a ideia de “livre arbítrio” está sob ameaça.

Estudos científicos sobre a forma como nossos cérebros e corpos trabalham sugerem que nossos sentimentos não são uma qualidade espiritual exclusivamente humana. Pelo contrário, são mecanismos bioquímicos que todos os mamíferos e pássaros usam, a fim de tomar decisões, calculando rapidamente probabilidades de sobrevivência e reprodução.

Contrariamente à opinião popular, os sentimentos não são o oposto da racionalidade: eles são racionalidade evolutiva feita por matéria corporal. Quando um babuíno, girafa ou humano vê um leão, o medo surge porque um algoritmo bioquímico calcula os dados relevantes e conclui que a probabilidade de morte é alta. Da mesma forma, os sentimentos de atração sexual surgem quando algoritmos bioquímicos calculam que uma pessoa próxima oferece uma alta probabilidade de acasalamento bem-sucedido. Esses algoritmos bioquímicos têm evoluído e melhorado através de milhões de anos de evolução. Se os sentimentos de algum antepassado antigo cometeram algum erro, os genes moldam esses sentimentos para não se passarem para a próxima geração.

02

Mesmo que os humanistas estivessem errados em pensar que os nossos sentimentos refletem um misterioso “livre arbítrio”, até agora o humanismo ainda demonstrou muito bom senso prático. Pois, embora não houvesse nada de mágico sobre nossos sentimentos, eles eram, no entanto, o melhor método no universo para tomar decisões — e nenhum sistema externo poderia esperar compreender meus sentimentos melhor do que eu.

Mesmo se a Igreja Católica ou a KGB soviética me espionassem em cada minuto de cada dia, eles não teriam o conhecimento biológico e o poder de computação necessário para calcular os processos bioquímicos que moldam os meus desejos e escolhas. Assim, o humanismo foi correto em dizer às pessoas para seguirem o próprio coração. Se você tivesse que escolher entre ouvir a Bíblia e ouvir seus sentimentos, seria muito melhor ouvir os seus sentimentos. A Bíblia representa opiniões e preconceitos de alguns sacerdotes na Jerusalém antiga. Seus sentimentos, ao contrário, representam a sabedoria acumulada de milhões de anos de evolução que passou pelos testes de controle de qualidade mais rigorosos da seleção natural. No entanto, como a Igreja e o KGB deram lugar ao Google e ao Facebook, o humanismo perdeu as suas vantagens práticas.

No momento, estamos na confluência de duas ondas da maré científica. Por um lado, os biólogos estão decifrando os mistérios do corpo humano e, em particular, do cérebro e dos sentimentos humanos. Ao mesmo tempo, os cientistas da computação estão nos dando o poder de processamento de dados sem precedentes. Quando se coloca os dois juntos, você obtém sistemas externos que podem monitorar e entender meus sentimentos muito melhor do que eu posso. Uma vez que os sistemas de Big Data me conhecem melhor do que eu me conheço, a autoridade mudará de seres humanos para os algoritmos. O Big Data poderia, então, empoderar o Big Brother.

Isso já aconteceu no campo da medicina. As decisões médicas mais importantes da sua vida são cada vez mais baseadas não em suas impressões sobre se está doente ou saudável, ou mesmo no diagnóstico do seu médico, mas nos cálculos dos computadores que lhe conhecem melhor do que você conhece a si mesmo.

Um exemplo recente desse processo é o caso da atriz Angelina Jolie. Em 2013, Jolie fez um teste genético que provou que ela estava carregando uma mutação perigosa do gene BRCA1. De acordo com bases de dados estatísticos, as mulheres que transportam essa mutação têm uma probabilidade de 87% de desenvolver câncer de mama. Embora no momento Jolie não tivesse câncer, ela decidiu antecipar-se à doença e passar por uma mastectomia dupla. Ela não se sentia doente, mas ela sabiamente decidiu ouvir os algoritmos de computador. “Você pode não sentir que algo está errado”, disseram os algoritmos “mas é uma bomba-relógio em seu DNA. Faça algo sobre isso — agora!”

O que já está acontecendo na medicina é provável que ocorra em mais e mais campos. Isso começa com coisas simples, como que livro você deve comprar e ler.

Como humanistas escolhem um livro? Eles vão a uma livraria, passeiam entre os corredores, folheiam um livro e leem as primeiras frases, até que alguma intuição os conecta para um tomo particular. Dataístas usam o Amazon. Quando entro na loja virtual Amazon, uma mensagem aparece e me diz: “Eu sei que livros você gostou no passado. As pessoas com gostos semelhantes também tendem a gostar deste ou daquele novo livro”.

Isto é apenas o começo. Dispositivos como o Kindle da Amazon são capazes de constantemente coletar dados sobre seus usuários enquanto eles estão lendo livros. Seu Kindle pode monitorar quais partes de um livro que você leu rapidamente, e quais leu lentamente; em qual página você fez uma pausa, e qual frase levou você a abandonar o livro e nunca mais pegá-lo novamente. Se o Kindle fosse atualizado com um software de reconhecimento de rosto e sensores biométricos, ele saberia como cada frase influenciaria a sua frequência cardíaca e pressão arterial. Ele saberia o que te fez rir, o que fez você triste, o que te deixou com raiva.

Em breve, os livros vão ler você enquanto você está lendo-os. E enquanto você esquece rapidamente a maioria do que você lê, programas de computador nunca esquecem. Tais dados devem, eventualmente, permitir que a Amazon escolha livros para você com uma precisão incrível. Permitirá também que a Amazon saiba exatamente quem você é, e como pressionar os botões emocionais.

03

Acompanhe essa lógica para sua conclusão necessária e, futuramente, as pessoas podem dar aos algoritmos a autoridade para tomar as decisões mais importantes em suas vidas, como com quem se casar.

Na Europa medieval, os sacerdotes e os pais tinham a autoridade de escolher o seu companheiro para você. Nas sociedades humanistas, damos essa autoridade aos nossos sentimentos. Em uma sociedade Dataísta, pediremos ao Google para escolher. “Ouça, Google,” eu vou dizer, “João e Paulo estão me cortejando. Gosto tanto deles, mas de uma maneira diferente, e é tão difícil de entender a minha mente. Considerando tudo o que sabe sobre mim, o que você me aconselha a fazer?”

E o Google vai responder:

“Bem, eu sei tudo sobre você a partir do dia em que nasceu. Eu li todos os seus e-mails, gravei todos os seus telefonemas, e conheço os seus filmes favoritos, o seu DNA e toda a história biométrica do seu coração. Eu tenho dados exatos sobre cada encontro amoroso que você teve, e posso mostrar-lhe segundo-a-segundo gráficos de seus níveis de frequência cardíaca, pressão arterial e glicemia sempre que foi a um encontro com João ou Paulo. E, naturalmente, eu os conheço tão bem quanto eu conheço você. Com base em todas essas informações, em meus excelentes algoritmos e no valor das estatísticas sobre os milhões de relacionamentos (décadas) – aconselho você a ficar com João, com 87% de probabilidade de estar mais satisfeito com ele a longo prazo”.

“Na verdade, eu conheço você tão bem que sei que você não gostou desta resposta. Paulo é muito mais bonito do que João, e como você dá muito peso às aparências externas, você secretamente queria que eu dissesse ‘Paulo’. A aparência importa, é claro, mas não tanto quanto você pensa. Seus algoritmos bioquímicos — que evoluíram há dezenas de milhares de anos na savana africana — dão à beleza externa um peso de 35% na sua avaliação global de parceiros em potencial. Meus algoritmos — que são baseados nos estudos e estatísticas mais atuais — dizem que a aparência tem apenas um impacto de 14% sobre o sucesso a longo prazo dos relacionamentos amorosos. Assim, mesmo que eu levasse a beleza de Paulo em conta, eu ainda diria que você seria melhor saindo com o João.”

O Google não tem que ser perfeito. Ele não terá que ser correto o tempo todo. Ele só vai ter que ser melhor, na média, do que eu. E isso não é tão difícil, porque a maioria das pessoas não se conhece muito bem, e a maioria das pessoas muitas vezes comete erros terríveis nas decisões mais importantes de suas vidas.

04
A visão de mundo do Dataísmo é muito atraente para os políticos, empresários e consumidores comuns, pois oferece tecnologias inovadoras e imensos novos poderes. Apesar de todos os receios sobre a perda de privacidade e do livre-arbítrio, quando os consumidores tiverem que escolher entre manter a sua privacidade e ter acesso a um sistema de saúde muito superior — a maioria vai escolher o sistema de saúde.

Para os estudiosos e intelectuais, o Dataísmo promete o Santo Graal científico, que nos iludiu durante séculos: uma única teoria abrangente que unifica todas as disciplinas científicas, da musicologia até a economia e passando pela biologia.

De acordo com Dataísmo, a Quinta Sinfonia de Beethoven, uma bolha financeira na bolsa de valores e o vírus da gripe são apenas três padrões de fluxo de dados que podem ser analisados utilizando os mesmos conceitos e ferramentas básicas.

Essa ideia é extremamente atraente. Ela dá a todos os cientistas uma linguagem comum, constrói pontes sobre fendas acadêmicas e facilmente compartilha insights através das fronteiras disciplinares.

Claro que, como dogmas abrangentes anteriores, o Dataísmo também pode ser fundado em uma compreensão incorreta sobre a vida. Em particular, o Dataísmo não tem resposta para o notório “difícil problema da consciência”.

No momento, estamos muito longe de explicar a consciência em termos de processamento de dados. Por que é que quando bilhões de neurônios no cérebro disparam sinais particulares uns aos outros, surge uma sensação subjetiva de amor, medo ou raiva? Não temos uma resposta.

Mas embora o Dataísmo possa estar errado sobre a vida, ele ainda pode conquistar o mundo. Muitos credos anteriores ganharam enorme popularidade e poder, apesar de seus erros factuais. Se o cristianismo e o comunismo podem fazê-lo, por que não o Dataísmo? O Dataísmo tem especialmente boas perspectivas, porque está se espalhando em todas as disciplinas científicas. Um paradigma científico unificado pode facilmente tornar-se um dogma inatacável.

Se você não gosta disso, e quer ficar fora do alcance dos algoritmos, provavelmente tenho apenas um conselho a te dar, contido no mais antigo livro: conheça a si mesmo.

No fim das contas, é uma questão empírica simples. Enquanto você tiver uma maior percepção e autoconhecimento que os algoritmos, suas escolhas ainda serão superiores e você vai manter, pelo menos, alguma autoridade em suas mãos.

Se os algoritmos parecem estar prontos para nos dominar, é principalmente porque a maioria dos seres humanos mal conhece a si mesmo.


(Tradução do texto originalmente publicado no Financial Times, “Big data, Google and the end of free will”. Quer participar da equipe de tradutores do AZ e ajudar a melhorar a qualidade da internet brasileira? Entre em contato conosco!)


Esta tradução foi possível graças ao apoio financeiro de Marcelo Maciel, nosso patrão. Quer ser também um patrão do AZ? Clique aqui.

Contribua com a continuidade de Ano Zero, clique aqui.

Você pode querer ler também:

A Revolução da Inteligência Artificial
O Paradoxo de Fermi: onde estão as outras Terras?

  • Cássio Alexandre

    Só há uma coisa a se falar sobre o texto: SENSACIONAL!

  • Matheus Tudor

    Achei o artigo adorável.

  • Ezequiel Lustosa

    Artigo realmente sensacional, profundo e esclarecedor.

    Aliás, uma coisa que me chamou atenção é que como isso lembra o Big Brother de Orwell. Quando o 1984 pela primeria vez já pensei que com o avanço da tecnologia aquele mundo se tornaria facilmente realidade e ainda muito mais eficiente: Ao invés de burocratas que podem me trair, sistemas computacionais que são eternamente fiéis; ao invés de camêras por todos os lados, basta ter acesso as nossas redes sociais;etc.
    Além disso, imagine todo um sistema político e econômico sob controle do “Dataísmo” somado aos futuros transhumanos, que seriam humanos modificados geneticamente. Imagine que comecemos a determinar como será nossa genética e depois esse sistema apenas reforçará o que você foi programado.
    Por exemplo: Imagine que 10% dos bebes são escolhidos para serem gênios. Quando fetos, seus genomas são alterados para que terem a predisposição de terem áreas do cérebro maiores, com mais rugas, e não sejam muito ligados a “futilidades” (como sexo). Depois esse Dataísmo iria sempre o alimentá-los com dados, arquivos, músicas e amizades que sempre fortalecessem seu destino. Inclusive seus parceiros sexuais (se existissem) seriam escolhidos para auxiliarem na produção científica.

    É simplesmente assustador!

    • Felipe Amorim

      Da mesma forma que é assustador, é maravilhoso. Estaremos a beira de uma era de conhecimento humano e paz mundial, jamais visto. Todo sistema tem seus pros e cons, no caso do dataísmo, ele pode te colocar em uma bolha de opiniões (leia-se Facebook ), pode tornar sua privacidade comprometida e também pode reforçar suas características, podendo elas serem más, o sistema Big Data não terá capacidade de saber isso.

      • Ezequiel Lustosa

        Sim, mas nesse cenário orwelliano, perderíamos completamente nossa liberdade e autonomia e nos tornaríamos apenas uma peça de um grande sistema mecânico (ou cibernético, no caso).
        Evidentemente tem seus pontos positivos, mas o preço é muito alto

        • Felipe Amorim

          Sim, mas será inevitável. Liberdade restará na criatividade das pessoas, isso eu garanto. Teremos mais tempo para nossas famílias, amigos e para cultivar nossa criatividade.

          • Talvez não, cara. Mas tomara que sim.

            A era tecnológica atual foi precedida por expectativas de que o avanço da tecnologia daria mais tempo livre ao ser humano. Mas o que fazemos com esse tempo? Criamos mais coisas para “gastar” tempo.

            E quando digo gastar tempo não falo exatamente ter tempo para escrever, ler, estudar, ficar com a família ou pintar quadros impressionistas no chão da garagem não.

            O lamentável (de certo ponto de vista) é que preenchemos esse tempo livre com mais trabalho. haha E uma evidência indireta disso é que o número de pessoas com transtornos psiquiátricos e outras doenças causadas por excesso de trabalho vem crescendo avassaladoramente.

  • Existe um livro muito interessante, que gerou uma série bem legal, chamado O Homem do Castelo Alto.

    Grosso modo, é a história de uma linha temporal paralela em que o Eixo ganhou a Segunda Guerra Mundial e dividiu o mundo com japoneses e italianos.

    A influência nipônica trouxe alguns hábitos curiosos a esse novo mundo. Um deles é o I Ching. Isso mesmo, aquele “jogo” de varetas que parece prever o futuro é dar os melhores conselhos sobre o futuro é sobre decisões a serem tomadas, doa negócios ao casamento.

    Isso simboliza algo muito verdadeiro sobre esse universo e sobre o nosso próprio mundo. A intuição humana, individual ou projetada em ferramentas esotéricas ou orações, sempre foi o guia da humanidade.

    Estamos migrando para o dataísmo. Nada impede que no futuro próximo nossas decisões, noa negócios ou no casamento, sejam tomadas por um app do Google que calcule as chances de sucesso em cada decisão, baseando-se no nosso histórico de decisões, preferências e ações passadas.

    A diferença é que num mundo regido pelo dataísmo, a possibilidade de recebermos conselhos e dicas que sejam muito mais certeiros que a média, é muito mais provável do que era antes.

    Temos as chances de vivermos melhor, mas também podemos criar um Big Brother IA incorpóreo que guie nosso destino para, com isso, guiar o destino da humanidade como um sistema coeso rumo a algo.