Autor de ‘Homo Deus’ mapeia as graves implicações da tecnologia

O historiador israelense Yuval Noah Harari, 40, autor de “Homo Deus”

Merece respeito um jovem historiador israelense que se põe a escrever uma “breve história da humanidade”, dá ao livro o título de “Sapiens” e vende mais de 2 milhões de cópias dele.

Dois anos depois, Yuval Noah Harari, 40, lança “Homo Deus – Uma Breve História do Amanhã”, obra que chega às livrarias do país na próxima semana. Nela, ele se propõe a mapear as tendências das tecnologias e suas graves implicações para a humanidade nos próximos 200 anos.

Alguns dirão que o sucesso lhe subiu à cabeça. Neste caso, contudo, o dito não deve ser tomado como reprimenda, porque o livro consegue provocar reflexões avançadas sobre as consequências dos poderes “divinos” que a biotecnologia e a inteligência artificial vão conferindo aos homens e mulheres do século 21.

Fã da série de TV “Black Mirror”, que trata de distopias propiciadas pela tecnologia da informação, Harari acha um desatino que as pessoas abram mão tão facilmente de seus dados e privacidade para os aplicativos monopolísticos de relacionamento, vendas ou busca. Diz que só mantém uma página em rede social por razões comerciais, não para angariar “amigos”.

Para ele, a idolatria da informação, ou Big Data, pode substituir o humanismo liberal e tornar-se a “religião” do século 21, com grave ameaça para aquilo que a ciência não consegue explicar com seus algoritmos: a consciência. Mas ressalta que “Homo Deus” não faz profecias pessimistas sobre o mundo.

Ele prefere que o livro seja visto como uma convocação às armas da filosofia: “Se você não gosta dessas possibilidades, então faça algo a respeito”. Por exemplo, escrever um livro – ou dois.

Folha – Começando pela pergunta final de seu livro: será que todos os organismos são algoritmos e a vida não passa de processamento de dados?

Yuval Noah Harari – Segundo o que sei sobre o establishment científico hoje, a resposta é “sim”. Se você perguntar aos biólogos, eles podem dizer que, num nível pessoal, acreditam em Deus e que existem almas, coisas assim. Mas quando vão ao laboratório ou escrevem para um periódico científico, a vida é mesmo apenas processamento de dados e todos os organismos são só algoritmos.

Creio que hoje essa é a ortodoxia científica. Eu não necessariamente acho que isso seja verdade, ou que todos os cientistas, como indivíduos, pensem assim, mas no establishment esse é o dogma.

Mas qual é a sua própria opinião a respeito?

Minha opinião é que a ideia de organismos como simples algoritmos tem sido bem-sucedida, especialmente na biotecnologia. Mas acho que existe aí uma grande lacuna nessa visão: a consciência, as experiências subjetivas.

Não temos nenhum modelo científico bom para explicá-las, e é por isso que sou cético quanto a essa visão da vida ser realmente verdadeira. Pode ser que em 20 ou 30 anos tenhamos um modelo da consciência em termos de processamento de dados.

Penso que podemos estar na posição em que a física estava no final do século 19, os físicos estavam convencidos de que realmente entendiam a realidade física e de que só restavam algumas coisas pequenas para resolver. Mas aí vieram revoluções tremendas com a teoria da relatividade e a mecânica quântica.

Acho que o mesmo pode acontecer com a biologia no século 21. Só existem algumas coisinhas como a consciência que não podemos explicar e, bum, uma revolução acontece nas próximas décadas.

Se eu tivesse de indicar a ideia central de seu livro “Homo Deus”, eu diria que a tecnologia está ganhando poderes para transformar crenças em realidades, portanto há que ter cuidado com aquilo em que se acredita. É isso mesmo?

É um excelente resumo do livro. Vai contra a ideia muito comum no século 21 de que a ascensão da tecnologia e da ciência tornaram menos importantes coisas como ideologia, religião, mitologia e ficção. Uma das ideias centrais do livro é que não, é exatamente o oposto.

Essas novas tecnologias dão poderes às ideologias e ficções humanas, coisas que as pessoas podiam imaginar, mas não tornar realidade.
As pessoas vêm sonhando com a imortalidade por milhares de anos, mas sempre foi só uma história religiosa, mitológica. Com o advento da biotecnologia, mais e mais gente está pensando que de fato podemos tornar essa fantasia mitológica uma realidade na Terra, primeiro para prolongar a vida e, eventualmente, superar a velhice e a morte.

Acho que as pessoas estão um pouco precipitadas, e otimistas, nas suas estimativas. Pensadores como Ray Kurzweil estão dizendo que em 30 anos pelo menos as pessoas ricas poderiam prolongar a vida indefinidamente e que hoje alguns de nós fazem parte do grupo de pessoas imortais.
Acho que 2050 é cedo demais. Mas, no longo prazo, digamos dois séculos, não creio que isso esteja além dos poderes humanos.

O sr. se refere ao prolongamento da vida fisiológica, ou pensa nalgum tipo de upload da mente humana em máquinas?

Essas são as duas grandes opções. Há a opção de usar engenharia biotecnológica e talvez conectar corpos e computadores diretamente para prolongar a existência física do corpo humano e do cérebro para além dos 150 anos.

A outra opção é preservar apenas a consciência, de alguma forma fazer seu upload em um computador. Gente muito séria nesses dois campos está dizendo que isso pode ser feito.

Minha grande dúvida é nosso entendimento do que seja mente ou consciência. Sem entender isso não se pode alcançar a imortalidade. E até aqui houve exatamente zero de progresso na tentativa de desenvolver consciência em computadores. Confunde-se inteligência com consciência.
Um de meus receios é que, antes, os humanos adquiriram controle sobre o mundo exterior. Aprendemos a reformatar a realidade física e ecológica fora de nós, mas não entendemos bem como o sistema ecológico funciona. Isso resultou na ruptura dele.

Receio que o mesmo possa acontecer no século 21, mas com o mundo interno. Ganharemos mais poderes para manipular o interior de nossos corpos, de nossos cérebros, mas, por não entendermos o ecossistema mental interno, o resultado será um desastre.

A biotecnologia e a inteligência artificial prometem dar poderes divinos à humanidade. O normal é se referir a isso como “brincar de Deus”, mas o sr. prefere falar em “tornar-se Deus”, daí “Homo Deus”. Deve-se entender que sua argumentação seria como que uma bioética turbinada?

Falo de tornar-se Deus e não de brincar de Deus porque não se trata de brincadeira, é para valer. É preciso lembrar o que os deuses eram nas mitologias tradicionais: não ideias abstratas, e sim seres com capacidades muito concretas. Se fizermos uma lista, os humanos já possuem muitas dessas capacidades e estão desenvolvendo mais e mais delas.

Se você ler o Velho Testamento, verá que muito do que o Deus dos hebreus deveria realizar era zelar pela produção agrícola, garantir que os campos fossem férteis. Os cientistas, hoje, estão se saindo muito melhor do que o Deus do Velho Testamento.

Outra capacidade que o Deus da Bíblia tinha era a de criar vida de acordo com seus desejos. Neste século nós já estamos no ramo de modificar vida e mesmo de criar formas de vida que o próprio Deus nunca conseguiu criar.

O livro adverte que os desenvolvimentos delineados pelo sr. não devem ser tomados como profecias, mas sim como cenários. Várias passagens, no entanto, dão a entender que esses cenários vão necessariamente acontecer. Críticas como as suas à biotecnologia e à inteligência artificial poderiam impedir a humanidade de tomar esse rumo?

Há alguns desenvolvimentos que são inevitáveis. Quando se considera o progresso da biotecnologia, acho inevitável que no século 21 isso vá continuar e que a humanidade ganhe imensos novos poderes para remodelar a vida.

Isso no nível mais fundamental. Além dele, começam a aparecer opções e escolhas. A tecnologia não é determinista. Pode-se usar biotecnologia para propósitos diferentes.

Para dar um exemplo do passado: há muitas décadas temos a capacidade de transplantar órgãos, e as pessoas imaginavam que o resultado seria um mercado livre para órgãos humanos.

Embora a gente veja alguns desses fenômenos perturbadores, em lugares como a China e a Coreia do Norte, no geral se pode dizer que isso não aconteceu, embora a tecnologia e fortíssimos incentivos de mercado estivessem presentes. Os humanos ainda têm a capacidade ética e política de impedir o que consideram os piores usos da tecnologia.

“Novas tecnologias matam deuses antigos e dão origem a deuses novos”, diz o livro. Por que é que necessitamos substituir a religião do humanismo, como o sr. diz, por uma nova religião, e não por uma ética secular, baseada em evidências, de baixo para cima?

Quando falo em dar vida a novos deuses não penso em reviver algum tipo de politeísmo antigo, ou hinduísmo.

De meu ponto de vista, o próprio humanismo não está baseado em evidências, também é um tipo de religião, de história de ficção. As ideias centrais do humanismo são apenas invenções humanas, basta pensar na ideia de que todos têm direitos iguais à vida e à liberdade, e assim por diante –são histórias que inventamos, não está nas leis da natureza ou no DNA.

Não me inclino a dizer que isso seja ruim. Histórias são essenciais para unificar as pessoas e tornar uma sociedade funcional.

Algumas histórias são melhores que as outras. Digo que se pode medir o valor de uma história por quanto sofrimento ela causa ou alivia. No século 20, se compararmos as histórias do liberalismo e do humanismo com as do nazismo e do comunismo, veremos que, de longe, as primeiras são muito melhores.

Só não acho que sejam histórias relevantes no século 21, por causa das imensas mudanças na tecnologia que trarão mudanças na sociedade e na economia. Vamos precisar de uma nova história, de uma nova ideologia ou uma nova religião, se quiser, muito mais bem adaptada para a sociedade do século 21.

Há uma seção no livro dedicada a desmontar a noção de livre arbítrio, mas daí o sr. afirma que a maior ameaça ao liberalismo e ao humanismo não é essa ideia filosófica de que não existe livre-arbítrio, e sim as tecnologias que vão aboli-lo. O sr. está de luto pelo liberalismo?

De certo modo, sim. O liberalismo está como a história dominante por dois ou três séculos, e em vários sentidos foi uma história muito melhor do que qualquer outra que a humanidade tenha inventado. Não acho que devamos ficar contentes com o fato de que o humanismo liberal esteja mais difícil de se manter.

Devemos ser realistas, porém. Com a ascensão de novas tecnologias, agarrar-se a noções do século 18, como a de livre-arbítrio, não vai nos ajudar muito. Nenhum sistema, nem mesmo a Igreja ou a KGB, ainda que coletando e analisando informação sobre você, podia entender o que se passa dentro de você.

Estamos chegando em um ponto em que teremos conhecimento biológico e capacidade de computação para criar algoritmos para entender os humanos melhor que eles podem entender a si próprios.

O algoritmo vai levar em conta seu DNA, sua pressão arterial, sua função cerebral, tudo, para entender seus sentimentos e escolhas muito melhor do que você. Ele poderá dizer: você quer isso e eu posso dizer por quê.
Isso é diferente dos grandes cenários tipo Big Brother do século 20. O medo do liberalismo era que algum sistema exterior, algum ditador, fosse esmagar sua individualidade. Agora o grande perigo é o oposto, que o indivíduo vá se desintegrar a partir de dentro.

Do ponto de vista científico, não há indivíduo. O ser humano é uma coleção de subsistemas biológicos. Vai desintegrar-se e ser substituído por essa coleção de subsistemas, que poderia ser compreendida e manipulada de fora.

Se isso soa muito abstrato ou teórico, eis um exemplo: os aparelhos Kindle. Antes, quando se queria escolher um livro para ler, ia-se à livraria. Ninguém sabia quem você era nem lhe recomendava nada.

Agora a Amazon faz isso por você, e vai se tornar cada vez melhor nisso. Se você conectar um Kindle a software de reconhecimento facial ou a sensores biométricos no seu corpo, estaremos muito perto do ponto em que a Amazon poderia saber o impacto emocional exato de cada sentença que você ler no livro.

Com esse conhecimento, ela será capaz de dizer não apenas o que fazer na vida, mas também pressionar seus botões emocionais e manipulá-lo numa extensão muito maior que qualquer ditador com que pudéssemos sonhar.

No final do livro o sr. lança outra questão –se a inteligência é mesmo mais valiosa que a consciência. Minha conclusão é que ele foi escrito com consciência e a favor da consciência. Na superfície parece um livro muito pessimista, mas também pode ser visto como uma convocação às armas –as armas da filosofia.

Eu enfatizo repetidamente que não se trata de um livro de profecias, porque ninguém sabe com que o mundo se parecerá em um século. Ele traça diferentes possibilidades.

Num certo sentido, é mesmo uma convocação às armas: se você não gosta dessas possibilidades, então faça algo a respeito. Ainda há tempo para pensar sobre essas questões e moldar nosso futuro.

É responsabilidade de historiadores, filósofos e pensadores pensar nas possibilidades mais negativas e assustadoras. Se você questionar o povo do Vale do Silício sobre como será o futuro, eles vão pintar esse lindo quadro de como a vida será boa com todas essas tecnologias. Eles têm um poder tremendo e um monte de dinheiro para pôr nesses sonhos.

O livro aponta a mudança do clima causada pelo homem como possível barreira para a conversão desenfreada da vida econômica e social em algoritmos, mas só de passagem. Por que chamar a atenção aos poderes criados pela tecnologia humana e não tanto para suas limitações?

Para muitas pessoas a mudança do clima pode ser a maior ameaça no século 21, e certamente não estamos fazendo o bastante a respeito disso. Isso porque hoje o único meio de parar a mudança do clima é frear o crescimento econômico, e não há governo na Terra disposto ou capaz de fazer isso.

Qualquer governo que fizer, no Brasil, na China, na Índia, cairá do poder em alguns poucos dias ou meses. Haverá uma revolução ou cairá pelo voto. No momento não há como parar a mudança do clima, e as repercussões para a maior parte das pessoas poderiam ser horrendas.

Não pus foco nisso como tópico principal do livro porque acredito que no longo prazo, no prazo realmente longo, mesmo que a maioria das pessoas sofram com a mudança do clima, ela não destruirá a humanidade nem impedirá o progresso de tecnologias como inteligência artificial e bioengenharia.

Na realidade, só vai acelerá-las, da mesma maneira que em tempo de guerra muitas restrições são deixadas de lado. A época da Segunda Grande Guerra foi um tempo de grande inovação tecnológica. Pense no Projeto Manhattan. Quando a sobrevivência está em causa, faz-se tudo o que for necessário para sobreviver.

Creio que a mudança do clima terá um efeito similar. No momento em que se atingir o ponto de ebulição, quando se tornar uma verdadeira crise, ela dará um incentivo ainda mais forte para explorar novas tecnologias, na esperança de que isso nos ajudará a superar a crise.

Quanto maior for a crise, mais os seres humanos estarão dispostos a deixar de lado restrições éticas e políticas e a seguir em direções extremas. Suspeito que o resultado será que a maioria das pessoas no mundo sofrerá enormemente, mas que pelo menos uma pequena elite será capaz de sobreviver e terá sob seu comando fantásticas novas tecnologias, muito além de tudo que conhecemos hoje.

Para a evolução de longo prazo da vida, na Terra e mesmo além dela, a coisa realmente mais importante serão as novas tecnologias e não a mudança do clima. Nesse sentido será parecido com Segunda Guerra Mundial que causou enorme sofrimento, mas no final a humanidade conseguiu atravessá-la, e o que herdamos de verdade dela são todas essas novas tecnologias que remodelaram o mundo, como aviões a jato, armas nucleares, radares etc.

“Homo Deus” é na verdade um livro sobre o longo prazo, o futuro da vida, e não sobre o futuro de médio prazo das sociedades humanas. Se eu fosse escrever um livro sobre como o mundo estaria em, digamos, 2050, aí daria muito mais atenção para a mudança do clima do que dei para a inteligência artificial.

Pretende escrever um livro desses?

Primeiro, ainda não tenho planos concretos para um próximo livro. Tento deixar que meus livros se escrevam a si próprios, não começo com uma ideia definida, vou escrever uma história do mundo. Escrevo coisas, dou conferências, aí as coisas começam a se acumular e, ei, isso pode já ser um livro em gestação.

Além disso, acho muito mais difícil falar do médio prazo, num sentido paradoxal. Se você tentar prever desenvolvimentos e eventos particulares, é quase impossível. Qual será a potência política dominante em 20 anos? EUA, China? Não sei, há tantas coisas que podem mudar e acontecer.
Já se você perguntar, num nível mais fundamental, o que vai influenciar o mercado de trabalho, aí posso ter mais confiança para dizer que a inteligência artificial o transformará inteiramente. As coisas mais fundamentais são na realidade mais fáceis de prever.

Fonte – Marcelo Leite, Folha de S. Paulo de 12 de novembro de 2016

No link da folha tem a entrevista.