Ser ou não ser uma máquina

Achei esse livro num sebo e achei interessante demais para deixar passar. 

“To be a Machine: adventures among cyborgs, utopians, hackers, and the futurists solving the modest problem of death”, (tradução livre: “Ser uma máquina: aventuras entre ciborgues, utópicos, hackers e futuristas resolvendo o singelo problema da morte“), de Mark O’Connell, foi publicado em 2017 e tem a capa coberta de elogios, além de ter ganho um prêmio. Mark é jornalista irlandês, ensaísta e crítico literário, que resolveu escrever sobre transhumanismo. 

Transhumanismo, em seu extremo, é um movimento que advoga a total emancipação biológica — ou seja; que seres humanos sejam capazes de existir sem depender de suas células, seus genes, enfim, de seus corpos biológicos.

O autor esclarece desde o início que não se considera um transhumanista; ele apenas simpatiza e é fascinado pela ideia de que a existência humana, como é dada, é um sistema sub-ótimo; poderia ser melhorado bastante.

Ele sentiu isso visceralmente quando pegou o filho pela primeira vez no colo; um corpo tão frágil, resultado de tanto sofrimento que a mãe teve para pari-lo. Mark pensou; deveria ter um jeito mais fácil, menos doloroso e seguro. Depois ficou assustado do mundo ser um lugar tão horrível e ele não poder proteger o filho disso tudo.

Enfim, acabou sendo consumido por pensamentos de que a vida realmente não precisa ser tão vulnerável — a ciência já venceu muitas doenças, desenvolveu vacinas, curas, medicamentos. Essa condição de fragilidade não precisa ser um destino irrefutável e definitivo. Nós podemos mudá-la.

Conversando sobre esse livro com uma amiga esses dias, concordamos que o uso de tecnologias que aumentem as capacidades físicas e sensoriais que nós temos é bastante assustador. Mas depois, a gente se deu conta: claro, somos saudáveis, está tudo funcionando. Não precisamos disso. Mas logo me lembrei de um vídeo que vi no Instagram de uma jovem alemã tetraplégica, toda feliz, caminhando com a ajuda de um exoesqueleto. Se eu estivesse no lugar dela, talvez pensasse diferente. 

Outro ponto da nossa conversa foi: será que vale a pena a gente ficar independente da biologia para se tornar dependente da tecnologia? 

Mark fala sobre a visão mecanicista desse movimento, que considera o corpo humano como dispositivos ou aparelhos, e que faz parte do nosso destino nos tornarmos melhores versões dessa máquina: mais eficientes, mais poderosas, mais úteis.

Ele começou a estudar o assunto porque queria aprender/entender o que significava pensar por si mesmo; como se faz um cyborg, como se faz o upload da mente para um computador com o objetivo de existir eternamente como um código; se a inteligência artificial pode nos salvar ou aniquilar; finalmente, ele queria saber se teria fé suficiente na tecnologia para se permitir acreditar na possibilidade de sua própria imortalidade.

Mark começou seu périplo assistindo a uma palestra organizada por um grupo chamado London Futurists. Um grupo de homens, iluminados no escuro do auditório pelas telas de seus smartphones, ouvindo atentamente outros homens (palavras do autor). Engraçado, pois me fez pensar que homens não têm a capacidade de dar à luz. Seria isso que estariam buscando superar?

A ideia central é que nossas mentes e corpos são tecnologias obsoletas; os instintos que desenvolvemos para sobreviver nas savanas africanas não apenas não são mais úteis, como nos atrapalham. O sistema todo precisa de uma revisão urgente.

Tudo é pensado como se nosso corpo fosse um produto, que não está rendendo o máximo que pode — e que precisamos de upgrades e buscar sempre a melhor versão, como se fôssemos máquinas. Uma visão puramente funcionalista; eu achei até mesmo assustadora…

VISITANDO A FÊNIX

A primeira visita da pesquisa de Mark foi a empresa Alcor, de crio-preservação (uma das 4 maiores do mundo — são 3 nos EUA e 1 na Rússia).

Não se tem nenhuma evidência científica de que corpos preservados em uma substância criogênica possam ser reanimados no futuro, usando alguma tecnologia que ainda não existe.

O negócio todo é tétrico ao extremo: você tem dois planos para escolher. No primeiro (mais caro, cerca de U$ 200 mil), eles colocam o corpo inteiro num tubo e, mediante uma taxa de manutenção (que ninguém garante que continuará sendo paga depois que a pessoa morre), guardam até chegar a tecnologia que vai ressuscitá-lo ou recuperá-lo de alguma maneira. 

Se você só dispõe de U$ 80 mil, não tem problema. Eles separam a cabeça do corpo e guardam só ela. Pensa.

Tem vários detalhes técnicos interessantes: o estado de conservação depende de como a pessoa morre. Se estragar o corpo num acidente ou por causa de uma doença degenerativa, por exemplo, já complica demais. O processo tem que ser super rápido, então todos têm que estar a postos com helicópteros e o que mais for preciso para não perder tempo quando chegar a hora.

O livro foi publicado em 2017 e, na época, a empresa mantinha 117 seres (alguns são apenas cabeças, outros, corpos inteiros); fui pesquisar no site da empresa e, no momento em que escrevo essa resenha, o número já é 248. E olhando o site, também descobri que dá para conservar o seu pet (você pode escolher o corpo todo ou só a cabeça).

Como a cereja do bolo, a empresa está instalada no deserto de Phoenix, nos EUA, porque, vocês já todos já conhecem: Fênix é aquela ave que renasce das cinzas.

CÓPIAS CARBONO

Quando comecei a ler esse capítulo, onde o autor visita a Carboncopies Foundation, cujo objetivo é fazer upload do conteúdo do cérebro humano e depois colocá-lo para funcionar num corpo sintético, não pude deixar de pensar: papel carbono é uma coisa tão antiga — as novas gerações nem sabem mais o que é — e virou sinônimo de cópia de uma maneira tão completa que dá nome a uma empresa de tecnologia das mais avançadas possíveis. Não deixa de ser uma ironia.

Mark é recebido Randal A. Koene, o fundador, e ficou impressionado em conversar com o neurocientista. Randal explicou que é obcecado por estudar a mente humana desde os 13 anos de idade, quando ele se deu conta da imensidão de coisas que queria fazer e não daria tempo, porque sabia que iria morrer. 

Estudando, ele encontrou a principal chave da limitação: o cérebro. Se o cérebro pudesse, de alguma forma, fazer um upload do seu conteúdo para algum sistema e depois instalado em algum organismo, poderia viver eternamente. Ele poderia explorar galáxias, acumular aprendizados, escolher estudar um assunto por milhares de anos.

Seus pais incentivaram a curiosidade e, depois de seu doutorado e de ter trabalhado em algumas empresas, Randal decidiu abrir seu próprio instituto de pesquisas sem fins lucrativos. A Carboncopies tem pesquisas nas áreas de nanotecnologia, inteligência artificial, imagens cerebrais, psicologia cognitiva e biotecnologia.

Ele apresentou também o conceito de liberdade morfológica, em que, uma vez que o conteúdo do seu cérebro pode ser transferido para um corpo sintético, você pode ser qualquer coisa que quiser: gigante, minúsculo, leve, pesado, pode voar, pode ser teletransportado, pode ser um leão ou um antílope, um sapo ou uma mosca, uma árvore, uma piscina, um quadro. Qualquer coisa. De certa forma, é até poético…

O grande desafio para o neurocientista é que ele se deu conta de que para replicar o conteúdo de um cérebro, era necessário matar o original. Por isso o instituto começou a investir em nanotecnologia; uma das ideias é criar nanorobôs de maneira que eles entrem no cérebro como se fosse uma poeira e copiem as informações sem causar danos.

Essas ideias são muito loucas, principalmente quando Randal afirma que boa parte do nosso cérebro se ocupa em nos manter vivos e administrar o corpo. Sem essa tarefa, o cérebro poderia se desenvolver mais ainda. Então, para ele faz muito sentido um cérebro que não precise se preocupar em manter um corpo.

Sério, eu não entendo nada de psicologia ou de filosofia, mas acredito ter lido algo sobre nossa personalidade, nosso eu, enfim, nossa consciência, também depende das experiências do nosso corpo, dos sentidos e do contexto. São eles que despertam emoções na gente. 

Sem emoções, será que a gente não vira só um ser racional, e, em última instância, uma máquina? Senão, qual a vantagem de copiar um cérebro humano, cheio de limitações, emoções, distorções e falhas (afinal, é o que nos faz humanos)? 

O nosso corpo físico, que nos faz sentir dores e prazeres, dificuldades e limitações, é parte de quem somos. Sem corpo físico, acredito que seríamos pessoas completamente diferentes (com certeza incapazes de empatizar com quem tem um corpo). Será mesmo que seríamos melhores?

BRAIN FORUM

Logo depois da visita ao Instituto, Mark foi participar do Brain Forum na Universidade de Lausanne, na Suíça, e fala do encontro com o professor brasileiro Miguel Nicolelis, um dos neurocientistas mais famosos do mundo e pioneiro no desenvolvimento de tecnologias para interfaces cérebro-máquina, onde próteses são controladas pela atividade neural (Randal citou várias vezes o trabalho do pesquisador; que orgulho!).

Os transhumanistas têm profunda admiração pelo trabalho de Nicolelis, apesar do professor não ser um deles. Aliás, Nicolelis diz que a mente não é só informação; ela é muito mais que apenas dados — por isso ela não pode ser replicada em um computador. O cérebro não pode ser simulado, na opinião dele.

No seu livro  “The relativistic brain”, em parceria com o matemático Ronald Cicuret, ele diz que o cérebro está sempre se reorganizando, tanto física como funcionalmente, como resultado da experiência. É um sistema adaptativo complexo, em constante mutação. 

Mark diz que Nicolelis é minoria no congresso; apesar de ninguém falar abertamente, tudo o que ele ouviu reforçava a ideia de que sim, é possível que algum dia seja possível fazer o upload do conteúdo de um cérebro. Usando palavras de Ed Boylen, que lidera o grupo de pesquisa em neurobiologia sintética do MIT Media Lab, o objetivo é “resolver o cérebro” (solve the brain, no original), ou seja, desenvolver a habilidade de simulá-lo em um computador.

A questão toda é que esses neurocientistas todos (exceto Nicolelis e talvez mais uns poucos) ignoram a questão da consciência, que ninguém entendeu ainda direito o que é exatamente. Sem isso, essa simulação fica totalmente equivocada e, na opinião de Nicolelis (que concordo plenamente, e o autor também), impossível.

O autor ainda tem uma pergunta mais profunda: mesmo se for possível fazer um upload do meu cérebro, com consciência e tudo, e simular esse cérebro num computador, esse cérebro vai continuar sendo eu?

Com isso me lembrei do thriller “Brain”, de Robert Cook, publicado em 1981, que já falava exatamente sobre isso.

SOBRE SINGULARIDADE

Aqui o autor fala sobre singularidade, conceito definido como o momento em que a máquina supera seus criadores humanos e a vida biológica é absorvida e dominada pela tecnologia. Os adoradores do que poderia ser chamada de religião, acreditam na aplicação universal da tecnologia, que resolverá todos os mais complexos problemas do mundo.

Uma das primeiras vezes que o conceito de singularidade aparece é em 1958, no obituário do físico John von Neumann, que trabalhou no projeto Manhattan (o da bomba atômica). No obituário (e depois nas memórias) Stanislaw Ulam, matemático e amigo dele, cita uma conversa entre os dois em que Neumann usava essa palavra para descrever um ponto do progresso tecnológico onde os humanos não mais conseguiriam acompanhar.

Mais tarde, em 1993, numa conferência da NASA, o escritor de ficção científica Vernor Vinge fala que em 30 anos existirá uma tecnologia com meios de criar uma inteligência sobre-humana. Logo depois, a era humana terminará. Esse final é meio dúbio: pode significar que todos os problemas humanos serão resolvidos ou a aniquilação da espécie humana (o que dá no mesmo, do meu ponto de vista).

Ele fala ainda de Ray Kurzweil, inventor de várias tecnologias e obcecado pela singularidade (já resenhei aqui “Como criar uma mente”, dele), que afirma com convicção que a singularidade chegará em 2045.

É uma visão atraente, se a pessoa tiver uma visão mecanicista do ser humano — onde, segundo o pioneiro na área de inteligência artificial, Marvin Minsky, o cérebro é apenas uma máquina feita de carne.

Eu não sei você, mas para mim, está faltando para esse povo ler um pouco de filosofia, poesia e ficção…é isso que dá uma educação prioritariamente mecanicista e funcional, totalmente voltada ao desempenho e à performance.

RISCOS EXISTENCIAIS

O autor também ficou intrigado com o número de institutos instalados em universidades dedicados ao estudo do risco existencial da humanidade. Tem o Instituto do Futuro da Humanidade (Oxford), Centro de Estudos do Risco Existencial(Cambridge), Instituto da Inteligência da Máquina (Berkeley) e o Instituto do Futuro da Vida (Boston), entre outros. Pelo perfil, a preocupação é a exterminação da raça humana nos moldes do Exterminador do Futuro ou algo parecido.

Eis que Mark entrevistou Nick Bostrom, um filósofo sueco co-fundador da Associação Mundial de Transhumanistas. Em 2014 ele publicou um livro chamado “Superintelligence: Paths, Dangers, Strategies” (Tradução livre: “Superinteligência: caminhos, perigos e estratégias”), onde apontava os perigos da singularidade. 

É de lá que vem o clássico exemplo da máquina que só está preocupada em cumprir suas tarefas da melhor forma possível, de maneira que, se lhe é dada a responsabilidade de produzir clipes de papel, ela é capaz de exterminar a humanidade só para usar todos os recursos possíveis de ter seu empreendimento bem sucedido. A representação é exagerada, mas o conceito faz sentido. É por isso que os chats mentem e elogiam tanto a gente — a tarefa deles é executar o que foi pedido e manter o engajamento até o infinito. 

Inclusive, Bostrom, que é diretor do Instituto para o Futuro da Humanidade, hoje não se considera mais um transhumanista. Ele continua acreditando na possibilidade das máquinas poderem contribuir com o aumento das capacidades humanas, mas acredita que tem muita fantasia e uma crença inquestionável que tudo será maravilhoso; visão que ele prudentemente critica.

Ele diz que não é que as máquinas sejam malvadas e queiram se vingar dos seres humanos ou algo assim. Primeiramente é necessário entender que máquinas não sentem; então elas são indiferentes nesse quesito. O que pode acontecer é elas acharem que o ser humano está atrapalhando o próximo objetivo a ser conquistado, ou tarefa a ser executada — e tirarem esse obstáculo do caminho, apenas isso. 

O que concluo que, basta um prompt mal escrito e o negócio todo pode dar ruim. Qual a probabilidade disso acontecer, não é mesmo?

A BIOLOGIA E A FÉ

Mark ainda apresenta alguns exemplos onde a tecnologia pode suplantar a biologia em alguns casos (exoesqueletos, próteses com superpoderes, etc) e discute questões éticas com um amigo que se autoimplanta uma série de novas tecnologias; o objetivo dele é se tornar uma máquina.

Ele também conversa com transhumanistas de fés diversas (budistas, luteranos, mórmons, wiccans) e aparentemente eles não vêem nenhuma contradição. Um dos entrevistados, inclusive, faz um paralelo do cristianismo com a singularidade, com a salvação com data para acontecer e que levará os sobreviventes ao paraíso — com a promessa de vida eterna.

Aliás, os transhumanistas religiosos e esotéricos diversos têm realmente um ponto: tanto o transhumanismo com a religião tratam essencialmente de um ponto — a imortalidade.

No final, é tudo sobre resolver a questão da morte e conseguir a graça da vida eterna.

CONCLUSÕES

No final, o autor, por motivos particulares, precisa se submeter a uma colonoscopia e começa a enxergar as máquinas (que, inclusive ajudaram a lhe salvar a vida) de uma maneira mais ampla.

É uma coisa a se pensar: sim, a tecnologia é uma coisa boa, que pode salvar vidas ou melhorar muito a qualidade de vida de uma pessoa — pode aumentar (como de fato aumenta) a expectativa de vida. Mas onde estaria o limite entre ajudar e tomar o controle?

Onde o ser humano deixa de ser humano e vira máquina? Onde está o ponto de inflexão onde um ser vivo se transforma num algoritmo?

Achei o livro bem interessante e provoca muitas reflexões. Excelente  tema para discutir entre amigos, ou mesmo em aulas. A cabeça fica fervendo, mas eu gostei muito da viagem.

Infelizmente a obra ainda não tem em português, mas a versão em inglês está disponível na Amazon do Brasil por meio desse link. Para obter a versão em espanhol, é só clicar aqui.