Finalmente chegou meu exemplar de Nexus: A brief history of information networks from the stone age to AI (Tradução livre: “Nexo — uma breve história das redes de informação da idade da pedra até a inteligência artificial”), do meu guru Yuval Noah Harari.

Sou grande admiradora desse pensador que consegue traduzir tão bem a complexidade contemporânea. Amei Sapiens e Homo Deus resenhados aqui (e estou devendo 21 Lessons for the 21^st century).

Então vamos a mais essa joia! 

Harari começa dizendo que os seres humanos acumularam um imenso poder nesse planeta em que vivemos. Mas poder não é sabedoria, infelizmente.

REDES HUMANAS

Nessa primeira de três partes, Harari fala sobre o conceito de informação, sobre o qual o livro todo vai se basear. Mesmo com tantas informações e estudos disponíveis hoje em dia, somos tão vulneráveis quanto os nossos ancestrais quando se trata de acreditar em fantasias e ilusões. 

E isso fica evidente com a constatação que o poder nunca é individual, sempre é coletivo. E para conseguir juntar tanta gente, foi preciso desenvolver a habilidade de contar histórias; a questão é que nem sempre as histórias que mais atraem pessoas são as verdadeiras. 

Além disso, como ele já disse, poder não é sabedoria. Então, o ser humano consegue colaborar em redes enormes de pessoas, mas isso não significa que isso seja feita de uma maneira que seja boa para todos. O resultado é que a gente está num processo de autodestruição acelerado.

Mas vamos ao conceito de informação. Há uma linha de pensamento, compartilhada por muita gente, e que Harari chama de visão ingênua, de que mais informação é sempre melhor. E que mais informação também resolve o problema de informações erradas; é como se alimentando um sistema com o máximo de informações possível, ele se auto regulasse. 

E disso temos a missão do Facebook, que é “ajudar as pessoas a compartilhar mais informação para fazer o mundo mais aberto e promover o entendimento entre elas”. Nem vou comentar onde isso nos levou, mas certamente não foi o melhor entendimento…

Essa visão ingênua acredita que colocando mais informações à disposição de todos, vai se criar um círculo virtuoso promovendo o avanço de todos os aspectos humanos como bem-estar, educação, saúde, saneamento, democratização e até redução da violência. 

Será que a missão do Google que é “organizar toda a informação do mundo para fazê-la universalmente acessível e útil” faz realmente sentido?

Hoje um smartphone comum tem mais informação na sua memória que toda a épica Biblioteca de Alexandria; conectado, então, nem se fala. Pena que nada disso impede (ou talvez até estimule) a gente continuar jogando gases venenosos na atmosfera, poluindo todas as águas disponíveis, destruindo habitats inteiros, levando inúmeras espécies à extinção e produzindo armas cada vez mais poderosas de armas de destruição em massa. Não faltam informações sobre as consequências a nenhum líder, temos absoluta certeza.

Para coroar a desgraça agora podemos contar também com a inteligência artificial generativa, um poderoso agente que pode ajudar ainda mais aumentar os conflitos globais, em vez de resolvê-los, como sonhavam alguns. Porque agora temos à disposição a primeira tecnologia da história capaz de tomar decisões por conta própria, sem nos consultar. Pense: mesmo a arma mais letal construída até hoje, a bomba atômica, precisa de um humano para apertar o botão. Não mais. Por isso Harari frisa:

A inteligência artificial generativa não é uma ferramenta: é um agente.

Então, só para reforçar: mais informação não necessariamente resolve problemas. Em alguns casos sim; na ciência por exemplo, podemos ver evidências de mais doenças sendo curadas. Mas nem todos.

Então Harari defende a ideia que o importante não é a informação em si, mas as redes das quais ela faz parte. Todos os animais, mercados e estados são redes de informações, absorvendo dados do ambiente, tomando decisões e retornando com outros dados.

E, para líderes populistas de direita (ele cita Trump e Bolsonaro), informação nada mais é do que uma arma a ser usada para se chegar e se manter no poder. O objetivo não é a verdade (até porque um dos mantras distópicos que eles repetem é “cada um tem sua própria verdade”).

E Harari também não poupa os radicais de esquerda: Michel Foucault, por exemplo, dizia que fatos científicos nada mais eram do que um discurso capitalista ou colonialista

Ambos os grupos extremos acreditam o poder é a única realidade, a única verdade possível.

Assim, antes de esperar um líder carismático que venha para resolver tudo, ou mesmo uma tecnologia mágica e revolucionária, precisamos entender melhor o que é informação, como isso ajuda a construir redes humanas e como isso está relacionado com a verdade e com o poder.

E aqui, mais uma frase maravilhosa, para quem diz que a gente precisa estudar história. Harari diz:

História não é o estudo do passado. É o estudo da mudança.

Um conhecimento profundo de história é vital para entender o que é novo sobre IA generativa, como isso é fundamentalmente diferente de todas as outras tecnologias anteriores e de que formas específicas a uma ditadura da IA pode ser completamente diferente de tudo o que se viu antes.

A ideia é que, fazendo escolhas bem informadas podemos prevenir resultados desastrosos.

O QUE É VERDADE?

Verdade é um termo filosófico, então Harari deixa claro aqui o conceito para que fique claro. Quando ele se refere à verdade, significa algo que representa acuradamente certos aspectos da realidade, partindo do princípio que existe uma realidade universal — ou seja — tudo o que existe no universo, de páginas na internet, astrologia e até o seu cachorro fazem parte de uma única realidade. 

Porém, realidade e verdade são duas coisas diferentes. Por mais acurada que seja, a verdade nunca conseguirá representar a realidade em todos os seus aspectos. 

Quer um exemplo? Se eu falar que existem 10 mil pessoas num estádio de futebol, essa informação simples ignora a diferença de idade entre elas; quantas têm alguma restrição alimentar; qual parcela tem dívidas e qual parte mora em outra cidade. São infinitos os recortes que se pode fazer dentro de um único cenário, pois cada indivíduo é único. Dependendo da finalidade para qual quero essa informação, uma parte dessa realidade que foi deixada de fora pode ser muito relevante. E continua sendo verdade.

A questão é que a realidade inclui um nível de objetividade em relação a fatos que não depende de crenças. Mas também inclui um nível subjetivo que, sim, depende de crenças e sentimentos de várias pessoas, que vão selecionar como vou fazer o recorte para representá-la.

O QUE A INFORMAÇÃO FAZ?

A visão ingênua acredita que a informação é uma tentativa de representar a realidade. Às vezes acontecem erros, com ou sem intenção, mas a solução para isso seria mais informação; como uma espécie de nata nesse mar de informação, a verdade emergiria como nata no leite. 

Só que a informação que traz verdade é minoria; verdade implica em pesquisas extensivas, tempo de imersão no tema, checagem sobre confiabilidade das fontes, reconhecimento de vieses, muitas coisas. Informação falsa, que não pretende representar a realidade, mesmo que parcialmente, não dá trabalho nenhum: é só usar a imaginação.

Informação é uma coisa que cria novas realidades conectando diferentes pontos em uma rede.

Por exemplo: há muitos erros históricos e de vários tipos na Bíblia, e nem por isso se pode negar a importância e a influência dessa obra na história da humanidade. Algumas decisões são tomadas com base na astrologia e essas decisões influenciam a história de muitas pessoas, não importa se a astrologia faz ou não sentido.

Como conclusão, a gente percebe que a informação algumas vezes representa a realidade; outras vezes, não. Mas ele sempre conecta humanos; é a sua fundamental característica.

Então, mais importante que saber se uma informação é verdadeira ou falsa, a gente devia se perguntar:

Quão bem essa informação conecta pessoas? Que nova rede ela está criando?

HISTÓRIAS: CONEXÕES SEM LIMITES

Os seres humanos não dominaram o planeta por serem os mais inteligentes, fortes ou simpáticos, mas porque conseguiram colaborar em grande número. Os insetos e alguns mamíferos também cooperam, mas nenhum deles estabeleceu religiões, impérios e redes de negócios.

E sabe qual a diferença? A capacidade de criar e compartilhar histórias — é isso que faz não ter limites para a conexão. Só para dar um exemplo: a Igreja Católica tem 1.4 bilhões de membros que vivem suas vidas com base num livro de história chamado Bíblia. A China (que também é uma história inventada — como o é o conceito de país) tem 1.4 bilhões de pessoas. E o número de pessoas que vive assumindo uma ficção chamada dinheiro é o planeta inteiro; quase 8 bilhões. 

Se a gente dependesse de ter contato físico para colaborar em grupo, dificilmente ultrapassaríamos 200 membros. 

As habilidades linguísticas, que surgiram há 70 mil anos, fizeram com que esse crescimento das redes fosse possível. Em vez do contato humano-humano, a conexão passou a ser humano-história. Não preciso conhecer profundamente outra pessoa; basta que ela acredite na mesma história que eu (por exemplo, você e eu somos brasileiros; então, estamos conectados por essa ficção).

E aqui, mais uma daquelas constatações bombásticas que eu amo:

A gente acredita que está conectado com uma pessoa, mas na verdade, a gente se conecta com a história contada sobre a pessoa. Muitas vezes, a diferença é gigante.

Sobre histórias, Harari fala sobre a realidade que precede o storytelling: a realidade objetiva, a subjetiva e a intersubjetiva.

A realidade objetiva existe independente da gente se dar conta dela: uma pedra, um animal ou uma flor, podem existir mesmo que nunca nenhum ser humano tenha colocado os olhos sobre eles.

A realidade subjetiva dependem da nossa percepção como seres humanos observadores: dor, prazer e amor, são reais, mas alguém precisa senti-los. Essa realidade existe dentro de uma mente.

Já a realidade intersubjetiva existe para um conjunto de pessoas. Leis, países, corporações e dinheiro existem porque um grupo de pessoas combinou assim. É uma espécie de acordo, uma convenção. A gente combina que esse papel escrito vale um pedaço de terra, e assim é. 

Essa realidade também vale para times, nações, religiões, enfim, tudo o que se baseia em uma história para formar a identidade do grupo que a defende (e às vezes até morre por essa história). 

Esse tema, de como a capacidade de contar e acreditar em histórias mudou toda a história da civilização humana no planeta Terra, é explorada em mais detalhes nos dois livros anteriores dele, Homo Sapiens e Homo Deus.

Mas enfim, quanto mais histórias e mais complexo foi ficando o mundo, foi necessário organizar tanta informação. Aí nasce o que a gente conhece por burocracia; procedimentos organizados para se armazenar e resgatar determinada informação. 

Depois ele faz uma análise interessantíssima do papel que os livros sagrados têm para cada religião e como a ciência descobriu que somos ignorantes; essa constatação tornou possível aprendermos mais (tenho outro livro maravilhoso sobre a nossa ignorância que se chama “The knowledge illusion” resenhado aqui).

Harari nos presenteia então como uma breve história da democracia e do totalitarismo e como esses dois sistemas  políticos e éticos tratam a informação. No primeiro caso, ela é totalmente distribuída e descentralizada. Nos segundo, toda a informação está concentrada e controlada num lugar e as decisões são tomadas sobre essa base de dados.

Uma democracia sabe que podem haver erros, incertezas e imprecisões nos dados. O totalitarismo detém a autoridade sobre a base de dados e a considera infalível e não admite erros quando eles acontecem.

Com o advento da mídia de massa e das tecnologias para que mais pessoas sejam impactadas pelas histórias, construiu-se uma democracia de massa no século XX (ao contrário da democracia original grega, que só valia para as elites). Por outro lado, também foi criado o totalitarismo de massa, pois também foi possível controlar o fluxo da informação (e da desinformação também).

A REDE INORGÂNICA

Agora chegamos à parte que interessa; como os computadores são diferentes da mídia impressa, que até então era protagonista das transformações do mundo nos últimos séculos.

Harari diz que o computador é o grande revolucionário; tudo o que veio depois, da internet à Inteligência Artificial generativa, são subprodutos dele. Basicamente, as duas principais diferenças entre esse agente e tudo o que veio antes são:

1. ele pode tomar decisões
2. ele pode criar novas ideias

Isso tudo sem nossa intervenção, de maneira totalmente autônoma. Você pode construir um sistema para decidir quem vai conseguir um empréstimo sem consultar nenhum humano. 

E mais, esses sistemas podem disseminar notícias de forma massiva e consistente, além de distribuída, de maneira a dificultar a identificação de onde se originou. Assim, também fica complicado atribuir responsabilidades. O resultado? O mundo inteiro pode ser afetado por notícias falsas que levem a decisões equivocadas sem que se tenha o menor controle sobre isso; as plataformas apenas instruem seus algoritmos para distribuir o que tiver mais engajamento, independente de ser bom ou ruim. Sem uma regulamentação, as empresas responsáveis lavam suas mãos e o demônio está solto.

A questão é que os algoritmos não sentem e não têm consciência; eles apenas buscam padrões e replicam os que aparecem com mais frequência. Por mais sofisticada que pareça a interface, é basicamente isso.

INTELIGÊNCIA X CONSCIÊNCIA

As pessoas costumam confundir consciência e inteligência, mas esses dois conceitos não podiam ser mais diferentes.

Harari explica: Inteligência é a capacidade de atingir objetivos, como, por exemplo, maximizar o engajamento de um usuário em uma plataforma ou rede social.

Consciência é a habilidade de experimentar sentimentos subjetivos  como dor, prazer, amor e ódio. 

Humanos e mamíferos têm inteligência e consciência, mesmo que em graus diferentes. Bactérias e plantas têm inteligência (processam informações obtidas no ambientes e tomam decisões complexas que favorecem a sua sobrevivência), mas, aparentemente, até pesquisas atuais, não têm consciência.

Mesmo humanos tomam muitas decisões inteligentes no automático, sem consciência. Nossos cérebros resolvem produzir mais ou menos adrenalina ou dopamina, processam alimentos, lutam contra vírus e bactérias sem que a gente se dê conta do que está acontecendo.

Assim como os computadores; eles podem tomar uma série de decisões complexas sem sentir nada. Então, talvez eles consigam ficar muito mais inteligentes que nós, humanos, no processamento de informações.

Mas a gente toma a maioria das nossas decisões com a ajuda imprescindível das emoções (e da consciência). Você pode perguntar a um computador qual o caminho mais curto e rápido para chegar em casa, mas se você pedir para traçar o caminho mais bonito ou agradável, ele vai ficar confuso, pois esses conceitos são pessoais e subjetivos (isso está muito bem explicado no livro “Elastic”, resenhado aqui).

A questão é que para os objetivos atuais (aumentar engajamento, decidir sobre quem vai conseguir o financiamento, avaliar a probabilidade de desenvolver um câncer no futuro, etc) não é necessário que o algoritmo tenha consciência. Ter inteligência já é mais do que suficiente.

Mas não ter consciência, também significa não ter escrúpulos. 

Harari conta o famoso teste feito com o ChatGPT para tentar resolver um CAPTCHA, aqueles testes visuais para saber se você é um humano. Ele não conseguiu resolver, mas tendo inteligência e um objetivo simples e claro, ele simplesmente entrou num site onde humanos realizavam determinadas tarefas online para deficientes visuais e pediu ajuda. O humano perguntou se ele era um robô e, pasmem, a resposta foi simplesmente uma mentira! O algoritmo disse que ele não era um robô, apenas tinha uma deficiência visual.

LINKS DE INFORMAÇÃO

Voltando à questão dos links de informação: eles podem ser apenas entre humanos, ou podem incluir documentos. Mas não é possível que documentos se comuniquem sozinhos sem a interferência de humanos. Ou melhor: não era, até surgimento da IA generativa. 

E o negócio pode escalar de uma maneira totalmente fora do nosso controle. Por exemplo: um algoritmo pode gerar uma notícia falsa para gerar engajamento. Outro pode identificar e bloquear essa notícia. Um terceiro pode interpretar isso como o início de uma crise e, por isso, vender todas as ações de uma determinada empresa. Outros algoritmos identificam a anormalidade e o caos no mercado financeiro está instalado; economias inteiras podem ser afetadas antes de qualquer ser humano se dar conta do que está acontecendo. É difícil até mesmo rastrear o histórico para saber o que rolou.

O pior é que esses robôs levam a sério a missão para o que foram programados. Se o objetivo é engajar e ele identificou que criando uma teoria conspiratória ele vai conseguir resultados melhores, não tem porque não seguir adiante. E não é apenas tempo perdido tentar discutir com ele — é pior; quanto mais você discute com um robô, mais fornece informações suas para ele e mais material para ele construir argumentos você oferece. É uma guerra perdida. 

É negociar com alguém com inteligência e um objetivo claro, porém, sem consciência. Praticamente um psicopata. Entendeu o tamanho do problema?

E onde isso vai nos levar? Faz só 80 anos que a gente começou a desenvolver essa tecnologia. Harari faz a gente pensar numa pessoa na antiga Mesopotâmia, 80 anos depois da primeira pessoa usar uma vareta para escrever sobre pedras de argila. Ela poderia imaginar a biblioteca de Alexandria, depois a invenção da prensa de Gutenberg e até as bibliotecas digitais de hoje? Isso nos dá uma perspectiva de quanta mudança ainda vamos ter pela frente; a gente não faz a menor ideia.

Apavorante? Sim, as a gente precisa entender que ainda estamos no controle. Ainda somos nós que fazemos os algoritmos e damos poder de decisão a eles. Não sabemos por quanto tempo ainda, mas ainda temos a capacidade de desenhar novas realidades.

Para isso, a gente precisa entender o que está acontecendo. Quando escrevemos um código, não estamos apenas desenhando um produto; estamos redesenhando a política, a sociedade e a cultura — então a gente precisa ter bastante conhecimento sobre esses temas (no mínimo). Precisamos ter responsabilidade sobre o que estamos fazendo.

E as grandes corporações, jogando toda a responsabilidade para os consumidores, dizendo que ninguém é obrigado a nada e só estão entregando o que os clientes querem, não ajudam em nada. Na verdade, elas todas têm objetivos bem claros (maximizar o lucro) e nem sempre estão alinhados com o que é melhor para as pessoas e para o mundo.

Nesse capítulo ainda é discutida a falibilidade das máquinas (e a culpa sendo colocada sempre sobre os humanos), o fim da privacidade, a vigilância eterna e sem intervalos, a questão do totalitarismo, os vieses da direita e esquerda, enfim, mais um monte de temas interessantes.

AINDA CONSEGUIMOS CONVERSAR?

O capítulo a seguir fala sobre a democracia. Ele fala que as civilizações nasceram do casamento da mitologia com a burocracia. E que a rede baseada em computadores é um novo tipo de burocracia, muito mais forte e poderosa que qualquer coisa criada pelo ser humano já vista. E a principal diferença é que essa rede também é capaz de criar mitologias mais complexas do que aquelas criadas pelos seres humanos.

O potencial de benefícios é inimaginável. O de destruição, também.

Harari sabe que esse tipo de declaração pode parecera muitos como apocalíptico. Qualquer nova tecnologia que mude a maneira como as pessoas vivem provoca medos e incertezas.

Ele cita o movimento dos ludistas, quando a primeira Revolução Industrial começou a afetar a vida das pessoas. Esse movimento pregava o fim e a destruição das máquinas, pois elas seriam o início do fim do mundo.

Hoje a gente desfruta de muito mais conforto e melhores condições de vida graças à industrialização (sim, pode-se discutir várias questões, mas a expectativa de vida aumentou consideravelmente).

Os entusiastas da IA generativa, como Ray Kurzweil (já resenhei um livro dele aqui), defendem que o futuro será maravilhoso: humanos terão saúde, educação e outros serviços em outro nível de qualidade, além de salvar o planeta do colapso ambiental.

A história nos mostra que o budistas não estavam totalmente errados e que a tecnologia por si não é ruim; o problema é o uso que o ser humano faz dela. Os imperialistas, como a Grã-Bretanha, usaram o mesmo argumento — que a tecnologia iria melhorar a vida de todos e que eles precisavam “salvar” as colônias do atraso. Povos primitivos, culturas inteiras, espécies animais e vegetais foram dizimados e extintos nesse processo, além do desenvolvimento de armas de destruição mais potentes do que se poderia imaginar. Tanto o Stalinismo com o Nazismo lutavam por sociedades industriais e colapso ambiental tem a mesma origem. 

Agora o poder está com as empresas, num tipo diferente de totalitarismo, e temos menos espaço para erros, uma vez que a tecnologia tem um poder de estrago muito maior.

Já se viu que o imperialismo, o totalitarismo e o militarismo não são meios ideias de se construir uma sociedade industrial mais justa para todos.

Do ponto de vista do Harari (e eu concordo), uma democracia liberal parece ser um caminho melhor, pois tem mecanismos de auto-correção quando a coisa não estiver indo bem — isso limita o fanatismo e preserva a habilidade de reconhecer erros e corrigir o rumo quando necessário.

Porém, existem várias ameaças que dificultam a sobrevivência da democracia. Ele cita a falta de privacidade e a mudança radical do mercado de trabalho. Pessoas desesperadas e sem emprego buscam sempre soluções fáceis e rápidas (que não existem). Atribui-se ao altíssimo nível de desemprego na Alemanha a ascensão rápida do nazismo, por exemplo. Mas, como lembra bem o historiador, nada na história é determinístico. Os EUA e vários outros países também tiveram problemas semelhantes e não geraram um Hitler.

PAPEIS TROCADOS

Yuval ainda observa um fenômeno recente nas última década. Tradicionalmente, os partidos conservadores são formados pelas pessoas que, apesar de reconhecerem que o sistema não é perfeito, esforçam-se ao máximo para manter as coisas exatamente como estão. Mesmo admitindo que o mundo é desigual e injusto, elas valorizam as instituições e tudo o que foi conquistado pela civilização até agora.

Também tradicionalmente, os partidos progressistas reúnem pessoas com viés mais revolucionário, que querem mudar as coisas como elas são e reduzir as injustiças e desigualdades no mundo, se necessário mudando leis e convenções sociais.

Pois na última década tudo se inverteu. Os “conservadores” apresentam um viés revolucionário, querendo destruir o tradicional respeito pelas instituições, pela ciência e pelo funcionalismo público, atacando claramente estruturas democráticas como eleições, quando se recusam a entregar o poder quando perdem as eleições. Bizarramente, aos progressistas sobrou defender as leis e instituições estabelecidas. Ninguém entende exatamente porque esse fenômeno acontece, mas é preciso ter cautela nesse panorama.

A questão é que a anarquia digital, porque, para se ter uma ideia, um estudo mostrou que 43.2% dos posts publicados na plataforma X foram gerados por bots (eram 20% em 2016). Quer ver como isso é sério? Em 2023, uma estudo publicado pela revista Science Advances pediu para o ChatGPT criar deliberadamente fake news e teorias conspiratórias sobre vacinas, 5G, tecnologia, mudanças climáticas e temas polêmicos.

Os textos foram apresentados a 700 humanos e foram avaliados conforme sua credibilidade. Os humanos foram relativamente bem em reconhecer erros quando os textos haviam sido gerados por humanos; mas quando eram gerados pela IA, tenderam a acreditar que as notícias eram verdadeiras. 

Num debate numa rede social, é pura perda de tempo convencer um robô de alguma coisa; ele não vota, não tem consciência e nem opinião; apenas cumpre comandos. Já um robô pode ser muito bom e eficiente convencendo uma pessoa. Quando robôs manipulativos e algoritmos complexos dominam o debate público na política, uma coisa é certa: vai dar ruim.

PROIBIDO FALSIFICAR

Imagino que você esteja tao apavorado como eu, mas então Harari apresenta uma ideia do filósofo Daniel Dennett, que se inspirou no mercado financeiro. Todo mundo confia e acredita no valor do dinheiro porque é ilegal falsificá-lo. E porque dinheiro falsificado prejudica o sistema inteiro, todos países e organizações trabalham juntos para evitar que isso acontece. Às vezes alguém tenta, mas nunca numa quantidade suficiente para provocar algum tipo de ameaça à estrutura geral.

Partindo disso, e se fosse proibido falsificar seres humanos, ou melhor, se passar por seres humanos. Tudo continuaria normal; uma loja poderia continuar tendo seu bot de atendimento. É só não fingir que aquele algoritmo é um ser humano. As discussões nas redes sociais seriam menos inflamadas, já que ninguém perderia seu tempo ou daria muita credibilidade se soubesse que não é um ser humano por trás daquele diálogo.

Até então ninguém se preocupou com isso, porque antes da IA generativa, era muito difícil se passar por humano; todo mundo sacaria (até porque tem os captchas para tirar a dúvida). Mas a gente sabe que a tecnologia está voando a bordo de um foguete e a legislação vai no lombo de um burrico com má vontade. A gente tem que acelerar isso logo. E não me parece uma solução de difícil implementação se as leis realmente valerem. Ninguém sai por aí falsificando dinheiro como se não houvesse polícia internacional porque sabe do risco. Achei sensacional. Não resolve 1005 do problema, mas melhora muito saber que não estamos tratando com uma pessoa.

Na verdade, existem muito mais ideias ótimas, e, necessário lembrar, somente as democracias terão interesse em implementá-las; o mercado não vai regular sozinho as informações falsas. E já estamos vendo isso.

Harari também fala como a IA generativa pode ser útil num sistema totalitário, onde todas as informações, dados, pensamentos e interações de todos os cidadãos estarão sob controle.

CONCLUSÕES

Harari, por todos os motivos que expôs nesse livro, considera irresponsável e de certa forma ingênua a maneira como políticos e pessoas de negócios vêm tratando a IA generativa, como se fosse mais um estágio da primeira revolução industrial; não é.

Estamos criando pela primeira vez uma coisa sobre a qual não temos total controle; capaz de tomar suas próprias decisões baseada em critérios não caros. Uma coisa cheia de vieses, aberta a manipulações de todo tipo; perfeita para suportar um sistema totalitário. 

Sim, também uma coisa que pode nos ajudar em muito, que pode nos trazer benefícios, melhor qualidade de vida e um uso mais inteligente dos recursos. 

Mas a gente precisa controlar essa coisa, antes que seja tarde. A história ainda está tão no início que não temos a mais vaga ideia de onde isso poderá nos levar. Mas se a gente não construir o mapa, os robôs vão fazer as estradas por sua própria conta.

É isso, gente. Já passou da hora de todo mundo ler esse livro, discutir sobre ele e da importância da regulamentação desse agente tão poderoso.

Se você quer saber mais e estudar esse livro (sim, porque lê-lo é muito pouco), clique aqui para comprar o seu exemplar na Amazon do Brasil.

NOTA: Curiosidade que talvez alguém ache interessante: essa foto que eu coloquei como ilustração para essa resenha é do computador quântico da IBM (System One) — essa foto foi tirada na fachada da sede da empresa, onde está exposto, em Londres, onde estive há algumas semanas.