Computadores contadores de histórias mudarão o curso da história humana, diz o historiador e filósofo.

“O medo da inteligência artificial (IA) assombra a humanidade desde o início da era do computador. Até então, esses medos se concentravam em máquinas que usavam meios físicos para matar, escravizar ou substituir pessoas. Mas nos últimos dois anos surgiram novas ferramentas de IA (1) que ameaçam a sobrevivência da civilização humana de uma direção inesperada. A Inteligência Artificial ganhou algumas habilidades notáveis para manipular e gerar linguagem, seja com palavras, sons ou imagens. Ela invadiu o sistema operacional de nossa civilização.”

Em instigante artigo, publicado na revista The Economist, o filósofo israelense Yuval Harari* aborda um tema que passou a dominar as preocupações de quem estuda o futuro da comunicação, da pesquisa e da educação: a inteligência artificial. Como a humanidade está se preparando para as ameaças que a IA cada vez mais vem trazendo para lidarmos com informações e decisões, no âmbito pessoal, político e religioso, por exemplo?

“A linguagem é o material de que quase toda a cultura humana é feita. Os direitos humanos, por exemplo, não estão inscritos em nosso DNA. Em vez disso, são artefatos culturais que criamos contando histórias e escrevendo leis. Deuses não são realidades físicas. Em vez disso, são artefatos culturais que criamos inventando mitos e escrevendo escrituras”, diz o filósofo.

O artigo do pensador israelense traz perguntas que todos nós estamos fazendo sobre o futuro da informação e da comunicação, principalmente após o surgimento do ChatGPT, que tanta polêmica está suscitando no meio acadêmico, político e religioso.

“O que aconteceria quando uma inteligência não-humana se tornasse melhor do que o humano médio em contar histórias, compor melodias, desenhar imagens e escrever leis e escrituras? Quando as pessoas pensam sobre o ChatGPT e outras novas ferramentas de IA, muitas vezes são atraídas para exemplos como crianças em idade escolar usando IA para escrever suas redações. O que acontecerá com o sistema escolar quando as crianças fizerem isso? Mas esse tipo de pergunta perde o quadro geral. Esqueça as redações escolares. Pense na próxima corrida presidencial americana em 2024 e tente imaginar o impacto das ferramentas de IA que podem ser feitas para produzir conteúdo político em massa, notícias falsas e escrituras para novos cultos.”

O autor alerta que num futuro muito próximo, poderemos estar conversando com robôs, pensando que conversamos com humanos. Tal o nível de avanço nesse campo.

“Em um nível mais prosaico, podemos em breve nos encontrar conduzindo longas discussões online sobre aborto, mudança climática ou a invasão russa da Ucrânia com entidades que pensamos serem humanas – mas na verdade são IA. O problema é que é totalmente inútil para nós gastar tempo tentando mudar as opiniões declaradas de um IA bot, enquanto Inteligência Artificial pode aprimorar suas mensagens com tanta precisão que tem uma boa chance de nos influenciar”, diz Harari.

“Por meio de seu domínio da linguagem, a IA pode até formar relacionamentos íntimos com as pessoas e usar o poder da intimidade para mudar nossas opiniões e visões de mundo. Embora não haja indicação de que IA tenha consciência ou sentimentos próprios, para promover uma falsa intimidade com os humanos, basta que a IA possa fazê-los sentir-se emocionalmente ligados a ela.”

Harari diz no artigo que “Em uma batalha política por mentes e corações, a intimidade é a arma mais eficiente, e a inteligência artificial acaba de ganhar a capacidade de produzir em massa relacionamentos íntimos com milhões de pessoas. Todos sabemos que, na última década, a mídia social se tornou um campo de batalha para controlar a atenção humana. Com a nova geração de IA, a frente de batalha está mudando da atenção para a intimidade. O que acontecerá com a sociedade humana e a psicologia humana quando a inteligência artificial luta contra a IA, em uma batalha para fingir relacionamentos íntimos conosco, que podem então ser usados para nos convencer a votar em determinados políticos ou comprar determinados produtos?”

O historiador e autor de livros como “Sapiens” e “Homo Deus” já havia levantado essas preocupações em outros artigos, um deles publicado no New York Times, de 24 de março de 2023. Ao lado de outros dois pensadores, o autor deste artigo discute a transição na história da civilização pela qual estamos passando. "Os humanos muitas vezes não têm acesso direto à realidade. Somos encapsulados pela cultura, experimentando a realidade através de um prisma cultural. Nossas visões políticas são moldadas por relatos de jornalistas e anedotas de amigos. Nossas preferências sexuais são ajustadas pela arte e pela religião. Esse casulo cultural foi até agora tecido por outros humanos. Como será experimentar a realidade através de um prisma produzido por uma inteligência não humana?" Pergunta o filósofo, na publicação do The New York Times. 

Como diz Harari no artigo da revista britânica: “E mesmo esses cenários não capturam realmente o quadro geral. O que estamos falando é potencialmente o fim da história humana. Não é o fim da história, apenas o fim de sua parte dominada pelos humanos. A história é a interação entre biologia e cultura; entre nossas necessidades biológicas e desejos por coisas como comida e sexo, e nossas criações culturais como religiões e leis. A história é o processo pelo qual as leis e as religiões moldam a comida e o sexo.”

E lança um desafio ou seria um alerta? “O que acontecerá com o curso da história quando a IA assumir a cultura e começar a produzir histórias, melodias, leis e religiões? Ferramentas anteriores, como a imprensa e o rádio, ajudaram a espalhar as ideias culturais dos humanos, mas nunca criaram novas ideias culturais próprias. A Inteligência Artificial é fundamentalmente diferente. Ela pode criar ideias completamente novas, cultura completamente nova.”

“A revolução da IA está nos colocando frente a frente com o demônio de Descartes, com a caverna de Platão, com os maias. Se não formos cuidadosos, podemos ficar presos atrás de uma cortina de ilusões, que não podemos arrancar - ou mesmo perceber que está lá.”

“Ainda podemos regular as novas ferramentas de inteligência artificial, mas devemos agir rapidamente. Considerando que as armas nucleares não podem inventar armas nucleares mais poderosas, a IA pode tornar a IA exponencialmente mais poderosa." Conclui o autor. Você pode ler o artigo completo, publicado na The Economist, por meio dos links abaixo.

Leia a íntegra do artigo publicado na revista The Economist, no original, em inglês, ou na tradução em português.

Yuval Noah Harari argues that AI has hacked the operating system of human civilisation

Yuval Harari alerta que a inteligência artificial invadiu o sistema operacional da civilização humana

(1) IA – Inteligência Artificial (para melhor entendimento, usaremos as letras IA sempre no sentido da locução INTELIGÊNCIA ARTIFICIAL.