Até hoje, a espécie humana deteve o monopólio sobre a inteligência. A recente e galopante evolução das inteligências artificiais coloca, pela primeira vez, esta situação em risco. A ameaça, cada vez mais presente, de que, em breve, não sejamos mais as únicas entidades inteligentes conhecidas é objeto deste ensaio perturbador de Yuval Noah Harari, publicado por The Economist e traduzido a seguir.
* * *
Temores de uma Inteligência Artificial (IA) assombraram a humanidade desde o começo da era do computador. Até agora tais temores estavam voltados para máquinas que usassem meios físicos de matar, escravizar ou substituir pessoas. Mas nos últimos anos surgiram novas ferramentas de IA que ameaçam a sobrevivência da civilização humana de um modo inusitado. A IA ganhou algumas habilidades notáveis para manipular e gerar linguagem, tanto com palavras, sons ou imagens. Assim, a IA hackeou o sistema operacional de nossa civilização.
Linguagem é a matéria da qual quase toda criatura humana é feita. Os direitos humanos, por exemplo, não estão inscritos em nosso DNa. Ao contrário, são artefatos culturais que criamos contanto histórias e escrevendo leis. Deuses não são realidades físicas. Antes, são artefatos culturais que criamos inventando mitos e redigindo escrituras.
O dinheiro também é um artefato cultural. Cédulas são não mais do que pedaços de papel coloridos e, atualmente, mais de 90% do dinheiro não é sequer constituído por cédulas, mas apenas informação digital em computadores. O que confere valor ao dinheiro são histórias que banqueiros, ministros de finanças e gurus de criptomoedas nos falam dele. Sam Bankman-Fried, Elizabeth Holmes e Bernie Madoff não eram particularmente bons em se tratando de criar valor verdadeiro, mas eram contadores de histórias muito capazes.
O que aconteceria quando uma inteligência não humana se tornasse melhor do que o ser humano médio em contar histórias, compor melodias, desenhar imagens e escrever leis e escrituras ? Quando as pessoas pensam sobre ChatGPT e outras novas ferramentas de IA, se remetem frequentemente a exemplos como estudantes usando IA para escrever seus textos. O que acontecerá com o sistema escolar quando crianças fizerem isto ? Mas este tipo de questão ignora o grande problema. Esqueça as redações escolares. Pense na próxima corrida presidencial norte-americana em 2024 e tente imaginar o impacto de ferramentas de IA que possam produzir em massa conteúdo político, fake news e escrituras para novos cultos.
Recentemente, o culto ao qAnon se aglutinou em torno de mensagens online anônimas conhecidas como Q drops. Seguidores colecionaram, reverenciaram e interpretaram Q drops como um texto sagrado. Embora tenhamos razões de sobra para crer que todas as Q drops até agora foram criadas por humanos e robôs meramente ajudaram a disseminá-las, no futuro poderemos ter os primeiros cultos na história cujos textos tenham sido escritos por uma inteligência não humana. Ao longo de toda a história, religiões alegam que seus livros sagrados tiveram uma origem não humana. Em breve isto pode se tornar uma realidade.
Num nível mais prosaico, poderemos em breve entabular longas discussões online sobre aborto, mudanças climáticas ou a invasão russa da Ucrânia com entidades que julgamos ser humanas, mas que na verdade não são. O perigo é que, enquanto não faz qualquer sentido gastarmos tempo tentando mudar opiniões declaradas por um robô de IA, esta poderá, por outro lado, aprimorar suas mensagens tão precisamente que haverá uma boa chance de sermos por ela influenciados.
Através de seu domínio da linguagem, a IA poderá até criar relações íntimas com pessoas e usar o poder da intimidade para mudar opiniões e visões de mundo. Embora não haja indício de que uma IA tenha qualquer consciência ou sentimentos próprios, para que ela fomente uma falsa intimidade com humanos é suficiente que ela possa fazer com que pessoas se sintam emocionalmente ligadas a ela. Em junho de 2022, Blake Lemoine, um engenheiro do Google, declarou publicamente que o chatbot de IA LaMDA, no qual estava trabalhando, se tornara autoconsciente. A alegação controversa lhe custou o emprego. O mais interessante neste episódio não é que a alegação de Lemoine fosse provavelmente falsa. Antes, foi sua disposição em arriscar seu lucrativo emprego por causa do chatbot. Se uma IA pode influenciar pessoas a arriscarem seus empregos por elas, ao que mais poderá induzi-las ?
Numa luta política por corações e mentes, a intimidade é a arma mais importante, e a IA acaba de adquirir a habilidade para produzir em massa intimidade com milhões de pessoas. Todos sabemos que na última década as mídias sociais se tornaram um campo de batalha para controlar a atenção das pessoas. Com a nova geração de IA, o front de batalha está mudando da atenção para a intimidade. O que acontecerá à sociedade e à psicologia humanas quando uma IA travar com outra IA uma luta para falsificar relações íntimas conosco, ambas podendo ser utilizada para nos convencer a votar em determinados políticos ou a comprar determinados produtos ?
Mesmo sem criar “falsa intimidade”, as novas ferramentas de IA teriam uma imensa influência em nossas opiniões e visões de mundo. Pessoas podem vir a usar, como um oráculo absoluto e onisciente, uma única IA como fonte de recomendações. Não é à toa que o Google está aterrorizado. Por que me dar ao trabalho de pesquisar se posso simplesmente perguntar ao oráculo ? As indústrias de notícias e de propaganda também deveriam estar aterrorizadas. Por que ler um jornal quando posso simplesmente pedir ao oráculo as últimas notícias ? E qual o propósito da propaganda quando posso simplesmente perguntar ao oráculo o que comprar ?
Tais cenários não dão conta, todavia, do maior problema. Estamos falando do potencial fim da história humana. Não o final da história, mas só de sua parte dominada por humanos. História é a interação entre biologia e cultura; entre nossas necessidades biológicas e desejos por coisas como comida e sexo e nossas criações culturais como religiões e leis. História é o processo através do qual leis e religião definem comida e sexo.
O que acontecerá ao curso da história quando a IA assumir a cultura e começar a produzir histórias, melodias, leis e religiões ? Instrumentos anteriores como a imprensa e o rádio ajudaram a disseminar as ideias culturais dos homens, mas nunca criaram novas ideias culturais próprias, A IA é essencialmente diferente. A IA pode criar ideias e cultura completamente novas.
Inicialmente, a IA vai provavelmente imitar os protótipos humanos em que foi treinada em sua infância. Mas a cada ano que passar, a cultura de IA irá corajosamente onde nenhum humano jamais foi. Por milênios seres humanos viveram dentro dos sonhos de outros humanos. Nas próximas décadas, talvez possamos nos encontrar vivendo dentro dos sonhos de uma inteligência alienígena.
O medo da IA assombra a humanidade somente desde as últimas décadas. Mas por milhares de anos ela foi assombrada por um medo muito mais profundo. Sempre apreciamos o poder das histórias e imagens para manipular nossas mentes e criar ilusões. Consequentemente, desde tempos muito antigos humanos temem ser aprisionados num mundo de ilusões.
No século 17, René Descartes temia que um demônio maligno o estivesse aprisionando num mundo de ilusões criando tudo o que ele via e ouvia. Na Grécia antiga, Platão contou a famosa Alegoria da Caverna, na qual pessoas são acorrentada numa caverna por toda sua vida contemplando uma parede em branco. Uma tela. Nesta tela, vêm projetadas várias sombras. Os prisioneiros tomam, então, as ilusões que lá vêm por realidade.
Na antiga Índia, sábios budistas e hindus afirmavam que todos os seres humanos viviam aprisionados dentro de Maya – o mundo das ilusões. O que normalmente tomamos por realidade é frequentemente não mais do que ficção em nossas mentes. Pessoas podem travar guerras inteiras, matando outros e desejando ser mortas, tão somente por causa de sua crença nesta ou naquela ilusão.
A revolução da IA está nos levando a encarar o demônio de Descartes, a caverna de Platão e o Maya. Se não formos cuidadosos, podemos ser aprisionados atrás de uma cortina de ilusões que não possamos romper ou sequer perceber que ela existe.
É claro que o novo poder da IA também pode ser usado para bons propósitos. Não me deterei aqui, pois quem desenvolve IA já fala nisto suficientemente O trabalho de historiadores e filósofos como eu é apontar os perigos. Mas certamente a IA pode nos ajudar de incontáveis maneiras, desde achando curas para o câncer até descobrindo soluções para a crise ecológica. A questão que se nos apresenta é como assegurar que as novas ferramentas de IA sejam usadas para o bem e não para o mal. Para fazer isto, primeiro temos que apreciar as verdadeiras capacidades destas ferramentas.
Sabemos desde 1945 que a tecnologia nuclear pode gerar energia barata para beneficiar seres humanos – mas pode igualmente destruir a civilização humana. Reformamos, então, toda a ordem mundial para proteger a humanidade e para garantir que a tecnologia nuclear fosse usada preferencialmente para o bem. Agora, temos que conter uma nova arma de destruição em massa que pode aniquilar nosso mundo mental e social.
Ainda podemos regular as novas aplicações de IA, mas temos que agir rápido. Enquanto ogivas nucleares não podam inventar ogivas nucleares mais destrutivas, a IA pode fazer IAs exponencialmente mais poderosas. O primeiro passo crucial é exigir testes de segurança rigorosos antes que ferramentas poderosas de IA sejam publicamente disponibilizadas. Do mesmo modo que empresas farmacêuticas não podem lançar novas drogas sem antes testar seus efeitos de curto e longo prazo, empresas de tecnologia não devem lançar novas ferramentas de IA antes que elas sejam seguras. Precisamos de um equivalente à ANVISA (Food & Drug Administration, ou FDA, no original) para novas tecnologias, e precisamos para ontem.
Um atraso na implementação pública de IA não faria com que as democracias ficassem para trás em relação a regimes autoritários mais cruéis ? Antes, o contrário. A implementação não regulamentada de IA criaria um caos social que, por sua vez, beneficiaria autocratas e arruinaria democracias. Democracia é conversação, e conversação depende de linguagem. Quando a IA hackeia a linguagem, ela pode destruir nossa habilidade de manter conversações que tenham sentido – destruindo, portanto, a democracia.
Recém encontramos uma inteligência alienígena aqui na Terra. Sabemos pouco sobre ela, exceto que ela pode destruir nossa civilização. Devemos dar um basta à implementação irresponsável de ferramentas de IA na esfera pública e regular a IA antes que ela nos regule. E a primeira regulamentação que eu sugiro é tornar obrigatório que uma IA se declare publicamente como uma IA. Se estou tendo uma conversação com alguém e não sei se esse alguém é humano ou uma IA, é o fim da democracia.
Este texto foi gerado por um ser humano.
Ou não ?
28 de abril de 2023
* * *
Yuval Noah Harari é historiador, filósofo e autor de Sapiens, Homo Deus e da série infantil Unstopable Us. É conferencista no departamento de história da Universidade Hebraica de Jerusalém e co-fundador da Sapienship, uma empresa de impacto social.
impromptu 