Ainda decidimos?

O papa Leão XIV, na magnífica encíclica recém-divulgada, expõe preocupações e constatações sobre a inteligência artificial. Diz que a tecnologia dá poder a quem a controla. Não é neutra. Tem o rosto daqueles que financiam, concebem, regulam e utilizam. Não tem consciência moral. Pode habituar-nos a delegar respostas que substituem nossa própria opinião e criatividade. Ou gerar nas pessoas decisões acríticas que nos expõem à marginalidade, reforçando a posição ideológica daqueles que projetaram os algoritmos, num poder que pode criar dependência, exclusão, manipulação e desigualdade. Segundo Leão XIV, é preciso manter a comunhão que juntou todos, mesmo diferentes, e reergueu as muralhas de Jerusalém, e não a pretensa uniformidade da Torre de Babel.

A encíclica não é contra a IA, mas ressalva que é preciso identificar quem deve prestar contas das decisões, para poder motivá-las e, se necessário, contestá-las, reparando os danos. Como proteção, não basta invocar genericamente a ética, é necessário um quadro jurídico adequado e uma vigilância independente — ou haverá o risco de ficarmos sob as regras impostas não se sabe por quem. O risco é deixar que escolham o nosso próprio caminho, enquanto a maioria permanece a aguardar, a observar de longe, simplesmente esperando que tudo corra bem. Aí, se perde a responsabilidade política.

Parece que o papa está falando no Brasil, especialmente num ano eleitoral, de contagem de votos, num tempo de decisões que marcarão o futuro de todos. Mencionou a Alemanha de Hitler e Pio XII, falou no fim do bloco comunista em 1989. George Orwell, em Revolução dos Bichos e 1984, tratou da perda da liberdade para a ditadura dos porcos ou do irmão mais velho (Big Brother). Os dois livros mostram como é possível abduzir mentes e impor novas formas de escravidão. Dietrich Bonhoeffer, teólogo alemão e pastor luterano executado pelo nazismo, explicou como um povo culto — doutores, pastores, professores, intelectuais — não só permitiu como aplaudiu Hitler. 

Bonhoeffer escreveu na prisão que a estupidez é pior que a maldade.  A maldade pode ser combatida, tem argumentos, porque quer algo, se revela. Mas a estupidez não, porque é alguém que renunciou ao uso de seu próprio juízo, alguém que entregou sua capacidade de pensar e decidir a um líder, a um slogan, a uma palavra de ordem, a uma ideologia. E quando isso acontece, não se pode apelar à razão, ter um diálogo com argumentos, porque essa pessoa já não tem razão própria, porque está abduzida pela razão alheia, do líder. Quando se junta a um grupo, quanto mais poderoso é o grupo, mas fácil é a pessoa deixar de pensar por si mesma. O grupo dá identidade, e nele, pensar por si próprio pode ter um custo. Aí, o estúpido se torna instrumento de outros sem perceber. Está feliz porque se sente parte de algo grande. Bonhoeffer pensa que não foram Hitler e Goebbels que destruíram a Alemanha, mas os milhões de alemães que se entregaram sem critério, sem fazer perguntas. Pior que serem malvados, eram obedientes sem pensamento próprio.

Assim como a encíclica do papa, o ensaio de Bonhoeffer e as ficções de Orwell parecem servir para o Brasil. E não é de agora. Em 1946, foi derrubado um ditador, Vargas, e o eleito pelas urnas foi seu ministro da Guerra, Dutra. Em seguida, o ditador por 15 anos voltou para mais quatro, pelo voto dos brasileiros. Nos tempos atuais, como é possível que depois do Mensalão, Lula tenha sido reeleito? Como é possível que depois do Petrolão (ou Lava Jato), tenha sido eleito pela terceira vez? Como é possível que Dilma tenha sido reeleita enquanto a economia despencava numa recessão nunca vista antes? Aparece um contrato de R$ 129 milhões com a família de um ministro do Supremo, aportes de R$ 35 milhões num resort de outro, e a vida continua. Como é possível que se impeça de continuar uma CPI sobre o roubo de R$ 6 bilhões a mais de 4 milhões de idosos? Posso ficar citando casos semelhantes a esses sem parar. Deixamos de pensar? Abolimos o espírito crítico? Nos entregamos ao grupo? Delegamos nosso futuro?

No Brasil, nos antecipamos em décadas aos perigos alertados pelo papa. Já não são perigos futuros, são do passado e presente brasileiros, e os do passado se repetindo, pelos mesmos autores. Não foi a inteligência artificial que nos substituiu, embora ela tenha substituído as mãos e os fiscais que apuravam os votos. Fomos nós mesmos, numa preocupante maioria, que dispensamos nossa própria capacidade de pensar. Antecipamos no Brasil o que o papa vê como perigo futuro a ameaçar a magnífica humanidade, que precisa ser preservada e engrandecida dentro de cada um: capacidade crítica, liberdade, independência, democracia. Aqui, tudo isso já foi danificado, nossa humanidade vai sendo diminuída pouco a pouco no seu ponto mais fulcral: o direito à vida. Um país que se mata à razão de 50 mil pessoas por ano. Decadência moral que, como o mal não percebido, é lenta — portanto, vamos nos adaptando a ela. Vamos sobrevivendo assim. Vociferamos nossa condenação aos privilégios e à corrupção, desde que não sejamos beneficiados por eles. Sobrevivemos com o energético da hipocrisia. Até fingimos que somos felizes, desde que não nos esfreguem na cara como se vive em país civilizado.

Constato essa alienação — que Bonhoeffer qualifica de estupidez — todos os dias nas trocas de ofensas nas redes sociais, em que impera a falta de argumentos no debate político deste ano eleitoral. Há muitos adjetivos e interjeições, e poucos substantivos — vale dizer, pouca substância. Poucos têm dúvidas e muitos têm certezas. Não que isso seja uma novidade, mas se acentua no período em que deveriam debater ideias, mas debatem pessoas. O previsível resultado é que vamos eleger mais uma vez temperamentos individuais e não caminhos, princípios, objetivos. Logo se percebe que há pouca inteligência nisso. Na polaridade, os dois lados falam para seus próprios irmãos de lado, não estão abertos a convencer o outro lado. Ao contrário, se distanciam cada vez mais com ofensas. Com isso, não vão alterar posições de votos, e vamos continuar em lenta decadência.

Quando os três Poderes se enfraquecem na legitimidade moral, o Estado continua a existir formalmente, mas vai definhando. Se ele próprio não cumpre a Constituição e as leis, o mau exemplo transforma a organização social em selvageria. Já se vê isso no país em que as pessoas vivem em casamatas, se transportam em blindados e não se sentem seguras no fundamental direito de expressão, enquanto são chamadas a pagar cada vez mais tributos. Temos a ilegalidade tolerada e a ilegalidade organizada. A decadência é dramática, mas não trágica, porque as pessoas não sentem. Têm o Carnaval e, em breve, mais uma Copa do Mundo. Será que vão lembrar das eleições?

Leia também “Exclusão de idosos”