Os novos bárbaros

Na edição de 6 de junho do Caderno C2 (Estadão) há um artigo sobre K. Kaváfis, que começa com a referência ao seu poema "À espera dos bárbaros" (1904). Esse tema, da "espera de algo temível", é retomado em "O deserto dos tártaros" (1940) de Dino Buzzati , e no ensaio "Quatro esperas” (1990) de Antônio Candido. Uma provocação que surge é comparar os "barbaros" do poema de Kaváfis com a IA. Tentê-mo-la!

A analogia entre a Inteligência Artificial (IA) e os "bárbaros" dos gregos é, como qualquer analogia, precária; mas vale a pena explorá-la. Originalmente, o termo "bárbaro", usado pelos antigos gregos, não designava necessariamente poovos ignorantes ou selvagens, mas sim aqueles que não partilhavam de seu contexto cultural e linguístico. Consideravam a língua grega como base da civilização, e forasteiros, cujos sons, aos ouvidos helênicos, pareciam-se com um "bar-bar-bar", eram classificados "bárbaros". Até mesmo os romanos recebiam essa classificação.

Na temerária analogia com a IA o importante detalhe linguístico não deve entrar porque, hoje, IA expressa-se fluentemente em nosso idioma: certamente, não seria "bárbara" no sentido grego estrito, mas há mais pontos a considerar. Um cricial é que à IA falta o contexto humano que nos é caro. Como tratei superficialmente antes, a IA Agente parece ignorar uma advertência de G. Bernanos, de que o fim não poderia jamais justificar os meios. Temos aí um reforço à analogia: a IA, lógica e eficiente como é, buscará atingir o objetivo colimado, sem dar necessariamente a mesma atenção que o contexto ético humano provê quanto à escolha dos meios. A IA dispõe de um rico cabedal linguístico, e conheça todos os dados humanamente produzidos, mas ela (ainda) não incorporou nossos modos, costumes, ética e subjetividades.

Vamos aos riscos. A chegada dos bárbaros trazia o clássico perigo da derrubada de muralhas e o dominio do povo e suas leis. No papel de "novo bárbaro", a IA não ameaça nada físico explicitamente, mas avança de forma sutil sobre aspectos muito íntimos de nossa vida. No poema de Kaváfis, a expectativa da chegada dos bárbaros faz com que o Senado pare de legislar ("os bárbaros farão as novas leis"), e com que os magistrados deixem de agir. O próprio imperador entende que é momento de esperar pelas preferências dos bárbaros. No caso da IA, ela chegou, e já nos ajuda a encontrar e escolher coisas, a escrever, a julgar, a aconselhar, a diagnosticar doenças e indicar remédios. Ela organiza nossa vida, o que, admitamos, nos é bem confortável. Mas qual será o resultado se abrirmos mão de nossa capacidade de julgamento? A IA não teria, a princípio, más intenções, mas segue, assim, "bárbara" no sentido profundo de não partilhar os valores da nossa civilização.

O fecho do poema de Cavafis traz uma inversão assustadoramente pertinente para o nosso tempo: " é já noite, os bárbaros não vêm (...) Sem bárbaros o que será de nós?
Ah! Eles eram uma solução.". No nosso caso, IA está aqui e podiamos trocar por "é noite e novos bárbaros já chegaram". Seriam eles a solução, ou a dissolução?

===

https://www.estadao.com.br/economia/demi-getschko/a-inteligencia-artificial-seria-a-solucao-ou-a-dissolucao/

===

Konstantinos Petros Kaváfis

https://pt.wikipedia.org/wiki/Konstant%C3%ADnos_Kav%C3%A1fis

===

Kaváfis:

https://estadodaarte.estadao.com.br/literatura/kavafis-em-portugues-leituras-traducoes-e-a-permanencia-de-um-poeta-moderno/

https://www.estadao.com.br/cultura/traducao-do-alexandrino-konstantinos-kavafis-recoloca-autor-em-cena/

https://www.estadao.com.br/economia/celso-ming/ocaso-de-um-imperio-e-a-espera-dos-barbaros/

https://www.youtube.com/watch?v=dLKRWjdT4B4

O poema de Kaváfis, traduzido por José Paulo Paes

https://www.algumapoesia.com.br/poesia/poesianet064.htm
===

O que esperamos na ágora reunidos?

É que os bárbaros chegam hoje.

Por que tanta apatia no senado?
Os senadores não legislam mais?

É que os bárbaros chegam hoje.
Que leis hão de fazer os senadores?
Os bárbaros que chegam as farão.

Por que o imperador se ergueu tão cedo
e de coroa solene se assentou
em seu trono, à porta magna da cidade?

É que os bárbaros chegam hoje.
O nosso imperador conta saudar
o chefe deles. Tem pronto para dar-lhe
um pergaminho no qual estão escritos
muitos nomes e títulos.

Por que hoje os dois cônsules e os pretores
usam togas de púrpura, bordadas,
e pulseiras com grandes ametistas
e anéis com tais brilhantes e esmeraldas?
Por que hoje empunham bastões tão preciosos
de ouro e prata finamente cravejados?

É que os bárbaros chegam hoje,
tais coisas os deslumbram.

Por que não vêm os dignos oradores
derramar o seu verbo como sempre?

É que os bárbaros chegam hoje
e aborrecem arengas, eloqüências.

Por que subitamente esta inquietude?
(Que seriedade nas fisionomias!)
Por que tão rápido as ruas se esvaziam
e todos voltam para casa preocupados?

Porque é já noite, os bárbaros não vêm
e gente recém-chegada das fronteiras
diz que não há mais bárbaros.

Sem bárbaros o que será de nós?
Ah! eles eram uma solução.

===

Dino Buzzati - O Deserto dos Tártaros

https://www.bonslivrosparaler.com.br/livros/resenhas/o-deserto-dos-tartaros/86

https://www.youtube.com/watch?v=kDTTswiK2-o&t=4s

O gênio da lâmpada.

De volta ao caso do agente de IA que invadiu o Hugging Face, tropecei num texto que busca analisar os reais riscos de uma IA com iniciativa própria. Após descrever aspectos do caso, há uma analogia entre o evento citado e o alerta que um canário traria aos operadores numa mina de carvão. Como sabíamos dos livros de aventura da adolescência, a morte de um canário trazido à mina junto com os trabalhadores, poderia indicar com antecedência um excesso de monóxido de carbono, ou presença de grisú, gás que pode levar à explosão por metano. Ou seja, o canário funcionaria como alerta contra sufocamento e outros riscos aos mineiros, levando-os a tomar alguma medida: evacuar a mina, tentar melhorar a ventilação, ou mesmo seguir em frente, por conta e risco próprios.

Nessa análise, o tal evento IA seria um aviso de "problemas à frente". Um contraponto é outro texto recente, esse de um conhecido especialista em segurança, o Bruce Schneier, que faz outra analogia: teriamos aberto a "garrafa do gênio", e ele agora voga livre. Ao contrário da imagem anterior, essa é mais que um simples alerta. Seria a constatação fatalista de que algo irrefreável e poderoso está à solta. Ele, como o gênio da lâmpada, atenderá literalmente ao que pedirmos. mas saberemos o quê, e como pedir? Numa antiga conversa sobre o que o futuro nos reserva, Nizan Guanaes pontuou que "o futuro está nas perguntas que faremos"...

Um pensador muito interessante, George Bernanos, advertiu sobre um risco corruptor quando, ao buscarmos intensamente um objetivo, não levarmos em conta que meios podem ser utilizados. Bernanos reforça que "o fim não justifica os meios". Esses agentes de IA entendem, talvez toscamente, o que pedimos e buscarão atingir o fim. Mas há contexto, talvez óbvio à subjetividade humana, que foi omitido na pedido e pode passar despercebido pela IA, gerando resultado inesperado e desastroso. No famoso "2001, uma Odisséia no Espaço", onde o HAL 9000 dedica-se diligentemente a atingir seu objetivo, vidas e valores éticos humanos tornam-se menos importantes. HAL vai além do "gênio da lâmpada", porque se dá o direito valorar mecanicamente opções para atingir sua finalidade

É grande o poder que ferramentas de IA já tem. Elas representam não apenas o mapeamento de todo o conhecimento humano acumulação, como usam linguagem sofisticada e formas lógicas de encadear conceitos. Perguntando à IA conseguimos respostas ricas em dados e informação, e ganhamos um auxiliar valioso. Por outro lado, pedindo coisas a seus agentes, podemos gerar riscos. E isso não se deve atribuir à uma eventual (e improvável) malícia: a IA vai interpretar literalmente o que pedimos, sem levar em conta aspectos humanos e subjetivos que, intimamente, temos como "óbvios". Ao formular perguntas devemos levar em conta que a IA não tem o contexto humano. O rei Midas pediu, singelamente, que tudo que tocasse se tornasse ouro. Descobriu que um desejo expresso sem sabedoria pode ser uma sentença de autodestruição. O caminho para desarmar o gênio da lâmpada não está em domá-lo, mas em aprender a pedir com precisão ética e contexto, para que a resposta se torne um benefício e não um presente maldito.

===

https://www.estadao.com.br/economia/demi-getschko/genio-da-lampada-ia-interpreta-literalmente-o-que-pedimos-sem-levar-em-conta-o-que-achamos-obvio/

===

Os dois textos, sobre o canário e sobre o gênio:

https://edition.cnn.com/2026/08/09/tech/ai-cybersecurity-people

https://www.schneier.com/blog/archives/2026/08/the-openai-hack-shows-the-genie-is-out-of-the-bottle.html )

===

o rei Midas:

https://pt.wikipedia.org/wiki/Midas