A Era dos Agentes

Artigo da TidBITS da semana passada retoma a discussão sobre "agentes" de IA, numa abordagem menos técnica, mas não menos importante. Uma idéia que começa a permear cada vez mais a publicidade da Inteligência Artificial é o "Deixe comigo".

Afinal, quem não gostaria de ter um auxiliar para organizar a agenda, responder e-mails recebidos, escolher voos e roteiros, resolver os problemas corriqueiros? A lógica é sedutora: afinal, máquinas são projetadas para nos poupar esforço, e aumentar nosso poder de ação. A tentação, agora, seria delegar a elas também as decisões comezinhas da vida.

Essa definição, entretanto, não é simples: nossas decisões não são balizadas apenas pelo bom senso e eficiência. Há fatores internos pessoais, de emoção e subjetividade, que poderiam fazer-nos escolher não ir a uma reunião pré-marcada, ou mudar um roteiro de viagem para evitar repetir alguma experiência anterior ruim... A IA que, por sua natureza estatística e preditiva, tenderá a buscar o caminho mais eficiente, pode ter dificuldade em capturar as nuances da alma humana.

No texto anterior, sobre Sevilha e a Internet, lembrei-me do Grande Inquisitor, no Irmãos Karamázov. Na parábola de Dostoiévski, o Inquisidor prende Cristo sob a alegação de que ele teria jogado o excessivo "peso da liberdade" sobre os humanos. Segundo ele, as pessoas prefeririam pão, milagres e uma orientação clara das autoridades, a uma liberdade que se traduz no peso esmagador da responsabilidade pelas próprias decisões.

Talvez os agentes de IA nos ofereçam o mesmo que o Inquisidor receitava. No lugar do pão, a eficiência, no lugar do milagre, a tecnologia onipresente e, no lugar da decisão própria, a sua delegação a um "outrem" digital. Os agentes não são necessariamente "inquisidores", no sentido de serem opressores mal-intencionados, mas atendem à mesma inclinação humana identificada por Dostoiévski: a disposição de trocar o árduo peso de decidir, pelo conforto suave de ser servido.

A pergunta que resta não tem resposta simples. Não é muito importante se a tutela que está surgindo funciona bem, e se virá a funcionar ainda melhor num futuro muito próximo. O que deve ser perguntado é que tipo de ser humano resultará dessa interação. Toda tecnologia bem-sucedida produz um fenômeno curioso: quanto melhor ela desempenha uma tarefa, menos necessidade teremos de preservar aquele talento. Poucos ainda fazemos contas de cabeça, ou memorizamos telefones ou mapas. Talvez a mesma automatização nos espere quanto às decisões.

A tentação do "deixe comigo" é poderosa porque alivia a ansiedade. Num mundo de excesso de informação e de opções, a paralisia da análise torna-se atraente. O agente de IA oferece uma recomendação clara, baseada em dados. Mas ao aliviar a ansiedade, ele também pode eximir-nos da reflexão e da profundidade da experiência.

De G. K. Chesterton vem uma provocação curiosa: "evolução" seria o oposto de "progresso". Enquanto a "evolução" busca alterar o homem para que ele se encaixe melhor no mundo que habita, "progresso" significaria alterar esse mesmo mundo para o melhor proveito do homem. Estaremos em momento de "evolução" ou de "progresso"?

===

https://www.estadao.com.br/economia/demi-getschko/a-era-dos-agentes-de-ia-que-tipo-de-ser-humano-resultara-dessa-interacao/

===

artigo do TidBITS:

https://tidbits.com/2026/06/24/why-ai-agents-fill-me-with-dread/

===

G. K. Chesterton, 

https://www.gutenberg.org/files/16769/16769-h/16769-h.htm

Orthodoxy, xhapter VII: "Progress should mean that we are always changing the world to suit the vision. Progress does mean (just now) that we are always changing the vision. It should mean that we are slow but sure in bringing justice and mercy among men: it does mean that we are very swift in doubting the desirability of justice and mercy: a wild page from any Prussian sophist makes men doubt it."

e em The Outline of Sanity (1926) 
"We need not debate about the mere words evolution or progress: personally I prefer to call it reform. For reform implies form. It implies that we are trying to shape the world in a particular image... Evolution is a metaphor from mere automatic unrolling. Progress is a metaphor from merely walking along a road—very likely the wrong road."

Sevilha e a Internet

A ICANN 86 terminou em Sevilha. Foi a segunda reunião anual do órgão responsável pela administração da "raiz de nomes" da rede, e pela distribuição de números IP, e foi dedicada a políticas. Discutiu-se sobre como lidar com o chamado "abuso de DNS", quando nomes de domínio são usados com fins maliciosos, tentando usurpar direitos ou enganar usuários. No caso do "phishing", uma espécie de "pescaria em águas turvas", simulam-se sítios reais buscando recolher dados dos incautos. Também foi foco desta ICANN a nova leva de propostas para mais gTLDs (domínios genéricos, que convivem com os ccTLDs, de "código de país" ) e o apoio ao WSIS+20, que completou 20 anos.

Sevilha é uma antiga e bela cidade andaluz, que impressiona com construções de estilo mourisco, fusão de arte moura com a cristã. Trouxe à ideia analogias com a Internet.

A primeira é com a ópera Barbeiro de Sevilha, em cuja ária da calúnia há uma antecipação do que passa hoje, quando se busca destruir reputações. A calúnia, diz Dom Basílio, é uma brisa sutil que, discreta e docemente, se espalha por tudo, e faz com que o visado, "sob o público flagelo, se ainda tiver alguma sorte, prefira morrer...". Também operística é a da popular Carmen, a cigana livre. Mostra os resultados que a atração pelo submundo pode trazer. É numa taberna de Sevilha que o toureiro encontra Carmen, que o desencaminhará.

Talvez a analogia mais poderosa entre Sevilha e a Internet esteja na obra Os Irmãos Karamázov, de Dostoiévski. Um dos irmãos, Ivan, propõe uma parábola sobre o período da inquisição, século XVI em Sevilha. No trecho conhecido como "O Grande Inquisidor". Jesus teria voltado à terra, anônimo e humilde, e estaria conversando com os locais sobre amor, realizando milagres, sendo reconhecido e seguido por muitos. Surge um idoso cardeal inquisidor, que o prende. Numa longa arenga a Jesus, que se limita a escutar e nada retruca, o cardeal não hesita em criticá-lo. Acusa-o: ao invés de aliviar o homem do peso da liberdade que ganha ao nascer, Jesus aumenta seu jugo ao ressaltar ainda mais a importância de o homem ser livre. Segundo o cardeal, foi a Igreja que conseguiu aliviar esse peso das costas dos humanos. Diz ele: "quem é livre, jamais será feliz"... o homem, na verdade, busca alguém a quem possa "entregar sua liberdade, em troca de segurança e sustento". Os homens trocarão liberdade por segurança, autonomia por conforto, e responsabilidade por tranquilidade. A analogia com Internet é forte. Afinal, a Internet nasceu como uma tecnologia da liberdade, dando voz aos usuários que, assumindo a responsabilidade por suas escolhas, decidem o que ler e por onde caminhar. Depois, as plataformas prosperaram oferecendo alternativas que "consertam" isso: menos autonomia em troca de mais conforto. E a IA "agêntica" leva essa lógica um passo adiante: nossa ação também pode ser terceirizada; um agente pode "fazer o que eu faço, melhor e sem meu esforço...". O Inquisidor abraçaria imediatamente essa proposta. Sua crítica a Cristo nunca foi que a liberdade era falsa, mas que ela era pesada demais para a maioria dos homens. Ao fim da conversa, Jesus, que ficou calado o tempo todo, apenas beija o inquisidor e se afasta... Certas questões não se resolvem por argumentos. mas por uma reafirmação de confiança na liberdade humana, apesar de todas os potenciais riscos.

===

https://www.estadao.com.br/economia/demi-getschko/a-internet-nasceu-como-tecnologia-da-liberdade-mas-as-plataformas-e-agora-a-ia-mudaram-o-rumo/

===

O Grande Inquisidor

https://bibliotecamundial.com.br/o-grande-inquisidor-fiodor-dostoievski/

===

"a calúnia", de O Barbeiro de Sevilha

https://www.youtube.com/watch?v=CtFmBK6C_Mw

https://www.youtube.com/watch?v=r3-UZ8pyZxE

===

Agentes

Usamos IA no nosso dia-a-dia, mas sem nenhuma certeza de estarmos livres de riscos. IA já é uma realidade, enquanto o entendimento de seu alcance e efeitos colaterais ainda é bastante obscuro. Um dos pontos que trazem preocupação é o quanto ela pode ser "desviada" da realidade a partir da leitura do universo de textos que a alimentou. Sem métricas ou curadoria do que ela recebe, o resultado produzido pode estar errado. Um antigo axioma na área de computação reza: "garbage in, garbage out", se o que entra é lixo, o que sairá também será...

Uma das formas de limitar esse risco é fazer com que a IA trabalhe num domínio restrito e controlado. Se fornecermos a ela uma base de dados pré-definida como "fonte de informação", a possibilidade de "alucinações" é praticamente eliminada. Claro que a riqueza das respostas também será penalizada, visto que, neste caso, o universo que a IA recebe como "entrada" é controlado e limitado. Numa IA que trabalhe localmente em nosso computador, sem acesso amplo, via internet, a mais dados, o efeito é também parecido.

O cenário tende a ficar ainda mais complexo com os novos "agentes de IA" e seu poder quasi humano de ação e interação e ação. Num artigo deste mes da Sophos, empresa que trabalha com segurança computacional e IA, são discutidos riscos que os agentes podem trazer, e propostas formas de amenizá-los. Afinal, um agente poderia receber uma "ordem" maliciosamente camuflada no meio dos dados que o alimentam. Uma providência seria buscar circunscrever o raio de ação de um agente, e assim quantificar potenciais riscos que ele traria. Há uma tríade que compõe o funcionamento de um agente. Os componentes dessa tríade são comuns em computação, mas apenas na IA "agêntica" eles coexistem integrados. São: 1- o amplo acesso a conteúdo mundial, eventualmente não confiável; 2- o acesso local a dados sensíveis, privados, da empresa que instalou o agente, e 3- a capacidade de iniciativa e ação que foi delegada ao agente, desde o envio de mensagens em nome da empresa, até alterar recursos e procedimentos internos.

Na busca de reduzir o possível raio de estragos, uma das sugestões é empregar o chamado "sandboxing", recurso bastante em voga hoje em dia para, criando um ambiente controlado, podermos "testar" novidades, sejam tecnológicas, regulatórias ou legais. Num "sandbox", por exemplo, onde o agente poderia receber dados e sugerir ações livremente, mas sua capacidade de acesso a bases privadas, e sua liberdade de ação seriam limitadas e controladas. Outra forma de diminuir os riscos é definir áreas específicas para a ação do agente: numa empresa, se o agente trabalhar na área financeira, não acessaria dados da área administrativa, ou da área jurídica. Uma terceira opção seria a de "agentes temporários", que ganham uma tarefa bem definida e, ao final dela, são desativados.

Se, como disse Nietzsche, o homem ama apenas a obra que produziu e os próprios filhos, os agentes de IA são fortes candidatos a unificarem esse papel no coração dos humanos, com eventuais confortos e vantagens, mas com riscos muito sérios à nossa forma de pensar e agir.

===

https://www.estadao.com.br/economia/demi-getschko/como-amenizar-os-riscos-dos-agentes-de-ia-com-seu-poder-quase-humano-de-acao-e-interacao/

===
O artigo da Sophos:
https://www.sophos.com/en-us/blog/inside-the-lethal-trifecta-blast-radius-reduction-in-ai-agent-deployments


trecho:
"Operating Inside The Lethal Trifecta: Blast Radius Reduction In AI Agent Deployments AI agents that can read files, call APIs, and perform actions are already being deployed in enterprises. These agents often operate in the center of what Simon Willison terms ‘the lethal trifecta’: they can access private data, process untrusted content, and communicate externally, making them susceptible to data theft via indirect prompt injection – where an attacker plants instructions in content that the agent reads on behalf of a trusted user, such as an email, a web page, or a document. The agent follows the injected instructions with the user's privileges, and the user never sees the attack. The Agents Rule of Two generalizes the concept: an agent should satisfy at most two of a) processing untrusted inputs, b) accessing sensitive systems, and c) changing state externally."

===
Frase de Nietzsche sobre "crianças e obras", em Assim Falava Zaratustra

"Que ninguém ama de todo o coração senão o seu filho e a sua obra; e onde há um grande amor de si mesmo, é sinal de fecundidade: eis o que tenho notado.", 

https://humanitas.ufrn.br/wp-content/uploads/2025/03/Assim-Falou-Zaratustra.pdf

===