Sursum Corda

Neste domingo fui à missa de um ano do falecimento de Rubens Kühl, do NIC.br, e a cerimônia me trouxe lembranças. Do latim ao português houve ajustas: a resposta a "sursum corda" (corações ao alto) era "já os temos no Senhor". Essas memórias, adicionadas às frequentes notícias de eventos envolvendo IA, faz refletir sobre para onde estaríamos elevando nossos corações hoje.

O primeiro ponto a considerar é em quem confiamos para dialogar e trocar confidências em tempos de rede. Se, no passado, distinguíamos quem deveria saber dos detalhes mais íntimos - das confissões restritas ao sacerdote, a conversas com médico ou psicólogo, depois com os amigos próximos, familiares e conhecidos em geral - hoje temos poucos escrúpulos em dividir nossos segredos íntimos com personas virtuais que sequer existem. Afinal, o "chatbot" que nos escuta é paciente, amistoso, não se escandaliza e até fornece conselhos, mas (e acima de tudo!) ele nunca esquece nada...

Outra mudança sutil é que, além de muitas vezes fornecermos impensadamente nossos dados a plataformas e máquinas, agora há entrega compulsória, travestida de suporte à nossa própria segurança... Para tudo seguir no caminho que se projeta, além dos sítios da internet em que temos que repassar nossa fotografia à guisa de proteger crianças e adolescentes, o próprio uso do telefone celular pessoal passará a pedir biometria facial. Na internet tradicional, precisávamos de uma senha, um segredo, para acedermos aos nossos recursos; agora não é mais assim, não se cuida de senhas: temos que provar que somos nós mesmos. E há uma ligação difinitiva com biologia: se minha senha vazou, eu a troco, mas não há nada que eu possa fazer se meus dados biométricos vazaram...

A coisa pode ser ainda mais insidiosa do que aparenta: num exemplo recente, a falência de uma companhia que trabalhava com relacionamento entre pessoas na internet - a Character.ai - trouxe à discussão se a massa falida poderia ou não revender a eventuais interessados os dados que tinha acumulado de seus usuários, para saldar suas dívidas. Note-se que essa plataforma, que já havia passado por um vazamento de dados há uns dois anos, focava em criar e estimular relacionamentos entre seus usuários e, assim, amealhou dados sensíveis dos que procuravam companhia ou aconselhamento.

Quanto mais tratarmos o "chatbot" como confidente, conselheiro, ou um quase-oráculo, mais facilmente lhe entregamos aquilo que normalmente ocultaríamos dos outros seres humanos: perguntas, segredos, angústias e decisões.

Uma última analogia: na tragédia clássica havia o "deus ex machina" quando, através de um mecanismo, surgia uma intervenção divina para resolver o conflito insanável. Hoje é a própria máquina que supre a necessidade de conciliação, e passa a responder às nossas angústias. A resposta a "corações ao alto" era "já os temos no Senhor", esperando perdão e esquecimento, mas a máquina a que entregamos nossos dados hoje não nos perdoa nem esquece. E, quando pedirem novamente a imagem de nosso rosto em troca de um cadeado, quem sabe poderíamos responder "já a temos na nuvem".

===

===

A publicação do texto:
https://www.estadao.com.br/economia/demi-getschko/sursum-corda/

===

O artigo sobre o Character.ai e riscos à privacidade:

https://www.bbc.com/future/article/20261029-the-ai-bubble-could-expose-your-deepest-secrets

https://www.bbc.com/future/article/20260210-tiktok-is-tracking-you-even-if-you-dont-use-the-app-heres-how-to-stop-it

===

E uma curiosidadade: vinho Sursum Corda.