Aspirando dados

Falou-se nestes dias sobre aspiradores de pó “inteligentes”, que estariam agindo de forma estranha e abusiva. Não apenas recolhendo dados da residência em que operam e enviando-os ao fabricante – o que, de certo modo, era até previsto pelos “termos de uso” que acompanham o equipamento - mas também, após invadidos por terceiros, usarem o altofalante para disparar impropérios e obscenidades… Seria cômico, não fosse preocupante.

De tempos em tempos questões básicas retornam. Há 10 anos, por exemplo, houve um alerta, associado à grande difusão da Internet das Coisas, de que dispositivos caseiros – à época o caso mais difundido era o de câmeras de vigilância domésticas - estariam sendo invadidos por programas maliciosos. Um caso emblemático foi do virus Mirai, que conseguiu montar e controlar um exército de equipamentos “zumbis”.

Há diferentes pontos a considerar aí. Quanto à motivação para captura de dados, a explicação mais plausível hoje é a ligada à Inteligância Artificial, e ao fato de que o “aprendizado de máquina” depende viceralmente da aquisição de grande quantidade de dados, principalmente no ambiente em que atuará. Essa, inclusive, é a explicação embutida nos “termos de uso” do fabricante: para um dispositivo automático ser eficiente e confiável, ele deve reconhecer, com a maior acuidade possível, o ambiente em que se encontra, e o modo de ação que dele se espera. Isso exige, por exemplo, que esses dispositivos permaneçam ligados à Internet. Afinal, e pensando bem, por que um aspirador que está operando numa casa precisaria, indefectivelmente, estar ligado à rede para funcionar? Ao menos por enquanto, outros eletrodomésticos convencionais funcionam sem acesso à rede… A primeira ameaça que presiste, portanto, é a de que dados nossos, inadvertidamente, sejam coletados e enviados ao fabricante, à guisa de “aperfeiçoamento dinâmico do sistema”.

A segunda e mais insidiosa possibilidade vem de que, se existe um caminho de acesso remoto, ele poderá ser explorado por mal-intencionados. Claro que descuidar de senhas, fracas ou antigas, facilita a ação de invasores, mas – e é o que se vê no caso - mesmo com cuidados básicos do usuário, eventuais brechas de segurança do fabricante permitiram o acesso indevido. Alguns invasores, como o Mirai, buscavam manter-se invisíveis até porque seu alvo não era o equipamento em si: eles visavam a objetivos mais gerais. Usando os pontos invadidos como base, o exército do Mirai buscava, com ataque de “negação de serviço” (DoS) tirar do ar serviços importantes. E buscava manter-se invisível. Alguns dos invasores atuais, entretanto, ou buscam nossos dados, ou querem mostrar “competência” e haurir a “fama” do feito. Assim, não hesitam em exibir-se, dirigindo impropérios ao pessoal da casa. Se o aspirador tem altofalante e microfone para poder dialogar com o pessoal de casa, nada impede que se usem para um fim menos digno. E onde há uma “porta”, há sempre um risco de intrusão. A hiperconectividade facilita o abuso de nossa privacidade. Fiquemos atentos!

===

Notícias sobre o caso:
- do Bruce Schneier:

https://www.schneier.com/blog/archives/2024/10/deebot-robot-vacuums-are-using-photos-and-audio-to-train-their-ai.html

- do Panda Security

https://www.pandasecurity.com/en/mediacenter/compromised-chinese-vacuum-cleaners-hacked/

- na Austrália:

https://www.abc.net.au/news/2024-10-04/robot-vacuum-hacked-photos-camera-audio/104414020

===

trecho dos "termos de uso" da Ecovacs:

https://gl-us-wap.ecovacs.com/content/agreementNewest/PRIVACY/DEFAULT/DEFAULT

We, Ecovacs Robotics Co., Ltd. (hereinafter referred to as “we”, “us” or “our”) respect and protect your privacy and personal information. This ECOVACS HOME Privacy Policy (hereinafter referred to as this “Policy”) explains the way we process your personal information and the rights you have under this Policy, when you use the ECOVACS HOME App provided by us (hereinafter referred to as the “App”) to control and administer the robotic cleaning device that are connected to your App user account (hereinafter referred to as the “Device”). Being the App operator, we act as the controller of your personal data which we will obtain directly from you as the data subject. The App may contain links to external websites operated by our affiliates, third parties or us. When you click on such a link, the website will be presented in the web browser of your smart phone and the processing of your personal information will be subject to the privacy policy of the relevant website.

Tempos…

Quinta-feira passada tomou posse, como novo acadêmico da Academia Paulista de Letras, o jornalista e colunista deste jornal, Eugênio Bucci. Posso colocar como ponto muito positivo de minha trajetória o ter tido o privilégio de encontrá-lo e conviver em diversas instâncias da vida. Tendo como padrinho o ilustre jurista e intelectual Celso Lafer, Eugênio assumiu a cadeira 12 da APL. Ambos brindaram os presentes com excelentes e provocativos discursos.

Da parte que diz mais respeito ao nosso tema, destaco uma tirada espirituosa de Eugênio, quando já perto do final de seu discurso, e fazendo referência ao tema do momento – a Inteligência Artificial e seus riscos – chamou a atenção para algo que considerava igualmente preocupante e talvez, sistematicamente descurado: o avanço da “ignorância artificial”. As risadas que se seguiram à boutade talvez reforcem que, de fato, não estaríamos dando a atenção devida.

Começo por notar o adjetivo “artificial”. O conceito básico aqui é “algo feito com artifício”, por algum agente, um“artífice”. Não se trata de mera oposição a “natural”, mas atem-se ao fato de ser uma criação humana. Ou seja, essa “ignorância” é diferente da “falta de informação e de conhecimento sobre algo”, como seria a ignorância natural. Talvez seja algo construido de forma lenta, talvez insuspeitada. Não é o caso de brotarem teorias conspiratórios, mas talvez de constatarmos os efeitos que advêm da exposição contínua e intensa ao mundo de redes e toda sua parafernália.

Que hoje a IA tenha desestimulado a leitura em sua forma imersiva e tradicional, parece um fato estabelecido. Como diz Huxley em Admirável Mundo Novo, “não consumiremos muito se ficarmos sentados, lendo…”. Consegue-se um resumo instantâneo de qualidade incerta, bastando pedí-lo a uma ferramenta de IA. Poupa-nos o trabalho de destrinçar o texto e as idéias do autor, e nos provê um resumo insosso e bastante superficial. Não é muito diferente o que se passa com nossas atuais fontes de informação, das quais aproveitamos, se tanto, a manchete. E para eventual sentimento de solidão e isolamento, há os avatares que nos fazem companhia, consolam e divertem. A associação da velocidade e da ubiquidade da Internet, com do poder dos algoritmos em nos enredar, faz com que tenhamos nossa porção gratuita de “felicidade”, como acontecia com o SOMA no Admirável Mundo Novo.

Nada disso desmerece ou diminui os avanços espantosos da tecnologia, nem serve para desestimular o uso das novas ferramentas. Já existe até uma “engenharia de ‘prompts’” visando a nos capacitar a pedirmos com mais acurácia o que esperamos obter da IA. Mas devemos nos manter atentos.

Relembrando os discursos daquela sessão na APL (enquanto procuro acompanhar também os resultados do primeiro turno das eleições, a apenas minutos do fechamento das urnas…), outra provocação vem à mente: em seu discurso de apresentação do postulante, Celso Lafer citou um adágio, que penso atemporal. Disse ele: “a verdade não morre, mas tem uma vida miserável...”.

===

Trecho citado de "O Admirável Mundo Novo":

https://www.goodreads.com/quotes/594665-you-can-t-consume-much-if-you-sit-still-and-read

“You can't consume much if you sit still and read books."

Sobre o SOMA:

https://cornellsun.com/2023/11/27/modern-soma/

"Soma is the instant gratification drug that has desensitized society in Aldous Huxley’s 1932 Brave New World. But 92 years later, this drug sounds awfully familiar — it’s just been going by different names: phones, the Internet, the virtual world. I fear how similar our dissociative societies are, as Huxley’s world blurs into our own. Is his world a road map for the journey we are about to begin, or a warning that will help us avoid an artless, passionless society where we are enslaved to instant gratification technology?

https://www.huxley.net/soma/somaquote.html

Primo Vere

Estamos no terceiro dia de primavera de 2024. Aconteceu-me rever Carmina Burana, de Carl Orff, que começa e termina com a magnífica “O Fortuna!”. A segunda parte da cantata, Primo Vere, trata da chegada da primavera e de seus efeitos em nossa vida, ânimo e ações. Inicia com “A alegre face da primavera mostra-se ao mundo, enquanto o duro inverno foge derrotado”…

O mundo hoje é mais complexo do que era à época desses versos, há uns 1000 anos. Uma outra lembrança vem, bem mais recente e menos otimista: os textos de Franz Kafka, cuja morte fez 100 anos em julho. Quando tratamos de “previsões sombrias” nossas referências normalmente, ligam-se a Aldoux Huxley, (Admirável Mundo Novo, Os Demônios de Loudun) e George Orwell (1984, Fazenda dos Animais). Mais de vinte anos antes deles, Kafka escreveu o que pareceria então “odes ao absurdo”, como A Metamorfose e O Processo, mas que podem ser lidos também como advertências ao que poderia estar nos espreitando…

Nelas Kafka capturou a essência do “non sense” e da alienação que, afinal. permeiam a condição humana. Embora escritos no início do século XX, ressoam profundamente no estado atual de um mundo onde, sob o peso da globalização, da tecnologia avançada e de crises políticas e sanitárias, é cada vez mais frequente que a desorientação e a desumanização se manifestem.

Em “A Metamorfose”, Gregor Samsa acorda uma manhã para descobrir-se transformado em uma enorme barata. Isso poderia ser relido como um sentimento de alienação experimentado no mundo moderno. Hoje, essa metamorfose se manifesta na forma como as redes sociais alteram as identidades pessoais, na sensação de nossa impotência diante dessas forças gigantescas e, muitas vezes, nas alterações que essa “transformação” provoca no tratamento que recebemos dos outros. Mais ainda, e da mesma forma que se passa com Josef K em "O Processo", sentimo-noss à mercê de sistemas burocráticos que parecem funcionar independentemente da lógica.

O crescimento das notícias falsas, a erosão de liberdades em nome de “maior segurança”, o uso de algoritmos e dados que modelam e controlam nosso comportamentos, são reflexos de um enredo kafkiano, que revela um mundo arbitrário, labiríntico e opaco. A era digital, com sua promessa de conectividade e amplo acesso à informação, pode sorrateiramente trazer mais alienação e desumanização. E nem precisamos lembrar de efeitos da IA para constatar que essa transformação, como aconteceu com Gregor Samsa, pode nos isolar da comunidade além de comprometer ainda mais nossa privacidade.

Ao examinarmos qualquer coisa hoje em dia, é crítico ir à fonte, e não simplesmente dar ouvidos aos áulicos. Nosso Marco Civil na Internet, por exemplo, foi belamente construído em processo que durou anos. Devemos lê-lo diretamente para podermos tirar conclusões e julgamento, e não seguir apenas ao sabor das narrativas.

A canção nos recomenda que “nesta solene primavera, nos alegremos com a novidade das coisas, e sigamos a autoridade das fontes”. Boa primavera! 

===

trecho de "O Processo", de Franz Kafka:

https://vestibular.uol.com.br/resumos-de-livros/trechos-do-livro-o-processo.htm

"Alguém certamente havia caluniado Josef K. pois uma manhã ele foi detido sem ter feito mal algum. A cozinheira da senhora Grubach, sua locadora, era a pessoa que lhe trazia o café todos os dias por volta de oito horas, mas dessa vez ela não veio. Isso nunca tinha acontecido antes...."

===

Carmina Burana, Cantiones Profanae

https://pt.wikipedia.org/wiki/Carmina_Burana_(Orff)

===

As tres canções que compõem o Primo Vere

VERIS LETA FACIES

Veris leta facies

mundo propinatur,
hiemalis acies
victa iam fugatur,
in vestitu vario

Flora principatur,
nemorum dulcisono
que cantu celebratur. Ah!

Flore fusus gremio
Phebus novo more
risum dat, hac vario
iam stipate flore.
Zephyrus nectareo
spirans in odore.
Certatim pro bravio
curramus in amore. Ah!

Cytharizat cantico
dulcis Philomena,
flore rident vario
prata iam serena,
salit cetus avium
silve per amena,
chorus promit virgin
iam gaudia millena. Ah!

OMNIA SOL TEMPERAT

Omnia sol temperat
Purus et subtilis
Novo mundo reserat
Faciem aprilis
Ad amorem properat
Animus herilis
Et iocundis imperat
Deus puerilis

Rerum tanta novitas
In solemni vere
Et veris auctoritas
Jubet nos gaudere
Vias prebet solitas
Et in tuo vere
Fides est et probitas
Tuum retinere

Ama me fideliter
Fidem meam nota
De corde totaliter
Et ex mente tota
Sum præsentialiter
Absens in remota
Quisquis amat taliter
Volvitur in rota

ECCE GRATUM

Ecce gratum
et optatum
ver reducit gaudia
purpuratum
floret pratum
sol serenat omnia
iamiam cedant tristia!
estas redit
nunc recedit
hyemis servitia.

Iam liquescit
et decrescit
grando, nix et cetera,
bruma fugit
et iam sugit
ver estatis ubera;
illi mens est misera,
qui nec vivit,
nec lascivit
sub estatis dextera.

Gloriantur
et letantur
in melle dulcedinis
qui conantur,
ut utantur
premio Cupidinis;
simus jussu Cypridis
gloriantes
et letantes
pares esse Paridis.

===

Teorias conspiratórias

A criação de artefatos que visassem a imitar um humano é antiga obsessão. Para citar alguma referência não tão distante, Descartes em seu Discurso para o Método (1637) já cogitava um dia haver máquinas que simulassem reações humanas, mas assumia que seria muito fácil distingir as máquinas dos humanos. Na linha de engôdos, um caso que teve bastante repercussão foi o “turco mecânico”, pretensa máquina que jogava xadrez em nível bem elevado exibida entre 1770 e 1864, com bastante sucesso em toda a Europa.

A possibilidade de se emular o comportamento humano nunca saiu de cena, e ganhou ainda mais ímpeto com o surgimento do computador. Marco clássico disso foi a proposta por Alan Turing, 1950, de haver um teste para distinguir se um pretenso interlocutor, atrás de um biombo, era humano ou máquina. E para escapar da dificuldade em definir “pensar”, Turing chamou-o de “jogo da imitação”.

Semana passada, em evento de lançamento do “Observatório Brasileiro de IA”, houve uma interessante palestra de Wagner Meira, UFMG, que abordou experimentos e aspectos técnicos da aprendizagem de máquina. Recomenda-se aos interessados que assistam a ela, disponível na rede; alguns dos dados trazidos são muito interessantes. Num ponto examina-se o que acontece de imprevisível com o aprendizado de máquina quando, ao oferecer-lhe um conjunto de dados para um objetivo específico, ela extrapola gerando “aprendizado” em pontos não previstos. Por exemplo, a partir de conjuntos de eletrocardiogramas para detecção de doenças, a IA gerou ainda uma previsão de expectativa de vida dos examinados.

Outro resultado curiosíssimo veio de submeter ao ENEM tradicional diversos aplicativos LLM disponíveis hoje.O resultado foi bastante inesperado: em linguagem, humanidades e ciências naturais IA teve desempenho equivalente ou melhor que os humanos, destacando-se bastante em alguns casos. Porém, em matemática os LLM fracassaram claramente. Como justificar isso? A princípio pode-se dizer que o universo de dados é muito mais rico em exemplos de linguagem, que em resolução de problemas, mas pode-se também olhar sob outro prisma: linguagem é o apanágio que nos fez humanos. Dominar a linguagem é a forma de pensamento que temos. E nesse espaço as LLM vão espantosamente bem!. As comezinhas máquinas de calcular que se preocupem em fazer conta. IA está buscando a âmago da humanidade: o domínio da linguagem. E sai-se muito bem aí.

Ludwig Wittgenstein elaborou sobre a interação entre o pensamento e a linguagem. Seu aforismo 5.6, do Tractatus Logico-Philosophicus, diz: “O limite de minha linguagem marca os limites de meu mundo”…

Voltando ao Teste de Turing, uma máquina que acertasse todas as questões matemáticas dificilmente passaria por “humano”. Afinal, erramos bastante aí. Assim, as LLM. ao irem melhor em humanidades que em matemática, garantem maiores possibilidades de passar no teste. Um comportamento “humano, demasiadamente humano”...

É temerário tentar um diagnóstico do ponto onde nos achamos. O Tractatus fecha com o enigmático aforisma 7: “Sobre aquilo que não se pode falar, deve-se calar”.

===
O teste de Turing
https://pt.wikipedia.org/wiki/Teste_de_Turing


"Em 1966, Joseph Weizenbaum criou um programa que aparentava passar no Teste de Turing. O programa, denominado ELIZA, trabalhava examinando comentários digitados por um usuário procurando por palavras-chave. Se uma palavra-chave era encontrada, a regra que transforma o comentário do usuário era aplicada e a sentença resultante retornada. Se nenhuma palavra-chave era encontrada, ELIZA retornava uma resposta genérica ou repetia o retorno do comentário anterior.[22] Além disso, Weizenbaum desenvolveu ELIZA de modo a replicar o comportamento de um psicoterapeuta Rogeriano, permitindo ELIZA, assim, ser "quase que livre para assumir uma postura de desconhecimento total do mundo real".[23] Com essas técnicas, o programa de Weizenbaum foi capaz de fazer com que pessoas acreditassem que estavam falando com um ser humano, ao ponto de, para algumas pessoas ser "muito difícil de convencê-las que ELIZA [...] não é um humano".[23] Assim, ELIZA foi considerada por alguns como um programa (talvez o primeiro) a passar no Teste de Turing,"

===

O "turco mecânico"
https://pt.wikipedia.org/wiki/O_Turco

"O Turco foi uma máquina de jogar xadrez supostamente provida de inteligência artificial construída na segunda metade do século XVIII. De 1770 até sua destruição num incêndio em 1854, foi exibido por vários proprietários como um autômato, apesar de o seu funcionamento ter sido revelado no início da década de 1820 como um elaborado hoax.[1] Construído em 1770 por Wolfgang von Kempelen (1734–1804) para impressionar a Imperatriz Maria Teresa da Áustria, o mecanismo parecia ser capaz de jogar um partida contra um forte oponente humano, assim como executar o problema do cavalo, onde o Cavalo deve ser movimentado no tabuleiro de modo a ocupar cada casa somente uma vez."

===
Wittgenstein: Tractatus Logico-Philosophicus:
https://pt.wikipedia.org/wiki/Tractatus_Logico-Philosophicus


https://www.gutenberg.org/files/5740/5740-pdf.pdf


5.6 The limits of my language mean the limits of my world.
7 Whereof one cannot speak, thereof one must be silent

===

A palestra de Wagner Meira
https://www.youtube.com/watch?v=O9czIDgeVFI&t=1838s
===

Presságios semânticos

 Fevereiro de 1996, em momento de discussão sobre conteúdos “não adequados para plataformas de comunicações”, John Perry Barlow (que em 1990 fundara a EFF- Electronic Frontier Foundation), escreveu a “Declaração de Independência do Ciberespaço” como resposta imediata ao “Decency Act” norte-americano. É um texto que repete o espírito fundante dos pioneiros da Internet e, claro, sua utopia da permanente revolução que ela seria capaz de promover no mundo. “Nosso mundo está, ao mesmo tempo, em todos os lugares e em lugar nenhum, mas não é onde pessoas vivem. Estamos criando um mundo em que todos poderão entrar, sem privilégios ou preconceitos de raça, poder econômico, força militar ou lugar de nascimento. Um mundo onde qualquer um, em qualquer lugar, poderá expressar suas opiniões…”. Barlow, que nos deixou em 2018 e visitou o Brasil algumas vezes, não pôde presenciar o reviver da velha polêmica de 1996.

Certamente coisas mudam e conceitos devem ser revistos mas, como observador do cenário, noto que, às vezes, discussões são distorcidas para atender a objetivos enviesados. Cito dois casos: “liberdade de expressão” é algo fundamental, o que não quer dizer, em absoluto, que não devamos ser responsáveis pelo que afirmamos. Não se trata de impedir a expressão, mas de punir o enunciante, se o que disse configura-se “crime” na legislação em que vive. O esforço para que não se diga algo parece-me inútil e inafequado, e assim também é pedir ao meio que se recuse a receber idéias que ele considere nefastas. Se o papel aceita quaisquer idéias que um lápis coloque lá, isso não significará impunidade a quem usou da liberdade para disseminar calúnias, difamações. Com a Internet é muito difícil alguém escrever algo sem deixar traços que o denunciem. O outro exemplo é no sentido contrário: não entendo, em minha limitação, o que significaria o “direito ao esquecimento”… Alguém teria o direito, sobre a mente dos demais, para que algo fosse esquecido? Claro que se algo falso e superado for utilizado contra alguém, que o arcabouço legal puna o agressor. Tentar fazer isso preventivamente parece-me pretencioso e abusivo.

Finalmente, no tema “fronteiras”, há que se respeitar culturas locais que, por vezes, podem ser bem diversas. Querer que o mundo siga numa linha definida por um bloco, por mais evoluido que ele se considere, parece abusivo. A “longa manus” da UE em relação ao “direito ao esquecimento” não deveria atingir outros domínios nacionais. O princípio de Barlow, de não haver tutela e filtros apriorísticos, ainda deveria valer. E que cada um se responsabilize pelo que publicou.

Entretanto o demônio, sempre atento, ouviu Barlow e se aproveitou de um escorregão no título… Ao denominar o espaço de interlocução e de comunicação de “ciberespaço”, foi usada a raiz grega “ciber”, que significa controle, governança. Ou seja, sem notar, Barlow conjurara os espíritos maliciosos para que pudessem transformar a Internet inicial numa “rede de controle”. A semântica buscou (e conseguiu!) sua vingança.

===

"Cyber"

https://www.tripwire.com/state-of-security/humanity-and-evolution-of-cyber

===

O livro de Norbert Wiener, que definiu "cibernética"

https://en.wikipedia.org/wiki/Cybernetics:_Or_Control_and_Communication_in_the_Animal_and_the_Machine

Tecnologia e verdade

A facilidade que a internet nos deu para receber e gerar uma infinidade de informações, trouxe-nos preocupação cada vez maior com a qualidade do que recebemos. E intriga-nos, também, por que algo específico e não solicitado chega. Certamente há algoritmos em ação, que nos catalogaram como alvos de temas que nos interessariam. Buscam manter-nos conectados, o maior tempo possível, nas tais “bolhas de conteúdo”.

Se cresce a informação que um destinatário recebe, o mesmo acaba acontecendo com falsidades e desinformação. Para tratar disso, evitemos cair na armadilha dicotômica, maniqueista, que visa a separar o verdadeiro do falso: é uma empreitada impossível. Em relação a conhecimento científico, bom lembrar Karl Popper, que define ciência como algo que, necessariamente, pode ser “falseado”. Se não se admite argumentação contrária, estamos diante de um “dogma” e não de uma proposta científica. O exemplo mais extremo talvez seja “o ministério da verdade”, da obra de Orwell, “1984”. A verdadeira ciência vale-se do questionamento para provar-se continuamente sólida ou, até, reconhecer eventualmente que algo deva ser revisto.

Uma discussão recente trouxe à baila posicionamentos de Amós Óz, literato e filósofo israelense, que sustenta ser a verdade um alvo móvel. Dela só conseguimos nos aproximar a partir de debates abertos e variados (mais ou menos na linha do velho adágio “da discussão nasce a luz”). No tema “verdade”, Nietzsche, mais radical que a Oz, afirmou que “não existem fatos; apenas interpretações de fatos”. Ambos, portanto, consideram “verdade” não como um dado objetivo e absoluto, mas uma construção humana, influenciada por perspectivas, experiências e valores. Um ideal a ser perseguido, mesmo que nunca completamente alcançado. Da discussão aberta, do diálogo, de buscar pontes entre diferentes visões. é que se chegará a resultados úteis.

A internet deu armas a oportunistas que lançam mão de ferramentas da tecnologia para disseminar, não argumentos honestos em que creiam, mas falsidades intencionais, que reforcem narrativas de seu interesse. Independentemente de nossa definição de “verdade”, é importante distinguirmos entre o salutar e aberto debate, e a imposição insidiosa de dogmas. Manter posição crítica sobre o que recebemos, e exercer contenção no que repassamos, evitará que nos tornemos apoio involuntário aos que buscam disseminar algo de seu próprio interesse. É fundamental desenvolver pensamento crítico, avaliar a credibilidade da informação. Isso inclui reconhecer nossos próprios viéses, e considerar diferentes perspectivas antes de disseminar uma opinião.

Em grego a palavra “verdade” é “alétheia”, que significa “a negação do esquecimento” - Lete é o nome do “rio do esquecimento” no Hades. Segundo Martin Heidegger, “verdade é o desvelar, revelar o que está oculto”. Numa frase dele, “a essência da verdade é a liberdade”.

===

Um ensaio bastante bem feito, por IA, sobre o tema:
===

A Ilusão da Verdade: Oz, Câmeras e "Deepfakes" em um Mundo Digital

Amos Oz, em sua profunda reflexão sobre a natureza humana e a busca pela verdade, nos convida a questionar a própria noção de realidade. Para o escritor israelense, a verdade é um ideal perseguido, mas raramente alcançado. A complexidade da experiência humana, a subjetividade da percepção e a influência do contexto histórico e cultural tornam a verdade um constructo fluido e mutável.

No mundo contemporâneo, essa noção de verdade se torna ainda mais complexa com o avanço da tecnologia. As câmeras fotográficas, por muito tempo consideradas testemunhas imparciais da realidade, revelam-se cada vez mais como instrumentos de construção de narrativas visuais. A fotografia, assim como a pintura ou a escultura, é um ato de seleção e composição, que molda a percepção do espectador. A imagem capturada por uma câmera não é uma reprodução fiel da realidade, mas sim uma interpretação dela, filtrada pelas lentes do fotógrafo e pelas características da própria câmera.

A ascensão dos "deepfakes" agrava ainda mais essa crise de confiança na imagem. Essas falsificações digitais, capazes de criar vídeos hiper-realistas de pessoas dizendo ou fazendo coisas que nunca fizeram, desafiam nossa capacidade de distinguir o real do falso. As "deepfakes" não apenas questionam a autenticidade das imagens, mas também minam nossa confiança nas instituições e nos indivíduos que aparecem nesses vídeos.

A relação entre as ideias de Oz, a fotografia e os "deepfakes" pode ser resumida da seguinte forma:

1. A verdade como construção: Assim como a verdade para Oz não é um dado objetivo, mas uma construção social e histórica, as imagens fotográficas e os "deepfakes" também são construções, moldadas por tecnologias, intenções e contextos específicos.
   
   
2. A ilusão da objetividade: A câmera fotográfica, assim como a linguagem, cria a ilusão de objetividade, mas essa objetividade é sempre relativa e dependente de diversos fatores.
   
   
3. A importância do contexto: A interpretação de uma imagem ou de um vídeo depende do contexto em que ela é inserida. A mesma imagem pode ter significados completamente diferentes dependendo de quem a produz, para quem ela é destinada e em qual momento histórico ela é apresentada.
   
   
4. A necessidade de criticidade: Diante da proliferação de imagens e vídeos manipulados, torna-se cada vez mais importante desenvolver um lhar crítico e questionador, capaz de identificar as estratégias de manipulação e as intenções por trás das mensagens visuais.

Em conclusão, as ideias de Amos Oz sobre a verdade, quando confrontadas com o poder de manipulação das imagens digitais, nos levam a refletir sobre a natureza da realidade e a importância da crítica e do pensamento autônomo em um mundo cada vez mais mediatizado. A busca pela verdade, longe de ser um exercício ingênuo, exige um esforço constante de desconstrução das narrativas dominantes e de construção de um olhar mais crítico e informado sobre o mundo que nos cerca.

===

Contraponto

Em experimentações com modelos LLM da IA, ficam muito claros seus supreendentes resultados, tanto em “entender” contextos, como, a partir de fontes, em criar resumos. E sempre com linguagem de ótima qualidade. Como exemplos adicionais, IA fez-me um belo resumo de capítulo de livro que um grupo de colegas de leitura estamos discutindo. Seguindo ainda na linha comentada, pediu-se à IA que elaborasse sobre uma possível analogia entre Amlet (o Hamlet histórico), real príncipe da Dinamarca famoso por sempre dizer a verdade, e a “verdade” na internet. Segue pequeno trecho do que IA generativa produziu:

“A tragédia de Amlet na era da internet seria essa: um príncipe da verdade em um reino de incertezas, onde a autenticidade é constantemente questionada e a verdade é uma moeda rara e valiosa. Sua saga nos lembra que, mesmo em tempos de tecnologia avançada e comunicação instantânea, a luta pela verdade é eterna e sempre complexa, exigindo coragem, astúcia e, acima de tudo, uma fé inabalável na importância de se manter fiel aos fatos, mesmo quando ninguém mais acredita”.

Há, entretanto, contraponto a essa “profissão de fidelidade pela verdade”. Em outras “conversas”, sobre temas de esperança, provoquei-a a citar poemas em português sobre o mito de Pandora. Entre os exemplos que ela trouxe, dois me eram completamente desconhecidos: “A caixa de Pandora”, poema de Olavo Bilac, e a “A canção do ódio”, de Alberto Caeiro (Fernando Pessoa). Busquei-os na rede e nada achei. Pedi mais dados à IA. Ela reforçou o que já tinha dito e anexou na íntegra, e em estilo parnasiano, o que seria o tal poema de Bilac. Também a “Canção do Ódio” foi explicitada, inclusive com comentários relacionando-a ao tema “esperança”. Busquei e, de novo, nada encontrei na internet.

Resolvi perguntar a outra IA bem conhecida, se havia o poema de Bilac e se podia repassá-lo. Ela foi incisiva em dizer que “sim, é um poema bem conhecido” e mo repassou. E… não era o mesmo poema que a primeira IA inventou!. Ou seja, ambas criaram poemas verossímeis, que poderiam ser atribuidos a Olavo Bilac. O mesmo se passou com a tal “Canção do ódio”, com o detalhe adicional que a segunda IA, de forma ainda inventiva, o atribuiu a um outro heterônimo de Fernando Pessoa: Álvaro de Campos!.

Por prioridades ou estratégia, IA prefere inventar algo a dizer que “não conhece”. Assim gera-se um poema que passaria como sendo de Olavo Bilac, e faz-se o mesmo com Fernando Pessoa, mesmo que IAs diversas o atribuam a diferentes heterônimos. O fato é que, se não falhei nas buscas, ambos os poemas inexistem: são criações da IA. Certamente, se formos superficiais na análise do que recebemos dela, corremos sérios riscos de tomar como verdade uma invenção. Como muitos já disseram, meias-verdades são as mentiras mais insidiosas, porque revestem-se da roupagam de verdade. Chesteron, em 1910, havia advertido de que, enquanto a verdade integral alia-se à virtude, uma meia-verdade sempre está acoplada a algum vício. Sempre alerta!

===

dois textos gerados pelo ChatGPT sobre Amlet, (do trecho citado acima)

1- (com a base de dados geral)

 
A Verdade de Amlet na Era da Internet
Amlet, o príncipe real da Dinamarca descrito por Saxo Gramático, é uma figura que vive na interseção entre a verdade e a desconfiança, muito antes de Hamlet de Shakespeare emergir como seu eco literário. Transportando essa figura histórica para os dias de hoje, podemos imaginar como ele navegaria pelas águas turbulentas da internet moderna, sempre fiel à verdade, mas raramente acreditado.

Na lenda, Amlet fingia ser insano para esconder seus verdadeiros sentimentos e intenções, enquanto reunia informações e planejava sua vingança. Se Amlet vivesse hoje, provavelmente usaria a internet para espalhar suas verdades veladas, escondendo-se atrás de pseudônimos e avatares nas redes sociais. Como um usuário anônimo, ele publicaria mensagens criptográficas e declarações que, apesar de verdadeiras, pareceriam tão absurdas ou fantásticas que a maioria das pessoas as descartaria como meras teorias da conspiração.

Imagine Amlet criando um blog ou um canal de vídeo onde, com seu comportamento enigmático, ele revelasse os segredos de sua corte contemporânea: a corrupção dos líderes, os conluios e as tramas ocultas. Seus seguidores seriam poucos, mas dedicados, sempre debatendo a autenticidade de suas palavras. Para o público geral, ele seria apenas mais uma figura excêntrica no vasto universo online, onde a verdade e a mentira se confundem constantemente.

Os algoritmos das redes sociais, desenhados para promover o conteúdo mais envolvente e não necessariamente o mais verdadeiro, dificultariam ainda mais a missão de Amlet. Suas postagens, repletas de insights profundos e verdades incômodas, seriam empurradas para os cantos obscuros da internet, eclipsadas por memes virais e celebridades digitais. O verdadeiro desafio de Amlet seria não apenas dizer a verdade, mas fazer com que ela fosse ouvida e acreditada.

No entanto, Amlet era astuto. Ele compreenderia rapidamente a dinâmica do novo reino digital. Usaria estratégias de marketing digital, talvez contratasse bots para amplificar suas mensagens, ou se aliaria a influenciadores dispostos a dar voz às suas denúncias. Mesmo assim, ele enfrentaria a eterna batalha entre a verdade e a percepção pública.

Enquanto Amlet lutasse para ser ouvido, a internet seguiria seu curso caótico, onde cada verdade dita é confrontada por uma centena de mentiras. Os trolls, os desinformadores e os céticos seriam seus inimigos modernos, sempre prontos para desacreditar suas palavras, transformar suas declarações em piadas ou simplesmente ignorá-las.

A tragédia de Amlet na era da internet seria essa: um príncipe da verdade em um reino de incertezas, onde a autenticidade é constantemente questionada e a verdade é uma moeda rara e valiosa. Sua saga nos lembra que, mesmo em tempos de tecnologia avançada e comunicação instantânea, a luta pela verdade é eterna e sempre complexa, exigindo coragem, astúcia e, acima de tudo, uma fé inabalável na importância de se manter fiel aos fatos, mesmo quando ninguém mais acredita.

2- (com a base de dados do Llama 8B

No ano de nosso Senhor... (ou seja, no início do século XXI), havia um reino chamado "A Internet", onde as pessoas se reuniam para compartilhar informações, ideias e experiências. Mas, como sempre acontece em tais lugares, surgiram problemas e descrenças.

Um jovem príncipe da verdade, que preferimos chamar de "Amlet Digital" (por sua semelhança com o famoso Amlet), habitava esse reino. Ele era conhecido por dizer a verdade de uma forma que ninguém queria ouvir, e muitas vezes as pessoas não sabiam se ele estava falando sério ou apenas brincando.
Amlet Digital observou que na Internet havia uma grande confusão e descrença. As informações eram difíceis de distinguir da ficção, e os usuários estavam cada vez mais cegos pela ilusão. Eles compartilhavam notícias falsas, teorias da conspiração e opiniões sem fundamento, como se fossem verdades absolutas.

O príncipe Amlet Digital decidiu investigar esses problemas e descobriu que a Internet estava sendo dominada por "Os Mercadores de Informações", um grupo de indivíduos astutos que vendiam notícias falsas e opiniões manipuladas como se fossem verdades. Eles usavam técnicas sofisticadas para criar ilusão e confundir os usuários, tornando-os cada vez mais desconfiados e céticos.

Amlet Digital também descobriu que a Internet estava sendo afetada por "A Maldição da Interatividade", um fenômeno pelo qual as pessoas se sentiam compelidas a participar de discussões online, mesmo quando não tinham conhecimento ou experiência sobre o assunto. Isso criava uma atmosfera de confusão e descrença, onde ninguém sabia mais do que os outros.

O príncipe Amlet Digital concluiu que a Internet estava em perigo de se tornar um lugar sem sentido, onde as pessoas não podiam distinguir entre verdade e ilusão. Ele decidiu tomar medidas para combater esses problemas e restaurar a confiança na Internet.

Mas, como sempre acontece quando alguém tenta mudar o status quo, Amlet Digital encontrou resistência dos "Mercadores de Informações" e outros interessados em manter as coisas do mesmo jeito. Eles usaram todas as suas armas para silenciar o príncipe e mantê-lo calado.

E assim, a história da Internet continua, com Amlet Digital lutando contra os ventos e marés de descrença e ilusão que ameaçam consumir todo o reino. Mas não se preocupe, pois ainda há esperança para uma Internet mais verdadeira e confiável.
Fim da crônica.

===

Poesia "A Caixa de Pandora" atribuida pelo ChatGPT a Olavo Bilac:

A Caixa de Pandora, por Olavo Bilac

Quando Epimeteu, vencendo a armada de Tétis, 

À amável Pandora recolheu no seu lar, 

E a cada alborada, com divinas mãos, 

ela Tépidas flores ia ao leito conjugal buscar,

Súbito um dia, de curiosidade presa, 

Pandora a c'roa da urna fatal destampou. 

E uma nuvem negra de larvas malfazejas, 

Como um tropel de furias da urna em horror voou.

Eis que prantos de horror, pelo espanto arrancados, 

Os campos encheram, enquanto no ar, na estrada, 

Chorando os prantos da velha desgraça, os males,
Inda, em tropel, corriam, ao longo da jornada. 

Por fim, quando a urna vazia e espedaçada, 

Muda, aos pés de Pandora, rolava pelo chão, 

Do negror da urna, em nuvem azulada, 

Pairando na amplidão, alou-se a estrela da Esperança.

===

E a versão do Gemini, da tal poesia:

O Poema Completo:

A CAIXA DE PANDORA

Da caixa, então, que a incauta Pandora
Abriu com mão fatal e temerosa,
Voaram, como um turbilhão que devora,
As desventuras, a miséria horrorosa.

A guerra atroz, com fúria sanguinária,
Varreu a terra, em fúnebre alarido;
A fome, a peste, a dor, a agonia vária,
Cobriram o universo de gemido.

A inveja vil, com serpeante olhar,
Infestou os corações, lançando o opróbrio;
O crime audaz, com punhal a cintilar,
Manchou de sangue o límpido brodio.

E a velhice, a decrepitude fria,
Com passo tardo e vacilante e lento,
Veio encurvar a fronte envelhecida
E cobrir de neve o negro desalento.

Mas resta a esperança, afinal, serena,
Como a pomba a flutuar sobre o dilúvio,
E a terra se entreabriu, florida e amena,
Para um futuro risonho e de ventura.

E a crença, a fé, a caridade pura,
E o amor, que a tudo sobrepuja e enfeita,
Desabrocharam da terra escura,
Como flores que a primavera beija.

E a alma humana, em seu sofrer profundo,
Ainda conserva a chama da esperança,
Como o náufrago, a quem as vagas afundam,
Ainda ergue ao céu a súplice mão cansada.