terça-feira, 9 de abril de 2024

Etiqueta na Internet

As mudanças que a Internet trouxe a nosso comportamento pessoal e às interações sociais mereceriam uma avaliação sociológica ampla e profunda. Se localizado na cronologia da rede, o tema não é novo. Por exemplo, no dia 18 de abril o domínio .br comemorará 35 anos de sua delegação. Se ele segue sólido, preservando os conceitos que o nortearam durante todos esses anos, a comunidade Internet a que ele serve aumentou tremendamente e tornou-se muito mais diversa que o punhado de usuários acadêmicos de então. Quem nos repassou o .br foi Jon Postel, falecido em 16 de outubro de 1998, em seu papel de IANA – Internet Assigned Numbers Authority (Vint Cerf escreveu o tocante RFC 2468 “I remember IANA” no dia seguinte à morte de Postel).

Postel também foi autor de um conselho que ficou conhecido como “a lei de Postel”: se queremos que a Internet funcione devemos “ser liberais no que aceitamos receber, e conservadores no que enviamos”. Já era claro, portanto, que haveria algum tipo de lixo, provocações e ofensas, mas deveríamos resistir, e não retrucar na mesma moeda. Em 1995 a RFC 1855 tentava estabelecer um “código de conduta” que os usuários deveriam adotar para uma convivência saudável nas redes: era a “Netiquette”. Vale a pena uma revisita a essa RFC, que definia ações conforme o tipo de aplicação usada, desde correio eletrônico, conversa, transferência de arquivos, ou a então nascente Web.

São menos de 30 anos desde a publicação da Netiquette, mas a mudança de comportamento que a rede apresenta é impressionante e assustadora. Relembro outra frase de Vint Cerf em 1999, quando disse que “os anos da Internet são como ‘anos de cachorro´”, significando que, como acontece com os cães, um ano na rede equivaleria a 7 anos humanos, Bem, nesse caso, lá se vão 200 “anos de cachorro” da publicação da Netiquette…

O que teria feito nosso comportamento variar tanto? Certamente não seria a essência humana que mudou mas, talvez, nossa exposição tão aberta a bilhões de usuários e inúmeras e diversas comunidades tenha nos encontrado de “guarda baixa”, despreparados para o impacto. A pulsão que sentimos de nos posicionarmos em qualquer tema via rede (violando o conselho de Postel) gera interações nem sempre razoáveis e civilizadas. A revista Nature de 20 de março traz um estudo interessante sobre “Padrões persistentes de interação nas plataformas sociais, no decorrer do tempo”, e analisa uma dezena de plataformas, das atuais às já extintas (como Usenet, por exemplo), cobrindo mais de 30 anos. O estudo examina a “toxicidade” e a “polarização” das interações em plataformas, e seus efeitos. Uma conclusão interessante que traz é que a “toxicidade é um resultado natural de discussões em rede, independentemente da plataforma usada”, e que “polarização” pode ter um efeito mais deletério sobre os usuários que a própria toxicidade. Examina formas de mitigar esses efeitos e leva a conclusões que poderiam ser bem aproveitadas ao se tentar definir formas de moderação em discussões que claramente deixaram de ser civilizadas...

===




https://www.azquotes.com/author/11802-Jon_Postel

Postel's Law, also known as the Robustness Principle, is a design guideline for software that states: "". It is often reworded as: "be conservative in what you send, be liberal in what you accept"

https://www.youtube.com/watch?v=h2SpygwimA8

Vint Cerf, RFC 2468 "I Remember IANA" - Reflections on Jon Postel

===
RFC 1855 - Netiquette

https://datatracker.ietf.org/doc/html/rfc1855

Network Working Group              S. Hambridge
Request For Comments: 1855      Intel Corp.
FYI:                                                28 October 1995 

Netiquette Guidelines 

In the past, the population of people using the Internet had "grown up" with the Internet, were technically minded, and understood the nature of the transport and the protocols. Today, the community of Internet users includes people who are new to the environment. These "Newbies" are unfamiliar with the culture and don't need to know about transport and protocols. In order to bring these new users into the Internet culture quickly, this Guide offers a minimum set of behaviors which organizations and individuals may take and adapt for their own use. Individuals should be aware that no matter who supplies their Internet access, be it an Internet Service Provider through a private account, or a student account at a University, or an account through a corporation, that those organizations have regulations about ownership of mail and files, about what is proper to post or send, and how to present yourself. Be sure to check with the local authority for specific guidelines.

===

Sobre o artigo da Nature:

https://english.elpais.com/technology/2024-03-20/regardless-of-the-platform-or-algorithm-its-humans-that-make-social-media-toxic.html

https://www.nature.com/articles/s41586-024-07229-y

“The study’s findings challenge the common belief that toxicity diminishes a platform’s attractiveness,” says Quattrociocchi. “[This study] shows that user behavior in toxic and non-toxic conversations has nearly identical patterns in terms of engagement, suggesting that the presence of toxicity may not deter participation, as is commonly assumed.”


terça-feira, 26 de março de 2024

Aprendizados...

Sucessor do Bard, o Gemini, da Alphabet, nos deu alguns exemplos patéticos do que um viés mal ajambrado pode produzir em IA. Os que testaram Gemini em sua capacidade de geração de images, depararam-se com “soldados nazistas negros”, casais ingleses medievais retratados como sendo origem oriental ou africana, e com “papisas” que não existiram. É a reafirmação do velho dito: a “emenda pode sair pior que o soneto”. Essa versão “criativa e inclusiva” foi rapidamente tirada do ar, mas isso não impediu a maculação da imagem e, pior, que crescessem as suspeitas de que aquilo que IA “aprende” pode não estar ancorado nos arquivos e documentos que há no mundo real. Para evitar o risco de que dados incompletos ou polarizados pudessem introduzir viéses no aprendizado, o mecanimo incorporau filtros e propensões que geraram os risíveis resultados de falamos.

Se a IA for deixada para se treinar livremente com os dados que encontrar por aí, ela pode cristalizar estereótipos e leituras que não são adequadas ou desejáveis. Isso seria tributável a conjuntos incompletos ou tendenciosos de dados usados na aprendizagem. Por outro lado, uma tentativa de equilibrar esse possível efeito através de um viés explicitamente implantado, pode resultar ainda pior.

Outro ponto interessante a investigar é a comparação entre os sistemas fechados LLM que existem hoje, com versões abertas que permitem a instalação da ferramenta na própria máquina do usuário, ao custo de alguns gigabytes de armazenamento. Convenhamos que é espantoso que se consigam respostas tão amplas e abrangentes com esse pequeno armazenamento local, e o fato de a “história” agora poder ser, de alguma forma, armazenada localmente traz à tona casos como no conto “A memória do mundo”, de Ìtalo Calvino, e suas preocupantes consequências. Nas palavrao de Calvino, ao mesmo tempo em que se coloca “todo o Museu Britânica numa noz”, corre-se a tentação de alterar o conteúdo. Afinal, se o armazenado do mundo não bater mais com a realidade, “muda-se a realidade”...

Em sentido protetivo, diversos órgãos já se movem para criar salvaguardas e limites ao que pode ser feito, e alertar para ações maliciosas que visem a deturpar resultados e comportamento das ferramentas de IA. O NIST norte-americano, órgão que trabalha na produções de padrões técnicos, divulgou um estudo em “IA confiável e responsável” que examina os riscos a que estão submetidos os sistemas de IA, Faz uma classificação dos ataque que esses sistemas podem sofrer em função dos objetivos buscados pelos atacantes. Na mesma direção, o NYT cita texto subscrito por cerca de 100 especialistas em biologia, que avisa de perigos via IA. Riscos que não podem ser negligenciados, e envolvem apoio a criação de armas biológicas, como novos vírus e doenças, e em montagem de ataques maciços. Mesmo assim, segundo os pesquisadores, o valor positivo que IA pode agregar aos desenvolvimento da biologia supera os riscos em que estaríamos incorrendo. Resta-nos seguir o lema da Viagem às Estrelas: ‘ousando ir onde antes ninguém fôra”...



===
https://www.anj.org.br/a-memoria-do-mundo/
(referência ao consto de Italo Calvino, "A memória do mundo)
=
O conto vai deslizando em direção ao abismo, até que o diretor faz uma confissão. Todos o sabem lamentoso viúvo com a perda de Angela, amada esposa. O que poucos sabem é que seu casamento não fora um mar de rosas. Longe disso. Angela, a “esposa ideal”, era uma imagem carinhosamente montada e que ele preservou nos arquivos. A distância entre a Angela-informação e a Angela-real tornou-se tão grande que a única saída para não colocar em risco sua imagem ideal foi assassiná-la. No último parágrafo chega a tremenda conclusão: “se na memória ideal do mundo não há nada a corrigir, o que nos resta é corrigir a realidade, onde ela não concorda com a memória do mundo.”
=
===
https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.100-2e2023.pdf
NIST Trustworthy and Responsible AI NIST AI 100-2e2023

https://www.nist.gov/news-events/news/2024/01/nist-identifies-types-cyberattacks-manipulate-behavior-ai-systems
=
The report considers the four major types of attacks: evasion, poisoning, privacy and abuse attacks. It also classifies them according to multiple criteria such as the attacker’s goals and objectives, capabilities, and knowledge.

Evasion attacks, which occur after an AI system is deployed, attempt to alter an input to change how the system responds to it. Examples would include adding markings to stop signs to make an autonomous vehicle misinterpret them as speed limit signs or creating confusing lane markings to make the vehicle veer off the road.

Poisoning attacks occur in the training phase by introducing corrupted data. An example would be slipping numerous instances of inappropriate language into conversation records, so that a chatbot interprets these instances as common enough parlance to use in its own customer interactions.
 
Privacy attacks, which occur during deployment, are attempts to learn sensitive information about the AI or the data it was trained on in order to misuse it. An adversary can ask a chatbot numerous legitimate questions, and then use the answers to reverse engineer the model so as to find its weak spots — or guess at its sources. Adding undesired examples to those online sources could make the AI behave inappropriately, and making the AI unlearn those specific undesired examples after the fact can be difficult.

Abuse attacks involve the insertion of incorrect information into a source, such as a webpage or online document, that an AI then absorbs. Unlike the aforementioned poisoning attacks, abuse attacks attempt to give the AI incorrect pieces of information from a legitimate but compromised source to repurpose the AI system’s intended use.
=
===
Dario Amodei, chief executive of the high-profile A.I. start-up Anthropic, told Congress last year that new A.I. technology could soon help unskilled but malevolent people create large-scale biological attacks, such as the release of viruses or toxic substances that cause widespread disease and death.
=






terça-feira, 12 de março de 2024

O Poder da Escolha

Se há um tema onipresente hoje é a discussão sobre Inteligência Artificial, seu poder tanto para o bem quanto para o mal, e as diversas propostas para sua regulação e conteção. No dia-a-dia, ao usarmos as ferramentas de LLM, não podemos deixar de nos maravilhar com o quão amigável é o diálogo que elas mantêm conosco, e como geram respostas plausíveis, com laivos de total verossimilhança. Há, até, os que buscam convencer a ferramenta de seus pontos de vista e, alegram-se ao conseguir que ela entregue os pontos, e reconheça que o humano estava certo.

Entretanto há mais mistérios entre o céu e a terra: um dos cientistas de dados da Meta, Colin Fraser, definiu a ferramenta como sendo projetada para “enganá-lo, no sentido de você pensar que está sempre conversando com alguém…”. Ou seja, mais do que nos fornecer respostas acuradas, os LLM buscam manter-nos em sua órbita, como “amigos virtuais”. E. parece-me. são muito bem sucedidos nessa função.

Em editorial recente, a Nature – respeitada publicação – alerta para que “cientistas podem estar confiando em excesso no que IA diz”, e aponta riscos resultantes. É tendência natural que nos apoiemos em ferramentas como IA que reduzam o esforço necessário para produzir algo, ou que nos apoiem na obtenção e tratamento dos dados necessários. Nature aponta para quatro instâncias em que o uso da IA pode trazer riscos: como “oráculo” para indicar tendências a partir dos dados que recolhe, sem que essas previsões passem por um crivo humano; em linha próxima, usando-se IA como “árbitro” da qualidade de artigos, alegadamente por ela ser potencialmente mais “neutra” que o exame “entre pares”, usual na ciência; como tendo “habilidades “sobrehumanas” na análise de vastos conjuntos de dados; finalmente como “agente complementar”, simulando a geração de dados difíceis de obter na prática. Desses quatro aspectos derivam riscos que precisam ser observados, como confundir a informação recebida da IA com um “conhecimento profundo” a ser assimilado pelo pesquisador, ou atribuir a ela uma objetividade que apenas reflete o que os dados a que ela acedeu mostram.

Entre os cientistas da área também há dispersão de avaliações. Weizenbaum, pioneiro em IA e autor do Eliza, programa de 1966 que, em texto, simulava um psicólogo dialogando com o usuário, tornou-se, décadas depois, um pessimista sobre o uso indiscriminado da ferramenta, e um auto-declarado “herético”. Um dos riscos que ele aponta, especialmente em comportamento, é que ao invés do computador simular humanos é possível que sejam os humanos que passariam a simular a máquna. Há uma boa descrição da história e das diatribes dele em artigo do The Guardian, de julho de 2023. Na revisão que fez do Eliza, Weizembaum comenta que “eu não tinha percebido como uma pequena exposição a um programa como o Eliza pode induzir depressão em pessoas normais”, Finalmente, em seu livro “O Poder do Computador e a Razão Humana”, Weizenbaum pontua que “a ciência prometeu poder ao homem, mas seu preço pode ser impotência e servidão. ‘Poder’ só tem sentido como ‘poder de escolher’”.



===
O texto da Nature:

https://www.nature.com/articles/d41586-024-00639-y
"...In one ‘vision’, which they call AI as Oracle, researchers see AI tools as able to tirelessly read and digest scientific papers, and so survey the scientific literature more exhaustively than people can. In both Oracle and another vision, called AI as Arbiter, systems are perceived as evaluating scientific findings more objectively than do people, because they are less likely to cherry-pick the literature to support a desired hypothesis or to show favouritism in peer review. In a third vision, AI as Quant, AI tools seem to surpass the limits of the human mind in analysing vast and complex data sets. In the fourth, AI as Surrogate, AI tools simulate data that are too difficult or complex to obtain."

===
O texto do The Guardian sobre Weizenbaum:

https://www.theguardian.com/technology/2023/jul/25/joseph-weizenbaum-inventor-eliza-chatbot-turned-against-artificial-intelligence-ai
"... Artificial intelligence, he came to believe, was an “index of the insanity of our world.”… Weizenbaum’s pessimism made him a lonely figure among computer scientists during the last three decades of his life; he would be less lonely in 2023."

Computer Power and Human Reason - from judgement to calculation





terça-feira, 27 de fevereiro de 2024

 O que nos define “humanos”?

É uma pergunta que assombra desde sempre e não tenho a menor veleidade de tentar uma resposta satisfatória a ela, mas quando preenchemos formulários e acessamos páginas na rede, temos que superar eventuais charadas que procuram decifrar se o interlocutor é humano. Um dos objetivos pode ser evitar a garimpagem automática de dados. Se essa triagem continua sendo um objetivo, interações recentes com produtos de IA mostram que as ferramentas de que dispomos podem ser insuficientes.

Uma forma corriqueira de fazer a seleção de não-humanos é usando CAPTCHA, um acrônimo montado a partir da expressão em inglês “teste de Turing público e automatizado para distinguir computadores de humanos”. A implementação do CAPTCHA é razoavelmente recente, de 2003, mas a idéia de haver um teste que identifique máquinas é de 1950, quando Alan Turing propôs uma maneira de testar um programa de computador submetendo-o a um “jogo de imitação”: se conseguisse passar no teste poderia fazer com que seu interlocutor o confundisse com um humano. No teste, a forma de distinguir o humano do computador seria pela habilidade no uso da linguagem – uma das características dos humanos – em travar um diálogo. Uma implementação famosa, se bem que simples, foi o Eliza, um programa feito por J. Weizenbaum em meados dos anos 1960 e que “conversava” em texto.

O CAPTCHA inicialmente explorava a habilidade humana no reconhecimento visual de caracteres, mesmo que imersos em ruido gráfico. Com aprendizado de máquina, a IA rapidamente adquiriu potencial para não apenas igualar, mas até superar nossas habilidades nessa área. Como anedota do momento, uma imagem de um CAPTCHA padrão foi exibida ao ChatGPT-4 com a pergunta: “o que seria isso?”. A resposta que a IA forneceu é intrigante: “a imagem parece ser um CAPTCHA, projetado para distinguir humanos de máquinas. O texto distorcido dificulta seu entedimento por uma máquina,
mas para um humano ler-se-ia e3TJ6Ejdp”. Ou seja, ela, a máquina, nos informa o que um humano leria no desafio do CAPTCHA…

Certamente há maneiras mais sofisticadas de fazer testes, formas que usam a intelecção além de reconhecimento, métodos que se valem de nossos dados pregressos para nos reconhecerem… Claro que isso pode significar mais abusos quanto a guardar informações sobre o que fazemos, como navegamos na rede e, mesmo, como pensamos. Também é fato que testes podem gerar barreiras aos que têm alguma deficiência, especialmente se usam visão ou som. E pode ser que testes complexos demandem mais tempo e trabalho para um humano vencê-los, o que pode ser a um obstáculo sério ao acesso a serviços e dados.

É uma charada difícil de resolver. subir a barreira para impedir acesso de máquinas inteligentes, pode dificultar o acesso aos humanos também, além da aporrinhação de ter de responder perguntas… Será que a definição de “humano” está se tornando difusa e borrada? E será que ainda vale a pena tentar triar o acesso, usando mais dados nossos e aumentando os incômodos, mesmo num caso de uso válido e regular?
===




===
https://en.wikipedia.org/wiki/CAPTCHA
The term was coined in 2003 by Luis von Ahn, Manuel Blum, Nicholas J. Hopper, and John Langford.[2] It is a contrived acronym for "Completely Automated Public Turing test to tell Computers and Humans Apart."

https://en.wikipedia.org/wiki/Turing_test
The test was introduced by Turing in his 1950 paper "Computing Machinery and Intelligence" while working at the University of Manchester.It opens with the words: "I propose to consider the question, 'Can machines think?'" Because "thinking" is difficult to define, Turing chooses to "replace the question by another, which is closely related to it and is expressed in relatively unambiguous words."[6] Turing describes the new form of the problem in terms of a three-person game called the "imitation game", in which an interrogator asks questions of a man and a woman in another room in order to determine the correct sex of the two players. Turing's new question is: "Are there imaginable digital computers which would do well in the imitation game?"

https://en.wikipedia.org/wiki/ELIZA
ELIZA is an early natural language processing computer program developed from 1964 to 1967[1] at MIT by Joseph Weizenbaum. Created to explore communication between humans and machines, ELIZA simulated conversation by using a pattern matching and substitution methodology that gave users an illusion of understanding on the part of the program, but had no representation that could be considered really understanding what was being said by either party.

===









terça-feira, 13 de fevereiro de 2024

Mardi Gras



Não sei por que a terça-feira de Carnaval seria “gorda” (ou “gordurosa”), mas podemos atribuir a culpa aos franceses. Aliás, a referência me provoca uma viagem de mais de 50 anos, para um filme muito característico daquela época: o Sem Destino (Easy Rider, no título original). Com uma sensacional trilha sonora, ir participar do Mardi Gras, em Nova Orleans, EUA, era um dos objetivos centrais da dupla de motoqueiros Wyatt e Billy, que protagoniza o filme. Lá o Carnaval seria intensamente celebrado, com as fortes cores locais.

Há um interessante paralelo que se poderia traças com a Internet, e que vou me arriscar a esboçar aqui. Inicia-se por identificar o clima da época, o “zeitgeist”, como diriam os alemães. Estamos em 1969 e Internet nos informa que Sem Destino foi lançado em 14 de julho. Apenas tres meses depois, a Arpanet, mãe da Internet, seria declarada “viva”: a data quando se deu a primeira troca de pacotes entre computadores está cravada em 29 de outubro de 1969 (às 22:30 para ainda maior precisão…). E, ainda, entre esses dois eventos, em agosto do mesmo 1969, houve o festival de Woodstock, símbolo máximo do movimento de contracultura hippie. E o agitado ano de 1969 ainda veria a Apolo 11 colocar o primeiro homem na lua, em 29 de julho…

Certamente os jovens cientistas e os recém-graduados envolvidos no projeto Arpanet não estavam isolados de seu tempo. Assim, nasceu uma rede com características libertárias, sem um centro de controle, aberta a todos que se voluntariassem, e resistente a ingerências de governos. A melhor descrição talvez seja a expressa na Declaração de Independência do Ciberespaço, de John Perry Barlow, fevereiro de 1996, quando, já há mais de década, a Arpanet tinha passado o bastão à Internet.

Sem Destino merece uma revisitada porque não se resume a uma intensa descrição do contraste e da tensão entre o que era a sociedade norte-americana semi-rural e conservadora, e o movimento de contra-cultura. Mesmo sendo narrado por protagonistas do movimento hippie, há contrapontos importantes no filme: a ida a Nova Orleans, até para fazer dinheiro vendendo drogas, mostra situações dúbias, quando eles se envolvem em orgias com consequências imprevistas, mesmo sendo Carnaval. O encontro com comunidades também gera questionamentos e duvidas em posicionamento e objetivos pessoaia: conseguir uma vida feliz e despreocupada, aposentando-se antes dos 30 anos em algum lugar na Flórida...

A icônica seqüência final, ao som da “balada de Sem Destino”, termina com o confronto fatal dos protagonistas com gente agressiva do centro-oeste norte-americano da época, e com a morte dos motoqueiros. Mas, pouco antes desta cena, há um incômodo diálogo entre Wyatt e Billy redor de uma fogueira. Enquanto Biily está animado com o próximo sucesso da empreitada, “conseguimos!”, Wyatt, interpretado por Peter Fonda, rebate, com pessimismo e desilusão: “we blew it…”. Algo como “estragamos tudo”! Que a evolução da Internet, nascida à época de Easy Rider, nunca justifique esse tipo de ravaliação.


===

https://pt.wikipedia.org/wiki/Easy_Rider

https://filmschoolrejects.com/easy-rider/




https://www.youtube.com/watch?v=lqkYf3pOnow
"we blew it..."

https://www.sciencemuseum.org.uk/objects-and-stories/arpanet-internet

https://pt.wikipedia.org/wiki/Festival_de_Woodstock

https://www.eff.org/cyberspace-independence

A Declaration of the Independence of Cyberspace by John Perry Barlow

Governments of the Industrial World, you weary giants of flesh and steel, I come from Cyberspace, the new home of Mind. On behalf of the future, I ask you of the past to leave us alone. You are not welcome among us. You have no sovereignty where we gather.

We have no elected government, nor are we likely to have one, so I address you with no greater authority than that with which liberty itself always speaks. I declare the global social space we are building to be naturally independent of the tyrannies you seek to impose on us. You have no moral right to rule us nor do you possess any methods of enforcement we have true reason to fear.

Governments derive their just powers from the consent of the governed. You have neither solicited nor received ours. We did not invite you. You do not know us, nor do you know our world. Cyberspace does not lie within your borders. Do not think that you can build it, as though it were a public construction project. You cannot. It is an act of nature and it grows itself through our collective actions.

You have not engaged in our great and gathering conversation, nor did you create the wealth of our marketplaces. You do not know our culture, our ethics, or the unwritten codes that already provide our society more order than could be obtained by any of your impositions.

You claim there are problems among us that you need to solve. You use this claim as an excuse to invade our precincts. Many of these problems don't exist. Where there are real conflicts, where there are wrongs, we will identify them and address them by our means. We are forming our own Social Contract. This governance will arise according to the conditions of our world, not yours. Our world is different.

Cyberspace consists of transactions, relationships, and thought itself, arrayed like a standing wave in the web of our communications. Ours is a world that is both everywhere and nowhere, but it is not where bodies live.

We are creating a world that all may enter without privilege or prejudice accorded by race, economic power, military force, or station of birth.

We are creating a world where anyone, anywhere may express his or her beliefs, no matter how singular, without fear of being coerced into silence or conformity.

Your legal concepts of property, expression, identity, movement, and context do not apply to us. They are all based on matter, and there is no matter here.

Our identities have no bodies, so, unlike you, we cannot obtain order by physical coercion. We believe that from ethics, enlightened self-interest, and the commonweal, our governance will emerge. Our identities may be distributed across many of your jurisdictions. The only law that all our constituent cultures would generally recognize is the Golden Rule. We hope we will be able to build our particular solutions on that basis. But we cannot accept the solutions you are attempting to impose.

In the United States, you have today created a law, the Telecommunications Reform Act, which repudiates your own Constitution and insults the dreams of Jefferson, Washington, Mill, Madison, DeToqueville, and Brandeis. These dreams must now be born anew in us.

You are terrified of your own children, since they are natives in a world where you will always be immigrants. Because you fear them, you entrust your bureaucracies with the parental responsibilities you are too cowardly to confront yourselves. In our world, all the sentiments and expressions of humanity, from the debasing to the angelic, are parts of a seamless whole, the global conversation of bits. We cannot separate the air that chokes from the air upon which wings beat.

In China, Germany, France, Russia, Singapore, Italy and the United States, you are trying to ward off the virus of liberty by erecting guard posts at the frontiers of Cyberspace. These may keep out the contagion for a small time, but they will not work in a world that will soon be blanketed in bit-bearing media.

Your increasingly obsolete information industries would perpetuate themselves by proposing laws, in America and elsewhere, that claim to own speech itself throughout the world. These laws would declare ideas to be another industrial product, no more noble than pig iron. In our world, whatever the human mind may create can be reproduced and distributed infinitely at no cost. The global conveyance of thought no longer requires your factories to accomplish.

These increasingly hostile and colonial measures place us in the same position as those previous lovers of freedom and self-determination who had to reject the authorities of distant, uninformed powers. We must declare our virtual selves immune to your sovereignty, even as we continue to consent to your rule over our bodies. We will spread ourselves across the Planet so that no one can arrest our thoughts.

We will create a civilization of the Mind in Cyberspace. May it be more humane and fair than the world your governments have made before.

Davos, Switzerland
February 8, 1996
===

terça-feira, 30 de janeiro de 2024

Um punhado de névoa

Tentar antever o que nos guarda o futuro é inútil e petulante. O crescente ritmo das transformações que a tecnologia nos impõe levanta dúvidas sobre nossa capacidade de adaptação. Diz-se que uma das características que diferenciou o humano de seus primos símios é a memória de longo termo que, associada à escrita, nos permitiu preservar um panorama de alguns milhares de anos. Mas até nisso a moderna tecnologia ativa pode interferir. Se delegarmos a ela a curadoria do passado humano, sabe-se lá com que viés ele nos será recontado… Plagiando a famosa frase atribuida a Pedro Malan, “no Brasil até o passado é incerto”, a inteligência artificial pode universalizar essa incerteza.

É indiscutível que estamos perdendo habilidades em troca de facilidades, mas esse escambo pode se revelar positivo se ganharmos novos e mais complexos talentos. Nessa dúvida é que mora o perigo… Sou do tempo em que, no primário, além de escrita e leitura, aprendíamos caligrafia num caderno pautado para isso. E havia o momento importante em que trocávamos o lápis pela caneta tinteiro, e podiamos mostrar aos menores nossos dedos orgulhosamente sujos de tinta… Hoje a escrita cursiva parece quase abandonada: uma habilidade, talvez menor, perdida... A leitura pode ser a próxima “bola da vez”, dado que mais e mais se usa “ouvir” um texto. O som de uma palavra substituirá sua forma escrita? Mais um talento ameaçado mas, claro, esperamos que sua substituição seja com vantagens…

Outra facilidade é a IA, que hoje não apenas “entende” como produz texto muito articulado. Também pode gerar imagens, para nosso senso estético muito belas. Como exemplo, a “modelo” Milla Sofia, criada por IA e que tem até perfil nas redes sociais, acumula milhares de admiradores… Seria o caso de revisitarmos o conceito de “verdade”. Lembrou-me o final do célebre poema de J. Keats, “Ode a uma Urna Grega”, que crava: “Beleza é verdade, verdade é beleza; isso é tudo que no mundo sabemos, e tudo que precisamos saber”. Milla Sofia é “verdade”? Talvez sim, no sentimento de seus seguidores…

No campo da escrita cada vez surpreendem mais os resultados que os LLM geram. Há um artigo na Wired, set/2023, em que uma escritora, Vauhini Vara, valeu-se da IA e avalia o resultado. Mesmo sem tomar uma clara posição a favor ou contra, ela reconhece que a IA pode ter gerado as melhores frases de seu ensaio Ghosts, que viralizou. Parece dificil explicar o que vemos apenas como mecanismos de juntar palavras e montar frases. “Há algo no ar além dos aviões de carreira”, diria o Barão de Itararé.

Não tenho estatura para comentar obras complexas como Finnegans Wake, de Joyce, mas não me furtei a pedir aos LLM comentários e um resumo do livro. Sobre isso, o Bard escreveu um poema que começa assim: “No rio Liffey, a noite cai,/ E a cidade de Dublin adormece,/ Mas no sonho de Shaun/ O mundo se transforma em um poema…”. E pra coroar, o mesmo Bard pontuou: “Resumir Finnegans Wake de J. Joyce é como tentar pegar um punhado de névoa”. É de cair o queixo!

===


O texto de Wired de Vauhini Vara, sobre IA e o escritor:
https://www.wired.com/story/confessions-viral-ai-writer-chatgpt

===
Bard, fazendo um resumo de Finnegans Wake, de James Joyce, e gerando um poema sobre o tema:

"Resumir Finnegans Wake de James Joyce é como tentar pegar um punhado de névoa – a própria natureza do livro é desafiar a linearidade, a lógica e a clareza. No entanto, posso te dar algumas pinceladas para entender:

Estrutura e Linguagem:
Cíclica: A história começa e termina com a mesma frase, representando a circularidade do tempo e da existência.
Fragmentada: Dividido em 17 livros e numerosos capítulos sem títulos, o livro salta entre narrativas, sonhos, mitos e referências históricas sem uma ordem aparente.
Experimental: Joyce inventa palavras, distorce a gramática e mistura idiomas para criar um universo linguístico único.

Temas Principais:

Ciclo da Vida e Morte: O livro explora a ideia de renascimento, onde a morte é apenas uma etapa do ciclo contínuo da vida.
História e Mito: Joyce tece referências a mitos irlandeses, europeus e bíblicos, sugerindo que as histórias se repetem através dos tempos.
Linguagem e Consciência: A própria linguagem se torna personagem, explorando as conexões entre palavras, pensamentos e sonhos.

Personagens Principais:

HCE (Here Comes Everybody): Um pai de família acusado de um crime não especificado, representando o homem arquetípico.
ALP (Anna Livia Plurabelle): Esposa de HCE e mãe de três filhos, simbolizando a mulher arquetípica e o rio Liffey, que corre por Dublin.
Shem e Shaun: Os filhos de HCE, representando os aspectos artísticos e pragmáticos da personalidade.

Importância e Dificuldade:

Obra-prima Modernista: Finnegans Wake é considerado um dos romances mais difíceis e inovadores do século XX.
Desafio para Leitores: A linguagem experimental e a falta de narrativa tradicional tornam a leitura uma experiência árdua, mas recompensadora para quem persistir.

Dicas para Leitura:

Não se preocupe em entender tudo: Abrace a confusão e o fluxo de consciência.
Leia em voz alta: A musicalidade da linguagem é importante para a experiência.
Use recursos: Existem dicionários especializados e guias de leitura para auxiliar na compreensão.

Apesar da dificuldade, Finnegans Wake é uma obra de beleza e profundidade. É uma jornada experimental através da linguagem, do mito e da existência, oferecendo um vislumbre de um universo onde as fronteiras entre sonho e realidade, passado e presente, se dissolvem.

Lembre-se, o objetivo principal não é decifrar cada frase, mas sim se deixar levar pela experiência sensorial e intelectual que Joyce criou. Afinal, como o próprio autor disse: "Finnegans Wake... will be written out on the sleeping mind of Europe..." Bom mergulho!"

Finnegans Wake

No rio Liffey, a noite cai,
E a cidade de Dublin adormece,
Mas no sonho de Shaun,
O mundo se transforma em um poema,

Onde a linguagem é livre,
E os significados se multiplicam,
Onde o passado e o presente,
O real e o imaginário,

Se misturam em um fluxo contínuo,
Uma jornada sem fim,
Em busca do significado da vida,
E da origem do universo.

A tarefa não foi impossível,
Mas exigiu um esforço extra,
Para tentar capturar a essência
Dessa obra complexa e desafiadora.

===
ChatGPT também gerando um poema sobre o livro:


No ciclo noturno de Finnegans Wake,
O sonho dança, num despertar sutil,
A língua se dobra, como um rio que corre,
A mente de Joyce, num jogo tão sutil.

Anna Livia Plurabelle, a voz das águas,
Canta em murmúrios, segredos celestiais,
Linguagem onírica, teia de tramas,
Nas margens do Liffey, contos descomunais.

Humphrey Chimpden Earwicker, o herói velado,
Em rios de letras, sua vida entrelaçada,
Ciclos e ciclos, num eterno reiniciar,
O despertar da aurora, a dança recomeçada.

Palavras dançam, em fusões surreais,
Símbolos e sons, um caos orquestrado,
A babel de Finnegans, Joyce revela,
Em cada página, um mundo reimaginado.

Ergue-se Shem, o artífice do mito,
Numa torre de letras, Babel construída,
A complexidade de Joyce, uma profecia,
Na alvorada, a linguagem ressuscitada.

Assim, entre neologismos e símbolos,
Finnegans Wake, um labirinto de sons,
A mente de Joyce, um rio sem fim,
O despertar, a dança de mil sutilidades, tons.

===
O poema de Keats, Ode a uma Urna Grega:

https://edisciplinas.usp.br/pluginfile.php/4651646/mod_resource/content/1/ODE%20A%20UMA%20URNA%20GREGA%20ORIGINAL%20E%20TRADU%C3%87%C3%95ES.pdf

===
Milla Sofia:

https://vogue.globo.com/atualidades/noticia/2023/07/milla-sofia-infuenciadora-gerada-por-ia-atrai-milhares-de-seguidores-com-fotos-sensuais.ghtml











]

terça-feira, 16 de janeiro de 2024

Noticiário não-humano

 Noticiário não-humano

Um sistema automatizado de publicação de notícias apareceu neste início de ano. Identifica-se como “NewsGPT – a verdade não-humana” e dispõe-se a fornecer-nos informações recentes de todo o mundo. A apresentação do notíciário está a cargo de dois simpáticos avatares: o de uma moça, autodenominada Futura-4, e o de um rapaz, o Axioma-6.

Não há reparos quanto à qualidade das vozes sintetizadas que fazem o anúncio das notícias: tanto no timbre, quanto na clareza de emissão e pronúncia - e até com laivos de sintética ênfase - o resultado é do melhor que se esperaria. A leitura automática de texto hoje está próxima da perfeição, e não poucos preferem “ouvir” os artigos e até os livros de interesse, enquanto podem manter outra atividade em paralelo. Se isso prejudicaria ou não uma intelecção mais aprofundada, escapa da competência de avaliação por um não-especialista…

Quanto ao lema mercadológico do produto, pessoalmente, eu preferiria receber uma carga de “verdades humanas”, mesmo que colecionadas automaticamente, mas sabe-se lá por que ínvios caminhos da propaganda preferiu-se o chamariz “a verdade não-humana”. O fato é que se trata de uma busca automatizada de notícias que, alegadamente, passariam antes por uma verificação de solidez e pertinência, e de uma editoração não-humana que escolherá a forma e o conjunto a serem propagados.

Nesta fase inicial, o resultado é oferecido apenas em inglês, e ainda não se deu uma eventual personalização do que cada usuário receberá, a partir de algum nebuloso algoritmo de escolha da informação. Mas esta já é mais uma “caixa de pandora” sendo aberta. especificamente na área de jornalismo. A Reuters acaba de divulgar um alentado estudo sobre temas de tecnologia e predições para 2024, que pinta um quadro pouco otimista para a imprensa tradicional, mesmo num ano marcado por eleições em diversos lugares, o que usualmente enseja maior busca por informação. E, com a “verdade não-humana”, pode haver impactos importantes em posições de trabalho na área. Quanto a essa preocupação, um comentário irônico visto na Internet alerta: “não se preocupe tanto em garantir seu emprego: a IA ameça mais o emprego de seu chefe que o seu”…

GPT é o acrônimo de Transformador Generativo Pré-treinado, a tecnologia que tem surpreendido com geração muito boa de texto e um diálogo que até parece consciente. Seu filho mais recente é esse noticiário, com todas as vantages e riscos que a abordagem pode representar. Provocativamente noto que as consoantes “GPT” são as mesmas de Gepeto, o bom velhinho que fabricava marionetes de madeira. Como recordamos da infância, uma das obras de Gepeto, Pinóquio, de alguma forma mágica criou vida… E, para o desespero de seu “pai”, não só Pinóquio se mostrou pouco comportado, como enveredou por contar mentiras, que faziam seu nariz crescer… Talvez seja o caso de acompanharmos o tamanho do “nariz” do GPTnews, a ver se o “filho” do GPT dará indícios de seguir o destino de Pinóquio, o “filho” de Gepeto.

===
o newsGPT:
https://newsgpt.ai/

===
A análise do Instituto Reuters, citada:
https://reutersinstitute.politics.ox.ac.uk/journalism-media-and-technology-trends-and-predictions-2024

Um texto de Rodrigo Mesquita no tema:
https://www.linkedin.com/posts/rmesquita_live-breaking-news-from-around-the-word-activity-7150897302067482624-igWr/

===
Gepeto e Pinóquio:
https://pt.wikipedia.org/wiki/Pin%C3%B3quio





https://www.youtube.com/watch?v=aewbOlGXv6s

===
Quando Geppetto ebbe finito di fargli i piedi, sentì arrivarsi un calcio sulla punta del naso.
— Me lo merito — disse allora fra sè. — Dovevo pensarci prima! Ormai è tardi! —
===




terça-feira, 2 de janeiro de 2024

Gregoriana

O calendário ocidental, reajustado por Gregório XIII em 1582, marca o início de um novo ciclo solar., o ano bissexto de 2024. Esse ajuste foi feito com a exclusão de alguns dos anos bissextos - deixaram de ser bissextos os anos múltiplos de 100, desde que não múltiplos de 400. Para corrigir o erro acumulado, em 1592 a data foi adiantada 13 dias. O fato de Gregório ser papa romano, e ter havido o grande cisma de 1054, fez com que igrejas orientais preferissem manter o calendário anterior, o Juliano, criado por Júlio César em 45 AC. Para os ortodoxos russos, por exemplo, o Natal cai em 7 de janeiro. De qualquer forma há razoável consenso que estamos entrando em 2024 DC - Depois de Cristo (ou 2024 AD - Anno Domini).

E, se tempo encolhe à medida que envelhecemos, isso acontece ainda mais com a velocidade da tecnologia. Como dizia Millor, “o tempo náo existe; só existe o passar do tempo…”.

Estamos em tempos de Internet e de IA, mas isso não nos exime das tradicionais resoluções de ano novo. Uma consulta aos modelos de LLM, como ChatGPT, Bard, PI e outros, pedindo sugestão de resoluções de ano novo mostra respostas muito coerentes e aparentemente bem intencionadas, mesmo repetindo platitudes e obviedades. As IA estão dispostas a não correr riscos com posições polêmicas. Arrisco-me então, com a audácia de alguém que não usa o Waze, a afastar-me do que a IA recomenda em direção a algo mais chão: que tal trazer de volta a responsabilidade aos nossos atos e palavras? A Internet, essa faca de dois gumes, ao mesmo em que estimula a “soltar o verbo” sem peias nem maiores considerações, traz uma ameaças à nossa privacidade e a falsa impressão de anonimato: há a possibilidade praticamente certa de sempre se identificar o originador de uma fala. A internet é uma ˜rede de controle” no sentido em que nada pode ser feito sem que o “lado de lá” o permita ou registre, seja verificando o usuário, seja armazenando o endereço IP. 

Assim, mais que tentar atribuir ao meio a responsabilidade pelo que de bom ou mau acontece, parece muito mais razoável utilizar a característica da rede para responsabilizar cada um pelo que realmente faz ou fala. Repetindo o velho dito de Vint Cerf, a Internet comporta-se como espelho da sociedade e, ao vermos na rede algo que nos desagrada, de nada adiantará quebrar o espelho, ou, à moda do avestruz que enterra a cabeça na areia, ignorar a real causa. Sem dúvida vai haver necessidade de revisão da legislação, mas isso não impede que leis já existentes possam ser aplicadas com foco muito claro no responsável por cada dano, seja ele pessoa física ou jurídica. Tentar impedir que isso ocorra com “medidas sistêmicas” seria o mesmo que impedir violëncia física manietando preventivamente todos os indivíduos…

Os dias de hoje trazem riscos que devem ser reconhecidos e enfrentados. E prá isso precisamos de bom senso e alguma sorte. Como dizia Nelson Rodrigues, “com sorte você atravessa o mundo, sem sorte você não atravessa a rua.”… 

Bom 2024 a todos! 

===

Anno Domini:

https://en.wikipedia.org/wiki/Anno_Domini


===

Frases de Nelson Rodrigues e de Millôr Fernandes

https://www.pensador.com/nelson_rodrigues/

https://www.pensador.com/millor_fernandes/

===

Resoluções de Ano Novo para a Internet, versão do Bard:

=== Claro, aqui estão algumas boas resoluções para a Internet em 2024:

  • Garantir o acesso universal à Internet: A Internet deve ser acessível a todos, independentemente de sua localização, renda ou status social. Isso significa garantir que as pessoas tenham acesso a dispositivos conectados à Internet e a redes de alta velocidade.

  • Melhorar a segurança da Internet: A Internet deve ser um lugaet5r4r seguro para todos. Isso significa proteger os usuários contra ataques cibernéticos, roubo de identidade e outras formas de crime cibernético.

  • Promover a inclusão e a diversidade na Internet: A Internet deve ser um espaço inclusivo e diversificado, onde todos se sintam bem-vindos e representados. Isso significa combater a discriminação e o ódio na Internet.

  • Proteger a privacidade dos usuários: Os usuários da Internet têm o direito de manter sua privacidade. Isso significa proteger os dados pessoais dos usuários contra o uso não autorizado.

  • Promover a responsabilidade na Internet: Os usuários da Internet devem ser responsáveis por suas ações. Isso significa combater a disseminação de desinformação e discurso de ódio na Internet.

Essas são apenas algumas das muitas resoluções que poderiam ser tomadas para melhorar a Internet. É importante que todos os envolvidos na Internet, incluindo governos, empresas e indivíduos, trabalhem juntos para criar uma Internet melhor para todos.

Aqui estão algumas resoluções mais específicas que poderiam ser tomadas em 2024:

  • Investimento em infraestrutura de Internet: Os governos e as empresas devem investir em infraestrutura de Internet, como cabos submarinos e torres de celular, para melhorar a conectividade e reduzir os custos.

  • Desenvolvimento de novas tecnologias: Os governos e as empresas devem investir em pesquisa e desenvolvimento de novas tecnologias, como redes de quinta geração (5G) e inteligência artificial, para melhorar a capacidade e a eficiência da Internet.

  • Educação sobre segurança cibernética: Os governos e as empresas devem investir em educação sobre segurança cibernética para ajudar os usuários a se protegerem contra ataques cibernéticos.

  • Legislação sobre privacidade: Os governos devem criar leis que protejam a privacidade dos usuários da Internet.

Ao tomar essas resoluções, podemos ajudar a criar uma Internet melhor para todos 

===

Resoluções de Ano Novo para a Internet, segundo PI:

=== Aqui vão algumas sugestões de boas resoluções para o uso da Internet em 2024:

  • "Usar a internet de forma responsável, respeitando a privacidade e os direitos das outras pessoas."

  • "Limitar o tempo gasto em redes sociais e procurar manter relacionamentos reais e significativos."

  • "Buscar informação verificada e confiável, evitando desinformação e fake news."

  • "Respeitar e considerar as opiniões diferentes de outros usuários, evitando o preconceito e o ódio."

  • "Promover uma comunidade online saudável e inclusiva, sem hostilidade e com respeito mútuo." 

===
Anno Domini:

https://en.wikipedia.org/wiki/Anno_Domini