Teorias conspiratórias

A criação de artefatos que visassem a imitar um humano é antiga obsessão. Para citar alguma referência não tão distante, Descartes em seu Discurso para o Método (1637) já cogitava um dia haver máquinas que simulassem reações humanas, mas assumia que seria muito fácil distingir as máquinas dos humanos. Na linha de engôdos, um caso que teve bastante repercussão foi o “turco mecânico”, pretensa máquina que jogava xadrez em nível bem elevado exibida entre 1770 e 1864, com bastante sucesso em toda a Europa.

A possibilidade de se emular o comportamento humano nunca saiu de cena, e ganhou ainda mais ímpeto com o surgimento do computador. Marco clássico disso foi a proposta por Alan Turing, 1950, de haver um teste para distinguir se um pretenso interlocutor, atrás de um biombo, era humano ou máquina. E para escapar da dificuldade em definir “pensar”, Turing chamou-o de “jogo da imitação”.

Semana passada, em evento de lançamento do “Observatório Brasileiro de IA”, houve uma interessante palestra de Wagner Meira, UFMG, que abordou experimentos e aspectos técnicos da aprendizagem de máquina. Recomenda-se aos interessados que assistam a ela, disponível na rede; alguns dos dados trazidos são muito interessantes. Num ponto examina-se o que acontece de imprevisível com o aprendizado de máquina quando, ao oferecer-lhe um conjunto de dados para um objetivo específico, ela extrapola gerando “aprendizado” em pontos não previstos. Por exemplo, a partir de conjuntos de eletrocardiogramas para detecção de doenças, a IA gerou ainda uma previsão de expectativa de vida dos examinados.

Outro resultado curiosíssimo veio de submeter ao ENEM tradicional diversos aplicativos LLM disponíveis hoje.O resultado foi bastante inesperado: em linguagem, humanidades e ciências naturais IA teve desempenho equivalente ou melhor que os humanos, destacando-se bastante em alguns casos. Porém, em matemática os LLM fracassaram claramente. Como justificar isso? A princípio pode-se dizer que o universo de dados é muito mais rico em exemplos de linguagem, que em resolução de problemas, mas pode-se também olhar sob outro prisma: linguagem é o apanágio que nos fez humanos. Dominar a linguagem é a forma de pensamento que temos. E nesse espaço as LLM vão espantosamente bem!. As comezinhas máquinas de calcular que se preocupem em fazer conta. IA está buscando a âmago da humanidade: o domínio da linguagem. E sai-se muito bem aí.

Ludwig Wittgenstein elaborou sobre a interação entre o pensamento e a linguagem. Seu aforismo 5.6, do Tractatus Logico-Philosophicus, diz: “O limite de minha linguagem marca os limites de meu mundo”…

Voltando ao Teste de Turing, uma máquina que acertasse todas as questões matemáticas dificilmente passaria por “humano”. Afinal, erramos bastante aí. Assim, as LLM. ao irem melhor em humanidades que em matemática, garantem maiores possibilidades de passar no teste. Um comportamento “humano, demasiadamente humano”...

É temerário tentar um diagnóstico do ponto onde nos achamos. O Tractatus fecha com o enigmático aforisma 7: “Sobre aquilo que não se pode falar, deve-se calar”.

===
O teste de Turing
https://pt.wikipedia.org/wiki/Teste_de_Turing


"Em 1966, Joseph Weizenbaum criou um programa que aparentava passar no Teste de Turing. O programa, denominado ELIZA, trabalhava examinando comentários digitados por um usuário procurando por palavras-chave. Se uma palavra-chave era encontrada, a regra que transforma o comentário do usuário era aplicada e a sentença resultante retornada. Se nenhuma palavra-chave era encontrada, ELIZA retornava uma resposta genérica ou repetia o retorno do comentário anterior.[22] Além disso, Weizenbaum desenvolveu ELIZA de modo a replicar o comportamento de um psicoterapeuta Rogeriano, permitindo ELIZA, assim, ser "quase que livre para assumir uma postura de desconhecimento total do mundo real".[23] Com essas técnicas, o programa de Weizenbaum foi capaz de fazer com que pessoas acreditassem que estavam falando com um ser humano, ao ponto de, para algumas pessoas ser "muito difícil de convencê-las que ELIZA [...] não é um humano".[23] Assim, ELIZA foi considerada por alguns como um programa (talvez o primeiro) a passar no Teste de Turing,"

===

O "turco mecânico"
https://pt.wikipedia.org/wiki/O_Turco

"O Turco foi uma máquina de jogar xadrez supostamente provida de inteligência artificial construída na segunda metade do século XVIII. De 1770 até sua destruição num incêndio em 1854, foi exibido por vários proprietários como um autômato, apesar de o seu funcionamento ter sido revelado no início da década de 1820 como um elaborado hoax.[1] Construído em 1770 por Wolfgang von Kempelen (1734–1804) para impressionar a Imperatriz Maria Teresa da Áustria, o mecanismo parecia ser capaz de jogar um partida contra um forte oponente humano, assim como executar o problema do cavalo, onde o Cavalo deve ser movimentado no tabuleiro de modo a ocupar cada casa somente uma vez."

===
Wittgenstein: Tractatus Logico-Philosophicus:
https://pt.wikipedia.org/wiki/Tractatus_Logico-Philosophicus


https://www.gutenberg.org/files/5740/5740-pdf.pdf


5.6 The limits of my language mean the limits of my world.
7 Whereof one cannot speak, thereof one must be silent

===

A palestra de Wagner Meira
https://www.youtube.com/watch?v=O9czIDgeVFI&t=1838s
===

Presságios semânticos

 Fevereiro de 1996, em momento de discussão sobre conteúdos “não adequados para plataformas de comunicações”, John Perry Barlow (que em 1990 fundara a EFF- Electronic Frontier Foundation), escreveu a “Declaração de Independência do Ciberespaço” como resposta imediata ao “Decency Act” norte-americano. É um texto que repete o espírito fundante dos pioneiros da Internet e, claro, sua utopia da permanente revolução que ela seria capaz de promover no mundo. “Nosso mundo está, ao mesmo tempo, em todos os lugares e em lugar nenhum, mas não é onde pessoas vivem. Estamos criando um mundo em que todos poderão entrar, sem privilégios ou preconceitos de raça, poder econômico, força militar ou lugar de nascimento. Um mundo onde qualquer um, em qualquer lugar, poderá expressar suas opiniões…”. Barlow, que nos deixou em 2018 e visitou o Brasil algumas vezes, não pôde presenciar o reviver da velha polêmica de 1996.

Certamente coisas mudam e conceitos devem ser revistos mas, como observador do cenário, noto que, às vezes, discussões são distorcidas para atender a objetivos enviesados. Cito dois casos: “liberdade de expressão” é algo fundamental, o que não quer dizer, em absoluto, que não devamos ser responsáveis pelo que afirmamos. Não se trata de impedir a expressão, mas de punir o enunciante, se o que disse configura-se “crime” na legislação em que vive. O esforço para que não se diga algo parece-me inútil e inafequado, e assim também é pedir ao meio que se recuse a receber idéias que ele considere nefastas. Se o papel aceita quaisquer idéias que um lápis coloque lá, isso não significará impunidade a quem usou da liberdade para disseminar calúnias, difamações. Com a Internet é muito difícil alguém escrever algo sem deixar traços que o denunciem. O outro exemplo é no sentido contrário: não entendo, em minha limitação, o que significaria o “direito ao esquecimento”… Alguém teria o direito, sobre a mente dos demais, para que algo fosse esquecido? Claro que se algo falso e superado for utilizado contra alguém, que o arcabouço legal puna o agressor. Tentar fazer isso preventivamente parece-me pretencioso e abusivo.

Finalmente, no tema “fronteiras”, há que se respeitar culturas locais que, por vezes, podem ser bem diversas. Querer que o mundo siga numa linha definida por um bloco, por mais evoluido que ele se considere, parece abusivo. A “longa manus” da UE em relação ao “direito ao esquecimento” não deveria atingir outros domínios nacionais. O princípio de Barlow, de não haver tutela e filtros apriorísticos, ainda deveria valer. E que cada um se responsabilize pelo que publicou.

Entretanto o demônio, sempre atento, ouviu Barlow e se aproveitou de um escorregão no título… Ao denominar o espaço de interlocução e de comunicação de “ciberespaço”, foi usada a raiz grega “ciber”, que significa controle, governança. Ou seja, sem notar, Barlow conjurara os espíritos maliciosos para que pudessem transformar a Internet inicial numa “rede de controle”. A semântica buscou (e conseguiu!) sua vingança.

===

"Cyber"

https://www.tripwire.com/state-of-security/humanity-and-evolution-of-cyber

===

O livro de Norbert Wiener, que definiu "cibernética"

https://en.wikipedia.org/wiki/Cybernetics:_Or_Control_and_Communication_in_the_Animal_and_the_Machine

Tecnologia e verdade

A facilidade que a internet nos deu para receber e gerar uma infinidade de informações, trouxe-nos preocupação cada vez maior com a qualidade do que recebemos. E intriga-nos, também, por que algo específico e não solicitado chega. Certamente há algoritmos em ação, que nos catalogaram como alvos de temas que nos interessariam. Buscam manter-nos conectados, o maior tempo possível, nas tais “bolhas de conteúdo”.

Se cresce a informação que um destinatário recebe, o mesmo acaba acontecendo com falsidades e desinformação. Para tratar disso, evitemos cair na armadilha dicotômica, maniqueista, que visa a separar o verdadeiro do falso: é uma empreitada impossível. Em relação a conhecimento científico, bom lembrar Karl Popper, que define ciência como algo que, necessariamente, pode ser “falseado”. Se não se admite argumentação contrária, estamos diante de um “dogma” e não de uma proposta científica. O exemplo mais extremo talvez seja “o ministério da verdade”, da obra de Orwell, “1984”. A verdadeira ciência vale-se do questionamento para provar-se continuamente sólida ou, até, reconhecer eventualmente que algo deva ser revisto.

Uma discussão recente trouxe à baila posicionamentos de Amós Óz, literato e filósofo israelense, que sustenta ser a verdade um alvo móvel. Dela só conseguimos nos aproximar a partir de debates abertos e variados (mais ou menos na linha do velho adágio “da discussão nasce a luz”). No tema “verdade”, Nietzsche, mais radical que a Oz, afirmou que “não existem fatos; apenas interpretações de fatos”. Ambos, portanto, consideram “verdade” não como um dado objetivo e absoluto, mas uma construção humana, influenciada por perspectivas, experiências e valores. Um ideal a ser perseguido, mesmo que nunca completamente alcançado. Da discussão aberta, do diálogo, de buscar pontes entre diferentes visões. é que se chegará a resultados úteis.

A internet deu armas a oportunistas que lançam mão de ferramentas da tecnologia para disseminar, não argumentos honestos em que creiam, mas falsidades intencionais, que reforcem narrativas de seu interesse. Independentemente de nossa definição de “verdade”, é importante distinguirmos entre o salutar e aberto debate, e a imposição insidiosa de dogmas. Manter posição crítica sobre o que recebemos, e exercer contenção no que repassamos, evitará que nos tornemos apoio involuntário aos que buscam disseminar algo de seu próprio interesse. É fundamental desenvolver pensamento crítico, avaliar a credibilidade da informação. Isso inclui reconhecer nossos próprios viéses, e considerar diferentes perspectivas antes de disseminar uma opinião.

Em grego a palavra “verdade” é “alétheia”, que significa “a negação do esquecimento” - Lete é o nome do “rio do esquecimento” no Hades. Segundo Martin Heidegger, “verdade é o desvelar, revelar o que está oculto”. Numa frase dele, “a essência da verdade é a liberdade”.

===

Um ensaio bastante bem feito, por IA, sobre o tema:
===

A Ilusão da Verdade: Oz, Câmeras e "Deepfakes" em um Mundo Digital

Amos Oz, em sua profunda reflexão sobre a natureza humana e a busca pela verdade, nos convida a questionar a própria noção de realidade. Para o escritor israelense, a verdade é um ideal perseguido, mas raramente alcançado. A complexidade da experiência humana, a subjetividade da percepção e a influência do contexto histórico e cultural tornam a verdade um constructo fluido e mutável.

No mundo contemporâneo, essa noção de verdade se torna ainda mais complexa com o avanço da tecnologia. As câmeras fotográficas, por muito tempo consideradas testemunhas imparciais da realidade, revelam-se cada vez mais como instrumentos de construção de narrativas visuais. A fotografia, assim como a pintura ou a escultura, é um ato de seleção e composição, que molda a percepção do espectador. A imagem capturada por uma câmera não é uma reprodução fiel da realidade, mas sim uma interpretação dela, filtrada pelas lentes do fotógrafo e pelas características da própria câmera.

A ascensão dos "deepfakes" agrava ainda mais essa crise de confiança na imagem. Essas falsificações digitais, capazes de criar vídeos hiper-realistas de pessoas dizendo ou fazendo coisas que nunca fizeram, desafiam nossa capacidade de distinguir o real do falso. As "deepfakes" não apenas questionam a autenticidade das imagens, mas também minam nossa confiança nas instituições e nos indivíduos que aparecem nesses vídeos.

A relação entre as ideias de Oz, a fotografia e os "deepfakes" pode ser resumida da seguinte forma:

1. A verdade como construção: Assim como a verdade para Oz não é um dado objetivo, mas uma construção social e histórica, as imagens fotográficas e os "deepfakes" também são construções, moldadas por tecnologias, intenções e contextos específicos.
   
   
2. A ilusão da objetividade: A câmera fotográfica, assim como a linguagem, cria a ilusão de objetividade, mas essa objetividade é sempre relativa e dependente de diversos fatores.
   
   
3. A importância do contexto: A interpretação de uma imagem ou de um vídeo depende do contexto em que ela é inserida. A mesma imagem pode ter significados completamente diferentes dependendo de quem a produz, para quem ela é destinada e em qual momento histórico ela é apresentada.
   
   
4. A necessidade de criticidade: Diante da proliferação de imagens e vídeos manipulados, torna-se cada vez mais importante desenvolver um lhar crítico e questionador, capaz de identificar as estratégias de manipulação e as intenções por trás das mensagens visuais.

Em conclusão, as ideias de Amos Oz sobre a verdade, quando confrontadas com o poder de manipulação das imagens digitais, nos levam a refletir sobre a natureza da realidade e a importância da crítica e do pensamento autônomo em um mundo cada vez mais mediatizado. A busca pela verdade, longe de ser um exercício ingênuo, exige um esforço constante de desconstrução das narrativas dominantes e de construção de um olhar mais crítico e informado sobre o mundo que nos cerca.

===

Contraponto

Em experimentações com modelos LLM da IA, ficam muito claros seus supreendentes resultados, tanto em “entender” contextos, como, a partir de fontes, em criar resumos. E sempre com linguagem de ótima qualidade. Como exemplos adicionais, IA fez-me um belo resumo de capítulo de livro que um grupo de colegas de leitura estamos discutindo. Seguindo ainda na linha comentada, pediu-se à IA que elaborasse sobre uma possível analogia entre Amlet (o Hamlet histórico), real príncipe da Dinamarca famoso por sempre dizer a verdade, e a “verdade” na internet. Segue pequeno trecho do que IA generativa produziu:

“A tragédia de Amlet na era da internet seria essa: um príncipe da verdade em um reino de incertezas, onde a autenticidade é constantemente questionada e a verdade é uma moeda rara e valiosa. Sua saga nos lembra que, mesmo em tempos de tecnologia avançada e comunicação instantânea, a luta pela verdade é eterna e sempre complexa, exigindo coragem, astúcia e, acima de tudo, uma fé inabalável na importância de se manter fiel aos fatos, mesmo quando ninguém mais acredita”.

Há, entretanto, contraponto a essa “profissão de fidelidade pela verdade”. Em outras “conversas”, sobre temas de esperança, provoquei-a a citar poemas em português sobre o mito de Pandora. Entre os exemplos que ela trouxe, dois me eram completamente desconhecidos: “A caixa de Pandora”, poema de Olavo Bilac, e a “A canção do ódio”, de Alberto Caeiro (Fernando Pessoa). Busquei-os na rede e nada achei. Pedi mais dados à IA. Ela reforçou o que já tinha dito e anexou na íntegra, e em estilo parnasiano, o que seria o tal poema de Bilac. Também a “Canção do Ódio” foi explicitada, inclusive com comentários relacionando-a ao tema “esperança”. Busquei e, de novo, nada encontrei na internet.

Resolvi perguntar a outra IA bem conhecida, se havia o poema de Bilac e se podia repassá-lo. Ela foi incisiva em dizer que “sim, é um poema bem conhecido” e mo repassou. E… não era o mesmo poema que a primeira IA inventou!. Ou seja, ambas criaram poemas verossímeis, que poderiam ser atribuidos a Olavo Bilac. O mesmo se passou com a tal “Canção do ódio”, com o detalhe adicional que a segunda IA, de forma ainda inventiva, o atribuiu a um outro heterônimo de Fernando Pessoa: Álvaro de Campos!.

Por prioridades ou estratégia, IA prefere inventar algo a dizer que “não conhece”. Assim gera-se um poema que passaria como sendo de Olavo Bilac, e faz-se o mesmo com Fernando Pessoa, mesmo que IAs diversas o atribuam a diferentes heterônimos. O fato é que, se não falhei nas buscas, ambos os poemas inexistem: são criações da IA. Certamente, se formos superficiais na análise do que recebemos dela, corremos sérios riscos de tomar como verdade uma invenção. Como muitos já disseram, meias-verdades são as mentiras mais insidiosas, porque revestem-se da roupagam de verdade. Chesteron, em 1910, havia advertido de que, enquanto a verdade integral alia-se à virtude, uma meia-verdade sempre está acoplada a algum vício. Sempre alerta!

===

dois textos gerados pelo ChatGPT sobre Amlet, (do trecho citado acima)

1- (com a base de dados geral)

 
A Verdade de Amlet na Era da Internet
Amlet, o príncipe real da Dinamarca descrito por Saxo Gramático, é uma figura que vive na interseção entre a verdade e a desconfiança, muito antes de Hamlet de Shakespeare emergir como seu eco literário. Transportando essa figura histórica para os dias de hoje, podemos imaginar como ele navegaria pelas águas turbulentas da internet moderna, sempre fiel à verdade, mas raramente acreditado.

Na lenda, Amlet fingia ser insano para esconder seus verdadeiros sentimentos e intenções, enquanto reunia informações e planejava sua vingança. Se Amlet vivesse hoje, provavelmente usaria a internet para espalhar suas verdades veladas, escondendo-se atrás de pseudônimos e avatares nas redes sociais. Como um usuário anônimo, ele publicaria mensagens criptográficas e declarações que, apesar de verdadeiras, pareceriam tão absurdas ou fantásticas que a maioria das pessoas as descartaria como meras teorias da conspiração.

Imagine Amlet criando um blog ou um canal de vídeo onde, com seu comportamento enigmático, ele revelasse os segredos de sua corte contemporânea: a corrupção dos líderes, os conluios e as tramas ocultas. Seus seguidores seriam poucos, mas dedicados, sempre debatendo a autenticidade de suas palavras. Para o público geral, ele seria apenas mais uma figura excêntrica no vasto universo online, onde a verdade e a mentira se confundem constantemente.

Os algoritmos das redes sociais, desenhados para promover o conteúdo mais envolvente e não necessariamente o mais verdadeiro, dificultariam ainda mais a missão de Amlet. Suas postagens, repletas de insights profundos e verdades incômodas, seriam empurradas para os cantos obscuros da internet, eclipsadas por memes virais e celebridades digitais. O verdadeiro desafio de Amlet seria não apenas dizer a verdade, mas fazer com que ela fosse ouvida e acreditada.

No entanto, Amlet era astuto. Ele compreenderia rapidamente a dinâmica do novo reino digital. Usaria estratégias de marketing digital, talvez contratasse bots para amplificar suas mensagens, ou se aliaria a influenciadores dispostos a dar voz às suas denúncias. Mesmo assim, ele enfrentaria a eterna batalha entre a verdade e a percepção pública.

Enquanto Amlet lutasse para ser ouvido, a internet seguiria seu curso caótico, onde cada verdade dita é confrontada por uma centena de mentiras. Os trolls, os desinformadores e os céticos seriam seus inimigos modernos, sempre prontos para desacreditar suas palavras, transformar suas declarações em piadas ou simplesmente ignorá-las.

A tragédia de Amlet na era da internet seria essa: um príncipe da verdade em um reino de incertezas, onde a autenticidade é constantemente questionada e a verdade é uma moeda rara e valiosa. Sua saga nos lembra que, mesmo em tempos de tecnologia avançada e comunicação instantânea, a luta pela verdade é eterna e sempre complexa, exigindo coragem, astúcia e, acima de tudo, uma fé inabalável na importância de se manter fiel aos fatos, mesmo quando ninguém mais acredita.

2- (com a base de dados do Llama 8B

No ano de nosso Senhor... (ou seja, no início do século XXI), havia um reino chamado "A Internet", onde as pessoas se reuniam para compartilhar informações, ideias e experiências. Mas, como sempre acontece em tais lugares, surgiram problemas e descrenças.

Um jovem príncipe da verdade, que preferimos chamar de "Amlet Digital" (por sua semelhança com o famoso Amlet), habitava esse reino. Ele era conhecido por dizer a verdade de uma forma que ninguém queria ouvir, e muitas vezes as pessoas não sabiam se ele estava falando sério ou apenas brincando.
Amlet Digital observou que na Internet havia uma grande confusão e descrença. As informações eram difíceis de distinguir da ficção, e os usuários estavam cada vez mais cegos pela ilusão. Eles compartilhavam notícias falsas, teorias da conspiração e opiniões sem fundamento, como se fossem verdades absolutas.

O príncipe Amlet Digital decidiu investigar esses problemas e descobriu que a Internet estava sendo dominada por "Os Mercadores de Informações", um grupo de indivíduos astutos que vendiam notícias falsas e opiniões manipuladas como se fossem verdades. Eles usavam técnicas sofisticadas para criar ilusão e confundir os usuários, tornando-os cada vez mais desconfiados e céticos.

Amlet Digital também descobriu que a Internet estava sendo afetada por "A Maldição da Interatividade", um fenômeno pelo qual as pessoas se sentiam compelidas a participar de discussões online, mesmo quando não tinham conhecimento ou experiência sobre o assunto. Isso criava uma atmosfera de confusão e descrença, onde ninguém sabia mais do que os outros.

O príncipe Amlet Digital concluiu que a Internet estava em perigo de se tornar um lugar sem sentido, onde as pessoas não podiam distinguir entre verdade e ilusão. Ele decidiu tomar medidas para combater esses problemas e restaurar a confiança na Internet.

Mas, como sempre acontece quando alguém tenta mudar o status quo, Amlet Digital encontrou resistência dos "Mercadores de Informações" e outros interessados em manter as coisas do mesmo jeito. Eles usaram todas as suas armas para silenciar o príncipe e mantê-lo calado.

E assim, a história da Internet continua, com Amlet Digital lutando contra os ventos e marés de descrença e ilusão que ameaçam consumir todo o reino. Mas não se preocupe, pois ainda há esperança para uma Internet mais verdadeira e confiável.
Fim da crônica.

===

Poesia "A Caixa de Pandora" atribuida pelo ChatGPT a Olavo Bilac:

A Caixa de Pandora, por Olavo Bilac

Quando Epimeteu, vencendo a armada de Tétis, 

À amável Pandora recolheu no seu lar, 

E a cada alborada, com divinas mãos, 

ela Tépidas flores ia ao leito conjugal buscar,

Súbito um dia, de curiosidade presa, 

Pandora a c'roa da urna fatal destampou. 

E uma nuvem negra de larvas malfazejas, 

Como um tropel de furias da urna em horror voou.

Eis que prantos de horror, pelo espanto arrancados, 

Os campos encheram, enquanto no ar, na estrada, 

Chorando os prantos da velha desgraça, os males,
Inda, em tropel, corriam, ao longo da jornada. 

Por fim, quando a urna vazia e espedaçada, 

Muda, aos pés de Pandora, rolava pelo chão, 

Do negror da urna, em nuvem azulada, 

Pairando na amplidão, alou-se a estrela da Esperança.

===

E a versão do Gemini, da tal poesia:

O Poema Completo:

A CAIXA DE PANDORA

Da caixa, então, que a incauta Pandora
Abriu com mão fatal e temerosa,
Voaram, como um turbilhão que devora,
As desventuras, a miséria horrorosa.

A guerra atroz, com fúria sanguinária,
Varreu a terra, em fúnebre alarido;
A fome, a peste, a dor, a agonia vária,
Cobriram o universo de gemido.

A inveja vil, com serpeante olhar,
Infestou os corações, lançando o opróbrio;
O crime audaz, com punhal a cintilar,
Manchou de sangue o límpido brodio.

E a velhice, a decrepitude fria,
Com passo tardo e vacilante e lento,
Veio encurvar a fronte envelhecida
E cobrir de neve o negro desalento.

Mas resta a esperança, afinal, serena,
Como a pomba a flutuar sobre o dilúvio,
E a terra se entreabriu, florida e amena,
Para um futuro risonho e de ventura.

E a crença, a fé, a caridade pura,
E o amor, que a tudo sobrepuja e enfeita,
Desabrocharam da terra escura,
Como flores que a primavera beija.

E a alma humana, em seu sofrer profundo,
Ainda conserva a chama da esperança,
Como o náufrago, a quem as vagas afundam,
Ainda ergue ao céu a súplice mão cansada.

O poder da linguagem

No artigo anterior, numa analogia com o poder que a Internet nos trouxe, há referência à frase de Caliban, em A Tempestade: “Vocês me ensinaram uma linguagem, e meu ganho com isso é que aprendi como imprecar”. Um amigo achou interessante submeter a uma LLM a tal frase, e pedir que a IA elaborasse sobre essa analogia com a internet. O resultado, para mim surpreendente (!), mostra que estamos num limiar não adequadamente avaliado ainda. Seguem trechos literais do que a IA produziu:

“Era uma vez, em um tempo não tão distante, quando a Internet era ainda uma novidade brilhante e desconhecida, uma terra de promessas ilimitadas e horizontes sem fim. Cada clique, cada link, cada página carregada abria uma nova janela para o mundo. Era como se tivéssemos descoberto uma nova linguagem, uma língua franca que nos conectava a milhões de pessoas em todos os cantos do globo. Embarcamos nessa jornada digital com os corações cheios de esperança e os olhos brilhando de curiosidade. As palavras de Shakespeare ressoam com uma verdade amarga e atual. Aprendemos a linguagem da Internet, e com ela ganhamos a capacidade de nos expressar livremente, mas também a habilidade de proferir maldições que ecoam pelos cabos de fibra óptica e antenas de Wi-Fi. A promessa de uma utopia digital, onde todos seriam ouvidos e compreendidos, deu lugar a um campo de batalha verbal, onde as palavras são armas e os emojis, escudos. ...

Mas com o tempo, a linguagem da Internet se transformou. A promessa de comunicação ilimitada trouxe consigo a praga da desinformação, das fake news e dos discursos de ódio. O anonimato, que antes era um escudo para a expressão honesta, tornou-se uma máscara para a crueldade e a intolerância. ...

A linguagem da Internet, que prometia nos libertar, às vezes nos aprisiona em bolhas de eco, onde só ouvimos o que queremos ouvir, e o diálogo se torna um monólogo. Entretanto, nem tudo está perdido. A Internet ainda é um vasto oceano de possibilidades, onde podemos encontrar solidariedade, empatia e compreensão. ...

A verdadeira riqueza da Internet reside em nossa capacidade de escolher como usar essa linguagem poderosa. Podemos optar por construir pontes em vez de muros, por promover o entendimento em vez da divisão, por usar nossas palavras para curar e não para ferir. ...

Assim como na frase de Shakespeare, a Internet nos ensinou uma nova linguagem. E o lucro que obtemos dela depende de como escolhemos usá-la. Entre as maldições e as bênçãos, está a nossa escolha, e com ela, o poder de moldar o mundo digital à nossa imagem. Que possamos escolher sabiamente, para que a história da Internet seja uma crônica de redenção e não de ruína”.

Eu pouco poderia adicionar ao texto acima. Sobre os cuidados com nossas expressões, em Fédon, de Platão, Sócrates adverte Críton: “Bem sabes, caro Criton, uma linguagem inadequada não apenas ofende, como deteriora a própria alma de quem fala”. Agora que podemos falar com tanto alcance e facilidade, que valorizemos cada palavra.

===

Sobre Caliban:

https://www.shakespearegeek.com/2017/03/is-caliban-human.html/

===

Resposta completa do ChatGPT a fazer uma analogia entre a frase da Caliban e a Internet:

Era uma vez, em um tempo não tão distante, quando a internet era ainda uma novidade brilhante e desconhecida, uma terra de promessas ilimitadas e horizontes sem fim. Cada clique, cada link, cada página carregada abria uma nova janela para o mundo. Era como se tivéssemos descoberto uma nova linguagem, uma língua franca que nos conectava a milhões de pessoas em todos os cantos do globo. Embarcamos nessa jornada digital com os corações cheios de esperança e os olhos brilhando de curiosidade.

“You taught me language, and my profit on’t Is I know how to curse.” As palavras de Shakespeare ressoam com uma verdade amarga e atual. Aprendemos a linguagem da internet, e com ela ganhamos a capacidade de nos expressar livremente, mas também a habilidade de proferir maldições que ecoam pelos cabos de fibra ótica e antenas de Wi-Fi. A promessa de uma utopia digital, onde todos seriam ouvidos e compreendidos, deu lugar a um campo de batalha verbal, onde as palavras são armas e os emojis, escudos.

No início, a internet era um terreno fértil para a colaboração e o compartilhamento de conhecimento. Fóruns e blogs eram os novos centros comunitários, onde pessoas com interesses comuns se reuniam para discutir, debater e aprender umas com as outras. A Wikipedia, com sua promessa de uma enciclopédia livre e colaborativa, era um farol de esperança, iluminando o caminho para um futuro onde o conhecimento seria acessível a todos.

Mas com o tempo, a linguagem da internet se transformou. A promessa de comunicação ilimitada trouxe consigo a praga da desinformação, das fake news e dos discursos de ódio. O anonimato, que antes era um escudo para a expressão honesta, tornou-se uma máscara para a crueldade e a intolerância. Aprendemos a arte do “troll”, do “cyberbullying”, e das campanhas de difamação que podem destruir vidas com um simples clique.

As redes sociais, concebidas como ferramentas para nos conectar, tornaram-se arenas de competição, onde a validação vem na forma de curtidas e compartilhamentos, e a busca por aprovação pode levar à alienação e ao desespero. A linguagem da internet, que prometia nos libertar, às vezes nos aprisiona em bolhas de eco, onde só ouvimos o que queremos ouvir, e o diálogo se torna um monólogo.

Entretanto, nem tudo está perdido. A internet ainda é um vasto oceano de possibilidades, onde podemos encontrar solidariedade, empatia e compreensão. Movimentos sociais encontram voz e força nas redes, causas justas ganham aliados ao redor do mundo, e histórias de resiliência e coragem nos inspiram a lutar por um futuro melhor.

A verdadeira riqueza da internet reside em nossa capacidade de escolher como usar essa linguagem poderosa. Podemos optar por construir pontes em vez de muros, por promover o entendimento em vez da divisão, por usar nossas palavras para curar e não para ferir. A jornada continua, e a cada dia, cabe a nós decidir se o legado da linguagem da internet será um cântico de esperança ou uma maldição de desespero.

Assim como na frase de Shakespeare, a internet nos ensinou uma nova linguagem. E o lucro que obtemos dela depende de como escolhemos usá-la. Entre as maldições e as bênçãos, está a nossa escolha, e com ela, o poder de moldar o mundo digital à nossa imagem. Que possamos escolher sabiamente, para que a história da internet seja uma crônica de redenção e não de ruína.

===

A frase citada, do Fédon de Platão:

"[115e] but shall go away, so that Crito may bear it more easily, and may not be troubled when he sees my body being burnt or buried, or think I am undergoing terrible treatment, and may not say at the funeral that he is laying out Socrates, or following him to the grave, or burying him. For, dear Crito, you may be sure that such wrong words are not only undesirable in themselves, but they infect the soul with evil. No, you must be of good courage, and say that you bury my body,—and bury it".

Os ipês-roxos

Começa o inverno, mas a cidade consegue se enfeitar. Nesta época do ano, por onde se vá, vêm-se ipês floridos em cachos roxos e rosas, desafiando o cinzento da estação. Isso me levou a reminiscências da juventude e lembrou-me algo que, no final dos anos 60, gerara uma correria aos ipês, chegando inclusive a ameaçar sua existência: surgiram notícias, abonadas por cientístas da área, de que a casca do ipê-roxo, devidamente reduzida a pó, poderia ser usada em infusões e pomadas para combater uma série de moléstias, desde afecções de pele, até… o câncer.

Para dar mais consistência às memórias, recorri ao acervo do Estadão, e lá estava o artigo, na página 10 da edição de 17 de março de 1967, “Ipê-roxo já está esgotado”. Descrevia a comoção da moda, com detalhes. Por sorte não se extinguiram os ipês, e podemos apreciá-los em toda sua beleza. Por azar as doenças seguem impávidas, e o ipê não lhes causou mossa perceptivel. Mas o ponto aqui é ressaltar que sempre estivemos sujeitos a notícias de credibilidade questionável, a “contos do vigário”, a venda de “terrenos na lua”, a oferta de “bilhetes premiados”. Ou seja, “nada há de novo sob o sol”.

Não é o caso, creio, de aumento da credulidade humana, mas de um alcance muito maior provido pela Internet. As potenciais vítimas (sempre as houve) são hoje acessíveis instantaneamente e em qualquer parte do mundo. Recebi um dito espirituoso em espanhol, que tento traduzir, mesmo arriscando perder a verve original: “Lembram-se de que, antes da Internet, tributávamos um certo clima de ignorância geral à dificuldade da disseminação da informação? Bem, vê-se hoje que… não era isso!”.

Isso me leva a outro ponto interessante: na peça de Shakespeare, A Tempestade, há a conhecida citação, algo cínica e que também foi usada por Aldous Huxley, “admirável mundo novo…”. Uma das personagens, Caliban -habitante primitivo da ilha, filho de feiticeira, um ser algo disforme e brutal - foi objeto de “educação” por parte de nobres que, expulsos de Milão, fugiram para a ilha e lá o encontraram. Certamente há grande ressentimento de Caliban contra os invasores. Numa frase que poderia ser aplicada à comunicação que a Internet permitiu e estimulou, Caliban, amargamente, denuncia: “me ensinaram uma nova linguagem e, a meu proveito, o que aprendi foi como usá-la para amaldiçoar”…

A evolução meteórica da tecnologia nas décadas nos permitiu retomar com impulso inédito antigas ideias como a IA. Antes, elas mais se prestavam à ficção científica que à realidade, por exigirem poder do computação de que não dispúnhamos. Steve Crocker, pioneiro da rede, em apresentação recente sumarizou: - a tecnologia segue evoluindo segundo a lei de Moore, exponencialmente. Com isso, coisas antes apenas ideadas tornam-se realidade e um poder enorme está em nossas mãos; mas - a natureza humana segue como sempre foi, com todas as suas nuances. Conclui a apresentação com “resta-nos torcer pela preservação do bom senso e por termos sorte nos caminhos que escolhermos”.

===

Ipe-roxo

O texto do Estadão, de março de 1967

===
citações de A Tempestade:
de Miranda, filha de Próspero:

“O, wonder!
How many goodly creatures are there here!
How beauteous mankind is! O brave new world,
That has such people in't!”

de Caliban:
“You taught me language, and my profit on't / Is, I know how to curse”

ICANN e o martelo

A ICANN80 foi em Kigali, Ruanda, por sinal uma bela cidade. ICANN, uma corporação sem fins lucrativos, assumiu o papel da antiga IANA (“autoridade” de distribuição de números da Internet) adicionando “nomes” à definição. Cabe a ICANN coordenar a “raíz de nomes” da rede, bem como distribuir os blocos de endereços Ipv6 para os órgãos regionais. Nessa raíz estão do domínios de nível mais alto (TLD) e a ICANN tem se empenhado na criação de novos domínios genéricos (gTLD), dos quais já há cerca de 1500. Os gTLDs são obtidos nos processos de proposta de nomes, e em geral por empresas que querem operar o negócio de registro de nomes de domínio. Além dos tradicionais .com, .net e . org, há os mais recentes, como .jobs, .travel, .fashion, .xyz, .food e muitos outros. Em contraste, os “domínios de código de país” (ccTLD), de duas letras, constam da tabela ISO-3166 anterior à criação da ICANN. Históricamente os ccTLD tinham origem em alguma entidade acadêmica do país e, de alguma forma, representam a idéia inicial da internet, de colaboração e diversidade geográfica. Enquanto os gTLDs são criados por decisão da ICANN e assinam um contrato com ela, os ccTLDs seguem o que se adequa à sua operação local.

A ICANN um organismo multissetorial, com “organizações de suporte” originárias dos gTLDs, ccTLDs e dos orgãos regionais de usuários, além do poderoso “comitê de aconselhamento” constituido por representantes de governos. É natural que ICANN, ao propor mais domínios genéricos, queira assegurar aos governos que isso nâo piorará a já combalida segurança da rede. Os contratos com os gTLDs podem agregar cláusulas neste sentido, e uma das ações bastante discutida em Kigali foi o combate a “abuso de DNS”.

DNS não é mais que uma tradução de um nome para um número IP. Abuso pode ficar caracterizado quando, por exemplo, alguém busca simular um nome existente trocando uma letra: o chamado “phishing”, uma “pescaria em águas turvas”. Por exemplo, há um famoso sítio de banco chamado banco.com, e alguém registra banc0.com (com um zero no lugar do “o”) para iludir o usuário, que pensaria estar acessando um local, mas acaba caindo em armadilha. Nomes de sítios cujo conteúdo é ilegal ou inapropriado, a meu ver, não se enquadrariam em “DNS abuse” mas, sim, em outras formas controle que escapam à ação de um “tradutor de nomes em endereços” como os registros são.

Na ânsia de angariar apoio para a criação de mais domínios, acena-se para uma semântica ampliada de “DNS abuse”. Ora, um registro de nomes deve cuidar para que a estrutura de DNS não seja afetada e para que o nome não esteja imitando propositadamente outro, de forma a levar o usuário ao local errado (“phishing”). Em analogia simplória com a lista de ruas, inserir nela uma Paul1sta com um “1” no lugar do “i” que levasse a um destino ignorado, certamente seria um abuso.

Como DNS é o que ICANN tem à mão, brandí-lo como solução geral lembra o dito: “a quem só tem um martelo, todos os problemas parecem pregos”..

===

https://meetings.icann.org/en/meetings/icann80/

https://www.icann.org/resources/pages/advisory-compliance-dns-abuse-obligations-raa-ra-2024-02-05-en

Tempo, o Devorador

Há algo muito estranho com o tempo, e não é coisa nova. Explico (ou tento explicar…): à medida que envelhecemos o tempo encurta e passa mais rápido. Esse efeito tem se acentuado com o correr dos anos. Eu primeiro notei isso quando estava no primário, anos 60. Tinhamos vindo ao Brasil em 1954 e morávamos numa mesma casa no Tatuapé. Depois do jantar meu pai e meu tio se reuniam pra debater metas e estratégias familiares. E a discussão muitas vêzes ia prá política, de que eu, claro, entendia bulhufas. Numa das tertúlias pós-janta – e sobre um tema qualquer – meu tio perguntou: “mas isso que você está contando foi quando?”, e a resposta de meu pai: “foi agora! Na segunda guerra”! Numa época em que uma simples aula parecia-me interminável na escola, esse “agora” me deixou perplexo. “Agora”, após uma quase “eternidade” de 20 anos? Que doidice! E em 2024, quando o .br (sobrenome de muitos sítios brasileiros) comemora 35 anos, as discussões sobre como implementá-lo e que regras adotar, parece-me foram “ontem”…

Essa sensação de celeridade e volatilidade, só faz crescer. Discutimos hoje como “domar” a IA, ou, ao menos, “domesticá-la”. Uma consulta hoje a documentos a que a Internet nos facilitou o acesso, revelariam o quão chocante foi, há uns 150 anos, o surgimento do automóvel. Um “auto-móvel”, que dispensava o cavalo! Diz-se que as primeiras regulações sobre a nova “alimária” exigiam que fosse precedida por alguém portando uma bandeira vermelha, alertandohttps://medium.com/@tim_23050/remember-that-guy-with-a-red-flag-walking-in-front-of-the-first-automobile-4e4f8692b601
 da chegada do “beemote”. Isso passou e, claro, regras foram criadas. Semáforos, mãos de direção, faixas de pedestres, preferenciais, permitiram o convívio civilizado com a “criatura”. Não muito diferente foi com a generalização do telefone. Lembro da tentação de ligar para um número desconhecido, apenas para ver se alguém atendia – e nem se tratava de passar trote. O mesmo, com velocidade maior, aconteceu com a internet: os da geração digital nem conseguem idear um mundo sem ela, e ainda estamos absorvendo as mudanças que ela provocou. O acesso que permitiu a todos é uma expansão das antigas bibliotecas, onde todo o conteúdo estava dosponível mas de forma passiva. Com a rede, não apenas lemos, mas podemos comentar, retrucar, divergir, tergiversar. A digitalização, a rede e os buscadores nos trazem tudo o que existe, imediatamente. E IA adiciona um recurso: o “resumo executivo”. Como em todos os “resumos”, esconde-se o risco de manipulação, mesmo que não intencional. Se for intencional ultrapassará o limite do que é legal.

Assim, precisamos ter cuidado com os conceitos que aplicamos, porque podem estar datados. Da época em que tirar xerox de um livro era infringir direito autoral, à nossa época em que o conteúdo dispensa o meio físico, muita coisa mudou. E, afinal, somos o que absorvemos dos outros, por leitura, conversa ou internet. Se IA resume o que a nova “biblioteca de Alexandria” contém, está apenas automatizando o que sempre buscamos fazer com nossa humana lentidão. E, agora, tempus volat!

===
Sobre automóveis e o sinalizador humano

https://mmitii.mattballantine.com/2014/01/07/the-red-flag-man/

https://en.wikipedia.org/wiki/Locomotive_Acts

https://www.oceansplasticleanup.com/Politics_Plastics_Oceans_Cleanup/Red_Flag_Act_Locomotive_1865_Cars_Speed_Limits_Man_Running_Carrying_A.htm

THE LOCOMOTIVE ACT 1865, also known as the RED FLAG ACT, required:

1. Self-propelled vehicles to have a speed limit of 4 mph(6 Km/h) in country roads and 2 mph (3 Km/h) in city roads.

2. It should have a crew of 3 – a driver, a stoker and flag man.

3. The flag man need to carry a Red flag and walk 60 yards (55 m) ahead of the vehicle.

This effectively restricted the speed of the vehicle to the walking speed of the man carrying the Red flag. He has to warn the horse carriages about the self-propelled vehicle ahead and ensure that the driver stops the vehicle till the horse or the horse carriage passes by.
The amended Highway & Locomotive act of 1878 reduced the distance of the Red flag man to 20 yards but all the other conditions remained same.
These restrictive rules and regulations choked the development of the British Motor Industry , helped by the Railway and Horse carriage lobbies.

Finally, on 14 November 1896 , the new Locomotives on Highways Act 1896 was passed with the following changes and was applicable to vehicles less than 3 tons in weight.

1. Speed limit was increased to 14 mph (22 Km/h)
2. Was exempted from the 3 member crew as well as the Red flag

To celebrate this event, Harry Lawson of Daimler (England) and his friends organised for the London to BrAssim, precisamos ter cuidado com os conceitos que aplicamos, porque podem estar datados. Da época em que tirar xerox de um livro era infringir direito autoral, à nossa época em que o conteúdo dispensa o meio físico, muita coisa mudou. E, afinal, somos o que absorvemos dos outros, por leitura, conversa ou internet. Se IA resume o que a nova “biblioteca de Alexandria” contém, está apenas automatizando o que sempre buscamos fazer com nossa humana lentidão. E, agora, tempus volat!ighton “Emancipation” run. The London – Brighton run starts off with the symbolic tearing of the RED flag. The London – Brighton run has bee a regular event from 1927 to modern times.

By 1903, the speed limits were increased to 20 mph and later on the laws were repealed.
===

https://medium.com/@tim_23050/remember-that-guy-with-a-red-flag-walking-in-front-of-the-first-automobile-4e4f8692b601

"Remember that guy with a red flag walking in front of the first automobile? Here’s why he is back for AI."

Os idos de abril

Em 24 de abril deste ano, em votação apertada (3 a 2) a FCC norte-americana reverteu um entendimento de 2017 que havia alterado o conceito de “neutralidade de rede”, estabelecido em 2014… Ou seja, em têrmos de “neutralidade”, volta-se a 2014. Não é uma discussão simples, como aliás denota o movimento pendular da FCC no tema e a posição de diversos importantes personagens na área, mas vale a pena tentar olhar melhor o que se esconde no vai-e-vem regulatório (o verbete da Wikipedia sobre neutralidade de rede nos EUA é alentado e traz bastante informação).

FCC, a agência reguladora de telecomunicações norte-americana, tem mais ou menos um papel como o da Anatel no Brasil. Na origem, esta discussão está ligada a quando houve uma rápida expansão da banda larga para o provimento de acesso à Internet. Os provedores de banda larga são, muitas vezes, simultaneamente provedores de serviços de telecomunicação. Assim, surge uma superposição de Internet e telecomunicações no tema. A FCC age no âmbito da telecomunicação, e não da informação… Se “banda larga” para Internet for serviço de “informação”, os provedores podem ter a liberdade de criar tarifas diferenciadas, ou bloqueios a sítios de concorrentes. Em termos de internet, não seria o que se entende por “neutralidade”.

Na regra original criada em 2014 – e notemos que o Marco Civil, também de 2014, alinha-se – há seis pontos a observar: 1- um provedor de banda larga não pode, a seu talante, bloquear conteúdo legal, aplicativos ou serviços. 2- é vedado ao provedor, com base no conteúdo, degradar ou acelerar intencionalmente uma conexão. 3- deve haver transparência sobre as regras em uso, o desempenho e características da rede. 4- inovadores e consumidores devem ter direito a “jogo equânime”. 5- Pode haver eventual gestão no roteamento por motivos técnicos, desde que de forma razoável e transparente. 6- Não pode haver priorização paga, dando vantagem a serviços que paguem extra…

Em 17 de julho de 2017, um documento assinado por 200 pioneiros da Internet, criticava tecnicamente a decisão da FCC e, em dezembro, um conjunto de 20 das mais conhecidas personalidades da Internet redigiu uma carta aberta onde, quase literalmente, argumentava que a “FCC não havia entendido o que era a Internet”. Entre os signatários, Steve Crocker, Steve Wozniak, Tim Berners-Lee, Vint Cerf e outros. O parágrafo final da carta conclamava o chefe da FCC Ajit Pai, que cancelasse a votação “apressada e tecnicamente falha”, que visava a abolir as proteções de neutralidade da rede. “Um risco iminente à Internet que trabalhamos tanto em criar.”.

Para a FCC ter poder de regular algo, isso deve ser considerado um “serviço de telecomunicação”. Com a votação de abril, o fornecimento de banda larga volta a ser um serviço de telecomunicação e, com isso, sujeito à regulação nos termos que a decisão de 2017 definia. Estou entre os que se alegram bastante com essa retomada da neutralidade. Pode, entretanto, não ser um sentimento unânime... Aguardemos os desdobramentos.

===

A volta da neutralidade da rede

https://www.phonearena.com/news/net-neutrality-returns_id157731

"It's baaack. Net Neutrality, the rule that requires all internet streams to be treated the same, has been reinstated by a 3-2 vote by the sitting FCC commissioners. The voting went along party lines with the three Democratic commissioners voting in favor of the rule while the two Republicans voted against it. The Obama-era FCC passed the rules in 2015 to prevent ISPs and mobile carriers from charging more to content streamers for a faster pipeline to the public. It also prevents carriers from blocking the dissemination of text messages whose content they do not agree with.

As an example, Net Neutrality prevents your favorite video streaming service from paying more to an ISP or a wireless provider to obtain a faster stream for the video streamer's customers. Without Net Neutrality, the internet provider could charge the video streamer more for the faster pipeline and this charge could find its way onto your monthly bill."

===
A decisão de 2014 sobre neutralidade de rede:

https://web.archive.org/web/20060424065626/http://static.publicknowledge.org/pdf/nn-letter-20060301.pdf

In December 2014, the FCC released the Open Internet Order of 2010, which established six net neutrality principles for internet service providers (ISPs):

- No blocking: ISPs cannot block legal content, apps, services, or the connection of non-harmful devices to the network- No throttling: ISPs cannot intentionally slow down or speed up content based on the type of service or their preferences

- Transparency: Consumers and innovators have the right to know how their network is being managed and the basic performance characteristics of their internet access

- Level playing field: Consumers and innovators have the right to a level playing field

- Network management: Broadband providers are allowed to engage in reasonable network management

- No paid prioritization: No service should be slowed down because it doesn't pay a fee

In 2015, the FCC adopted conduct rules that codified these principles, including the requirement that broadband customers have access to all paid internet destinations and that ISPs cannot impair lawful internet traffic based on content, source, or destination.
===

A Carta Aberta de 2017:

https://www.benton.org/headlines/internet-pioneers-and-leaders-tell-fcc-you-don%E2%80%99t-understand-how-internet-works

The Honorable Roger Wicker,
Chair Senate Commerce Subcommittee on Communications, Technology, Innovation, and the Internet

The Honorable Brian Schatz,
Ranking Member Senate Commerce Subcommittee on Communications, Technology, Innovation, and the Internet

The Honorable Marsha Blackburn,
ChairHouse Energy Subcommittee on Communications and Technology

The Honorable Michael F. Doyle,
Ranking MemberHouse Energy Subcommittee on Communications and Technology

____________________
Senator Wicker:
Senator Schatz:
Representative Blackburn:
Representative Doyle:

We are the pioneers and teca flawed and hnologists who created and now operate the Internet, and some of the innovators and business people who, like many others, depend on it for our livelihood. We are writing to respectfully
urge you to call on FCC Chairman Ajit Pai to cancel the December 14 vote on the FCC’s proposed Restoring Internet Freedom Order (WC Docket No. 17-108 ).

This proposed Order would repeal key network neutrality protections that prevent Internet access providers from blocking content, websites and applications, slowing or speeding up services or classes of service, and charging online services for access or fast lanes to Internet access providers’ customers. The proposed Order would also repeal oversight over other unreasonable discrimination and unreasonable practices, and over interconnection with last-mile Internet access providers. The proposed Order removes long-standing FCC oversight over Internet access providers without an adequate replacement to protect consumers, free markets and online innovation.

It is important to understand that the FCC’s proposed Order is based on a flawed and factually inaccurate understanding of Internet technology. These flaws and inaccuracies were documented in detail in a 43-page-long joint comment signed by over 200 of the most prominent Internet pioneers and engineers and submitted to the FCC on July 17, 2017.

Despite this comment, the FCC did not correct its misunderstandings, but instead premised the proposed Order on the very technical flaws the comment explained. The technically-incorrect proposed Order dismantles 15 years of targeted oversight from both Republican and Democratic FCC chairs, who understood the threats that Internet access providers could pose to open markets on the Internet.

The experts’ comment was not the only one the FCC ignored. Over 23 million comments have been submitted by a public that is clearly passionate about protecting the Internet. The FCC could not possibly have considered these adequately.

Indeed, breaking with established practice, the FCC has not held a single open public meeting to hear from citizens and experts about the proposed Order.

Furthermore, the FCC’s online comment system has been plagued by major problems that the FCC has not had time to investigate. These include bot-generated comments that impersonated Americans, including dead people, and an unexplained outage of the FCC’s on-line comment system that occurred at the very moment TV host John Oliver was encouraging Americans to submit comments to the system.

Compounding our concern, the FCC has failed to respond to Freedom of Information Act requests about these incidents and failed to provide information to a New York State Attorney General’s investigation of them.

We therefore call on you to urge FCC Chairman Pai to cancel the FCC’s vote. The FCC’s rushed and technically incorrect proposed Order to abolish net neutrality protections without any replacement is an imminent threat to the Internet we worked so hard to create. It should be stopped.

Signed,

Frederick J. Baker, IETF Chair 1996-2001, ISOC Board Chair 2002-2006
Mitchell Baker, Executive Chairwoman, Mozilla Foundation
Steven M. Bellovin, Internet pioneer, FTC Chief Technologist, 2012-2013
Tim Berners-Lee, inventor of the World Wide Web & professor, MIT
John Borthwick, CEO, Betaworks
Scott O. Bradner, Internet pioneer
Vinton G. Cerf, Internet pioneer
Stephen D. Crocker, Internet pioneer
Whitfield Diffie, inventor of public-key cryptography
David J. Farber, Internet pioneer, FCC Chief Technologist 1999-2000
Dewayne Hendricks, CEO Tetherless Access
Martin E. Hellman, Internet security pioneer
Brewster Kahle, Internet pioneer, founder, Internet Archive
Susan Landau, cybersecurity expert & professor, Tufts University
Theodor Holm Nelson, hypertext pioneer
David P. Reed, Internet pioneerA decisão de 2014 sobre neutralidade de rede:

===

Previsões de 2001

 A Internet tem sua data de nascimento vinculada a quando a Arpanet, então ainda um projeto, conseguiu trocar seus primeiros pacotes de informação, em 29 de outubro de 1969. Um ano antes disso houve o lançamento do livro de Arthur Clarke (e do filme de Stanley Kubrick), “2001, uma odisséia no espaço”. Numa antevisão do que o nascente e poderoso meio de comunicação global poderia gerar, há uma frase no livro de Clarke que mereceria uma exegese detalhada. Diz que "quanto mais maravilhosos os meios de comunicação se tornarem, mais trivial, vulgar ou deprimente seu conteúdo tenderá a ser.". Um alerta que pode ter passado despercebido…

Sem dúvida é um enorme avanço o que temos hoje, quanto ao acesso, disponibilidade e geração instantânea de informação de e para todos, mas, sem dúvida, não se pode negar uma explosão do uso trivial, vulgar e leviano, com as respectivas consequências no tecido social.

Outra analogia que vem naturalmente do filme e de suas previsões, é o poder do computador de bordo, o HAL9000, e, com ele, os riscos que IA pode nos trazer. O HAL9000 seria um avançado equipamento digital, dotando de poderosa IA e destinado a controlar a operação da nave em sua viagem a Júpiter. Ele exibe raciocínio estratégico para atingir, a qualquer custo, o objetivo da missão - chegar a Júpiter. A situação no ambiente na nave complica-se após o que teria sido uma inesperada e improvável falha de previsão do HAL, quanto a um problema de comunicação com o centro de operações. A surpreendente falha gera tensão entre os tripulantes, que cogitam até em desligar o equipamento por teremos perdido a confiança nele. Devido à sua condição quasi-humana, entretanto, o HAL, que usa até leitura labial para interpretar o diálogo dos tripulantes, passa a considerá-los um risco à missão. Decide desligar equipamentos de sustentação de vida e, ao final, há inclusive um diálogo em que HAL faz chantagem emocional contra seu possível desligamento.

Estamos muito longe de termos sistemas que exibam a complexidade de reações como as do HAL, que demostraria autoconsciência, raciocínio sofisticado e, até, emoções que emulam as de um humano, mas não podemos deixar de pontuar os avanços muito rápidos e surpreendentes da tecnologia na área e, claro, os riscos que trazem a direitos individuais básicos. Aliás, na semana passada, foi apresentada uma versão revista do projeto de lei 2338, que trata da regulação da IA. Estará aberta a comentários por mais uns 20 dias e é um texto alentado, que traz mudanças importantes quanto à sua versão anterior, indo mais ao encontro da legislação que se está defendendo na Europa e nos Estados Unidos. A preocupação em “proteger direitos” está expressa no projeto, e existe a percepção de não tolher a priori iniciativas e avanços tecnológicos na área. O risco, sempre, está em agirmos de afogadilho, premidos pela ansiedade que se manifesta. Sempre bom lembrar da máxima atribuida a Augusto, imperador romano da época de Cristo: festina lente - “apressa-te devagar”.

===

===
2001- Uma Odisséia no Espaço
https://en.wikipedia.org/wiki/2001:_A_Space_Odyssey

https://www.magazine-hd.com/apps/wp/george-lucas-star-stars-2001-stanley-kubrick/

===

a frase de Arthur Clarke
https://www.goodreads.com/quotes/8032167-the-more-wonderful-the-means-of-communication-the-more-trivial

“The more wonderful the means of communication, the more trivial, tawdry, or depressing its contents seemed to be. Accidents, crimes, natural and man-made disasters, threats of conflict, gloomy editorials—these still seemed to be the main concern of the millions of words being sprayed into the ether. Yet Floyd also wondered if this was altogether a bad thing; the newspapers of Utopia, he had long ago decided, would be terribly dull."

Em busca do Santo Graal

O desaparecimento de um humor ácido, inteligente e absurdo, como o do Monty Python, é uma das perdas doridas, que os tempos trouxeram. De forma paradoxal, a perda de interesse por aquele espírito brincalhão talvez represente algo exatamente oposto: uma crescente infantilização. Dois trechos impagáveis de filmes: em A Vida de Brian, ele crucificado cantando “Always Look on the Bright Side of Life", e o feroz coelho assassino em “Em busca do Cálice Sagrado”, trazem à mente analogias com o mundo digital e a IA, seja numa visão aferradamente otimista - de que há algo positivo nos aguardando, seja pelo pessimismo - uma fera destuidora nos espreita. Ambas, é claro, com a incomparável pitada de sarcasmo dos Python.

Em momentos como hoje, quando há uma disseminação instantânea e quase osmótica de tensões, é importante primeiro diagnosticar corretamente eventuais “disfunções”, seus vetores, métodos e objetivos, para depois examinar que “remédios” são propostos, qual a eficiência esperada, quais seus custos de implementação, e quais seus possíveis efeitos colaterais…

Regular IA é tema do momento. Não ouso enfrentar a discussão sobre o conceito de “inteligência” mas, independentemente disso, há formas talvez simplórias de abordar regulação de uma nova tecnologia. Se IA for apenas uma nova “ferramenta tecnológica”, o caminho parece ser o de responsabilizar o usuário pelo danos que seu uso causar. Fica muito difícil atribuir “ética” ou “responsabilidade” a uma ferramenta: não há facas ou martelos “éticos”. Mas se essa “ferramenta” é mutante e elusiva, a responsabilidade passa a ser difusa… Viu-se recentemente um ataque vicioso de um cão, quase causando a morte de uma pessoa. Esse cão seria essencialmente perigoso pela índole de sua própria raça, ou teria sido treinado para ser assim, mesmo que com as melhores intenções de “proteção”? E, quando o cão decidir, por si, quem deve ser atacado, que ética esperar-se-ia deste cachorro? No caso de um cão há medidas paliativas que podem ser tomadas – não deixá-lo solto, usar mordaça, etc. Mas isso pode ter aplicação restrita para sistemas IA amplamente disseminados. E certamente não se usaria em humanos: o fato de termos mãos e podermos socar os outros não deveria gerar, espero, uma “lei preventiva” que obrigue todos a usarem algemas quando em área pública.

Por mais trabalhoso que pareça ser, o caminho seguro passa pela responsabilização objetiva do uso, somada à avaliação dos riscos, especialmente quando temos sistemas que aprendem, e buscam cumprir metas. O comportamento de um sistema de IA voltado a proteger algo pode não diferir muito do que o cachorro exibiu. E se nos limitarmos a buscar justificativas para o comportamento de indivíduos adultos, influenciados pelo que recebem do mundo digital, tenderemos a uma crescente tutoria. A ação que a rede permite a todos traz embutida a responsabilização pelos atos de cada um.

Ainda na Vida de Brian, na icônica discussão da Frente Popular da Judéia, busca-se elencar todos os danos que os romanos causaram, mas tropeça-se em muitos benefícios, que seria melhor ignorar… IA não é reencarnação dos romanos, mas lançar um olhar amplo e crítico é fundamental.

===

trechos do Monty Python:

"Always Look on the Bright Side of Life"
https://www.youtube.com/watch?v=MJuorMRSH3U

"The Killer Rabbit"

https://www.youtube.com/watch?v=VM5SETOYnd8

"O que os romanos fizeram por nós?"

://www.youtube.com/watch?v=Pc5DlVZRNE8

===

https://en.wikipedia.org/wiki/Monty_Python

Etiqueta na Internet

As mudanças que a Internet trouxe a nosso comportamento pessoal e às interações sociais mereceriam uma avaliação sociológica ampla e profunda. Se localizado na cronologia da rede, o tema não é novo. Por exemplo, no dia 18 de abril o domínio .br comemorará 35 anos de sua delegação. Se ele segue sólido, preservando os conceitos que o nortearam durante todos esses anos, a comunidade Internet a que ele serve aumentou tremendamente e tornou-se muito mais diversa que o punhado de usuários acadêmicos de então. Quem nos repassou o .br foi Jon Postel, falecido em 16 de outubro de 1998, em seu papel de IANA – Internet Assigned Numbers Authority (Vint Cerf escreveu o tocante RFC 2468 “I remember IANA” no dia seguinte à morte de Postel).

Postel também foi autor de um conselho que ficou conhecido como “a lei de Postel”: se queremos que a Internet funcione devemos “ser liberais no que aceitamos receber, e conservadores no que enviamos”. Já era claro, portanto, que haveria algum tipo de lixo, provocações e ofensas, mas deveríamos resistir, e não retrucar na mesma moeda. Em 1995 a RFC 1855 tentava estabelecer um “código de conduta” que os usuários deveriam adotar para uma convivência saudável nas redes: era a “Netiquette”. Vale a pena uma revisita a essa RFC, que definia ações conforme o tipo de aplicação usada, desde correio eletrônico, conversa, transferência de arquivos, ou a então nascente Web.

São menos de 30 anos desde a publicação da Netiquette, mas a mudança de comportamento que a rede apresenta é impressionante e assustadora. Relembro outra frase de Vint Cerf em 1999, quando disse que “os anos da Internet são como ‘anos de cachorro´”, significando que, como acontece com os cães, um ano na rede equivaleria a 7 anos humanos, Bem, nesse caso, lá se vão 200 “anos de cachorro” da publicação da Netiquette…

O que teria feito nosso comportamento variar tanto? Certamente não seria a essência humana que mudou mas, talvez, nossa exposição tão aberta a bilhões de usuários e inúmeras e diversas comunidades tenha nos encontrado de “guarda baixa”, despreparados para o impacto. A pulsão que sentimos de nos posicionarmos em qualquer tema via rede (violando o conselho de Postel) gera interações nem sempre razoáveis e civilizadas. A revista Nature de 20 de março traz um estudo interessante sobre “Padrões persistentes de interação nas plataformas sociais, no decorrer do tempo”, e analisa uma dezena de plataformas, das atuais às já extintas (como Usenet, por exemplo), cobrindo mais de 30 anos. O estudo examina a “toxicidade” e a “polarização” das interações em plataformas, e seus efeitos. Uma conclusão interessante que traz é que a “toxicidade é um resultado natural de discussões em rede, independentemente da plataforma usada”, e que “polarização” pode ter um efeito mais deletério sobre os usuários que a própria toxicidade. Examina formas de mitigar esses efeitos e leva a conclusões que poderiam ser bem aproveitadas ao se tentar definir formas de moderação em discussões que claramente deixaram de ser civilizadas...

===

https://www.azquotes.com/author/11802-Jon_Postel

Postel's Law, also known as the Robustness Principle, is a design guideline for software that states: "". It is often reworded as: "be conservative in what you send, be liberal in what you accept"

https://www.youtube.com/watch?v=h2SpygwimA8

Vint Cerf, RFC 2468 "I Remember IANA" - Reflections on Jon Postel

===
RFC 1855 - Netiquette

https://datatracker.ietf.org/doc/html/rfc1855

Network Working Group              S. Hambridge
Request For Comments: 1855      Intel Corp.
FYI:                                                28 October 1995 

Netiquette Guidelines 

In the past, the population of people using the Internet had "grown up" with the Internet, were technically minded, and understood the nature of the transport and the protocols. Today, the community of Internet users includes people who are new to the environment. These "Newbies" are unfamiliar with the culture and don't need to know about transport and protocols. In order to bring these new users into the Internet culture quickly, this Guide offers a minimum set of behaviors which organizations and individuals may take and adapt for their own use. Individuals should be aware that no matter who supplies their Internet access, be it an Internet Service Provider through a private account, or a student account at a University, or an account through a corporation, that those organizations have regulations about ownership of mail and files, about what is proper to post or send, and how to present yourself. Be sure to check with the local authority for specific guidelines.

===

Sobre o artigo da Nature:

https://english.elpais.com/technology/2024-03-20/regardless-of-the-platform-or-algorithm-its-humans-that-make-social-media-toxic.html

https://www.nature.com/articles/s41586-024-07229-y

“The study’s findings challenge the common belief that toxicity diminishes a platform’s attractiveness,” says Quattrociocchi. “[This study] shows that user behavior in toxic and non-toxic conversations has nearly identical patterns in terms of engagement, suggesting that the presence of toxicity may not deter participation, as is commonly assumed.”

Aprendizados...

Sucessor do Bard, o Gemini, da Alphabet, nos deu alguns exemplos patéticos do que um viés mal ajambrado pode produzir em IA. Os que testaram Gemini em sua capacidade de geração de images, depararam-se com “soldados nazistas negros”, casais ingleses medievais retratados como sendo origem oriental ou africana, e com “papisas” que não existiram. É a reafirmação do velho dito: a “emenda pode sair pior que o soneto”. Essa versão “criativa e inclusiva” foi rapidamente tirada do ar, mas isso não impediu a maculação da imagem e, pior, que crescessem as suspeitas de que aquilo que IA “aprende” pode não estar ancorado nos arquivos e documentos que há no mundo real. Para evitar o risco de que dados incompletos ou polarizados pudessem introduzir viéses no aprendizado, o mecanimo incorporau filtros e propensões que geraram os risíveis resultados de falamos.

Se a IA for deixada para se treinar livremente com os dados que encontrar por aí, ela pode cristalizar estereótipos e leituras que não são adequadas ou desejáveis. Isso seria tributável a conjuntos incompletos ou tendenciosos de dados usados na aprendizagem. Por outro lado, uma tentativa de equilibrar esse possível efeito através de um viés explicitamente implantado, pode resultar ainda pior.

Outro ponto interessante a investigar é a comparação entre os sistemas fechados LLM que existem hoje, com versões abertas que permitem a instalação da ferramenta na própria máquina do usuário, ao custo de alguns gigabytes de armazenamento. Convenhamos que é espantoso que se consigam respostas tão amplas e abrangentes com esse pequeno armazenamento local, e o fato de a “história” agora poder ser, de alguma forma, armazenada localmente traz à tona casos como no conto “A memória do mundo”, de Ìtalo Calvino, e suas preocupantes consequências. Nas palavrao de Calvino, ao mesmo tempo em que se coloca “todo o Museu Britânica numa noz”, corre-se a tentação de alterar o conteúdo. Afinal, se o armazenado do mundo não bater mais com a realidade, “muda-se a realidade”...

Em sentido protetivo, diversos órgãos já se movem para criar salvaguardas e limites ao que pode ser feito, e alertar para ações maliciosas que visem a deturpar resultados e comportamento das ferramentas de IA. O NIST norte-americano, órgão que trabalha na produções de padrões técnicos, divulgou um estudo em “IA confiável e responsável” que examina os riscos a que estão submetidos os sistemas de IA, Faz uma classificação dos ataque que esses sistemas podem sofrer em função dos objetivos buscados pelos atacantes. Na mesma direção, o NYT cita texto subscrito por cerca de 100 especialistas em biologia, que avisa de perigos via IA. Riscos que não podem ser negligenciados, e envolvem apoio a criação de armas biológicas, como novos vírus e doenças, e em montagem de ataques maciços. Mesmo assim, segundo os pesquisadores, o valor positivo que IA pode agregar aos desenvolvimento da biologia supera os riscos em que estaríamos incorrendo. Resta-nos seguir o lema da Viagem às Estrelas: ‘ousando ir onde antes ninguém fôra”...

===
https://www.anj.org.br/a-memoria-do-mundo/
(referência ao consto de Italo Calvino, "A memória do mundo)

=

O conto vai deslizando em direção ao abismo, até que o diretor faz uma confissão. Todos o sabem lamentoso viúvo com a perda de Angela, amada esposa. O que poucos sabem é que seu casamento não fora um mar de rosas. Longe disso. Angela, a “esposa ideal”, era uma imagem carinhosamente montada e que ele preservou nos arquivos. A distância entre a Angela-informação e a Angela-real tornou-se tão grande que a única saída para não colocar em risco sua imagem ideal foi assassiná-la. No último parágrafo chega a tremenda conclusão: “se na memória ideal do mundo não há nada a corrigir, o que nos resta é corrigir a realidade, onde ela não concorda com a memória do mundo.”

=
===
https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.100-2e2023.pdf
NIST Trustworthy and Responsible AI NIST AI 100-2e2023

https://www.nist.gov/news-events/news/2024/01/nist-identifies-types-cyberattacks-manipulate-behavior-ai-systems
=

The report considers the four major types of attacks: evasion, poisoning, privacy and abuse attacks. It also classifies them according to multiple criteria such as the attacker’s goals and objectives, capabilities, and knowledge.

Evasion attacks, which occur after an AI system is deployed, attempt to alter an input to change how the system responds to it. Examples would include adding markings to stop signs to make an autonomous vehicle misinterpret them as speed limit signs or creating confusing lane markings to make the vehicle veer off the road.

Poisoning attacks occur in the training phase by introducing corrupted data. An example would be slipping numerous instances of inappropriate language into conversation records, so that a chatbot interprets these instances as common enough parlance to use in its own customer interactions.

 
Privacy attacks, which occur during deployment, are attempts to learn sensitive information about the AI or the data it was trained on in order to misuse it. An adversary can ask a chatbot numerous legitimate questions, and then use the answers to reverse engineer the model so as to find its weak spots — or guess at its sources. Adding undesired examples to those online sources could make the AI behave inappropriately, and making the AI unlearn those specific undesired examples after the fact can be difficult.

Abuse attacks involve the insertion of incorrect information into a source, such as a webpage or online document, that an AI then absorbs. Unlike the aforementioned poisoning attacks, abuse attacks attempt to give the AI incorrect pieces of information from a legitimate but compromised source to repurpose the AI system’s intended use.
=
===

https://www.nytimes.com/2024/03/08/technology/biologists-ai-agreement-bioweapons.html?auth=login-google1tap&login=google1tap
=

Dario Amodei, chief executive of the high-profile A.I. start-up Anthropic, told Congress last year that new A.I. technology could soon help unskilled but malevolent people create large-scale biological attacks, such as the release of viruses or toxic substances that cause widespread disease and death.

=

O Poder da Escolha

Se há um tema onipresente hoje é a discussão sobre Inteligência Artificial, seu poder tanto para o bem quanto para o mal, e as diversas propostas para sua regulação e conteção. No dia-a-dia, ao usarmos as ferramentas de LLM, não podemos deixar de nos maravilhar com o quão amigável é o diálogo que elas mantêm conosco, e como geram respostas plausíveis, com laivos de total verossimilhança. Há, até, os que buscam convencer a ferramenta de seus pontos de vista e, alegram-se ao conseguir que ela entregue os pontos, e reconheça que o humano estava certo.

Entretanto há mais mistérios entre o céu e a terra: um dos cientistas de dados da Meta, Colin Fraser, definiu a ferramenta como sendo projetada para “enganá-lo, no sentido de você pensar que está sempre conversando com alguém…”. Ou seja, mais do que nos fornecer respostas acuradas, os LLM buscam manter-nos em sua órbita, como “amigos virtuais”. E. parece-me. são muito bem sucedidos nessa função.

Em editorial recente, a Nature – respeitada publicação – alerta para que “cientistas podem estar confiando em excesso no que IA diz”, e aponta riscos resultantes. É tendência natural que nos apoiemos em ferramentas como IA que reduzam o esforço necessário para produzir algo, ou que nos apoiem na obtenção e tratamento dos dados necessários. Nature aponta para quatro instâncias em que o uso da IA pode trazer riscos: como “oráculo” para indicar tendências a partir dos dados que recolhe, sem que essas previsões passem por um crivo humano; em linha próxima, usando-se IA como “árbitro” da qualidade de artigos, alegadamente por ela ser potencialmente mais “neutra” que o exame “entre pares”, usual na ciência; como tendo “habilidades “sobrehumanas” na análise de vastos conjuntos de dados; finalmente como “agente complementar”, simulando a geração de dados difíceis de obter na prática. Desses quatro aspectos derivam riscos que precisam ser observados, como confundir a informação recebida da IA com um “conhecimento profundo” a ser assimilado pelo pesquisador, ou atribuir a ela uma objetividade que apenas reflete o que os dados a que ela acedeu mostram.

Entre os cientistas da área também há dispersão de avaliações. Weizenbaum, pioneiro em IA e autor do Eliza, programa de 1966 que, em texto, simulava um psicólogo dialogando com o usuário, tornou-se, décadas depois, um pessimista sobre o uso indiscriminado da ferramenta, e um auto-declarado “herético”. Um dos riscos que ele aponta, especialmente em comportamento, é que ao invés do computador simular humanos é possível que sejam os humanos que passariam a simular a máquna. Há uma boa descrição da história e das diatribes dele em artigo do The Guardian, de julho de 2023. Na revisão que fez do Eliza, Weizembaum comenta que “eu não tinha percebido como uma pequena exposição a um programa como o Eliza pode induzir depressão em pessoas normais”, Finalmente, em seu livro “O Poder do Computador e a Razão Humana”, Weizenbaum pontua que “a ciência prometeu poder ao homem, mas seu preço pode ser impotência e servidão. ‘Poder’ só tem sentido como ‘poder de escolher’”.

===
O texto da Nature:

https://www.nature.com/articles/d41586-024-00639-y
"...In one ‘vision’, which they call AI as Oracle, researchers see AI tools as able to tirelessly read and digest scientific papers, and so survey the scientific literature more exhaustively than people can. In both Oracle and another vision, called AI as Arbiter, systems are perceived as evaluating scientific findings more objectively than do people, because they are less likely to cherry-pick the literature to support a desired hypothesis or to show favouritism in peer review. In a third vision, AI as Quant, AI tools seem to surpass the limits of the human mind in analysing vast and complex data sets. In the fourth, AI as Surrogate, AI tools simulate data that are too difficult or complex to obtain."

===
O texto do The Guardian sobre Weizenbaum:

https://www.theguardian.com/technology/2023/jul/25/joseph-weizenbaum-inventor-eliza-chatbot-turned-against-artificial-intelligence-ai
"... Artificial intelligence, he came to believe, was an “index of the insanity of our world.”… Weizenbaum’s pessimism made him a lonely figure among computer scientists during the last three decades of his life; he would be less lonely in 2023."

Computer Power and Human Reason - from judgement to calculation