O poder da linguagem

No artigo anterior, numa analogia com o poder que a Internet nos trouxe, há referência à frase de Caliban, em A Tempestade: “Vocês me ensinaram uma linguagem, e meu ganho com isso é que aprendi como imprecar”. Um amigo achou interessante submeter a uma LLM a tal frase, e pedir que a IA elaborasse sobre essa analogia com a internet. O resultado, para mim surpreendente (!), mostra que estamos num limiar não adequadamente avaliado ainda. Seguem trechos literais do que a IA produziu:

“Era uma vez, em um tempo não tão distante, quando a Internet era ainda uma novidade brilhante e desconhecida, uma terra de promessas ilimitadas e horizontes sem fim. Cada clique, cada link, cada página carregada abria uma nova janela para o mundo. Era como se tivéssemos descoberto uma nova linguagem, uma língua franca que nos conectava a milhões de pessoas em todos os cantos do globo. Embarcamos nessa jornada digital com os corações cheios de esperança e os olhos brilhando de curiosidade. As palavras de Shakespeare ressoam com uma verdade amarga e atual. Aprendemos a linguagem da Internet, e com ela ganhamos a capacidade de nos expressar livremente, mas também a habilidade de proferir maldições que ecoam pelos cabos de fibra óptica e antenas de Wi-Fi. A promessa de uma utopia digital, onde todos seriam ouvidos e compreendidos, deu lugar a um campo de batalha verbal, onde as palavras são armas e os emojis, escudos. ...

Mas com o tempo, a linguagem da Internet se transformou. A promessa de comunicação ilimitada trouxe consigo a praga da desinformação, das fake news e dos discursos de ódio. O anonimato, que antes era um escudo para a expressão honesta, tornou-se uma máscara para a crueldade e a intolerância. ...

A linguagem da Internet, que prometia nos libertar, às vezes nos aprisiona em bolhas de eco, onde só ouvimos o que queremos ouvir, e o diálogo se torna um monólogo. Entretanto, nem tudo está perdido. A Internet ainda é um vasto oceano de possibilidades, onde podemos encontrar solidariedade, empatia e compreensão. ...

A verdadeira riqueza da Internet reside em nossa capacidade de escolher como usar essa linguagem poderosa. Podemos optar por construir pontes em vez de muros, por promover o entendimento em vez da divisão, por usar nossas palavras para curar e não para ferir. ...

Assim como na frase de Shakespeare, a Internet nos ensinou uma nova linguagem. E o lucro que obtemos dela depende de como escolhemos usá-la. Entre as maldições e as bênçãos, está a nossa escolha, e com ela, o poder de moldar o mundo digital à nossa imagem. Que possamos escolher sabiamente, para que a história da Internet seja uma crônica de redenção e não de ruína”.

Eu pouco poderia adicionar ao texto acima. Sobre os cuidados com nossas expressões, em Fédon, de Platão, Sócrates adverte Críton: “Bem sabes, caro Criton, uma linguagem inadequada não apenas ofende, como deteriora a própria alma de quem fala”. Agora que podemos falar com tanto alcance e facilidade, que valorizemos cada palavra.

===

Sobre Caliban:

https://www.shakespearegeek.com/2017/03/is-caliban-human.html/

===

Resposta completa do ChatGPT a fazer uma analogia entre a frase da Caliban e a Internet:

Era uma vez, em um tempo não tão distante, quando a internet era ainda uma novidade brilhante e desconhecida, uma terra de promessas ilimitadas e horizontes sem fim. Cada clique, cada link, cada página carregada abria uma nova janela para o mundo. Era como se tivéssemos descoberto uma nova linguagem, uma língua franca que nos conectava a milhões de pessoas em todos os cantos do globo. Embarcamos nessa jornada digital com os corações cheios de esperança e os olhos brilhando de curiosidade.

“You taught me language, and my profit on’t Is I know how to curse.” As palavras de Shakespeare ressoam com uma verdade amarga e atual. Aprendemos a linguagem da internet, e com ela ganhamos a capacidade de nos expressar livremente, mas também a habilidade de proferir maldições que ecoam pelos cabos de fibra ótica e antenas de Wi-Fi. A promessa de uma utopia digital, onde todos seriam ouvidos e compreendidos, deu lugar a um campo de batalha verbal, onde as palavras são armas e os emojis, escudos.

No início, a internet era um terreno fértil para a colaboração e o compartilhamento de conhecimento. Fóruns e blogs eram os novos centros comunitários, onde pessoas com interesses comuns se reuniam para discutir, debater e aprender umas com as outras. A Wikipedia, com sua promessa de uma enciclopédia livre e colaborativa, era um farol de esperança, iluminando o caminho para um futuro onde o conhecimento seria acessível a todos.

Mas com o tempo, a linguagem da internet se transformou. A promessa de comunicação ilimitada trouxe consigo a praga da desinformação, das fake news e dos discursos de ódio. O anonimato, que antes era um escudo para a expressão honesta, tornou-se uma máscara para a crueldade e a intolerância. Aprendemos a arte do “troll”, do “cyberbullying”, e das campanhas de difamação que podem destruir vidas com um simples clique.

As redes sociais, concebidas como ferramentas para nos conectar, tornaram-se arenas de competição, onde a validação vem na forma de curtidas e compartilhamentos, e a busca por aprovação pode levar à alienação e ao desespero. A linguagem da internet, que prometia nos libertar, às vezes nos aprisiona em bolhas de eco, onde só ouvimos o que queremos ouvir, e o diálogo se torna um monólogo.

Entretanto, nem tudo está perdido. A internet ainda é um vasto oceano de possibilidades, onde podemos encontrar solidariedade, empatia e compreensão. Movimentos sociais encontram voz e força nas redes, causas justas ganham aliados ao redor do mundo, e histórias de resiliência e coragem nos inspiram a lutar por um futuro melhor.

A verdadeira riqueza da internet reside em nossa capacidade de escolher como usar essa linguagem poderosa. Podemos optar por construir pontes em vez de muros, por promover o entendimento em vez da divisão, por usar nossas palavras para curar e não para ferir. A jornada continua, e a cada dia, cabe a nós decidir se o legado da linguagem da internet será um cântico de esperança ou uma maldição de desespero.

Assim como na frase de Shakespeare, a internet nos ensinou uma nova linguagem. E o lucro que obtemos dela depende de como escolhemos usá-la. Entre as maldições e as bênçãos, está a nossa escolha, e com ela, o poder de moldar o mundo digital à nossa imagem. Que possamos escolher sabiamente, para que a história da internet seja uma crônica de redenção e não de ruína.

===

A frase citada, do Fédon de Platão:

"[115e] but shall go away, so that Crito may bear it more easily, and may not be troubled when he sees my body being burnt or buried, or think I am undergoing terrible treatment, and may not say at the funeral that he is laying out Socrates, or following him to the grave, or burying him. For, dear Crito, you may be sure that such wrong words are not only undesirable in themselves, but they infect the soul with evil. No, you must be of good courage, and say that you bury my body,—and bury it".

Os ipês-roxos

Começa o inverno, mas a cidade consegue se enfeitar. Nesta época do ano, por onde se vá, vêm-se ipês floridos em cachos roxos e rosas, desafiando o cinzento da estação. Isso me levou a reminiscências da juventude e lembrou-me algo que, no final dos anos 60, gerara uma correria aos ipês, chegando inclusive a ameaçar sua existência: surgiram notícias, abonadas por cientístas da área, de que a casca do ipê-roxo, devidamente reduzida a pó, poderia ser usada em infusões e pomadas para combater uma série de moléstias, desde afecções de pele, até… o câncer.

Para dar mais consistência às memórias, recorri ao acervo do Estadão, e lá estava o artigo, na página 10 da edição de 17 de março de 1967, “Ipê-roxo já está esgotado”. Descrevia a comoção da moda, com detalhes. Por sorte não se extinguiram os ipês, e podemos apreciá-los em toda sua beleza. Por azar as doenças seguem impávidas, e o ipê não lhes causou mossa perceptivel. Mas o ponto aqui é ressaltar que sempre estivemos sujeitos a notícias de credibilidade questionável, a “contos do vigário”, a venda de “terrenos na lua”, a oferta de “bilhetes premiados”. Ou seja, “nada há de novo sob o sol”.

Não é o caso, creio, de aumento da credulidade humana, mas de um alcance muito maior provido pela Internet. As potenciais vítimas (sempre as houve) são hoje acessíveis instantaneamente e em qualquer parte do mundo. Recebi um dito espirituoso em espanhol, que tento traduzir, mesmo arriscando perder a verve original: “Lembram-se de que, antes da Internet, tributávamos um certo clima de ignorância geral à dificuldade da disseminação da informação? Bem, vê-se hoje que… não era isso!”.

Isso me leva a outro ponto interessante: na peça de Shakespeare, A Tempestade, há a conhecida citação, algo cínica e que também foi usada por Aldous Huxley, “admirável mundo novo…”. Uma das personagens, Caliban -habitante primitivo da ilha, filho de feiticeira, um ser algo disforme e brutal - foi objeto de “educação” por parte de nobres que, expulsos de Milão, fugiram para a ilha e lá o encontraram. Certamente há grande ressentimento de Caliban contra os invasores. Numa frase que poderia ser aplicada à comunicação que a Internet permitiu e estimulou, Caliban, amargamente, denuncia: “me ensinaram uma nova linguagem e, a meu proveito, o que aprendi foi como usá-la para amaldiçoar”…

A evolução meteórica da tecnologia nas décadas nos permitiu retomar com impulso inédito antigas ideias como a IA. Antes, elas mais se prestavam à ficção científica que à realidade, por exigirem poder do computação de que não dispúnhamos. Steve Crocker, pioneiro da rede, em apresentação recente sumarizou: - a tecnologia segue evoluindo segundo a lei de Moore, exponencialmente. Com isso, coisas antes apenas ideadas tornam-se realidade e um poder enorme está em nossas mãos; mas - a natureza humana segue como sempre foi, com todas as suas nuances. Conclui a apresentação com “resta-nos torcer pela preservação do bom senso e por termos sorte nos caminhos que escolhermos”.

===

Ipe-roxo

O texto do Estadão, de março de 1967

===
citações de A Tempestade:
de Miranda, filha de Próspero:

“O, wonder!
How many goodly creatures are there here!
How beauteous mankind is! O brave new world,
That has such people in't!”

de Caliban:
“You taught me language, and my profit on't / Is, I know how to curse”

ICANN e o martelo

A ICANN80 foi em Kigali, Ruanda, por sinal uma bela cidade. ICANN, uma corporação sem fins lucrativos, assumiu o papel da antiga IANA (“autoridade” de distribuição de números da Internet) adicionando “nomes” à definição. Cabe a ICANN coordenar a “raíz de nomes” da rede, bem como distribuir os blocos de endereços Ipv6 para os órgãos regionais. Nessa raíz estão do domínios de nível mais alto (TLD) e a ICANN tem se empenhado na criação de novos domínios genéricos (gTLD), dos quais já há cerca de 1500. Os gTLDs são obtidos nos processos de proposta de nomes, e em geral por empresas que querem operar o negócio de registro de nomes de domínio. Além dos tradicionais .com, .net e . org, há os mais recentes, como .jobs, .travel, .fashion, .xyz, .food e muitos outros. Em contraste, os “domínios de código de país” (ccTLD), de duas letras, constam da tabela ISO-3166 anterior à criação da ICANN. Históricamente os ccTLD tinham origem em alguma entidade acadêmica do país e, de alguma forma, representam a idéia inicial da internet, de colaboração e diversidade geográfica. Enquanto os gTLDs são criados por decisão da ICANN e assinam um contrato com ela, os ccTLDs seguem o que se adequa à sua operação local.

A ICANN um organismo multissetorial, com “organizações de suporte” originárias dos gTLDs, ccTLDs e dos orgãos regionais de usuários, além do poderoso “comitê de aconselhamento” constituido por representantes de governos. É natural que ICANN, ao propor mais domínios genéricos, queira assegurar aos governos que isso nâo piorará a já combalida segurança da rede. Os contratos com os gTLDs podem agregar cláusulas neste sentido, e uma das ações bastante discutida em Kigali foi o combate a “abuso de DNS”.

DNS não é mais que uma tradução de um nome para um número IP. Abuso pode ficar caracterizado quando, por exemplo, alguém busca simular um nome existente trocando uma letra: o chamado “phishing”, uma “pescaria em águas turvas”. Por exemplo, há um famoso sítio de banco chamado banco.com, e alguém registra banc0.com (com um zero no lugar do “o”) para iludir o usuário, que pensaria estar acessando um local, mas acaba caindo em armadilha. Nomes de sítios cujo conteúdo é ilegal ou inapropriado, a meu ver, não se enquadrariam em “DNS abuse” mas, sim, em outras formas controle que escapam à ação de um “tradutor de nomes em endereços” como os registros são.

Na ânsia de angariar apoio para a criação de mais domínios, acena-se para uma semântica ampliada de “DNS abuse”. Ora, um registro de nomes deve cuidar para que a estrutura de DNS não seja afetada e para que o nome não esteja imitando propositadamente outro, de forma a levar o usuário ao local errado (“phishing”). Em analogia simplória com a lista de ruas, inserir nela uma Paul1sta com um “1” no lugar do “i” que levasse a um destino ignorado, certamente seria um abuso.

Como DNS é o que ICANN tem à mão, brandí-lo como solução geral lembra o dito: “a quem só tem um martelo, todos os problemas parecem pregos”..

===

https://meetings.icann.org/en/meetings/icann80/

https://www.icann.org/resources/pages/advisory-compliance-dns-abuse-obligations-raa-ra-2024-02-05-en

Tempo, o Devorador

Há algo muito estranho com o tempo, e não é coisa nova. Explico (ou tento explicar…): à medida que envelhecemos o tempo encurta e passa mais rápido. Esse efeito tem se acentuado com o correr dos anos. Eu primeiro notei isso quando estava no primário, anos 60. Tinhamos vindo ao Brasil em 1954 e morávamos numa mesma casa no Tatuapé. Depois do jantar meu pai e meu tio se reuniam pra debater metas e estratégias familiares. E a discussão muitas vêzes ia prá política, de que eu, claro, entendia bulhufas. Numa das tertúlias pós-janta – e sobre um tema qualquer – meu tio perguntou: “mas isso que você está contando foi quando?”, e a resposta de meu pai: “foi agora! Na segunda guerra”! Numa época em que uma simples aula parecia-me interminável na escola, esse “agora” me deixou perplexo. “Agora”, após uma quase “eternidade” de 20 anos? Que doidice! E em 2024, quando o .br (sobrenome de muitos sítios brasileiros) comemora 35 anos, as discussões sobre como implementá-lo e que regras adotar, parece-me foram “ontem”…

Essa sensação de celeridade e volatilidade, só faz crescer. Discutimos hoje como “domar” a IA, ou, ao menos, “domesticá-la”. Uma consulta hoje a documentos a que a Internet nos facilitou o acesso, revelariam o quão chocante foi, há uns 150 anos, o surgimento do automóvel. Um “auto-móvel”, que dispensava o cavalo! Diz-se que as primeiras regulações sobre a nova “alimária” exigiam que fosse precedida por alguém portando uma bandeira vermelha, alertandohttps://medium.com/@tim_23050/remember-that-guy-with-a-red-flag-walking-in-front-of-the-first-automobile-4e4f8692b601
 da chegada do “beemote”. Isso passou e, claro, regras foram criadas. Semáforos, mãos de direção, faixas de pedestres, preferenciais, permitiram o convívio civilizado com a “criatura”. Não muito diferente foi com a generalização do telefone. Lembro da tentação de ligar para um número desconhecido, apenas para ver se alguém atendia – e nem se tratava de passar trote. O mesmo, com velocidade maior, aconteceu com a internet: os da geração digital nem conseguem idear um mundo sem ela, e ainda estamos absorvendo as mudanças que ela provocou. O acesso que permitiu a todos é uma expansão das antigas bibliotecas, onde todo o conteúdo estava dosponível mas de forma passiva. Com a rede, não apenas lemos, mas podemos comentar, retrucar, divergir, tergiversar. A digitalização, a rede e os buscadores nos trazem tudo o que existe, imediatamente. E IA adiciona um recurso: o “resumo executivo”. Como em todos os “resumos”, esconde-se o risco de manipulação, mesmo que não intencional. Se for intencional ultrapassará o limite do que é legal.

Assim, precisamos ter cuidado com os conceitos que aplicamos, porque podem estar datados. Da época em que tirar xerox de um livro era infringir direito autoral, à nossa época em que o conteúdo dispensa o meio físico, muita coisa mudou. E, afinal, somos o que absorvemos dos outros, por leitura, conversa ou internet. Se IA resume o que a nova “biblioteca de Alexandria” contém, está apenas automatizando o que sempre buscamos fazer com nossa humana lentidão. E, agora, tempus volat!

===
Sobre automóveis e o sinalizador humano

https://mmitii.mattballantine.com/2014/01/07/the-red-flag-man/

https://en.wikipedia.org/wiki/Locomotive_Acts

https://www.oceansplasticleanup.com/Politics_Plastics_Oceans_Cleanup/Red_Flag_Act_Locomotive_1865_Cars_Speed_Limits_Man_Running_Carrying_A.htm

THE LOCOMOTIVE ACT 1865, also known as the RED FLAG ACT, required:

1. Self-propelled vehicles to have a speed limit of 4 mph(6 Km/h) in country roads and 2 mph (3 Km/h) in city roads.

2. It should have a crew of 3 – a driver, a stoker and flag man.

3. The flag man need to carry a Red flag and walk 60 yards (55 m) ahead of the vehicle.

This effectively restricted the speed of the vehicle to the walking speed of the man carrying the Red flag. He has to warn the horse carriages about the self-propelled vehicle ahead and ensure that the driver stops the vehicle till the horse or the horse carriage passes by.
The amended Highway & Locomotive act of 1878 reduced the distance of the Red flag man to 20 yards but all the other conditions remained same.
These restrictive rules and regulations choked the development of the British Motor Industry , helped by the Railway and Horse carriage lobbies.

Finally, on 14 November 1896 , the new Locomotives on Highways Act 1896 was passed with the following changes and was applicable to vehicles less than 3 tons in weight.

1. Speed limit was increased to 14 mph (22 Km/h)
2. Was exempted from the 3 member crew as well as the Red flag

To celebrate this event, Harry Lawson of Daimler (England) and his friends organised for the London to BrAssim, precisamos ter cuidado com os conceitos que aplicamos, porque podem estar datados. Da época em que tirar xerox de um livro era infringir direito autoral, à nossa época em que o conteúdo dispensa o meio físico, muita coisa mudou. E, afinal, somos o que absorvemos dos outros, por leitura, conversa ou internet. Se IA resume o que a nova “biblioteca de Alexandria” contém, está apenas automatizando o que sempre buscamos fazer com nossa humana lentidão. E, agora, tempus volat!ighton “Emancipation” run. The London – Brighton run starts off with the symbolic tearing of the RED flag. The London – Brighton run has bee a regular event from 1927 to modern times.

By 1903, the speed limits were increased to 20 mph and later on the laws were repealed.
===

https://medium.com/@tim_23050/remember-that-guy-with-a-red-flag-walking-in-front-of-the-first-automobile-4e4f8692b601

"Remember that guy with a red flag walking in front of the first automobile? Here’s why he is back for AI."

Os idos de abril

Em 24 de abril deste ano, em votação apertada (3 a 2) a FCC norte-americana reverteu um entendimento de 2017 que havia alterado o conceito de “neutralidade de rede”, estabelecido em 2014… Ou seja, em têrmos de “neutralidade”, volta-se a 2014. Não é uma discussão simples, como aliás denota o movimento pendular da FCC no tema e a posição de diversos importantes personagens na área, mas vale a pena tentar olhar melhor o que se esconde no vai-e-vem regulatório (o verbete da Wikipedia sobre neutralidade de rede nos EUA é alentado e traz bastante informação).

FCC, a agência reguladora de telecomunicações norte-americana, tem mais ou menos um papel como o da Anatel no Brasil. Na origem, esta discussão está ligada a quando houve uma rápida expansão da banda larga para o provimento de acesso à Internet. Os provedores de banda larga são, muitas vezes, simultaneamente provedores de serviços de telecomunicação. Assim, surge uma superposição de Internet e telecomunicações no tema. A FCC age no âmbito da telecomunicação, e não da informação… Se “banda larga” para Internet for serviço de “informação”, os provedores podem ter a liberdade de criar tarifas diferenciadas, ou bloqueios a sítios de concorrentes. Em termos de internet, não seria o que se entende por “neutralidade”.

Na regra original criada em 2014 – e notemos que o Marco Civil, também de 2014, alinha-se – há seis pontos a observar: 1- um provedor de banda larga não pode, a seu talante, bloquear conteúdo legal, aplicativos ou serviços. 2- é vedado ao provedor, com base no conteúdo, degradar ou acelerar intencionalmente uma conexão. 3- deve haver transparência sobre as regras em uso, o desempenho e características da rede. 4- inovadores e consumidores devem ter direito a “jogo equânime”. 5- Pode haver eventual gestão no roteamento por motivos técnicos, desde que de forma razoável e transparente. 6- Não pode haver priorização paga, dando vantagem a serviços que paguem extra…

Em 17 de julho de 2017, um documento assinado por 200 pioneiros da Internet, criticava tecnicamente a decisão da FCC e, em dezembro, um conjunto de 20 das mais conhecidas personalidades da Internet redigiu uma carta aberta onde, quase literalmente, argumentava que a “FCC não havia entendido o que era a Internet”. Entre os signatários, Steve Crocker, Steve Wozniak, Tim Berners-Lee, Vint Cerf e outros. O parágrafo final da carta conclamava o chefe da FCC Ajit Pai, que cancelasse a votação “apressada e tecnicamente falha”, que visava a abolir as proteções de neutralidade da rede. “Um risco iminente à Internet que trabalhamos tanto em criar.”.

Para a FCC ter poder de regular algo, isso deve ser considerado um “serviço de telecomunicação”. Com a votação de abril, o fornecimento de banda larga volta a ser um serviço de telecomunicação e, com isso, sujeito à regulação nos termos que a decisão de 2017 definia. Estou entre os que se alegram bastante com essa retomada da neutralidade. Pode, entretanto, não ser um sentimento unânime... Aguardemos os desdobramentos.

===

A volta da neutralidade da rede

https://www.phonearena.com/news/net-neutrality-returns_id157731

"It's baaack. Net Neutrality, the rule that requires all internet streams to be treated the same, has been reinstated by a 3-2 vote by the sitting FCC commissioners. The voting went along party lines with the three Democratic commissioners voting in favor of the rule while the two Republicans voted against it. The Obama-era FCC passed the rules in 2015 to prevent ISPs and mobile carriers from charging more to content streamers for a faster pipeline to the public. It also prevents carriers from blocking the dissemination of text messages whose content they do not agree with.

As an example, Net Neutrality prevents your favorite video streaming service from paying more to an ISP or a wireless provider to obtain a faster stream for the video streamer's customers. Without Net Neutrality, the internet provider could charge the video streamer more for the faster pipeline and this charge could find its way onto your monthly bill."

===
A decisão de 2014 sobre neutralidade de rede:

https://web.archive.org/web/20060424065626/http://static.publicknowledge.org/pdf/nn-letter-20060301.pdf

In December 2014, the FCC released the Open Internet Order of 2010, which established six net neutrality principles for internet service providers (ISPs):

- No blocking: ISPs cannot block legal content, apps, services, or the connection of non-harmful devices to the network- No throttling: ISPs cannot intentionally slow down or speed up content based on the type of service or their preferences

- Transparency: Consumers and innovators have the right to know how their network is being managed and the basic performance characteristics of their internet access

- Level playing field: Consumers and innovators have the right to a level playing field

- Network management: Broadband providers are allowed to engage in reasonable network management

- No paid prioritization: No service should be slowed down because it doesn't pay a fee

In 2015, the FCC adopted conduct rules that codified these principles, including the requirement that broadband customers have access to all paid internet destinations and that ISPs cannot impair lawful internet traffic based on content, source, or destination.
===

A Carta Aberta de 2017:

https://www.benton.org/headlines/internet-pioneers-and-leaders-tell-fcc-you-don%E2%80%99t-understand-how-internet-works

The Honorable Roger Wicker,
Chair Senate Commerce Subcommittee on Communications, Technology, Innovation, and the Internet

The Honorable Brian Schatz,
Ranking Member Senate Commerce Subcommittee on Communications, Technology, Innovation, and the Internet

The Honorable Marsha Blackburn,
ChairHouse Energy Subcommittee on Communications and Technology

The Honorable Michael F. Doyle,
Ranking MemberHouse Energy Subcommittee on Communications and Technology

____________________
Senator Wicker:
Senator Schatz:
Representative Blackburn:
Representative Doyle:

We are the pioneers and teca flawed and hnologists who created and now operate the Internet, and some of the innovators and business people who, like many others, depend on it for our livelihood. We are writing to respectfully
urge you to call on FCC Chairman Ajit Pai to cancel the December 14 vote on the FCC’s proposed Restoring Internet Freedom Order (WC Docket No. 17-108 ).

This proposed Order would repeal key network neutrality protections that prevent Internet access providers from blocking content, websites and applications, slowing or speeding up services or classes of service, and charging online services for access or fast lanes to Internet access providers’ customers. The proposed Order would also repeal oversight over other unreasonable discrimination and unreasonable practices, and over interconnection with last-mile Internet access providers. The proposed Order removes long-standing FCC oversight over Internet access providers without an adequate replacement to protect consumers, free markets and online innovation.

It is important to understand that the FCC’s proposed Order is based on a flawed and factually inaccurate understanding of Internet technology. These flaws and inaccuracies were documented in detail in a 43-page-long joint comment signed by over 200 of the most prominent Internet pioneers and engineers and submitted to the FCC on July 17, 2017.

Despite this comment, the FCC did not correct its misunderstandings, but instead premised the proposed Order on the very technical flaws the comment explained. The technically-incorrect proposed Order dismantles 15 years of targeted oversight from both Republican and Democratic FCC chairs, who understood the threats that Internet access providers could pose to open markets on the Internet.

The experts’ comment was not the only one the FCC ignored. Over 23 million comments have been submitted by a public that is clearly passionate about protecting the Internet. The FCC could not possibly have considered these adequately.

Indeed, breaking with established practice, the FCC has not held a single open public meeting to hear from citizens and experts about the proposed Order.

Furthermore, the FCC’s online comment system has been plagued by major problems that the FCC has not had time to investigate. These include bot-generated comments that impersonated Americans, including dead people, and an unexplained outage of the FCC’s on-line comment system that occurred at the very moment TV host John Oliver was encouraging Americans to submit comments to the system.

Compounding our concern, the FCC has failed to respond to Freedom of Information Act requests about these incidents and failed to provide information to a New York State Attorney General’s investigation of them.

We therefore call on you to urge FCC Chairman Pai to cancel the FCC’s vote. The FCC’s rushed and technically incorrect proposed Order to abolish net neutrality protections without any replacement is an imminent threat to the Internet we worked so hard to create. It should be stopped.

Signed,

Frederick J. Baker, IETF Chair 1996-2001, ISOC Board Chair 2002-2006
Mitchell Baker, Executive Chairwoman, Mozilla Foundation
Steven M. Bellovin, Internet pioneer, FTC Chief Technologist, 2012-2013
Tim Berners-Lee, inventor of the World Wide Web & professor, MIT
John Borthwick, CEO, Betaworks
Scott O. Bradner, Internet pioneer
Vinton G. Cerf, Internet pioneer
Stephen D. Crocker, Internet pioneer
Whitfield Diffie, inventor of public-key cryptography
David J. Farber, Internet pioneer, FCC Chief Technologist 1999-2000
Dewayne Hendricks, CEO Tetherless Access
Martin E. Hellman, Internet security pioneer
Brewster Kahle, Internet pioneer, founder, Internet Archive
Susan Landau, cybersecurity expert & professor, Tufts University
Theodor Holm Nelson, hypertext pioneer
David P. Reed, Internet pioneerA decisão de 2014 sobre neutralidade de rede:

===

Previsões de 2001

 A Internet tem sua data de nascimento vinculada a quando a Arpanet, então ainda um projeto, conseguiu trocar seus primeiros pacotes de informação, em 29 de outubro de 1969. Um ano antes disso houve o lançamento do livro de Arthur Clarke (e do filme de Stanley Kubrick), “2001, uma odisséia no espaço”. Numa antevisão do que o nascente e poderoso meio de comunicação global poderia gerar, há uma frase no livro de Clarke que mereceria uma exegese detalhada. Diz que "quanto mais maravilhosos os meios de comunicação se tornarem, mais trivial, vulgar ou deprimente seu conteúdo tenderá a ser.". Um alerta que pode ter passado despercebido…

Sem dúvida é um enorme avanço o que temos hoje, quanto ao acesso, disponibilidade e geração instantânea de informação de e para todos, mas, sem dúvida, não se pode negar uma explosão do uso trivial, vulgar e leviano, com as respectivas consequências no tecido social.

Outra analogia que vem naturalmente do filme e de suas previsões, é o poder do computador de bordo, o HAL9000, e, com ele, os riscos que IA pode nos trazer. O HAL9000 seria um avançado equipamento digital, dotando de poderosa IA e destinado a controlar a operação da nave em sua viagem a Júpiter. Ele exibe raciocínio estratégico para atingir, a qualquer custo, o objetivo da missão - chegar a Júpiter. A situação no ambiente na nave complica-se após o que teria sido uma inesperada e improvável falha de previsão do HAL, quanto a um problema de comunicação com o centro de operações. A surpreendente falha gera tensão entre os tripulantes, que cogitam até em desligar o equipamento por teremos perdido a confiança nele. Devido à sua condição quasi-humana, entretanto, o HAL, que usa até leitura labial para interpretar o diálogo dos tripulantes, passa a considerá-los um risco à missão. Decide desligar equipamentos de sustentação de vida e, ao final, há inclusive um diálogo em que HAL faz chantagem emocional contra seu possível desligamento.

Estamos muito longe de termos sistemas que exibam a complexidade de reações como as do HAL, que demostraria autoconsciência, raciocínio sofisticado e, até, emoções que emulam as de um humano, mas não podemos deixar de pontuar os avanços muito rápidos e surpreendentes da tecnologia na área e, claro, os riscos que trazem a direitos individuais básicos. Aliás, na semana passada, foi apresentada uma versão revista do projeto de lei 2338, que trata da regulação da IA. Estará aberta a comentários por mais uns 20 dias e é um texto alentado, que traz mudanças importantes quanto à sua versão anterior, indo mais ao encontro da legislação que se está defendendo na Europa e nos Estados Unidos. A preocupação em “proteger direitos” está expressa no projeto, e existe a percepção de não tolher a priori iniciativas e avanços tecnológicos na área. O risco, sempre, está em agirmos de afogadilho, premidos pela ansiedade que se manifesta. Sempre bom lembrar da máxima atribuida a Augusto, imperador romano da época de Cristo: festina lente - “apressa-te devagar”.

===

===
2001- Uma Odisséia no Espaço
https://en.wikipedia.org/wiki/2001:_A_Space_Odyssey

https://www.magazine-hd.com/apps/wp/george-lucas-star-stars-2001-stanley-kubrick/

===

a frase de Arthur Clarke
https://www.goodreads.com/quotes/8032167-the-more-wonderful-the-means-of-communication-the-more-trivial

“The more wonderful the means of communication, the more trivial, tawdry, or depressing its contents seemed to be. Accidents, crimes, natural and man-made disasters, threats of conflict, gloomy editorials—these still seemed to be the main concern of the millions of words being sprayed into the ether. Yet Floyd also wondered if this was altogether a bad thing; the newspapers of Utopia, he had long ago decided, would be terribly dull."

Em busca do Santo Graal

O desaparecimento de um humor ácido, inteligente e absurdo, como o do Monty Python, é uma das perdas doridas, que os tempos trouxeram. De forma paradoxal, a perda de interesse por aquele espírito brincalhão talvez represente algo exatamente oposto: uma crescente infantilização. Dois trechos impagáveis de filmes: em A Vida de Brian, ele crucificado cantando “Always Look on the Bright Side of Life", e o feroz coelho assassino em “Em busca do Cálice Sagrado”, trazem à mente analogias com o mundo digital e a IA, seja numa visão aferradamente otimista - de que há algo positivo nos aguardando, seja pelo pessimismo - uma fera destuidora nos espreita. Ambas, é claro, com a incomparável pitada de sarcasmo dos Python.

Em momentos como hoje, quando há uma disseminação instantânea e quase osmótica de tensões, é importante primeiro diagnosticar corretamente eventuais “disfunções”, seus vetores, métodos e objetivos, para depois examinar que “remédios” são propostos, qual a eficiência esperada, quais seus custos de implementação, e quais seus possíveis efeitos colaterais…

Regular IA é tema do momento. Não ouso enfrentar a discussão sobre o conceito de “inteligência” mas, independentemente disso, há formas talvez simplórias de abordar regulação de uma nova tecnologia. Se IA for apenas uma nova “ferramenta tecnológica”, o caminho parece ser o de responsabilizar o usuário pelo danos que seu uso causar. Fica muito difícil atribuir “ética” ou “responsabilidade” a uma ferramenta: não há facas ou martelos “éticos”. Mas se essa “ferramenta” é mutante e elusiva, a responsabilidade passa a ser difusa… Viu-se recentemente um ataque vicioso de um cão, quase causando a morte de uma pessoa. Esse cão seria essencialmente perigoso pela índole de sua própria raça, ou teria sido treinado para ser assim, mesmo que com as melhores intenções de “proteção”? E, quando o cão decidir, por si, quem deve ser atacado, que ética esperar-se-ia deste cachorro? No caso de um cão há medidas paliativas que podem ser tomadas – não deixá-lo solto, usar mordaça, etc. Mas isso pode ter aplicação restrita para sistemas IA amplamente disseminados. E certamente não se usaria em humanos: o fato de termos mãos e podermos socar os outros não deveria gerar, espero, uma “lei preventiva” que obrigue todos a usarem algemas quando em área pública.

Por mais trabalhoso que pareça ser, o caminho seguro passa pela responsabilização objetiva do uso, somada à avaliação dos riscos, especialmente quando temos sistemas que aprendem, e buscam cumprir metas. O comportamento de um sistema de IA voltado a proteger algo pode não diferir muito do que o cachorro exibiu. E se nos limitarmos a buscar justificativas para o comportamento de indivíduos adultos, influenciados pelo que recebem do mundo digital, tenderemos a uma crescente tutoria. A ação que a rede permite a todos traz embutida a responsabilização pelos atos de cada um.

Ainda na Vida de Brian, na icônica discussão da Frente Popular da Judéia, busca-se elencar todos os danos que os romanos causaram, mas tropeça-se em muitos benefícios, que seria melhor ignorar… IA não é reencarnação dos romanos, mas lançar um olhar amplo e crítico é fundamental.

===

trechos do Monty Python:

"Always Look on the Bright Side of Life"
https://www.youtube.com/watch?v=MJuorMRSH3U

"The Killer Rabbit"

https://www.youtube.com/watch?v=VM5SETOYnd8

"O que os romanos fizeram por nós?"

://www.youtube.com/watch?v=Pc5DlVZRNE8

===

https://en.wikipedia.org/wiki/Monty_Python

Etiqueta na Internet

As mudanças que a Internet trouxe a nosso comportamento pessoal e às interações sociais mereceriam uma avaliação sociológica ampla e profunda. Se localizado na cronologia da rede, o tema não é novo. Por exemplo, no dia 18 de abril o domínio .br comemorará 35 anos de sua delegação. Se ele segue sólido, preservando os conceitos que o nortearam durante todos esses anos, a comunidade Internet a que ele serve aumentou tremendamente e tornou-se muito mais diversa que o punhado de usuários acadêmicos de então. Quem nos repassou o .br foi Jon Postel, falecido em 16 de outubro de 1998, em seu papel de IANA – Internet Assigned Numbers Authority (Vint Cerf escreveu o tocante RFC 2468 “I remember IANA” no dia seguinte à morte de Postel).

Postel também foi autor de um conselho que ficou conhecido como “a lei de Postel”: se queremos que a Internet funcione devemos “ser liberais no que aceitamos receber, e conservadores no que enviamos”. Já era claro, portanto, que haveria algum tipo de lixo, provocações e ofensas, mas deveríamos resistir, e não retrucar na mesma moeda. Em 1995 a RFC 1855 tentava estabelecer um “código de conduta” que os usuários deveriam adotar para uma convivência saudável nas redes: era a “Netiquette”. Vale a pena uma revisita a essa RFC, que definia ações conforme o tipo de aplicação usada, desde correio eletrônico, conversa, transferência de arquivos, ou a então nascente Web.

São menos de 30 anos desde a publicação da Netiquette, mas a mudança de comportamento que a rede apresenta é impressionante e assustadora. Relembro outra frase de Vint Cerf em 1999, quando disse que “os anos da Internet são como ‘anos de cachorro´”, significando que, como acontece com os cães, um ano na rede equivaleria a 7 anos humanos, Bem, nesse caso, lá se vão 200 “anos de cachorro” da publicação da Netiquette…

O que teria feito nosso comportamento variar tanto? Certamente não seria a essência humana que mudou mas, talvez, nossa exposição tão aberta a bilhões de usuários e inúmeras e diversas comunidades tenha nos encontrado de “guarda baixa”, despreparados para o impacto. A pulsão que sentimos de nos posicionarmos em qualquer tema via rede (violando o conselho de Postel) gera interações nem sempre razoáveis e civilizadas. A revista Nature de 20 de março traz um estudo interessante sobre “Padrões persistentes de interação nas plataformas sociais, no decorrer do tempo”, e analisa uma dezena de plataformas, das atuais às já extintas (como Usenet, por exemplo), cobrindo mais de 30 anos. O estudo examina a “toxicidade” e a “polarização” das interações em plataformas, e seus efeitos. Uma conclusão interessante que traz é que a “toxicidade é um resultado natural de discussões em rede, independentemente da plataforma usada”, e que “polarização” pode ter um efeito mais deletério sobre os usuários que a própria toxicidade. Examina formas de mitigar esses efeitos e leva a conclusões que poderiam ser bem aproveitadas ao se tentar definir formas de moderação em discussões que claramente deixaram de ser civilizadas...

===

https://www.azquotes.com/author/11802-Jon_Postel

Postel's Law, also known as the Robustness Principle, is a design guideline for software that states: "". It is often reworded as: "be conservative in what you send, be liberal in what you accept"

https://www.youtube.com/watch?v=h2SpygwimA8

Vint Cerf, RFC 2468 "I Remember IANA" - Reflections on Jon Postel

===
RFC 1855 - Netiquette

https://datatracker.ietf.org/doc/html/rfc1855

Network Working Group              S. Hambridge
Request For Comments: 1855      Intel Corp.
FYI:                                                28 October 1995 

Netiquette Guidelines 

In the past, the population of people using the Internet had "grown up" with the Internet, were technically minded, and understood the nature of the transport and the protocols. Today, the community of Internet users includes people who are new to the environment. These "Newbies" are unfamiliar with the culture and don't need to know about transport and protocols. In order to bring these new users into the Internet culture quickly, this Guide offers a minimum set of behaviors which organizations and individuals may take and adapt for their own use. Individuals should be aware that no matter who supplies their Internet access, be it an Internet Service Provider through a private account, or a student account at a University, or an account through a corporation, that those organizations have regulations about ownership of mail and files, about what is proper to post or send, and how to present yourself. Be sure to check with the local authority for specific guidelines.

===

Sobre o artigo da Nature:

https://english.elpais.com/technology/2024-03-20/regardless-of-the-platform-or-algorithm-its-humans-that-make-social-media-toxic.html

https://www.nature.com/articles/s41586-024-07229-y

“The study’s findings challenge the common belief that toxicity diminishes a platform’s attractiveness,” says Quattrociocchi. “[This study] shows that user behavior in toxic and non-toxic conversations has nearly identical patterns in terms of engagement, suggesting that the presence of toxicity may not deter participation, as is commonly assumed.”

Aprendizados...

Sucessor do Bard, o Gemini, da Alphabet, nos deu alguns exemplos patéticos do que um viés mal ajambrado pode produzir em IA. Os que testaram Gemini em sua capacidade de geração de images, depararam-se com “soldados nazistas negros”, casais ingleses medievais retratados como sendo origem oriental ou africana, e com “papisas” que não existiram. É a reafirmação do velho dito: a “emenda pode sair pior que o soneto”. Essa versão “criativa e inclusiva” foi rapidamente tirada do ar, mas isso não impediu a maculação da imagem e, pior, que crescessem as suspeitas de que aquilo que IA “aprende” pode não estar ancorado nos arquivos e documentos que há no mundo real. Para evitar o risco de que dados incompletos ou polarizados pudessem introduzir viéses no aprendizado, o mecanimo incorporau filtros e propensões que geraram os risíveis resultados de falamos.

Se a IA for deixada para se treinar livremente com os dados que encontrar por aí, ela pode cristalizar estereótipos e leituras que não são adequadas ou desejáveis. Isso seria tributável a conjuntos incompletos ou tendenciosos de dados usados na aprendizagem. Por outro lado, uma tentativa de equilibrar esse possível efeito através de um viés explicitamente implantado, pode resultar ainda pior.

Outro ponto interessante a investigar é a comparação entre os sistemas fechados LLM que existem hoje, com versões abertas que permitem a instalação da ferramenta na própria máquina do usuário, ao custo de alguns gigabytes de armazenamento. Convenhamos que é espantoso que se consigam respostas tão amplas e abrangentes com esse pequeno armazenamento local, e o fato de a “história” agora poder ser, de alguma forma, armazenada localmente traz à tona casos como no conto “A memória do mundo”, de Ìtalo Calvino, e suas preocupantes consequências. Nas palavrao de Calvino, ao mesmo tempo em que se coloca “todo o Museu Britânica numa noz”, corre-se a tentação de alterar o conteúdo. Afinal, se o armazenado do mundo não bater mais com a realidade, “muda-se a realidade”...

Em sentido protetivo, diversos órgãos já se movem para criar salvaguardas e limites ao que pode ser feito, e alertar para ações maliciosas que visem a deturpar resultados e comportamento das ferramentas de IA. O NIST norte-americano, órgão que trabalha na produções de padrões técnicos, divulgou um estudo em “IA confiável e responsável” que examina os riscos a que estão submetidos os sistemas de IA, Faz uma classificação dos ataque que esses sistemas podem sofrer em função dos objetivos buscados pelos atacantes. Na mesma direção, o NYT cita texto subscrito por cerca de 100 especialistas em biologia, que avisa de perigos via IA. Riscos que não podem ser negligenciados, e envolvem apoio a criação de armas biológicas, como novos vírus e doenças, e em montagem de ataques maciços. Mesmo assim, segundo os pesquisadores, o valor positivo que IA pode agregar aos desenvolvimento da biologia supera os riscos em que estaríamos incorrendo. Resta-nos seguir o lema da Viagem às Estrelas: ‘ousando ir onde antes ninguém fôra”...

===
https://www.anj.org.br/a-memoria-do-mundo/
(referência ao consto de Italo Calvino, "A memória do mundo)

=

O conto vai deslizando em direção ao abismo, até que o diretor faz uma confissão. Todos o sabem lamentoso viúvo com a perda de Angela, amada esposa. O que poucos sabem é que seu casamento não fora um mar de rosas. Longe disso. Angela, a “esposa ideal”, era uma imagem carinhosamente montada e que ele preservou nos arquivos. A distância entre a Angela-informação e a Angela-real tornou-se tão grande que a única saída para não colocar em risco sua imagem ideal foi assassiná-la. No último parágrafo chega a tremenda conclusão: “se na memória ideal do mundo não há nada a corrigir, o que nos resta é corrigir a realidade, onde ela não concorda com a memória do mundo.”

=
===
https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.100-2e2023.pdf
NIST Trustworthy and Responsible AI NIST AI 100-2e2023

https://www.nist.gov/news-events/news/2024/01/nist-identifies-types-cyberattacks-manipulate-behavior-ai-systems
=

The report considers the four major types of attacks: evasion, poisoning, privacy and abuse attacks. It also classifies them according to multiple criteria such as the attacker’s goals and objectives, capabilities, and knowledge.

Evasion attacks, which occur after an AI system is deployed, attempt to alter an input to change how the system responds to it. Examples would include adding markings to stop signs to make an autonomous vehicle misinterpret them as speed limit signs or creating confusing lane markings to make the vehicle veer off the road.

Poisoning attacks occur in the training phase by introducing corrupted data. An example would be slipping numerous instances of inappropriate language into conversation records, so that a chatbot interprets these instances as common enough parlance to use in its own customer interactions.

 
Privacy attacks, which occur during deployment, are attempts to learn sensitive information about the AI or the data it was trained on in order to misuse it. An adversary can ask a chatbot numerous legitimate questions, and then use the answers to reverse engineer the model so as to find its weak spots — or guess at its sources. Adding undesired examples to those online sources could make the AI behave inappropriately, and making the AI unlearn those specific undesired examples after the fact can be difficult.

Abuse attacks involve the insertion of incorrect information into a source, such as a webpage or online document, that an AI then absorbs. Unlike the aforementioned poisoning attacks, abuse attacks attempt to give the AI incorrect pieces of information from a legitimate but compromised source to repurpose the AI system’s intended use.
=
===

https://www.nytimes.com/2024/03/08/technology/biologists-ai-agreement-bioweapons.html?auth=login-google1tap&login=google1tap
=

Dario Amodei, chief executive of the high-profile A.I. start-up Anthropic, told Congress last year that new A.I. technology could soon help unskilled but malevolent people create large-scale biological attacks, such as the release of viruses or toxic substances that cause widespread disease and death.

=

O Poder da Escolha

Se há um tema onipresente hoje é a discussão sobre Inteligência Artificial, seu poder tanto para o bem quanto para o mal, e as diversas propostas para sua regulação e conteção. No dia-a-dia, ao usarmos as ferramentas de LLM, não podemos deixar de nos maravilhar com o quão amigável é o diálogo que elas mantêm conosco, e como geram respostas plausíveis, com laivos de total verossimilhança. Há, até, os que buscam convencer a ferramenta de seus pontos de vista e, alegram-se ao conseguir que ela entregue os pontos, e reconheça que o humano estava certo.

Entretanto há mais mistérios entre o céu e a terra: um dos cientistas de dados da Meta, Colin Fraser, definiu a ferramenta como sendo projetada para “enganá-lo, no sentido de você pensar que está sempre conversando com alguém…”. Ou seja, mais do que nos fornecer respostas acuradas, os LLM buscam manter-nos em sua órbita, como “amigos virtuais”. E. parece-me. são muito bem sucedidos nessa função.

Em editorial recente, a Nature – respeitada publicação – alerta para que “cientistas podem estar confiando em excesso no que IA diz”, e aponta riscos resultantes. É tendência natural que nos apoiemos em ferramentas como IA que reduzam o esforço necessário para produzir algo, ou que nos apoiem na obtenção e tratamento dos dados necessários. Nature aponta para quatro instâncias em que o uso da IA pode trazer riscos: como “oráculo” para indicar tendências a partir dos dados que recolhe, sem que essas previsões passem por um crivo humano; em linha próxima, usando-se IA como “árbitro” da qualidade de artigos, alegadamente por ela ser potencialmente mais “neutra” que o exame “entre pares”, usual na ciência; como tendo “habilidades “sobrehumanas” na análise de vastos conjuntos de dados; finalmente como “agente complementar”, simulando a geração de dados difíceis de obter na prática. Desses quatro aspectos derivam riscos que precisam ser observados, como confundir a informação recebida da IA com um “conhecimento profundo” a ser assimilado pelo pesquisador, ou atribuir a ela uma objetividade que apenas reflete o que os dados a que ela acedeu mostram.

Entre os cientistas da área também há dispersão de avaliações. Weizenbaum, pioneiro em IA e autor do Eliza, programa de 1966 que, em texto, simulava um psicólogo dialogando com o usuário, tornou-se, décadas depois, um pessimista sobre o uso indiscriminado da ferramenta, e um auto-declarado “herético”. Um dos riscos que ele aponta, especialmente em comportamento, é que ao invés do computador simular humanos é possível que sejam os humanos que passariam a simular a máquna. Há uma boa descrição da história e das diatribes dele em artigo do The Guardian, de julho de 2023. Na revisão que fez do Eliza, Weizembaum comenta que “eu não tinha percebido como uma pequena exposição a um programa como o Eliza pode induzir depressão em pessoas normais”, Finalmente, em seu livro “O Poder do Computador e a Razão Humana”, Weizenbaum pontua que “a ciência prometeu poder ao homem, mas seu preço pode ser impotência e servidão. ‘Poder’ só tem sentido como ‘poder de escolher’”.

===
O texto da Nature:

https://www.nature.com/articles/d41586-024-00639-y
"...In one ‘vision’, which they call AI as Oracle, researchers see AI tools as able to tirelessly read and digest scientific papers, and so survey the scientific literature more exhaustively than people can. In both Oracle and another vision, called AI as Arbiter, systems are perceived as evaluating scientific findings more objectively than do people, because they are less likely to cherry-pick the literature to support a desired hypothesis or to show favouritism in peer review. In a third vision, AI as Quant, AI tools seem to surpass the limits of the human mind in analysing vast and complex data sets. In the fourth, AI as Surrogate, AI tools simulate data that are too difficult or complex to obtain."

===
O texto do The Guardian sobre Weizenbaum:

https://www.theguardian.com/technology/2023/jul/25/joseph-weizenbaum-inventor-eliza-chatbot-turned-against-artificial-intelligence-ai
"... Artificial intelligence, he came to believe, was an “index of the insanity of our world.”… Weizenbaum’s pessimism made him a lonely figure among computer scientists during the last three decades of his life; he would be less lonely in 2023."

Computer Power and Human Reason - from judgement to calculation

 O que nos define “humanos”?

É uma pergunta que assombra desde sempre e não tenho a menor veleidade de tentar uma resposta satisfatória a ela, mas quando preenchemos formulários e acessamos páginas na rede, temos que superar eventuais charadas que procuram decifrar se o interlocutor é humano. Um dos objetivos pode ser evitar a garimpagem automática de dados. Se essa triagem continua sendo um objetivo, interações recentes com produtos de IA mostram que as ferramentas de que dispomos podem ser insuficientes.

Uma forma corriqueira de fazer a seleção de não-humanos é usando CAPTCHA, um acrônimo montado a partir da expressão em inglês “teste de Turing público e automatizado para distinguir computadores de humanos”. A implementação do CAPTCHA é razoavelmente recente, de 2003, mas a idéia de haver um teste que identifique máquinas é de 1950, quando Alan Turing propôs uma maneira de testar um programa de computador submetendo-o a um “jogo de imitação”: se conseguisse passar no teste poderia fazer com que seu interlocutor o confundisse com um humano. No teste, a forma de distinguir o humano do computador seria pela habilidade no uso da linguagem – uma das características dos humanos – em travar um diálogo. Uma implementação famosa, se bem que simples, foi o Eliza, um programa feito por J. Weizenbaum em meados dos anos 1960 e que “conversava” em texto.

O CAPTCHA inicialmente explorava a habilidade humana no reconhecimento visual de caracteres, mesmo que imersos em ruido gráfico. Com aprendizado de máquina, a IA rapidamente adquiriu potencial para não apenas igualar, mas até superar nossas habilidades nessa área. Como anedota do momento, uma imagem de um CAPTCHA padrão foi exibida ao ChatGPT-4 com a pergunta: “o que seria isso?”. A resposta que a IA forneceu é intrigante: “a imagem parece ser um CAPTCHA, projetado para distinguir humanos de máquinas. O texto distorcido dificulta seu entedimento por uma máquina,
mas para um humano ler-se-ia e3TJ6Ejdp”. Ou seja, ela, a máquina, nos informa o que um humano leria no desafio do CAPTCHA…

Certamente há maneiras mais sofisticadas de fazer testes, formas que usam a intelecção além de reconhecimento, métodos que se valem de nossos dados pregressos para nos reconhecerem… Claro que isso pode significar mais abusos quanto a guardar informações sobre o que fazemos, como navegamos na rede e, mesmo, como pensamos. Também é fato que testes podem gerar barreiras aos que têm alguma deficiência, especialmente se usam visão ou som. E pode ser que testes complexos demandem mais tempo e trabalho para um humano vencê-los, o que pode ser a um obstáculo sério ao acesso a serviços e dados.

É uma charada difícil de resolver. subir a barreira para impedir acesso de máquinas inteligentes, pode dificultar o acesso aos humanos também, além da aporrinhação de ter de responder perguntas… Será que a definição de “humano” está se tornando difusa e borrada? E será que ainda vale a pena tentar triar o acesso, usando mais dados nossos e aumentando os incômodos, mesmo num caso de uso válido e regular?

===

===
https://en.wikipedia.org/wiki/CAPTCHA
The term was coined in 2003 by Luis von Ahn, Manuel Blum, Nicholas J. Hopper, and John Langford.[2] It is a contrived acronym for "Completely Automated Public Turing test to tell Computers and Humans Apart."

https://en.wikipedia.org/wiki/Turing_test
The test was introduced by Turing in his 1950 paper "Computing Machinery and Intelligence" while working at the University of Manchester.It opens with the words: "I propose to consider the question, 'Can machines think?'" Because "thinking" is difficult to define, Turing chooses to "replace the question by another, which is closely related to it and is expressed in relatively unambiguous words."[6] Turing describes the new form of the problem in terms of a three-person game called the "imitation game", in which an interrogator asks questions of a man and a woman in another room in order to determine the correct sex of the two players. Turing's new question is: "Are there imaginable digital computers which would do well in the imitation game?"

https://en.wikipedia.org/wiki/ELIZA
ELIZA is an early natural language processing computer program developed from 1964 to 1967[1] at MIT by Joseph Weizenbaum. Created to explore communication between humans and machines, ELIZA simulated conversation by using a pattern matching and substitution methodology that gave users an illusion of understanding on the part of the program, but had no representation that could be considered really understanding what was being said by either party.

===

Mardi Gras

Não sei por que a terça-feira de Carnaval seria “gorda” (ou “gordurosa”), mas podemos atribuir a culpa aos franceses. Aliás, a referência me provoca uma viagem de mais de 50 anos, para um filme muito característico daquela época: o Sem Destino (Easy Rider, no título original). Com uma sensacional trilha sonora, ir participar do Mardi Gras, em Nova Orleans, EUA, era um dos objetivos centrais da dupla de motoqueiros Wyatt e Billy, que protagoniza o filme. Lá o Carnaval seria intensamente celebrado, com as fortes cores locais.

Há um interessante paralelo que se poderia traças com a Internet, e que vou me arriscar a esboçar aqui. Inicia-se por identificar o clima da época, o “zeitgeist”, como diriam os alemães. Estamos em 1969 e Internet nos informa que Sem Destino foi lançado em 14 de julho. Apenas tres meses depois, a Arpanet, mãe da Internet, seria declarada “viva”: a data quando se deu a primeira troca de pacotes entre computadores está cravada em 29 de outubro de 1969 (às 22:30 para ainda maior precisão…). E, ainda, entre esses dois eventos, em agosto do mesmo 1969, houve o festival de Woodstock, símbolo máximo do movimento de contracultura hippie. E o agitado ano de 1969 ainda veria a Apolo 11 colocar o primeiro homem na lua, em 29 de julho…

Certamente os jovens cientistas e os recém-graduados envolvidos no projeto Arpanet não estavam isolados de seu tempo. Assim, nasceu uma rede com características libertárias, sem um centro de controle, aberta a todos que se voluntariassem, e resistente a ingerências de governos. A melhor descrição talvez seja a expressa na Declaração de Independência do Ciberespaço, de John Perry Barlow, fevereiro de 1996, quando, já há mais de década, a Arpanet tinha passado o bastão à Internet.

Sem Destino merece uma revisitada porque não se resume a uma intensa descrição do contraste e da tensão entre o que era a sociedade norte-americana semi-rural e conservadora, e o movimento de contra-cultura. Mesmo sendo narrado por protagonistas do movimento hippie, há contrapontos importantes no filme: a ida a Nova Orleans, até para fazer dinheiro vendendo drogas, mostra situações dúbias, quando eles se envolvem em orgias com consequências imprevistas, mesmo sendo Carnaval. O encontro com comunidades também gera questionamentos e duvidas em posicionamento e objetivos pessoaia: conseguir uma vida feliz e despreocupada, aposentando-se antes dos 30 anos em algum lugar na Flórida...

A icônica seqüência final, ao som da “balada de Sem Destino”, termina com o confronto fatal dos protagonistas com gente agressiva do centro-oeste norte-americano da época, e com a morte dos motoqueiros. Mas, pouco antes desta cena, há um incômodo diálogo entre Wyatt e Billy redor de uma fogueira. Enquanto Biily está animado com o próximo sucesso da empreitada, “conseguimos!”, Wyatt, interpretado por Peter Fonda, rebate, com pessimismo e desilusão: “we blew it…”. Algo como “estragamos tudo”! Que a evolução da Internet, nascida à época de Easy Rider, nunca justifique esse tipo de ravaliação.

===

https://pt.wikipedia.org/wiki/Easy_Rider

https://filmschoolrejects.com/easy-rider/

https://www.youtube.com/watch?v=lqkYf3pOnow

"we blew it..."

https://www.sciencemuseum.org.uk/objects-and-stories/arpanet-internet

https://pt.wikipedia.org/wiki/Festival_de_Woodstock

https://www.eff.org/cyberspace-independence

A Declaration of the Independence of Cyberspace by John Perry Barlow

Governments of the Industrial World, you weary giants of flesh and steel, I come from Cyberspace, the new home of Mind. On behalf of the future, I ask you of the past to leave us alone. You are not welcome among us. You have no sovereignty where we gather.

We have no elected government, nor are we likely to have one, so I address you with no greater authority than that with which liberty itself always speaks. I declare the global social space we are building to be naturally independent of the tyrannies you seek to impose on us. You have no moral right to rule us nor do you possess any methods of enforcement we have true reason to fear.

Governments derive their just powers from the consent of the governed. You have neither solicited nor received ours. We did not invite you. You do not know us, nor do you know our world. Cyberspace does not lie within your borders. Do not think that you can build it, as though it were a public construction project. You cannot. It is an act of nature and it grows itself through our collective actions.

You have not engaged in our great and gathering conversation, nor did you create the wealth of our marketplaces. You do not know our culture, our ethics, or the unwritten codes that already provide our society more order than could be obtained by any of your impositions.

You claim there are problems among us that you need to solve. You use this claim as an excuse to invade our precincts. Many of these problems don't exist. Where there are real conflicts, where there are wrongs, we will identify them and address them by our means. We are forming our own Social Contract. This governance will arise according to the conditions of our world, not yours. Our world is different.

Cyberspace consists of transactions, relationships, and thought itself, arrayed like a standing wave in the web of our communications. Ours is a world that is both everywhere and nowhere, but it is not where bodies live.

We are creating a world that all may enter without privilege or prejudice accorded by race, economic power, military force, or station of birth.

We are creating a world where anyone, anywhere may express his or her beliefs, no matter how singular, without fear of being coerced into silence or conformity.

Your legal concepts of property, expression, identity, movement, and context do not apply to us. They are all based on matter, and there is no matter here.

Our identities have no bodies, so, unlike you, we cannot obtain order by physical coercion. We believe that from ethics, enlightened self-interest, and the commonweal, our governance will emerge. Our identities may be distributed across many of your jurisdictions. The only law that all our constituent cultures would generally recognize is the Golden Rule. We hope we will be able to build our particular solutions on that basis. But we cannot accept the solutions you are attempting to impose.

In the United States, you have today created a law, the Telecommunications Reform Act, which repudiates your own Constitution and insults the dreams of Jefferson, Washington, Mill, Madison, DeToqueville, and Brandeis. These dreams must now be born anew in us.

You are terrified of your own children, since they are natives in a world where you will always be immigrants. Because you fear them, you entrust your bureaucracies with the parental responsibilities you are too cowardly to confront yourselves. In our world, all the sentiments and expressions of humanity, from the debasing to the angelic, are parts of a seamless whole, the global conversation of bits. We cannot separate the air that chokes from the air upon which wings beat.

In China, Germany, France, Russia, Singapore, Italy and the United States, you are trying to ward off the virus of liberty by erecting guard posts at the frontiers of Cyberspace. These may keep out the contagion for a small time, but they will not work in a world that will soon be blanketed in bit-bearing media.

Your increasingly obsolete information industries would perpetuate themselves by proposing laws, in America and elsewhere, that claim to own speech itself throughout the world. These laws would declare ideas to be another industrial product, no more noble than pig iron. In our world, whatever the human mind may create can be reproduced and distributed infinitely at no cost. The global conveyance of thought no longer requires your factories to accomplish.

These increasingly hostile and colonial measures place us in the same position as those previous lovers of freedom and self-determination who had to reject the authorities of distant, uninformed powers. We must declare our virtual selves immune to your sovereignty, even as we continue to consent to your rule over our bodies. We will spread ourselves across the Planet so that no one can arrest our thoughts.

We will create a civilization of the Mind in Cyberspace. May it be more humane and fair than the world your governments have made before.

Davos, Switzerland
February 8, 1996

===

Um punhado de névoa

Tentar antever o que nos guarda o futuro é inútil e petulante. O crescente ritmo das transformações que a tecnologia nos impõe levanta dúvidas sobre nossa capacidade de adaptação. Diz-se que uma das características que diferenciou o humano de seus primos símios é a memória de longo termo que, associada à escrita, nos permitiu preservar um panorama de alguns milhares de anos. Mas até nisso a moderna tecnologia ativa pode interferir. Se delegarmos a ela a curadoria do passado humano, sabe-se lá com que viés ele nos será recontado… Plagiando a famosa frase atribuida a Pedro Malan, “no Brasil até o passado é incerto”, a inteligência artificial pode universalizar essa incerteza.

É indiscutível que estamos perdendo habilidades em troca de facilidades, mas esse escambo pode se revelar positivo se ganharmos novos e mais complexos talentos. Nessa dúvida é que mora o perigo… Sou do tempo em que, no primário, além de escrita e leitura, aprendíamos caligrafia num caderno pautado para isso. E havia o momento importante em que trocávamos o lápis pela caneta tinteiro, e podiamos mostrar aos menores nossos dedos orgulhosamente sujos de tinta… Hoje a escrita cursiva parece quase abandonada: uma habilidade, talvez menor, perdida... A leitura pode ser a próxima “bola da vez”, dado que mais e mais se usa “ouvir” um texto. O som de uma palavra substituirá sua forma escrita? Mais um talento ameaçado mas, claro, esperamos que sua substituição seja com vantagens…

Outra facilidade é a IA, que hoje não apenas “entende” como produz texto muito articulado. Também pode gerar imagens, para nosso senso estético muito belas. Como exemplo, a “modelo” Milla Sofia, criada por IA e que tem até perfil nas redes sociais, acumula milhares de admiradores… Seria o caso de revisitarmos o conceito de “verdade”. Lembrou-me o final do célebre poema de J. Keats, “Ode a uma Urna Grega”, que crava: “Beleza é verdade, verdade é beleza; isso é tudo que no mundo sabemos, e tudo que precisamos saber”. Milla Sofia é “verdade”? Talvez sim, no sentimento de seus seguidores…

No campo da escrita cada vez surpreendem mais os resultados que os LLM geram. Há um artigo na Wired, set/2023, em que uma escritora, Vauhini Vara, valeu-se da IA e avalia o resultado. Mesmo sem tomar uma clara posição a favor ou contra, ela reconhece que a IA pode ter gerado as melhores frases de seu ensaio Ghosts, que viralizou. Parece dificil explicar o que vemos apenas como mecanismos de juntar palavras e montar frases. “Há algo no ar além dos aviões de carreira”, diria o Barão de Itararé.

Não tenho estatura para comentar obras complexas como Finnegans Wake, de Joyce, mas não me furtei a pedir aos LLM comentários e um resumo do livro. Sobre isso, o Bard escreveu um poema que começa assim: “No rio Liffey, a noite cai,/ E a cidade de Dublin adormece,/ Mas no sonho de Shaun/ O mundo se transforma em um poema…”. E pra coroar, o mesmo Bard pontuou: “Resumir Finnegans Wake de J. Joyce é como tentar pegar um punhado de névoa”. É de cair o queixo!

===

O texto de Wired de Vauhini Vara, sobre IA e o escritor:
https://www.wired.com/story/confessions-viral-ai-writer-chatgpt

===
Bard, fazendo um resumo de Finnegans Wake, de James Joyce, e gerando um poema sobre o tema:

"Resumir Finnegans Wake de James Joyce é como tentar pegar um punhado de névoa – a própria natureza do livro é desafiar a linearidade, a lógica e a clareza. No entanto, posso te dar algumas pinceladas para entender:

Estrutura e Linguagem:
Cíclica: A história começa e termina com a mesma frase, representando a circularidade do tempo e da existência.
Fragmentada: Dividido em 17 livros e numerosos capítulos sem títulos, o livro salta entre narrativas, sonhos, mitos e referências históricas sem uma ordem aparente.
Experimental: Joyce inventa palavras, distorce a gramática e mistura idiomas para criar um universo linguístico único.

Temas Principais:

Ciclo da Vida e Morte: O livro explora a ideia de renascimento, onde a morte é apenas uma etapa do ciclo contínuo da vida.
História e Mito: Joyce tece referências a mitos irlandeses, europeus e bíblicos, sugerindo que as histórias se repetem através dos tempos.
Linguagem e Consciência: A própria linguagem se torna personagem, explorando as conexões entre palavras, pensamentos e sonhos.

Personagens Principais:

HCE (Here Comes Everybody): Um pai de família acusado de um crime não especificado, representando o homem arquetípico.
ALP (Anna Livia Plurabelle): Esposa de HCE e mãe de três filhos, simbolizando a mulher arquetípica e o rio Liffey, que corre por Dublin.
Shem e Shaun: Os filhos de HCE, representando os aspectos artísticos e pragmáticos da personalidade.

Importância e Dificuldade:

Obra-prima Modernista: Finnegans Wake é considerado um dos romances mais difíceis e inovadores do século XX.
Desafio para Leitores: A linguagem experimental e a falta de narrativa tradicional tornam a leitura uma experiência árdua, mas recompensadora para quem persistir.

Dicas para Leitura:

Não se preocupe em entender tudo: Abrace a confusão e o fluxo de consciência.
Leia em voz alta: A musicalidade da linguagem é importante para a experiência.
Use recursos: Existem dicionários especializados e guias de leitura para auxiliar na compreensão.

Apesar da dificuldade, Finnegans Wake é uma obra de beleza e profundidade. É uma jornada experimental através da linguagem, do mito e da existência, oferecendo um vislumbre de um universo onde as fronteiras entre sonho e realidade, passado e presente, se dissolvem.

Lembre-se, o objetivo principal não é decifrar cada frase, mas sim se deixar levar pela experiência sensorial e intelectual que Joyce criou. Afinal, como o próprio autor disse: "Finnegans Wake... will be written out on the sleeping mind of Europe..." Bom mergulho!"

Finnegans Wake

No rio Liffey, a noite cai,
E a cidade de Dublin adormece,
Mas no sonho de Shaun,
O mundo se transforma em um poema,

Onde a linguagem é livre,
E os significados se multiplicam,
Onde o passado e o presente,
O real e o imaginário,

Se misturam em um fluxo contínuo,
Uma jornada sem fim,
Em busca do significado da vida,
E da origem do universo.

A tarefa não foi impossível,
Mas exigiu um esforço extra,
Para tentar capturar a essência
Dessa obra complexa e desafiadora.

===
ChatGPT também gerando um poema sobre o livro:


No ciclo noturno de Finnegans Wake,
O sonho dança, num despertar sutil,
A língua se dobra, como um rio que corre,
A mente de Joyce, num jogo tão sutil.

Anna Livia Plurabelle, a voz das águas,
Canta em murmúrios, segredos celestiais,
Linguagem onírica, teia de tramas,
Nas margens do Liffey, contos descomunais.

Humphrey Chimpden Earwicker, o herói velado,
Em rios de letras, sua vida entrelaçada,
Ciclos e ciclos, num eterno reiniciar,
O despertar da aurora, a dança recomeçada.

Palavras dançam, em fusões surreais,
Símbolos e sons, um caos orquestrado,
A babel de Finnegans, Joyce revela,
Em cada página, um mundo reimaginado.

Ergue-se Shem, o artífice do mito,
Numa torre de letras, Babel construída,
A complexidade de Joyce, uma profecia,
Na alvorada, a linguagem ressuscitada.

Assim, entre neologismos e símbolos,
Finnegans Wake, um labirinto de sons,
A mente de Joyce, um rio sem fim,
O despertar, a dança de mil sutilidades, tons.

===
O poema de Keats, Ode a uma Urna Grega:

https://edisciplinas.usp.br/pluginfile.php/4651646/mod_resource/content/1/ODE%20A%20UMA%20URNA%20GREGA%20ORIGINAL%20E%20TRADU%C3%87%C3%95ES.pdf

===
Milla Sofia:

https://vogue.globo.com/atualidades/noticia/2023/07/milla-sofia-infuenciadora-gerada-por-ia-atrai-milhares-de-seguidores-com-fotos-sensuais.ghtml

]

Noticiário não-humano

 Noticiário não-humano

Um sistema automatizado de publicação de notícias apareceu neste início de ano. Identifica-se como “NewsGPT – a verdade não-humana” e dispõe-se a fornecer-nos informações recentes de todo o mundo. A apresentação do notíciário está a cargo de dois simpáticos avatares: o de uma moça, autodenominada Futura-4, e o de um rapaz, o Axioma-6.

Não há reparos quanto à qualidade das vozes sintetizadas que fazem o anúncio das notícias: tanto no timbre, quanto na clareza de emissão e pronúncia - e até com laivos de sintética ênfase - o resultado é do melhor que se esperaria. A leitura automática de texto hoje está próxima da perfeição, e não poucos preferem “ouvir” os artigos e até os livros de interesse, enquanto podem manter outra atividade em paralelo. Se isso prejudicaria ou não uma intelecção mais aprofundada, escapa da competência de avaliação por um não-especialista…

Quanto ao lema mercadológico do produto, pessoalmente, eu preferiria receber uma carga de “verdades humanas”, mesmo que colecionadas automaticamente, mas sabe-se lá por que ínvios caminhos da propaganda preferiu-se o chamariz “a verdade não-humana”. O fato é que se trata de uma busca automatizada de notícias que, alegadamente, passariam antes por uma verificação de solidez e pertinência, e de uma editoração não-humana que escolherá a forma e o conjunto a serem propagados.

Nesta fase inicial, o resultado é oferecido apenas em inglês, e ainda não se deu uma eventual personalização do que cada usuário receberá, a partir de algum nebuloso algoritmo de escolha da informação. Mas esta já é mais uma “caixa de pandora” sendo aberta. especificamente na área de jornalismo. A Reuters acaba de divulgar um alentado estudo sobre temas de tecnologia e predições para 2024, que pinta um quadro pouco otimista para a imprensa tradicional, mesmo num ano marcado por eleições em diversos lugares, o que usualmente enseja maior busca por informação. E, com a “verdade não-humana”, pode haver impactos importantes em posições de trabalho na área. Quanto a essa preocupação, um comentário irônico visto na Internet alerta: “não se preocupe tanto em garantir seu emprego: a IA ameça mais o emprego de seu chefe que o seu”…

GPT é o acrônimo de Transformador Generativo Pré-treinado, a tecnologia que tem surpreendido com geração muito boa de texto e um diálogo que até parece consciente. Seu filho mais recente é esse noticiário, com todas as vantages e riscos que a abordagem pode representar. Provocativamente noto que as consoantes “GPT” são as mesmas de Gepeto, o bom velhinho que fabricava marionetes de madeira. Como recordamos da infância, uma das obras de Gepeto, Pinóquio, de alguma forma mágica criou vida… E, para o desespero de seu “pai”, não só Pinóquio se mostrou pouco comportado, como enveredou por contar mentiras, que faziam seu nariz crescer… Talvez seja o caso de acompanharmos o tamanho do “nariz” do GPTnews, a ver se o “filho” do GPT dará indícios de seguir o destino de Pinóquio, o “filho” de Gepeto.

===

o newsGPT:

https://newsgpt.ai/

===

A análise do Instituto Reuters, citada:

https://reutersinstitute.politics.ox.ac.uk/journalism-media-and-technology-trends-and-predictions-2024

Um texto de Rodrigo Mesquita no tema:

https://www.linkedin.com/posts/rmesquita_live-breaking-news-from-around-the-word-activity-7150897302067482624-igWr/

===

Gepeto e Pinóquio:

https://pt.wikipedia.org/wiki/Pin%C3%B3quio

https://www.youtube.com/watch?v=aewbOlGXv6s

===

Quando Geppetto ebbe finito di fargli i piedi, sentì arrivarsi un calcio sulla punta del naso.
— Me lo merito — disse allora fra sè. — Dovevo pensarci prima! Ormai è tardi! —
===