Em busca do Santo Graal

O desaparecimento de um humor ácido, inteligente e absurdo, como o do Monty Python, é uma das perdas doridas, que os tempos trouxeram. De forma paradoxal, a perda de interesse por aquele espírito brincalhão talvez represente algo exatamente oposto: uma crescente infantilização. Dois trechos impagáveis de filmes: em A Vida de Brian, ele crucificado cantando “Always Look on the Bright Side of Life", e o feroz coelho assassino em “Em busca do Cálice Sagrado”, trazem à mente analogias com o mundo digital e a IA, seja numa visão aferradamente otimista - de que há algo positivo nos aguardando, seja pelo pessimismo - uma fera destuidora nos espreita. Ambas, é claro, com a incomparável pitada de sarcasmo dos Python.

Em momentos como hoje, quando há uma disseminação instantânea e quase osmótica de tensões, é importante primeiro diagnosticar corretamente eventuais “disfunções”, seus vetores, métodos e objetivos, para depois examinar que “remédios” são propostos, qual a eficiência esperada, quais seus custos de implementação, e quais seus possíveis efeitos colaterais…

Regular IA é tema do momento. Não ouso enfrentar a discussão sobre o conceito de “inteligência” mas, independentemente disso, há formas talvez simplórias de abordar regulação de uma nova tecnologia. Se IA for apenas uma nova “ferramenta tecnológica”, o caminho parece ser o de responsabilizar o usuário pelo danos que seu uso causar. Fica muito difícil atribuir “ética” ou “responsabilidade” a uma ferramenta: não há facas ou martelos “éticos”. Mas se essa “ferramenta” é mutante e elusiva, a responsabilidade passa a ser difusa… Viu-se recentemente um ataque vicioso de um cão, quase causando a morte de uma pessoa. Esse cão seria essencialmente perigoso pela índole de sua própria raça, ou teria sido treinado para ser assim, mesmo que com as melhores intenções de “proteção”? E, quando o cão decidir, por si, quem deve ser atacado, que ética esperar-se-ia deste cachorro? No caso de um cão há medidas paliativas que podem ser tomadas – não deixá-lo solto, usar mordaça, etc. Mas isso pode ter aplicação restrita para sistemas IA amplamente disseminados. E certamente não se usaria em humanos: o fato de termos mãos e podermos socar os outros não deveria gerar, espero, uma “lei preventiva” que obrigue todos a usarem algemas quando em área pública.

Por mais trabalhoso que pareça ser, o caminho seguro passa pela responsabilização objetiva do uso, somada à avaliação dos riscos, especialmente quando temos sistemas que aprendem, e buscam cumprir metas. O comportamento de um sistema de IA voltado a proteger algo pode não diferir muito do que o cachorro exibiu. E se nos limitarmos a buscar justificativas para o comportamento de indivíduos adultos, influenciados pelo que recebem do mundo digital, tenderemos a uma crescente tutoria. A ação que a rede permite a todos traz embutida a responsabilização pelos atos de cada um.

Ainda na Vida de Brian, na icônica discussão da Frente Popular da Judéia, busca-se elencar todos os danos que os romanos causaram, mas tropeça-se em muitos benefícios, que seria melhor ignorar… IA não é reencarnação dos romanos, mas lançar um olhar amplo e crítico é fundamental.

===

trechos do Monty Python:

"Always Look on the Bright Side of Life"
https://www.youtube.com/watch?v=MJuorMRSH3U

"The Killer Rabbit"

https://www.youtube.com/watch?v=VM5SETOYnd8

"O que os romanos fizeram por nós?"

://www.youtube.com/watch?v=Pc5DlVZRNE8

===

https://en.wikipedia.org/wiki/Monty_Python

Etiqueta na Internet

As mudanças que a Internet trouxe a nosso comportamento pessoal e às interações sociais mereceriam uma avaliação sociológica ampla e profunda. Se localizado na cronologia da rede, o tema não é novo. Por exemplo, no dia 18 de abril o domínio .br comemorará 35 anos de sua delegação. Se ele segue sólido, preservando os conceitos que o nortearam durante todos esses anos, a comunidade Internet a que ele serve aumentou tremendamente e tornou-se muito mais diversa que o punhado de usuários acadêmicos de então. Quem nos repassou o .br foi Jon Postel, falecido em 16 de outubro de 1998, em seu papel de IANA – Internet Assigned Numbers Authority (Vint Cerf escreveu o tocante RFC 2468 “I remember IANA” no dia seguinte à morte de Postel).

Postel também foi autor de um conselho que ficou conhecido como “a lei de Postel”: se queremos que a Internet funcione devemos “ser liberais no que aceitamos receber, e conservadores no que enviamos”. Já era claro, portanto, que haveria algum tipo de lixo, provocações e ofensas, mas deveríamos resistir, e não retrucar na mesma moeda. Em 1995 a RFC 1855 tentava estabelecer um “código de conduta” que os usuários deveriam adotar para uma convivência saudável nas redes: era a “Netiquette”. Vale a pena uma revisita a essa RFC, que definia ações conforme o tipo de aplicação usada, desde correio eletrônico, conversa, transferência de arquivos, ou a então nascente Web.

São menos de 30 anos desde a publicação da Netiquette, mas a mudança de comportamento que a rede apresenta é impressionante e assustadora. Relembro outra frase de Vint Cerf em 1999, quando disse que “os anos da Internet são como ‘anos de cachorro´”, significando que, como acontece com os cães, um ano na rede equivaleria a 7 anos humanos, Bem, nesse caso, lá se vão 200 “anos de cachorro” da publicação da Netiquette…

O que teria feito nosso comportamento variar tanto? Certamente não seria a essência humana que mudou mas, talvez, nossa exposição tão aberta a bilhões de usuários e inúmeras e diversas comunidades tenha nos encontrado de “guarda baixa”, despreparados para o impacto. A pulsão que sentimos de nos posicionarmos em qualquer tema via rede (violando o conselho de Postel) gera interações nem sempre razoáveis e civilizadas. A revista Nature de 20 de março traz um estudo interessante sobre “Padrões persistentes de interação nas plataformas sociais, no decorrer do tempo”, e analisa uma dezena de plataformas, das atuais às já extintas (como Usenet, por exemplo), cobrindo mais de 30 anos. O estudo examina a “toxicidade” e a “polarização” das interações em plataformas, e seus efeitos. Uma conclusão interessante que traz é que a “toxicidade é um resultado natural de discussões em rede, independentemente da plataforma usada”, e que “polarização” pode ter um efeito mais deletério sobre os usuários que a própria toxicidade. Examina formas de mitigar esses efeitos e leva a conclusões que poderiam ser bem aproveitadas ao se tentar definir formas de moderação em discussões que claramente deixaram de ser civilizadas...

===

https://www.azquotes.com/author/11802-Jon_Postel

Postel's Law, also known as the Robustness Principle, is a design guideline for software that states: "". It is often reworded as: "be conservative in what you send, be liberal in what you accept"

https://www.youtube.com/watch?v=h2SpygwimA8

Vint Cerf, RFC 2468 "I Remember IANA" - Reflections on Jon Postel

===
RFC 1855 - Netiquette

https://datatracker.ietf.org/doc/html/rfc1855

Network Working Group              S. Hambridge
Request For Comments: 1855      Intel Corp.
FYI:                                                28 October 1995 

Netiquette Guidelines 

In the past, the population of people using the Internet had "grown up" with the Internet, were technically minded, and understood the nature of the transport and the protocols. Today, the community of Internet users includes people who are new to the environment. These "Newbies" are unfamiliar with the culture and don't need to know about transport and protocols. In order to bring these new users into the Internet culture quickly, this Guide offers a minimum set of behaviors which organizations and individuals may take and adapt for their own use. Individuals should be aware that no matter who supplies their Internet access, be it an Internet Service Provider through a private account, or a student account at a University, or an account through a corporation, that those organizations have regulations about ownership of mail and files, about what is proper to post or send, and how to present yourself. Be sure to check with the local authority for specific guidelines.

===

Sobre o artigo da Nature:

https://english.elpais.com/technology/2024-03-20/regardless-of-the-platform-or-algorithm-its-humans-that-make-social-media-toxic.html

https://www.nature.com/articles/s41586-024-07229-y

“The study’s findings challenge the common belief that toxicity diminishes a platform’s attractiveness,” says Quattrociocchi. “[This study] shows that user behavior in toxic and non-toxic conversations has nearly identical patterns in terms of engagement, suggesting that the presence of toxicity may not deter participation, as is commonly assumed.”