Seguindo o outro...

Na Internet torna-se cada vez mais difícil encontrar um tópico que possa ser discutido com um mínimo de objetividade. Parece que conscientemente escolhe-se o confronto e os ataques ad hominem, seja por ser mais efetivo, seja por não exigir trabalho mental adicional. O papel que a Internet pode ter no acirramento deste comportamento mereceria uma análise dos que entendem de comportamento humano. Por ser perene entusiasta da inclusão de todos via Internet proporciona, arrisco-me a uns pitacos de diletante.

Rene Girard, um pensador falecido há seis anos, trata de características humanas que podem ter sido exacerbadas pela ferramenta que a rede é. Sobre ações e desejos, Girard afirma que normalmente mimetizamos, buscamos copiar a postura de alguém. Se, com conforto e facilidade, imitarmos nosso “modelo”, podemos pensar menos. Nossos próprios desejos seriam os desejos do outro, do indivíduo a que consideramos digno de imitar, e acabaremos por internalizar o mesmo desejo. Valorizamos algo, ou nos opomos a algo, apenas para ecoar o que nosso “influenciador” faz. E “influenciador” aqui vem a propósito, porque a analogia com a Internet parece patente. O próprio epíteto de “influenciador” já desvela a intenção...

Se mimetizar é intrinseco ao ser humano, há um aspecto de escala. Antes da comunicação ampla que temos hoje, poucos seriam suficientemente visíveis para serem escolhidos como “balizadores” de nossos desejos e ações. Poucos a seguir, mimeticamente. A rede “profissionalizou” essa atividade: hoje times de seguidores dos auto-propostos “influenciadores” alinham-se em campo, para as batalhas do dia-a-dia com muitos adjetivos e parca substância. Outro ponto que pode ser gerador de tensão e violência é a eliminação de barreiras contextuais. Como – e isso é sempre muito bom! – todos podemos falar e participar de qualquer discussão na rede, não temos pejo em arremessar indiscriminadamente frases contra quem não siga pela cartilha do grupo a que pertencemos e ecoamos. Em fase de euforia e deslumbramento não há tempo para aprofundamentos, sob o risco de se perder o momento da discussão. Assim não importam as credenciais dos outros – responderemos a qualquer um deles, e, se possível, num tom acima. Esse comportamento já existia no velho tempo do correio eletrônico. Em listas de discussão dizia-se que “os que menos tem a dizer, muitas vezes são exatamente os que tem mais tempo para falar”.

Segundo Girard, o que ele chama de crise mimética “é uma situação de conflito tão intensa que, em ambos os lados, as pessoas agem e falam da mesma forma, tornando-se cada vez mais hostis ao replicar a hostilidade do outro grupo. Em conflitos realmente intensos, as diferenças entre os lados em conflito, ao invés de se tornarem mais agudas, igualam-se”. Parece confirmar o que Nietzsche havia postulado, em Além do Bem e do Mal: “a insanidade é algo raro de se encontrar em um indivíduo. Já em grupos, partidos e épocas, é a regra”…

===

Citações de René Girard em https://www.brainyquote.com/authors/rene-girard-quotes

"We don't even know what our desire is. We ask other people to tell us our desires. We would like our desires to come from our deepest selves, our personal depths - but if it did, it would not be desire. Desire is always for something we feel we lack."

"What I call a mimetic crisis is a situation of conflict so intense that on both sides people act the same way and talk the same way even though, or because, they are more and more hostile to each other... 

I believe that in intense conflict, far from becoming sharper, differences melt away."

===

sobre discussões lista, em https://www.icann.org/en/system/files/files/transcript-strategy-panels-11mar14-en.pdf 

"This is Mike Nelson. I'm really glad you're focusing on these issues because there's Nelson's law of listeners, .which, the people with the least to say have the most time to say it."

===

A frase de Nietzsche citada:

"Insanity in individuals is somewhat rare. But in groups, parties, nations, and epochs, it is the rule."
— Friedrich Nietzsche, Beyond Good and Evil

https://kwize.com/quote/13005

Efemérides

Dezembro é a época do ano em que comemoramos, quiçá de forma algo masoquista, o tempo em sua irresistível passagem… As práticas dezembrinas incluem os almoços e jantares com os amigos, a troca dos calendários nas paredes e o envio de cartões de festas com os melhores votos e desejos a todos. E mesmo com toda a especificidade e fluidez dos tempos de hoje, ao menos essa saudável e amistosa tradição parece mantida.

Quanto, por exemplo, a uma outra data referente à Internet no Brasil, a Abranet - Associação Brasileira de de Internet - comemorou semana passada seus 25 anos de fundação, e o fez com grande estilo. Do lado das palestras, por exemplo, houve destaque a temas humanos e técnico importantes, como economia, efeitos da Internet na sociedade -tema que precisa ser melhor tratado e analisado - e uma particularmente deliciosa: a do Amyr Klink, sobre suas peripécias transoceânicas, sua forma de encarar as dificuldades, e seus conceitos de vida, sob todos os pontos de vista, admiráveis. Fica a recomendação a quem se interessar de tentar recuperá-la na rede.

Ainda na linha das efemérides, ontem, 6 de dezembro, foi dia de S. Nicolau, o taumaturgo, bispo de Myra do século IV e em cuja história de generosidade para com os pobres e as crianças inspirou-se a tradição de Santa Claus, ou nosso Papai Noel. Nesta data, familiarmente, além de reunirmo-nos todos para uma tradicional refeição sempre baseada em peixe, lembra-se que é o momento de se montar a árvore de Natal. Aliás, São Nicolau, como o patrono dos marinheiros e navegantes, poderia levar-nos a considerar seu nome como padroeiro das navegações modernas, hoje feitas pela Internet, mas igualmente arriscadas… Mas como patrono da Internet em si já há outro forte candidato: Santo Isidoro de Sevilha, lá do século VI, que foi considerado o “último polímata” do tempo antigo. Ou seja, alguém que, como a Internet hoje, abarcava o conjunto de conhecimentos de seu tempo. Isso me traz outra recordação pessoal curiosa: na USP, anos 70, tínhamos acesso ao fonte do MCP – Master Control Program – o sistema operacional da antiga Burroughs. Lá, dentro do código do MCP, a rotina que mantinha a complexa base de dados de todas as variáveis do computador chamava-se Leibniz, certamente em homenagem a outro polímata que, à moda da tal rotina, conseguia compreender a totalidade do mundo que o cercava.

Termino com mais uma analogia com S. Nicolau: foram exatamente os marinheiros italianos, devotos do santo, que muitos anos após sua morte, e tendo Myra sido conquistada pelos turcos no início do século XI, acabaram por pilhar seus restos mortais e suas relíquias. Assim parte dos ossos de S. Nicolau foram de Myra para Bari, na Itália, e hoje há fragmentos deles espalhados pela Europa toda. Ou seja, é um santo geograficamente distribuído, como a própria Internet.

===

Abranet: 

www.abranet.org.br

MCP - Burroughs:

https://en.wikipedia.org/wiki/Burroughs_MCP

===

São Nicolau:

https://en.wikipedia.org/wiki/Saint_Nicholas

https://www.vaticannews.va/pt/santo-do-dia/12/06/s--nicolau-de-bari--bispo-de-mira.html

https://orthochristiantools.com/the-serbian-miraculous-icon-of-saint-nicholas-in-bari-italy/

O Poder de um Nome

A discussão sobre inteligência artificial ganhou os holofotes da atenção geral, internacionalmente. O que contribui para essa ascenção irresistível é um conjunto de fatores, que vão, desde o poder da expressão “IA” em si, à sustentada e crescente expansão na capacidade de processamento e armazenamento que pode hoje ser aplicada sobre a imensa quantidade de informações à disposição dos algoritmos. E há que se considerar também a particular concentração dessas características nas mãos de um punhado de empresas, as chamadas “big-techs”. 

A oferta de capacidade de processamento e armazenamento distribuídos no que lembra a imaterialidade de nuvens, deslocou o poder de computação, que antes poderia estar situado nas instituições que dela necessitam, para estruturas que, apesar de parecerem descentralizadas e neutras, são controladas por poucos fornecedores, num ciclo bem definido de expansão. Afinal, ao concentrar-se o poder de computação exatamente onde ele já existe, realimenta-se seu crescimento de forma rápida e sem limites Para adicionar sinergia ao cenário, basta lembrar que também é lá que estão os enormes repositórios de dados, provenientes dos usuários de seus serviços de plataformas e redes sociais. A “faca e o queijo”.

Além dos dados e do processamento, some-se o uso da capacidade coletiva da comunidade em treinar, voluntaria ou involuntariamente, os produtos gerados. Nós mesmos treinamos as aplicações que serão usadas para nos proverem mais informações criteriosamente escolhidas, que aumentem nosso grau de aderência e de permanência no sistema. 

Finalmente, é importante que a escolha de um nome seja catalizadora. “Inteligência artificial” ressoa bem, é nome forte, tem mais de 70 anos de existência e um “apelo tecnológico” irresistível. IA passou por épocas em que era foco de muita pesquisa, e por períodos em que caiu em semi-esquecimento – os “invernos da IA”. Claro que, oportunisticamente, além da real e poderosa IA pode-se embrulhar no mesmo saco o que lá couber, especialmente se for algo que, por necessitar de muito processamento, pareça inatingível aos usuários comuns. Jorge Luiz Borges em “o Golem” já havia descrito o poder em um nome: “o nome é o arquétipo da coisa; nas letras de ‘rosa’ está a rosa; e todo o Nilo na palavra ‘Nilo’”. 

 IA é o tópico da vez e não podemos perdê-lo de vista, até para tentarmos minimizar os riscos que pode estar embutidos em IA. Discute-se hoje na Unesco um texto que recomendaria procedimentos éticos relacionados ao desenvolvimento e disseminação da IA. O documento está em fase final de discussão para ser aceito pelos países signatários. E por aqui também estamos debatendo estratégias. O importante é que essa discussão envolva os segmentos da sociedade, que certamente IA já afeta, e muito, indistintamente a todos. 

 === Sobre a citação de Jorge Luiz Borges, em "o Golem": 

https://www.poemas-del-alma.com/jorge-luis-borges-el-golem.htm

" Si (como afirma el griego en el Cratilo)

 el nombre es arquetipo de la cosa

 en las letras de 'rosa' está la rosa

 y todo el Nilo en la palabra 'Nilo'." ===

Novos tempos

Analisar os impactos da Internet no que fazemos em nosso dia-a-dia já é um objetivo bastante ousado e quase inatingível, mas avaliar como ela tem afetado nosso comportamento social é ainda mais desafiador. Ressalvas importantes: há que se distinguir entre a Internet em si: uma infraestrutura aberta, sem limites físicos, que chama todos a uma conexão e provê um acesso absolutamente ilimitado a informações de todo o tipo, das muito úteis, às eventualmente nocivas e propositadamente enganosas, passando um vasto elenco de futilidades; das construções que crescem sobre ela. Essas construções que também respondem pelo nome de “plataformas”, valem-se do princípio de “livre inovação” - que deve ser preservado! – e podem evoluir para empresas com grande concentração de poder econômico e social, escorado especialmente na forte fidelização de seus usuários. Essa estratégia de intenso engajamento é operacionalizada pela aquisição de vasto conhecimento dos dados e características dos usuários. É a chamada “economia da atenção”, quando manter o usuário constantemente conectado, e sempre usando os serviços da plataforma, traz mais retorno econômico a ela.

A forma de atenuar esse controle poderia residir numa conscientização nossa, associada a leis de proteção de nossos dados, como a que temos no Brasil. Mas é fato que o “canto da sereia” do conforto, facilidade e prazer emocional que os usuários recebem, reduz qualquer postura mais crítica em relação ao “pacto” feito. A excitação de poder participar, com voz, em discussões de qualquer tema é tão contagiante que pensamento crítico ficará “pra depois”… Assim, das alternativas que restam para se atenuar essa dominância, ouve-se cada vez mais frequentemente as que provem de regimes fortes. Aliás, dos mesmos regimes que muitas vezes praticam controle estreito e uma coleta desmedida de dados de seus cidadãos, mas que não impede de coibir o mesmo quando se tratar de atores privados. Como achar soluções de equilíbrio, que possam ser implementadas com algum sucesso em prazos razoáveis? O risco de ir “da frigideira ao fogo” aqui é grande.

O caráter livre e aberto da rede pode ter afetado o comportamento em comunidade: a definição de “tolerância” tem sendo revisitada. Como exemplo refiz, via buscadores, vagas lembranças reencontrando algumas das músicas irreverentes que despreocupadamente se cantavam na universidade... Achá-las é ainda possível, mas seria admissível cantá-las?. O comportamento petulante, amistoso/jocoso dos anos 70 hoje poderia ser rotulado de “inaceitável”, e como algo a ser segregado. Folheie-se A Serpente Encantadora, livro do Telmo Martino: é uma “janela no tempo” com crônicas da época do Jornal da Tarde. Telmo, além de mente afiada e de um texto culto e ágil, era dotado de uma língua ferina, venenosíssima, e tratava todos e tudo, poupando pouquíssimos. Seria Telmo ainda possível hoje, em plena “cultura do cancelamento”, ou seguimos empobrecendo a olhos vistos?

===

Sobre China e as Big Techs:

https://www.theguardian.com/technology/2021/nov/03/techscape-china-jack-ma-regulation?mc_cid=c7d999a2d3&mc_eid=c3ed2a6583

===

Sobre "A Serpente Encantadora", Telmo Martino

https://cultura.estadao.com.br/noticias/geral,telmo-martino-destila-seu-veneno-em-livro,20041130p4778

https://www.revistabula.com/17775-telmo-martino-a-falta-que-faz-o-seu-veneno/

Muito dado, pouca preservação

Graças à conectividade que temos hoje e à capacidade crescente de computaçãoe armazenamento de dados, estima-se que apenas nesses dois últimos anos o mundo criou 10 vezes mais informação do que a existente em toda a história. São números assombrosos, mas devem ser adequadamente “temperados”. Talvez a relevância, a precisão e a necessidade dessa pletora de dados não seja comparável com o que havia há umas décadas. Se a última edição da Enciclopédia Britânica em 2010, com 32 alentados volumes e instalada digitalmente hoje num computador, ocuparia cerca de 4,7 Gbytes, a quantidade de informação nova gerada em apenas 1 segundo é equivalente, em tamanho, a mais de 6000 Britânicas. Certamente a densidade e a relevância das novidades pode estar muito longe daquilo que consta da Enciclopédia, mas isso não pode nos levar a ignorar a necessidade de armazenar com confiabilidade a informação que seja significativa. Vint Cerf já nos alertava, há anos, sobre uma possível “era das trevas” digital. Todos já passamos por situações em que perdemos fotografias ou textos importantes porque um disco rígido deixou de funcionar, ou porque um “pendrive” desapareceu, ou, ainda pior, casos em que, mesmo tendo preservado o meio de armazenamento, ele não é mais legíveis nos equipamentos e sistemas atuais. Quem ainda conseguiria ler com segurança o que estivesse preservado em disquetes? Ou assistir a um filme gravado em super 8? Em contraste, um pergaminho ou um papiro de 2000 anos continua preservado e perfeitamente acessível aos que saibam decifrá-lo… Vint diz que nada é mais falso do que assumir que “bits são imortais”. Sua durabilidade física, apoiada em meios magnéticos ou ópticos, pode ser muito menor que a de nosso caderno do primário, escrito a lápis.Mesmo se ficarmos apenas em termos de Internet, quantos linques e quantos sítios tão úteis não desaparecem de um dia para outro? Por sorte há iniciativas com a Internet Archive que guarda algumas páginas da rede para a posteridade, via “wayback machine”. É importante que iniciativas assim sejam apoiadas e expandidas. Afinal, algo deve ser preservado para que os historiadores futuros possam trabalhar com alguma confiança em fatos de nossos dias…

Num lance jocoso, a mesma Intenet Archive lançou a “wayforward machine”, que pretende prever como um sítio atual evoluirá em 25 anos. Na verdade trata-se de uma campanha pela liberdade e abertura da rede. Consultando-se, por exemplo, www.estadao.com para 2046, a página exibida adverte: “erro 451 – página indisponível para o seu próprio bem. Este sítio contem informação considerada “crime de pensamento” em sua região.Se precisar de mais informações consulte o Ministério da Verdade de sua localidade”. Claro que, esperamos, isso será evitado, porque a sociedade se manterá vigilante! E parabéns ao novo formato do Estadão. Vida longa e próspera!


===
No Estadão:
https://link.estadao.com.br/noticias/geral,a-internet-tem-muitos-dados-e-pouca-preservacao,70003879805


===
Informações sobre a quantidade de dados gerada:


https://www.cloverdx.com/blog/how-much-data-will-the-world-produce-in-2021

https://www.internetlivestats.com/twitter-statistics/

https://www.domo.com/solution/data-never-sleeps-6https://iorgforum.org/case-study/some-amazing-statistics-about-online-data-creation-and-growth-rates/

===
Sobre a "era das trevas" digital

https://economictimes.indiatimes.com/tech/internet/net-pioneer-vint-cerf-warns-of-digital-info-dark-age/articleshow/7https://www.youtube.com/watch?v=uvob8wCMhLo8152249.cms

https://www.youtube.com/watch?v=uvob8wCMhLo


===
Platão (Sócrates) em Fedon:

http://www.sbpcnet.org.br/livro/57ra/programas/senior/RESUMOS/resumo_404.html

"Saber, com efeito, consiste nisto: depois de ter adquirido o conhecimento de alguma coisa, conservá-lo e não perdê-lo."

https://www.pensador.com/frase/Njk1NA/

"Tudo quanto vive provém daquilo que morreu"

Quem tem um...

Outubro começou com um inesperado evento: numa segunda-feira, logo após o horário do almoço no Brasil, perdeu-se o acesso a três das mais usadas redes sociais, Facebook, Instagram e Whatsapp. Sem mais essa nem aquela, ficaram inacessíveis ferramentas usadas em seu dia-a-dia por quase metade da humanidade. Qualquer que tenha sido o motivo que acarretou essa queda geral, seus efeitos foram muito sentidos e, especialmente aos que centram sua atividades nestas plataformas, devastadores.

A Internet foi concebida como uma interligação de milhares de redes, e altamente distribuida, evitando-se um ponto único de falha. Na rede, um sítio pode sair do ar, um servidor de correio eletrônico pode experimentar um apagão, um cabo óptico submarino pode se romper, e teremos em todas essas situações impactos que variarão de intensidade e afetarão diferentemente seus usuários. Uma plataforma gigantesca com as citadas, entretanto, concentra em si mesma diferentes serviços. Emitentes, destinatários e conteúdo estão no mesmo barco e dependendo da mesma infraestrutura centralizada. Uma falha importante, que desative momentaneamente a plataforma, atingirá de forma incontornável todos os seus participantes e suas múltiplas expectativas de comunicação.

Muitas vezes a participação em redes sociais é também o lenitivo para as agruras do dia-a-dia e formas de prover entretenimento distração. Claro que sem chegar ao extremo da adicção, de nos tornarmos compulsivamente dependentes da interação nas redes em busca de uma gratificação emocional (em Admirável Mundo Novo, Huxley descreve o uso do “soma”, droga que traz a felicidade, a diversão e a despreocupação: “’soma’ é tão bom como o álcool e a religião, e sem os seus problemas”). Mas as plataformas operam também como importantes canais de informação e, frequentemente, como ambientes em que se exerce atividade profissional. O Whatsapp por exemplo, que começou como um sucedâneo da telefonia comercial, em pouco tempo passou a ser uma forma importante de comunicação instantânea entre usuários e comunidadas. Em comparação com o correio eletrônico, que é um processo assíncrono onde o diálogo segue um ritmo mais ameno definido pelas disponibilidades dos interlocutores, os mensageiros digitais substitutos da telefonia tendem a assumir seu mesmo comportamento síncrono, onde a mensagem “pede” para ser lida e respondida em tempo curto. Uma falha neste tipo de mensageria pode causar, portanto, lapsos sérios em comunicações comerciais e profissionais, indo bem além da simples perda de informação e entretenimento.

O ditado português que o título sugere reza que “quem tem um, não tem nenhum”. Ou seja, se dependemos de um serviço específico, sem alternativas, mais hora menos hora teremos que nos haver com o problema de sua indisponibilidade. E essa indisponibilidade será mais crítica se o serviço em questão for usado em atividades profissionais diárias. Logo, é de bom alvitre ter cartas na manga para o caso de falhas em serviços importantes.

Finalmente, o ditado parece que também serviria à perfeição para o que aconteceu tecnicamente neste o caso. Pelo que se soube - e que parece bastante crível - houve uma concentração de servidores críticos como o DNS, que gera endereços de acesso às plataformas, em uma única estrutura de rede, num único “sistema autônomo”. Quando, por algum motivo durante uma reestruturação da rede local, o caminho para esse sistema autônomo deixou de ser encontrável na Internet, o mundo passou a não localizar mais esses servidores. E, para complicar, as tres plataformas estavam presentes conjuntamente nessa única rede… Sem redundância, “quem tem um, não tem nenhum”...

===

Informações sobre a provável causa técnica do problema:

https://www.potaroo.net/ispcol/2021-10/nofacebook.html

https://blog.cloudflare.com/october-2021-facebook-outage/

===

Referências ao "soma" em Admirável Mundo Novo, Aldous Huxley

https://www.huxley.net/soma/somaquote.html

"And there's always soma to calm your anger, to reconcile you to your enemies, to make you patient and long-suffering. In the past, you could only accomplish these things by making a great effort and after years of hard moral training. Now, you swallow two or three half-gramme tablets, and there you are. Anybody can be virtuous now. You can carry at least half your morality about in a bottle. Christianity without tears-that's what soma is."

“..there is always soma, delicious soma, half a gramme for a half-holiday, a gramme for a week-end, two grammes for a trip to the gorgeous East, three for a dark eternity on the moon…”

“Hug me till you drug me, honey; Kiss me till I'm in a coma: Hug me, honey, snuggly bunny; Love's as good as soma.”

https://en.wikipedia.org/wiki/Soma_(drink)

===

O provérbio português:

https://quemdisse.com.br/frase/quem-tem-um-nao-tem-nenhum/65957/

Os riscos de regular antecipadamente

Qualquer especulação sobre que futuro nos aguarda, e quais as áreas esratégicas específicas em que investimentos tenderão a gerar efeitos econômicos e sociaispara os próximos anos, leva indefectivelmente à discussão da digitalização e dastecnologias de conhecimento. A mistura dos reais avanços no poder computacional e algorítmico que observamos (com suas correspondentes ameaças), e da atraçãoque chavões publicitários exercem sobre todos, explica a proliferação de iniciativase textos sobre temas como o da Inteligência Artificial. Diversos países empenham-se em desenvolver e implementar estratégias para tornarem-se atores importantesnessa área. A Inglaterra, por exemplo, acaba de lançar um plano decenal parafixar-se como superpotência em IA. E no Brasil também estamos começando umadiscussão ampla da formulação de uma EBIA – Estratégia Brasileira de Inteligência Artificial.

Os impactos que a implantação maciça de IA traz serão sempre percebidos em todos os aspectos da vida humana, não apenas os tecnológicos e econômicos, mas os sociais e culturais. A limitada capacidade humana de absorção do que se passa pelo mundo está cada vez mais exigida, e isso é acentuado ao sermos expostos, via internet à quantidade imensa de informação e ruído que, certamente, não conseguiremos digerir, nem avaliar. Milan Kundera, em “Um Encontro”, coletânea de ensaios, ressalta que a aceleração da história transformou profundamente a existência individual. Se nos séculos passados “a existẽncia se desenrolava, do nascimento até a morte, em uma única época histórica”, maislentamente que a vida humana, hoje ocorre o inverso. A história escapa ao homemde tal forma que “a identidade e a continuidade da vida correm o risco de se romper”. É mais um argumento para que se acompanhem as formas e os processos com que essa tecnologia - que nem é tão nova - vai interagir conosco, especialmente com o imenso poder que trazem os progressos da área computacional e de algoritmos.

Parece esperado que em outras frentes se busquem atenuar riscos que venha a reboque, e isso é tanto verdade que já há projetos de lei para tratar do tema e, eventualmente, regular o seu uso. Usando o que se aprendeu com a internet nestes anos todos, parece prudente ir com mais vagar e mais cautela: foram quase 10 anos de debates amplos e abertos até a homologação do Marco Civil da Internet em 2014, e seis anos depois veio a lume a LGPD – Lei Geral de Proteção de Dados. Com essa legislação, sempre muito bem avaliada internacionalmente, o Brasil seguiu sem atrasos e com firmeza na expansão e disseminação da rede. As inequívocas vantagens que o acesso à rede trouxe a todos não impediram que se apontassem riscos e abusos, parte dos quais encontram remédio na LGPD. Outras ameaças de segurança somente serão atenuadas com campanhas e esforços perenes na criação de mão de obra técnica, na disseminação das boas práticas, e numa cooperação multissetorial ampla.

Num ambiente em que já temos alguma proteção, seja por leis criadas para omundo digital, seja pelos princípios constitucionais garantidos, parece prematuro discutir-se já uma eventual regulação da IA. A regra que se mostra sensata é aguardar a melhor definição e desenvolvimento do tema, estimulando-se que o país não “perca o pé” nessa tecnologia, e simultaneamente iniciar debates multissetoriais, a exemplo do que acontece pelo mundo, cuidando da proteção aos potenciais perigos. Tentar antecipar riscos ainda não claramente definidos poderá resultar em perigoso atraso do país nessa arena hoje tão crítica.

===
O documento da Inglaterra: U.K Government Publishes 10-Year Plan to Become 'A.I. Superpower'
 https://www.gov.uk/government/publications/national-ai-strategy

===
O projeto de lei "PL21 / 2020 e seus apensados":
https://www.camara.leg.br/propostas-legislativas/2236340

===
EBIA - Estratégia Brasileira de Inteligência Artificial
https://www.gov.br/mcti/pt-br/acompanhe-o-mcti/transformacaodigital/inteligencia-artificial

Os riscos da sincronização

A expansão das ubíquas redes sociais já foi tema de diversos artigos, que vão desde uma crescente impossibilidade, por parte de seus integrantes, de distinguirem o verdadeiro do falso no mar de informações que recebem, até comportamentos disruptivos originados por ambiente nunca antes explorado. Fazem-se analogias com bandos de pássaros, cardumes de peixes, enxames de insetos que, em situações específicas, conseguem comunicar-se de forma coletiva, assumindo magicamente configurações altamente sincronizadas, defensivas ou ofensivas.

Não distinguir entre o falso e o verdadeiro, além de ser um problema eterno e insolúvel, parece ser menos propenso a provocar o apocalipse apreogoado. Já do crescente comportamento de “manada” possibilidtado pela rede, podem surgir consequências imprevisíveis.

Segue alguma provocação, de simples observador, tendo lido alguns textos a respeito. Parece sólido afirmar que as pessoas, em sua grande maioria, sempre seguiram posições e ideias dos que consideram dignos de ouvir ou seguir. Afinal, no meio das ocupações diárias nem sempre resta tempo para aprofundamentos em temas diversos. Havia, assim, nosso crítico de cinema preferido que indicará um filme, o analista econômico que escolhemos e que desenhará o cenário vislumbrado, o veículo de informação no qual nos fiamos com mais frequência, etc. Pode-se dizer que, fora da nossa área de experiência, tendemos sempre a acompanhar alguém. Esses “guias” que de alguma forma escolhíamos para acompanhar com mais frequência eram, em geral, poucos indivíduos ou meios de comunicação. E boa parte da população, sempre atarefada, preferiria gastar o pouco tempo disponível com entretenimento, indicado por alguém ou não.

A Internet alterou isso profundamente. Não só há milhões que podemos agora ouvir ou seguir, como nós mesmo podemos tomar posição ou, simplesmente, repetir o que ouvimos e, com isso, também afetar os demais. Se antes, na medida de nossa disponibilidade e conveniência, escolhiamos a quem seguir ou imitar num tema, hoje somos cooptados, não só a acompanhar e emular um número imenso de “influenciadores” e veículos, como a fazê-lo de forma muito rápida e, portanto, superficial. Não precisamos gastar o bestunto para analisar se o que estamos aplaudindo ou repetindo é certo ou errado, verdadeiro ou falso. Bastará que estaja provindo de alguém que faz parte daqueles que seguimos. Assim, a imitação do comportamento alheio – que sempre houve – ganha proporções muito maiores com a Internet.

Outro ponto que pode ser causador de disrupção é a horizontalidade que a rede trouxe. Claro que é fundamentalmente positivo que todos se comuniquem e sejam acessíveis, mas a disponibilidade indiferenciada, potencializada pelo mimetismo citado acima, gera uma vulgarização de intervenções não apenas sem base mas também sem decoro. Afinal se posso me manifestar sobre qualquer tópico – e especialmente se meu líder do momento vai numa direção – posso criticar qualquer posição divergente, independentemente da qualidade ou especialidade de quem a emite. Hoje todos podem desmentir todos e, ainda por cima, em liguagem altamente agressiva, sem que haja nenhuma base factual além dos argumentos “ad hominem”.

Voltando a comportamentos coletivos, redes sociais podem ter consequências para nós ainda não avaliadas. Há na Internet vídeos que mostram surpreendente comunicação entre indivíduos dum bando. Enxames de vaga-lumes, por exemplo, sincronizam-se, e terminam por piscar todos, simultaneamente… Isso pode até ser bom para pirilampos, mas parece-me muito perigoso se humanos, estimulados pela rede, passarem a adotar esse tipo de sincronização.

===

artigos sobre os riscos das redes sociais:

https://www.vox.com/recode/2021/6/26/22550981/carl-bergstrom-joe-bak-coleman-biologists-ecologists-social-media-risk-humanity-research-academics

https://www.pnas.org/content/118/27/e2025764118

===

auto-sincronização de pirilampos:

https://www.youtube.com/watch?v=d77GdblhvEo&t=70s

===

Cambalache

No álbum branco de Caetano Veloso, 1969, há a faixa que Gardel já havia gravado, Cambalache, letra e música de Enrique Discépolo. Adolescentes, ouvíamos com um sorriso a música cantada em espanhol contendo mensagem bastante crítica ao estado de coisas, mas sem ter a menor noção de que sua feroz ironia poderia perder totalmente a graça uns 50 anos depois…

Daí, constato que sou velho - o que em si não é uma má notícia, tendo em vista as alternativas… Entre os inúmeros indícios da idade, posso começar, por exemplo, pelo meu desconforto com leituras amplas do que seja “arte”. Exemplifico com “a fonte”, ou o “urinol” de Duchamp, que é de 1917 e anterior a Cambalache. Claro que não sou competente para comentar tecnica ou artisticamente isso mas, definitivamente, não cai no meu gosto. Reconheço grande criatividade na obra, mas creio que estaria melhor numa categoria de “humor” ou “crítica”, que em “escultura” (aliás, as “sete artes” originais ainda seriam sete?).

A conexão com Cambalache veio ao ler uma notícia nesta semana, informando que um garoto de 12 anos conseguiu arrecadar uma pequena fortuna vendendo NFTs (“Non-Fungible Tokens”) na Internet. NFT poderia ser traduzido para “objeto insubstituível” mas, porque alguém pagaria para ter um? A pulsão humana em colecionar coisas não é novidade, e deve ser vestígio de nossa fase de caçadores-coletores. Quem sabe foi ela que nos levou a colecionar selos, moedas e outros produtos do artifício humano, mas aqui há, também, o perigo de extrapolações mais difíceis de explicar. Lembro, por exemplo, de um artista italiano no início dos anos 60, cuja “pièce de résistance” era uma coleção de latas, numeradas e datadas, contendo... fezes humanas. A obra chamou-se “Merde d’Artiste” e há exemplares ainda à venda, na Internet…

Como humor, como charge e como contestação, seria perfeito. Como arte, entretanto, certamente não atende meu tacanho gosto pessoal.

Voltando aos NFTs, trata-se de objetos que, com a adição de uma assinatura digital, tornam-se únicos e, assim, ganham a atenção de colecionadores interessados que investiriam para ter posse de um. Note-se aqui que esta posse também é apenas virtual, diferentemente das latinhas citadas acima.

Uma obra executada por meios eletrônicos pode ser assinada digitalmente usando-se um processo derivado do “blockchain”, e assim ir a venda ou leilão como “objeto único”, podendo obter lances elevados. No caso do garoto, ele produziu uma coleção chamada de “Weird Whales”, “baleias estranhas”, consistituida por 3350 pequenos desenhos digitais de baleias com acessórios. Conseguiu vender a colação toda em poucos dias. Há técnica precoce, arte e criatividade no trabalho dele, que merece recompensa. O que pode parecer um oxímoro é que, a algo que consegue ser reproduzido indefinidamente e mantendo rigorosa fidelidade à sua essência como é o caso da produções digitais, possa associar-se uma unicidade conceitual, um NFT. A distinção entre objetos e idéias tornou-se cada vez menos clara. Quando Tomas Jefferson afirmou que a transmissão do conhecimento e de idéias era como “acender uma vela na chama de outra”, ou seja quem recebe a luz não a rouba de quem a repassou, certamente não tinha previsto os novos tempos...

O efeito da Internet em reforçar esse comportamento é implacável: há uma compulsão universal, na rede, de seguirem-se tendências, para o bem ou para o mal, sem que se gaste tempo em pensar sobre elas. Nos dizeres do Cambalache, “vivemos misturados num mesmo lodo, todos manuseados”.

Do meu lado reconheço que preciso de um “aggiornamento” nesses temas, mas, afinal, estou velho e de certa maneira satisfeito com minha forma de pensar e ver as coisas. Mas vou aproveitar e procurar boas ofertas de NFTs na Internet, para iniciar minha própria coleção!...

===

Cambalache, cantado por Gardel e por Caetano:

https://www.youtube.com/watch?v=SvMcaSgiMro

https://www.youtube.com/watch?v=K3vuRcmDI8g

e com Raul Seixas, em português:

https://www.youtube.com/watch?v=7roDWoU2L8Y

===

A "fonte", de Duchamp:

https://en.wikipedia.org/wiki/Fountain_(Duchamp)

===

A "Merde d'Artiste", de Piero Manzoni:

https://en.wikipedia.org/wiki/Artist's_Shit

===

Dois artigos sobre os NFT citados (Weird Whales):

https://futurism.com/the-byte/12-year-old-400000-selling-nfts-to-idiots

Weird Whales #1877 em:

https://www.loop-news.com/p/a-12-year-old-kid-coded-his-own-nft

O reconhecimento por Imagem

A enxurrada de informações a que estamos submetidos, muitas vezes nos rouba a clareza necessária para avaliar não apenas a importância de determinada medida, mas também seus possíveis efeitos colaterais. Aliás, até parece proposital que temas importantes de debate sejam enfraquecidos através do desvio de foco para assuntos subsidiários.

Veja-se como exemplo a discussão sobre existência ou não de “viés” no uso de inteligência artificial em dispositivos equipados para reconhecimento de imagens. É muito razoável assumir que nos conjuntos de dados usados para a montagem de um sistema de reconhecimento automático de indivíduos existam significativos desequilíbrios quanto à homogênea e equitativa participação de amostras das diferentes etnias a culturas. Mas seria esse o ponto principal de discussão? Se faltam amostras de determinada etnia, o sistema deveria captar imagens adicionais para resolver essa carẽncia? Ou, e até com a nova LGPD, luta-se exatamente no sentido de diminuir a sanha de captura de dados e imagens nossas na rede? A ordem de discussão que parece prioritária seria, antes, debater a validade das intromissões que existem ao se procurar identificar automaticamente cada pessoa com base em sua imagem previamente armazenada. Se a conclusão for de que, sim, é útil e traz benefícios que sejamos identificados em cada ambiente em que nos encotramos pelas onipresentes câmaras, daí deveríamos buscar que essa aplicação tenha alcance global e atinja a todos igualmente. Se a decisão for, porém, em sentido contrário quanto ao uso da identificação de imagem automática obrigatória, parece contrasenso buscar expandir a todos algo que foi considerado não benéfico, ou abusivo. Ou seja não haveria porque corrigir qualquer viés aqui...

Ainda no mesmo tema, a decisão recente da Apple de, sob o argumento eventualmente honesto de combate à pornigrafia infantil, passar a examinar todas as fotos que usuários guardam na nuvem, deve ser examinada de forma muito cuidadosa. Argumenta-se que um dos problemas técnicos que poderiam ocorrer são os “falsos positivos”, dado que a base de fotos que seria usada como parâmetro já possui cerca de 20% de incorreções. Mas, valeria a pena lutar para limpar essas imperfeições da base (viés) de forma a eliminar os “falsos positivos”, ou o sistema em si, seja ele falho ou perfeito, já representa uma intromissão indevida em nossa privacidade? Isso não cai muito longe de implantarem-se câmaras em todas as casas com a finalidade de monitorar comportamentos adequados ou não de seus moradores! Os detalhes técnicos sobre possíveis ou prováveis viéses e erros de detecção não podem obliterar o que deveria ser o fulcro de discussão sobre a principal característica do sistema, que é buscar acesso direto ao conteúdo do que enviamos, colocando-nos, a todos, como suspeitos em potencial. Mesmo com todas as promessas de uso adequado e não vazamentos de dados, parece um abuso que, unilateralmente, alguém se meta a espionar o que enviamos.

Essa possível intromissão remete ao sempre citado “1984”, onde está postulado que “se alguém quer manter um segredo, deve escondê-lo até a si mesmo”. Afinal, a “polícia do pensamento” estará sempre atenta para detectar os que praticam “crimes de pensamento” e puní-los adequadamente...

Antes de se discutirem os detalhes técnicos de “como” algo deveria ser feito, parece muito importante que se avalie com antecedência se aquilo deveria mesmo ser feito, ou se os riscos e abusos que poderia acarretar a direitos fundamentais bastariam para que a proposta seja banida.

===

https://www.lightbluetouchpaper.org/2021/08/08/is-apples-neuralmatch-searching-for-abuse-or-for-people/

https://pt.wikipedia.org/wiki/Crime_de_pensamento

https://www.pensador.com/frase/MjE1MDk0Nw/

Legislação sobre a Internet

Em recente artigo, Akriti Bopanna e Diego Canabarro examinam os objetivos e os riscos de legislações sobre a Internet, na India e no Brasil. Os projetos são bastante similares (no caso brasileiro trata-se do PL 2630, conhecido como “Projeto de lei das Fake News”) ao buscar, entre outros pontos, meios de rastreamento das informações que circulam na rede. O título do artigo, “Um conto de duas propostas de rastreabilidade”, remete ao “Conto de Duas Cidades”, de Charles Dickens, em cujo começo lemos: “aquele foi o melhor dos tempos, foi o pior dos tempos; aquela foi a idade da sabedoria, foi a idade da insensatez, foi a época da crença, foi a época da descrença, foi a estação da Luz, a estação das Trevas, a primavera da esperança, o inverno do desespero…”.

Essa ambiguidade entre os objetivos declarados da legislação e suas consequências, muitas vezes desastrosas, está cada vez mais presente em projetos que tramitam em diversos países. Elaborados muitas vezes de forma apressada e sem a necessária maturação que um amplo debate público poderia trazer, sob a égide de objetivos “elevados”, frequentemente trazem junto riscos aos usuários e à própria Internet, de se verem indevidamente controlados ou cerceados. Uma legislação alemã, por exemplo, à guisa de proteger direitos autorais, não apenas dá direito como obriga plataformas a removerem conteúdos denunciados como potencialmente infringentes de direitos. Assim, além de repassar mais poder a elas - que já o tem com abundância no mercado internacional - assume a priori que o denunciado é culpado enquanto não provar sua inocência: a punição é aplicada imediatamente, com a remoção do conteúdo questionado.Os Fins e os Meios

Do lado das Américas o Canadá também anda “inovando” na área. Tramita lá o projeto de lei C-10, já aprovado na Câmara – justamente nas últimas horas dos trabalhos legislativos antes do recesso - e seguirá agora ao Senado. O projeto, bastante complexo e polêmico, tenta definir o que seja “conteúdo nacional” e privilegiar sua disseminação na rede, inclusive quando se tratar de material publicado por indivíduos. Ou seja, é possível que os vídeos que os usuários colocam em plataformas possam ser prejudicados se não demostrarem a priori que possuem origem canadens. Como se faria isso, é outra e imponderável questão...

Em outra exemplo, e esse com o argumento de se combater a organização de crimes pela rede, há proposta em discussão da Inglaterra que pede às plataformas a implementação de formas de quebra da criptografia em mensagens de usuários, ou do acesso ao texto original via uma “porta dos fundos” sorrateiramente implementada nos sistemas.

Num ambiente dinâmico e em expansão como a Internet, é claramente necessário o acompanhamento e a atualização do arsenal legislativo, para proteger principalmente os direitos dos cidadãos. Há uma forma boa de se conseguir essa constante atualização: trata-se de seguir os passos do que foi feito no caso do Marco Civil, uma legislação louvada internacionalmente como das melhores para a Internet. Assim, o “caminho das pedras” é conhecido e passa por discutirem-se a fundo os possíveis objetivos visados e, especialmente, evitarem-se nefastos efeitos colaterais, que acabem por privar-nos de bens maiores. Buscar açodadamente um objetivo, por quaisquer meios e sem levar em conta seus efeitos, é mau. Georges Bernanos, escritor francês que viveu no Brasil durante a segunda geurra, tem uma frase que ilustra bem esse risco: “o primeiro sinal de que a corrupção se instala numa sociedade ainda viva, é que os fins passam a justificar os meios”….

===
No Estadão:
https://link.estadao.com.br/noticias/geral,na-regulamentacao-da-internet-os-fins-nao-podem-justificar-os-meios,70003798014

===

O artigo citado:

https://obcrypto.org.br/#/post/um-conto-de-duas-propostas-de-rastreabilidade-intencoes-opostas-solucoes-perversas-convergentes-na-india-e-no-brasil

===

Georges Bernanos, "Why Freedom?" The Last Essays of Georges Bernanos, 1955

(1888 - 1948)  

http://www.quotehd.com/quotes/georges-bernanos-author-the-first-sign-of-corruption-in-a-society-that-is-still-alive

===

Artigos sobre o tema:
https://www.michaelgeist.ca/2021/05/this-is-who-the-canadian-government-wants-to-regulate-the-internet/
https://nationalpost.com/news/politics/crtc-chairman-under-fire-over-one-on-one-meetings-with-big-telecom-lobbyists
https://www.reuters.com/world/americas/canada-unveils-plans-make-online-hate-speech-crime-2021-06-23/
https://www.bloomberg.com/news/articles/2021-06-22/trudeau-s-party-passes-bill-to-regulate-social-media-streaming

https://www.techdirt.com/articles/20210802/08443047289/canadian-government-continues-war-internet-freedom-with-new-online-harms-legislation.shtml

===

Legislação em Portugal:
https://expresso.pt/politica/2021-07-29-Marcelo-envia-para-o-Constitucional-artigo-polemico-da-Carta-dos-Direitos-Digitais-68a42069

===

A serendipidade perdida

Há ano e meio que nosso ritmo de vida tem sido pautado pela Covid que assola o mundo. Ela não é apenas o tema da maioria dos noticiários e das conversas pessoais, mas também variável que afeta economias e nos ameça com um futuro ainda mal-definido, alcunhado de “novo-normal”.

A peste fez que, rapidamente, as comunicações inter-humanos migrassem para formas eletrônicas e remotas. Conversas, reuniões, aulas hoje são feitas usando plataformas (e, claro, com a indefectível adição de novas gafes e ratas…). A restrição nas idas aos estabelecimentos físicos, estimulou a entrega em domicílio de materiais e mercadorias. Afinal é a velha distinção entre bits e átomos: se os bits transitam com agilidade pelas conexões Internet nas trocas de informação e interações, a entrega física de átomos dependerá sempre de ldeslocamento físico… Para não perder a piada, “não há ainda no horizonte previsão de entrega de matéria via Internet”.

É bom acompanhar a evolução da peste para intuir, talvez, algum sinal de arrefecimento. Para testar nosso desassossego, há uma infinidade de dados e curvas a que podemos recorrer via internet, mas ainda não se vê nada muito promissor. As curvas de casos mundiais seguem um estranho desenhio de “montanha russa”, com subidas, caídas e novas subidas sem que se atine minimamento com uma explicação.

Uma análise mais objetiva das consequẽncias deste período ainda demandará tempo. Alguns pontos já ressaltam: certamente mostra-se indispensável o acesso de todos, sólido e eficaz, à rede. Em linha menos óbvia, por exemplo, há meses fala-se de uma carência de circuitos integrados (chips) no mercado, com um misto de fatores que influiram. Em recente artigo num blog da revista Spectrum, do IEEE, analisa-se esse ponto: se houve um desaquecimento de diversas indústrias consumidoras, como a automobilistica, houve, por outro lado, um impulso com a busca de dispositivos de acesso, conexão à rede e entretenimento. Agora, com a paulatina volta de setores que desaceleraram, os fabricantes de chips viram-se incapazes de atender à onda de demanda. Segundo o blog, isso começará a se normalizar durante o segundo semestre de 2021, mas apenas em 2022 voltaremos ao normal. Na pandemia, acelerou-se a disseminação de interfaces automatizadas que operem com linguagem natural e aplicações de Inteligência artificial no atendimento ao público. E, afinal, há oportunidades para sistemas que garimpem intensamente dados e perfis e, até, para os que simulam comportamento humano, não apenas exibindo linguagem natural, mas podendo comportar-se como “indivíduos” com determinado perfil ou idade, compondo textos que facilmente passariam por reais.

Haverá um “novo normal” ou voltaremos basicamente ao que havia antes? Claro que as experiências por que estamos passando deixarão sua marca no comportamento futuro mas, pessoalmente, torço pela volta de algo o mais próximo do “velho normal”. Há uma palavra inglesa,“serendipity”, que vai sendo incorporada como “serendipidade” e refere-se a acontecimento inesperado, fortuito, e benéfico. Como quando ao tropeçar em algo bolamos uma invenção. No “velho normal” muitas vezes em conversas ao redor do café, em esbarrões nos corredores, ou no lanche do almoço surgiam idéias valiosas que mudariam o curso dos acontecimentos. Um caso antigo famoso foi a descoberta por Flemig da penicilina – numa placa acidentalmente desprotegida cresceu um fungo que matava bactérias. Em acaso feliz, descobria-se a penicilina! Com o uso remoto a serendipidade diminuiu pois estamos muito mais enquadrados quando falamos em reunião virtual. Precisamos recuperar a possibilidade de toparmos com um benfazejo, inesperado e repentino “estalo”.

===

https://link.estadao.com.br/noticias/geral,precisamos-recuperar-a-possibilidade-de-acontecimentos-fortuitos,70003783458

===

Sobre a carência de "chips" no mercado:

https://spectrum.ieee.org/tech-talk/semiconductors/devices/how-and-when-the-chip-shortage-will-end-in-4-charts

===
Serendipity:

https://newhumanist.org.uk/articles/4852/science-and-serendipity-famous-accidental-discoveries

https://me.me/t/serendipity

Apostas no escuro

Um relatório das Nações Unidas sobre uma reunião de especialistas do conflito na Libia deixa a entender que, em março de 2020, houve um ataque “bem sucedido”, feito autonomamente por “drones do tipo quadricóptero”. Os tais veículos aéreos não tripulados contariam com câmera, armamento e, claro, a indefectível inteligência artificial para os guiar e tomar as decisões.

Na cruenta história das guerras, a supressão de vidas em combates foi uma constante, e acabam representadas por frias tabelas numéricas e estatísticas anódinas. Exceto nos casos acidentais, as mortes foram resultantes da ação deliberada de humanos, seja em combates corpo-a-corpo, seja em bombadeiros. Mas mesmo nos piores casos, há linhas éticas que devem ser respeitadas, e efeitos colaterais que precisam ser minimizados. Veja-se por exemplo a necessidade de se removerem as minas anti-indivíduos que ficaram sem ter sido detonadas, para que não se tornem, anos depois, ameaças a terceiros. Há acordos internacionais que preveem limitações em armas nucleares, químicas e biológicas, numa tentativa de demarcar a linha ética que não se deveria cruzar.

Como se coloca aí o problema de equipamentos autônomos com IA? Pode-se argumentar que, com o avanço da IA e dos equipamentos, o número de erros que essas máquinas fariam seria menor que se essas mesmas operações estivessem a cargo de humanos. Eu não compro esse argumento... Delegar decisões, mormente as que envolvem vida ou morte, a máquinas, além de parecer uma declaração tácita de falêncĩa moral, pode carrear consequências que não se conseguiria avaliar hoje. Lembro da cena do filme baseado em conto de Arthur Clarke “2001, uma Odisséia no Espaço”, em que um computador com IA - o HAL 9000 - decide não permitir que o astronauta volte à segurança da nave, porque o programa chegou à conclusão de que isso colocaria em risco o objetivo final da missão… Mais um caso em que o fim buscado justificaria os meios, na voz sintética do HAL 9000: “esta missão é muito importante, e não vou permitir que você a coloque em risco”

Outro argumento é o de que, se houver uma auditoria profunda nos programas escritos, teríamos como prevenir ou impedir viéses e fatalidades. Também não me convence esse argumento. Como exemplo, vejam-se os programas que aprendem a jogar xadrez, partindo apenas das regras do jogo e usando aprendizagem de máquina. Com algumas horas de treino esses programas ganham de grandes mestres e, com muito mais facilidade, claro, do mesmo humano que escreveu o programa original. Ou seja, evoluiram para examinar autonomamente situações de jogo e, sem trapaça, montar uma estratégia ganhadora imbatível.

Temos uma tendência atávica de abrir “caixas de Pandora” que pode nos levar à autodestruição. Tópico do momento: hoje se pesquisa e debate a origem do virus da Covid. Saiu de laboratório ou da natureza? Não tenho a menor competência para opinar mas, pessoalmente, ficaria mais confortável se ele fosse o resultado de um experimento que vazou. Tento explicar: se for algo da natureza, estamos diante de situações perigosas, de difícil prognóstico e controle. Mas se foi um produto humano que escapou acidentalmente, isso poderia se enquadrar - caso análogo a alguma IA – em uma ousadia humana impensada, que pode gerar acidente devastador. Aqui sempre poderiamos declarar que “a linha de prudência foi ultrapassada” e que certos experimentos devem obedecer a restrições éticas e morais.

Há uma frase centenária de G. K. Chesterton que, penso, ainda se aplica bem hoje: “Hoje aprendemos a fazer coisas maravilhosas. Nossa próxima tarefa é aprender quando não fazê-las”...

===

Informações sobre o ataque:

https://www.livescience.com/ai-drone-attack-libya.htm

https://undocs.org/S/2021/229

===
Video sobre o HAL 9000 em "2001, uma Odisséia no Espaço":

https://www.youtube.com/watch?v=Jkv-lNAqfmk

===
Frase de G. K. Chesterton citada:

https://www.chesterton.org/quotations-of-g-k-chesterton/

“We are learning to do a great many clever things…The next great task will be to learn not to do them“                        Queen Victoria, Varied Types

===
Inteligência Artificial confundindo uma bola com a cabeça de um humano calvo...

https://www.youtube.com/watch?v=HjJmO9NvKL8

Gravado em Silício

Há um vídeo na Internet em que Peter Hochschild, um pesquisador da Google, descreve a identificação de comportamentos erráticos em módulos de processamento. O adjetivo que ele usa para isso é interessante: “comportamento mercurial”. O romano Mercúrio, Hermes dos gregos, era o deus da comunicação e também do comércio. Dotado de sandálias aladas, era rápido mas muitas vẽzes errático e incerto. E de comportamento imprevisível nem sempre claro: uma comunicação “hermética” refere-se a algo obscuro, não facilmente inteligíveil… O mercúrio, metal fluido e vivaz, prata-líquida ou prata-viva, faz jus ao nome.

Não é nenhuma novidade que a crescente miniaturização dos componentes de circuitos integrados de silício cria fragilidades. Uma célula de memória atualmente é tão pequena, e com tão pouca carga elétrica associada, que eventos de radiação cósmica ionizante, partículas alfa, ou mesmo alguma radioatividade do invólucro poderiam alterar algum “um” para “zero”, ou vice-versa. Há diversas formas de proteção contra esses riscos: a inclusão de algum tipo de verificação de consistência dos dados que detecte alterações ou, em casos mais críticos e sofisticados, a adição de informação redundante que permita não apenas apontar uma corrupção nos dados, mas consertá-la, desde que pontual e não disseminada. Do lado dos processadores, em aplicações muito críticas, ou onde há exposição a agressões maiores, como em aplicações espaciais, pode-se aumentar a segurança provendo a triplicação de recursos computacionais. Desta forma, em caso de alguma discrepância, haverá uma “maioria” que permita descartar o dissonente e dar mais segurança ao resultado.

Poderia haver aí uma analogia com as formas da evolução biológica? Afinal, somos o que somos porque uma infinidade de transformações aleatórias, devidamente filtradas e sancionadas pelo ambiente, nos trouxe a esse estágio. O risco de alterações inesperadas pode ser devastador, mas é atenuado quando se dispõe de alguma redundância. Há mecanismos que buscam automaticamente consertar “erros” em DNA, e biólogos poderão falar disso muito melhor mas, para um mero engenheiro, o fato do DNA ser uma fita dupla já parece uma ajuda importante em prevenir mutações caóticas: uma fonte adicional de dados provê aos reparadores automáticos uma segunda referência...

Problemas causados por fatores exteriores não se confundem com erros gerados por deficiências no projeto do “hardware” ou falhas na programação em “firmware” ou “software”. Há diversos casos bem documentados de erros encontrados em versões de equipamentos e que, uma vez indentificados, foram corrigidos nas versões seguintes. Um caso famoso, por exemplo, é o relacionado a problemas de cálculo em divisões em ponto flutuante de processadores Pentium em 1995, que foi rapidamente consertado. Uma outra fonte de surpresas, mas que não seria um “erro de projeto”, é a existência de instruções ocultas, não documentadas nos manuais. Como exemplo pessoal, lembro que o processador Motorola 6800 tinha uma instrução não documentada conhecida como HCF (Halt and Catch Fire, ou “pare e pegue fogo”), que fazia o processador transformar-se num simples e impávido contador sequencial.

A preocupação suscitada agora não é comportamento errático gerado por falhas de projeto ou de programação, e nem mesmo o efeito corruptor que elementos externos como radiação e partículas incidentes possam causar na exatidão do processamento, mas uma característica errática, não especialmente rara, que vem sendo detectada em processadores de alta capacidade e alta densidade. Um ponto de alerta preocupante: parece que nem o que está “escrito em siício” é imutável ou plenamente confiável.

===

Mercúrio, muito adequadamente, é símbolo de algumas bolsas de valores (abaixo, a da Argentina)

https://www.bcba.sba.com.ar/el-clasico-emblema-de-la-bolsa/

===

Vídeo citado, artigo sobre ele, e bits que mudam:

https://www.youtube.com/watch?v=QMF3rqhjYuM

https://www.theregister.com/2021/06/04/google_chip_flaws/

https://www.johndcook.com/blog/2019/05/20/cosmic-rays-flipping-bits/

===

DNA e seus reparos:

https://courses.lumenlearning.com/boundless-biology/chapter/dna-repair/

===

O "bug" de ponto flutuante do Pentium

https://en.wikipedia.org/wiki/Pentium_FDIV_bug

História do Motorola 6800 e a descrição da instrução (HCF) não documentada

https://www.embarcados.com.br/40-anos-motorola-mc6800/

=== 

"Mercurial", em:
https://nepe.wab.com.br/pesquisa-dicionario?query=mercurial
"Cujas reações ou comportamentos são intempestivos, intensos; que reage de maneira inesperada, impulsiva, repentina ou sem reflexão, diante de alguma situação; temperamental, impulsivo."

===

No Link:

https://link.estadao.com.br/noticias/geral,comportamento-erratico-em-processadores-e-preocupante,70003754428