terça-feira, 14 de setembro de 2021

Os riscos da sincronização

A expansão das ubíquas redes sociais já foi tema de diversos artigos, que vão desde uma crescente impossibilidade, por parte de seus integrantes, de distinguirem o verdadeiro do falso no mar de informações que recebem, até comportamentos disruptivos originados por ambiente nunca antes explorado. Fazem-se analogias com bandos de pássaros, cardumes de peixes, enxames de insetos que, em situações específicas, conseguem comunicar-se de forma coletiva, assumindo magicamente configurações altamente sincronizadas, defensivas ou ofensivas.

Não distinguir entre o falso e o verdadeiro, além de ser um problema eterno e insolúvel, parece ser menos propenso a provocar o apocalipse apreogoado. Já do crescente comportamento de “manada” possibilidtado pela rede, podem surgir consequências imprevisíveis.

Segue alguma provocação, de simples observador, tendo lido alguns textos a respeito. Parece sólido afirmar que as pessoas, em sua grande maioria, sempre seguiram posições e ideias dos que consideram dignos de ouvir ou seguir. Afinal, no meio das ocupações diárias nem sempre resta tempo para aprofundamentos em temas diversos. Havia, assim, nosso crítico de cinema preferido que indicará um filme, o analista econômico que escolhemos e que desenhará o cenário vislumbrado, o veículo de informação no qual nos fiamos com mais frequência, etc. Pode-se dizer que, fora da nossa área de experiência, tendemos sempre a acompanhar alguém. Esses “guias” que de alguma forma escolhíamos para acompanhar com mais frequência eram, em geral, poucos indivíduos ou meios de comunicação. E boa parte da população, sempre atarefada, preferiria gastar o pouco tempo disponível com entretenimento, indicado por alguém ou não.

A Internet alterou isso profundamente. Não só há milhões que podemos agora ouvir ou seguir, como nós mesmo podemos tomar posição ou, simplesmente, repetir o que ouvimos e, com isso, também afetar os demais. Se antes, na medida de nossa disponibilidade e conveniência, escolhiamos a quem seguir ou imitar num tema, hoje somos cooptados, não só a acompanhar e emular um número imenso de “influenciadores” e veículos, como a fazê-lo de forma muito rápida e, portanto, superficial. Não precisamos gastar o bestunto para analisar se o que estamos aplaudindo ou repetindo é certo ou errado, verdadeiro ou falso. Bastará que estaja provindo de alguém que faz parte daqueles que seguimos. Assim, a imitação do comportamento alheio – que sempre houve – ganha proporções muito maiores com a Internet.

Outro ponto que pode ser causador de disrupção é a horizontalidade que a rede trouxe. Claro que é fundamentalmente positivo que todos se comuniquem e sejam acessíveis, mas a disponibilidade indiferenciada, potencializada pelo mimetismo citado acima, gera uma vulgarização de intervenções não apenas sem base mas também sem decoro. Afinal se posso me manifestar sobre qualquer tópico – e especialmente se meu líder do momento vai numa direção – posso criticar qualquer posição divergente, independentemente da qualidade ou especialidade de quem a emite. Hoje todos podem desmentir todos e, ainda por cima, em liguagem altamente agressiva, sem que haja nenhuma base factual além dos argumentos “ad hominem”.

Voltando a comportamentos coletivos, redes sociais podem ter consequências para nós ainda não avaliadas. Há na Internet vídeos que mostram surpreendente comunicação entre indivíduos dum bando. Enxames de vaga-lumes, por exemplo, sincronizam-se, e terminam por piscar todos, simultaneamente… Isso pode até ser bom para pirilampos, mas parece-me muito perigoso se humanos, estimulados pela rede, passarem a adotar esse tipo de sincronização.

===
artigos sobre os riscos das redes sociais:

https://www.vox.com/recode/2021/6/26/22550981/carl-bergstrom-joe-bak-coleman-biologists-ecologists-social-media-risk-humanity-research-academics

https://www.pnas.org/content/118/27/e2025764118

===
auto-sincronização de pirilampos:
https://www.youtube.com/watch?v=d77GdblhvEo&t=70s




===



terça-feira, 31 de agosto de 2021

Cambalache

No álbum branco de Caetano Veloso, 1969, há a faixa que Gardel já havia gravado, Cambalache, letra e música de Enrique Discépolo. Adolescentes, ouvíamos com um sorriso a música cantada em espanhol contendo mensagem bastante crítica ao estado de coisas, mas sem ter a menor noção de que sua feroz ironia poderia perder totalmente a graça uns 50 anos depois…

Daí, constato que sou velho - o que em si não é uma má notícia, tendo em vista as alternativas… Entre os inúmeros indícios da idade, posso começar, por exemplo, pelo meu desconforto com leituras amplas do que seja “arte”. Exemplifico com “a fonte”, ou o “urinol” de Duchamp, que é de 1917 e anterior a Cambalache. Claro que não sou competente para comentar tecnica ou artisticamente isso mas, definitivamente, não cai no meu gosto. Reconheço grande criatividade na obra, mas creio que estaria melhor numa categoria de “humor” ou “crítica”, que em “escultura” (aliás, as “sete artes” originais ainda seriam sete?).

A conexão com Cambalache veio ao ler uma notícia nesta semana, informando que um garoto de 12 anos conseguiu arrecadar uma pequena fortuna vendendo NFTs (“Non-Fungible Tokens”) na Internet. NFT poderia ser traduzido para “objeto insubstituível” mas, porque alguém pagaria para ter um? A pulsão humana em colecionar coisas não é novidade, e deve ser vestígio de nossa fase de caçadores-coletores. Quem sabe foi ela que nos levou a colecionar selos, moedas e outros produtos do artifício humano, mas aqui há, também, o perigo de extrapolações mais difíceis de explicar. Lembro, por exemplo, de um artista italiano no início dos anos 60, cuja “pièce de résistance” era uma coleção de latas, numeradas e datadas, contendo... fezes humanas. A obra chamou-se “Merde d’Artiste” e há exemplares ainda à venda, na Internet…

Como humor, como charge e como contestação, seria perfeito. Como arte, entretanto, certamente não atende meu tacanho gosto pessoal.

Voltando aos NFTs, trata-se de objetos que, com a adição de uma assinatura digital, tornam-se únicos e, assim, ganham a atenção de colecionadores interessados que investiriam para ter posse de um. Note-se aqui que esta posse também é apenas virtual, diferentemente das latinhas citadas acima.

Uma obra executada por meios eletrônicos pode ser assinada digitalmente usando-se um processo derivado do “blockchain”, e assim ir a venda ou leilão como “objeto único”, podendo obter lances elevados. No caso do garoto, ele produziu uma coleção chamada de “Weird Whales”, “baleias estranhas”, consistituida por 3350 pequenos desenhos digitais de baleias com acessórios. Conseguiu vender a colação toda em poucos dias. Há técnica precoce, arte e criatividade no trabalho dele, que merece recompensa. O que pode parecer um oxímoro é que, a algo que consegue ser reproduzido indefinidamente e mantendo rigorosa fidelidade à sua essência como é o caso da produções digitais, possa associar-se uma unicidade conceitual, um NFT. A distinção entre objetos e idéias tornou-se cada vez menos clara. Quando Tomas Jefferson afirmou que a transmissão do conhecimento e de idéias era como “acender uma vela na chama de outra”, ou seja quem recebe a luz não a rouba de quem a repassou, certamente não tinha previsto os novos tempos...

O efeito da Internet em reforçar esse comportamento é implacável: há uma compulsão universal, na rede, de seguirem-se tendências, para o bem ou para o mal, sem que se gaste tempo em pensar sobre elas. Nos dizeres do Cambalache, “vivemos misturados num mesmo lodo, todos manuseados”.

Do meu lado reconheço que preciso de um “aggiornamento” nesses temas, mas, afinal, estou velho e de certa maneira satisfeito com minha forma de pensar e ver as coisas. Mas vou aproveitar e procurar boas ofertas de NFTs na Internet, para iniciar minha própria coleção!...

===
Cambalache, cantado por Gardel e por Caetano:
https://www.youtube.com/watch?v=SvMcaSgiMro
https://www.youtube.com/watch?v=K3vuRcmDI8g

e com Raul Seixas, em português:
https://www.youtube.com/watch?v=7roDWoU2L8Y

===
A "fonte", de Duchamp:
https://en.wikipedia.org/wiki/Fountain_(Duchamp)

===
A "Merde d'Artiste", de Piero Manzoni:
https://en.wikipedia.org/wiki/Artist's_Shit

===
Dois artigos sobre os NFT citados (Weird Whales):
https://futurism.com/the-byte/12-year-old-400000-selling-nfts-to-idiots

https://www.loop-news.com/p/a-12-year-old-kid-coded-his-own-nft





terça-feira, 17 de agosto de 2021

O reconhecimento por Imagem

A enxurrada de informações a que estamos submetidos, muitas vezes nos rouba a clareza necessária para avaliar não apenas a importância de determinada medida, mas também seus possíveis efeitos colaterais. Aliás, até parece proposital que temas importantes de debate sejam enfraquecidos através do desvio de foco para assuntos subsidiários.

Veja-se como exemplo a discussão sobre existência ou não de “viés” no uso de inteligência artificial em dispositivos equipados para reconhecimento de imagens. É muito razoável assumir que nos conjuntos de dados usados para a montagem de um sistema de reconhecimento automático de indivíduos existam significativos desequilíbrios quanto à homogênea e equitativa participação de amostras das diferentes etnias a culturas. Mas seria esse o ponto principal de discussão? Se faltam amostras de determinada etnia, o sistema deveria captar imagens adicionais para resolver essa carẽncia? Ou, e até com a nova LGPD, luta-se exatamente no sentido de diminuir a sanha de captura de dados e imagens nossas na rede? A ordem de discussão que parece prioritária seria, antes, debater a validade das intromissões que existem ao se procurar identificar automaticamente cada pessoa com base em sua imagem previamente armazenada. Se a conclusão for de que, sim, é útil e traz benefícios que sejamos identificados em cada ambiente em que nos encotramos pelas onipresentes câmaras, daí deveríamos buscar que essa aplicação tenha alcance global e atinja a todos igualmente. Se a decisão for, porém, em sentido contrário quanto ao uso da identificação de imagem automática obrigatória, parece contrasenso buscar expandir a todos algo que foi considerado não benéfico, ou abusivo. Ou seja não haveria porque corrigir qualquer viés aqui...

Ainda no mesmo tema, a decisão recente da Apple de, sob o argumento eventualmente honesto de combate à pornigrafia infantil, passar a examinar todas as fotos que usuários guardam na nuvem, deve ser examinada de forma muito cuidadosa. Argumenta-se que um dos problemas técnicos que poderiam ocorrer são os “falsos positivos”, dado que a base de fotos que seria usada como parâmetro já possui cerca de 20% de incorreções. Mas, valeria a pena lutar para limpar essas imperfeições da base (viés) de forma a eliminar os “falsos positivos”, ou o sistema em si, seja ele falho ou perfeito, já representa uma intromissão indevida em nossa privacidade? Isso não cai muito longe de implantarem-se câmaras em todas as casas com a finalidade de monitorar comportamentos adequados ou não de seus moradores! Os detalhes técnicos sobre possíveis ou prováveis viéses e erros de detecção não podem obliterar o que deveria ser o fulcro de discussão sobre a principal característica do sistema, que é buscar acesso direto ao conteúdo do que enviamos, colocando-nos, a todos, como suspeitos em potencial. Mesmo com todas as promessas de uso adequado e não vazamentos de dados, parece um abuso que, unilateralmente, alguém se meta a espionar o que enviamos.

Essa possível intromissão remete ao sempre citado “1984”, onde está postulado que “se alguém quer manter um segredo, deve escondê-lo até a si mesmo”. Afinal, a “polícia do pensamento” estará sempre atenta para detectar os que praticam “crimes de pensamento” e puní-los adequadamente...

Antes de se discutirem os detalhes técnicos de “como” algo deveria ser feito, parece muito importante que se avalie com antecedência se aquilo deveria mesmo ser feito, ou se os riscos e abusos que poderia acarretar a direitos fundamentais bastariam para que a proposta seja banida.

===

terça-feira, 3 de agosto de 2021

Legislação sobre a Internet

Em recente artigo, Akriti Bopanna e Diego Canabarro examinam os objetivos e os riscos de legislações sobre a Internet, na India e no Brasil. Os projetos são bastante similares (no caso brasileiro trata-se do PL 2630, conhecido como “Projeto de lei das Fake News”) ao buscar, entre outros pontos, meios de rastreamento das informações que circulam na rede. O título do artigo, “Um conto de duas propostas de rastreabilidade”, remete ao “Conto de Duas Cidades”, de Charles Dickens, em cujo começo lemos: “aquele foi o melhor dos tempos, foi o pior dos tempos; aquela foi a idade da sabedoria, foi a idade da insensatez, foi a época da crença, foi a época da descrença, foi a estação da Luz, a estação das Trevas, a primavera da esperança, o inverno do desespero…”.

Essa ambiguidade entre os objetivos declarados da legislação e suas consequências, muitas vezes desastrosas, está cada vez mais presente em projetos que tramitam em diversos países. Elaborados muitas vezes de forma apressada e sem a necessária maturação que um amplo debate público poderia trazer, sob a égide de objetivos “elevados”, frequentemente trazem junto riscos aos usuários e à própria Internet, de se verem indevidamente controlados ou cerceados. Uma legislação alemã, por exemplo, à guisa de proteger direitos autorais, não apenas dá direito como obriga plataformas a removerem conteúdos denunciados como potencialmente infringentes de direitos. Assim, além de repassar mais poder a elas - que já o tem com abundância no mercado internacional - assume a priori que o denunciado é culpado enquanto não provar sua inocência: a punição é aplicada imediatamente, com a remoção do conteúdo questionado.Os Fins e os Meios

Do lado das Américas o Canadá também anda “inovando” na área. Tramita lá o projeto de lei C-10, já aprovado na Câmara – justamente nas últimas horas dos trabalhos legislativos antes do recesso - e seguirá agora ao Senado. O projeto, bastante complexo e polêmico, tenta definir o que seja “conteúdo nacional” e privilegiar sua disseminação na rede, inclusive quando se tratar de material publicado por indivíduos. Ou seja, é possível que os vídeos que os usuários colocam em plataformas possam ser prejudicados se não demostrarem a priori que possuem origem canadens. Como se faria isso, é outra e imponderável questão...

Em outra exemplo, e esse com o argumento de se combater a organização de crimes pela rede, há proposta em discussão da Inglaterra que pede às plataformas a implementação de formas de quebra da criptografia em mensagens de usuários, ou do acesso ao texto original via uma “porta dos fundos” sorrateiramente implementada nos sistemas.

Num ambiente dinâmico e em expansão como a Internet, é claramente necessário o acompanhamento e a atualização do arsenal legislativo, para proteger principalmente os direitos dos cidadãos. Há uma forma boa de se conseguir essa constante atualização: trata-se de seguir os passos do que foi feito no caso do Marco Civil, uma legislação louvada internacionalmente como das melhores para a Internet. Assim, o “caminho das pedras” é conhecido e passa por discutirem-se a fundo os possíveis objetivos visados e, especialmente, evitarem-se nefastos efeitos colaterais, que acabem por privar-nos de bens maiores. Buscar açodadamente um objetivo, por quaisquer meios e sem levar em conta seus efeitos, é mau. Georges Bernanos, escritor francês que viveu no Brasil durante a segunda geurra, tem uma frase que ilustra bem esse risco: “o primeiro sinal de que a corrupção se instala numa sociedade ainda viva, é que os fins passam a justificar os meios”….

===
No Estadão:
https://link.estadao.com.br/noticias/geral,na-regulamentacao-da-internet-os-fins-nao-podem-justificar-os-meios,70003798014

===
O artigo citado:
https://obcrypto.org.br/#/post/um-conto-de-duas-propostas-de-rastreabilidade-intencoes-opostas-solucoes-perversas-convergentes-na-india-e-no-brasil

===
Georges Bernanos, "Why Freedom?" The Last Essays of Georges Bernanos, 1955
(1888 - 1948)  
http://www.quotehd.com/quotes/georges-bernanos-author-the-first-sign-of-corruption-in-a-society-that-is-still-alive



===
Artigos sobre o tema:
https://www.michaelgeist.ca/2021/05/this-is-who-the-canadian-government-wants-to-regulate-the-internet/
https://nationalpost.com/news/politics/crtc-chairman-under-fire-over-one-on-one-meetings-with-big-telecom-lobbyists
https://www.reuters.com/world/americas/canada-unveils-plans-make-online-hate-speech-crime-2021-06-23/
https://www.bloomberg.com/news/articles/2021-06-22/trudeau-s-party-passes-bill-to-regulate-social-media-streaming
https://www.techdirt.com/articles/20210802/08443047289/canadian-government-continues-war-internet-freedom-with-new-online-harms-legislation.shtml

===
Legislação em Portugal:
https://expresso.pt/politica/2021-07-29-Marcelo-envia-para-o-Constitucional-artigo-polemico-da-Carta-dos-Direitos-Digitais-68a42069

===


terça-feira, 20 de julho de 2021

A serendipidade perdida

Há ano e meio que nosso ritmo de vida tem sido pautado pela Covid que assola o mundo. Ela não é apenas o tema da maioria dos noticiários e das conversas pessoais, mas também variável que afeta economias e nos ameça com um futuro ainda mal-definido, alcunhado de “novo-normal”.

A peste fez que, rapidamente, as comunicações inter-humanos migrassem para formas eletrônicas e remotas. Conversas, reuniões, aulas hoje são feitas usando plataformas (e, claro, com a indefectível adição de novas gafes e ratas…). A restrição nas idas aos estabelecimentos físicos, estimulou a entrega em domicílio de materiais e mercadorias. Afinal é a velha distinção entre bits e átomos: se os bits transitam com agilidade pelas conexões Internet nas trocas de informação e interações, a entrega física de átomos dependerá sempre de ldeslocamento físico… Para não perder a piada, “não há ainda no horizonte previsão de entrega de matéria via Internet”.

É bom acompanhar a evolução da peste para intuir, talvez, algum sinal de arrefecimento. Para testar nosso desassossego, há uma infinidade de dados e curvas a que podemos recorrer via internet, mas ainda não se vê nada muito promissor. As curvas de casos mundiais seguem um estranho desenhio de “montanha russa”, com subidas, caídas e novas subidas sem que se atine minimamento com uma explicação.

Uma análise mais objetiva das consequẽncias deste período ainda demandará tempo. Alguns pontos já ressaltam: certamente mostra-se indispensável o acesso de todos, sólido e eficaz, à rede. Em linha menos óbvia, por exemplo, há meses fala-se de uma carência de circuitos integrados (chips) no mercado, com um misto de fatores que influiram. Em recente artigo num blog da revista Spectrum, do IEEE, analisa-se esse ponto: se houve um desaquecimento de diversas indústrias consumidoras, como a automobilistica, houve, por outro lado, um impulso com a busca de dispositivos de acesso, conexão à rede e entretenimento. Agora, com a paulatina volta de setores que desaceleraram, os fabricantes de chips viram-se incapazes de atender à onda de demanda. Segundo o blog, isso começará a se normalizar durante o segundo semestre de 2021, mas apenas em 2022 voltaremos ao normal. Na pandemia, acelerou-se a disseminação de interfaces automatizadas que operem com linguagem natural e aplicações de Inteligência artificial no atendimento ao público. E, afinal, há oportunidades para sistemas que garimpem intensamente dados e perfis e, até, para os que simulam comportamento humano, não apenas exibindo linguagem natural, mas podendo comportar-se como “indivíduos” com determinado perfil ou idade, compondo textos que facilmente passariam por reais.

Haverá um “novo normal” ou voltaremos basicamente ao que havia antes? Claro que as experiências por que estamos passando deixarão sua marca no comportamento futuro mas, pessoalmente, torço pela volta de algo o mais próximo do “velho normal”. Há uma palavra inglesa,“serendipity”, que vai sendo incorporada como “serendipidade” e refere-se a acontecimento inesperado, fortuito, e benéfico. Como quando ao tropeçar em algo bolamos uma invenção. No “velho normal” muitas vezes em conversas ao redor do café, em esbarrões nos corredores, ou no lanche do almoço surgiam idéias valiosas que mudariam o curso dos acontecimentos. Um caso antigo famoso foi a descoberta por Flemig da penicilina – numa placa acidentalmente desprotegida cresceu um fungo que matava bactérias. Em acaso feliz, descobria-se a penicilina! Com o uso remoto a serendipidade diminuiu pois estamos muito mais enquadrados quando falamos em reunião virtual. Precisamos recuperar a possibilidade de toparmos com um benfazejo, inesperado e repentino “estalo”.

===
https://link.estadao.com.br/noticias/geral,precisamos-recuperar-a-possibilidade-de-acontecimentos-fortuitos,70003783458

===
Sobre a carência de "chips" no mercado:

terça-feira, 6 de julho de 2021

Apostas no escuro

Um relatório das Nações Unidas sobre uma reunião de especialistas do conflito na Libia deixa a entender que, em março de 2020, houve um ataque “bem sucedido”, feito autonomamente por “drones do tipo quadricóptero”. Os tais veículos aéreos não tripulados contariam com câmera, armamento e, claro, a indefectível inteligência artificial para os guiar e tomar as decisões.

Na cruenta história das guerras, a supressão de vidas em combates foi uma constante, e acabam representadas por frias tabelas numéricas e estatísticas anódinas. Exceto nos casos acidentais, as mortes foram resultantes da ação deliberada de humanos, seja em combates corpo-a-corpo, seja em bombadeiros. Mas mesmo nos piores casos, há linhas éticas que devem ser respeitadas, e efeitos colaterais que precisam ser minimizados. Veja-se por exemplo a necessidade de se removerem as minas anti-indivíduos que ficaram sem ter sido detonadas, para que não se tornem, anos depois, ameaças a terceiros. Há acordos internacionais que preveem limitações em armas nucleares, químicas e biológicas, numa tentativa de demarcar a linha ética que não se deveria cruzar.

Como se coloca aí o problema de equipamentos autônomos com IA? Pode-se argumentar que, com o avanço da IA e dos equipamentos, o número de erros que essas máquinas fariam seria menor que se essas mesmas operações estivessem a cargo de humanos. Eu não compro esse argumento... Delegar decisões, mormente as que envolvem vida ou morte, a máquinas, além de parecer uma declaração tácita de falêncĩa moral, pode carrear consequências que não se conseguiria avaliar hoje. Lembro da cena do filme baseado em conto de Arthur Clarke “2001, uma Odisséia no Espaço”, em que um computador com IA - o HAL 9000 - decide não permitir que o astronauta volte à segurança da nave, porque o programa chegou à conclusão de que isso colocaria em risco o objetivo final da missão… Mais um caso em que o fim buscado justificaria os meios, na voz sintética do HAL 9000: “esta missão é muito importante, e não vou permitir que você a coloque em risco”

Outro argumento é o de que, se houver uma auditoria profunda nos programas escritos, teríamos como prevenir ou impedir viéses e fatalidades. Também não me convence esse argumento. Como exemplo, vejam-se os programas que aprendem a jogar xadrez, partindo apenas das regras do jogo e usando aprendizagem de máquina. Com algumas horas de treino esses programas ganham de grandes mestres e, com muito mais facilidade, claro, do mesmo humano que escreveu o programa original. Ou seja, evoluiram para examinar autonomamente situações de jogo e, sem trapaça, montar uma estratégia ganhadora imbatível.

Temos uma tendência atávica de abrir “caixas de Pandora” que pode nos levar à autodestruição. Tópico do momento: hoje se pesquisa e debate a origem do virus da Covid. Saiu de laboratório ou da natureza? Não tenho a menor competência para opinar mas, pessoalmente, ficaria mais confortável se ele fosse o resultado de um experimento que vazou. Tento explicar: se for algo da natureza, estamos diante de situações perigosas, de difícil prognóstico e controle. Mas se foi um produto humano que escapou acidentalmente, isso poderia se enquadrar - caso análogo a alguma IA – em uma ousadia humana impensada, que pode gerar acidente devastador. Aqui sempre poderiamos declarar que “a linha de prudência foi ultrapassada” e que certos experimentos devem obedecer a restrições éticas e morais.

Há uma frase centenária de G. K. Chesterton que, penso, ainda se aplica bem hoje: “Hoje aprendemos a fazer coisas maravilhosas. Nossa próxima tarefa é aprender quando não fazê-las”...

===
Informações sobre o ataque:

https://www.livescience.com/ai-drone-attack-libya.htm

https://undocs.org/S/2021/229

===
Video sobre o HAL 9000 em "2001, uma Odisséia no Espaço":

https://www.youtube.com/watch?v=Jkv-lNAqfmk




===
Frase de G. K. Chesterton citada:

https://www.chesterton.org/quotations-of-g-k-chesterton/

“We are learning to do a great many clever things…The next great task will be to learn not to do them“                        Queen Victoria, 
Varied Types

===
Inteligência Artificial confundindo uma bola com a cabeça de um humano calvo...

https://www.youtube.com/watch?v=HjJmO9NvKL8


terça-feira, 22 de junho de 2021

Gravado em Silício

Há um vídeo na Internet em que Peter Hochschild, um pesquisador da Google, descreve a identificação de comportamentos erráticos em módulos de processamento. O adjetivo que ele usa para isso é interessante: “comportamento mercurial”. O romano Mercúrio, Hermes dos gregos, era o deus da comunicação e também do comércio. Dotado de sandálias aladas, era rápido mas muitas vẽzes errático e incerto. E de comportamento imprevisível nem sempre claro: uma comunicação “hermética” refere-se a algo obscuro, não facilmente inteligíveil… O mercúrio, metal fluido e vivaz, prata-líquida ou prata-viva, faz jus ao nome.

Não é nenhuma novidade que a crescente miniaturização dos componentes de circuitos integrados de silício cria fragilidades. Uma célula de memória atualmente é tão pequena, e com tão pouca carga elétrica associada, que eventos de radiação cósmica ionizante, partículas alfa, ou mesmo alguma radioatividade do invólucro poderiam alterar algum “um” para “zero”, ou vice-versa. Há diversas formas de proteção contra esses riscos: a inclusão de algum tipo de verificação de consistência dos dados que detecte alterações ou, em casos mais críticos e sofisticados, a adição de informação redundante que permita não apenas apontar uma corrupção nos dados, mas consertá-la, desde que pontual e não disseminada. Do lado dos processadores, em aplicações muito críticas, ou onde há exposição a agressões maiores, como em aplicações espaciais, pode-se aumentar a segurança provendo a triplicação de recursos computacionais. Desta forma, em caso de alguma discrepância, haverá uma “maioria” que permita descartar o dissonente e dar mais segurança ao resultado.

Poderia haver aí uma analogia com as formas da evolução biológica? Afinal, somos o que somos porque uma infinidade de transformações aleatórias, devidamente filtradas e sancionadas pelo ambiente, nos trouxe a esse estágio. O risco de alterações inesperadas pode ser devastador, mas é atenuado quando se dispõe de alguma redundância. Há mecanismos que buscam automaticamente consertar “erros” em DNA, e biólogos poderão falar disso muito melhor mas, para um mero engenheiro, o fato do DNA ser uma fita dupla já parece uma ajuda importante em prevenir mutações caóticas: uma fonte adicional de dados provê aos reparadores automáticos uma segunda referência...

Problemas causados por fatores exteriores não se confundem com erros gerados por deficiências no projeto do “hardware” ou falhas na programação em “firmware” ou “software”. Há diversos casos bem documentados de erros encontrados em versões de equipamentos e que, uma vez indentificados, foram corrigidos nas versões seguintes. Um caso famoso, por exemplo, é o relacionado a problemas de cálculo em divisões em ponto flutuante de processadores Pentium em 1995, que foi rapidamente consertado. Uma outra fonte de surpresas, mas que não seria um “erro de projeto”, é a existência de instruções ocultas, não documentadas nos manuais. Como exemplo pessoal, lembro que o processador Motorola 6800 tinha uma instrução não documentada conhecida como HCF (Halt and Catch Fire, ou “pare e pegue fogo”), que fazia o processador transformar-se num simples e impávido contador sequencial.

A preocupação suscitada agora não é comportamento errático gerado por falhas de projeto ou de programação, e nem mesmo o efeito corruptor que elementos externos como radiação e partículas incidentes possam causar na exatidão do processamento, mas uma característica errática, não especialmente rara, que vem sendo detectada em processadores de alta capacidade e alta densidade. Um ponto de alerta preocupante: parece que nem o que está “escrito em siício” é imutável ou plenamente confiável.

===
Mercúrio, muito adequadamente, é símbolo de algumas bolsas de valores (abaixo, a da Argentina)
https://www.bcba.sba.com.ar/el-clasico-emblema-de-la-bolsa/




===
Vídeo citado, artigo sobre ele, e bits que mudam:
https://www.youtube.com/watch?v=QMF3rqhjYuM
https://www.theregister.com/2021/06/04/google_chip_flaws/
https://www.johndcook.com/blog/2019/05/20/cosmic-rays-flipping-bits/

===
DNA e seus reparos:
https://courses.lumenlearning.com/boundless-biology/chapter/dna-repair/

===
O "bug" de ponto flutuante do Pentium
https://en.wikipedia.org/wiki/Pentium_FDIV_bug

História do Motorola 6800 e a descrição da instrução (HCF) não documentada
https://www.embarcados.com.br/40-anos-motorola-mc6800/

=== 
"Mercurial", em:
https://nepe.wab.com.br/pesquisa-dicionario?query=mercurial
"Cujas reações ou comportamentos são intempestivos, intensos; que reage de maneira inesperada, impulsiva, repentina ou sem reflexão, diante de alguma situação; temperamental, impulsivo."

===
No Link:
https://link.estadao.com.br/noticias/geral,comportamento-erratico-em-processadores-e-preocupante,70003754428