terça-feira, 24 de novembro de 2020

Os meios e os fins

Há um vídeo (2009) do afamado físico norte-americano Michio Kaku, com uma série de previsões para um futuro próximo (2030) e para um futuro distante. Ele usa como pontos de partida, entre outros, a chamada “lei de Moore” e também a própria evolução da Internet. 

A “lei de Moore” foi enunciada por Gordon Moore, engenheiro eletrônico e um dos fundadores da Intel em 1968, a futura líder mundial na fabricação de micro-processadores. Em 1965 Moore vaticinou que, com o rápido desenvolvimento da tecnologia de integração, a cada ano duplicaria o número de dispositivos num micro-circuito. Esse prazo, depois revisto para 18 meses, significaria também que, passados 18 meses, se compraria por um custo equivalente algo cerca de duas vezes mais potente, dentro das limitações técnicas do momento. 

Nessa taxa de crescimento, a cada 30 anos a capacidade dos dispositivos torna-se 1 milhão de vezes maior. Houve, claro, repetidos anúncios de que estaríamos próximos ao máximo de compactação possível na tecnologia atual, mas, de algum modo, o crescimento se manteve. Finalmente, em 2011 o próprio Michio Kaku estimou que não seria mais possível ter esse ritmo por mais que uma década, e que em 2022 atingiríamos um limite físico na tecnologia de que dispomos hoje. 

O fato é que hoje um simples telefone celular tem mais capacidade de processamento do que a que foi suficiente para colocar um homem na lua, e abriga uma quantidade de informações armazenáveis milhares de vezes maior do que, por exemplo, a capacidade total de que dispúnhamos na USP, anos 70, no centro de processamento de dados. 

É exatamente esse aumento colossal de capacidade de processamento e de armazenamento que permitiu grande desenvolvimento em áreas pré-existentes, como a de tradução automática, a de inteligência artificial e muitas outras. Se, por um lado, isso é motivo de otimismo e boas expectativas, também pode sinalizar evoluções mais sóbrias, como o grande crescimento na capacidade de obtenção e armazenamento de informações sobre nós, obtidas via rede ou outros meios. Some-se a isso a dependência que passamos a ter da tecnologia, e poderemos chegar a uma situação onde somos conduzidos pelo próprio ambiente em que imergimos, sem clara noção de que perdemos parte de nosso discernimento. 

Faz 75 anos “A França contra os Robôs”, escrito no Brasil por George Bernanos. Alguns desses riscos já são profeticamente apontados no livro de 1945. Alerta-se nele, por exemplo, que “o perigo não está na multiplicação das máquinas, mas no número cada vez maior de homens acostumados, desde a infância, a querer apenas aquilo que as máquinas podem dar." No vídeo de Kaku, outro paralelo interessante é o que ele faz com a Internet em seu início: ela seria um local ideal para discussões acadêmicas e de alto nível, contribuindo para um debate esclarecido. Claro que com sua expansão por toda a comunidade, a rede ganhou um caráter muito mais inclusivo e abrangente, nada elitista ou sofisticado. Mas essa característica então inesperada e altamente positiva, também carrega veneno embutido: pode levar-nos a pensar superficialmente e a seguir a voga sem discernimento. 

Bernanos adverte que as civilizações, como os homens, morrem. Mas enquanto os homens se decompõem depois de mortos, as civilizações se decompõem antes de morrer: “uma sociedade mostra sinais de corrupção quando, na busca de determinado objetivo, justifica quaisquer meios para atingí-lo”. Estejamos atentos!


===
Saving the Future of Moore's Law
https://education.dellemc.com/content/dam/dell-emc/documents/en-us/2019KS_Yellin-Saving_The_Future_of_Moores_Law.pdf

Moore's Law
https://www.umsl.edu/~siegelj/information_theory/projects/Bajramovic/www.umsl.edu/_abdcf/Cs4890/link1.html

Wikipedia:
https://en.wikipedia.org/wiki/Moore's_law

Moore’s Law Dead by 2022, Expert Says
https://www.eetimes.com/moores-law-dead-by-2022-expert-says/#
===

O vídeo citado de Michio Kaku: "The World in 2030"
https://www.youtube.com/watch?v=219YybX66MY
===

Texto de Martim Vasques da Cunha sobre o livro de Bernanos:
https://alias.estadao.com.br/noticias/geral,decadas-antes-da-internet-escritor-alertava-para-consequencias-da-tecnologia,70002360602
===
Gordon Moore em "Neuromorphic Hardware: Trying to Put Brain Into Chips"
https://medium.com/computational-neuroscience/neuromorphic-hardware-trying-to-put-brain-into-chips-259638da2f12




terça-feira, 10 de novembro de 2020

O Voto Eletrônico

As eleições norte-americanas foram o principal assunto da semana. Lá, além dos votos via correio, que começaram a chegar em fins de setembro, houve o voto presencial em novembro. Um misto de voto presencial e voto com cédulas oficiais recebidas pelo correio. Se a condição da pandemia da covid-19 reforçou a necessidade de opção ao voto presencial, essa mistura de tipos de votação abriu mais espaço a discussões, fundadas ou não, sobre a segurança de todo o processo.

Há três pré condições para um processo eleitoral seguro: a capacidade de identificar claramente os eleitores habilitados a votar; a unicidade da cédula por eleitor; e a não possibilidade de alteração dos votos depositados. Respeitadas, resta garantir o sigilo do voto e a lisura na apuração do resultado, lembrando que nada é totalmente imune a fraudes, e sempre há o fator humano, elo mais fraco em qualquer processo de segurança.

Em tempos de digitalização, é esperada a pergunta do por quê não migrarmos também o voto para a Internet? Há exemplos de países, como a Estônia, que votam pela rede – caso interesse, há uma tese, de Rodrigo Cardoso Silva, recém defendida na PUC-SP sobre isso. 

Mesmo no caso da Estônia, onde a votação pode ser pela Internet, boa parte da população ainda prefere o voto presencial, o que indica uma sensação de insegurança sobre o processo. Sem resolver as pré condições acima, é temerário pensar em voto pela Internet.

No Brasil há a urna eletrônica. Sua implementação resolve dois dos quesitos levantados. É uma forma segura de permitir o voto apenas aos habilitados e permitir apenas um voto para cada eleitor. Resta garantir que o voto dado é inalterável e fidedignamente computado. É frágil a alegação de que um exame da programação do sistema supriria essa garantia. Mesmo tendo-se acesso ao código-fonte, a prova de sua total correção é muito difícil. 

Além disso, um programa correto pode resistir a tentativas externas de fraude, mas isso não o protege de um ataque interno, por quem tenha privilégio de acesso suficiente para alterar pontualmente seu funcionamento. 

Finalmente, e como fica patente nestes tempos de ataques cada vez mais ousados e destrutivos a sistemas de informação, há que se dispor de algum mecanismo independente de verificação e recuperação. Uma das alternativas sólidas seria incluir uma pequena unidade de impressão em cada estação. O voto eletrônico geraria uma cópia em papel que, conferida pelo eleitor, seria imediatamente depositada em urna inviolável. Ficariam preservados o sigilo do voto e a rapidez na obtenção dos resultados da eleição, enquanto, em paralelo, haveria uma amostragem garantidora: sorteadas umas poucas urnas, seria cotejado o resultado eletrônico com a contagem das cédulas nelas contidas.

Um processo auditável deve prever uma segunda forma de se chegar ao resultado, e que independa da primeira. Ter uma única fonte de respostas, por mais sólida que ela pareça, deixa-nos à mercê de problemas imprevisíveis, e não permitirá auditoria.

A comunidade técnica já se manifestou mais de uma vez a respeito deste tema que, por óbvio, não se confunde com uma “volta ao voto em papel. Ao contrário, trata-se de valorizar o voto eletrônico e sua celeridade, sem abrir mão da possibilidade de uma revisão independente. 

Não se trata de “desconfiar a priori” mas sim de prevenir problemas. Afinal, mesmo sendo a mulher de César totalmente honesta, é reassegurante que ela também pareça honesta...

===
Artigo com entrevista do Diego Aranha sobre o tema:
https://www.welivesecurity.com/br/2018/10/17/diego-aranha-os-testes-de-seguranca-nas-urnas-eletronicas/

===
Tese de Doutoramento de Rodrigo Cardoso Silva, PUC-SP (2020)
https://tede.pucsp.br/bitstream/handle/23126/2/Rodrigo%20Cardoso%20Silva.pdf

===
Sobre votação eletrônica, discussão em voga na Estônia:
https://news.err.ee/1156652/kaljulaid-convening-defense-council-over-helmes-biden-remarks

===
Ilustração em :
https://link.estadao.com.br/noticias/geral,o-voto-eletronico,70003507888





terça-feira, 27 de outubro de 2020

Pior que a extinção

Um artigo da BBC Future alerta para um possível destino que nos espreita, e que poderia ser pior que a própria extinção. O cenário descrito considera que a junção de inteligência artificial com objetivos globais totalitários pode levar a uma sociedade permanentemente sob controle, e onde a vida seria tão miserável que a extinção pareceria uma benção. Argumenta que a possiblidade de uma extinção por fatores independentes ao homem, como um meteoro ou outra calamidade, é milhares de vezes menor que a possibilidade de cairmos num poço sem saída, perdidos os modelos e os contrastes que poderiam nos libertar.

Houve não poucos momentos em que regimes totalitários se impuseram em partes do globo, mas o simples fato de haver formas de cotejá-los com outros usos e costumes, de poder cruzar fronteiras e encontrar novos ares e, principalmente, de manter presentes lições transmitidas por gerações anteriores e por tantos pensadores que escreveram sobre liberdade, ética e sociedade, preservava uma saída. Hoje vê-se uma expansão das formas de controle que não encontra resistência. Pelo contrário, alega-se que, em busca de segurança, há apelo público por “mais controle”.

Esquecer ou reescrever a história, sob diversos pretextos e argumentos é outro sintoma. Reduzir tudo a um “erro milenar”, de que a nova humanidade se redimiria relegando-o à lixeira, e recomeçar do zero a partir de agora não é muito diferente da queima de livros em Fahrenheit 451, ou do lema de 1984 “quem controla o passado, controla o futuro e quem controla o presente controla o passado”.

O medo é outra forma eficaz de tolher a liberdade humana. “Só quem ultrapassa seus medos é verdadeiramente livre”. Mesmo sem analisar possíveis justificativas, hoje se estimula um medo pânico sobre muitos tópicos e de muitas maneiras. Usa-se a busca pela auto-preservação coontraposta a um comportamento mais estóico e desprendido, que hoje seria considerado “loucura”, e um atentado contra a segurança geral. Outro insumo reside no poder de gerar vídeos artificiais muito críveis, que mimetizam pessoas e simulam discursos. Assim também as preferências de cada um podem ser induzidas, resultando numa submissão segura a longo prazo. Quando um fato é indistinguível de um artifício e quando medo em tudo que se apresenta à nossa frente, aceita-se de bom grado uma barganha pela liberdade.

De volta à inteligência artificial, a possibilidade de uma análise detalhada das vulnerabilidades e suscetibilidades de todos através da coleta de infinidade de dados que ficam em redes sociais, de nossa movimentação flagrada por câmeras, e do que fazemos pela rede, denota o tamanho dos riscos a que estamos expostos. Um potencial experimento de “controle social” apoiado nessa analise profunda executada por mecanismos de inteligência artificial, poderia ser plenamente bem sucedido, e extirpar permanentemente qualquer possibilidade de escape.

Resta ver que ações podem ser tomadas para prevenção dessa distopia. Em casos anteriores, houve formas de saída; o mais recente talvez tenha sido o risco de uma hecatombe nuclear, ao menos parcialmente neutralizado. É imperativo manter análise lúcida de tudo. Ambrose Bierce, satírico escritor do século XIX, em seu “Dicionário do Diabo” já havia descrito esse risco. Em dois verbetes do Dicionário ele crava:
“Liberdade: é
o bem mais precioso da imaginação”, e
“Louco: indivíduo afetado por alto grau de independência intelectual”.

===
O artigo da BBC Future:
https://www.bbc.com/future/article/20201014-totalitarian-world-in-chains-artificial-intelligence

===
O Dicionário do Diabo, de Ambrose Bierce em PDF:
https://www.fulltextarchive.com/pdfs/THE-DEVIL-S-DICTIONARY.pdf

===
Frases do 1984 de George Orwell, incluindo a citada no texto:
https://www.pastemagazine.com/books/1984/the-best-quotes-from-1984-by-george-orwell/


===
https://link.estadao.com.br/noticias/geral,pior-que-a-extincao,70003489909
"Em Fahrenheit 451, livros são queimados para evitar que os cidadãos leiam e desenvolvam censo crítico"


terça-feira, 13 de outubro de 2020

A lei de Postel

A forma da governança da Internet é sempre tema de debates e confronto de opiniões, especialmente em tempos assim difíceis e complicados. Afinal, de que meios a sociedade deveria lançar mão para evitar os danos e riscos a que estamos expostos, enquanto preserva a civilidade e a volta da boa discussão de ideias? Tivemos há quatro dias um interessante painel sobre o jornalismo neste cenário de muita tecnológia, concentração de poder e crescente polarização da sociedade. Como escapar do caos e da barbárie que parecem nos espreitar?

Nesse debate é importante que se preservem os conceitos que fizeram da Internet o sucesso que é. Estes princípios eram presentes na definição de sua arquitetura, como inter-rede aberta, livre e sem controle central, e cujo único requisito para a adesão é que as redes ingressantes implementem os protocolos técnicos definidos e adotem identificadores coordenados, para a funcionalidade do todo. Esse conjunto de protocolos é o TCP/IP, definido por Vint Cerf e Bob Kahn e oficialmente implantado em toda a Arpanet em 1 de janeiro de 1983.

É inquestionável a solidez técnica da solução adotada em 1983, haja vista sua resiliência e a capacidade de suportar um incremento de milhões de vezes na carga de trabalho e capacidade de comunicação. Sobre essa estrutura aplicações são livremente criadas e oferecidas. Algumas, como a Web, ganharam tanta expressão que por vezes são confundidas com a Internet em si. Outras provêm a seus usuários facilidades e atrativos que os mantêm em sua órbita, fazendo-os esquecer da riqueza que também existe fora dos muros daqueles jardins.

Assim, há que se distinguir o que é a Internet em essẽncia, cujos princípios e conceitos devem ser preservados e defendidos, das construções sobre ela, que prometem frecursos e conforto, mas que também são fonte de abusos, de riscos aos usuários, além de representarem uma grande concentração de poder. Na ânisia de aplacar o que nos aflige, cuidemos em não propor “emenda que saia pior que o soneto”.

Voltando ao que um amigo chamou de a “belle epoque” da Internet, Jon Postel, um pioneiro da rede, enunciou em 1980 um princípio de robustez para o TCP/IP que acabou conhecido com “a lei de Postel”: para a rede se manter sólida e funcional, devemos ser conservadores no que fazemos, e liberais no que aceitamos dos demais”. É a própria definição de comportamento tolerante e sensato. Extrapolemos a “lei de Postel” para o comportamento dos usuários da rede e resulta que, se é certo que receberemos coisas indesejadas, falsas, ofensivas, até perigosas, de nosso lado, porém, deveríamos sempre agir de forma ética e contida.

Os fados, os ventos, as redes sociais, os ingressantes encantados com o poder de voz que a rede lhes trouxe, fizeram com que a sábia mensagem de Postel não apenas fosse praticamente esquecida, mas que seu oposto ganhasse espaço e prevalência. A moda hoje é falar desbragadamente sobre tudo e para todos, esperando que nossa voz ecoe e tenha o impacto que gostaríamos, ao mesmo tempo em que nos irritamos com o que recebemos, especialmente se confronta nossa posição. Somos zelosos em não aceitar o chega até nós, e liberais no que enviamos aos demais. Prezamos nossa liberdade para falar o que for, para qualquer um, mas nos sentimos ofendidos e buscamos impedir que nos chegue o que não agrada. É esse mecanismo que inibe o debate de idéias e isola os indivíduos atrás de muros e ilhas sociais radicalizadas. É a “anti-lei de Postel”, que trabalha pela barbárie. Recuperemos o sensato e construtivo espírito da lei original.
===
A lei de Postel https://twitter.com/Axelisys/status/1278957787280785408?s=20

===
Jon Postel
https://img.estadao.com.br/fotos/crop/640x400/resources/jpg/4/6/1602522046364.jpg