Complexidade e Segurança

O irresistível avanço das tecnologias digitais faz com que qualquer artefato minimamente complexo tenha hoje em seu interior um processador digital e seus respectivos complementos, entre os quais, invariavelmente, há formas de acesso remoto ao processador sendo a Internet a mais comum. A esta onipresença, tanto do processamento digital como da conectividade, é o que se chama Internet das Coisas, cuja clara importância estratégica é tema de ampla discussão. Há aí o receio de efeitos indesejados, além de eventuais riscos à privacidade que um monitoramento abusivo de dispositivos conectados pode trazer.

A digitalização dos equipamentos tende a buscar a solução mais prática: é sempre mais rápido e barato usar um processador de mercado dotando-o do software específico para exercer a função que se pretende. É muito provável que o mesmo “chip” usado num televisor, esteja também dentro de um refrigerador, do controle das luzes da casa, ou até do porteiro eletrônico. E há por projeto, além dos recursos necessários para o trabalho, o apoio à conectividade e mais outros eventualmente desnecessários para o fim específico. Exemplificando, se um cadeado metálico tradicional fosse utilizado para bloquear uma porta, a forma de violá-lo destruindo-o fisicamente, ou fraudando seu o segredo com uma chave falsa ou uma gazua. A versão digital da mesma porta pode ter outras fragilidades: se há acesso a ela via rede, o potencial invasor sequer precisa estar próximo para tentar acesso indevido ao programa que a controla. Se conhecer a arquitetura usada no controlador, pode valer-se de outras formas de acesso potenciais: certamente há nele recursos adicionais residentes para que possa ser usado numa grande variedade de funções, a depender da programação que recebe. Parte desses recursos, desnecessários para a função “cadeado eletrônico”, podem ser alvos frágeis. Finalmente, é possível que o atacante não vise a violar o acesso em si, mas apenas obter um “ponto de apoio” dentro do sistema da vítima, de onde possa, desapercebidmente, escolher outro objetivo a atacar. Há alguns anos foi bem conhecido o caso “Mirai”, em que o programa malicioso invadiu câmeras residenciaos para ter pontos de apoio a ataques de negação de serviço externos.

Em texto recente, Bruce Schneier, especialista em segurança e criptografia trouxe ao debate o tema, a partir de uma palestra de Thomas Dullien, da Google Zero: a “complexidade barata” e seus riscos inerentes. “Hoje é mais fácil construir sistemas complexos que simples. Se há vinte anos se construia um refrigerador com hardware e software específicos, hoje basta pegar um microprocessador de mercado e escrever um programa para ele. E esse processador terá número IP, microfone incluido, porta de vídeo, Bluetooth e mais outras coisas. E, como elas estão lá, presentes, alguém tentará usá-las…”

===

Bruce Schneier
https://www.schneier.com/blog/archives/2022/08/security-and-cheap-complexity.html

Thomas Dullien of Google’s Project Zero
http://rule11.tech/papers/2018-complexitysecuritysec-dullien.pdf

https://www.youtube.com/watch?v=q98foLaAfX8

===

"Cheap Complexity"
https://freedom-to-tinker.com/2022/08/03/the-anomaly-of-cheap-complexity/

Democracia e Especialidades

No complicado entrelaçamento em que vivemos hoje há agentes os mais diversos, desde a comunicação ampliada que a expansão do acesso à Internet permitiu, a tecnologia com a evolução vertiginosa da Inteligência Artificial, e impactos sociais importantes que esta mescla de tecnologias e ideias traz, tanto a direitos ameaçados como o da privacidade, quanto ao modo de convívio. Torna-se importante olhar este cenário sob os diversos viéses, para que se possam identificar reais ou potenciais riscos.

Num cenário muito real, a quantidade imensa de dados e opiniões pessoais que existe disponível na internet alimentará gigantescas bases de dados. Desde a famosa e ácida tirada de Umberto Eco – que em nada embaça a importância de expandir a Internet - estabeleceu-se como fato consumado que a inclusão de todos às plataformas de interação traria uma inevitável cacofonia e, pior, traria novas formas de controle sobre o pensamento geral, e especialmente sua modelagem a partir das redes. O busílis da questão aqui éque, com a existente sinergia com outras poderosas ferramentas tecnológicas, esse efeito colateral pode ser potencializado, gerando danos reais concretos.

As tais imensas bases de dados apenas são tratáveis via computação específica, que pode ser ligada à inteligência artificial. E, se como já ocorre hoje com os interlocutores virtuais, eles passarem a ser também nossos parceiros nas discussões sobre qualquer tema, uma pergunta ingênua de alguém poderá receber uma resposta automática que reflita o que foi levantado na média de opiniões. Ora, muitos avanços importantes sempre trouxeram contestações à visão média da época. O peso de uma opinião técnica, sólida e fundamentada cientificamente, não pode se perder numa sopa de outras, em maior número mas pessoais, ou mimetizando “influenciadores”. Não se trata de negar a valiosa sabedoria popular, mas evitar que a “verdade” seja algo majoritariamente definido: certamente Galileu não contava com a maioria das opiniões populares ao seu lado quando anunciou que a Terra se movia ao redor do Sol. Teremos, portanto, um risco inerente se, ao lutarmos pela democratização da informação para todos, acabamos por promover uma falsa “democracia de especialidades”, onde todos falaremos sobre tudo e com o mesmo peso, cristalizando visões da maioria.

Como contraponto, sempre haverá situações em que a sabedoria popular segue rainha. Por exemplo, quanto ao que seja “belo”, há um epigrama famoso de John Keats, que é o fecho de ouro de seu poema Ode a uma Urna Grega, 1819. Descrevendo a beleza estética imortal da tal urna, que sobreviverá aos homens e às épocas, encerra com: “Verdade é beleza, beleza é verdade. Isso é tudo o que sabemos no mundo, e tudo o que precisamos saber”.

===

https://thenextweb.com/news/beginners-guide-ai-apocalypse-the-democratization-of-expertise

https://www.poetryfoundation.org/poems/44477/ode-on-a-grecian-urn

<...>

When old age shall this generation waste,
Thou shalt remain, in midst of other woe
Than ours, a friend to man, to whom thou say'st,
     "Beauty is truth, truth beauty,—that is all
     Ye know on earth, and all ye need to know."

https://edisciplinas.usp.br/pluginfile.php/3455391/mod_resource/content/1/ODE%20A%20UMA%20URNA%20GREGA%20TRAD.%20AUGUSTO%20DE%20CAMPOS.docx

https://gavetadoivo.wordpress.com/2014/05/09/ode-a-uma-urna-grega-de-john-keats/

https://gavetadoivo.files.wordpress.com/2014/05/c3a9nfora-grega-helenc2a1stica.jpg

Pensando a Internet

No ginásio tive professores de português muito dedicados, e que prezavam pela defesa das formas castiças de expressão evitando estrangeirismos ou neologismos desnecessários. No caso deste título, quase posso ver o velho mestre advertindo: “você pretende pensar sobre a internet? Então use ‘pensando na internet’. Pensando ‘a’ Internet tem o sentido de colocar bandagens, pensos nela. Estaria a internet machucada, precisando de curativos?”. Não restam dúvidas que a língua é dinâmica e sofre alterações continuamente, porém também é importante preservar a riqueza cultural e da semântica que ela contem. É claro que mudanças vertiginosas como as atuais exigem expressões novas que as descrevam, mas isso não deveria justificar desconhecimento do que já existe, com o empobrecimento do idioma e sua capacidade de transmissão correta das informações.

Há riscos ainda maiores, como os descritos por Orwell no emblemático 1984. O “duplifalar”, por exemplo, visa a alterar propositadamente a semântica das palavras, partindo da premissa de que o controle da forma de expressão leva ao controle do próprio pensamento: “quem controla o passado, controla o futuro; e quem controla o presente, controla o passado”. Em 1984 Orwell descreve que os vocábulos podem ter sentidos opostos, se aplicados a aliados ou a inimigos. Os lemas paradoxais “guerra é paz”, “liberdade é escravidão”, “ignorância é força” ilustram esse malicioso uso de semântica dupla e fluida. O ministério da propaganda de Oceânia, o fictício país de 1984, chamava-se Ministério da Verdade, enquanto que o da guerra era o Ministério da Paz...

Ao dar acesso a bilhões de indivíduos e mentes, a internet tornou-se uma potencial ferramenta de controle do presente e, a partir daí, da possibilidade de reescrita do passado. Afinal, a fluidez da semântica na internet muitas vezes leva à desconstrução factual, e versões ganham a mesma relevância (ou ainda maior...) do que os fatos descritos. Isso não seria, absolutamente, um alerta contra a expansão da rede - que queremos ubíqua - mas uma reflexão sobre o imenso poder de controle que ela pode propiciar. As levas de usuários entrantes se beneficiam imensamente com o acesso à rede, mas elas serão também alvos preferenciais dos que buscam seu controle.

Internet deve ser protegida e expandida para que chegue a todos. A luta por mantê-la independente, livre, descentralizada e não segmentada é igualmente importante. Da mesma forma devemos ficar atentos aos riscos de concentração de poder, de monitoramento e, porque não, de manipulação de nossas ideias. Eles podem se esconder nas camadas sobre a rede. Sobretudo devemos ser parcimoniosos na credibilidade que damos ao que chega até nós. Se decidirmos “pensar a internet”, no sentido de nela aplicar curativos, poderíamos começar resistindo a reformatar uma famosa frase de Osvald de Andrade para que ela, adaptada, não se transforme num lema da internet: “Na internet ‘a gente escreve o que ouve, nunca o que houve’”.

===

https://pt.wikipedia.org/wiki/1984_(livro)

===

Um ensaio algo antigo sobre "semântica", com referências a 1984

https://palladiummag.com/2022/06/17/epistemology-semantics-and-doublethink/

===