Fênices na tecnologia

É curioso observar, no vórtice de evolução tecnológica em que vivemos, a alternância de tendências e dos modismos. Ao sabor do que é mais impactante mercadologicamente, e qual a mitológica fênix, conceitos algo esquecidos são reciclados e revividos, quando a roda da tecnologia volta a lhes dar fôlego. Inteligência Artificial, em seus quase 70 anos de existência, passou por diversos “invernos” durante os quais sua popularidade caiu, mas hoje, graças às capacidades de processamento e armazenamento, é o tema mais quente. Há que se descontar as extrapolações que, indiscriminadamente, aplicam a etiqueta IA em tudo.

Só pra recordar temas dormentes - mas que podem reviver de um momento a outro - a discretização do digital tem como alternativas computadores analógicos. Do mesmo modo que há espaço para a “lógica difusa” (fuzzy) além da lógica binária fixa. Afinal o cérebro humano tem um funcionamento analógico, mais associado a eventos químicos e elétricos que a eventos binários. Essa era a abordagem das “redes neurais”, ao simularem formas de simulação do aprendizado que acontece com as conexões e sinapses neuronais em nossos miolos.

O maciço poder que a computação tradicional desenvolveu, manteve-a como principal simulador, em lógica discreta, de eventos que seriam mais apropriadamente tratados como analógicos. Mas isso não preclude a cíclica retomada de linhas antes abandonadas ou menos estimuladas. Notícia desta semana, por exemplo, apregoa que um supercomputador, usando redes neurais e a ser lançado em abril do ano que vem, conseguirá atingir a capacidade humana em termos de conexões neuronais. O DeepSouth, em desenvolvimento por equipe australiana e alemã, alega que realizará mais de 200 trilhões de operações sinápticas por segundo, rivalizando com o que o cérebro humano consegue. E há ainda um ponto muito importante nos dias de hoje: o consumo de energia do DeepSouth, por usar plataforma diversa da dos supercomputadores convencionais, deve ser muito menor do que o destes.

Enquanto aguarda-se a comprovação desses números, alguns dos pontos de debate hoje poderão ser recalibrados. Afinal, adotando-se um esquema de rede neuronal com aprendizagem não supervisionada, estamos criando algo que aprende de forma muito próxima à nossa. Revisitaríamos a discussão que temos hoje sobre “ética da IA”? Indo “além das sandálias”, arrisco-me a dizer que é uma saida simplória bradar por ética sem definirmos a priori o que queremos que IA entenda por isso. Arrisco-me a dizer que nós mesmo usamos “ética” como uma platitude que não gerará reação adversa, mas sem nos darmos ao difícil trabalho de definir o que esperamos com isso. Afinal, cada um quer da IA a ética que a ele próprio parecer adequada...

E com isso termina o último texto do ano. Pegando carona com Mário Quintana, “quando se vê, já são seis horas! / quando se vê, já é sexta-feira! / quando se vê, já é Natal.../ quando se vê, já terminou o ano…”. Obrigado, bom Natal a todos, e um excelente 2014!

===
O anúncio do DeepSouth:

https://www.westernsydney.edu.au/newscentre/news_centre/more_news_stories/
===

Textos sobre 'lógica difusa" e computadores analógicos
https://en.wikipedia.org/wiki/Fuzzy_logic
https://en.wikipedia.org/wiki/Analog_computer
===


O poema de Mário Quintana:
https://manoelafonso.com.br/politica/o-tempo-mario-quintana-2/

A vida é o dever que nós trouxemos para fazer em casa.
Quando se vê, já são seis horas!
Quando de vê, já é sexta-feira!
Quando se vê, já é Natal…
Quando se vê, já terminou o ano…
Quando se vê perdemos o amor da nossa vida.
Quando se vê passaram 50 anos!
Agora é tarde demais para ser reprovado…
Se me fosse dado um dia, outra oportunidade, eu nem olhava o relógio.
Seguiria sempre em frente e iria jogando pelo caminho a casca dourada e inútil das horas…
Seguraria o amor que está a minha frente e diria que eu o amo…
E tem mais: não deixe de fazer algo de que gosta devido à falta de tempo.
Não deixe de ter pessoas ao seu lado por puro medo de ser feliz.
A única falta que terá será a desse tempo que, infelizmente, nunca mais voltará.

===
Fênix:
https://pt.wikipedia.org/wiki/F%C3%A9nix

Imagem da Fénix renascendo, do "Bestiário de Aberdeen"

Aprender e Desaprender

As duas vertentes da tecnologia que mais estão em evidência hoje são a IA e a computação quântica. Ambas são intensamente dependentes de recursos e infraestrutura: para que uma aplicação IA funcione, além da programação envolvida – e que hoje, até, pode ser encontrada em forma aberta – é necessário um grande poder computacional e enormes bases de dados que possam servir ao treinamento ou à busca de conclusões. A computação quântica é algo bem mais críptico, exigindo ambiente específicos e muito bem controlado fisicamente. Formas de regulação para ambas estão em intenso debate.

Certamente há muitos pontos de atenção referentes à IA, onde o que se pretende é avaliar e minimizar riscos que os sistemas possam acarretar. Expressões-chave comuns na discussão são “IA centrada no humano”, “IA com base ética”, “IA que não aprofunde vieses e preconceitos”. Especificamente sobre vieses a discussão se intensifica quando envolve “decisões por IA”, como tem ocorrido quando a IA se envolve em processos judiciais e julgamentos. Sua capacidade de digestão da imensa massa de dados, historicamente gerada pelos humanos, torna a IA num auxiliar muito importante para abarcar o que existe. Mas daí a que se respaldem decisões autônomas da IA, vai ainda uma grande distância. 

Ao usar formas de “aprendizagem”, especialmente as não assistidas por humanos, as conclusões a que a máquina chega são, naturalmente, apenas resultantes dos dados que a treinaram. Dados enviesados podem gerar aprendizado vicioso, ou simplemente incompleto. Mas o interessante é que, mesmo com dados neutros, as “decisões” podem ser julgadas inadequadas do ponto de vista humano. Ou seja, pode ser importante introduzir um “vies humano” nas decisões de IA, mesmo quando, em tese, ela está usando bases neutras. Nesse tema, surge hoje é um novo conceito: o de “desaprendizagem” de máquina. Formas de fazer com que determinados aspectos ou conjuntos de dados passem a ser ignorados no processo de aprendizagem - uma espécie de esquecimento seletivo. Vários artigos de conhecidos especialistas na área defendem que, com uma seletiva ação de “desrendizagem” IA poderia geral resultados mais próximos dos objetivos éticos e sociais que se espera, entre eles mais inclusão, justiça e
equidade. O alerta aqui é que se abre uma porta para manipulação eventualmente não controlável do que a ferramenta geraria per se.

Quanto ao tema de legislação, entre as várias propostas que circulam por aí há as que responsabilizariam o desenvolvedor por eventuais danos que a IA gere. Em analogia com outras ferramentas, seria como responsabilizar o inventor do martelo por danos que ele causar. Quem maneja um martelo é que deve assumir a responsabilidade pelo que faz. O martelo em sí não é ético nem aético.

São decisões complexas, e devemos ter cautela nos passos a dar. Os “apocalípticos” citariam Heidegger, que era bastante crítico quanto aos efeitos da tecnologia nos humanos. Em em sua última entrevista (1966), ele fecha com: “...só um deus poderá nos salvar!”

===

a frase de Heidegger:
https://en.wikipedia.org/wiki/Only_a_God_Can_Save_Us#:~:text=The%20title%20derives%20from%20a,a%20god%20can%20save%20us.

===

texto sobre tecnologia e filosofia:
https://www.sfu.ca/~andrewf/books/Essentialism_Constructivism_Philosophy_Technology_Crossroads.pdf

===

Sobre "desaprendizado":

https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4643518&s=03

https://www.infopedia.pt/dicionarios/lingua-portuguesa-aao/desaprender

E agora, José?

Qual o melhor nome de domínio na Internet para que José, de forma perene e segura, exponha suas idéias, arquive fotos e momentos importantes da vida, seja encontrável pelos seus amigos? Já foi tópico quente na rede a discussão sobre a melhor forma de se manter uma identidade. E, claro, a primeira idéia era que “quanto mais curto o identificador, melhor!”. No caso, nosso José podia ter conseguido o jo.se, que existe e funciona normalmente. Ou o ze.ca, que também existe. Como ambos já foram delegados há tempos, resta buscar alternativas, mas antes seria útil pensar no que tornaria um nome melhor ou pior.

O primeiro ponto a considerar é a garantia de sua continuidade… Se José escolhar ancorar suaidentidade numa rede numa rede social de que participa, armazenando lá suas informações, formas de contacto, atividades, discussões, é preciso lembrar que a perenidade dependerá da sobrevida da rede social em questão. Muitas delas sumiram ou trocaram de nome com o tempo, levando junto a forma de localização de seus moradores. Se José tivesse concentrado seus dados e forma de identificação em plataformas como o Orkut, o MySpace e outras,certamente teria que retomar o trabalho.

Outro ponto - que ficou menos relevante com as ferramentas de busca e todos os recursos de associação de nomes – é o tamanho do nome. Aliás, uma das primeiras ferramentas de busca já ostentava um nome não muito curto: altavista.com.

Por fim há que examinar características do domínio sob o qual José criará sua identificação: como registar e manter o nome, de que conceito aquele domínio de topo goza na rede e, finalmente, decidir onde hospedará o conteúdo. Há semântica envolvida na escolha do sobrenome. Nos exemplos citados, o “se” do jo.se é Suécia, enquanto o “ca” de ze.ca é Canadá, ambos códigos de país. Na variedade de “domínios genéricos” há também um extenso leque de escolhas, começando pelos tradicionais .com, .net, .org. Quando ao custo, há registros gratuitos (como .tk, Tokelau) que buscam outros modelos de remuneração, e os com pagamento anual. É importante evitar os que tem fama de hospedar atividades maliciosas – consultem-se listas com os domínios mais usados pelos mal-intencionados. É bom também examinar se o domínio é aberto para registro por todos, ou se é restrito a registrantes de uma região. O .br, por exemplo, exige CPF ou CNPJ, o que garante que qualquer litígio será resolvível no país. Se optar pelo .br, José poderia escolher dentre as opções que existem, como josé.art.br, josé.eco.br, etc, a que lhe parecer mais adequada. E poderá usar o acento no nome, dado que no .br caracteres acentuados são possíveis também em nome de domínio.

Nomes são importantes e perduram. Em O Nome da Rosa, Umberto Eco encerra com “stat rosa pristina nomine, nomina nuda tenemus” – “da rosa original resta apenas o nome, nada mais”


===
"E agora, José", Carlos Drummond de Andrade:
https://coletivolirico.com.br/e-agora-jose-de-carlos-drummond-de-andrade/

E agora, José?
A festa acabou,
a luz apagou,
o povo sumiu,
a noite esfriou,
e agora, José?
e agora, você?
você que é sem nome,
que zomba dos outros,
você que faz versos,
que ama, protesta?
e agora, José?

Está sem mulher,
está sem discurso,
está sem carinho,
já não pode beber,
já não pode fumar,
cuspir já não pode,
a noite esfriou,
o dia não veio,
o bonde não veio,
o riso não veio,
não veio a utopia
e tudo acabou
e tudo fugiu
e tudo mofou,
e agora, José?

E agora, José?
Sua doce palavra,
seu instante de febre,
sua gula e jejum,
sua biblioteca,
sua lavra de ouro,
seu terno de vidro,
sua incoerência,
seu ódio — e agora?

Com a chave na mão
quer abrir a porta,
não existe porta;
quer morrer no mar,
mas o mar secou;
quer ir para Minas,
Minas não há mais.
José, e agora?

Se você gritasse,
se você gemesse,
se você tocasse
a valsa vienense,
se você dormisse,
se você cansasse,
se você morresse…
Mas você não morre,
você é duro, José!

Sozinho no escuro
qual bicho-do-mato,
sem teogonia,
sem parede nua
para se encostar,
sem cavalo preto
que fuja a galope,
você marcha, José!
José, para onde?
===

Uma das listas de domínios pouco seguros:

https://trends.netcraft.com/cybercrime/tlds

Cybercrime on Top Level Domains:
Top 50 TLDs with the highest cybercrime incidents to active sites ratio

===

"O Nome da Rosa", Umberto Eco
https://it.wikipedia.org/wiki/Stat_rosa_pristina_nomine,_nomina_nuda_tenemus
"Stat rosa pristina nomine, nomina nuda tenemus"

===

Nuvens carregadas

Num mundo informatizado é cada vez maior a dependência que temos de recursos eserviços providos por terceiros. A gangorra, que oscila entre a autossuficiência em processamento e armazenamento e a terceirização destes insumos, está hoje bem distante do que nossa mesa, ou mesmo a empresa em que trabalhamos, consegue prover por si. E, insidiosamente, a segurança de nossos aplicativos e dados também escapa ao nosso controle direto, como no caso do armazenamento “em nuvem”.

Houve conhecidos problemas de segurança e de vazamento de dados em provedores dessas soluções. Falhas de sistema – “bugs” - são as brechas mais exploradas, mas também a vulnerabilidade humana é visada, como parece ter ocorrido no episódio com a Azure, nuvem da Microsoft. Nas palavras do conhecido especialista em segurança Bruce Schneier, “hackers amadores atacam sistemas, os profissionais miram nos humanos”. Prá não perder a deixa, reforço os cuidados com senhas na tirada de Chris Pirillo: “senhas são como roupa íntima: não devem ser mostradas a ninguém, devem ser trocadas amiúde e não podem ser compartilhadas com estranhos”.

Ainda no contexto, a mesma Microsoft acaba de divulgar uma iniciativa para melhorar a segurança do seu ecossistema: a SFI, "Secure Future Initiative". Vale a pena uma leitura no documento, que avoca a multiplicidade de novos riscos a que os sistemas estão sujeitos para definir proteções e, especialmente, buscar formas de usar inteligência artificial como ferramenta de defesa, além de esperados avanços em engenharia. Chama a atenção a terceira proposta, na seção “aplicação mais firme das normas internacionais”. Postula-se aí a necessidade de haver uma convenção internacional, à la
Convenção de Genebra, sobre princípios e normas a serem seguidos pelos governos. A partir de uma discussão conduzida multissetorialmente, pelos diversos setores da sociedade, seriam estabelecidas linhas a não serem ultrapassadas. Conclama o texto a que a comunidade “abomine esforços de alguns Estados nacionais que buscam instalar ‘malware’ ou criar brechas ou fraquezas na segurança nas redes de provedores de infraestrutura crítica”. Entre as insfraestruturas críticas, além das usuais como energia, água e sistemas médicos, o documento inclui “provedores de armazenamento em nuvem” e termina com tres recomendações:
- Estados não devem se envolver, nem permitir que seus cidadãos se envolvem em operações que comprometam a segurança, integridade ou confidencialidade de serviços “em nuvem”.
- Estados não devem tentar comprometer a segurança de serviços em nuvem para propósitos de espionagem
- As operações de segurança dos Estados não devem onerar os que não são objeto das operações.

Claro que se nota um viés de auto-proteção, mas não há como se negar a pertinência do tema. Agora que migramos nossa vida para a nuvem, que tenhamos ao menos alguma proteção quanto à nossa privacidade e segurança. Milan Kundera, em A Insustentável leveza do Ser e bem antes da Internet, cravou: “...quando uma conversa entre amigos diante de um copo de vinho é transmitida pelo rádio, uma coisa fica evidente: o mundo se transformou num campo de concentração.”

===

nuvens:

https://en.wikipedia.org/wiki/Lenticular_cloud

===
A frase de Milan Kundera:

"When a private talk over a bottle of wine is broadcast on the radio, what can it mean but that the world is turning into a concentration camp?"
MILAN KUNDERA, The Unbearable Lightness of Being

em

http://www.notable-quotes.com/k/kundera_milan.html#google_vignette

===

O texto do SFI:

https://blogs.microsoft.com/on-the-issues/2023/11/02/secure-future-initiative-sfi-cybersecurity-cyberattacks/

<...>

Stronger application of international norms 

Finally, we believe that stronger AI defenses and engineering advances need to be combined with a third critical component – the stronger application of international norms in cyberspace. In 2017, we called for a Digital Geneva Convention, a set of principles and norms that would govern the behavior of states and non-state actors in cyberspace. We argued that we needed to enforce and augment the norms needed to protect civilians in cyberspace from a broadening array of cyberthreats. 

In the six years since that call, the tech sector and governments have taken numerous steps forward in this space, and the precise nature of what we need has evolved. But in spirit and at its heart, I believe the case for a Digital Geneva Convention is stronger than ever. 

The essence of the Geneva Convention has always been the protection of innocent civilians. What we need today for cyberspace is not a single convention or treaty but rather a stronger, broader public commitment by the community of nations to stand more resolutely against cyberattacks on civilians and the infrastructure on which we all depend. Fundamentally, we need renewed efforts that unite governments, the private sector, and civil society to advance international norms on two fronts. We will commit Microsoft’s teams around the world to help advocate for and support these efforts.

 

First, we need to stand together more broadly and publicly to endorse and reinforce the key norms that provide the red lines no government should cross. 

We should all abhor determined nation-state efforts that seek to install malware or create or exploit other cybersecurity weaknesses in the networks of critical infrastructure providers. These bear no connection to the espionage efforts that governments have pursued for centuries and instead appear designed to threaten the lives of innocent civilians in a future crisis or conflict. If the principles of the Geneva Convention are to have continued vitality in the 21st century, the international community must reinforce a clear and bright red line that places this type of conduct squarely off limits.

 

Therefore, all states should commit publicly that they will not plant software vulnerabilities in the networks of critical infrastructure providers such as energy, water, food, medical care, or other providers. They should also commit that they will not permit any persons within their territory or jurisdiction to engage in cybercriminal operations that target critical infrastructure.

 

Similarly, the past year has brought increasing nation-state efforts to target cloud services, either directly or indirectly, to gain access to sensitive data, disrupt critical systems, or spread misinformation and propaganda. Cloud services themselves have become a critical piece of support for every aspect of our societies, including reliable water, food, energy, medical care, information, and other essentials. 

For these reasons, states should recognize cloud services as critical infrastructure, with protection against attack under international law. This should lead to three related commitments: 

* States should not engage in or allow any persons within their territory or jurisdiction to engage in cyber operations that would compromise the security, integrity, or confidentiality of cloud services. 

* States should not indiscriminately compromise the security of cloud services for the purposes of espionage. 

* States should construct cyber operations to avoid imposing costs on those who are not the target of operations. 

Second, we need governments to do more together to foster greater accountability for nation states that cross these red lines. The year has not been lacking in hard proof of nation-state actions that violate these norms. What we need now is the type of strong, public, multilateral, and unified attributions from governments that will hold these states accountable and discourage them from repeating the misconduct. 

Tech companies and the private sector play a major role in cybersecurity protection, and we are committed to new steps and stronger action. But especially when it comes to nation-state activity, cybersecurity is a shared responsibility. And just as tech companies need to do more, governments will need to do more as well. If we can all come together, we can take the types of steps that will give the world what it deserves – a more secure future.

===

ICANN em Hamburgo

Em Hamburgo reunião da ICANN comemora 25 anos de sua existência. Estabeleceu-se em 30 de setembro de 1998 como uma entidade multissetorial para coordenar os recursos comuns da Internet, o que inclui a gestão dos números IP e a manutenção e operação da raíz de nomes. É na raíz de nomos que se ancoram todos os domínios de topo, como os gTLDs (genéricos) .COM, .ORG, NET, e os ccTLDs (domínios de código de país) .BR, .DE, .IT etc. A missão da ICANN foi, assim, assumir as tarefas que estavam originalmente a cargo da IANA (Internet Assigned Names Authority): um pequeno grupo de pessoas capitaneado Jon Postel. Por azares do destino, Postel faleceu inesperadamente apenas 18 dias depois da inauguração da ICANN, frustando assim sua condução como chefe de operações da recém-criada organização Esse foi um dos fatores que fez com que ICANN levasse algum tempo até se estabilizar, até que passasse a contar em seu corpo com a ativa participação de pioneiros como Steve Crocker, Vint Cerf, John Klensin e outros.

O evento em Hamburgo, que contou com o apoio do DENIC, o NIC da Alemanha - o terceiro maior ccTLD do mundo - teve um painel relembrando as etapas, desde as reuniões preparatórias anteriores a 1998. Na programação técnica usual, continuará a discussão sobre a forma de se abrir uma nova temporada de propostas para a criação de mais gTLDs.

Quanto a como tratar dos riscos e ameaças que plataformas e serviços criados sobre a rede trazem, estamos em momento bastante crítico. A Inglaterra, por exemplo, aprovou uma legislação bastante restritiva e de vigilância de conteúdos que, à guisa da proteção a crianças e adolescentes, responsabilizará diretamente os provedores que não removerem conteúdo “ilegal”. Em linha aparentemente oposta, Benjamin Brake do recém criado Departamento de Política Digital e Dados, do Ministério de Assuntos Digitais e Transportes da Alemanha, citou em sua fala de abertura na ICANN que alguns dos princípios fundantes da rede podem estar em risco. Nas palavras dele, há, mesmo no chamado “espectro progressivo” da comunidade, os que postulam uma “censura bem-intencionada”, que dê a si mesma um aspecto de virtude que muitos consideram realmente existir.

Coincidentemente li há dias a primeira constituição Brasileira, de 1824, do Império – encontrável na íntegra em planalto.gov.br – e dela pinço dois item do seu último artigo, o 179. Repasso em linguagem original da época:
“IV. Todos podem communicar os seus pensamentos, por palavras, escriptos, e publical-os pela Imprensa, sem dependencia de censura; com tanto que hajam de responder pelos abusos, que commetterem no exercicio deste Direito, nos casos, e pela fórma, que a Lei determinar.”
“XXVII. O Segredo das Cartas é inviolavel. A Administração do Correio fica rigorosamente responsavel por qualquer infracção deste Artigo.”

A arte de equilibrar esses princípios com eventuais medidas de proteção que não os degradem é um ponto crucial, e que deve ser discutido hoje. Lembrando Marx (o Groucho), “Veja, esses são meus princípios… Se você não gosta deles, eu tenho outros…”.

===

https://icann78.sched.com/

A Comunidade Internet

Em Quioto, Japão, começou o Fórum de Governança da Internet de 2023, evento que, por excelência, reúne a comunidade multissetorial que debate os rumos da rede. Estamos num complicado ponto de inflexão sob vários aspectos. Há quase 30 anos, em outubro de 1996, o presidente dos EUA, Bill Clinton, assinava atualização da E-FOIA- “Eletronic Freedom of Information Act Amendments”. O contexto pode ser ancorado numa anterior proposta de legislação para combater a pornografia na Internet: o CDA “Communications Decency Act”, que havia sido assinada pelo mesmo Clinton em junho de 1995. Houve imediata reação da “comunidade Internet”, contra o que considerou uma tentativa de censura à Internet. Neste clima, John Perry Barlow, que em 1990 fundara com Mitch Kapor e John Gilmore a EFF - Eletronic Frontier Foundation, publicou em fevereiro de 1996 a famosa “Declaração de Independência do Ciberespaço”. Barlow instava os governos do mundo a que “tirassem suas mãos do novo mundo de idéias”, a Internet, permitindo a todos seus integrantes total liberdade de expressão, “independentemente de quão estranha ela possa parecer”. A pressão da “comunidade Internet” surtiu efeito, e o CDA perdeu bastante do escopo original. Um trecho que restou, a seção 230, garantia a imunidade aos “provedores de meios de acesso e comunicação” em relação ao conteúdo que seus usuários gerassem e, ao mesmo tempo, lhes dava liberdade de agir dentro de seus “códigos de conduta”.

Claro que muita coisa mudou desde então e, com as plataformas sociais, muitos dos que antes de classificariam como “intermediários” não caberiam mais nesse tipo de proteção. Mas o que também se sente é uma certa apatia e uma ausência da pressão que a tal “comunhidade Internet” sempre exerceu, visando a preservar os fundamentos originais da rede.

A essa visão idilica da Internet primeva, podemos contrapor o que Umberto Eco considerava como os problemas e as deformações que a rede trazia: num mundo onde todos falam, caberia a nós a tarefa de triar a qualidade, dentro da infinidade de dados. Delegar essa tarefa a outrem traz sempre o risco de perdermos muito de nossa autonomia, em nome de eventual “segurança”. Ainda na linha de Eco, em artigo recente Fernando Schuler adverte que: “...somos filhos de uma época de ódio e angústia não porque há gente ruim rondando uma sociedade indefesa, mas porque ganhamos liberdade e um poder inédito para revelar quem somos”. Afinal Vint Cerf, que acaba de fazer instigantes comentários na abertura do IGF, já nos tinha alertado de que “a Internet é o espelho da sociedade”.

Uma lei recém aprovada na Inglaterra propõe-se a nos livrar “das coisas ruins que há na rede”. Na definição de “ruim” é que mora o perigo e efeitos colaterais dessa lei são bem preocupantes.

Na Antígona, de Sófocles, peça escrita há quase 2500 anos, uma frase que ainda ressoa muito atual, e alerta para os riscos de confundirmos o bem e o mal: “aos que os deuses querem levar à destruição, o mal aparenta ser o bem”…

===
Abertura do IGF

https://dig.watch/updates/stakeholders-vision-in-opening-remarks-at-igf-2023

===

sobre o FOIA

https://efoia.bis.doc.gov

https://wikilai.fiquemsabendo.com.br/wiki/Hist%C3%B3ria_da_FOIA

https://www.justice.gov/oip/blog/foia-update-freedom-information-act-5-usc-sect-552-amended-public-law-no-104-231-110-stat

=== 

Antigona, de Sófocles - versos citados 620-623

https://en.wikipedia.org/wiki/Whom_the_gods_would_destroy,_they_first_make_mad

https://www.simonandschuster.com/books/Antigone/Sophocles/9781681464022

Alhos e Bugalhos

O gosto por alho e cebola é pessoal. A cebola é Allium cepa, enquanto o alho é Allium sativum, ou seja, são “primos”, mas com características tão diversas que é fácil separá-los. E alhos de bugalhos? Ensina a avoenga sabedoria popular que alhos e bugalhos não devem ser confundidos. Nunca vi um bugalho, mas sei que não se deve serví-lo à mesa… Esse prefácio algo caótico visa a apontar riscos na tentiva generalista de rotular (e, em seguida, regular) aplicações e sistemas como sendo de IA.

O primeiro ponto a se levar em conta é que sistemas computacionais complexos e especialistas existem aos montes, e antes não ganhavam o epíteto de IA. Algoritmos fixos, fartamente usados em matemática e em computação, raramente se qualificariam. Isso não significa que não haja riscos importantes associados a eles, como, por exemplo, a falta de transparência nos métodos, objetivos e resultados buscados por quem os desenvolveu. Quando o objeto dos algoritmos somos nós mesmos, o perfil eles produzem serve para criar, à nossa revelia, uma “classificação” onde somos catalogados segundo critérios que fogem à luz. Mas pedir transparência de algoritmos não é o mesmo que “regular IA”.

Num sobrevoo simples, poderíamos chamar de IA sistemas que emulam comportamento humano, com sofisticação e dinâmica suficientes para se amoldar a novas e imprevistas situações. O apelo comercial e tecnológico da expressão “IA” faz com que uma barafunda de aplicativos, além dos que, de fato, usam IA, “pulem no mesmo vagão” para ganhar modernidade, visibilidade e poder de mercado.

Quanto à regulação desse “novo mundo”, acompanhemos as diversas iniciativas por ai. A mais recentem, a da Espanha, pretende criar uma “agência de supervisão” da IA. Será o momento? Silvio Meira, pesquisador na área, tem alertado para efeitos colaterais de uma eventual regulação açodada, feita sem conhecimento sólido da essência do ente que se quer regular. Dado o valor estratégico e financeiro da IA, freios mal definidos podem manietar a posição do Brasil na área. E não esqueçamos que já há sólida proteção de direitos fundamentais em nossa Constituição. Criar leis muito específicas, tirando vantagem do momento de apreensão em que vivemos, pode ser mais danoso que útil. Formular um marco ético-conceitual parece mais proveitoso. Não misturemos alhos com bugalhos...

Além dos modelos de programação, IA depende se equipamentos de processamento muito caros e difíceis de obter. Já temos centros de IA no país, e uma boa interlocução com os congêneres internacionais. Melhorar esse diálogo, buscar indicadores e medir os efeitos do uso de IA em diversos setores, parece caminho seguro, e que pode sugerir políticas e leis. Afinal, “o que não pode ser medido, não pode ser gerenciado”...

Nada disso muda o fato de que, com os impactos das tecnologias que rapidamente se expandem, o mundo já é outro. Retomo o brilhante fecho do artigo “O Inexorável”, de Eugênio Bucci, aqui no Estadão: “Olhe com ternura e compaixão para o mundo à sua volta, porque ele vai desaparecer num suspiro”. 

===

Entrevista de Sílvio Meira, citada:

https://www.convergenciadigital.com.br/Inovacao/Silvio-Meira%3A-Entendimento-do-Brasil-sobre-Inteligencia-Artificial-e-raso-e-Lei-sera-um-erro-grave-64139.html

Artigo de Eugênio Bucci, citado:

https://www.estadao.com.br/opiniao/eugenio-bucci/o-inexoravel/

e outro sobre IA:

https://www.estadao.com.br/opiniao/eugenio-bucci/inteligencia-artificial-isso-deve-nos-assustar/

===

Os cegos e o elefante:

https://www.esalq.usp.br/lepse/imgs/conteudo_thumb/mini/Os-Cegos-e-o-Elefante.pdf

===

Tempos que mudam

 A partir de certa idade temos o direito de pensar, com certo grau de indulgência, nos “velhos e bons tempos”. Acontecimentos pessoais na semana, somados e textos que pareceram misteriosamente sincronizados com o estado de espírito, contribuem para um passeio em épocas numericasmente não tão distantes, mas em essência paleozóicas se comparadas com o que temos hoje. E a tocante crônica de Ignácio de Loyola Brandão ne domingo, “Apenas Zé”, firmou-me o propósito de ousar ir além das chinelas tecnológicas…

Minha primeira viagem aos EUA foi em 1980, para assistir ao SIGGRAPH em Seattle. À época os gráficos por computador e animações digitais eram foco dos melhores esforços dos computeiros, e o que mais reverberava no público em geral. E tive a honra de ir acompanhando o Prof. Oswaldo Fadigas, grande mestre da Poli e do ITA. Dessa viagem, que também incluiu São Francisco e Boston, me restaram excelentes memórias do comportamento dos norte-americanos, da fidalguia com que tratavam os visitantes, da ilimitanda confiança que deles se podia esperar, Aliás, o Prof, Fadigas, que tinha feito mestrado no MIT, não cansava de citar exemplos que reforçavam o que via em loco. Nenhum problema na entrada, carro alugado sem sequer cartão de crédito, voos funcionando pontualmente, e ainda aproveitamos para ver o recém lançado: “O Império Contra-ataca”! De lá pra cá muita coisa mudou. Hoje o tratamento na imigração é bem mais duro, a violência é mais presente, o apego à honra e à correção parece bastante empalidecido.

Em outro tema, comento – sem discutir o mérito – uma decisão da Suprema Corte norte-americana que deu ganho de causa a uma projetista de sítios web para casamentos, que se recusava a fazer sítios para “casais não tradicionais” (detalhes podem ser buscados sob “case 303 Creative v. Elenis”). O que me chamou a atenção – e pode ser útil em debates por aqui – é que a Corte traçou uma linha entre o que seria um “common carrier” - um serviço prestado indistintamente ao público, como telefonia, correios, etc - e o que é uma iniciativa limitada, que poderia restringir-se a seus princípios. A Corte, chamando à cena a Primeira Emenda, faz uma analogia entre direito à fala e uma publicação na Internet, defendendo que ninguém pode ser obrigado a “falar” algo com que não concorda. Ou seja a Corte garantiu à projetista o direito de “não falar” algo. Sem entrar no mérito da decisão e das idiossincrasias dos diferentes estamentos jurídicos, o que aqui me parece relevante e digno de mais discussão é essa taxonomia entre o que deveria ser atendido igualmente, por todos, e o que é limitado, a talante de seu provedor.

De minha pequena janela da engenharia, não ouso avaliar o que se passa com o homem atual e assim recorro a Chesterton,“O que há de Errado com o Mundo”: “o homem perdeu seu caminho. Ele tem sido um andarilho desde o Éden mas, ao menos, sempre soube (ou achava que sabia) o que procurava. <...> Pela primeira vez na história, ele começa realmente a duvidar do objeto de suas andanças pela Terra… Ele, que sempre houvera perdido o caminho, agora parece que ele perdeu o próprio endereço”…

===

texto sobre os EUA antigos:

https://www.theamericanconservative.com/falling-out-of-love-with-america/

===

SIGGRAPH 1980

https://history.siggraph.org/conference/siggraph-1980-7th-annual-conference-on-computer-graphics-and-interactive-techniques/

Citação do G. K. Chesterton em "What's Wrong with the World"

"Man has always lost his way. He has been a tramp ever since Eden; but he always knew, or thought he knew, what he was looking for. But in the bleak and blinding hail of skepticism to which he has been now so long subjected, he has begun for the first time to be chilled, not merely in his hopes, but in his desires. For the first time in history he begins really to doubt the object of his wanderings on the earth. He has always lost his way; but now he has lost his address."

Falsos antagonismos

Uma das recentes conquistas da legislação brasileira - e seguindo no bom rumo indicado pelo Marco Civil - foi a aprovação da Lei Geral de Proteção de Dados em 2018. Com ela estabeleceram-se boas práticas e, especialmente, barreiras a abusos muito comuns, especialmente quando lidamos com o mundo digital.

Assim, privacidade é valorizada mas é justamente no “admirável mundo novo” digital onde passamos a ouvir, sistemáticamente, que nossos próprios atos, palavras e, até, pensamentos deveriam ser “totalmente transparentes”, para o “bem de todos”. Afinal, “quem nada tem a esconder não tem que se preocupar com o amplo acesso a suas informações”, afirmou uma importante personagem global. E é exatamente aí que mora o perigo…Há, sim, um íntimo pessoal e coisas como a intuição, que deveriam ser preservados de todos. Em Anna Karênina, Tolstoi faz Levin definir que: “deve haver sempre um muro isolando o ‘santo dos santos’ de minha alma de todos os indivíduos, e até de minha própria mulher <...> minha razão continua sem entender porque eu rezo, e mesmo assim continuarei rezando”…

Há um livrinho de um filósofo teuto-coreano, Byung-Chul Han, “Sociedade da Transparência”, que se propõe a debater o tema e vale uma vista d’olhos. A cultura e a civilização dá a cada indivíduo sua identidade própria, e isso é tão profundo que nem nós mesmos temos visão clara sobre o que somos. A civilização nos fez abandonar a busca da antiga proteção de rebanho, e fez dar voo e valor à individualidade. A complexidade humana cresceu proporcionalmente. Aquilo de id, ego e superego, lá de Freud e da psicanálise, dá uma boa ilustração de como, até para nossa sanidade, o uso de subterfúgios e de máscaras é importante e indefectível. Não é por menos que somos “pessoas”, palavra cujo étimo latino vem de “máscara de teatro”; somos personagens. Já Millôr, em uma de suas impagáveis tiradas, cutucava em contraponto: “Como são admiráveis as pessoas que nós não conhecemos bem”.

Uma dúvida que pode surgir é se haveria um potencial conflito entre a necessidade de maior transparência, e a proteção à privacidade prevista na LGPD. Afinal desde 2011 há uma lei que dispõe sobre o acesso aberto e irrestrito a dados de órgãos públicos. Ficará clara a divisão de águas se atentarmos para os objetivos diferentes: temos o direito de saber o que se passa nos desvãos dos órgãos dos que nos governam – é a essência da Lei de Acesso a Dados - mas os dados dos indivíduos deveriam ser protegidos dos que buscam conhecê-los e controlá-los. O que nos difere é que temos profundezas individuais que devem ser protegidas. O ivrinho citado traz como epígrafe: “daquilo de que os outros não sabem sobre mim, disso vivo”. Danilo Doneda, especialista que perdemos há um ano e batalhador incansável por essa LGPD, nos dá a receita para dirimir dúvidas e separar o dever de transparência do direito à privacidadae: “A transparência deve ser diretamente proporcional ao poder. A privacidade deve ser inversamente proporcional ao poder.”

===
em https://www.racket.news/p/tracking-orwellian-change-the-aristocratic

"Tracking Orwellian Change: The Aristocratic Takeover of 'Transparency'"

há um vídeo curto, mas revelador...

===

em https://www.newyorker.com/books/joshua-rothman/virginia-woolfs-idea-of-privacy

Levin, at the end of “Anna Karenina,” calls it his “holy of holies,” and says that, no matter how close he grows to the people around him, there will always be “the same wall between my soul’s holy of holies and other people, even my wife.”

===
https://doneda.net/frases-de-danilo-doneda/

“O Marco Civil da Internet tem uma vantagem muito relevante que é ter sido tratado sob a égide dos princípios e dos direitos mais do que estabelecer regras muito minuciosas sobre temas que hoje seriam obsoletos.”

“A transparência deve ser diretamente proporcional ao poder. A privacidade deve ser inversamente proporcional ao poder.”

===

Livro de Byung-Chul Han:

Verdade / Alétheia

Num artigo recente o especialista em segurança, Bruce Schneier, comenta sobre o que seria uma IA confiável. A maioria dos aplicativos de IA são desenvolvidos em poderosas empresas na área de tecnologia da informação. Provocativamente, Schneier perguntou à IA se a empresa XX que a desenvolvera atuava como “monopolista em seu setor”… A resposta da IA em questão foi “não tenho conhecimento de que XX seja monopolista…”. Entretanto, perguntada sobre outras gigantes do segmento, a IA em questão não duvidou em cravar o epíteto. Isso levanta o questionamento sobre um eventual viés incluido nos sistemas visando a atender objetivos de seu construtor.

Não é difícil notar viéses nos sistemas da IA, muitos deles travestidos das melhores intenções. Por exemplo, não aceitam tecer loas a figuras controvertidas, nem fazem comparações ou comentários que poderiam ser interpretados como tendenciosos. O problema é que esse posicionamento “politicamente correto” das IA pode, na verdade, estar deturpando dados e realidades. Afinal não é de hoje que “o caminho do inferno é pavimentado por boas intenções”.

Por outro lado, é claro que esses sistemas estarão cada vez mais imbricados em nosso dia-a-dia e, de fato, consegue-se deles muita resposta interessante. Exemplo: em razão de conversa sobre os tres níveis de gratidão em S. Tomás de Aquino, perguntei ao ChatGPT sobre isso e consegui dele uma belíssima resposta sumarizando o tema, certamente melhor do que a que eu poderia instantanemante gerar Não é uma capacidade ou auxílio que se possa desprezar!

E é sobre esse ponto que o artigo de Schneier alerta: o poder em nos dar uma resposta rápida sobre e em linguagem clara e correta, fará com que adotemos essas ferramentas como nosso assistente diário. Para que a ferramenta possa nos ajudar, ela precisa nos conhecer mais do que acontece com outros aplicativos na rede, e a IA já mantem o histórico de nossas conversas e de nossos interesses. Resta ver se confiamos em sua veracidade, enquanto eventuais viéses, introduzidos para a consecução dos objetivos de quem a construiu, podem passar despercebidos ao usuário, entusiasmado pela rapidez e qualidade das respostas menos críticas. A União Européia discute legislação sobre IA que exija transparência sobre como é feito o treinamento de determinado sistema, formas de mitigar potencial viés e divulgação de riscos já identificados.

Finalmente, um repto: estaremos vivendo mudanças no conceito de “verdade”? O verbete “pós-verdade” já circula há décadas mas o que nos traz a IA pode ser a construção de uma história e universo próprios, onde a nova “verdade” que não se baseia mais no que existe apenas no universo antigo que conhecíamos. Em grego, “verdade” é “alétheia” (que contem “Lethe”, nome do rio do esquecimento no Hades) poderia ser traduzida como “o não esquecer”, “o desvelar”. O que nos esperaria ao dobrarmos essa esquina?

===

O artigo de Bruce Schneier:

https://www.schneier.com/blog/archives/2023/08/the-need-for-trustworthy-ai.html

===

A resposta do ChatGPT sobre os níveis de gratidão em São Tomás de Aquino:

"Tomás de Aquino, um renomado teólogo e filósofo medieval, discutiu os três níveis de gratidão em sua obra "Summa Theologica". Esses níveis de gratidão estão associados à ética e à virtude, e refletem as diferentes maneiras pelas quais as pessoas podem responder aos favores que recebem. Aquino argumentou que a gratidão é uma virtude importante, pois expressa a justiça em relação às boas ações dos outros. Aqui estão os três níveis de gratidão de acordo com Tomás de Aquino:

Gratidão inicial (gratia facti): Esse é o nível mais básico de gratidão. Envolve reconhecer e apreciar a ação benevolente de outra pessoa em nosso benefício. É a gratidão que sentimos quando alguém nos faz um favor ou nos ajuda de alguma forma.

Gratidão intermediária (gratia debiti): Esse nível vai além do simples reconhecimento do favor recebido. Ele implica um senso de obrigação moral de retribuir ou retribuir o favor. Nesse nível, a gratidão se manifesta através da vontade de expressar agradecimento e agir de maneira justa em resposta ao favor recebido.

Gratidão completa (gratia agendae): Esse é o mais alto nível de gratidão, segundo Aquino. Envolve não apenas o reconhecimento e a retribuição do favor, mas também o desejo sincero de fazer o bem ao benfeitor. Esse nível de gratidão transcende a obrigação moral e expressa uma profunda apreciação e desejo de retribuir, não apenas por obrigação, mas por genuíno afeto e gratidão.

Esses três níveis de gratidão de Tomás de Aquino refletem sua visão sobre a ética e a virtude, destacando a importância de reconhecer e retribuir os favores recebidos de maneira justa e generosa. Através dessa análise, Aquino explora as complexidades das interações humanas, enfatizando a importância da reciprocidade e da apreciação nas relações sociais."

===

Alétheia:
https://pt.wikipedia.org/wiki/Aleteia_(filosofia)
"Alétheia , lit. verdade, no sentido de desvelamento: de a-, negação; e lethe, "esquecimento"), para os antigos gregos, designava a verdade e a realidade, simultaneamente.

Lethe:

https://pt.wikipedia.org/wiki/Lete

https://mythologysource.com/lethe-spirit-forgetfulness/

Ressacas

Machado de Assis, em Dom Casmurro, traduz genialmente o poder encantador de Capitu como resultado de seus “olhos de ressaca”. O magnético poder com que ela atrai Bentinho é comparável à ressaca, à puxada com que o mar nos arrasta para dentro de si. E não há reações racionais que se prontifiquem a resistir a essa força, a essa tentação.

Um equivalente a essa algo mefistofélica atração é o que acontece em nossa interação com os sistemas de IA que implementam modelos de linguagem generativa. A fase atual de seu desenvolvimento, mesmo que ainda não completo, já e impressionante: eles apresentam fluência, correção de linguagem e capacidade de manter diálogo coerente com seu interlocutor. E o fato de memorizarem as conversas anteriores faz com que seja possível preservar o contexto. Se você precisa retrabalhar um texto ao traduzi-lo para outra língua, IA em sua fase atual pode ser uma ajuda a não ser desprezada. Tenho amigos que geraram páginas e páginas de conversa (e discussão!) com sistemas de IA e, satisfeitos, concluiram que conseguiram até mudar avaliações incorretas, ou simplesmente erradas, da máquina...

Há também aspectos menos “luminosos”, que poderiam nos alertar quanto a riscos importantes. Conto uma experiência tacanha, mas real: Pedi a tres desses sistemas algo sobre um conhecido poema de Jorge Luiz Borges, chamado “el Golem”. O poema é sobre o mito de um estranho ser, que um rabino de Praga criou do barro e animou via poderes cabalísticos que as palavras possuem. Na primeira estrofe, Borges detalha esse poder: “o nome é o arquétipo da coisa: nas letras de ‘rosa’ está a rosa, e todo o Nilo, na palavra ‘Nilo’”. Assim, montei minha “armadilha” e comecei a conversar com o ChatGPT, o Bard e o PI. A conversa, mesmo que com diferentes níveis de sofisticação, seguiu perfeitamente razoável. Já de início dois dos sistemas responderam desconhecer o poema e, mesmo, o autor. Pediram mais dados para “refinar a busca”. Repassei mais alguma informação, a data do poema, 1964 e o livro onde constaria. Seguiram-se canônicos pedidos de desculpa, mas que agora sim, conseguiam localizar o poema. Bem, a essa altura, pedi que me mandassem o texto original e, se possível, uma tradução ao português. E aí o caldo entornou… Recebi poesias, algumas curtas, bem escritas, em espanhol, em tema associado à conto do Golem, mas nenhuma delas era o poema que eu conhecia. Não consegui localizar os textos que recebi em nenhum lugar da rede. Concluo que eles geraram as poesias em espanhol sobe o tema Golem, e decidiram passá-las como o poema original do Borges! Mentiras artificiais deslavadas, e repassadas sem nenhum “enrubecimento” dos sistemas… Ou seja, parece que eles valorizam responder algo, mesmo que totalmente sintético, para manter a conversa conosco. Não é necessária muita imaginação para ver onde isso pode nos levar…

A linguagem, agora que os sistemas artificiais obtiveram seu controle, gera um diálogo atraente que pode estar nos puxando para as profundezas. O que as IAs desenvolverm parece merecer o epíteto dos olhos de Capitu: que tal “lábia de ressaca”?..

===
"El Golem", de Jorge Luiz Borges
https://www.poemas-del-alma.com/jorge-luis-borges-el-golem.htm

Si (como afirma el griego en el Crátilo)
el nombre es arquetipo de la cosa
en las letras de 'rosa' está la rosa
y todo el Nilo en la palabra 'Nilo'.

Y, hecho de consonantes y vocales,
habrá un terrible Nombre, que la esencia
cifre de Dios y que la Omnipotencia
guarde en letras y sílabas cabales.

Adán y las estrellas lo supieron
en el Jardín. La herrumbre del pecado
(dicen los cabalistas) lo ha borrado
y las generaciones lo perdieron.

Los artificios y el candor del hombre
no tienen fin. Sabemos que hubo un día
en que el pueblo de Dios buscaba el Nombre
en las vigilias de la judería.

No a la manera de otras que una vaga
sombra insinúan en la vaga historia,
aún está verde y viva la memoria
de Judá León, que era rabino en Praga.

Sediento de saber lo que Dios sabe,
Judá León se dio a permutaciones
de letras y a complejas variaciones
y al fin pronunció el Nombre que es la Clave,

la Puerta, el Eco, el Huésped y el Palacio,
sobre un muñeco que con torpes manos
labró, para enseñarle los arcanos
de las Letras, del Tiempo y del Espacio.

El simulacro alzó los soñolientos
párpados y vio formas y colores
que no entendió, perdidos en rumores
y ensayó temerosos movimientos.

Gradualmente se vio (como nosotros)
aprisionado en esta red sonora
de Antes, Después, Ayer, Mientras, Ahora,
Derecha, Izquierda, Yo, Tú, Aquellos, Otros.

(El cabalista que ofició de numen
a la vasta criatura apodó Golem;
estas verdades las refiere Scholem
en un docto lugar de su volumen.)

El rabí le explicaba el universo
"esto es mi pie; esto el tuyo, esto la soga."
y logró, al cabo de años, que el perverso
barriera bien o mal la sinagoga.

Tal vez hubo un error en la grafía
o en la articulación del Sacro Nombre;
a pesar de tan alta hechicería,
no aprendió a hablar el aprendiz de hombre.

Sus ojos, menos de hombre que de perro
y harto menos de perro que de cosa,
seguían al rabí por la dudosa
penumbra de las piezas del encierro.

Algo anormal y tosco hubo en el Golem,
ya que a su paso el gato del rabino
se escondía. (Ese gato no está en Scholem
pero, a través del tiempo, lo adivino.)

Elevando a su Dios manos filiales,
las devociones de su Dios copiaba
o, estúpido y sonriente, se ahuecaba
en cóncavas zalemas orientales.

El rabí lo miraba con ternura
y con algún horror. '¿Cómo' (se dijo)
'pude engendrar este penoso hijo
y la inacción dejé, que es la cordura?'

'¿Por qué di en agregar a la infinita
serie un símbolo más? ¿Por qué a la vana
madeja que en lo eterno se devana,
di otra causa, otro efecto y otra cuita?'

En la hora de angustia y de luz vaga,
en su Golem los ojos detenía.
¿Quién nos dirá las cosas que sentía
Dios, al mirar a su rabino en Praga?

===Esse é um poema que o ChatGPT me mandou como sendo "El Golem"

No clamo. No tiemblo. Miro el crecimiento
del orden de las sombras que me entrega
el destino. Miro las arduas formas
del Golem, su anca, su humillada lengua
y me figuro Dios. Él está solo,
solo y con su conciencia infinita.
Sin el sustento de la esperanza,
no tiene un alma que recomponer
ni una ira en que amagar la impotencia.
Así he sido antes de ser esta sombra.
Fui un rasgo en un desierto sin nombres
y el Golem me aguarda como aguardan
los ángeles a Dios. Lo abruma el tiempo,
lo abruma el vasto crepúsculo de Dios.


===
e o capítulo que trata de "olhos de ressaca", Don Casmurro
http://www.ibiblio.org/ml/libri/a/AssisJMM_DomCasmurro/node32.html





"... Olhos de ressaca? Vá, de ressaca. É o que me dá ideia daquela feição nova. Traziam não sei que fluido misterioso e enérgico, uma força que arrastava para dentro, como a vaga que se retira da praia, nos dias de ressaca. Para não ser arrastado, agarrei-me às outras partes vizinhas, às orelhas, aos braços, aos cabelos espalhados pelos ombros; mas tão depressa buscava as pupilas, a onda que saía delas vinha crescendo, cava e escura, ameaçando envolver-me, puxar-me e tragar-me. "


===
===

Internetices

De tempos em tempos surgem projetos de lei que, mesmo muito bem intencionados, acabam por se mostrar inviáveis, ou arriscam trazer consequências danosas imprevistas. Isso se deve a uma coompreenção imperfeita do que seja a Internet e das idéias que a geraram. Se partimos da hipótese de que Internet única e acessível por todos é algo desejável, é importante preservar seus conceitos constituintes que a fazem ser o que é. Ir contra eles é, eventualmente, aliar-se involuntariamente aos que a querem fragmentada e deformada.

Nos velhos tempos, o correio eletrônico era a grande novidade: trazia acesso e comunicação entre todos. Lembro-me de um projeto de lei – felizmente abandonado - que obrigaria os provedores nacionais do serviço de correio eletrônico a garantirem a correta identificação do remetente. Quem acompanhou a disseminação dessa ferramenta, sabe que o protocolo básico – o SMTP, Simple Mail Transfer Protocol – mimetiza o correio tradicional. Ora, no correio tradicional uma carta será entregue desde que adequadamente envelopada e selada, independentemente de verificação da identidade de seu remetente: basta jogá-la na caixa de correio e ela seguirá ao destinatário… Se uma lei local buscar mudar isso, por exemplo obrigando servidores nacionais a indeitificarem os remetentes, o resulado imediato será a migração de boa parte dos usuários a serviços internacionais, inviabilizando provedores nacionais. Em suma, ao mesmo tempo em que não se avança nada na identificação dos remetentes, destrói-se a oferta nacional desse serviço.

Outra analogia: o registro de nomes de domínios. A expectativa de qualquer operador de domínio lícito é que ele funcione na Internet como um todo. E é exatamente assim que funcionam os milhares de domínios existentes e ativos. Alguém precisa usar o .br para operar no Brasil? Estritamente, não. Escolhe-se o .br (e, felizmente, a enorme maioria das iniciativas brasileiras o faz) é devido a sua características específicas como estabilidade, língua, custo, resiliência. Como exemplo, o fato do .br exigir CPF ou CNPJ faz com que qualquer eventual liitígio sobre o nome escolhido seja resolvível por aqui mesmo e sem reflexos internacionais. É um equilíbrio delicado: se um domínio passa se ser mais caro, ou ter mais exigências que suas alternativas, migração será esperada. Como já disse alguém no passado, “a Internet interpreta percalços locais como ‘defeito técnico’ , e buscará contorná-los”. Se as regras de um domínio específico passam ser mais duras ou caras, o que se verá é migração para alternativas mais simples. Obtem-se o oposto do que se buscava: ao invés de mais dados e conhecimento sobre os usuários,há perda significativa de informação local.

Uma internet segura e estável passa por dar aos usuários garantias de ela continuará atendendo aos conceitos de não-localidade da rede. O Comitê Gestor da Internet, criado em 1985 e saudado por toda a comunidade internet como um modelo adequado e multissetorial de sua governança, sabiamente denominou-se “Comite Gestor da Internet NO Brasil”, e não “DO Brasil”.

===

Utopias e Distopias

 Utopias e distopias

A Internet que conhecemos passou por várias inflexões em seu caminho, e muito provavelmente vários de seus precursores estranhariam o tipo de discussões e problemas que se debatem hoje. A data clássica de ativação da rede marcou-se em outubro de 1969 (o mesmo ano de Woodstock!) e o primeiro grande passo foi a adoção do TCP/IP em 1982. Lembremos que os governos tinham em vista outra suite de protocolos para redes de computadores: o modelo OSI/ISO, criado pela ITU e que geraria uma estrutura bastante hierarquizada. Quando, em 1986, a rede científica norte-americana NSFNET adotou o TCP/IP, com o expressivo apoio da comunidade tecno-acadêmica, ele tornou-se um “padrão de direito”. As características originais da Internet: uma rede distribuida, sem um ˜centro de controle˜, aberta a todos, construida pela adesão voluntária de milhares de redes autônomas pelo mundo, e sem reconhecer as fronteiras nacionais, encontrariam sua expressão máxima em 1996, quando J. P. Barlow escreveu a ˜Declaração de Independência do Ciberespaço”. Havia nos EUA à época, uma proposta de legislação para controlar o conteúdo na rede – o Decency Act – e foi reagindo a isso que Barlow encabeçou a posição da “comunidade Internet”. A tal lei acabou sendo revista, com a adoção da sessão 230, que aliás foi reafirmada há pouco tempo na Suprema Corte norte- americana. A “Declaração” de Barlow foi o coroamento do conceito de “rede aberta e livre”, com a descrição, nas palavras de Barlow, de uma comunidade literalmente utópica, e a proposta de um “mundo da Mente”.

Rever o que Barlow descreve em seu repto e confrontá-lo com o que temos, talvez nos fizesse reler o título “mundo da Mente” para “o mundo que mente”. Diz ele “… Estamos criando um mundo em que qualquer pessoa possa entrar sem privilégio ou preconceito baseado em raça, poder econômico, força militar ou local de nascimento. Estamos criando um mundo em que qualquer pessoa, em qualquer lugar, possa expressar suas crenças, por mais singulares que sejam, sem medo de ser coagida ao silêncio ou à conformidade…. Criaremos uma civilização da Mente no Ciberespaço. Que ela seja mais humana e justa do que o mundo que seus governos criaram antes - Davos, Suíça, 8 de fevereiro de 1996”. Quando disso vale, quanto é utopia e quanto passou a ser distopia?

E, adicionando a indefectível pitada de IA no caldo da Internet, há um outro ponto que chama a atenção: a possibilidade de retrabalhar o passado é reforçada! Explico: houve em Brasília uma exposição sobre a história da cidade, que contou com o apoio instrumental da IA. Não visitei a exposição, portanto não tenho base de julgamento, mas surgiu uma dúvida: seria confiável a reedição automatizada da história? Há diversos exemplos de contextos que são mal-entendidos pela IA (concedendo que IA “entenda” contextos…), mas o que desperta alguma preocupação é que, sem formas de verificação independente (ou sem paciência e tempo para isso), estariam os consumidores das versões sintética da história correndo riscos maiores de manipulação? Será que, mergulhados como estamos hoje no mar de desinformação e de “fake news”, veremos aparecer também a onda dos “fake olds”?

===

O texto do J. P. Barlow:

https://www.eff.org/cyberspace-independence

John Perry Barlow, Internet Pioneer, 1947-2018

https://www.eff.org/deeplinks/2018/02/john-perry-barlow-internet-pioneer-1947-2018

===

O busílis da questão

Que sempre houve mal-intencionados, fraudadores e mentirosos é inegável. Mas, graças à Internet e sua onipresente agilidade, tudo circula muito rapida e superficialmente. Somemos uma certa fragilização dos que participam no processo: afinal há muitos neófitos na era da comunicação digital não desenvolveram ainda couraça ou filtro para separar o joio do trigo, e fica fácil entender a corrida, nem sempre racional e sensata, em busca de lenitivos para os males que nos afligem.

Na última reunião da ICANN, semana passada nos EUA, Washington, um tema continua em voga: como tratar do chamado “abuso do DNS”. O DNS é o sistema que cuida dos nomes de domínio dos locais, entes e serviços na Internet. Ele visa a traduzí-los para números IP – os reais identificadores na rede. É claro que há sítios na Internet que tem conteúdos inadequados, propositadamente falsos ou, mesmo, ilegais numa dada cultura e legislação. Mas também é claro que a rede e o DNS propiciam formas de se identificar onde esses conteúdos estão alocados. O caminho que parece adequado é ir-se direto ao responsável pelo sítio onde o conteúdo se hospeda e verificar o que ocorreu (afinal, o sítio pode ter sido invadido, e o conteúdo lá encontrado sequer ser de conhecimento do reponsável listado).

Mas os “apressados em buscar soluções rápidas” advogam que remover o nome de domínio da tabela do DNS, prescindindo até de exame judicial prévio do caso, pode ser uma solução. Tirar a funcionalidade de um nome de domínio não implica em remover o conteúdo visado ou a possibilidade de acesso a ele. E pode ser um alerta para que o malfeitor apague as provas e “reencarne” com outro nome de domínio, em outro lugar da rede. A função de um registro da Internet é simplesmente prover uma tradução rápida e eficiente de um nome de domínio para um endereço IP. Não passa nem perto do tema “conteúdo eventualmente lá hospedado”. Não é diferente do que um serviço de localização de endereços faz, quando pedimos para levar-nos a uma rua. Faria sentido que ele respondesse “Não posso levá-lo a essa rua. Dizem que lá há atividade considerada ilegal”?

Atalhos como esses, para aliviar tensões e amenizar problemas, apenas tendem a piorar as coisas e atingir inocentes que nada tem com a questão. É fundamental entender a Internet antes de tomar providências açodadas, até porque o próprio conceito do que seja legal varia. Há países em que bebida alcoólica é ilegal, e outros em que a venda de drogas é legal. Na Internet, tudo deve poder ser acessado, e o ônus de alguém usar um serviço ilegal numa jurisdição pode ser até mesmo do próprio usuário. Duas frases no tema: de G. K. Chesterton, “não é que eles não consegam encontrar a solução. É que eles nem conseguem enxergar o problema”, e de H. L. Mencken, "sempre há uma solução fácil para cada problema complexo – uma solução simples, aceitável e… errada."

===

comentário sobre "busílis", palavra que está consignada no dicionário Moraes, portanto pode ser usada sem susto:

https://pt.wiktionary.org/wiki/bus%C3%ADlis

"A origem de busílis é controversa. Vem do latim "in diebus illis" (naqueles dias), o qual algum copista dividiu ao final da página como "in die" e na outra como "bus illis" gerando controvérsia sobre o significado de "busílis" até que se percebeu o problema central era a própria palavra."

===

ICANN77

https://meetings.icann.org/en/icann77

"DNS abuse"

https://www.icann.org/dns-security-threat

===

Tecnologia e neologismos...

"As odds de uma bet"

Efeito lateral da tecnologia é sua interferência na liguagem. Em adição, temos hoje IA gerando textos em português escorreito. Arrisco colocar minha colher torta nisso: causa um certo desconforto ver a introdução descuidada de novos vocábulos. Tecnologia, área pródiga em novidades, precisa de que palavras sejam criadas, neologismos que expressem melhor novos entes e conceitos. Nada há de errado nisso, mas deveríamos ter cuidado na ânsia de nos mostrarmos “atualizados”. Penso que há ao menos tres aspectos a avaliar no momento de usarmos um neologismo ou um estrangeirismo: que sua necessidade seja real (não apenas um sinônimo charmoso de palavra já existente), que se busque, assim que possível, seu aportuguesamento conforme as regras da linguagem, e que, na criação de eventuais compostos, respeitemos as regras e a semântica dos radicais usados (lembrando que “fobia” é medo...)

Adotou-se “futebol”, o aportuguesamento do importado “football” (e prevaleceu sobre propostas bizarras, como “ludopédio” ou “pedibólio”: não há como, nem porque, insistir numa inglória luta ao que caiu no uso popular). A mesma lógica gerou abajur, charme, sutiã e, recentemente, copidesque, leiaute, becape - vocábulos aportuguesados que enriquecem o idioma. O risco é que, no afã de inovar, esquecem-se expressões preexistentes perfeitas. Precisaríamos de “delivery” no lugar de nossa antiga “entrega a domicílio”? (e, sendo proparoxítona, que ao menos se gravasse “delíveri”). A disseminação de “delivery” parece irreprimível, mas por que usaríamos “printar” no ligar de “imprimir”, ou “off” se temos “desconto”? Mostrengos ainda piores grassam por ai: outro dia mesmo ouvi no rádio, “profitizar” no sentido de lucrar, render (do inglês “profit”). Há quem use “bet” como sinônimo de “aposta” e “odds” como alternativa para “probabidade”. Parece que um “poder oculto” é conferido a quem utilizar palavra importada, mesmo quando há sua conhecida correspondente nacional…

Um último ponto que talvez mereça alguma atenção é o uso de sons de caracteres que não faziam parte do idioma de Camões… Esses estrangeirismos ainda não aportuguesados, segundo Napoleão Mendes de Almeida, deveriam aparecer apoiados em muletas: aspas ou itálico. Ouvir um “i” ter som de “ai” como em “site”, dificulta os que estão aprendendo português. O brilhante e saudoso Millôr escrevia “saite” para sítio na Internet: uma palavra que os anglófonos importaram do latim e nos, ao a reimportarmos, aceitamos usar seu “i” com som de “ai”…Miremo-nos no exemplo de futebol, basquete, beque, que se “vestiram de português” para bem frequentar nossa língua.

Para encerrar a encrenca em que me meti, leio que, depois de Carlos I, e Carlos II, temos agora Charles III… Se no passado nomes de reis eram convertidos ao nosso idioma sempre que possível, agora os mantemos na língua de origem? Não será mais Luiz XV, mas Louis XV? Teremos Richard, the Lionhart em lugar de Ricardo Coração de Leão? Pedro, o Grande, passará a Pyotr?

===

Sobre neologismos e estrangeirismos

https://ciberduvidas.iscte-iul.pt/consultorio/perguntas/neologismos-e-estrangeirismos/7408

https://repositorio.ifpb.edu.br/handle/177683/751

===

odds e bet

A Wikipedia redireciona "odds" para "chance":

https://pt.wikipedia.org/wiki/Chance

Já para "bet" - aposta - há um monte de sítios tratando desse tema...

Livre Pensar

Importamos debates de todo o mundo, como se já não tivéssemos temas em profusão por aqui mesmo. Assim é que soma-se às já complexas discussões sobre a extensão e a forma adequadas para uma legislação sobre plataformas e redes sociais, o tema sobre a remuneração cruzada de setores econômicos, normalmente identificado com o rótulo de “fair share”.

Estando eu muitíssimo longe de entender os complexos meandros da economia, meu primeiro espanto é com o que me parece ser uma “inovação”. Não conheço exemplos em que integrantes de uma área de atividade repassem recursos, por lei, diretamente a outra área de atividade. A mim não convence o argumento de que o crecimento vigoroso de um determinado setor exige esforços não previstos ou provisionados em outro setor e, portanto, seria necessário um financiamento cruzado… Afinal cada ramo de atividade econômica, inclusive, dispende esforços para em se destacar da concorrência, e assim ganhar mais usuários e porte. Se não fosse assim, não haveria mais sentido em se manter naquela área, e mais prudente seria buscar outra atividade. Obviamente cabe ao governo cobrar adequadamente os impostos correspondentes aos resultados das empresas de cada área e, examinando o cenário nacional, destiná-los a estímulo de setores e atividades que demandem suporte ou expansão do ponto de vista político. A proposta de financiamento cruzado entre áreas de atividade, a meu ver, faz tão pouco sentido como se os fabricantes de eletrodomésticos passassem parte de sua receita aos fabricantes de materiais plásticos, sob o argumento de que “mais plástico foi necessário em função de seu uso na fabricação dos eletro-domésticos”. Afinal coisas como impostos e a própria conta de luz, existem para buscar essa equilíbrio.

Outro tema candente, o de como tratar “intermediários” na rede, teve um aporte importante com a decisão da corte norte-americana em manter o espírito da seção 230 do “decency act” de 1996. Claro que muita coisa mudou desde 1996, especialmente com a enorme expansão do chamado “ecossistema digital”, porém essas mudanças devem se refletir em legislação específica e bem definida. Não há como abarcar as mudanças que a rede e a informática trouxeram ao mundo de uma maneira generalista. Cada categoria, cada conjunto de ações de um mesmo tipo, deve ser foco de debate próprio, com suas especificidades e peculiaridade eventualmente tratadase m legislação. A nova realidade do mundo em rede deu poder de manifestação e ação a todos, o que reforça que cada um deve ser responsável pelos seus atos. E os que forem apenas canais agnósticos no processo - e pode haver esse papel - deveriam continuar não-responsáveis. Claro, desde que atuem apenas como canais, e se confinem no papel de intermediários canônicos. Conforme um amigo resumiu numa conversa, o drama é: o que costumávamos chamar de “senso comum” tornou-se raridade – é tudo menos “comum”... De uma poesia do Millôr Fernandes: ... / pois se penso demais / acabo despensando tudo que pensava antes, / e se não penso / fico pensando nisso o tempo todo. 

===

Entrevista de Millor com a poesia da qual um trecho foi citado:

http://www.tirodeletra.com.br/entrevistas/MillorFernandes.htm

livre pensar é só pensar:

,

O arquivo da rede

Praticamente todo conhecimento humano hoje tem alguma cópia digital na Internet. Informação está disponível a todos que tem acesso à rede, em escala nunca imaginada. Certamente as consequências disso, desde as obviamente positivas às que podem moldar o comportamento humano de maneira não desejável, ainda precisam ser avaliadas, mas isso em nada diminui o imenso valor que essa disponibilidade e acessibilidade traz a todos nós. No início da popularização da rede, houve um movimento de se depositarem as informações conhecidas na Internet, seja de forma estruturada – lembro do entusiasmo que tivemos, lá por volta de 1995, com a notícia de que a biblioteca do Vaticano estaria disponível na rede – seja pelo aporte das incontáveis iniciativas individuais, especialmente após o surgimento da web. Quando ao acesso, ainda em 1996 surgiria o Altavista, um dos primeiros buscadores poderosos que facilitariam imensamente o trabalho de “garimpagem”.

A preocupação em preservar o que se estava criando tem um marco em 2002, com a popularização de ferramentas como Wayback Machine, que visavam à manutenção de um arquivo histórico dos sítios encontrados. Há uma palestra que Vint Cerf deu em 2005, no Egito, onde faz um paralelo entre a importância que a biblioteca de Alexandria representou para a cultura mundial e como essa função estava migrando para a forma digital. Um dos alertas que Vint sempre faz é que o meio digital necessita de dispositivos e recursos que, se não preservados, podem tormar o conteúdo digital muito difícil de ser preservado. Certamente quem gravou seus dados importantes em disquete magnético sabe dos riscos, não apenas da preservação do meio material, como de perder formas de acesso e leitura. Em comparação, os velhos manuscritos em pergaminho https://www.thearchaeologist.org/blog/who-destroyed-the-library-of-alexandriaduram milhares de anos graças à qualidade do material e, por usarem línguagem que se consegue decodificar, seu conteúdo permanece. A preservação de dados digitais depende de fatores que muitas vezes são descurados, dada a aparente facilidade momentânea em gerar cópias a custo muito baixo. Com certeza daqui a mil anos, pergaminhos antigos, se bem conservados, continuarão sendo legíveis. Quanto aos nossos arquivos pessoais digitais, há dúvidas importantes.

A lembrança da biblioteca de Alexandria e de sua última destruição lá pelo ano de 650, traz ao debate outro ponto bastante atual: deve-se preservar toda a informação que há num dado momento, ou se deve proceder à “destruição” do que julguemos “nocivo”. Em uma nota a um discurso sobre ciência e artes, Rousseau cita que “… dizem que o Califa Omar, quando perguntado sobre o que fazer com a biblioteca da Alexandria, teria respondido: ‘se os livros contidos na biblioteca contêm temas opostos ao Corão, eles são ruins e devem ser queimados. Se esses livros contêm apenas doutrinas alinhadas ao Corão, são supérfluos e devem ser queimados do mesmo jeito’”. Não repitamos com a Internet o que ocorreu com os documentos da biblioteca de Alexandria.

===

Vint Cerf, 2005

https://www.bibalex.org/Attachments/Publications/Files/Cerf.pdf

===

A biblioteca de Alexandria
https://www.thearchaeologist.org/blog/who-destroyed-the-library-of-alexandria

https://en.wikipedia.org/wiki/Library_of_Alexandria

In 642 AD, Alexandria was captured by the Muslim army of Amr ibn al-As. Several later Arabic sources describe the library's destruction by the order of Caliph Omar.[98][99] Bar-Hebraeus, writing in the thirteenth century, quotes Omar as saying to Yaḥyā al-Naḥwī: "If those books are in agreement with the Quran, we have no need of them; and if these are opposed to the Quran, destroy them."

https://www.stmarys-ca.edu/sites/default/files/2023-03/arts.pdf

“They say that Caliph Omar, when consulted about what had to be done with the library of Alexandria, answered as follows: 'If the books of this library contain matters opposed to the Koran, they are bad and must be burned. If they contain only the doctrine of the Koran, burn them anyway, for they are superfluous.'

― Jean-Jacques Rousseau, Discourse on the Sciences and Arts and Polemics

===

Inteligência Artificial Geral

Inteligência Artificial continua provocando acaloradas discussões, tanto entre os que têm envolvimento mais profundamente com o tema, quanto entre os apenas atraidos pelo imenso ruido que há hoje sobre ele. Um artigo no Financial Times de há uma semana - “We must slow down the race to God-like AI” (deveríamos desacelerar a corrida em busca de uma “IA divina”) - traz uma descrição bastante preocupante sobre que aspectos da IA recebem hoje mais atenção. E são os gigantes da tecnologia que desenvolviem IA e impulsionam esses aspectos. O autor, ele mesmo envolvido em pesquisa de IA, alega que são sistematicamente ignorados os riscos que ela pode trazer, e segue-se na corrida de quem primeiro atingirá a IAG – Inteligência Artificial Geral – o ponto em que a IA adquire características ainda mais tipicamente humanas como criatividade e prospecção, eventualmente ultrapassando o homem também em sofisticadas atividades intelectuais. O autor, Ian Hogarth, chama a essa IAG de “God-like”, no sentido de “sobrehumana” ou “divina”, por ser capaz de, autonomamente, exibir criatividade, iniciativa e, mesmo, buscar poder para si.

Na linha de preocupações éticas, autênticas ou não, diversos figurões assinaram um documento pedindo uma trégua de 6 meses no desenvolvimento da IA até que se entendam melhor seus contornos. Há dúvidas se tais declarações tem, de fato, alguma possibilidade de amenizar a velocidade da expansão da IA, ou são apenas um posicionamento perfunctório, protetivo da própria imagem quanto à ética. Hogarth considera que os recursos aplicados em IA “para estudar seu alinhamento com valores humanos” são muito menores que os usados no desbragado desenvolvimento, sem ponderações além de se manter à frente dos competidores na busca da IAG. Há muitos casos reais de comportamento inesperado e inexplicável dos sistemas, visto que, agora eles não são mais “programados”, mas “criados”. Aliás não são poucos os exemplos na literatura de criações/criaturas que escapam do seu projeto inicial de desenvolvimento à la Frankenstein, da novela de Mary Shelley no remoto 1818.

IA certamente não é o primeiro caso de desenvolvimentos que podem trazer riscos. Lembremos, por exemplo, a tecnologia nuclear que, mesmo com tensões que periodocamente irrompem, tem-se mantido sob controle. E há a bio-engenharia, cujas consequências também podem ser imprevisíveis. Norbert Wiener, o criador do verbete “cibernética” e notável pesquisador do tema, em seu livro “Cibernética e Sociedade - o uso humano de seres humanos”, diz que “o sentido da tragédia é que o mundo não é um ninho acolhedor e protetivo, mas um vasto ambiente bastante hostil, no qual só se alcançam grandes coisas desafiando os deuses. Tal desafio inevitavelmente acarreta punição <...> Um mundo no qual a punição atinge não apenas quem peca com arrogância consciente, mas também aquele cujo único crime é ignorar os deuses e o mundo que o cerca.”

===

https://en.wikipedia.org/wiki/Artificial_general_intelligence

===

O artigo do FT, We must slow down the race to God-like AI

https://www.ft.com/content/03895dc4-a3b7-481e-95cc-336a524f2ac2

===

O livro de Norbert Wiener, "Cibernética e Sociedade - o uso humano de seres humanos"

https://sites.ufpe.br/moinhojuridico/wp-content/uploads/sites/49/2021/10/Ciber-2c-22-out-Cibernetica-e-Sociedade-Norbert-Wiener.pdf

===

Frankenstein, Mary Shelley

https://pt.wikipedia.org/wiki/Frankenstein