terça-feira, 25 de junho de 2019

Quem sou?

Máquinas autônomas, como os carros auto-conduzidos, podem estar muito próximas da viabilidade técnica, mas ainda estão longe de garantir “comportamentos” moralmente aceitáveis para os humanos. O Media Lab do Massachusetts Institute of Technology (MIT) desenvolveu, há algum tempo, um projeto chamado “moral machine” (máquina moral) que recolhe contribuições sobre como diferentes indivíduos, com diversas bagagens culturais, definiriam escolhas moralmente aceitáveis. Algumas são fáceis de prever, outras nos colocam em xeque. 

Vejamos: parece razoável que, num inevitável acidente, opte-se pela solução que gere menos vítimas fatais. Um operador de desvio ferroviário pode se ver numa situação em que deve escolher para qual de dois ramais desviará um trem. Num ramal há cinco pessoas sobre os trilhos, e no outro apenas uma. Mesmo com pesar, parece certo desviar o trem para o trilho em que há apenas uma pessoa, poupando cinco. Modifiquemos o cenário, eliminando a bifurcação. De novo há os cinco humanos expostos ao trem, e agora há uma ponte sob a qual o trem passará. Nesta ponte está um homem avantajado e pesado que, se for arremessado sobre os trilhos, fará o trem parar poupando os cinco. Poucos optam, neste caso, por empurrar a vítima ponte abaixo, mesmo que isso represente salvar cinco. São complexas as regras morais que usamos para decidir algo, e que eventualmente gostaríamos de ver refletidas nos autômatos. Vale a pena uma visita em “moralmachine.mit.edu”

A coisa se complica ainda mais quando considerarmos a criação de personalidades artificiais. Dia desses recebi um vídeo em que um Salvador Dalí, redivivo, falava e gesticulava de forma muito convincente e natural. Mais que isso, ele respondia a perguntas dos admiradores e até tirava fotografias com eles. 

Bem... Isso não nos causa mais tanto espanto: a partir de uma simples fotografia sabemos que já se pode criar uma animação curta e, se tivermos dados sobre a voz da pessoa e alguma documentação de seus tiques gestuais, a animação ficará quase indistinguível de uma cena real. Algo falso, profundamente falso e, ao mesmo tempo, profundamente realista.

Além de se poder falsificar a realidade em formas bastante críveis, pode-se “criá-la” do
 nada. Já há como gerar imagens de pseudo indivíduos que nunca existiram, mas que nos parecem naturais e perfeitamente e possíveis. Bem distante de caricaturas graficamente rudimentares e facilmente reconhecíveis. À medida em que a distinção tornar-se menos e menos perceptível, não estaremos longe de duvidar até de realidades de nosso passado. Aquele filme em que estou dançando, aparentemente bêbado, será meu mesmo? Afinal não sou nada hábil em meneios corporais, mas... afinal, pode ser que estivesse tão alterado que perdi a memória clara do evento. E neste, onde eu, normalmente contido, estou agressivamente ofendendo um amigo de longa data? Por que raios eu estaria fazendo isso? Seria eu mesmo?

Fernando Pessoa, que tinha isso sob estrito controle, escreveu: “... Eu sou muitos. Mas, com o ser muitos, sou muitos em fluidez e imprecisão. Muitos creem coisas falsas ou incompletas de mim; e eu, falando com eles, faço tudo por deixá-los continuar nessa crença. Perante um que me julgue um mero crítico, eu só falo crítica. A princípio fazia isto espontaneamente. Depois decidi que isto era porque, no meu perpétuo anseio de não levantar atritos...”


===
MIT, Media Lab:
http://moralmachine.mit.edu

Salvador Dalí:
https://www.youtube.com/watch?v=MZ2X-fSIPSU

o trecho do Fernando Pessoa:
http://arquivopessoa.net/textos/2676
===

terça-feira, 11 de junho de 2019

Problemas Importantes

Segundo Eisenhower, ex-presidente dos Estados Unidos, “há problemas importantes, e há problemas urgentes. Usualmente, os urgentes não são importantes, e os importantes nunca são urgentes”. Um problema importante deveria ser tratado com calma e ponderação. Se buscarmos uma solução urgente para ele, poderemos estar obtendo ainda mais encrenca.

Coibir comportamentos delituosos na internet é, certamente, uma questão importante, mas como agir?. O primeiro passo é definir o que seria “delituoso” para a rede. Salvo poucas situações, não há unanimidade nas legislações nacionais: algo que é ilegal no país X, pode ser perfeitamente legal no país Y.

Mais, no ambiente sem fronteiras da internet, como caracterizar que uma lei nacional foi violada, e por quem? E soluções de diplomacia internacional, que certamente se aplicam, demandam um tempo incompatível com a agilidade da Internet e, postam em prática, sempre necessitarão de coordenação multinacional.

Semana passada houve em Berlim uma reunião onde discutiram-se formas de cooperação multissetorial internacional para a contenção de crimes na Internet. Estive no grupo que discutia ações sobre o DNS (sistema de nomes de domínio) que poderiam coibir malfeitores. A primeira dificuldade é tentar definir o que seria “ilegal” internacionalmente, ao menos no sentido comum.

Um exemplo citado: há uma lei da Tailândia que pune gravemente quem falar mal da família real de lá. Poderia essa restrição local ser expandida internacionalmente, mesmo que na forma de simples consenso? O grupo pendeu para um claro “não”. Penso que neste caso e em muitos outros equivalentes, quanto à legislação local, seria obrigação primeira do cidadão não quebrar as leis do país em que mora. Se um livro é proibido num país X (mas não em outros), os cidadãos deste país estarão transgredindo as leis locais ao comprarem o livro. O vendedor do livro está sob a legislação de outro país Y e sua oferta visa a um público indistinto. Estaria ele violando a legislação do país X?

Claro que há situações em que um serviço ou conteúdo na rede podem estar sujeitos à rejeição universal, por violarem princípios globalmente acordados. Mesmo nesse caso, seria prudente iniciar com a suspensão do nome de domínio? O serviço que o DNS presta resume-se a traduzir um nome para um número IP; não leva ao local, e muito menos hospeda os dados visados.

Usar como primeira providência a remoção do nome, além de poder afetar outros serviços e conteúdos perfeitamente legais, não eliminará nem o conteúdo danoso, nem o acesso a ele, dado que ele continuará acessível via endereço IP. Pior, ao impedir a resolução do nome, estaremos “avisando” nosso suspeito de que há algo em marcha contra ele. Logicamente, sua primeira providência será remover o conteúdo ilegal e se esconder, o que pode dificultar ou mesmo inviabilizar toda a investigação em andamento.

Na cadeia de ações de que se pode lançar mão para coibir abusos, parece claro que atacar o DNS será o último passo, nunca o primeiro. Agir imediatamente sobre o DNS sob o pretexto da urgência, pode levar a não se atingir o objetivo almejado e a prejudicar inocentes. Mesmo assim, na falta de soluções mais ágeis e coordenadas, muitos afobados tentarão ir pela via curta e simplória. Há outro adágio que diz: “a quem só tem martelo, todos os problemas parecerão pregos".

terça-feira, 28 de maio de 2019

Quase-Direito

“Revolução Digital” é palavra de ordem. No lugar de “digital” (que remete a dígito ou dedo) poderia ter-se usado “discreto”, antônimo de “analógico” ou “contínuo”. Mas, convenhamos: a revolução que está aí é tudo menos “discreta”... 

Se correio, telégrafo e telefonia já permitiam conexões entre os cidadãos do mundo, a forma com que essa interligação passou a ser operada hoje é algo incomparável: por primeira vez temos uma “comunicação franca” ao alcance de todos. E há rupturas sociais muito maiores do que simplesmente a introdução da informática, da automação, da eletrônica em nosso dia a dia. 

A Internet realizou a interpenetração de fronteiras físicas. Se nos referirmos ao Tratado de Vestfália, a consolidação do moderno conceito de nação tem menos de 400 anos, com definição de “soberania” e introdução da diplomacia nas negociações. Fronteiras físicas são elementos cruciais das nações. A imposição de leis e normas sociais fica adstrita aos limites físicos dos estados nacionais. Há tratados internacionais que buscam homogeneizar comportamentos e ações, mas são raros e de difícil consecução. 

Quando estamos discutindo algo em um grupo, é claro que não é necessário que os participantes ou o gestor do grupo estejam localizados no país cuja língua está sendo utilizada. Muito menos a plataforma na qual o grupo se articula. Então, em situações dessas, em face de potencial abuso, como definir qual lei foi burlada, se não é claro o contexto sociocultural nacional que se aplica? 

Outro ponto a ponderar é que, longe de nações ou de associações convencionais, a proximidade física concorre pouco para o alinhamento de grupos de discussão. Buscamos afinidades de temas, ideias e posicionamento, mais do que vizinhança física. As tensões que surgem hoje pouco se relacionam a países e fronteiras, mas sim a linhas de pensamento, de negócio e de poder. Uma corrente que queira atacar a posição oposta, encontrará aliados em diversos lugares do globo, prontos a cerrarem fileiras. 

Buscar legislação de consenso é uma forma de atenuar o problema. Mas tratados internacionais, além de difíceis de obter, demoram muito mais do que os novos tempos exigem. Buscar homogeneização entre leis nacionais pode ser parte da solução, como parece estar sendo o caso da proteção de dados individuais. Outra forma, conhecida como “soft law” ou “quase-direito”, é buscar um consenso não formal nesses temas. Nessa linha, em junho haverá em Berlim a terceira reunião de “Internet e Jurisdição”, conferência que debate temas transfronteiriços em três vertentes: dados, conteúdos inadequados, e nomes de domínio.

O “quase-direito” é uma forma de articulação que pode nos livrar de alternativas bem ruins. É recorrente a ameaça, lançada de tempos em tempos por países descontentes com a rede mundial, de estabelecerem-se também “fronteiras” para a Internet.

Essa opção, de “fragmentar” a rede, representaria abjurar a revolução que ela trouxe, tornando-a uma realidade nacional contida nas fronteiras físicas, com características locais. Mas mesmo para as nações que não se sentem confortáveis com o cenário global, fragmentar a rede implicará, para elas também, na perda de acesso ao enorme mercado além das fronteiras físicas. Terão elas coragem de “trucar” aí? A emenda pode sair pior que o soneto.


===
Internet & Jurisdiction Policy Network
https://www.internetjurisdiction.net/


https://www.reddit.com/r/MapPorn/comments/4qemua/map_of_europe_after_the_treaty_of_westphalia_24th/





terça-feira, 14 de maio de 2019

Os Contos do Internauta

Ernst Hoffmann escreveu três contos curtos em que a personagem principal era ele mesmo. Foram base para uma interessante ópera de Offenbach, “Os Contos de Hoffman”. Conhecido por operetas espirituosas e alegres, Offenbach não queria morrer sem deixar uma obra de cunho mais sério e dedicou seus últimos anos escrevendo essa obra. Não viu a estreia: faleceu pouco antes. 

Hoffmann está perdidamente apaixonado por Stella, misteriosa artista. Um vilão demoníaco, o conselheiro Lindorf, com nomes diferentes permeia toda a ação, sempre destruindo os planos de Hoffmann. 

No primeiro ato as desventuras de nosso herói o ligam a uma boneca mecânica, Olympia, que se move por conta dum mecanismo a corda. Os idealizadores da boneca atraem Hoffmann e, com óculos especiais, o fazem supor que o que vê é, sim, uma belíssima moça real, por quem imediatamente se apaixona. Uma ilusão não muito distante da “realidade aumentada” de hoje. Ao tentar dançar com Olympia, quebra os óculos e a ilusão se desconjunta. A segunda aventura se dá com Antonia, cantora de voz maviosa sobre quem pesa um fado cruel: se Antonia insistir em cantar, morrerá da mesma forma que morrera sua mãe, também cantora famosa. De novo Hoffmann se apaixona, e de novo o maléfico se interpõe e faz com que Antonia, resolvendo-se a cantar, acabe por morrer. O terceiro ato passa-se em Veneza. Ouve-se a famosa barcarola e os amores de Hoffmann vão para Giulietta, uma cortesã sem escrúpulos. Outra vez o inimigo destrói os planos de Hoffmann, que acaba por perder a própria sombra. Giulietta morre envenenada por engano. Stella, a mulher ideal, seria a soma das três: teria a beleza e a técnica de Olympia, a arte de Antonia, a paixão erótica e o gosto pelo poder de Giulietta...

Para um Hoffmann internauta, Stella poderia ser a personificação da Internet. Ele busca na rede técnicas que lhe permitam ver belezas agradáveis, extasiantes, mas irreais. Inteligência artificial, realidade expandida, internet das coisas remetem a Olympia: elas nos apaixonam e, ao mesmo tempo, nos fazem correr riscos ou cair em armadilhas. Não basta Olympia, adicionemos Antônia, e teremos acesso à arte e à cultura como nunca antes. Visitaremos museus em que não pisaremos, vocalizaremos muitas ideias, às vezes mal definidas e superficiais, com todos, o tempo todo. O risco é que a verdadeira arte e cultura com o tempo sufoquem, como aconteceu com Antonia, que não poupou sua voz. Finalmente, Giulietta: o brilho da paixão por ganhos rápidos na rede, por iniciativas e empreendedorismo pouco pensados, pode esconder venenos. E está visível o acúmulo de poder em poucas mãos, com a correspondente ânsia para obterem nossa sombra (ou será nossos dados??).

Amamos nossa estrela Stella e queremos preservá-la como a imaginamos, sem deformações. Olympia, Antonia e Giulietta nos trazem riscos variados, de toda a espécie, mas o principal risco é perder o que mais almejamos: a integralidade da experiência que a Internet nos proporciona.

Hoffmann começa a ópera numa taberna, totalmente bêbado, e é lá também que a encerra, embriagado, decidindo renunciar a Stella e voltar a ser poeta. Mas nos “Contos do Internauta” propomos um final diferente: Stella não será perdida!


===
Uma ótima interpretação da canção de Olympia, "Les oiseaux dans la charmille"
com Natalie Dessay:

https://www.youtube.com/watch?v=InAxtPyZVKI

E o "poster" do filme  de Michael Powell e Emeric Pressburger (1951):





terça-feira, 30 de abril de 2019

O Inimigo

São tempos complexos. Não que antes as coisas fossem simples mas, e ao menos aparentemente, elas estavam sob nosso controle. Futuros distópicos eram tema da ficção, que nos deu diversos exemplos de prospectivos futuros sombrios. Em vários deles, e de diversas formas, o homem perderia sua posição de controle. Em outros, mesmo havendo o risco de perda de controle, ela era minimizada por decisões humanas que limitariam a ação das máquinas. Em Eu, Robô, por exemplo, Isaac Asimov propõe três leis que se destinam a proteger os humanos de qualquer comportamento deletério das máquinas. Trata-se, claro, de ficção...

O poder de processamento de dados que a tecnologia nos fornece hoje é milhões de vezes maior do que há duas décadas. Desde sua proposição por Gordon Moore em 1965, a conjectura de crescimento conhecida como Lei de Moore continua inabalável: a cada 18 meses a capacidade de processamento dobra. Com isso, algumas abordagens técnicas, que antes não seriam muito promissoras, mostram-se surpreendentemente eficientes. 

Há duas décadas, já era um tema constante de debates a forma de construir programas que incluíssem “aprendizado” de máquina, mas os resultados ainda pouco animadores. Ensinar, por exemplo, um programa a traduzir uma língua envolveria tentar estabelecer uma árvore semântica que desse ao sistema algum “entendimento” do que se buscava traduzir. 

Uma segunda linha foi rapidamente agregada ao processo: valer-se do que os humanos já tivessem feito na área. Com a digitalização de enormes acervos de livros e suas respectivas traduções, essa base de dados melhoraria o resultado da tradução incorporando no processo o que humanos haviam feito antes. Essa abordagem dupla e também muito beneficiada pelo aumento da capacidade de armazenamento, trouxe melhores resultados. 

Na programação de jogos pode-se usar uma linha de aprendizado puro, em que o programa inicialmente apenas sabe como mover as peças e, após muitas tentativas e erros, acaba por selecionar estratégias vencedoras, ou pode-se incorporar a experiência dos humanos naquele jogo, como base de dados. 

Esse conjunto de enormes bases de dados (“Big Data”), mais a tecnologia de extrair deles informação selecionada (“Data Mining”), e mais as formas de se incorporar “aprendizado” pelas máquina, são componentes fundamentais do que se denomina “inteligência artificial”. 

Estamos escolhendo os caminhos a seguir e, portanto, imaginamos definir a versão do futuro que nos parece melhor. Mas, quando toda e experiência humana já tiver sido passada às máquinas, haverá o risco de perderemos o controle de nossas vidas, e de termos criado uma tecnologia que desloque o homem do centro das decisões? 

No conto de Jorge Luis Borges O jardim dos caminhos que se bifurcam, um sábio chinês havia dedicado a vida a escrever um livro/labirinto em que todos os futuros são simultaneamente possíveis. A decisão de escolher um caminho em cada bifurcação que se encontra pela frente não elimina as demais possibilidades. Como diz no conto o sinólogo que estudou o livro, “o tempo se bifurca perpetuamente para inumeráveis futuros. Num deles, sou seu inimigo”.


===
trecho de "El jardín de senderos que se bifurcan", Jorge Luis Borges:

"... En la obra de Ts'ui Pên, todos los desenlaces ocurren; cada uno es el punto de partida de otras bifurcaciones. Alguna vez, los senderos de ese laberinto convergen; por ejemplo, usted llega a esta casa, pero en uno de los pasados posibles usted es mi enemigo, en otro mi amigo. "
===
Bifurcação dos caminhos da Internet:  IPv6 vb IPv4, segundo Geoff Houston:
















===
IA, Big Data, Data Mining e aprendizado de máquina:
https://whatsthebigdata.com/2016/10/17/visually-linking-ai-machine-learning-deep-learning-big-data-and-data-science/





terça-feira, 16 de abril de 2019

BR Balzaquiano

Daqui a dois dias, em 18 de abril, o .br torna-se balzaquiano. O adjetivo, perenizado pela obra de Balzac, remete aos 30 anos, idade da maturidade, do controle de si, da vitalidade e... da sedução. O .br caiu no gosto dos brasileiros desde o início da implantação da Internet no País, em 1991. Em um cenário muito dinâmico, às vezes confuso e fluido, o .br permanece como suporte confiável aos brasileiros que buscam identidade na rede.

A história começa por volta de 1987, quando já estava clara a necessidade, ao menos na área acadêmica, de obtenção de acesso às redes internacionais de computadores que se expandiam rapidamente. A primeira rede buscada pelos brasileiros foi a Bitnet (Because It is Time Network), nome apropriado: “Rede, porque Tá na Hora!”. O Lncc (Laboratório Nacional de Computação Científica) no Rio de Janeiro e a Fapesp, criando a ANSP (an Academic Network at São Paulo), lograram conexão à Bitnet em 1988. Rapidamente universidades e institutos de pesquisa em todo o País buscaram ligar-se à rede. No caso específico da Fapesp, podia-se também acessar a HEPNet (High Energy Physics Network), ligando laboratórios de física de alta energia. 

A área acadêmica, entretanto, não foi a única a ser enfeitiçada pela ideia da troca livre e rápida de informação. Organizações da sociedade civil como o Ibase no Rio de Janeiro, APC e outras ofereciam acesso discado a redes internacionais. Para os que operávamos a rede acadêmica passou a ser importante obter uma estrutura de nomes para as máquinas interligadas. A melhor solução era ter um identificador que fizesse sentido e permitisse uso amplo. O esquema hierárquico de nomes para a Internet, muito bem planejado, já tinha cadastrados e disponíveis todos os códigos de duas letras que identificariam países e territórios. Lá constava o .br.

O passo seguinte foi pedir o .br para uso pelas redes acadêmicas brasileiras. Para nossa agradável surpresa, em 18 de abril de 1989 Jon Postel, responsável pela IANA (Internet Assigned Numbers Authority), considerou o time brasileiro maduro o suficiente para operar o .br. Assim, antes mesmo de obtermos conexão à Internet, recebemos o .br para usar como sobrenome!

De lá pra cá pouca coisa mudou na forma, mas muito mudou na escala. Desde o começo achamos importante deixar o .br fechado, aceitando apenas a empresas e cidadãos brasileiros, e com semântica preservada. O segundo nível sob o .br foi mantido restrito, e criadas alternativas que melhor servissem à característica dos aplicantes. Uma organização não governamental usaria org.br; para comércio e uso geral, com.br; o governo poderia ofertar futuros serviços sobre a rede usando o gov.br. Essa estrutura, inicialmente aberta apenas a pessoas jurídicas, foi sendo ampliada e passou a aceitar pessoas físicas. Foram criadas instâncias para profissões, como adv.br, eng.br, med.br; instâncias para publicadores, como blog.br, wiki.br, art.br e, mais recentemente, para cidades: bhz.br, rio.br, sampa.br. Hoje são mais de 120 alternativas.

Nesses trinta anos o .br atingiu 4 milhões de domínios, o sétimo maior domínio de país no mundo. E segue sedutor, com invejável solidez técnica e resiliência: um balzaquiano atraente e de respeito. “Vida longa e próspera!”, diria o sr. Spock, da Jornada nas Estrelas.


===
Página da IANA sobre delegação do .br, onde consta a data de 18/abril/1989:

https://www.iana.org/domains/root/db/br.html
===
===
e aqui as estatísticas do CENTR - Council of European National Top-level domain Registries:


https://centr.org/statistics-centr/quarterly-reports.html

com a tabela correspondente ao final de 2018:




terça-feira, 2 de abril de 2019

Imprimatur

A prensa de Gutemberg abriu uma era de difusão de informações e conhecimento como o mundo não experimentara até então. Os raros manuscritos, guardados em conventos e igrejas, podiam ser imprimidos em quantidade e distribuídos a um número muito maior de leitores. 

Como também ocorre hoje, essa inovação trouxe a possibilidade de negócio, de se venderem muitas cópias, e a correspondente pressão para que os recursos fossem direcionais ao que mais interessaria ao público. Não demorou muito para que textos eventualmente “não canônicos” passassem a circular livremente. 

Menos de 100 anos depois, já havia resultados inesperados da popularização de textos. Lutero, por exemplo, certamente valeu-se da imprensa para difundir sua tradução alemã da bíblia, antes disponível em latim e grego e, portanto, apenas acessível aos que soubessem essas línguas.

À Igreja Católica não passaram despercebidos os riscos nascentes. Foi instituído um “crivo” para que uma obra obtivesse licença de impressão. Um bispo ou seu auxiliar deveria ler o texto, julgar se lá havia alguma falsidade ou impropriedade, e emitir um juízo: “nada obsta” (nihil obstat, em latim). Assim, finalmente, a obra obtinha o imprimatur – “imprima-se”.

Mais alguns séculos se passaram até que o princípio de livre acesso a todo o conhecimento e livre divulgação de ideias ganhasse momento. Enciclopedistas propunham coligir de forma racional o que se sabia para colocar à disposição. Podemos dizer que o pêndulo social oscilava em direção às liberdades individuais.

A Internet trouxe uma nova instabilidade no pêndulo. Potencializando imensamente o que houve há 600 anos, todos passamos a ter acesso a tudo e, mais ainda, saímos da posição de passivos leitores para a de ativos e ardentes defensores de pontos de vista, mesmo nos temas que nem dominamos tanto assim... Afinal, há um microfone amplificado disponível!

De novo, entretanto, surge reação. Pelos mais variados motivos, desde proteção contra falsidades ou defesa de direitos genéricos, passando por ideais moralizantes, reaparecem defensores de um “crivo”. 

Acaba de ser aprovada uma lei europeia que, entre outros pontos, arroga-se a proteger “direitos de autor” – note-se que esse direito inexistia à época de Gutemberg. Não é à toa que ela cria um incômodo em parcelas importantes do público: pode gerar consequências bem diversas das pretendidas. 

A par de ser totalmente lícito e correto punir os que transgridem as leis vigentes, causa-me arrepios que a ação proposta o seja de forma apriorística, ante factum. E, pior ainda, que seja uma tarefa encomendada ao segmento que conta com quem já tem bastante poder. Arriscamos a tornar inviáveis os que não dispuserem de ferramental para o crivo, e os que já gozam dele, terão ainda mais poder! O fosso aumentará.

Um grego, há 2500 anos, postulou que “leis são como teias de aranha: apanham insetos pequenos, mas os pássaros as rompem e fogem”...

O pêndulo está oscilando novamente, agora em direção a controle e tutela crescentes. 
Lembrou-me os primeiros versos da Carmina Burana: “Ó Destino, cresces e mínguas qual a lua mutante; a detestável vida escureces e depois clareias, brincando com nossa mente; dissolves como gelo a miséria e o poder”... Nihil obstat!

===
https://spiritualdirection.com/2016/01/18/what-are-imprimi-potest-imprimatur-and-nihil-obstat