Quem sou?

Máquinas autônomas, como os carros auto-conduzidos, podem estar muito próximas da viabilidade técnica, mas ainda estão longe de garantir “comportamentos” moralmente aceitáveis para os humanos. O Media Lab do Massachusetts Institute of Technology (MIT) desenvolveu, há algum tempo, um projeto chamado “moral machine” (máquina moral) que recolhe contribuições sobre como diferentes indivíduos, com diversas bagagens culturais, definiriam escolhas moralmente aceitáveis. Algumas são fáceis de prever, outras nos colocam em xeque. 

Vejamos: parece razoável que, num inevitável acidente, opte-se pela solução que gere menos vítimas fatais. Um operador de desvio ferroviário pode se ver numa situação em que deve escolher para qual de dois ramais desviará um trem. Num ramal há cinco pessoas sobre os trilhos, e no outro apenas uma. Mesmo com pesar, parece certo desviar o trem para o trilho em que há apenas uma pessoa, poupando cinco. Modifiquemos o cenário, eliminando a bifurcação. De novo há os cinco humanos expostos ao trem, e agora há uma ponte sob a qual o trem passará. Nesta ponte está um homem avantajado e pesado que, se for arremessado sobre os trilhos, fará o trem parar poupando os cinco. Poucos optam, neste caso, por empurrar a vítima ponte abaixo, mesmo que isso represente salvar cinco. São complexas as regras morais que usamos para decidir algo, e que eventualmente gostaríamos de ver refletidas nos autômatos. Vale a pena uma visita em “moralmachine.mit.edu”

A coisa se complica ainda mais quando considerarmos a criação de personalidades artificiais. Dia desses recebi um vídeo em que um Salvador Dalí, redivivo, falava e gesticulava de forma muito convincente e natural. Mais que isso, ele respondia a perguntas dos admiradores e até tirava fotografias com eles. 

Bem... Isso não nos causa mais tanto espanto: a partir de uma simples fotografia sabemos que já se pode criar uma animação curta e, se tivermos dados sobre a voz da pessoa e alguma documentação de seus tiques gestuais, a animação ficará quase indistinguível de uma cena real. Algo falso, profundamente falso e, ao mesmo tempo, profundamente realista.

Além de se poder falsificar a realidade em formas bastante críveis, pode-se “criá-la” do nada. Já há como gerar imagens de pseudo indivíduos que nunca existiram, mas que nos parecem naturais e perfeitamente e possíveis. Bem distante de caricaturas graficamente rudimentares e facilmente reconhecíveis. À medida em que a distinção tornar-se menos e menos perceptível, não estaremos longe de duvidar até de realidades de nosso passado. Aquele filme em que estou dançando, aparentemente bêbado, será meu mesmo? Afinal não sou nada hábil em meneios corporais, mas... afinal, pode ser que estivesse tão alterado que perdi a memória clara do evento. E neste, onde eu, normalmente contido, estou agressivamente ofendendo um amigo de longa data? Por que raios eu estaria fazendo isso? Seria eu mesmo?

Fernando Pessoa, que tinha isso sob estrito controle, escreveu: “... Eu sou muitos. Mas, com o ser muitos, sou muitos em fluidez e imprecisão. Muitos creem coisas falsas ou incompletas de mim; e eu, falando com eles, faço tudo por deixá-los continuar nessa crença. Perante um que me julgue um mero crítico, eu só falo crítica. A princípio fazia isto espontaneamente. Depois decidi que isto era porque, no meu perpétuo anseio de não levantar atritos...”

===
MIT, Media Lab:
http://moralmachine.mit.edu

Salvador Dalí:
https://www.youtube.com/watch?v=MZ2X-fSIPSU

o trecho do Fernando Pessoa:
http://arquivopessoa.net/textos/2676
===

Problemas Importantes

Segundo Eisenhower, ex-presidente dos Estados Unidos, “há problemas importantes, e há problemas urgentes. Usualmente, os urgentes não são importantes, e os importantes nunca são urgentes”. Um problema importante deveria ser tratado com calma e ponderação. Se buscarmos uma solução urgente para ele, poderemos estar obtendo ainda mais encrenca.

Coibir comportamentos delituosos na internet é, certamente, uma questão importante, mas como agir?. O primeiro passo é definir o que seria “delituoso” para a rede. Salvo poucas situações, não há unanimidade nas legislações nacionais: algo que é ilegal no país X, pode ser perfeitamente legal no país Y.

Mais, no ambiente sem fronteiras da internet, como caracterizar que uma lei nacional foi violada, e por quem? E soluções de diplomacia internacional, que certamente se aplicam, demandam um tempo incompatível com a agilidade da Internet e, postam em prática, sempre necessitarão de coordenação multinacional.

Semana passada houve em Berlim uma reunião onde discutiram-se formas de cooperação multissetorial internacional para a contenção de crimes na Internet. Estive no grupo que discutia ações sobre o DNS (sistema de nomes de domínio) que poderiam coibir malfeitores. A primeira dificuldade é tentar definir o que seria “ilegal” internacionalmente, ao menos no sentido comum.

Um exemplo citado: há uma lei da Tailândia que pune gravemente quem falar mal da família real de lá. Poderia essa restrição local ser expandida internacionalmente, mesmo que na forma de simples consenso? O grupo pendeu para um claro “não”. Penso que neste caso e em muitos outros equivalentes, quanto à legislação local, seria obrigação primeira do cidadão não quebrar as leis do país em que mora. Se um livro é proibido num país X (mas não em outros), os cidadãos deste país estarão transgredindo as leis locais ao comprarem o livro. O vendedor do livro está sob a legislação de outro país Y e sua oferta visa a um público indistinto. Estaria ele violando a legislação do país X?

Claro que há situações em que um serviço ou conteúdo na rede podem estar sujeitos à rejeição universal, por violarem princípios globalmente acordados. Mesmo nesse caso, seria prudente iniciar com a suspensão do nome de domínio? O serviço que o DNS presta resume-se a traduzir um nome para um número IP; não leva ao local, e muito menos hospeda os dados visados.

Usar como primeira providência a remoção do nome, além de poder afetar outros serviços e conteúdos perfeitamente legais, não eliminará nem o conteúdo danoso, nem o acesso a ele, dado que ele continuará acessível via endereço IP. Pior, ao impedir a resolução do nome, estaremos “avisando” nosso suspeito de que há algo em marcha contra ele. Logicamente, sua primeira providência será remover o conteúdo ilegal e se esconder, o que pode dificultar ou mesmo inviabilizar toda a investigação em andamento.

Na cadeia de ações de que se pode lançar mão para coibir abusos, parece claro que atacar o DNS será o último passo, nunca o primeiro. Agir imediatamente sobre o DNS sob o pretexto da urgência, pode levar a não se atingir o objetivo almejado e a prejudicar inocentes. Mesmo assim, na falta de soluções mais ágeis e coordenadas, muitos afobados tentarão ir pela via curta e simplória. Há outro adágio que diz: “a quem só tem martelo, todos os problemas parecerão pregos".