terça-feira, 20 de agosto de 2019

Ética artificial?

A moda é falar de inteligência artificial, IA. O primeiro percalço já vem no nome da coisa: primeiro há que se definir o que seria “inteligência”. E, mesmo após chegando a uma eventual definição satisfatória, ver como “artificial” se aplica. Afinal, se algo pode comportar-se de forma “inteligente” mesmo que via um artifício, essa qualidade estaria agora inerentemente adquirida e deixaria de ser “artificial”.

Sob essa denominação agrupam-se diferentes técnicas de processamento de dados e tomada de decisões que hoje usamos. Há a “ciência de dados”, que se ocupa dos mecanismos de tratamento de quantidades vultosas de dados brutos em busca de correlações e informações inferidas, há o “aprendizado de máquina”, quando um programa escrito pretende aperfeiçoar seu funcionamento pelo que “observa” do mundo, e há o “aprendizado profundo”, quando o sistema evolui para comportamentos não previstos em sua programação inicial e que decorreram de sua experiência com sucessos e fracassos anteriores.


É comum um sistema ser “treinado” na execução de tarefas humanas, valendo-se de uma quantidade imensa de informação a ele fornecida. Adicionando coleções de imagens sobre determinada manifestação de uma doença, podemos fazer com que o sistema a detecte. Um artigo no New York Times da semana passada comenta que mão de obra humana é contratada até para “ouvir tosses”, de forma a ajudar o sistema a classificar qual tosse é
suspeita de algo mais grave. Teremos sistemas fornecendo diagnósticos médicos, elaborando decisões judiciais ou econômicas, tomando decisões.


O que me preocupa nisso é que máquinas e programas, objetos materiais que são, não podem ser responsabilizados por resultados anti-éticos ou amorais. Ética e comportamento humanísticos generoso são apanágio dos humanos. É humano desconsiderar eventuais características de outrem em prol de tratamento digno igualitário. É humano perdoar erros ou admitir falhas. Se fosse possível incluir na evolução da IA vieses humanos, nem sempre lógicos ou matemáticos, isso seria alvissareiro e positivo. 


Contemplar decisões com base em simples cômputo numérico, reforçado por resultados anteriores de sucesso e fracasso, é abrir mão da humanidade que ainda temos. Não se espera de um programa com IA que, por exemplo, na análise de concessão ou não de um empréstimo a um solicitante, exiba um comportamento “humano” como é o caso da intuição e da emoção. Pelo contrário, a regra que “aprendeu” da experiência anterior será inflexível: se há riscos financeiros no investimento, ele não será feito, mesmo nos casos em que, humanamente, a decisão pareceria cruel ou imoral. No confronto insensível dos números e resultados, a decisão tomada será a logicamente vantajosa, mesmo que moralmente abjeta. Lembro do filme de Kubrick e Clarke, 2001 Uma Odisséia no Espaço, quando Hal, o “inteligente” computador de bordo que controlava a viagem da nave, decide deixar o humano (Bowman) morrer fora da espaçonave, para não colocar em risco a meta principal da viagem.

Usar o potencial das máquinas como ajuda ao que queremos atingir é positivo, é o que vem pela frente e é bom que seja assim. Porém atribuir a elas decisões em ações que envolvam a própria essência do que se entende por “humano”, parece-me uma contradição em termos, e pode ser um caminho sem volta.


===
O artigo citado do N Y Times pode ser visto em:

https://www.nytimes.com/2019/08/16/technology/ai-humans.html

e sua tradução:

https://link.estadao.com.br/noticias/cultura-digital,conheca-a-rotina-nada-futurista-de-quem-treina-inteligencia-artificial,70002975428

Há um interessante artigo do Prof. Valdemar Setzer em:

https://www.ime.usp.br/~vwsetzer/IAtrad.html
===

terça-feira, 6 de agosto de 2019

Sobrou porque deu!

Anos 80 resolvi fazer uma reforma em casa: um puxadinho para servir de escritório. Seria um pequeno quarto, com alguma fundação, quatro pilares e uma laje de uns 20 metros quadrados. Dois joões trabalhavam: o João Branco, mirrado, fala mansa, bom com a colher de pedreiro, era quem esticava argamassa e cuidava do reboco e acabamentos; e o João Preto, espigado, com um sorriso meio maroto, responsável pelo concreto, pela estrutura e a armação dos ferros. Estava marcado para um sábado o dia de fundir a laje, já montado o madeirame, providenciados roldana, corda, baldes e o material para o concreto. Terminado o enchimento, fui comprar o que era usual para a ocasião, tanto para os brindes, como para os bons auspícios: algumas cervejas e uns sanduíches. A laje estava bonita, bem cheia, e o João Preto sapateava sobre ela para mostrar que tudo estava sólido. Num canto, um caixote de massa, ainda cheio.

– Ô João, e essa massa aí? Sobrou, né?

– Claro, seu Demi. Sobrou porque deu. Se não tivesse sobrado, teria faltado!

Eis aí uma verdade universal enunciada: não existe o zero. Se algo não sobra, é porque faltou! Listo casos que reforçam a lei. Queremos um CPD que funcione ininterruptamente? Entre outras coisas, temos que nos prevenir contra quedas de energia. Parece simples: basta colocar um banco de baterias e instalar um “no-break”. Mas... e o ar-condicionado? O “no-break” não conseguirá sustentar o ar condicionado funcionando. Fácil, adicionamos um gerador. O “no-break” precisa apenas aguentar os computadores por alguns minutos, até entrar o gerador, que suportará também o ar condicionado. Mas, e se a bendita queda da força acontecer exatamente quanto estávamos fazendo manutenção nas baterias ou “no-break”?

Para escapar desse risco precisaremos de dois conjuntos de reserva, para que ao menos um esteja sempre à disposição. O mesmo ocorre com o gerador: se houver um só e estiver em manutenção programada ou apresentar falha, estaremos a pé de novo. Um otimista diria que esse conjunto de ocorrências é improvável...

Improvável pode ser, mas impossível não é – basta lembrar do Titanic... Em resumo, para evitar falhas em equipamentos críticos deve haver redundância suficiente que inclua, por exemplo, indisponibilidades de módulos de reserva. Para posições críticas devemos fazer como no futebol: é melhor levar dois reservas para o goleiro...

Quando dimensionarmos recursos de banda e processamento na internet, é temerário levar em conta apenas o pico de uso previsto. Bastará um ataque de negação de serviço para atolar máquina e banda. Mesmo com medidas de atenuação, o remédio viria depois do estrago feito. Há que superprovisionar. O mesmo se passa com o DNS na resolução de nomes de domínios na rede: espalham-se diversos servidores DNS para resistir bem a ataques. O .br tem vários servidores, um deles alocado na Alemanha. Como contrapartida, o .de tem um servidor no Brasil. Cooperação para segurança segue sendo mote central da internet.

E a segurança nossa, pessoal, de cada dia? Claro que é importante usar senhas fortes, que não sejam vulneráveis a ataques “força bruta”, mas os realmente prevenidos usarão autenticação com dois fatores. Afinal, se não sobrar segurança, ela vai faltar!