O Bebê da IA

Na semana que passou duas notícias, por inusitadas, chamaram a atenção para aplicações da Inteligência Artificial e suas conseqüências.

A primeira é sobre jogos. Há tempo lemos sobre um programa que joga Go, jogo de tabuleiro complexo e bastante popular no Oriente. O programa, AlphaGo, aprendeu os movimentos e foi alimentado com a base conhecida de todas as partidas disputadas até hoje. Aproveitou-se a experiência dos humanos, adicionada à enorme capacidade de memorização e de processamento de que se dispõe hoje. AlphaGo ganhou quase todas as partidas contra os mestres. Das poucas que perdeu, parece que a derrota deveu-se ao fato do jogador humano ter feito lances inusitados e controversos, que confundiram o AlphaGo e sua base de dados.  A estratégia de se valer do que nós, humanos, fizemos até aqui, tem sido usada   com sucesso em jogos, diagnósticos, traduções, apoio jurídico etc. E nada há de muito surpreendente aí. Ocorre que uma nova versão do AlphaGo, a AlphaGo Zero, foi colocada em testes recentemente. A nova versão usa outro tipo de abordagem: apenas ensinam-se as regras do jogo - como movimentar as peças - e colocam-se duas instâncias do programa a jogarem interminavelmente entre si. Esta opção já havia sido tentada, com resultados medíocres, nos anos 70 e 80, mas hoje, com capacidade de processamento disponível milhões de vezes maior, as coisas mudam: em pouco tempo de treinamento o programa testará uma quantidade impensável de alternativas. Ganhando e perdendo desenvolverá uma estratégia própria de jogo. Eu nada sei de Go mas, ao que se comentou, mestres humanos, vendo o jogo que o AlphaGo Zero faz, só conseguem classificá-lo como "alienígena". Ou seja, o programa desenvolveu uma forma de jogar que em nada lembra a dos terráqueos. Aprendeu da "tentativa e erro" levada ao extremo e chegou àquilo parece uma "outra realidade, inexplorada". Aparentemente desdizendo Millôr: "é errando que se aprende... a errar!". Tentador e, ao mesmo tempo, assustador.

O segundo caso é mais prosaico, porém preocupante. Releciona-se a um problema de tradução automática, que levou um homem à prisão temporária. Pelo que se soube, em Israel uma conhecida rede social trazia a foto de um trabalhador palestino ao lado do seu trator, com uma legenda que, na linguagem local, significaria "bom dia". O programa de tradução automática da rede social fez do "bom dia" algo como "quero machucar". Numa região conturbada como aquela, iniciou-se busca que terminou com a detenção do "suspeito". Desfeita a confusão, ele foi solto. Quem seria o real causador do problema? Se um programa que aprende, sozinho ou com a experiência humana, comete um erro grave, até fatal, contra um ser humano, quem é o responsável por isso? O usuário? O desenvolvedor? E, no caso de tentar uma auditoria, como descobrir que caminho levou o programa à conclusão que tomou? Haveria "conserto"?

De volta ao mundo simples, ontem foi a abertura da sexagésima reunião da ICANN (Internet Coorporation for Assigned Names and Numbers), desta vez em Abu Dhabi, Emirados Árabes. Teremos discussões importantes, entre elas a relacionada ao domínio .Amazon, hoje reservado a pedido das comunidades da região, mas fortemente desejado pela empresa homônima. Para que lado a balança penderá, e a que argumentos ela cederá, saberemos em breve.

===
Veja a evolução do AlphaGo Zero:(de: https://www.kdnuggets.com/2017/10/alphago-zero-biggest-ai-advance.html ):

Mentiras Eternas

À Internet e suas costas largas é imputada hoje a resposabilidade pela enxurrada de informações de duvidosa veracidade que nos atingem. É fato incontestável que ela possibilitou a adição de milhões de novas vozes à cacofonia universal, mas “espantar-se” com o resultado é falso pudor ou, pior, um apoio enviesado a algum tipo de silenciamento.

A justa ânsia e a pressa em querer conformar o mundo em algo mais elevado e puro ameaçam o risco de perdas maiores que os ganhos eventuais. Dar voz a todos é um valor incomparável ao incômodo (e, mesmo, ao real risco) que falsas informações trazem. Impedir a livre expressão sob o pretexto de proteger-nos pode equivaler ao surrado “jogar fora a criança com a água do banho”. J.P. Barlow escreveu em 1996, no seu libelo sobre a independência do espaço da rede: “estamos criando um mundo onde qualquer um poderá expressar suas opiniões, por mais singulares que sejam, sem o medo de ser coagido ao silêncio ou à conformidade”.

A mentira e a calúnia convivem com a humanidade desde que ela existe. Nada há de novo sob o sol! Dois exemplos clássicos na literatura aplicam-se: o arquivilão Iago, em Otelo, de Shakespeare e Dom Basílio, no Barbeiro de Sevilha, de Beaumarchais.

Da boca de Iago ouvimos que “a reputação de uma pessoa nada mais é que um bem falso e vão, que se ganha sem mérito, e se perde sem motivo”. Emília, sua mulher, o define: “Ele é invejoso. Não porque inveje algo. É, apenas, por ser”. No “credo” da ópera, Iago proclama: “Sou um celerado, porque sou um homem. E em mim sinto a lama originária”. Disseminando mentiras mas de forma a torná-las críveis, adicionando “provas” e “indícios” que não resistiriam a um escrutínio banal, Iago consegue destruir reputações e levar à morte, tanto a inocente Desdêmona, quanto o ingênuo e ciumento Otelo.

Já Dom Basílio cinicamente recomenda a calúnia como forma de desqualificar um pretendente indesejado: “Caluniem, caluniem, algo sempre sobrará”.

Deveríamos resignar-nos a acreditar no que se lê na rede? Não! Ao contrário, a constante reverificação é fundamental. Voltaire aconselhou “quando ouvimos novidades, devemos esperar pelo ´sacramento da confirmação´”. Hoje a mesma tecnologia que nos inunda de informações duvidosas, permite-nos consultar uma infinidade de fontes variadas, em busca de indícios melhor sobre a qualidade do que recebemos. A tecnologia pode aliviar os danos que ela indiretamente causa. Redes sociais, por exemplo, apregoam aplicativos e ferramentas, recursos que ajudariam nosso senso crítico, agindo como poderosos detectores do certo e do errado.

Mas mesmo sabendo dos portentosos avanços da inteligência artificial e dos algoritmos de avaliação da qualidade da informação, eu fico com um “pé atrás” nesse assunto. Provocativamente, faço uma analogia com o que está no Gênesis: se Eva foi ou não enganada pelo Malicioso é menos importante do que a isca usada: “morda esse fruto e passará a conhecer e a distinguir o bem do mal”. Será que “mordendo” os aplicativos e as ferramentas que nos oferecem, atingiríamos o que o Tentador prometeu? Passaríamos a separar claramente o bem do mal?

Alerta! Ainda prefiro a falibilidade humana à mecânica onisciência do infalível algoritmo.

=== 
Existe "qualitômetro" para informações? 😊

Coturnos e sandálias

A ISOC, Internet Society, está comemorando 25 anos de existência. Um dos locais da festa foi em Los Angeles no campus da UCLA e incluiu uma visita à sala (3420, “Boelter Hall) do Prof. Leonard Kleinrock, pioneiro no projeto da rede Arpanet, da DARPA (Defense Advanced Research Projects Agency), uma agência de pesquisa do Departamento de Defesa dos Estados Unidos. 

Logo na entrada, uma placa identifica a saleta como “o local de nascimento da Internet”. Dentro, outra placa, do IEEE (Instituto de Engenheiros Eletricistas e Eletrônicos) comemorando o sucesso da Arpanet, mostra data e hora do “parto”: 22:30 de 29 de outubro de 1969. A Internet é filha da Arpanet, mas com diferenças: outro conjunto de protocolos a compõe, o TCP/IP que foi considerado “oficial” na DARPA em março de 1982. Em janeiro de 1983, toda a rede migrou para o TCP/IP e passou a ser conhecida como Internet devido ao IP (Internet Protocol). Assim, quem preferir vê-la como uma rede mais “jovem” pode adotar 1983 e dizer que a Internet tem 34 anos.

Internet é uma rede baseada na tecnologia de “chaveamento de pacotes de dados”, tema da tese de doutoramento de Kleinrock. Além dele, outros, como Paul Baran e Donald Davis, estudaram a tecnologia, mas foi o time de Kleinrock que logrou usá-la de fato na comunicação entre computadores. Na pequena 3420, além de pedaços do Sigma 7, computador da UCLA nessa conexão, está o primeiro IMP, o “interface message processor” fabricado pela BBN, uma empresa contratada. É uma caixa do tamanho de uma geladeira e que fazia a conexão de um computador à rede. O IMP liberou o computador de “entender” a rede e, com isso, diferentes fabricantes puderam participar. Os roteadores de hoje são os descendentes do IMP. 

Seria, então, a Internet uma rede com objetivo militar? Bem, o dinheiro que financiou o projeto foi do Departamento de Defesa, mas há outros aspectos a considerar: muitos dos projetos da própria DARPA como, por exemplo, o GPS do nosso dia-a-dia, geraram produtos de amplo uso. O desenvolvimento da Arpanet esteve a cargo de pesquisadores jovens, de primeira água, e o ambiente da costa oeste norte-americana nos 70 era marcado por movimentos de abertura, libertários. 

Se 1969 é ano de nascimento da Arpanet, é também o ano de Woodstock. Um dos ícones e pioneiro da rede, Jon Postel, falecido em 1998, além dos longos cabelos, perambulava com sandálias e mochila. Assim há que se separar o fato de o recurso ser militar, dos conceitos que nortearam o projeto. 

Uma rede formada pela colaboração voluntária de milhões de redes autônomas, sem um centro de controle, distribuída, aberta e neutra, certamente refletia as tendências da época. E, por conta da competência e genialidade dos que escreveram seus protocolos, Vint Cerf, Robert Kahn, Steve Crocker e muitos outros, mantém-se íntegra, cada vez mais potente e rápida e com um elenco imenso e dinâmico de serviços (basta ver a impressionante Web, introduzida no início dos anos 90). 

Kleinrock relembra: “o Licklider, chefe do projeto na DARPA, chegou com um monte de dinheiro e me disse: tome e faça algo útil com isso”. E eles fizeram!

===
Leonard Kleinrock mostrando o IMP - sala 3420, Boelter Hall, UCLA - 19 de setembro de 2017