Inteligência Artificial continua provocando acaloradas discussões, tanto entre os que têm envolvimento mais profundamente com o tema, quanto entre os apenas atraidos pelo imenso ruido que há hoje sobre ele. Um artigo no Financial Times de há uma semana - “We must slow down the race to God-like AI” (deveríamos desacelerar a corrida em busca de uma “IA divina”) - traz uma descrição bastante preocupante sobre que aspectos da IA recebem hoje mais atenção. E são os gigantes da tecnologia que desenvolviem IA e impulsionam esses aspectos. O autor, ele mesmo envolvido em pesquisa de IA, alega que são sistematicamente ignorados os riscos que ela pode trazer, e segue-se na corrida de quem primeiro atingirá a IAG – Inteligência Artificial Geral – o ponto em que a IA adquire características ainda mais tipicamente humanas como criatividade e prospecção, eventualmente ultrapassando o homem também em sofisticadas atividades intelectuais. O autor, Ian Hogarth, chama a essa IAG de “God-like”, no sentido de “sobrehumana” ou “divina”, por ser capaz de, autonomamente, exibir criatividade, iniciativa e, mesmo, buscar poder para si.
Na linha de preocupações éticas, autênticas ou não, diversos figurões assinaram um documento pedindo uma trégua de 6 meses no desenvolvimento da IA até que se entendam melhor seus contornos. Há dúvidas se tais declarações tem, de fato, alguma possibilidade de amenizar a velocidade da expansão da IA, ou são apenas um posicionamento perfunctório, protetivo da própria imagem quanto à ética. Hogarth considera que os recursos aplicados em IA “para estudar seu alinhamento com valores humanos” são muito menores que os usados no desbragado desenvolvimento, sem ponderações além de se manter à frente dos competidores na busca da IAG. Há muitos casos reais de comportamento inesperado e inexplicável dos sistemas, visto que, agora eles não são mais “programados”, mas “criados”. Aliás não são poucos os exemplos na literatura de criações/criaturas que escapam do seu projeto inicial de desenvolvimento à la Frankenstein, da novela de Mary Shelley no remoto 1818.IA certamente não é o primeiro caso de desenvolvimentos que podem trazer riscos. Lembremos, por exemplo, a tecnologia nuclear que, mesmo com tensões que periodocamente irrompem, tem-se mantido sob controle. E há a bio-engenharia, cujas consequências também podem ser imprevisíveis. Norbert Wiener, o criador do verbete “cibernética” e notável pesquisador do tema, em seu livro “Cibernética e Sociedade - o uso humano de seres humanos”, diz que “o sentido da tragédia é que o mundo não é um ninho acolhedor e protetivo, mas um vasto ambiente bastante hostil, no qual só se alcançam grandes coisas desafiando os deuses. Tal desafio inevitavelmente acarreta punição <...> Um mundo no qual a punição atinge não apenas quem peca com arrogância consciente, mas também aquele cujo único crime é ignorar os deuses e o mundo que o cerca.”