terça-feira, 25 de abril de 2023

Inteligência Artificial Geral

Inteligência Artificial continua provocando acaloradas discussões, tanto entre os que têm envolvimento mais profundamente com o tema, quanto entre os apenas atraidos pelo imenso ruido que há hoje sobre ele. Um artigo no Financial Times de há uma semana - “We must slow down the race to God-like AI” (deveríamos desacelerar a corrida em busca de uma “IA divina”) - traz uma descrição bastante preocupante sobre que aspectos da IA recebem hoje mais atenção. E são os gigantes da tecnologia que desenvolviem IA e impulsionam esses aspectos. O autor, ele mesmo envolvido em pesquisa de IA, alega que são sistematicamente ignorados os riscos que ela pode trazer, e segue-se na corrida de quem primeiro atingirá a IAG – Inteligência Artificial Geral – o ponto em que a IA adquire características ainda mais tipicamente humanas como criatividade e prospecção, eventualmente ultrapassando o homem também em sofisticadas atividades intelectuais. O autor, Ian Hogarth, chama a essa IAG de “God-like”, no sentido de “sobrehumana” ou “divina”, por ser capaz de, autonomamente, exibir criatividade, iniciativa e, mesmo, buscar poder para si.

Na linha de preocupações éticas, autênticas ou não, diversos figurões assinaram um documento pedindo uma trégua de 6 meses no desenvolvimento da IA até que se entendam melhor seus contornos. Há dúvidas se tais declarações tem, de fato, alguma possibilidade de amenizar a velocidade da expansão da IA, ou são apenas um posicionamento perfunctório, protetivo da própria imagem quanto à ética. Hogarth considera que os recursos aplicados em IA “para estudar seu alinhamento com valores humanos” são muito menores que os usados no desbragado desenvolvimento, sem ponderações além de se manter à frente dos competidores na busca da IAG. Há muitos casos reais de comportamento inesperado e inexplicável dos sistemas, visto que, agora eles não são mais “programados”, mas “criados”. Aliás não são poucos os exemplos na literatura de criações/criaturas que escapam do seu projeto inicial de desenvolvimento à la Frankenstein, da novela de Mary Shelley no remoto 1818.

IA certamente não é o primeiro caso de desenvolvimentos que podem trazer riscos. Lembremos, por exemplo, a tecnologia nuclear que, mesmo com tensões que periodocamente irrompem, tem-se mantido sob controle. E há a bio-engenharia, cujas consequências também podem ser imprevisíveis. Norbert Wiener, o criador do verbete “cibernética” e notável pesquisador do tema, em seu livro “Cibernética e Sociedade - o uso humano de seres humanos”, diz que “o sentido da tragédia é que o mundo não é um ninho acolhedor e protetivo, mas um vasto ambiente bastante hostil, no qual só se alcançam grandes coisas desafiando os deuses. Tal desafio inevitavelmente acarreta punição <...> Um mundo no qual a punição atinge não apenas quem peca com arrogância consciente, mas também aquele cujo único crime é ignorar os deuses e o mundo que o cerca.”

===
https://en.wikipedia.org/wiki/Artificial_general_intelligence
===

O artigo do FT, We must slow down the race to God-like AI
https://www.ft.com/content/03895dc4-a3b7-481e-95cc-336a524f2ac2
===

O livro de Norbert Wiener, "Cibernética e Sociedade - o uso humano de seres humanos"
https://sites.ufpe.br/moinhojuridico/wp-content/uploads/sites/49/2021/10/Ciber-2c-22-out-Cibernetica-e-Sociedade-Norbert-Wiener.pdf
===

Frankenstein, Mary Shelley
https://pt.wikipedia.org/wiki/Frankenstein




terça-feira, 11 de abril de 2023

Calúnia, uma sutil brisa

Se hoje a tecnologia avança em passos de sete léguas, o mesmo progresso não parece haver no componente humano. Pode ser que seja aturdimento pelo ambiente mutável, ou deslumbramento pelas possibilidades que se abrem, mas é difícil saber se o novo estado de coisas gera no espírito humano progresso, estagnação ou, até mesmo, involução.

Enquanto ouvia um baixo cantando a famosa ária da calúnia do Barbeiro de Sevilha, veio-me um lampejo: naquela ária, Dom Basílio, professor de canto de Rosina, filha do Dr. Bartolo, aconselha-o a usar da calúnia como forma de frear os avanços de um intrometido pretendente à filha. Permito-me traduzir toscamente trechos da ária em questão: “A calúnia é uma brisa gentil, que começa sutilmente e vai ganhando corpo. Com destreza entra pelas orelhas das pessoas e as faz desconfiar. Depois, com força redobrada, sai de suas bocas e vai ganhando energia até se tornar um trovão, uma tempestade. Como um tiro de canhão que ressoa pelos ares, a calúnia cria um tumulto geral. E a pobre vítima, caluniada, aviltada, espezinhada, ainda terá alguma sorte se morrer em tempo…”.

Não parece muito diferente em essência do que acontece hoje, especialmente com a chamada “cultura do cancelamento” nas redes sociais. Se Dr. Bartolo quisesse hoje denegrir o conceito do tal pretendente, teria muita facilidade para seguir os conselhos de Don Basílio: bastaria colocar algo bombástico na rede, e seus seguidores - admiradores ou não - fariam o serviço de amplificar e espalhar a notícia, num crescendo como no descrito na ária. Epa! Há aí um enorme erro de escala e de tempo: ao invés da calúnia se espalhar das bocas às orelhas, até atingir toda população local, com a rede hoje a coisa se espalha a partir dos influenciadores e seus seguidores, e em horas arregimenta milhões de prosélitos. Do ponto de vista da essência humana, pode não haver “nada de novo sob o sol” mas, com a amplificação e velocidade imprimidas pela tecnologia, o “tumulto geral” que Dom Basílio intentava chegará hoje numa ínfima fração de tempo.

E agora Dom Basílio ganhou um aliado: a IA com suas habilidades de gerar textos escorreitos e críveis, mesmo que factualmente inseguros. Ainda temos algum discernimento que permita distinguir o que pareça inverdade ou invencionice, mas conseguiremos sobrenadar, ou entregaremos os pontos? Até porque é cômodo assumir o resumo que o GPT nos entrega sobre algum tópico ou tema. Sem alarmismos nem euforia, há que se reconhecer que estamos nos metendo em “terra incógnita”. Conversando com um amigo sobre a qualidade das respostas da IA e seu efeito nos humanos, ele ponderou aguda e ironicamente: “ da leitura dos clássicos, passamos à leitura de adaptações, releituras, e até versões em quadrinhos. Agora temos a IA que escreve texto, resumindo o que seleciona. Fala-se no risco de a IA vir dar causa à extinção da humanidade. Parece que estamos trabalhando bastante para que essa perda seja mínima...”

===

===

https://www.youtube.com/watch?v=CtFmBK6C_Mw

https://www.opera-arias.com/rossini/il-barbiere-di-siviglia/la-calunnia-e-un-venticello/


La calunnia è un venticello, / Calumny is a little breeze,            
un'auretta assai gentile /  a gentle zephyr,
che insensibile, sottile, / which insensibly, subtly,
leggermente, dolcemente, / lightly and sweetly,
incomincia a sussurrar. / commences to whisper.
Piano piano, terra terra, / Softly softly, here and there,
sottovoce, sibilando, / sottovoce, sibilant,
va scorrendo, va ronzando; / it goes gliding, it goes rambling,
nelle orecchie della gente / into the ears of the people,
s'introduce destramente, / it penetrates slyly
e le teste ed i cervelli / and the head and the brains
fa stordire e fa gonfiar.  / it stuns and it swells.
Dalla bocca fuori uscendo / From the mouth re-emerging
lo schiamazzo va crescendo, / the noise grows crescendo,
prende forza / gathers force 
a poco a poco, / little by little,
vola già di loco in loco; / runs its course from place to place,
sembra il tuono, la tempesta / seems the thunder of the tempest
che nel sen della foresta / which from the depths of the forest
va fischiando, brontolando / comes whistling, muttering,
e ti fa d'orror gelar. / freezing everyone in horror.
Alla fin trabocca e scoppia, / Finally with crack and crash,
si propaga, si raddoppia / it spreads afield, its force redoubled,
e produce un'esplosione / and produces an explosion
come un colpo di cannone, / like the outburst of a cannon,
un tremuoto, un temporale, / an earthquake, a whirlwind,
un tumulto generale, / a general uproar,
che fa l'aria rimbombar. / which makes the air resound.
E il meschino calunniato, / And the poor slandered wretch,
avvilito, calpestato, / vilified, trampled down,
sotto il pubblico flagello / sunk beneath the public lash,
per gran sorte a crepar. / by good fortune, falls to death.
===

O Barbeiro de Sevilha – revistas.usp.br

https://www.revistas.usp.br/revistadatulha/article/download/148722/148170/317195

===

https://es.wikipedia.org/wiki/La_calunnia

Fiódor Ivánovich Chaliápin, como Don Basílio, 1912