Don Carlo e a IA

Está em cartaz uma bela montagem da mais extensa ópera de Verdi, Don Carlo. Ambientada cerca de 1500 na Espanha, trata das desventuras do primeiro filho de Filipe II, Carlos, que morreu desgostoso aos 23 anos. Sumariamente a trama se desenvolve sobre o frustrado amor com sua prometida, Isabel de Valois, filha do rei de França, que acabou destinada a casar-se com Filipe II, forma de consolidar a paz entre os dois países. O que teria a ver Don Carlo com os tempos da IA? Bem, sempre podemos dar asas livres à imaginação, e tentar comparar com o que vemos hoje...

O primeiro grande contraste é a precedência de valores que havia à época, retratada uns séculos depois. A hierarquia era: honra > amor > vida, e isso é claramente declarado pela personagem Rodrigo, amigo figadal de Carlos. Ou seja, para preservar a hora, abre-se mão do amor, que segue mais importante que a própria vida. Rodrigo se sacrifica por seu amigo Carlos, e Carlos preserva a honra de Isabel e a própria, acima de seu amor.

Como isso nos remeteria à IA? Uma observação é que o conceito de "honra", como era sentido antes, talvez tenha migrado para outras áreas. Hoje fazemos coisas que nos são legalmente permitidas, mas aquilo que, eventualmente, não seria "honroso fazer" nem sempre vem à mente. Os agentes de IA, então, não possuem "honra", mas objetivos a serem alcançados. A noção de que "há coisas que simplesmente não faço" pertence à ética humana, e é estranha ao agente de IA. É subconsciente clássico de "honra", que ainda mora em nós. Um agente de IA, certamente, teria menos pruridos.

Pergunta-se: na hipótese de repassar as decisões das personagens a agentes de IA, as ações tomadas seriam as mesmas? Entre buscar retomar para si Isabel, ou preservar o casamento do pai, o que "IA Carlos" teria decidido? Entre dar sua vida para preservar a de Carlos, ou seguir bem na corte de Filipe II, o que "IA Rodrigo" teria valorizado?

Nosso julgamento de méritos e deméritos associados a decisões e ações da IA ainda segue bastante balizados pelos conceitos que herdamos. Ainda bem!. Lembrando de outro tema operístico, a madame Butterfly usa a mesma adaga com que seu pai deu cabo à vida, e na qual se lê "morra com honra quem com honra não consegue viver". De novo, na hierarquia de valores, honra se sobrepõe ao amor, e à própria vida.

Talvez a mudança mais profunda por que estamos passando seja uma revisão da ordem de valores e, até, do conceito associado. Hoje, "perder a honra" lê-se como ser "cancelado nas redes". Glória seria ter uma considerável ressonância: ser um "influenciador". É importante a discussão sobre a ética no uso do ferramental de IA porque, de alguma forma, há valores que podem estar sendo fragilizados modernamente. O risco de aumentar ainda mais nossa insensibilidade É ética humana antigos é passarmos a aceitar que a IA escolha baseada nas metas que recebe. Carlos podia, para atender a sua paixão, matar o pai e retomar a madrasta para si. As peças clássicas vão no sentido de exprobrar isso. Um embate entre valores humanos arraigados, e a tentação de apelar ao que passamos a chamar de "lei de Gerson", a busca de "levar vantagem em qualquer situação".

===

https://www.estadao.com.br/economia/demi-getschko/sera-que-as-tramas-da-peca-de-verdi-seriam-as-mesmas-se-fossem-criadas-por-agente-de-ia/

===

Don Carlo:

https://pt.wikipedia.org/wiki/Don_Carlos

https://web.facebook.com/watch/?v=1034884319599042

https://www.youtube.com/watch?v=6G0iCwTK2DQ

===

Madama Butterfly

https://web.facebook.com/watch/?v=1034884319599042

=== 

Casos de morte "por honra" em duelo
Évariste Galois

https://pt.wikipedia.org/wiki/%C3%89variste_Galois

Alexandre Pushkin

https://pt.wikipedia.org/wiki/Alexandre_Pushkin

===

A longa mão da IA

Ninguém discorda de que a IA abre um potencial imenso à nossa frente, mas isso reforça a necessidade premente de saber qualificar o seu uso: obter dela as vantagens latentes, sem que tenhamos que tratar de inesperados e delicados novos problemas.

Na semana que passou falou-se do terceiro teorema de Fermat. Fermat enunciou em 1637 algo sobre uma extensão ao teorema de Pitágoras - aquele dos triângulos retângulos onde "um quadrado pode ser a soma de dois quadrados": ele valeria apenas para o expoente 2; para maiores que 2 não há solução possível em números inteiros! E anexou uma misteriosa nota: "descobri uma demonstração maravilhosa, mas não cabe nesta margem". Passaram-se mais de 350 anos para que uma solução fosse encontrada. Andrew Wiles conseguiu isso em 1995, após trabalhar sete anos gerando uma prova em quase 130 páginas... E agora a Anthropic anuncia que sua IA conseguiu gerar a formulação computacional perfeita desta prova, em apenas 11 dias de trabalho e testada pelo sistema LEAN,

Mas há uma outra notícia, que pareceria ser o anti-climax da anterior. A prestigiosa revista CACM, Comunicações da Associação de Computação, denuncia um problema atual: enquanto a IA consegue gerar milhões de linhas de código rapidamente, o trabalho para verificar a correção e os riscos na implementação do "software" gerado por IA continua sendo cada vez mais exigente de trabalho humano...

Como equilibrar essa duas mensagens? São opostas, ou é um falso dilema? A IA é muito boa em lógica, como mostra a primeira mensagem. Por que não seria igualmente eficiente na geração de código complexo? Talvez a explicação resida no contexto humano. Sem dúvida a IA pode contribuir imensamente na solução de problemas lógicos, e para a descoberta novas drogas, proteinas, etc, mas pode falhar espetacularmente quando se trata de "situações humanas", cuja definição inclui subjetividadas não formalmente expressas. Entre os programadores é familiar o dito: "esse programa está certo, mas não atende ao que foi pedido pelo usuário". Ou seja, sem a formalização logica completa da demanda, há nuances humanas que a IA não perceberá. Voltando ao HAL9000 de 2001, Uma Odisséia no Espaço, a máquina estava cumprindo logicamente seu objetivo. Os terríveis meios de que se valeu não estavam formalmente expressos.

Sob esse prisma, são pontos complementares, e a IA segue o caminho tradicional da mecanização, poupando o trabalho físico e mental ao homem. Talvez "matemática", como puro campo da lógica, já seja absorvível pela IA que temos. Há amplo espectro em que equipamentos são mais eficientes que humanos, desde cálculos a cirurgias. Ao lidarmos, porém, com problemas em que seu contexto não é exprimível em pura lógca, é temerário aceitar sem análise humana o que a IA propos ou decidiu.

Quanto mais completamente uma questão puder ser estritamente formalizada, maior tende a ser a vantagem de usar IA para respondê-la. Quanto mais ela depender de conhecimento implícito, contexto e julgamento, mais arriscado será seu uso na resolução. O que Aristóteles chamou de "frônesis", prudência, segue apanágio exclusivamente humano... Sigamos Millôr: "Computa, computador, computa!

===

O textos citados:

https://decrypt.co/377491/ai-solved-350-year-old-math-problem

https://cacm.acm.org/news/code-smells-and-verification-gaps/

===

E um de hoje, sobre a solução da equação de Navier-Stokes

https://www.science.org/content/article/how-ai-math-breakthrough-ignited-controversy

===

A "frônesis aristotélica:

https://pt.wikipedia.org/wiki/Fr%C3%B4nese

https://leticiadornelles.substack.com/p/phronesis-a-sabedoria-pratica-que

===

Millor:

"Um idiota nunca aproveita a oportunidade. Na verdade muitas vezes o idiota é oportunidade que os outros aproveitam".
- Computa, computador, computa‎ - Página 51, Millôr Fernandes - Editorial Nórdica, 1972 - 95 páginas

===

https://www.scribd.com/document/958291256/art-TEXTO-Millor-Fernandes-Computa-Computador-Computa

"EXEGESE FINAL" — por Telmo Martino (1974)

"Millôr Fernandes e Fernanda Montenegro enfrentando Godot e saindo por cima.

Pedido? Piada? Um show? Uma tragédia grega? Algo sem sexo ou sentido? Apenas uma piada? Escute: você já tentou fazer uma piada? Um drama grandiloquente e shakespeariano ao mesmo tempo, um tempo relaxado e heróico? Uma comédia de costumes? Maus costumes? Uma ópera? Commedia dell'arte? Uma ópera? Uma piada? Uma piada na crítica? Uma piada mas não paga, ou paga e não brinca? Uma Zarzuela? Uma chanchada? Revista? Vaudeville? Grotesco? Uma peça? Um ônibus? Uma digressão moral, mas sem fé ou misericórdia? Você entendeu tudo ou não entendeu nada?"

==

Telmo Martino, que na época era o colunista cultural e social mais lido e temido da imprensa paulistana no Jornal da Tarde, escreveu uma exegese ácida e memorável sobre a produção.
Em seu texto, Telmo definiu a experiência de ver Millôr Fernandes e a atriz Fernanda Montenegro desafiando as convenções e "saindo por cima de Godot". O jornalista usou seu característico tom sarcástico e brilhante para questionar e brincar com a própria natureza do espetáculo, definindo-o em uma série de indagações satíricas: [1]