Num artigo recente o especialista em segurança, Bruce Schneier, comenta sobre o que seria uma IA confiável. A maioria dos aplicativos de IA são desenvolvidos em poderosas empresas na área de tecnologia da informação. Provocativamente, Schneier perguntou à IA se a empresa XX que a desenvolvera atuava como “monopolista em seu setor”… A resposta da IA em questão foi “não tenho conhecimento de que XX seja monopolista…”. Entretanto, perguntada sobre outras gigantes do segmento, a IA em questão não duvidou em cravar o epíteto. Isso levanta o questionamento sobre um eventual viés incluido nos sistemas visando a atender objetivos de seu construtor.
Não é difícil notar viéses nos sistemas da IA, muitos deles travestidos das melhores intenções. Por exemplo, não aceitam tecer loas a figuras controvertidas, nem fazem comparações ou comentários que poderiam ser interpretados como tendenciosos. O problema é que esse posicionamento “politicamente correto” das IA pode, na verdade, estar deturpando dados e realidades. Afinal não é de hoje que “o caminho do inferno é pavimentado por boas intenções”.Por outro lado, é claro que esses sistemas estarão cada vez mais imbricados em nosso dia-a-dia e, de fato, consegue-se deles muita resposta interessante. Exemplo: em razão de conversa sobre os tres níveis de gratidão em S. Tomás de Aquino, perguntei ao ChatGPT sobre isso e consegui dele uma belíssima resposta sumarizando o tema, certamente melhor do que a que eu poderia instantanemante gerar Não é uma capacidade ou auxílio que se possa desprezar!
E é sobre esse ponto que o artigo de Schneier alerta: o poder em nos dar uma resposta rápida sobre e em linguagem clara e correta, fará com que adotemos essas ferramentas como nosso assistente diário. Para que a ferramenta possa nos ajudar, ela precisa nos conhecer mais do que acontece com outros aplicativos na rede, e a IA já mantem o histórico de nossas conversas e de nossos interesses. Resta ver se confiamos em sua veracidade, enquanto eventuais viéses, introduzidos para a consecução dos objetivos de quem a construiu, podem passar despercebidos ao usuário, entusiasmado pela rapidez e qualidade das respostas menos críticas. A União Européia discute legislação sobre IA que exija transparência sobre como é feito o treinamento de determinado sistema, formas de mitigar potencial viés e divulgação de riscos já identificados.
Finalmente, um repto: estaremos vivendo mudanças no conceito de “verdade”? O verbete “pós-verdade” já circula há décadas mas o que nos traz a IA pode ser a construção de uma história e universo próprios, onde a nova “verdade” que não se baseia mais no que existe apenas no universo antigo que conhecíamos. Em grego, “verdade” é “alétheia” (que contem “Lethe”, nome do rio do esquecimento no Hades) poderia ser traduzida como “o não esquecer”, “o desvelar”. O que nos esperaria ao dobrarmos essa esquina?
===
O artigo de Bruce Schneier:
===
A resposta do ChatGPT sobre os níveis de gratidão em São Tomás de Aquino:
Gratidão inicial (gratia facti): Esse é o nível mais básico de gratidão. Envolve reconhecer e apreciar a ação benevolente de outra pessoa em nosso benefício. É a gratidão que sentimos quando alguém nos faz um favor ou nos ajuda de alguma forma.
Gratidão intermediária (gratia debiti): Esse nível vai além do simples reconhecimento do favor recebido. Ele implica um senso de obrigação moral de retribuir ou retribuir o favor. Nesse nível, a gratidão se manifesta através da vontade de expressar agradecimento e agir de maneira justa em resposta ao favor recebido.
Gratidão completa (gratia agendae): Esse é o mais alto nível de gratidão, segundo Aquino. Envolve não apenas o reconhecimento e a retribuição do favor, mas também o desejo sincero de fazer o bem ao benfeitor. Esse nível de gratidão transcende a obrigação moral e expressa uma profunda apreciação e desejo de retribuir, não apenas por obrigação, mas por genuíno afeto e gratidão.
Esses três níveis de gratidão de Tomás de Aquino refletem sua visão sobre a ética e a virtude, destacando a importância de reconhecer e retribuir os favores recebidos de maneira justa e generosa. Através dessa análise, Aquino explora as complexidades das interações humanas, enfatizando a importância da reciprocidade e da apreciação nas relações sociais."
===
Alétheia:https://pt.wikipedia.org/wiki/Aleteia_(filosofia)
"Alétheia , lit. verdade, no sentido de desvelamento: de a-, negação; e lethe, "esquecimento"), para os antigos gregos, designava a verdade e a realidade, simultaneamente.
Lethe:
https://pt.wikipedia.org/wiki/Lete
https://mythologysource.com/lethe-spirit-forgetfulness/
Nenhum comentário:
Postar um comentário