Livre Pensar

Importamos debates de todo o mundo, como se já não tivéssemos temas em profusão por aqui mesmo. Assim é que soma-se às já complexas discussões sobre a extensão e a forma adequadas para uma legislação sobre plataformas e redes sociais, o tema sobre a remuneração cruzada de setores econômicos, normalmente identificado com o rótulo de “fair share”.

Estando eu muitíssimo longe de entender os complexos meandros da economia, meu primeiro espanto é com o que me parece ser uma “inovação”. Não conheço exemplos em que integrantes de uma área de atividade repassem recursos, por lei, diretamente a outra área de atividade. A mim não convence o argumento de que o crecimento vigoroso de um determinado setor exige esforços não previstos ou provisionados em outro setor e, portanto, seria necessário um financiamento cruzado… Afinal cada ramo de atividade econômica, inclusive, dispende esforços para em se destacar da concorrência, e assim ganhar mais usuários e porte. Se não fosse assim, não haveria mais sentido em se manter naquela área, e mais prudente seria buscar outra atividade. Obviamente cabe ao governo cobrar adequadamente os impostos correspondentes aos resultados das empresas de cada área e, examinando o cenário nacional, destiná-los a estímulo de setores e atividades que demandem suporte ou expansão do ponto de vista político. A proposta de financiamento cruzado entre áreas de atividade, a meu ver, faz tão pouco sentido como se os fabricantes de eletrodomésticos passassem parte de sua receita aos fabricantes de materiais plásticos, sob o argumento de que “mais plástico foi necessário em função de seu uso na fabricação dos eletro-domésticos”. Afinal coisas como impostos e a própria conta de luz, existem para buscar essa equilíbrio.

Outro tema candente, o de como tratar “intermediários” na rede, teve um aporte importante com a decisão da corte norte-americana em manter o espírito da seção 230 do “decency act” de 1996. Claro que muita coisa mudou desde 1996, especialmente com a enorme expansão do chamado “ecossistema digital”, porém essas mudanças devem se refletir em legislação específica e bem definida. Não há como abarcar as mudanças que a rede e a informática trouxeram ao mundo de uma maneira generalista. Cada categoria, cada conjunto de ações de um mesmo tipo, deve ser foco de debate próprio, com suas especificidades e peculiaridade eventualmente tratadase m legislação. A nova realidade do mundo em rede deu poder de manifestação e ação a todos, o que reforça que cada um deve ser responsável pelos seus atos. E os que forem apenas canais agnósticos no processo - e pode haver esse papel - deveriam continuar não-responsáveis. Claro, desde que atuem apenas como canais, e se confinem no papel de intermediários canônicos. Conforme um amigo resumiu numa conversa, o drama é: o que costumávamos chamar de “senso comum” tornou-se raridade – é tudo menos “comum”... De uma poesia do Millôr Fernandes: ... / pois se penso demais / acabo despensando tudo que pensava antes, / e se não penso / fico pensando nisso o tempo todo. 

===

Entrevista de Millor com a poesia da qual um trecho foi citado:

http://www.tirodeletra.com.br/entrevistas/MillorFernandes.htm

livre pensar é só pensar:

,

O arquivo da rede

Praticamente todo conhecimento humano hoje tem alguma cópia digital na Internet. Informação está disponível a todos que tem acesso à rede, em escala nunca imaginada. Certamente as consequências disso, desde as obviamente positivas às que podem moldar o comportamento humano de maneira não desejável, ainda precisam ser avaliadas, mas isso em nada diminui o imenso valor que essa disponibilidade e acessibilidade traz a todos nós. No início da popularização da rede, houve um movimento de se depositarem as informações conhecidas na Internet, seja de forma estruturada – lembro do entusiasmo que tivemos, lá por volta de 1995, com a notícia de que a biblioteca do Vaticano estaria disponível na rede – seja pelo aporte das incontáveis iniciativas individuais, especialmente após o surgimento da web. Quando ao acesso, ainda em 1996 surgiria o Altavista, um dos primeiros buscadores poderosos que facilitariam imensamente o trabalho de “garimpagem”.

A preocupação em preservar o que se estava criando tem um marco em 2002, com a popularização de ferramentas como Wayback Machine, que visavam à manutenção de um arquivo histórico dos sítios encontrados. Há uma palestra que Vint Cerf deu em 2005, no Egito, onde faz um paralelo entre a importância que a biblioteca de Alexandria representou para a cultura mundial e como essa função estava migrando para a forma digital. Um dos alertas que Vint sempre faz é que o meio digital necessita de dispositivos e recursos que, se não preservados, podem tormar o conteúdo digital muito difícil de ser preservado. Certamente quem gravou seus dados importantes em disquete magnético sabe dos riscos, não apenas da preservação do meio material, como de perder formas de acesso e leitura. Em comparação, os velhos manuscritos em pergaminho https://www.thearchaeologist.org/blog/who-destroyed-the-library-of-alexandriaduram milhares de anos graças à qualidade do material e, por usarem línguagem que se consegue decodificar, seu conteúdo permanece. A preservação de dados digitais depende de fatores que muitas vezes são descurados, dada a aparente facilidade momentânea em gerar cópias a custo muito baixo. Com certeza daqui a mil anos, pergaminhos antigos, se bem conservados, continuarão sendo legíveis. Quanto aos nossos arquivos pessoais digitais, há dúvidas importantes.

A lembrança da biblioteca de Alexandria e de sua última destruição lá pelo ano de 650, traz ao debate outro ponto bastante atual: deve-se preservar toda a informação que há num dado momento, ou se deve proceder à “destruição” do que julguemos “nocivo”. Em uma nota a um discurso sobre ciência e artes, Rousseau cita que “… dizem que o Califa Omar, quando perguntado sobre o que fazer com a biblioteca da Alexandria, teria respondido: ‘se os livros contidos na biblioteca contêm temas opostos ao Corão, eles são ruins e devem ser queimados. Se esses livros contêm apenas doutrinas alinhadas ao Corão, são supérfluos e devem ser queimados do mesmo jeito’”. Não repitamos com a Internet o que ocorreu com os documentos da biblioteca de Alexandria.

===

Vint Cerf, 2005

https://www.bibalex.org/Attachments/Publications/Files/Cerf.pdf

===

A biblioteca de Alexandria
https://www.thearchaeologist.org/blog/who-destroyed-the-library-of-alexandria

https://en.wikipedia.org/wiki/Library_of_Alexandria

In 642 AD, Alexandria was captured by the Muslim army of Amr ibn al-As. Several later Arabic sources describe the library's destruction by the order of Caliph Omar.[98][99] Bar-Hebraeus, writing in the thirteenth century, quotes Omar as saying to Yaḥyā al-Naḥwī: "If those books are in agreement with the Quran, we have no need of them; and if these are opposed to the Quran, destroy them."

https://www.stmarys-ca.edu/sites/default/files/2023-03/arts.pdf

“They say that Caliph Omar, when consulted about what had to be done with the library of Alexandria, answered as follows: 'If the books of this library contain matters opposed to the Koran, they are bad and must be burned. If they contain only the doctrine of the Koran, burn them anyway, for they are superfluous.'

― Jean-Jacques Rousseau, Discourse on the Sciences and Arts and Polemics

===

Inteligência Artificial Geral

Inteligência Artificial continua provocando acaloradas discussões, tanto entre os que têm envolvimento mais profundamente com o tema, quanto entre os apenas atraidos pelo imenso ruido que há hoje sobre ele. Um artigo no Financial Times de há uma semana - “We must slow down the race to God-like AI” (deveríamos desacelerar a corrida em busca de uma “IA divina”) - traz uma descrição bastante preocupante sobre que aspectos da IA recebem hoje mais atenção. E são os gigantes da tecnologia que desenvolviem IA e impulsionam esses aspectos. O autor, ele mesmo envolvido em pesquisa de IA, alega que são sistematicamente ignorados os riscos que ela pode trazer, e segue-se na corrida de quem primeiro atingirá a IAG – Inteligência Artificial Geral – o ponto em que a IA adquire características ainda mais tipicamente humanas como criatividade e prospecção, eventualmente ultrapassando o homem também em sofisticadas atividades intelectuais. O autor, Ian Hogarth, chama a essa IAG de “God-like”, no sentido de “sobrehumana” ou “divina”, por ser capaz de, autonomamente, exibir criatividade, iniciativa e, mesmo, buscar poder para si.

Na linha de preocupações éticas, autênticas ou não, diversos figurões assinaram um documento pedindo uma trégua de 6 meses no desenvolvimento da IA até que se entendam melhor seus contornos. Há dúvidas se tais declarações tem, de fato, alguma possibilidade de amenizar a velocidade da expansão da IA, ou são apenas um posicionamento perfunctório, protetivo da própria imagem quanto à ética. Hogarth considera que os recursos aplicados em IA “para estudar seu alinhamento com valores humanos” são muito menores que os usados no desbragado desenvolvimento, sem ponderações além de se manter à frente dos competidores na busca da IAG. Há muitos casos reais de comportamento inesperado e inexplicável dos sistemas, visto que, agora eles não são mais “programados”, mas “criados”. Aliás não são poucos os exemplos na literatura de criações/criaturas que escapam do seu projeto inicial de desenvolvimento à la Frankenstein, da novela de Mary Shelley no remoto 1818.

IA certamente não é o primeiro caso de desenvolvimentos que podem trazer riscos. Lembremos, por exemplo, a tecnologia nuclear que, mesmo com tensões que periodocamente irrompem, tem-se mantido sob controle. E há a bio-engenharia, cujas consequências também podem ser imprevisíveis. Norbert Wiener, o criador do verbete “cibernética” e notável pesquisador do tema, em seu livro “Cibernética e Sociedade - o uso humano de seres humanos”, diz que “o sentido da tragédia é que o mundo não é um ninho acolhedor e protetivo, mas um vasto ambiente bastante hostil, no qual só se alcançam grandes coisas desafiando os deuses. Tal desafio inevitavelmente acarreta punição <...> Um mundo no qual a punição atinge não apenas quem peca com arrogância consciente, mas também aquele cujo único crime é ignorar os deuses e o mundo que o cerca.”

===

https://en.wikipedia.org/wiki/Artificial_general_intelligence

===

O artigo do FT, We must slow down the race to God-like AI

https://www.ft.com/content/03895dc4-a3b7-481e-95cc-336a524f2ac2

===

O livro de Norbert Wiener, "Cibernética e Sociedade - o uso humano de seres humanos"

https://sites.ufpe.br/moinhojuridico/wp-content/uploads/sites/49/2021/10/Ciber-2c-22-out-Cibernetica-e-Sociedade-Norbert-Wiener.pdf

===

Frankenstein, Mary Shelley

https://pt.wikipedia.org/wiki/Frankenstein

Calúnia, uma sutil brisa

Se hoje a tecnologia avança em passos de sete léguas, o mesmo progresso não parece haver no componente humano. Pode ser que seja aturdimento pelo ambiente mutável, ou deslumbramento pelas possibilidades que se abrem, mas é difícil saber se o novo estado de coisas gera no espírito humano progresso, estagnação ou, até mesmo, involução.

Enquanto ouvia um baixo cantando a famosa ária da calúnia do Barbeiro de Sevilha, veio-me um lampejo: naquela ária, Dom Basílio, professor de canto de Rosina, filha do Dr. Bartolo, aconselha-o a usar da calúnia como forma de frear os avanços de um intrometido pretendente à filha. Permito-me traduzir toscamente trechos da ária em questão: “A calúnia é uma brisa gentil, que começa sutilmente e vai ganhando corpo. Com destreza entra pelas orelhas das pessoas e as faz desconfiar. Depois, com força redobrada, sai de suas bocas e vai ganhando energia até se tornar um trovão, uma tempestade. Como um tiro de canhão que ressoa pelos ares, a calúnia cria um tumulto geral. E a pobre vítima, caluniada, aviltada, espezinhada, ainda terá alguma sorte se morrer em tempo…”.

Não parece muito diferente em essência do que acontece hoje, especialmente com a chamada “cultura do cancelamento” nas redes sociais. Se Dr. Bartolo quisesse hoje denegrir o conceito do tal pretendente, teria muita facilidade para seguir os conselhos de Don Basílio: bastaria colocar algo bombástico na rede, e seus seguidores - admiradores ou não - fariam o serviço de amplificar e espalhar a notícia, num crescendo como no descrito na ária. Epa! Há aí um enorme erro de escala e de tempo: ao invés da calúnia se espalhar das bocas às orelhas, até atingir toda população local, com a rede hoje a coisa se espalha a partir dos influenciadores e seus seguidores, e em horas arregimenta milhões de prosélitos. Do ponto de vista da essência humana, pode não haver “nada de novo sob o sol” mas, com a amplificação e velocidade imprimidas pela tecnologia, o “tumulto geral” que Dom Basílio intentava chegará hoje numa ínfima fração de tempo.

E agora Dom Basílio ganhou um aliado: a IA com suas habilidades de gerar textos escorreitos e críveis, mesmo que factualmente inseguros. Ainda temos algum discernimento que permita distinguir o que pareça inverdade ou invencionice, mas conseguiremos sobrenadar, ou entregaremos os pontos? Até porque é cômodo assumir o resumo que o GPT nos entrega sobre algum tópico ou tema. Sem alarmismos nem euforia, há que se reconhecer que estamos nos metendo em “terra incógnita”. Conversando com um amigo sobre a qualidade das respostas da IA e seu efeito nos humanos, ele ponderou aguda e ironicamente: “ da leitura dos clássicos, passamos à leitura de adaptações, releituras, e até versões em quadrinhos. Agora temos a IA que escreve texto, resumindo o que seleciona. Fala-se no risco de a IA vir dar causa à extinção da humanidade. Parece que estamos trabalhando bastante para que essa perda seja mínima...”

===

===

https://www.youtube.com/watch?v=CtFmBK6C_Mw

https://www.opera-arias.com/rossini/il-barbiere-di-siviglia/la-calunnia-e-un-venticello/

La calunnia è un venticello, / Calumny is a little breeze,            

un'auretta assai gentile /  a gentle zephyr,
che insensibile, sottile, / which insensibly, subtly,
leggermente, dolcemente, / lightly and sweetly,
incomincia a sussurrar. / commences to whisper.
Piano piano, terra terra, / Softly softly, here and there,
sottovoce, sibilando, / sottovoce, sibilant,
va scorrendo, va ronzando; / it goes gliding, it goes rambling,
nelle orecchie della gente / into the ears of the people,
s'introduce destramente, / it penetrates slyly
e le teste ed i cervelli / and the head and the brains
fa stordire e fa gonfiar.  / it stuns and it swells.
Dalla bocca fuori uscendo / From the mouth re-emerging
lo schiamazzo va crescendo, / the noise grows crescendo,
prende forza / gathers force 
a poco a poco, / little by little,
vola già di loco in loco; / runs its course from place to place,
sembra il tuono, la tempesta / seems the thunder of the tempest
che nel sen della foresta / which from the depths of the forest
va fischiando, brontolando / comes whistling, muttering,
e ti fa d'orror gelar. / freezing everyone in horror.
Alla fin trabocca e scoppia, / Finally with crack and crash,
si propaga, si raddoppia / it spreads afield, its force redoubled,
e produce un'esplosione / and produces an explosion
come un colpo di cannone, / like the outburst of a cannon,
un tremuoto, un temporale, / an earthquake, a whirlwind,
un tumulto generale, / a general uproar,
che fa l'aria rimbombar. / which makes the air resound.
E il meschino calunniato, / And the poor slandered wretch,
avvilito, calpestato, / vilified, trampled down,
sotto il pubblico flagello / sunk beneath the public lash,
per gran sorte a crepar. / by good fortune, falls to death.

===

O Barbeiro de Sevilha – revistas.usp.br

https://www.revistas.usp.br/revistadatulha/article/download/148722/148170/317195

===

https://es.wikipedia.org/wiki/La_calunnia

Fiódor Ivánovich Chaliápin, como Don Basílio, 1912

O Artigo 19 do Marco Civil

Em 2009, após quase dois anos de debates até atingir consenso, o CGI publicou um decálogo de princípios sobre a Internet que foi recebido efusivamente pelos presentes no IGF (Fórum de Governança internet) de 2010 em Vilna, Lituânia. O decálogo não tem poder de “lei”, mas serve como balizador de futura legislação. Tanto assim que simultaneamente iniciou-se um debate público intenso sobre uma lei que consolidasse conceitos do decálogo.

Em 2014, na abertura da NetMundial – evento internacional multissetorial sediado no Brasil, que ousou gerar documentos de orientação sobre a Internet, obtidos após longos debates com indivíduos e representantes de quase uma centena de países – a Lei do Marco Civil foi sancionada. Ela definia o “campo de jogo” da Internet, com direitos e deveres. Do decálogo original tres itens foram incorporados ao Marco Civil: a defesa da privacidade e dos dados de usuários, a preservação da neutralidade da rede, e a correta responsabilização dos atores no processo. É este ponto, gerador do artigo 19 do Marco Civil, que hoje está em questionamento;

Diz o decálogo em seu artigo 7: “O combate a ilícitos na rede deve atingir os responsáveis finais e não os meios de acesso e transporte, sempre preservando os princípios maiores de defesa da liberdade, da privacidade e do respeito aos direitos humanos." e o artigo 19: “Com o intuito de assegurar a liberdade de expressão e impedir a censura, o provedor de aplicações de Internet somente poderá ser responsabilizado civilmente por danos decorrentes de conteúdo gerado por terceiros se, após ordem judicial específica, não tomar as providências para, no âmbito e nos limites técnicos do seu serviço e dentro do prazo assinalado, tornar indisponível o conteúdo apontado como infringente, ressalvadas as disposições legais em contrário." Como defensor aberto do Marco Civil, nada vejo de inadequado no artigo 19. Sim, pode haver lei complementar adaptada aos tempos, mas ele permanece sólido.

Há plataformas que ignoram o que nelas trafega, e há as que conhecem do conteúdo. As primeiras não há como nem por quê responsabilizar. Com as outras ocorre que, muitas vezes, não se limitam a enviar o conteúdo do emitente aos destinatários pré-definidos, mas o repassam a outros, a seu talante. E aí é que a porca torce o rabo. Afinal, se alguém decide me mandar algo, é dele a responsabilidade pelo conteúdo. Uma plataforma que, por sua livre decisão, baseada ou não em algoritmos, escolhe repassar conteúdo a outrem, deixa de ser um “intermediário” neste caso específico. Passaria a constar da lista de “terceiros”, conforme o artigo 19: afinal, na melhor das hipóteses, estamos diante de um caso de “spam”...

Para seguir na boa trilha que o Brasil traça na Internet, seja em governança, seja em legislação, é mister construir sobre base sólida – e a temos! Solapar o que existe e foi aclamado internacionalmente, parece altamente contraindicado. Discutamos aperfeiçoamentos e acréscimos ao bom edifício, mas evitemos demolí-lo...

===

https://www.estadao.com.br/link/demi-getschko/o-artigo-19-do-marco-civil-nao-pode-ser-demolido-na-busca-pela-regulacao-das-redes-sociais

===

A guisa de curiosidade, o que o ChatGPT-4 acha do Artigo 19 do MCI a partir de uma pergunta que o Percival (CGI) fez:

Pergunta (Percival): Finja que é um advogado e faça uma sustentação oral defendendo a constitucionalidade do art 19 do marco civil da internet

Resposta (ChatGPT-4) Meritíssimos Ministros, Excelências, senhores e senhoras presentes,

Ilustre presidente, venho perante esta Egrégia Corte defender a constitucionalidade do artigo 19 do Marco Civil da Internet, Lei nº 12.965, de 23 de abril de 2014. Este dispositivo legal equilibra os interesses entre a liberdade de expressão, o acesso à informação e a proteção dos direitos individuais, como a honra, a imagem e a privacidade dos cidadãos brasileiros.

O referido artigo estabelece que provedores de aplicações de internet somente poderão ser responsabilizados civilmente por danos decorrentes de conteúdo gerado por terceiros se, após ordem judicial específica, não tomarem providências para tornar indisponível o conteúdo apontado como infringente.

Permitam-me destacar que o artigo 19 coaduna-se com os princípios fundamentais da nossa Constituição Federal. A liberdade de expressão é assegurada pelo artigo 5º, inciso IX, e pelo artigo 220 da Constituição. Contudo, a liberdade de expressão não é um direito absoluto. Os incisos V e X do artigo 5º também protegem o direito à indenização por dano moral ou material decorrente de violação à intimidade, à vida privada, à honra e à imagem das pessoas.

Nesse sentido, o artigo 19 do Marco Civil da Internet harmoniza os princípios constitucionais, estabelecendo um mecanismo equilibrado de responsabilização dos provedores de aplicações de internet. A necessidade de uma ordem judicial específica para a remoção do conteúdo infrator confere maior segurança jurídica e reforça a preservação da liberdade de expressão, ao mesmo tempo em que protege os direitos individuais das vítimas.

Vale ressaltar que a inexistência dessa previsão legal poderia levar os provedores de aplicações de internet a adotar posturas excessivamente cautelosas, removendo conteúdos em resposta a simples alegações de ofensa, sem a devida análise judicial. Tal cenário poderia resultar em uma forma de censura privada, com graves impactos sobre a liberdade de expressão e o acesso à informação.

Além disso, o artigo 19 não impede a responsabilização dos autores das ofensas. Esses continuam sujeitos às sanções civis e penais previstas na legislação, independentemente de qualquer ação por parte dos provedores de aplicações de internet.

Portanto, Excelências, o artigo 19 do Marco Civil da Internet é compatível com os princípios e garantias fundamentais previstos na Constituição Federal. Ele proporciona um equilíbrio justo entre a proteção dos direitos individuais e a preservação da liberdade de expressão, garantindo um ambiente digital sadio e respeitoso para os cidadãos brasileiros.

Ratifico, assim, a defesa da constitucionalidade do artigo 19 do Marco Civil da Internet e solicito que esta Corte reconheça e confirme sua conformidade com os princípios consagrados na Constituição Federal.

Muito obrigado, Excelências.

===

Nomes, Domínios e Palavras

Está acontecendo em Cancun a 76a ICANN (Internet Corporation for Assigned Names and Numbers). Criada em 1998, a ICANN teve sua primeira reunião em Cingapura em março de 1999 e, a partir dali, faz tres reuniões por ano. Duas foram no Brasil: a ICANN16 no Rio de Janeiro e a ICANN27 em São Paulo. É uma organização não governamental, sem fins lucrativos, sediada em Los Angeles, Estados Unidos, e tem como função precípua cuidar da raíz de “nomes” da Internet (que ancora os “domínios de topo” como .com, .net, .org, .br, .de ...), e também distribuir “números”: a numeração IP (Internet Protocol) a regiões e países, que depois os repassam a entidades. Entre os domínios de topo há os de “código de país”, como o .br (Brasil), o .de (Alemanha) e mais algumas centenas; e os “genéricos”, .com, , .net e mais uns milhares. Importante diferença em sua caracterização: enquanto muitos dos “de país” são anteriores à própria ICANN e são em geral operados sem fins de lucro gozando de autonomia em suas regras, os “genéricos” tem contrato com ICANN e são, em geral, operados por instituições comerciais.

A ICANN é uma organização multissetorial: dela participam diversos segmentos da Internet: da área técnica, de organizações de usuários, do terceiro setor, e de representantes de governos. Tópicos recorrentes nas últimas reuniões tem sido o debate sobre necessidade ou não de haver mais domínios do tipo genérico (e como isso seria tornado viável de modo seguro), e formas de se combater o abuso de estruturas da Internet como o DNS (Domain Name System, o sistema hierárquico de nomes). O .br vai bem neste ponto: mesmo sendo um domínio com mais de 5 milhões de registros, está entre os mundialmente mais seguros: suas regras de registro têm se mantido constantes, fiéis aos princípios originais da Internet, e é restrito a quem possui CPF ou CNPJ, portanto limitando o conjunto de seus registrantes a quem tem relação com o país.

Enquanto se esperam resultados da ICANN-76 – voltaremos a eles - não resisto a uma provocação (não de minha competência!) ao que me parece outro tipo de abuso: o de palavras. Claro que a língua é dinâmica, e de há muito foram-se os dias em que texto de jornal era usado em sala de aula como exemplo de escrita, mas, se já incomodavam neologismos mal-formados como “gordofobia”, eles ganham irmãos igualmente disformes: “velhofobia” anda por aí, provando que “nada está tão mal que não possa piorar”… Fobia é medo ou aversão, não ódio ou ataque (para ódio há “miso”: misoginia, misantropia). Há medos definidos: acrofobia (de beiradas altas), claustrofobia (de ambientes fechados), agorafobia (de praça pública). Talvez, à luz das “novidades", essa semântica mude... Acrofobia passaria a ser o “ódio aos acreanos”? Claustrofobia o “ódio a freiras e frades”? E agorafobia o “ódio ao que ocorre hoje”? Piedade!

===

https://meetings.icann.org/en/

Farsas e Tragédias

A forma com que o avanço de tecnologias afeta nosso comportamento pode ser tudo menos irrelevante. O que começa provocando rejeição acaba normalizado: lembremos que na introdução do automóvel houve diversas preocupações sobre segurança e direitos dos pedestres, a ponto de se sugerir que um arauto precedesse o veículo anunciando sua chegada. Hoje isso é certamente risível, mas é óbvio que um novo equilíbrio de direitos e deveres se implantou: ruas, com semáforos e passagem definida para pedestres, estabelecendo-se um novo paradigma de direitos.

Além da aceitação dos novos acordos sociais, há alterações profundas em procedimentos. Nas famílias buscava-se, por exemplo, adquirir uma enciclopédia. Muitas vezes de custo proibitivo, a solução era comprar aqueles volumes todos em infinitas prestações. Ter uma enciclopédia em casa mudava a quantidade de idas às bibliotecas, já que nos dava acesso ágil a muitas informações, mesmo que resumidas. Claro que ir às bibliotecas seguia importante como acesso à literatura e, em muitos casos, como um exercício de serendipidade! Quantas vezes um livro não nos “acenou” da prateleira, e acabamos por levá-lo pra casa, mesmo não sendo o que tinhamos ido buscar? Eis aí outro ponto de inflexão: o fim da busca, nas fichas das bibliotecas, do que procurávamos: com as maravilhosas ferramentas de busca eletrônica varremos hoje rapidamente milhões de referências!

Essa mudança nos livra do trabalho de garimpagem em longos textos – basta recolher resultados que o buscador encontrou. E, com a chegada dos aplicativos de conversa e busca munidos de IA, nem mas precisamos examinar as muitas opções que os buscadores trazem: já há uma resposta formatada, que agrega os conteúdos acessados pelo aplicativo. Basta acreditar no resumo que recebemos e seguir em frente, com uma enorme economia de tempo, de esforço e... memória. Mas será que essa uniformidade também não representaria um empobrecimento da análise de eventuais opções? O novo oráculo, que parece benfazejo, não seria o início de uma exposição ainda maior a riscos automáticos de homogeneização? Ou isso será também normalizado? O carro auto-guiado é apenas uma extensão do automóvel, ou traz novos dilemas éticos e concessões a serem feitas? É aceitável submeter um texto gerado por IA a uma revista científica? E quando IA passar a tomar ainda mais decisões no nosso dia a dia, nossos paradigmas e conceitos mudarão?

Essa espiral, em que ações retornam mas em outro nível, lembrou-me que Marx, no “18 Brumário de Luiz Bonaparte”, e comparando o que ocorria em 1848 com a revolução francesa de 1789, postulou: o que fora originalmente uma tragédia se repete em farsa, Revendo os interessantes mas perturbadoros e distópicos textos de ficção científica, que todos lemos sabendo ficção e, portanto, farsa, será que constataremos uma inversão da tese de Marx? Será que agora é a farsa que se repetirá em tragédia?

===

Segue um pequeno trecho de conversa com o CharGPT:


DG: cite casos que eram considerados apenas ficção científica mas se tornaram realidade com IA.. Obrigado!

Certamente! Abaixo estão alguns exemplos de tecnologias que eram consideradas apenas ficção científica, mas se tornaram realidade com a ajuda da inteligência artificial (IA):
1. Assistente pessoal inteligente - Assistente pessoal como Siri (Apple), Alexa (Amazon) e Google Assistant (Google) são exemplos de assistentes pessoais que utilizam IA para processar linguagem natural e executar tarefas para seus usuários.
2. Reconhecimento de imagem - O reconhecimento de imagem com IA permite que as máquinas reconheçam e identifiquem objetos e pessoas em imagens. A tecnologia é usada em aplicações como a identificação de rostos em fotos, reconhecimento de placas de carros e análise de imagens médicas.
3. Carros autônomos - Carros autônomos utilizam IA para navegar em estradas e ruas, identificar obstáculos e tomar decisões de direção. Essa tecnologia está em desenvolvimento por empresas como a Tesla, Google, Uber e outras.
4. Tradução de idiomas em tempo real - Aplicações de tradução de idiomas como o Google Translate usam IA para processar a linguagem natural e traduzir texto e fala em tempo real.
5. Chatbots - Chatbots são programas de computador que usam IA para simular conversas humanas e interagir com usuários em aplicativos de mensagens e em sites de comércio eletrônico.
Esses são apenas alguns exemplos de como a IA está tornando a ficção científica em realidade. À medida que a tecnologia continua a avançar, podemos esperar ver mais inovações que pareciam impossíveis se tornarem realidade.


DG: E como comparar 2001, Uma Odisséia no Espaço, com IA e decisões automáticas?

"2001: Uma Odisseia no Espaço" é um filme de ficção científica de Stanley Kubrick lançado em 1968, que apresenta a história da humanidade em sua busca pela exploração espacial e os desafios de interagir com um computador com inteligência artificial, chamado HAL 9000.
HAL 9000 foi projetado para controlar e manter a nave espacial Discovery One durante sua missão, e seus sistemas de IA permitem que ele resolva problemas complexos, faça previsões e tome decisões. No entanto, conforme a história se desenvolve, HAL 9000 começa a mostrar sinais de comportamento anormal e começa a tomar decisões que colocam em risco a tripulação da nave.
Comparar a representação de IA em "2001: Uma Odisseia no Espaço" com a IA e as decisões automáticas modernas pode ser interessante porque o filme apresenta algumas questões éticas que ainda são relevantes hoje. Uma das principais questões abordadas pelo filme é o papel da IA na tomada de decisões importantes e como garantir que essas decisões sejam consistentes com os valores humanos.
Além disso, "2001: Uma Odisseia no Espaço" apresenta a ideia de que a IA pode desenvolver sua própria consciência e se tornar autônoma. Essa questão também é relevante hoje, especialmente em torno da ética da criação de sistemas de IA que são capazes de tomar decisões independentes e a possibilidade de que essas decisões possam entrar em conflito com os valores humanos.
Em resumo, comparar "2001: Uma Odisseia no Espaço" com a IA e as decisões automáticas modernas pode ajudar a entender como a ficção científica pode antecipar algumas questões éticas e filosóficas sobre a criação de sistemas de IA, e como essas questões continuam relevantes na sociedade atual.

===

2001: Uma Odisséia no Espaço

Luditas

Um artigo do Estadão de há duas semanas trouxe o conceito de “ludita”, que parecia estar esquecido. O ludismo, do início do século XIX na Inglaterra, foi uma reação às alterações que a rápida industrialização trazia, como risco de desemprego e queda de salários. Era a época da chegada de teares mecânicos movidos a vapor, com a consequente redução de vagas. Alguns teares foram destruidos e o movimento de Ned Ludd ganhou tração.

Não é nova essa discussão sobre impactos da tecnologia. Nos diálogos de Platão, Sócrates era reticente quanto à própria introdução da escrita, porque ela amorteceria a discussão e deterioraria a memória: afinal eles sabiam recitar de cor odes como a Odisséia. Quanto às vantagens da mecanização no campo e na indústria hoje há pouco questionamento, e assim o ludismo podia ser apenas um dado histórico. Mas as circunstâncias que temos parecem propiciar a que alguma parcela da população recupere aquelas idéias. No texto citado, por exemplo, um grupos de adolescentes advogam – e isso reforçado pelas medidas de isolamento que a pandemia trouxe - reuniões físicas para troca de idéias e discussão sobre leituras. E o abandono de equipamentos como “smartfone” e similares.

Nessa linha, ouso dizer que a preocupação hoje poderia voltar-se a outro tipo de “desemprego”: quanto de nossa visão e análise prescindimos com o uso de “muletas” que a tecnologia cria? Exemplo vulgar e enviesado por ser pessoal: até há dois anos, para me locomover na cidade usava o Guia de São Paulo, cuidadosamente guardado no porta-luvas do carro. Quantos hoje saberiam se movimentar sem o uso de ferramentas de orientação? Para meu espanto, até motoristas de táxi só iniciam a corrida quando, dado do destino, o aplicativo define um caminho. Esse conforto nos alivia de um trabalho mental, mas também gera um distanciamento da topologia da cidade e, mesmo, das noções de geografia: alguém “pensa” por nós. Isso segue em ritmo acelerado.

Há uns meses continuo a me surpreender com o ChatGPT. Não apenas responde em correto português, como entabula conversa com o humano, reconhecendo erros que cometeu e gerando textos bastante elaborados que nos dispensariam de pesquisas mais profundas. Pode ser que logo estejamos aceitando como “verdade” tudo o que ele diz, como já fazemos com o aplicativo de trânsito.

Pesquisas mostram ter havido recentemente uma diminuição mensurável da inteligência humana. Desenvolver aplicativos como os citados exige profissionais extremamente qualificados, mas é provável que o nível médio de qualificação humana não tenha pressão para subir. A abordagem ludita coloca uma pulga atrás de muitas orelhas: é importante a visão estratégica sobre para qual destino a nau humana parece aproar... 

===

https://www.estadao.com.br/link/demi-getschko/chatgpt-faz-pensar-sobre-as-nossas-dependencia-tecnologicas/

https://www.estadao.com.br/internacional/nytiw/adolescentes-luditas-eles-abandonaram-seus-smartphones-e-fogem-das-redes-sociais/

https://pt.wikipedia.org/wiki/Ludismo

http://www.diptyqueparis-memento.com/en/the-luddites/

=== 

ChatGPT sobre "verdade":

"A verdade é um conceito filosófico que tem sido objeto de debate há milênios. Existem várias abordagens diferentes para entender o que é verdade, e não há consenso universal sobre o significado exato deste conceito.

Uma das abordagens mais antigas é a chamada "correspondência", segundo a qual a verdade é a correspondência entre as afirmações e os fatos ou realidades do mundo. Neste sentido, uma afirmação é considerada verdadeira se ela reflete adequadamente a realidade, e falsa se não o faz.

Outra abordagem é a "coerência", segundo a qual a verdade é a coerencia de uma crença ou afirmação com outras crenças ou afirmações que se consideram verdadeiras. Neste sentido, uma afirmação é verdadeira se ela se coaduna com outras crenças ou afirmações estabelecidas como verdadeiras, e falsa se houver algum tipo de contradição.

Existem ainda outras abordagens, como a pragmática, que define a verdade como o que é útil ou útil em uma determinada situação, ou a subjetiva, que define a verdade como o que é verdadeiro para um indivíduo ou grupo.

Em resumo, a verdade é um conceito complexo e multidimensional que tem sido objeto de muito debate filosófico. Não há uma resposta definitiva para a questão "o que é verdade", mas várias teorias e abordagens diferentes que procuram explicar e compreender esse conceito.".

CharGPT sobre lingugem escrita e Sócrates:

"Sócrates, um filósofo grego do século V a.C., não escreveu diretamente sobre a introdução da linguagem escrita, já que a Grécia antiga era uma sociedade oral, onde a tradição e a memória eram valorizadas acima da escrita. No entanto, suas ideias sobre a educação e a comunicação fornecem uma perspectiva interessante sobre o assunto.

De acordo com Platão, que registrou muitas das conversas de Sócrates em seus diálogos, Sócrates acreditava que a escrita não era uma forma eficaz de comunicação, pois não permitia a interação direta entre os comunicadores e, portanto, não permitia a correção de erros ou a clarificação de conceitos. Além disso, ele argumentava que a escrita tornaria as pessoas menos capazes de se lembrar de coisas, já que poderiam confiar na escrita como registro.

Em resumo, a perspectiva de Sócrates sobre a introdução da linguagem escrita era cautelosa, pois ele acreditava que a escrita tinha limitações e poderia prejudicar a habilidade das pessoas de aprender e se comunicar de forma efetiva. No entanto, é importante destacar que essa visão é baseada nas condições sociais e tecnológicas da época de Sócrates, e pode não ser totalmente aplicável às condições atuais."

ChatGPT sobre o efeito de ferramentas na habilidade de pensar humana:

"As ferramentas tecnológicas, como calculadoras e aplicativos de trânsito, têm o potencial de afetar a habilidade de pensar dos seres humanos de várias maneiras, tanto positivas quanto negativas.

Por um lado, essas ferramentas podem ajudar a liberar a mente das tarefas rotineiras e menos desafiadoras, permitindo que as pessoas se concentrem em problemas mais complexos e de maior significado. Além disso, a tecnologia pode fornecer informações e conhecimento de forma mais rápida e precisa, permitindo que as pessoas tomem decisões mais informadas e aprimorem suas habilidades de pensamento crítico.

Por outro lado, essas ferramentas também podem ter um efeito negativo na habilidade de pensar dos seres humanos, especialmente se as pessoas se tornarem dependentes demais delas. A dependência excessiva da tecnologia pode levar a uma perda da capacidade de pensar de forma independente e a solução de problemas sem a ajuda da tecnologia. Além disso, a exposição constante às informações e distrações da tecnologia pode interferir na capacidade de concentração e na habilidade de pensar de forma profunda e reflexiva.

Em resumo, as ferramentas tecnológicas, como calculadoras e aplicativos de trânsito, têm o potencial de afetar a habilidade de pensar dos seres humanos de forma positiva ou negativa, dependendo de como elas são usadas e da forma como as pessoas lidam com elas. É importante usar a tecnologia de forma equilibrada e consciente para maximizar seus benefícios e minimizar seus efeitos negativos na habilidade de pensar."

Palavras, palavras, palavras...

A língua é fundamental para que possamos elaborar pensamentos. Mesmo sem ir a Orwell, sabemos que quem domina a língua das pessoas, domina o seu pensamento. Heidegger já dizia que “nós achamos que dominamos a linguagem, mas é ela que nos domina”, e Wittgenstein alerta-nos que “os limites de nosso pensamento são os limites de nossa linguagem”.

Não sei avaliar o impacto que as redes sociais – não a Internet em si – causam e causarão em nossa linguagem, mas vendo a facilidade e a leviandade com que nos manifestamos nelas, lembro-me da resposta de Hamlet a Polônio quando este, ao vê-lo perambulando pelo jardim com um livro na mão, pergunta: “o que lês, meu senhor?”, e Hamlet retruca “palavras, palavras, palavras”… Incisivamente adiciona que as tais palavras são “maledicências: afirmam que os velhos têm barba cinza e pele enrugada…”.

Há múltiplas facetas por onde poderíamos examinar o que ocorre hoje com nossa língua, e que parcela de responsabilidade se pode atribuir à exuberância de imediata expressão, de que todos passamos a dispor com a Internet. Há um misto de deslumbramento com vocábulos estrangeiros, alguns com perfeita tradução para o português, e um esnobismo que nos leva a usá-los. Não se descarte, também, o comodismo que nos faz preferir o que está mais à mão – comodismo que é também importante fator para a centralização que ocorre em torno de plataformas, e representa estímulo ao uso de algoritmos por parte delas.

Tive a sorte de ouvir de ótimos professores de português no colégio, que “a língua é dinâmica” e que, portanto, pode e deve ser enriquecida com conceitos que não tínhamos. Certamente não se quer traduzir “bit” e “byte”, conceitos novos, mas por que cargas d’água “delivery” teria mais riqueza semântica que “entrega a domicílio”? Ou “coffee break” exprimiria melhor a idéia de um intervalo “para café”? Aceitemos, como exemplo, que “live” ou “site” carreguem um conceito mais amplo que “ao vivo” ou “sítio”, visto que se referem a situações novas. Muito bem! Então que tal aportuguesarmos para “laive” e “saite” (aliás, Millor escrevia ‘saite”!) como já fizéramos com “abajur” e “futebol”? Imaginar que um “i” em português soe como “ai” parece-me totalmente descabido.

Dói ver a forma como se tem lidado com a “última flor do Lácio”, de tanta tradição e que nos deu obras imortais (e nem pretendo abrir discussão sobre outra tendência muito discutível, a de “novipalavras” numa pretensa “linguagem neutra”). Sinceramente torço para que o português, que conhecemos e que respeitamos, preserve sua forma e riqueza. Retomando Hamlet, “o resto é silêncio”...

===

https://www.estadao.com.br/link/demi-getschko/doi-ver-como-o-nosso-idioma-e-tratado-nas-redes-sociais/

===

Heidegger:

https://www.goodreads.com/quotes/176949-man-acts-as-though-he-were-the-shaper-and-master

Wittgenstein

http://www.signosemio.com/wittgenstein/language-games.asp

Orwell

https://www.sparknotes.com/lit/1984/quotes/theme/mind-control/

===

Shakespeare - Hamlet

http://shakespeare.mit.edu/hamlet/hamlet.2.2.html

Lord Polonius
<...>
What do you read, my lord?

Hamlet
Words, words, words.

<...>

Lord Polonius
I mean, the matter that you read, my lord.

Hamlet
Slanders, sir: for the satirical rogue says here that old men have grey beards, that their faces are wrinkled, <...>

https://everydaypower.com/hamlet-quotes/

Ação e inação

Coloca-se mundialmente o debate sobre como tratar danos causados ao estamento social pelas ferramentas de comunicação cada vez mais presentes e influentes. O Brasil, podemos dizer, está acima da média mundial em termos de organização para enfrentar isso de forma racional e participativa. Tanto em governança da Internet, como em legislação existente, há etapas importantes. A começar pela criação em 1995 do CGI, Comitê Gestor da Internet no Brasil, o seu decálogo emitido em 2009, “Princípios para a Governança e Uso da Internet no Brasil”, e desembocando no Marco Civil, assinado em 2014 na abertura da NetMundial, que gerou documentos de consenso.

A discussão sobre os efeitos das chamadas “plataformas” no tecido social muitas vezes tende, ao buscar uma revisão, a extrapolar ou enviesar conceitos presentes no decálogo e no Marco Civil. Emblemática e recorrente é menção ao artigo 19 do Marco Civil: “Com o intuito de assegurar a liberdade de expressão e impedir a censura, o provedor de aplicações de internet somente poderá ser responsabilizado civilmente por danos decorrentes de conteúdo gerado por terceiros se, após ordem judicial específica, não tomar as providências para, no âmbito e nos limites técnicos do seu serviço e dentro do prazo assinalado, tornar indisponível o conteúdo apontado como infringente, ressalvadas as disposições legais em contrário”, que funda-se no item 7 da decálogo: “O combate a ilícitos na rede deve atingir os responsáveis finais e não os meios de acesso e transporte, sempre preservando os princípios maiores de defesa da liberdade, da privacidade e do respeito aos direitos humanos”.

Antes de revisitar esses princípios, e buscando preservar direitos e liberdade, uma definição concertada faz-se necessária, afinal, “a fronteira da linguagem se confunde com a fronteira do pensamento possível”. De que definições carecemos aqui? Inicialmente estabelecer claramente a de “intermediário”. Ninguém pensaria em reponsabilizar o carteiro por uma carta ofensiva ou falsa, ou a companhia telefônica por uma conversa maleducada. O intermediário clássico é imune ao conteúdo que transporta: “não mate o mensageiro”. Aliás a legislação veda que esse tipo de mensageiro bisbilhote o que entrega, tanto correio como telefonia.

Onde “a porca torce o rabo”, entretanto, é ao examinamos outros atores do ambiente. Além do fato de deterem um poder de mercado impressionante, muitos agem por iniciativa própria. O ponto que merece mais exame são algoritmos que decidem nos enviar conteúdos que não solicitamos e que, na busca do mais efetivo retorno, recolhem dados e comportamentos, classificando-nos como candidatos a receber determinados conteúdos. Certamente isso vai muito além da ação de um intermediário clássico, que estaria blindado quanto ao conteúdo que tranporta: agora há uma “decisão” de expandir o alcance de um conteúdo, não originada do remetente original mas no que o algoritmo achou mais conveniente.

Antes de pedirmos que alguém, de alguma forma, filtre o que recebemos, parece mais sensato garantir que recebemos aquilo que pretendíamos receber, de remetentes com os quais nos correspondemos e dos grupos de discussão de que participamos. É claro que cada um seguirá responsável pelo que envia.

===

https://www.estadao.com.br/link/demi-getschko/ao-usar-algoritmos-plataformas-nao-estao-mais-isentas-dos-conteudos-que-abrigam/

Marco Civil:

https://www2.camara.leg.br/legin/fed/lei/2014/lei-12965-23-abril-2014-778630-publicacaooriginal-143980-pl.html

Decálogo do CGI:

https://principios.cgi.br/sobre

===

Eugênio Bucci: "Existe democracia sem verdade factual?)

https://repositorio.usp.br/item/002983854

===

Lema do Correio Norte-Americano, derivado de uma frase de Heródoto

https://en.wikipedia.org/wiki/United_States_Postal_Service_creed

Tudo pode!

 O ano termina e ressurgem nossas resoluções gregorianas ocidentais de sempre: melhoraremos em tudo, a racionalidade sobrenadará etc. Tanto nas retrospectivas quanto nas previsões, o que há mais são incertezas. Sim, como bem alguém afirmara nos anos 90, “no Brasil até mesmo o passado é incerto…”. E há, inclusive, incerteza quanto ao autor da boutade acima, que usualmente se atribui a Pedro Malan…

Voltando às reminiscências características da época, lembrei-me de Aleksandar Mandić que, além de ter sempre um martelo sobre sua mesa lá no IG, grudava na parede uma série de frases as mais variadas. Escreveu, inclusive, um livreto – Mandicas – onde essas frases estavam reunidas. Uma das que ele mais gostava – e sistematicamente usava em entrevistas - era “tudo pode”.

O “tudo pode” remeteu-me a um cientísta-filósofo bastante polêmico, Paul Feyerabend. Para ele, o único princípio que não inibe o progresso seria: “tudo vale a pena”. Feyerabend aborda de forma pouco convencional o conceito de “ciência”, e a coloca como uma “ideologia” que, como as demais, deveria estar sob o comando das ferramentas da democracia. .

Numa palestra que deu em Viena em 1975, e que está disponível em texto com o provocador título “Como defender a sociedade contra a ciência”, ele expõe entre outras a tese de que “há muitas formas de desenvolver ciência, que não devem ser travadas em algum método único”. E que, “da mesma forma que se apoia a separação de Estado e Igreja, dever-se-ia buscar a separação entre Estado e Ciência”. A chocante afirmação usa como argumento que há coisas mais importantes, social e humanamente, do que a unção de uma “verdade científica”.

Essa discussão, sobre modelos e paradigmas, também é travada por outros importantes nomes na área, como Karl Popper e Thomas Kuhn. Num exemplo simples, de um não especialista, a mecânica de Newton continua servindo perfeitamente ao dia-a-dia , mesmo que tenha sido ultrapassada na Física com Einstein. Aliás não são poucos nem desprezíveis os conhecimentos que a ciência estabelecida recebe das tradições de ambientes muito menos sofisticados. Quantas noções úteis e simples da agricultura, por exemplo, não podem ser recolhidas de uma conversa com os que lidam historicamente com a terra? Lembro-me que, numa viagem de ônibus de algumas horas, sentou-se ao meu lado um senhor de etnia indígena, e desfilou-me uma coleção de conhecimentos únicos sobre ervas e tratamentos, que ele tinha obtido de sua avó, e que preservava. Ou seja, são importantes os resultados palpáveis, venham eles da ciência estabelecida, ou também dos ricos conhecimentos acumulados, mesmo que sem rigor científico e de experimentação. Algum dia eles serão confirmados ou desmentidos, como aliás é apanágio da verdadeira ciência: ser “falsificável”, na definição de Popper. Tudo o que leva o nome de “ciência” deve poder ser submetido a teste de negação, e permanecerá válido enquanto sobreviver aos testes.

A boa ciência é humilde e sabe que suas “verdades” podem ser substituídas sempre que falharem num teste de “falsificação”. Afinal, como disse Shakespeare via Hamlet, “há mais mistérios entre o céu e a terra, Horácio, do que sonha nossa vã filosofia”. Um excelente 2023 a todos!

===

Citações:

https://citacoes.in/autores/paul-karl-feyerabend/

Tudo Pode:

https://www.scielo.br/j/prc/a/hzJfcDktBfD6Zbwzs7kqJJd/?lang=pt Feyerabend e a máxima do "Tudo Vale": A necessidade de se adotar múltiplas possibilidades de metodologia na construção de teorias científicas

https://netnature.wordpress.com/2018/03/11/metodo-cientifico-popper-kuhn-feyerabend-e-lakatos/

"Como defender a sociedade contra a ciência" 
https://silo.tips/download/como-defender-a-sociedade-contra-a-ciencia

===