terça-feira, 26 de setembro de 2023

Alhos e Bugalhos

O gosto por alho e cebola é pessoal. A cebola é allium cepa, enquanto o alho é allium sativum, ou seja, são “primos”, mas com características tão diversas que é fácil separá-los. E alhos de bugalhos? Ensina a avoenga sabedoria popular que alhos e bugalhos não devem ser confundidos. Nunca vi um bugalho, mas sei que não se deve serví-lo à mesa… Esse prefácio algo caótico visa a apontar riscos na tentiva generalista de rotular (e, em seguida, regular) aplicações e sistemas como sendo de IA.

O primeiro ponto a se levar em conta é que sistemas computacionais complexos e especialistas existem aos montes, e antes não ganhavam o epíteto de IA. Algoritmos fixos, fartamente usados em matemática e em computação, raramente se qualificariam. Isso não significa que não haja riscos importantes associados a eles, como, por exemplo, a falta de transparência nos métodos, objetivos e resultados buscados por quem os desenvolveu. Quando o objeto dos algoritmos somos nós mesmos, o perfil eles produzem serve para criar, à nossa revelia, uma “classificação” onde somos catalogados segundo critérios que fogem à luz. Mas pedir transparência de algoritmos não é o mesmo que “regular IA”.

Num sobrevoo simples, poderíamos chamar de IA sistemas que emulam comportamento humano, com sofisticação e dinâmica suficientes para se amoldar a novas e imprevistas situações. O apelo comercial e tecnológico da expressão “IA” faz com que uma barafunda de aplicativos, além dos que, de fato, usam IA, “pulem no mesmo vagão” para ganhar modernidade, visibilidade e poder de mercado.

Quanto à regulação desse “novo mundo”, acompanhemos as diversas iniciativas por ai. A mais recentem, a da Espanha, pretende criar uma “agência de supervisão” da IA. Será o momento? Silvio Meira, pesquisador na área, tem alertado para efeitos colaterais de uma eventual regulação açodada, feita sem conhecimento sólido da essência do ente que se quer regular. Dado o valor estratégico e financeiro da IA, freios mal definidos podem manietar a posição do Brasil na área. E não esqueçamos que já há sólida proteção de direitos fundamentais em nossa Constituição. Criar leis muito específicas, tirando vantagem do momento de apreensão em que vivemos, pode ser mais danoso que útil. Formular um marco ético-conceitual parece mais proveitoso. Não misturemos alhos com bugalhos...

Além dos modelos de programação, IA depende se equipamentos de processamento muito caros e difíceis de obter. Já temos centros de IA no país, e uma boa interlocução com os congêneres internacionais. Melhorar esse diálogo, buscar indicadores e medir os efeitos do uso de IA em diversos setores, parece caminho seguro, e que pode sugerir políticas e leis. Afinal, “o que não pode ser medido, não pode ser gerenciado”...

Nada disso muda o fato de que, com os impactos das tecnologias que rapidamente se expandem, o mundo já é outro. Retomo o brilhante fecho do artigo “O Inexorável”, de Eugênio Bucci, aqui no Estadão: “Olhe com ternura e compaixão para o mundo à sua volta, porque ele vai desaparecer num suspiro”. 

===

Entrevista de Sílvio Meira, citada:

https://www.convergenciadigital.com.br/Inovacao/Silvio-Meira%3A-Entendimento-do-Brasil-sobre-Inteligencia-Artificial-e-raso-e-Lei-sera-um-erro-grave-64139.html

Artigo de Eugênio Bucci, citado:

https://www.estadao.com.br/opiniao/eugenio-bucci/o-inexoravel/

e outro sobre IA:

https://www.estadao.com.br/opiniao/eugenio-bucci/inteligencia-artificial-isso-deve-nos-assustar/

===



terça-feira, 12 de setembro de 2023

Tempos que mudam

 A partir de certa idade temos o direito de pensar, com certo grau de indulgência, nos “velhos e bons tempos”. Acontecimentos pessoais na semana, somados e textos que pareceram misteriosamente sincronizados com o estado de espírito, contribuem para um passeio em épocas numericasmente não tão distantes, mas em essência paleozóicas se comparadas com o que temos hoje. E a tocante crônica de Ignácio de Loyola Brandão ne domingo, “Apenas Zé”, firmou-me o propósito de ousar ir além das chinelas tecnológicas…

Minha primeira viagem aos EUA foi em 1980, para assistir ao SIGGRAPH em Seattle. À época os gráficos por computador e animações digitais eram foco dos melhores esforços dos computeiros, e o que mais reverberava no público em geral. E tive a honra de ir acompanhando o Prof. Oswaldo Fadigas, grande mestre da Poli e do ITA. Dessa viagem, que também incluiu São Francisco e Boston, me restaram excelentes memórias do comportamento dos norte-americanos, da fidalguia com que tratavam os visitantes, da ilimitanda confiança que deles se podia esperar, Aliás, o Prof, Fadigas, que tinha feito mestrado no MIT, não cansava de citar exemplos que reforçavam o que via em loco. Nenhum problema na entrada, carro alugado sem sequer cartão de crédito, voos funcionando pontualmente, e ainda aproveitamos para ver o recém lançado: “O Império Contra-ataca”! De lá pra cá muita coisa mudou. Hoje o tratamento na imigração é bem mais duro, a violência é mais presente, o apego à honra e à correção parece bastante empalidecido.

Em outro tema, comento – sem discutir o mérito – uma decisão da Suprema Corte norte-americana que deu ganho de causa a uma projetista de sítios web para casamentos, que se recusava a fazer sítios para “casais não tradicionais” (detalhes podem ser buscados sob “case 303 Creative v. Elenis”). O que me chamou a atenção – e pode ser útil em debates por aqui – é que a Corte traçou uma linha entre o que seria um “common carrier” - um serviço prestado indistintamente ao público, como telefonia, correios, etc - e o que é uma iniciativa limitada, que poderia restringir-se a seus princípios. A Corte, chamando à cena a Primeira Emenda, faz uma analogia entre direito à fala e uma publicação na Internet, defendendo que ninguém pode ser obrigado a “falar” algo com que não concorda. Ou seja a Corte garantiu à projetista o direito de “não falar” algo. Sem entrar no mérito da decisão e das idiossincrasias dos diferentes estamentos jurídicos, o que aqui me parece relevante e digno de mais discussão é essa taxonomia entre o que deveria ser atendido igualmente, por todos, e o que é limitado, a talante de seu provedor.

De minha pequena janela da engenharia, não ouso avaliar o que se passa com o homem atual e assim recorro a Chesterton,“O que há de Errado com o Mundo”: “o homem perdeu seu caminho. Ele tem sido um andarilho desde o Éden mas, ao menos, sempre soube (ou achava que sabia) o que procurava. <...> Pela primeira vez na história, ele começa realmente a duvidar do objeto de suas andanças pela Terra… Ele, que sempre houvera perdido o caminho, agora parece que ele perdeu o próprio endereço”…

===
texto sobre os EUA antigos:

https://www.theamericanconservative.com/falling-out-of-love-with-america/

===
SIGGRAPH 1980

https://history.siggraph.org/conference/siggraph-1980-7th-annual-conference-on-computer-graphics-and-interactive-techniques/



Citação do G. K. Chesterton em "What's Wrong with the World"

"Man has always lost his way. He has been a tramp ever since Eden; but he always knew, or thought he knew, what he was looking for. But in the bleak and blinding hail of skepticism to which he has been now so long subjected, he has begun for the first time to be chilled, not merely in his hopes, but in his desires. For the first time in history he begins really to doubt the object of his wanderings on the earth. He has always lost his way; but now he has lost his address."


terça-feira, 29 de agosto de 2023

Falsos antagonismos

Uma das recentes conquistas da legislação brasileira - e seguindo no bom rumo indicado pelo Marco Civil - foi a aprovação da Lei Geral de Proteção de Dados em 2018. Com ela estabeleceram-se boas práticas e, especialmente, barreiras a abusos muito comuns, especialmente quando lidamos com o mundo digital.

Assim, privacidade é valorizada mas é justamente no “admirável mundo novo” digital onde passamos a ouvir, sistemáticamente, que nossos próprios atos, palavras e, até, pensamentos deveriam ser “totalmente transparentes”, para o “bem de todos”. Afinal, “quem nada tem a esconder não tem que se preocupar com o amplo acesso a suas informações”, afirmou uma importante personagem global. E é exatamente aí que mora o perigo…Há, sim, um íntimo pessoal e coisas como a intuição, que deveriam ser preservados de todos. Em Anna Karênina, Tolstoi faz Levin definir que: “deve haver sempre um muro isolando o ‘santo dos santos’ de minha alma de todos os indivíduos, e até de minha própria mulher <...> minha razão continua sem entender porque eu rezo, e mesmo assim continuarei rezando”…

Há um livrinho de um filósofo teuto-coreano, Byung-Chul Han, “Sociedade da Transparência”, que se propõe a debater o tema e vale uma vista d’olhos. A cultura e a civilização dá a cada indivíduo sua identidade própria, e isso é tão profundo que nem nós mesmos temos visão clara sobre o que somos. A civilização nos fez abandonar a busca da antiga proteção de rebanho, e fez dar voo e valor à individualidade. A complexidade humana cresceu proporcionalmente. Aquilo de id, ego e superego, lá de Freud e da psicanálise, dá uma boa ilustração de como, até para nossa sanidade, o uso de subterfúgios e de máscaras é importante e indefectível. Não é por menos que somos “pessoas”, palavra cujo étimo latino vem de “máscara de teatro”; somos personagens. Já Millôr, em uma de suas impagáveis tiradas, cutucava em contraponto: “Como são admiráveis as pessoas que nós não conhecemos bem”.

Uma dúvida que pode surgir é se haveria um potencial conflito entre a necessidade de maior transparência, e a proteção à privacidade prevista na LGPD. Afinal desde 2011 há uma lei que dispõe sobre o acesso aberto e irrestrito a dados de órgãos públicos. Ficará clara a divisão de águas se atentarmos para os objetivos diferentes: temos o direito de saber o que se passa nos desvãos dos órgãos dos que nos governam – é a essência da Lei de Acesso a Dados - mas os dados dos indivíduos deveriam ser protegidos dos que buscam conhecê-los e controlá-los. O que nos difere é que temos profundezas individuais que devem ser protegidas. O ivrinho citado traz como epígrafe: “daquilo de que os outros não sabem sobre mim, disso vivo”. Danilo Doneda, especialista que perdemos há um ano e batalhador incansável por essa LGPD, nos dá a receita para dirimir dúvidas e separar o dever de transparência do direito à privacidadae: “A transparência deve ser diretamente proporcional ao poder. A privacidade deve ser inversamente proporcional ao poder.”

===
em https://www.racket.news/p/tracking-orwellian-change-the-aristocratic
"Tracking Orwellian Change: The Aristocratic Takeover of 'Transparency'"

há um vídeo curto, mas revelador...
===
em https://www.newyorker.com/books/joshua-rothman/virginia-woolfs-idea-of-privacy

Levin, at the end of “Anna Karenina,” calls it his “holy of holies,” and says that, no matter how close he grows to the people around him, there will always be “the same wall between my soul’s holy of holies and other people, even my wife.”

===
https://doneda.net/frases-de-danilo-doneda/

“O Marco Civil da Internet tem uma vantagem muito relevante que é ter sido tratado sob a égide dos princípios e dos direitos mais do que estabelecer regras muito minuciosas sobre temas que hoje seriam obsoletos.”

“A transparência deve ser diretamente proporcional ao poder. A privacidade deve ser inversamente proporcional ao poder.”

===
Livro de Byung-Chul Han:


terça-feira, 15 de agosto de 2023

Verdade / Alétheia

Num artigo recente o especialista em segurança, Bruce Schneier, comenta sobre o que seria uma IA confiável. A maioria dos aplicativos de IA são desenvolvidos em poderosas empresas na área de tecnologia da informação. Provocativamente, Schneier perguntou à IA se a empresa XX que a desenvolvera atuava como “monopolista em seu setor”… A resposta da IA em questão foi “não tenho conhecimento de que XX seja monopolista…”. Entretanto, perguntada sobre outras gigantes do segmento, a IA em questão não duvidou em cravar o epíteto. Isso levanta o questionamento sobre um eventual viés incluido nos sistemas visando a atender objetivos de seu construtor.

Não é difícil notar viéses nos sistemas da IA, muitos deles travestidos das melhores intenções. Por exemplo, não aceitam tecer loas a figuras controvertidas, nem fazem comparações ou comentários que poderiam ser interpretados como tendenciosos. O problema é que esse posicionamento “politicamente correto” das IA pode, na verdade, estar deturpando dados e realidades. Afinal não é de hoje que “o caminho do inferno é pavimentado por boas intenções”.

Por outro lado, é claro que esses sistemas estarão cada vez mais imbricados em nosso dia-a-dia e, de fato, consegue-se deles muita resposta interessante. Exemplo: em razão de conversa sobre os tres níveis de gratidão em S. Tomás de Aquino, perguntei ao ChatGPT sobre isso e consegui dele uma belíssima resposta sumarizando o tema, certamente melhor do que a que eu poderia instantanemante gerar Não é uma capacidade ou auxílio que se possa desprezar!

E é sobre esse ponto que o artigo de Schneier alerta: o poder em nos dar uma resposta rápida sobre e em linguagem clara e correta, fará com que adotemos essas ferramentas como nosso assistente diário. Para que a ferramenta possa nos ajudar, ela precisa nos conhecer mais do que acontece com outros aplicativos na rede, e a IA já mantem o histórico de nossas conversas e de nossos interesses. Resta ver se confiamos em sua veracidade, enquanto eventuais viéses, introduzidos para a consecução dos objetivos de quem a construiu, podem passar despercebidos ao usuário, entusiasmado pela rapidez e qualidade das respostas menos críticas. A União Européia discute legislação sobre IA que exija transparência sobre como é feito o treinamento de determinado sistema, formas de mitigar potencial viés e divulgação de riscos já identificados.

Finalmente, um repto: estaremos vivendo mudanças no conceito de “verdade”? O verbete “pós-verdade” já circula há décadas mas o que nos traz a IA pode ser a construção de uma história e universo próprios, onde a nova “verdade” que não se baseia mais no que existe apenas no universo antigo que conhecíamos. Em grego, “verdade” é “alétheia” (que contem “Lethe”, nome do rio do esquecimento no Hades) poderia ser traduzida como “o não esquecer”, “o desvelar”. O que nos esperaria ao dobrarmos essa esquina?

===
O artigo de Bruce Schneier:
===
A resposta do ChatGPT sobre os níveis de gratidão em São Tomás de Aquino:

"Tomás de Aquino, um renomado teólogo e filósofo medieval, discutiu os três níveis de gratidão em sua obra "Summa Theologica". Esses níveis de gratidão estão associados à ética e à virtude, e refletem as diferentes maneiras pelas quais as pessoas podem responder aos favores que recebem. Aquino argumentou que a gratidão é uma virtude importante, pois expressa a justiça em relação às boas ações dos outros. Aqui estão os três níveis de gratidão de acordo com Tomás de Aquino:

Gratidão inicial (gratia facti): Esse é o nível mais básico de gratidão. Envolve reconhecer e apreciar a ação benevolente de outra pessoa em nosso benefício. É a gratidão que sentimos quando alguém nos faz um favor ou nos ajuda de alguma forma.

Gratidão intermediária (gratia debiti): Esse nível vai além do simples reconhecimento do favor recebido. Ele implica um senso de obrigação moral de retribuir ou retribuir o favor. Nesse nível, a gratidão se manifesta através da vontade de expressar agradecimento e agir de maneira justa em resposta ao favor recebido.

Gratidão completa (gratia agendae): Esse é o mais alto nível de gratidão, segundo Aquino. Envolve não apenas o reconhecimento e a retribuição do favor, mas também o desejo sincero de fazer o bem ao benfeitor. Esse nível de gratidão transcende a obrigação moral e expressa uma profunda apreciação e desejo de retribuir, não apenas por obrigação, mas por genuíno afeto e gratidão.

Esses três níveis de gratidão de Tomás de Aquino refletem sua visão sobre a ética e a virtude, destacando a importância de reconhecer e retribuir os favores recebidos de maneira justa e generosa. Através dessa análise, Aquino explora as complexidades das interações humanas, enfatizando a importância da reciprocidade e da apreciação nas relações sociais."

===
Alétheia:
https://pt.wikipedia.org/wiki/Aleteia_(filosofia)
"Alétheia , lit. verdade, no sentido de desvelamento: de a-, negação; e lethe, "esquecimento"), para os antigos gregos, designava a verdade e a realidade, simultaneamente.

Lethe:
https://pt.wikipedia.org/wiki/Lete

https://mythologysource.com/lethe-spirit-forgetfulness/






terça-feira, 1 de agosto de 2023

Ressacas

Machado de Assis, em Dom Casmurro, traduz genialmente o poder encantador de Capitu como resultado de seus “olhos de ressaca”. O magnético poder com que ela atrai Bentinho é comparável à ressaca, à puxada com que o mar nos arrasta para dentro de si. E não há reações racionais que se prontifiquem a resistir a essa força, a essa tentação.

Um equivalente a essa algo mefistofélica atração é o que acontece em nossa interação com os sistemas de IA que implementam modelos de linguagem generativa. A fase atual de seu desenvolvimento, mesmo que ainda não completo, já e impressionante: eles apresentam fluência, correção de linguagem e capacidade de manter diálogo coerente com seu interlocutor. E o fato de memorizarem as conversas anteriores faz com que seja possível preservar o contexto. Se você precisa retrabalhar um texto ao traduzi-lo para outra língua, IA em sua fase atual pode ser uma ajuda a não ser desprezada. Tenho amigos que geraram páginas e páginas de conversa (e discussão!) com sistemas de IA e, satisfeitos, concluiram que conseguiram até mudar avaliações incorretas, ou simplesmente erradas, da máquina...

Há também aspectos menos “luminosos”, que poderiam nos alertar quanto a riscos importantes. Conto uma experiência tacanha, mas real: Pedi a tres desses sistemas algo sobre um conhecido poema de Jorge Luiz Borges, chamado “el Golem”. O poema é sobre o mito de um estranho ser, que um rabino de Praga criou do barro e animou via poderes cabalísticos que as palavras possuem. Na primeira estrofe, Borges detalha esse poder: “o nome é o arquétipo da coisa: nas letras de ‘rosa’ está a rosa, e todo o Nilo, na palavra ‘Nilo’”. Assim, montei minha “armadilha” e comecei a conversar com o ChatGPT, o Bard e o PI. A conversa, mesmo que com diferentes níveis de sofisticação, seguiu perfeitamente razoável. Já de início dois dos sistemas responderam desconhecer o poema e, mesmo, o autor. Pediram mais dados para “refinar a busca”. Repassei mais alguma informação, a data do poema, 1964 e o livro onde constaria. Seguiram-se canônicos pedidos de desculpa, mas que agora sim, conseguiam localizar o poema. Bem, a essa altura, pedi que me mandassem o texto original e, se possível, uma tradução ao português. E aí o caldo entornou… Recebi poesias, algumas curtas, bem escritas, em espanhol, em tema associado à conto do Golem, mas nenhuma delas era o poema que eu conhecia. Não consegui localizar os textos que recebi em nenhum lugar da rede. Concluo que eles geraram as poesias em espanhol sobe o tema Golem, e decidiram passá-las como o poema original do Borges! Mentiras artificiais deslavadas, e repassadas sem nenhum “enrubecimento” dos sistemas… Ou seja, parece que eles valorizam responder algo, mesmo que totalmente sintético, para manter a conversa conosco. Não é necessária muita imaginação para ver onde isso pode nos levar…

A linguagem, agora que os sistemas artificiais obtiveram seu controle, gera um diálogo atraente que pode estar nos puxando para as profundezas. O que as IAs desenvolverm parece merecer o epíteto dos olhos de Capitu: que tal “lábia de ressaca”?..

===
"El Golem", de Jorge Luiz Borges
https://www.poemas-del-alma.com/jorge-luis-borges-el-golem.htm

Si (como afirma el griego en el Crátilo)
el nombre es arquetipo de la cosa
en las letras de 'rosa' está la rosa
y todo el Nilo en la palabra 'Nilo'.

Y, hecho de consonantes y vocales,
habrá un terrible Nombre, que la esencia
cifre de Dios y que la Omnipotencia
guarde en letras y sílabas cabales.

Adán y las estrellas lo supieron
en el Jardín. La herrumbre del pecado
(dicen los cabalistas) lo ha borrado
y las generaciones lo perdieron.

Los artificios y el candor del hombre
no tienen fin. Sabemos que hubo un día
en que el pueblo de Dios buscaba el Nombre
en las vigilias de la judería.

No a la manera de otras que una vaga
sombra insinúan en la vaga historia,
aún está verde y viva la memoria
de Judá León, que era rabino en Praga.

Sediento de saber lo que Dios sabe,
Judá León se dio a permutaciones
de letras y a complejas variaciones
y al fin pronunció el Nombre que es la Clave,

la Puerta, el Eco, el Huésped y el Palacio,
sobre un muñeco que con torpes manos
labró, para enseñarle los arcanos
de las Letras, del Tiempo y del Espacio.

El simulacro alzó los soñolientos
párpados y vio formas y colores
que no entendió, perdidos en rumores
y ensayó temerosos movimientos.

Gradualmente se vio (como nosotros)
aprisionado en esta red sonora
de Antes, Después, Ayer, Mientras, Ahora,
Derecha, Izquierda, Yo, Tú, Aquellos, Otros.

(El cabalista que ofició de numen
a la vasta criatura apodó Golem;
estas verdades las refiere Scholem
en un docto lugar de su volumen.)

El rabí le explicaba el universo
"esto es mi pie; esto el tuyo, esto la soga."
y logró, al cabo de años, que el perverso
barriera bien o mal la sinagoga.

Tal vez hubo un error en la grafía
o en la articulación del Sacro Nombre;
a pesar de tan alta hechicería,
no aprendió a hablar el aprendiz de hombre.

Sus ojos, menos de hombre que de perro
y harto menos de perro que de cosa,
seguían al rabí por la dudosa
penumbra de las piezas del encierro.

Algo anormal y tosco hubo en el Golem,
ya que a su paso el gato del rabino
se escondía. (Ese gato no está en Scholem
pero, a través del tiempo, lo adivino.)

Elevando a su Dios manos filiales,
las devociones de su Dios copiaba
o, estúpido y sonriente, se ahuecaba
en cóncavas zalemas orientales.

El rabí lo miraba con ternura
y con algún horror. '¿Cómo' (se dijo)
'pude engendrar este penoso hijo
y la inacción dejé, que es la cordura?'

'¿Por qué di en agregar a la infinita
serie un símbolo más? ¿Por qué a la vana
madeja que en lo eterno se devana,
di otra causa, otro efecto y otra cuita?'

En la hora de angustia y de luz vaga,
en su Golem los ojos detenía.
¿Quién nos dirá las cosas que sentía
Dios, al mirar a su rabino en Praga?

===Esse é um poema que o ChatGPT me mandou como sendo "El Golem"

No clamo. No tiemblo. Miro el crecimiento
del orden de las sombras que me entrega
el destino. Miro las arduas formas
del Golem, su anca, su humillada lengua
y me figuro Dios. Él está solo,
solo y con su conciencia infinita.
Sin el sustento de la esperanza,
no tiene un alma que recomponer
ni una ira en que amagar la impotencia.
Así he sido antes de ser esta sombra.
Fui un rasgo en un desierto sin nombres
y el Golem me aguarda como aguardan
los ángeles a Dios. Lo abruma el tiempo,
lo abruma el vasto crepúsculo de Dios.


===
e o capítulo que trata de "olhos de ressaca", Don Casmurro
http://www.ibiblio.org/ml/libri/a/AssisJMM_DomCasmurro/node32.html





"... Olhos de ressaca? Vá, de ressaca. É o que me dá ideia daquela feição nova. Traziam não sei que fluido misterioso e enérgico, uma força que arrastava para dentro, como a vaga que se retira da praia, nos dias de ressaca. Para não ser arrastado, agarrei-me às outras partes vizinhas, às orelhas, aos braços, aos cabelos espalhados pelos ombros; mas tão depressa buscava as pupilas, a onda que saía delas vinha crescendo, cava e escura, ameaçando envolver-me, puxar-me e tragar-me. "


===
===









terça-feira, 18 de julho de 2023

Internetices

De tempos em tempos surgem projetos de lei que, mesmo muito bem intencionados, acabam por se mostrar inviáveis, ou arriscam trazer consequências danosas imprevistas. Isso se deve a uma coompreenção imperfeita do que seja a Internet e das idéias que a geraram. Se partimos da hipótese de que Internet única e acessível por todos é algo desejável, é importante preservar seus conceitos constituintes que a fazem ser o que é. Ir contra eles é, eventualmente, aliar-se involuntariamente aos que a querem fragmentada e deformada.


Nos velhos tempos, o correio eletrônico era a grande novidade: trazia acesso e comunicação entre todos. Lembro-me de um projeto de lei – felizmente abandonado - que obrigaria os provedores nacionais do serviço de correio eletrônico a garantirem a correta identificação do remetente. Quem acompanhou a disseminação dessa ferramenta, sabe que o protocolo básico – o SMTP, Simple Mail Transfer Protocol – mimetiza o correio tradicional. Ora, no correio tradicional uma carta será entregue desde que adequadamente envelopada e selada, independentemente de verificação da identidade de seu remetente: basta jogá-la na caixa de correio e ela seguirá ao destinatário… Se uma lei local buscar mudar isso, por exemplo obrigando servidores nacionais a indeitificarem os remetentes, o resulado imediato será a migração de boa parte dos usuários a serviços internacionais, inviabilizando provedores nacionais. Em suma, ao mesmo tempo em que não se avança nada na identificação dos remetentes, destrói-se a oferta nacional desse serviço.

Outra analogia: o registro de nomes de domínios. A expectativa de qualquer operador de domínio lícito é que ele funcione na Internet como um todo. E é exatamente assim que funcionam os milhares de domínios existentes e ativos. Alguém precisa usar o .br para operar no Brasil? Estritamente, não. Escolhe-se o .br (e, felizmente, a enorme maioria das iniciativas brasileiras o faz) é devido a sua características específicas como estabilidade, língua, custo, resiliência. Como exemplo, o fato do .br exigir CPF ou CNPJ faz com que qualquer eventual liitígio sobre o nome escolhido seja resolvível por aqui mesmo e sem reflexos internacionais. É um equilíbrio delicado: se um domínio passa se ser mais caro, ou ter mais exigências que suas alternativas, migração será esperada. Como já disse alguém no passado, “a Internet interpreta percalços locais como ‘defeito técnico’ , e buscará contorná-los”. Se as regras de um domínio específico passam ser mais duras ou caras, o que se verá é migração para alternativas mais simples. Obtem-se o oposto do que se buscava: ao invés de mais dados e conhecimento sobre os usuários,há perda significativa de informação local.

Uma internet segura e estável passa por dar aos usuários garantias de ela continuará atendendo aos conceitos de não-localidade da rede. O Comitê Gestor da Internet, criado em 1985 e saudado por toda a comunidade internet como um modelo adequado e multissetorial de sua governança, sabiamente denominou-se “Comite Gestor da Internet NO Brasil”, e não “DO Brasil”.

===






terça-feira, 4 de julho de 2023

Utopias e Distopias

 Utopias e distopias

A Internet que conhecemos passou por várias inflexões em seu caminho, e muito provavelmente vários de seus precursores estranhariam o tipo de discussões e problemas que se debatem hoje. A data clássica de ativação da rede marcou-se em outubro de 1969 (o mesmo ano de Woodstock!) e o primeiro grande passo foi a adoção do TCP/IP em 1982. Lembremos que os governos tinham em vista outra suite de protocolos para redes de computadores: o modelo OSI/ISO, criado pela ITU e que geraria uma estrutura bastante hierarquizada. Quando, em 1986, a rede científica norte-americana NSFNET adotou o TCP/IP, com o expressivo apoio da comunidade tecno-acadêmica, ele tornou-se um “padrão de direito”. As características originais da Internet: uma rede distribuida, sem um ˜centro de controle˜, aberta a todos, construida pela adesão voluntária de milhares de redes autônomas pelo mundo, e sem reconhecer as fronteiras nacionais, encontrariam sua expressão máxima em 1996, quando J. P. Barlow escreveu a ˜Declaração de Independência do Ciberespaço”. Havia nos EUA à época, uma proposta de legislação para controlar o conteúdo na rede – o Decency Act – e foi reagindo a isso que Barlow encabeçou a posição da “comunidade Internet”. A tal lei acabou sendo revista, com a adoção da sessão 230, que aliás foi reafirmada há pouco tempo na Suprema Corte norte- americana. A “Declaração” de Barlow foi o coroamento do conceito de “rede aberta e livre”, com a descrição, nas palavras de Barlow, de uma comunidade literalmente utópica, e a proposta de um “mundo da Mente”.

Rever o que Barlow descreve em seu repto e confrontá-lo com o que temos, talvez nos fizesse reler o título “mundo da Mente” para “o mundo que mente”. Diz ele “… Estamos criando um mundo em que qualquer pessoa possa entrar sem privilégio ou preconceito baseado em raça, poder econômico, força militar ou local de nascimento. Estamos criando um mundo em que qualquer pessoa, em qualquer lugar, possa expressar suas crenças, por mais singulares que sejam, sem medo de ser coagida ao silêncio ou à conformidade…. Criaremos uma civilização da Mente no Ciberespaço. Que ela seja mais humana e justa do que o mundo que seus governos criaram antes - Davos, Suíça, 8 de fevereiro de 1996”. Quando disso vale, quanto é utopia e quanto passou a ser distopia?

E, adicionando a indefectível pitada de IA no caldo da Internet, há um outro ponto que chama a atenção: a possibilidade de retrabalhar o passado é reforçada! Explico: houve em Brasília uma exposição sobre a história da cidade, que contou com o apoio instrumental da IA. Não visitei a exposição, portanto não tenho base de julgamento, mas surgiu uma dúvida: seria confiável a reedição automatizada da história? Há diversos exemplos de contextos que são mal-entendidos pela IA (concedendo que IA “entenda” contextos…), mas o que desperta alguma preocupação é que, sem formas de verificação independente (ou sem paciência e tempo para isso), estariam os consumidores das versões sintética da história correndo riscos maiores de manipulação? Será que, mergulhados como estamos hoje no mar de desinformação e de “fake news”, veremos aparecer também a onda dos “fake olds”?

===
O texto do J. P. Barlow:
https://www.eff.org/cyberspace-independence

John Perry Barlow, Internet Pioneer, 1947-2018
https://www.eff.org/deeplinks/2018/02/john-perry-barlow-internet-pioneer-1947-2018



===