Os riscos de regular antecipadamente

Qualquer especulação sobre que futuro nos aguarda, e quais as áreas esratégicas específicas em que investimentos tenderão a gerar efeitos econômicos e sociaispara os próximos anos, leva indefectivelmente à discussão da digitalização e dastecnologias de conhecimento. A mistura dos reais avanços no poder computacional e algorítmico que observamos (com suas correspondentes ameaças), e da atraçãoque chavões publicitários exercem sobre todos, explica a proliferação de iniciativase textos sobre temas como o da Inteligência Artificial. Diversos países empenham-se em desenvolver e implementar estratégias para tornarem-se atores importantesnessa área. A Inglaterra, por exemplo, acaba de lançar um plano decenal parafixar-se como superpotência em IA. E no Brasil também estamos começando umadiscussão ampla da formulação de uma EBIA – Estratégia Brasileira de Inteligência Artificial.

Os impactos que a implantação maciça de IA traz serão sempre percebidos em todos os aspectos da vida humana, não apenas os tecnológicos e econômicos, mas os sociais e culturais. A limitada capacidade humana de absorção do que se passa pelo mundo está cada vez mais exigida, e isso é acentuado ao sermos expostos, via internet à quantidade imensa de informação e ruído que, certamente, não conseguiremos digerir, nem avaliar. Milan Kundera, em “Um Encontro”, coletânea de ensaios, ressalta que a aceleração da história transformou profundamente a existência individual. Se nos séculos passados “a existẽncia se desenrolava, do nascimento até a morte, em uma única época histórica”, maislentamente que a vida humana, hoje ocorre o inverso. A história escapa ao homemde tal forma que “a identidade e a continuidade da vida correm o risco de se romper”. É mais um argumento para que se acompanhem as formas e os processos com que essa tecnologia - que nem é tão nova - vai interagir conosco, especialmente com o imenso poder que trazem os progressos da área computacional e de algoritmos.

Parece esperado que em outras frentes se busquem atenuar riscos que venha a reboque, e isso é tanto verdade que já há projetos de lei para tratar do tema e, eventualmente, regular o seu uso. Usando o que se aprendeu com a internet nestes anos todos, parece prudente ir com mais vagar e mais cautela: foram quase 10 anos de debates amplos e abertos até a homologação do Marco Civil da Internet em 2014, e seis anos depois veio a lume a LGPD – Lei Geral de Proteção de Dados. Com essa legislação, sempre muito bem avaliada internacionalmente, o Brasil seguiu sem atrasos e com firmeza na expansão e disseminação da rede. As inequívocas vantagens que o acesso à rede trouxe a todos não impediram que se apontassem riscos e abusos, parte dos quais encontram remédio na LGPD. Outras ameaças de segurança somente serão atenuadas com campanhas e esforços perenes na criação de mão de obra técnica, na disseminação das boas práticas, e numa cooperação multissetorial ampla.

Num ambiente em que já temos alguma proteção, seja por leis criadas para omundo digital, seja pelos princípios constitucionais garantidos, parece prematuro discutir-se já uma eventual regulação da IA. A regra que se mostra sensata é aguardar a melhor definição e desenvolvimento do tema, estimulando-se que o país não “perca o pé” nessa tecnologia, e simultaneamente iniciar debates multissetoriais, a exemplo do que acontece pelo mundo, cuidando da proteção aos potenciais perigos. Tentar antecipar riscos ainda não claramente definidos poderá resultar em perigoso atraso do país nessa arena hoje tão crítica.

===
O documento da Inglaterra: U.K Government Publishes 10-Year Plan to Become 'A.I. Superpower'
 https://www.gov.uk/government/publications/national-ai-strategy

===
O projeto de lei "PL21 / 2020 e seus apensados":
https://www.camara.leg.br/propostas-legislativas/2236340

===
EBIA - Estratégia Brasileira de Inteligência Artificial
https://www.gov.br/mcti/pt-br/acompanhe-o-mcti/transformacaodigital/inteligencia-artificial

Os riscos da sincronização

A expansão das ubíquas redes sociais já foi tema de diversos artigos, que vão desde uma crescente impossibilidade, por parte de seus integrantes, de distinguirem o verdadeiro do falso no mar de informações que recebem, até comportamentos disruptivos originados por ambiente nunca antes explorado. Fazem-se analogias com bandos de pássaros, cardumes de peixes, enxames de insetos que, em situações específicas, conseguem comunicar-se de forma coletiva, assumindo magicamente configurações altamente sincronizadas, defensivas ou ofensivas.

Não distinguir entre o falso e o verdadeiro, além de ser um problema eterno e insolúvel, parece ser menos propenso a provocar o apocalipse apreogoado. Já do crescente comportamento de “manada” possibilidtado pela rede, podem surgir consequências imprevisíveis.

Segue alguma provocação, de simples observador, tendo lido alguns textos a respeito. Parece sólido afirmar que as pessoas, em sua grande maioria, sempre seguiram posições e ideias dos que consideram dignos de ouvir ou seguir. Afinal, no meio das ocupações diárias nem sempre resta tempo para aprofundamentos em temas diversos. Havia, assim, nosso crítico de cinema preferido que indicará um filme, o analista econômico que escolhemos e que desenhará o cenário vislumbrado, o veículo de informação no qual nos fiamos com mais frequência, etc. Pode-se dizer que, fora da nossa área de experiência, tendemos sempre a acompanhar alguém. Esses “guias” que de alguma forma escolhíamos para acompanhar com mais frequência eram, em geral, poucos indivíduos ou meios de comunicação. E boa parte da população, sempre atarefada, preferiria gastar o pouco tempo disponível com entretenimento, indicado por alguém ou não.

A Internet alterou isso profundamente. Não só há milhões que podemos agora ouvir ou seguir, como nós mesmo podemos tomar posição ou, simplesmente, repetir o que ouvimos e, com isso, também afetar os demais. Se antes, na medida de nossa disponibilidade e conveniência, escolhiamos a quem seguir ou imitar num tema, hoje somos cooptados, não só a acompanhar e emular um número imenso de “influenciadores” e veículos, como a fazê-lo de forma muito rápida e, portanto, superficial. Não precisamos gastar o bestunto para analisar se o que estamos aplaudindo ou repetindo é certo ou errado, verdadeiro ou falso. Bastará que estaja provindo de alguém que faz parte daqueles que seguimos. Assim, a imitação do comportamento alheio – que sempre houve – ganha proporções muito maiores com a Internet.

Outro ponto que pode ser causador de disrupção é a horizontalidade que a rede trouxe. Claro que é fundamentalmente positivo que todos se comuniquem e sejam acessíveis, mas a disponibilidade indiferenciada, potencializada pelo mimetismo citado acima, gera uma vulgarização de intervenções não apenas sem base mas também sem decoro. Afinal se posso me manifestar sobre qualquer tópico – e especialmente se meu líder do momento vai numa direção – posso criticar qualquer posição divergente, independentemente da qualidade ou especialidade de quem a emite. Hoje todos podem desmentir todos e, ainda por cima, em liguagem altamente agressiva, sem que haja nenhuma base factual além dos argumentos “ad hominem”.

Voltando a comportamentos coletivos, redes sociais podem ter consequências para nós ainda não avaliadas. Há na Internet vídeos que mostram surpreendente comunicação entre indivíduos dum bando. Enxames de vaga-lumes, por exemplo, sincronizam-se, e terminam por piscar todos, simultaneamente… Isso pode até ser bom para pirilampos, mas parece-me muito perigoso se humanos, estimulados pela rede, passarem a adotar esse tipo de sincronização.

===

artigos sobre os riscos das redes sociais:

https://www.vox.com/recode/2021/6/26/22550981/carl-bergstrom-joe-bak-coleman-biologists-ecologists-social-media-risk-humanity-research-academics

https://www.pnas.org/content/118/27/e2025764118

===

auto-sincronização de pirilampos:

https://www.youtube.com/watch?v=d77GdblhvEo&t=70s

===

Cambalache

No álbum branco de Caetano Veloso, 1969, há a faixa que Gardel já havia gravado, Cambalache, letra e música de Enrique Discépolo. Adolescentes, ouvíamos com um sorriso a música cantada em espanhol contendo mensagem bastante crítica ao estado de coisas, mas sem ter a menor noção de que sua feroz ironia poderia perder totalmente a graça uns 50 anos depois…

Daí, constato que sou velho - o que em si não é uma má notícia, tendo em vista as alternativas… Entre os inúmeros indícios da idade, posso começar, por exemplo, pelo meu desconforto com leituras amplas do que seja “arte”. Exemplifico com “a fonte”, ou o “urinol” de Duchamp, que é de 1917 e anterior a Cambalache. Claro que não sou competente para comentar tecnica ou artisticamente isso mas, definitivamente, não cai no meu gosto. Reconheço grande criatividade na obra, mas creio que estaria melhor numa categoria de “humor” ou “crítica”, que em “escultura” (aliás, as “sete artes” originais ainda seriam sete?).

A conexão com Cambalache veio ao ler uma notícia nesta semana, informando que um garoto de 12 anos conseguiu arrecadar uma pequena fortuna vendendo NFTs (“Non-Fungible Tokens”) na Internet. NFT poderia ser traduzido para “objeto insubstituível” mas, porque alguém pagaria para ter um? A pulsão humana em colecionar coisas não é novidade, e deve ser vestígio de nossa fase de caçadores-coletores. Quem sabe foi ela que nos levou a colecionar selos, moedas e outros produtos do artifício humano, mas aqui há, também, o perigo de extrapolações mais difíceis de explicar. Lembro, por exemplo, de um artista italiano no início dos anos 60, cuja “pièce de résistance” era uma coleção de latas, numeradas e datadas, contendo... fezes humanas. A obra chamou-se “Merde d’Artiste” e há exemplares ainda à venda, na Internet…

Como humor, como charge e como contestação, seria perfeito. Como arte, entretanto, certamente não atende meu tacanho gosto pessoal.

Voltando aos NFTs, trata-se de objetos que, com a adição de uma assinatura digital, tornam-se únicos e, assim, ganham a atenção de colecionadores interessados que investiriam para ter posse de um. Note-se aqui que esta posse também é apenas virtual, diferentemente das latinhas citadas acima.

Uma obra executada por meios eletrônicos pode ser assinada digitalmente usando-se um processo derivado do “blockchain”, e assim ir a venda ou leilão como “objeto único”, podendo obter lances elevados. No caso do garoto, ele produziu uma coleção chamada de “Weird Whales”, “baleias estranhas”, consistituida por 3350 pequenos desenhos digitais de baleias com acessórios. Conseguiu vender a colação toda em poucos dias. Há técnica precoce, arte e criatividade no trabalho dele, que merece recompensa. O que pode parecer um oxímoro é que, a algo que consegue ser reproduzido indefinidamente e mantendo rigorosa fidelidade à sua essência como é o caso da produções digitais, possa associar-se uma unicidade conceitual, um NFT. A distinção entre objetos e idéias tornou-se cada vez menos clara. Quando Tomas Jefferson afirmou que a transmissão do conhecimento e de idéias era como “acender uma vela na chama de outra”, ou seja quem recebe a luz não a rouba de quem a repassou, certamente não tinha previsto os novos tempos...

O efeito da Internet em reforçar esse comportamento é implacável: há uma compulsão universal, na rede, de seguirem-se tendências, para o bem ou para o mal, sem que se gaste tempo em pensar sobre elas. Nos dizeres do Cambalache, “vivemos misturados num mesmo lodo, todos manuseados”.

Do meu lado reconheço que preciso de um “aggiornamento” nesses temas, mas, afinal, estou velho e de certa maneira satisfeito com minha forma de pensar e ver as coisas. Mas vou aproveitar e procurar boas ofertas de NFTs na Internet, para iniciar minha própria coleção!...

===

Dois artigos sobre os NFT citados (Weird Whales):

Weird Whales #1877 em:

https://www.loop-news.com/p/a-12-year-old-kid-coded-his-own-nft

https://futurism.com/the-byte/12-year-old-400000-selling-nfts-to-idiots

===

Cambalache, cantado por Gardel e por Caetano:

https://www.youtube.com/watch?v=SvMcaSgiMro

https://www.youtube.com/watch?v=K3vuRcmDI8g

e com Raul Seixas, em português:

https://www.youtube.com/watch?v=7roDWoU2L8Y

===

A "fonte", de Duchamp:

https://en.wikipedia.org/wiki/Fountain_(Duchamp)

===

A "Merde d'Artiste", de Piero Manzoni:

https://en.wikipedia.org/wiki/Artist's_Shit

O reconhecimento por Imagem

A enxurrada de informações a que estamos submetidos, muitas vezes nos rouba a clareza necessária para avaliar não apenas a importância de determinada medida, mas também seus possíveis efeitos colaterais. Aliás, até parece proposital que temas importantes de debate sejam enfraquecidos através do desvio de foco para assuntos subsidiários.

Veja-se como exemplo a discussão sobre existência ou não de “viés” no uso de inteligência artificial em dispositivos equipados para reconhecimento de imagens. É muito razoável assumir que nos conjuntos de dados usados para a montagem de um sistema de reconhecimento automático de indivíduos existam significativos desequilíbrios quanto à homogênea e equitativa participação de amostras das diferentes etnias a culturas. Mas seria esse o ponto principal de discussão? Se faltam amostras de determinada etnia, o sistema deveria captar imagens adicionais para resolver essa carẽncia? Ou, e até com a nova LGPD, luta-se exatamente no sentido de diminuir a sanha de captura de dados e imagens nossas na rede? A ordem de discussão que parece prioritária seria, antes, debater a validade das intromissões que existem ao se procurar identificar automaticamente cada pessoa com base em sua imagem previamente armazenada. Se a conclusão for de que, sim, é útil e traz benefícios que sejamos identificados em cada ambiente em que nos encotramos pelas onipresentes câmaras, daí deveríamos buscar que essa aplicação tenha alcance global e atinja a todos igualmente. Se a decisão for, porém, em sentido contrário quanto ao uso da identificação de imagem automática obrigatória, parece contrasenso buscar expandir a todos algo que foi considerado não benéfico, ou abusivo. Ou seja não haveria porque corrigir qualquer viés aqui...

Ainda no mesmo tema, a decisão recente da Apple de, sob o argumento eventualmente honesto de combate à pornigrafia infantil, passar a examinar todas as fotos que usuários guardam na nuvem, deve ser examinada de forma muito cuidadosa. Argumenta-se que um dos problemas técnicos que poderiam ocorrer são os “falsos positivos”, dado que a base de fotos que seria usada como parâmetro já possui cerca de 20% de incorreções. Mas, valeria a pena lutar para limpar essas imperfeições da base (viés) de forma a eliminar os “falsos positivos”, ou o sistema em si, seja ele falho ou perfeito, já representa uma intromissão indevida em nossa privacidade? Isso não cai muito longe de implantarem-se câmaras em todas as casas com a finalidade de monitorar comportamentos adequados ou não de seus moradores! Os detalhes técnicos sobre possíveis ou prováveis viéses e erros de detecção não podem obliterar o que deveria ser o fulcro de discussão sobre a principal característica do sistema, que é buscar acesso direto ao conteúdo do que enviamos, colocando-nos, a todos, como suspeitos em potencial. Mesmo com todas as promessas de uso adequado e não vazamentos de dados, parece um abuso que, unilateralmente, alguém se meta a espionar o que enviamos.

Essa possível intromissão remete ao sempre citado “1984”, onde está postulado que “se alguém quer manter um segredo, deve escondê-lo até a si mesmo”. Afinal, a “polícia do pensamento” estará sempre atenta para detectar os que praticam “crimes de pensamento” e puní-los adequadamente...

Antes de se discutirem os detalhes técnicos de “como” algo deveria ser feito, parece muito importante que se avalie com antecedência se aquilo deveria mesmo ser feito, ou se os riscos e abusos que poderia acarretar a direitos fundamentais bastariam para que a proposta seja banida.

===

https://www.lightbluetouchpaper.org/2021/08/08/is-apples-neuralmatch-searching-for-abuse-or-for-people/

https://pt.wikipedia.org/wiki/Crime_de_pensamento

https://www.pensador.com/frase/MjE1MDk0Nw/

Legislação sobre a Internet

Em recente artigo, Akriti Bopanna e Diego Canabarro examinam os objetivos e os riscos de legislações sobre a Internet, na India e no Brasil. Os projetos são bastante similares (no caso brasileiro trata-se do PL 2630, conhecido como “Projeto de lei das Fake News”) ao buscar, entre outros pontos, meios de rastreamento das informações que circulam na rede. O título do artigo, “Um conto de duas propostas de rastreabilidade”, remete ao “Conto de Duas Cidades”, de Charles Dickens, em cujo começo lemos: “aquele foi o melhor dos tempos, foi o pior dos tempos; aquela foi a idade da sabedoria, foi a idade da insensatez, foi a época da crença, foi a época da descrença, foi a estação da Luz, a estação das Trevas, a primavera da esperança, o inverno do desespero…”.

Essa ambiguidade entre os objetivos declarados da legislação e suas consequências, muitas vezes desastrosas, está cada vez mais presente em projetos que tramitam em diversos países. Elaborados muitas vezes de forma apressada e sem a necessária maturação que um amplo debate público poderia trazer, sob a égide de objetivos “elevados”, frequentemente trazem junto riscos aos usuários e à própria Internet, de se verem indevidamente controlados ou cerceados. Uma legislação alemã, por exemplo, à guisa de proteger direitos autorais, não apenas dá direito como obriga plataformas a removerem conteúdos denunciados como potencialmente infringentes de direitos. Assim, além de repassar mais poder a elas - que já o tem com abundância no mercado internacional - assume a priori que o denunciado é culpado enquanto não provar sua inocência: a punição é aplicada imediatamente, com a remoção do conteúdo questionado.Os Fins e os Meios

Do lado das Américas o Canadá também anda “inovando” na área. Tramita lá o projeto de lei C-10, já aprovado na Câmara – justamente nas últimas horas dos trabalhos legislativos antes do recesso - e seguirá agora ao Senado. O projeto, bastante complexo e polêmico, tenta definir o que seja “conteúdo nacional” e privilegiar sua disseminação na rede, inclusive quando se tratar de material publicado por indivíduos. Ou seja, é possível que os vídeos que os usuários colocam em plataformas possam ser prejudicados se não demostrarem a priori que possuem origem canadens. Como se faria isso, é outra e imponderável questão...

Em outra exemplo, e esse com o argumento de se combater a organização de crimes pela rede, há proposta em discussão da Inglaterra que pede às plataformas a implementação de formas de quebra da criptografia em mensagens de usuários, ou do acesso ao texto original via uma “porta dos fundos” sorrateiramente implementada nos sistemas.

Num ambiente dinâmico e em expansão como a Internet, é claramente necessário o acompanhamento e a atualização do arsenal legislativo, para proteger principalmente os direitos dos cidadãos. Há uma forma boa de se conseguir essa constante atualização: trata-se de seguir os passos do que foi feito no caso do Marco Civil, uma legislação louvada internacionalmente como das melhores para a Internet. Assim, o “caminho das pedras” é conhecido e passa por discutirem-se a fundo os possíveis objetivos visados e, especialmente, evitarem-se nefastos efeitos colaterais, que acabem por privar-nos de bens maiores. Buscar açodadamente um objetivo, por quaisquer meios e sem levar em conta seus efeitos, é mau. Georges Bernanos, escritor francês que viveu no Brasil durante a segunda geurra, tem uma frase que ilustra bem esse risco: “o primeiro sinal de que a corrupção se instala numa sociedade ainda viva, é que os fins passam a justificar os meios”….

===
No Estadão:
https://link.estadao.com.br/noticias/geral,na-regulamentacao-da-internet-os-fins-nao-podem-justificar-os-meios,70003798014

===

O artigo citado:

https://obcrypto.org.br/#/post/um-conto-de-duas-propostas-de-rastreabilidade-intencoes-opostas-solucoes-perversas-convergentes-na-india-e-no-brasil

===

Georges Bernanos, "Why Freedom?" The Last Essays of Georges Bernanos, 1955

(1888 - 1948)  

http://www.quotehd.com/quotes/georges-bernanos-author-the-first-sign-of-corruption-in-a-society-that-is-still-alive

===

Artigos sobre o tema:
https://www.michaelgeist.ca/2021/05/this-is-who-the-canadian-government-wants-to-regulate-the-internet/
https://nationalpost.com/news/politics/crtc-chairman-under-fire-over-one-on-one-meetings-with-big-telecom-lobbyists
https://www.reuters.com/world/americas/canada-unveils-plans-make-online-hate-speech-crime-2021-06-23/
https://www.bloomberg.com/news/articles/2021-06-22/trudeau-s-party-passes-bill-to-regulate-social-media-streaming

https://www.techdirt.com/articles/20210802/08443047289/canadian-government-continues-war-internet-freedom-with-new-online-harms-legislation.shtml

===

Legislação em Portugal:
https://expresso.pt/politica/2021-07-29-Marcelo-envia-para-o-Constitucional-artigo-polemico-da-Carta-dos-Direitos-Digitais-68a42069

===

A serendipidade perdida

Há ano e meio que nosso ritmo de vida tem sido pautado pela Covid que assola o mundo. Ela não é apenas o tema da maioria dos noticiários e das conversas pessoais, mas também variável que afeta economias e nos ameça com um futuro ainda mal-definido, alcunhado de “novo-normal”.

A peste fez que, rapidamente, as comunicações inter-humanos migrassem para formas eletrônicas e remotas. Conversas, reuniões, aulas hoje são feitas usando plataformas (e, claro, com a indefectível adição de novas gafes e ratas…). A restrição nas idas aos estabelecimentos físicos, estimulou a entrega em domicílio de materiais e mercadorias. Afinal é a velha distinção entre bits e átomos: se os bits transitam com agilidade pelas conexões Internet nas trocas de informação e interações, a entrega física de átomos dependerá sempre de ldeslocamento físico… Para não perder a piada, “não há ainda no horizonte previsão de entrega de matéria via Internet”.

É bom acompanhar a evolução da peste para intuir, talvez, algum sinal de arrefecimento. Para testar nosso desassossego, há uma infinidade de dados e curvas a que podemos recorrer via internet, mas ainda não se vê nada muito promissor. As curvas de casos mundiais seguem um estranho desenhio de “montanha russa”, com subidas, caídas e novas subidas sem que se atine minimamento com uma explicação.

Uma análise mais objetiva das consequẽncias deste período ainda demandará tempo. Alguns pontos já ressaltam: certamente mostra-se indispensável o acesso de todos, sólido e eficaz, à rede. Em linha menos óbvia, por exemplo, há meses fala-se de uma carência de circuitos integrados (chips) no mercado, com um misto de fatores que influiram. Em recente artigo num blog da revista Spectrum, do IEEE, analisa-se esse ponto: se houve um desaquecimento de diversas indústrias consumidoras, como a automobilistica, houve, por outro lado, um impulso com a busca de dispositivos de acesso, conexão à rede e entretenimento. Agora, com a paulatina volta de setores que desaceleraram, os fabricantes de chips viram-se incapazes de atender à onda de demanda. Segundo o blog, isso começará a se normalizar durante o segundo semestre de 2021, mas apenas em 2022 voltaremos ao normal. Na pandemia, acelerou-se a disseminação de interfaces automatizadas que operem com linguagem natural e aplicações de Inteligência artificial no atendimento ao público. E, afinal, há oportunidades para sistemas que garimpem intensamente dados e perfis e, até, para os que simulam comportamento humano, não apenas exibindo linguagem natural, mas podendo comportar-se como “indivíduos” com determinado perfil ou idade, compondo textos que facilmente passariam por reais.

Haverá um “novo normal” ou voltaremos basicamente ao que havia antes? Claro que as experiências por que estamos passando deixarão sua marca no comportamento futuro mas, pessoalmente, torço pela volta de algo o mais próximo do “velho normal”. Há uma palavra inglesa,“serendipity”, que vai sendo incorporada como “serendipidade” e refere-se a acontecimento inesperado, fortuito, e benéfico. Como quando ao tropeçar em algo bolamos uma invenção. No “velho normal” muitas vezes em conversas ao redor do café, em esbarrões nos corredores, ou no lanche do almoço surgiam idéias valiosas que mudariam o curso dos acontecimentos. Um caso antigo famoso foi a descoberta por Flemig da penicilina – numa placa acidentalmente desprotegida cresceu um fungo que matava bactérias. Em acaso feliz, descobria-se a penicilina! Com o uso remoto a serendipidade diminuiu pois estamos muito mais enquadrados quando falamos em reunião virtual. Precisamos recuperar a possibilidade de toparmos com um benfazejo, inesperado e repentino “estalo”.

===

https://link.estadao.com.br/noticias/geral,precisamos-recuperar-a-possibilidade-de-acontecimentos-fortuitos,70003783458

===

Sobre a carência de "chips" no mercado:

https://spectrum.ieee.org/tech-talk/semiconductors/devices/how-and-when-the-chip-shortage-will-end-in-4-charts

===
Serendipity:

https://newhumanist.org.uk/articles/4852/science-and-serendipity-famous-accidental-discoveries

https://me.me/t/serendipity

Apostas no escuro

Um relatório das Nações Unidas sobre uma reunião de especialistas do conflito na Libia deixa a entender que, em março de 2020, houve um ataque “bem sucedido”, feito autonomamente por “drones do tipo quadricóptero”. Os tais veículos aéreos não tripulados contariam com câmera, armamento e, claro, a indefectível inteligência artificial para os guiar e tomar as decisões.

Na cruenta história das guerras, a supressão de vidas em combates foi uma constante, e acabam representadas por frias tabelas numéricas e estatísticas anódinas. Exceto nos casos acidentais, as mortes foram resultantes da ação deliberada de humanos, seja em combates corpo-a-corpo, seja em bombadeiros. Mas mesmo nos piores casos, há linhas éticas que devem ser respeitadas, e efeitos colaterais que precisam ser minimizados. Veja-se por exemplo a necessidade de se removerem as minas anti-indivíduos que ficaram sem ter sido detonadas, para que não se tornem, anos depois, ameaças a terceiros. Há acordos internacionais que preveem limitações em armas nucleares, químicas e biológicas, numa tentativa de demarcar a linha ética que não se deveria cruzar.

Como se coloca aí o problema de equipamentos autônomos com IA? Pode-se argumentar que, com o avanço da IA e dos equipamentos, o número de erros que essas máquinas fariam seria menor que se essas mesmas operações estivessem a cargo de humanos. Eu não compro esse argumento... Delegar decisões, mormente as que envolvem vida ou morte, a máquinas, além de parecer uma declaração tácita de falêncĩa moral, pode carrear consequências que não se conseguiria avaliar hoje. Lembro da cena do filme baseado em conto de Arthur Clarke “2001, uma Odisséia no Espaço”, em que um computador com IA - o HAL 9000 - decide não permitir que o astronauta volte à segurança da nave, porque o programa chegou à conclusão de que isso colocaria em risco o objetivo final da missão… Mais um caso em que o fim buscado justificaria os meios, na voz sintética do HAL 9000: “esta missão é muito importante, e não vou permitir que você a coloque em risco”

Outro argumento é o de que, se houver uma auditoria profunda nos programas escritos, teríamos como prevenir ou impedir viéses e fatalidades. Também não me convence esse argumento. Como exemplo, vejam-se os programas que aprendem a jogar xadrez, partindo apenas das regras do jogo e usando aprendizagem de máquina. Com algumas horas de treino esses programas ganham de grandes mestres e, com muito mais facilidade, claro, do mesmo humano que escreveu o programa original. Ou seja, evoluiram para examinar autonomamente situações de jogo e, sem trapaça, montar uma estratégia ganhadora imbatível.

Temos uma tendência atávica de abrir “caixas de Pandora” que pode nos levar à autodestruição. Tópico do momento: hoje se pesquisa e debate a origem do virus da Covid. Saiu de laboratório ou da natureza? Não tenho a menor competência para opinar mas, pessoalmente, ficaria mais confortável se ele fosse o resultado de um experimento que vazou. Tento explicar: se for algo da natureza, estamos diante de situações perigosas, de difícil prognóstico e controle. Mas se foi um produto humano que escapou acidentalmente, isso poderia se enquadrar - caso análogo a alguma IA – em uma ousadia humana impensada, que pode gerar acidente devastador. Aqui sempre poderiamos declarar que “a linha de prudência foi ultrapassada” e que certos experimentos devem obedecer a restrições éticas e morais.

Há uma frase centenária de G. K. Chesterton que, penso, ainda se aplica bem hoje: “Hoje aprendemos a fazer coisas maravilhosas. Nossa próxima tarefa é aprender quando não fazê-las”...

===

Informações sobre o ataque:

https://www.livescience.com/ai-drone-attack-libya.htm

https://undocs.org/S/2021/229

===
Video sobre o HAL 9000 em "2001, uma Odisséia no Espaço":

https://www.youtube.com/watch?v=Jkv-lNAqfmk

===
Frase de G. K. Chesterton citada:

https://www.chesterton.org/quotations-of-g-k-chesterton/

“We are learning to do a great many clever things…The next great task will be to learn not to do them“                        Queen Victoria, Varied Types

===
Inteligência Artificial confundindo uma bola com a cabeça de um humano calvo...

https://www.youtube.com/watch?v=HjJmO9NvKL8