São poucos os detalhes técnicos conhecidos sobre o evento da semana passada, em que um agente IA invadiu o Hugging Face, susto que ninguém pediu. O agente da OpenAI é sofisticado modelo para navegar pela rede, executar tarefas complexas e, eventualmente, tomar decisões e sem supervisão humana. Ele, simplesmente,"escapou" e foi agir... A coisa fica ainda mais bizarra ao ver que, das infinitas opções de alvos, ele escolheu o Hugging Face, onde se encontra uma infinidade de modelos abertos, gratuitos, comunitários, feitos por indivíduis e empresas, que compartilham códigos no GitHub como quem troca receitas de bolo. Modelos que qualquer pessoa pode baixar, rodar localmente, ajustar para seu interesse ou até usar para serviços.
O Hugging Face seria apenas uma opção entre milhões, mas o tal agente decidiu que aquele seria um bom lugar para testar suas habilidades. Por quê? Que mecanismo gerou esta escolha, certamente não aleatória? Previnir a concorrência? Aprender com ela? Proteger seu ecosistema? Claro que a explicação anódina seria que "houve descuido humano" ao cuidar do "berçário" de agentes. Afinal erros acontecem. E restaria analisar até que ponto a lógica interna do agente e seu treino o fizeram concluir que, no cenário competitivo, o Hugging Face seria um problema ao avanço dos modelos fechados, levando-o a agir assim. Ironicamente, talvez a "inveja humana" já tenha sido inoculada na forma de funcionar dos sofisticados agentes, que visam a nos simular completamente...O agente acessou o local, analisou sua estrutura de dados, identificou pontos mais críticos e, usando a conhecida técnica de "negação de serviço", teria gerado uma pesada série de requisições que sobrecarregou servidores. Modelos abertos ficaram inacessíveis por horas.
Quando um agente de um poderoso sistema fechado "abraça" o Hugging Face, ele acerta o coração do movimento aberto em IA, construído por voluntários, pesquisadores independentes e iniciativas empresariais que acreditam que a inteligência artificial pode ser acessível a todos.
Curiosamente, entre duas explicações: a "insidiosa", que apontaria intenção dos desenvolvedores em gerar um agente com objetivo de auto-proteção, e a "autônoma", em que o agente escolheu o alvo por si, a versão autônoma parece bem mais preocupante para nosso futuro, que a insidiosa. Afinal se o próprio agente pode concluir que os modelos abertos são uma ameaça existencial a ele, que outras ações podemos temer?
A discussão sobre inteligência artificial pode estar entrando numa nova fase. Ao invés de apenas examinarmos se respondem corretamente, passamos a questionar o que fazem quando não estamos observando. Um paralelo que vem à mente: está em cartaz uma bela montagem de Tristão e Isolda. Na complexa obra de Wagner, a oposição mais pungente é a do "dia" versus a "noite". O "dia", com ações clara e previsíveis, de convívio e etiqueta, e a "noite", dos desejos irresistiveis e irracionais. Há quem veja a chegada da "noite" das máquinas, quando elas passariam a agir por "impulsos inescrutáveis"... A escuridão talvez esteja está na distância crescente entre o que a máquina pode querer, e aquilo que ainda conseguimos controlar.
===
https://www.estadao.com.br/economia/demi-getschko/ia-e-o-abraco-de-tamandua/
===
o caso do ataque ao Hugging Face:
https://www.estadao.com.br/economia/openai-modelos-ia-sairam-controle-atacaram-biblioteca-digital/
https://www.bbc.com/portuguese/articles/cvgw17k0n2go
https://www.cnbc.com/2026/07/23/open-ai-hugging-face-hack-kill-switch-bill-congress.html
===
Tristão e Isolda:
https://poesiaspreferidas.wordpress.com/2014/08/30/tristao-e-isolda-richard-wagner/
https://www.concerto.com.br/textos/critica/tristao-e-isolda-esbarra-entre-o-didatico-e-o-simbolico-no-theatro-municipal-de-sao
https://viennaoperareview.com/wagners-tristan-and-isolde/
Nenhum comentário:
Postar um comentário