terça-feira, 22 de outubro de 2024

Aspirando dados

Falou-se nestes dias sobre aspiradores de pó “inteligentes”, que estariam agindo de forma estranha e abusiva. Não apenas recolhendo dados da residência em que operam e enviando-os ao fabricante – o que, de certo modo, era até previsto pelos “termos de uso” que acompanham o equipamento - mas também, após invadidos por terceiros, usarem o altofalante para disparar impropérios e obscenidades… Seria cômico, não fosse preocupante.

De tempos em tempos questões básicas retornam. Há 10 anos, por exemplo, houve um alerta, associado à grande difusão da Internet das Coisas, de que dispositivos caseiros – à época o caso mais difundido era o de câmeras de vigilância domésticas - estariam sendo invadidos por programas maliciosos. Um caso emblemático foi do virus Mirai, que conseguiu montar e controlar um exército de equipamentos “zumbis”.

Há diferentes pontos a considerar aí. Quanto à motivação para captura de dados, a explicação mais plausível hoje é a ligada à Inteligância Artificial, e ao fato de que o “aprendizado de máquina” depende viceralmente da aquisição de grande quantidade de dados, principalmente no ambiente em que atuará. Essa, inclusive, é a explicação embutida nos “termos de uso” do fabricante: para um dispositivo automático ser eficiente e confiável, ele deve reconhecer, com a maior acuidade possível, o ambiente em que se encontra, e o modo de ação que dele se espera. Isso exige, por exemplo, que esses dispositivos permaneçam ligados à Internet. Afinal, e pensando bem, por que um aspirador que está operando numa casa precisaria, indefectivelmente, estar ligado à rede para funcionar? Ao menos por enquanto, outros eletrodomésticos convencionais funcionam sem acesso à rede… A primeira ameaça que presiste, portanto, é a de que dados nossos, inadvertidamente, sejam coletados e enviados ao fabricante, à guisa de “aperfeiçoamento dinâmico do sistema”.

A segunda e mais insidiosa possibilidade vem de que, se existe um caminho de acesso remoto, ele poderá ser explorado por mal-intencionados. Claro que descuidar de senhas, fracas ou antigas, facilita a ação de invasores, mas – e é o que se vê no caso - mesmo com cuidados básicos do usuário, eventuais brechas de segurança do fabricante permitiram o acesso indevido. Alguns invasores, como o Mirai, buscavam manter-se invisíveis até porque seu alvo não era o equipamento em si: eles visavam a objetivos mais gerais. Usando os pontos invadidos como base, o exército do Mirai buscava, com ataque de “negação de serviço” (DoS) tirar do ar serviços importantes. E buscava manter-se invisível. Alguns dos invasores atuais, entretanto, ou buscam nossos dados, ou querem mostrar “competência” e haurir a “fama” do feito. Assim, não hesitam em exibir-se, dirigindo impropérios ao pessoal da casa. Se o aspirador tem altofalante e microfone para poder dialogar com o pessoal de casa, nada impede que se usem para um fim menos digno. E onde há uma “porta”, há sempre um risco de intrusão. A hiperconectividade facilita o abuso de nossa privacidade. Fiquemos atentos!

===


Notícias sobre o caso:
- do Bruce Schneier:
https://www.schneier.com/blog/archives/2024/10/deebot-robot-vacuums-are-using-photos-and-audio-to-train-their-ai.html

- do Panda Security

- na Austrália:

===
trecho dos "termos de uso" da Ecovacs:
https://gl-us-wap.ecovacs.com/content/agreementNewest/PRIVACY/DEFAULT/DEFAULT
We, Ecovacs Robotics Co., Ltd. (hereinafter referred to as “we”, “us” or “our”) respect and protect your privacy and personal information. This ECOVACS HOME Privacy Policy (hereinafter referred to as this “Policy”) explains the way we process your personal information and the rights you have under this Policy, when you use the ECOVACS HOME App provided by us (hereinafter referred to as the “App”) to control and administer the robotic cleaning device that are connected to your App user account (hereinafter referred to as the “Device”). Being the App operator, we act as the controller of your personal data which we will obtain directly from you as the data subject. The App may contain links to external websites operated by our affiliates, third parties or us. When you click on such a link, the website will be presented in the web browser of your smart phone and the processing of your personal information will be subject to the privacy policy of the relevant website.



terça-feira, 8 de outubro de 2024

Tempos…

Quinta-feira passada tomou posse, como novo acadêmico da Academia Paulista de Letras, o jornalista e colunista deste jornal, Eugênio Bucci. Posso colocar como ponto muito positivo de minha trajetória o ter tido o privilégio de encontrá-lo e conviver em diversas instâncias da vida. Tendo como padrinho o ilustre jurista e intelectual Celso Lafer, Eugênio assumiu a cadeira 12 da APL. Ambos brindaram os presentes com excelentes e provocativos discursos.

Da parte que diz mais respeito ao nosso tema, destaco uma tirada espirituosa de Eugênio, quando já perto do final de seu discurso, e fazendo referência ao tema do momento – a Inteligência Artificial e seus riscos – chamou a atenção para algo que considerava igualmente preocupante e talvez, sistematicamente descurado: o avanço da “ignorância artificial”. As risadas que se seguiram à boutade talvez reforcem que, de fato, não estaríamos dando a atenção devida.

Começo por notar o adjetivo “artificial”. O conceito básico aqui é “algo feito com artifício”, por algum agente, um“artífice”. Não se trata de mera oposição a “natural”, mas atem-se ao fato de ser uma criação humana. Ou seja, essa “ignorância” é diferente da “falta de informação e de conhecimento sobre algo”, como seria a ignorância natural. Talvez seja algo construido de forma lenta, talvez insuspeitada. Não é o caso de brotarem teorias conspiratórios, mas talvez de constatarmos os efeitos que advêm da exposição contínua e intensa ao mundo de redes e toda sua parafernália.

Que hoje a IA tenha desestimulado a leitura em sua forma imersiva e tradicional, parece um fato estabelecido. Como diz Huxley em Admirável Mundo Novo, “não consumiremos muito se ficarmos sentados, lendo…”. Consegue-se um resumo instantâneo de qualidade incerta, bastando pedí-lo a uma ferramenta de IA. Poupa-nos o trabalho de destrinçar o texto e as idéias do autor, e nos provê um resumo insosso e bastante superficial. Não é muito diferente o que se passa com nossas atuais fontes de informação, das quais aproveitamos, se tanto, a manchete. E para eventual sentimento de solidão e isolamento, há os avatares que nos fazem companhia, consolam e divertem. A associação da velocidade e da ubiquidade da Internet, com do poder dos algoritmos em nos enredar, faz com que tenhamos nossa porção gratuita de “felicidade”, como acontecia com o SOMA no Admirável Mundo Novo.

Nada disso desmerece ou diminui os avanços espantosos da tecnologia, nem serve para desestimular o uso das novas ferramentas. Já existe até uma “engenharia de ‘prompts’” visando a nos capacitar a pedirmos com mais acurácia o que esperamos obter da IA. Mas devemos nos manter atentos.

Relembrando os discursos daquela sessão na APL (enquanto procuro acompanhar também os resultados do primeiro turno das eleições, a apenas minutos do fechamento das urnas…), outra provocação vem à mente: em seu discurso de apresentação do postulante, Celso Lafer citou um adágio, que penso atemporal. Disse ele: “a verdade não morre, mas tem uma vida miserável...”.

===
Trecho citado de "O Admirável Mundo Novo":

https://www.goodreads.com/quotes/594665-you-can-t-consume-much-if-you-sit-still-and-read

“You can't consume much if you sit still and read books."

Sobre o SOMA:
https://cornellsun.com/2023/11/27/modern-soma/

"Soma is the instant gratification drug that has desensitized society in Aldous Huxley’s 1932 Brave New World. But 92 years later, this drug sounds awfully familiar — it’s just been going by different names: phones, the Internet, the virtual world. I fear how similar our dissociative societies are, as Huxley’s world blurs into our own. Is his world a road map for the journey we are about to begin, or a warning that will help us avoid an artless, passionless society where we are enslaved to instant gratification technology?

https://www.huxley.net/soma/somaquote.html