Em poucos dias deve entrar em vigor o ECA Digital, que visa a proteger crianças e adolescentes no mundo virtual. Um dos componentes mais complexos do novo mundo é a adição intensa da IA.
A IA se apresenta hoje em diversos "sabores" e formatos, e eles variam inclusive no tipo de resposta que proveem às nossas perguntas. Mas isso não implica que, para uma mesma IA, a resposta a uma consulta seja constante... Não apenas porque pode haver atualização na base de dados que ela usa, mas também porque há um componente estatístico na composição da resposta, o que não impede que ela pareça articulada e convincente. Ou seja, a IA nos faz rever a idéia de que, ao formularmos uma pergunta, um mesmo interlocutor digital dará uma resposta constante. Cada resposta é um mundo possível, um labirinto que resulta de caminhos estatísticos, de escolhas internas não humanas; um mundo hoje delimitado por filtros, parâmetros e regras. A pergunta permanece, e o universo que pode respondê-la é regulado com eventuais pesos incluidos pelo gestor da IA. São "filtros" adicionados na tentativa de "domesticar" as respostas, de forma a que elas não sejam ofensivas ou inadequadas: não apenas aquilo que os dados mostraram. Perguntar é iniciar uma trajetória que escolherá um percurso entre os mundos possíveis, e essa variância é, certamente, fonte de desconforto.
Existe uma segunda distinção, menos evidente: a diferença entre a IA instalada em máquina isolada, e a da máquina conectada. A isolada tem como fonte de consulta uma biblioteca fechada, gerando respostas menos variadas. Já a conectada vive em "praça pública", com vozes, fóruns, debates, rumores e consensos frágeis. Ela é mais informada mas, paradoxalmente, mais vulnerável. O excesso de informação não decantada pode fazer com que a repetição de algo se travista de verdade. Parodiando Borges em Biblioteca de Babel, ter toda a informação é o mesmo que não ter nenhuma. Aquilo que a cultura humana aprendeu a decantar e perenizar via forma escrita e livros, não é reconhecido numa IA treinada com grandes volumes de indiscriminada "informação", muitas vezes contaminada pela busca da visibilidade. Mesmo que, com o tempo, várias dessas posições esdrúxulas esmoreçam, afetam indefectivelmente as repostas da IA aberta. É um dos argumentos que se usa para "filtrar respostas menos convenientes".
Voltando ao ECA, vai-se pedir à IA novamente alguma ação. Por exemplo, a verificação de idade de um consulente anônimo poderia ser "inferida" pela IA. A alternativa é a identidade digital para todos, mas cria-se grave tensão com a privacidade. O mesmo ocorre quando se espera que a IA eduque, impeça ou corrija comportamentos humanos. Ela não será o substituto da responsabilidade individual e parental, e seguirá sujeita à mediação social e aplicação posterior da lei.
Se esperávamos um oráculo de verdades eternas, recebemos um sistema que compõe versões plausíveis do mundo, mas sob condições. Como nos labirintos de Borges, o esforço para eliminar o imprevisível não resolverá: ilumina-se um corredor, apagam-se os demais, mas o mundo segue sendo uma coleção de labirintos.
https://www.estadao.com.br/economia/demi-getschko/eca-digital-esperar-que-a-ia-eduque-impeca-ou-corrija-comportamentos-humanos-nao-resolvera/
