Uma discussão que corre solta pela rede é por que diferentes IAs gerariam diferentes respostas a perguntas claras. Há a suspeita sobre graus de viéses existentes, não apenas os que os dados aportaram, mas aqueles artificialmente incluidos para atingir algum "equilíbrio cultural" que não cause espécie. Há também a diferença intrínseca entre as IA que trabalham sobre um corpus fechado e as que acessam a Internet abertamente. Mas há ainda algo muito mais inesperado: uma mesma IA pode dar respostas bem diferentes a uma questão. Qual seria a explicação dessa variância? É da expectativa humana que, a toda pergunta, se houver uma resposta supostamente correta, ela tenderá a ser única. Pode ser difícil "cavar" essa resposta no universo do conhecimento, mas, escondida em algum canto, ela seria fixa.
Com os sistemas de IA, entretanto, passa-se algo diferente: eles não se constituem num "arquivo de respostas fixas" como seria uma enciclopédia, mas produzem essa resposta a partir do que abarcam. Nas LLM a resposta é montada palavra por palavra, e milhares de candidatas são examinadas para a geração de algo plausível como resposta. A mesma pergunta pode gerar respostas diferentes. ou divergentes, visto que a IA pode ter percorrido outros caminhos.Há parâmetros que podem estimular ou retringir essa variedade nas respostas. São alteráveis usando-se a API de consulta. Um deles define uma "temperatura" para o funcionamento da IA. Temperatura mais baixa faz com que o sistema escolha as palavras mais prováveis de forma conservadora, e as respostas tendem a estáveis. Já ajustar a IA para uma temperatura alta ampliará o campo de exploração: a resposta resultante será mais variada, mais criativa, eventualmente mais errática. Em outro mecanismo, conhecido como "top-k sampling", a IA é instruida a limitar sua escolha às k palavras mais prováveis naquele caso, Quanto menor o k, mas estreito o corredor por onde o texto avança. Quanto maior, mais caminhos estarão abertos.
Há também como mexer na "semente aleatória" do processo, "seed". Usar uma "semente" única pode gerar respostas reproduzíveis; mudá-la permitirá pequenas variações inicias, mas que, ao final, podem gerar respostas muito diferentes.
Esses parâmetros não mudam o conhecimento do modelo. Eles apenas determinam como será explorado esse universo, que inclui descobertas científicas, debates filosóficos, opiniões conflitantes, simplificações, ironias, falsidades e erros vulgares. Nesse oceano de perspectivas, não é surpreendente que se encontrem caminhos diferentes.
Uma mesma pergunta, por trajetórias probabilísticas, conduzirá a versões distintas. Operacionalmente coerentes, mas algumas claramente errôneas. Cada resposta poderia ser vista como uma espécie de "mundo possível". Respostas plausíveis mas diversas, abalam a idéia de que uma pergunta que aceite várias respostas seja um sinal de incerteza ou falha.
Ao tentar construir máquinas capazes de responder perguntas, acabamos revelando algo sobre a própria pergunta: nem sempre ela conduz a um único destino. Pode-se estar no início de um labirinto, e cada resposta é um caminho possível dentro dele.
Por que diferentes IAs podem gerar respostas variadas para uma mesma pergunta?
Nenhum comentário:
Postar um comentário