A rede neural Gemini foi flagrada digitalizando arquivos PDF de usuários do Google Drive
O rápido desenvolvimento das redes neurais há muito tempo levanta preocupações entre os especialistas sobre como garantir a privacidade ao interagir com tais algoritmos. Esta semana houve mais uma confirmação de que estes receios não são em vão. O usuário da rede social X Kevin Bankster chamou a atenção para o fato de que a rede neural Gemini do Google verifica automaticamente os arquivos PDF armazenados no Google Drive sem obter o consentimento explícito do usuário.
Fonte da imagem: Google
“Acabei de abrir minha declaração de imposto de renda no Google Docs e Gemini resumiu-a sem permissão. Então… O Gemini verifica automaticamente até mesmo documentos pessoais que eu abro no Google Docs? <…> Eu não pedi isso. Agora preciso encontrar novas configurações que nunca me foram informadas para desativar isso””, escreveu Bankster em sua conta na rede X.
O que exatamente fez com que Gêmeos se comportasse dessa maneira ainda não está claro. De acordo com o próprio algoritmo, as configurações de privacidade usadas para informar o Gemini deveriam estar disponíveis publicamente, mas não é o caso. Isto pode significar que o algoritmo está produzindo informações falsas ou que alguns dos sistemas internos do Google claramente não estão funcionando corretamente. De qualquer forma, isso não parece muito bom, mesmo se assumirmos que a rede neural não utiliza dados pessoais dos usuários para treinamento.
Quanto a Bankster, depois de algum tempo ele escreveu que conseguiu encontrar nas configurações uma opção que, quando ativada, permite ao Gemini digitalizar documentos no Gmail, Google Docs e Google Drive. Ao mesmo tempo, ele observou que a opção estava desabilitada, mas por algum motivo o algoritmo ainda escaneou o documento e criou um texto generalizado baseado nele. Bankster acredita que o problema pode estar relacionado ao fato de ele ter se inscrito no Google Workspace Labs em 2023, o que pode ter feito com que as configurações do Gemini não fossem aplicadas corretamente.
Se você notar um erro, selecione-o com o mouse e pressione CTRL+ENTER.