Gmail obtém filtro de spam com tecnologia de IA em sua maior atualização de segurança em anos

Estamos a falar da integração do novo sistema de classificação de texto Resilient & Efficient Text Vectorizer (RETVec) no serviço postal. Segundo os desenvolvedores, ele identifica com eficácia mensagens de spam, incluindo e-mails com um grande número de caracteres especiais, emoticons, erros de digitação e outros elementos que antes eram distinguíveis pelos humanos, mas difíceis de detectar pelos filtros de spam. De acordo com os dados disponíveis, o novo algoritmo identifica eficazmente, entre outras coisas, mensagens com homóglifos, ou seja, sinais graficamente muito semelhantes entre si, com significados diferentes.

Segundo o Google, o algoritmo RETVec é treinado para identificar com eficácia mensagens que contenham um teste que foi manipulado de alguma forma, incluindo inserção ou exclusão de caracteres, erros de digitação, homóglifos, etc. quaisquer caracteres e palavras no formato UTF-8. Como resultado, os desenvolvedores receberam um algoritmo que funciona imediatamente em mais de 100 idiomas em todo o mundo.

Exemplo de e-mail de spam com homóglifos / Fonte da imagem: Ron Amadeo / arstechnica.com

Aparentemente, o RETVec funciona da mesma maneira que as pessoas leem. O algoritmo é construído na estrutura TensorFlow AI e em seu processo determina a “semelhança” visual para determinar o significado das palavras, em vez dos caracteres que realmente as compõem. De acordo com o Google, a substituição do vetorizador de texto do Gmail usado anteriormente pelo RETVec aumentou o nível de detecção de spam em comparação com a linha de base em 38%, e o número de falsos positivos diminuiu 19,4%. Ao mesmo tempo, o número de unidades de processamento de tensores (TPUs) utilizadas pelo modelo diminuiu 83%, o que torna a atualização atual uma das maiores para o sistema de segurança do Gmail nos últimos anos.