O Google responde depois que o termo de pesquisa produz uma alusão anti-semita ao Holocausto
29-09-2020 - JERUSALEM POST
Ao fazer uma busca de imagens por "carrinhos de bebê judeus", os usuários viam fileiras e mais fileiras de fornos portáteis - uma alusão ofensiva ao Holocausto.
O Google respondeu aos relatos e protestos em torno de um termo de busca inócuo que retornou imagens anti-semitas virulentas e retórica, afirmando que mudou seu algoritmo a fim de bloquear o potencial de resultados ofensivos como esses no futuro.
Ao fazer uma busca de imagens por "carrinhos de bebê judeus", os usuários viam fileiras e mais fileiras de fornos portáteis - uma alusão ofensiva ao Holocausto.
"Esses resultados não refletem nossas opiniões e compartilhamos as preocupações sobre esses resultados de baixa qualidade", disse o Google ao Algemeiner em um comunicado. "Fizemos um trabalho considerável para melhorar as instâncias em que retornamos conteúdo de baixa qualidade e examinaremos essa situação para ver como podemos retornar resultados mais úteis."
O Google observou que eles abrigam uma equipe permanente para cuidar de tais problemas e atualmente estão lidando com este à medida que se desenvolve. No entanto, o Google normalmente não remove os resultados da pesquisa totalmente ou faz ajustes para um termo de pesquisa específico, a menos que seja considerado ilegal, e acredita que as pessoas devem ter o direito à liberdade de informação dentro da legalidade, mesmo tropos anti-semitas, calúnias raciais, etc.
"Nossos produtos são plataformas de expressão livre, mas não permitimos discurso de ódio", afirmou o Google, “Se encontrarmos conteúdo ou comportamento que viole essas políticas, responderemos de maneira adequada, incluindo a possível remoção desse conteúdo ou o encerramento dos privilégios da conta. "
Estes acordos de termos de serviço aplicam-se apenas ao YouTube e outras plataformas do Google, não ao seu mecanismo de pesquisa. Um porta-voz do Google disse ao Algemeiner que ele não remove esses tipos de resultados porque pode haver um "interesse público" em pesquisar essas ideias para saber que estão lá fora, possivelmente combatê-las etc. - remover as páginas seria ser prejudicial a este respeito.
Um porta-voz disse que a empresa busca “melhorias sistemáticas mais amplas que possam tornar a Pesquisa melhor para outras consultas como essa”. Em particular, disse o porta-voz, o desafio aqui é um "vazio de dados" em que o único conteúdo disponível para um termo de pesquisa é "ofensivo [ou] de baixa qualidade".
O Google observou que é "raro" um termo de pesquisa inócuo como "carrinhos de bebê judeus" retornar os resultados ofensivos que eles fizeram, acrescentando que seu algoritmo é codificado para evitar a exposição a esses tipos de resultados de baixa qualidade sem realmente buscar ativamente o conteúdo ofensivo .
"Quando as pessoas procuram imagens no Google, nossos sistemas dependem em grande parte da correspondência das palavras em sua consulta com as que aparecem ao lado das imagens na página da web", disse o Google quando a pesquisa ofensiva foi divulgada a eles. "Para esta consulta, que é para um produto que realmente não existe, as correspondências mais próximas são as páginas da web que contêm conteúdo ofensivo e odioso. Fizemos um trabalho considerável para melhorar as instâncias em que retornamos conteúdo de baixa qualidade e iremos observe esta situação para ver como podemos retornar resultados mais úteis. "
Segundo os pesquisadores , o resultado pode não ser acidental. É possível que sejam o resultado de uma campanha extremista coordenada em um site marginal para produzir essas imagens específicas.
O Network Contagion Research Institute, que estuda a forma como o discurso de ódio se espalha online, localizou uma série de postagens no quadro de mensagens do 4chan, que datam de 2017, que combinam propositalmente imagens de fornos sobre rodas com o termo "carrinho de bebê judeu". Havia pelo menos uma dúzia dessas imagens encontradas em uma pesquisa, datando de agosto e setembro de 2017. Isso significa que esses resultados podem estar em vigor há anos, embora tenham chamado a atenção na sexta-feira.
A postagem desse termo específico ao lado da imagem pode ter manipulado o algoritmo de busca do Google, de modo que promoveu essas imagens quando os usuários pesquisavam o termo, diz Joel Finkelstein, diretor do instituto.
"O que acontece é que eles enganam o Google para colocá-los no topo", disse Finkelstein. "Eles colam a imagem com as palavras para que, quando você pesquisar essas palavras, a imagem chegue ao topo."
Referências a fornos são relativamente comuns entre os anti-semitas, que as fazem aludir a judeus pertencentes aos crematórios nazistas usados ??para incinerar os corpos de judeus mortos no Holocausto.