A Yahoo desenvolveu uma inteligência artificial para detectar
comentários odiosos ou abusivos em suas seções de notícias. De acordo
com a empresa, o sistema é capaz de detectar até 90% dos comentários
insultosos, o que o torna superior aos melhores algoritmos do tipo, segundo seus criadores.
De acordo com a empresa, o sistema utiliza tanto tecnologias de
aprendizagem de máquina quanto a interação de usuários para escanear os
comentários do Yahoo News e do Yahoo Finance. Humanos ajudam o
computador a detectar abusos que poderiam passar despercebidos pelas
máquinas, como comentários irônicos ou sarcásticos.
Sinais de abuso
Muitos sistemas semelhantes realizam esse tipo de serviço filtrando
comentários que utilizam palavras de uma "lista negra" de expressões
odiosas e claramente racistas, homofóbicas, xenofóbicas ou machistas. O
sistema da Yahoo, no entanto, avalia também outros fatores, como o
tamanho dos comentários, o uso de caps lock e o número de marcas de
pontuação.
Outros fatores avaliados pelo sistema são "palavras e expressões
educadas", segundo o Mashable. Esses termos incluem verbos como
"poderia" e "deveria". Graças a esses fatores, a empresa declarou que
ele consegue ter um desempenho até 10% melhor que o dos algoritmos
anteriores usados para esse fim.
Pagos para ler comentários
Para complementar a atuação do algoritmo, a Yahoo também utilizou
funcionários especialmente treinados para classifdicar alguns
comentários entre "abusivos" ou "não abusivos". Como os sistemas de redes neurais precisam ser treinados antes de que possam funcionar de maneira autônoma, essa etapa foi importante para o desenvolvimento do algoritmo.
Além disso, a Yahoo também usou uma ferramenta da Amazon, chamada de Mechanical Turk,
para envolver humanos no processo. Esse recurso permite que qualquer
pessoa se cadastre para realizar essa mesma avaliação, e os
participantes recebiam US$ 0,02 por cada comentário avaliado.
Fonte: Olhar Digital
Notícia