Notícias

Nova extensão do Chrome tem como objetivo tornar a Web menos tóxica

A Jigsaw, que é propriedade da empresa-mãe do Google Alphabet, divulgou na terça-feira a Tune, uma extensão experimental do Chrome que permite aos usuários ocultar os comentários que seus algoritmos identificam como tóxicos. Está disponível para Mac, Windows, Linux e o SO Chrome.

O Tune se baseia nos mesmos modelos de aprendizado de máquina (ML) que fortalecem a API Perspective do Jigsaw para avaliar a toxicidade dos comentários.

Os usuários do Tune podem ajustar o volume de comentários de zero para qualquer coisa.

O Tune não pretende ser uma solução para alvos diretos de assédio, ou uma solução para toda a toxicidade, observou o Gerente de Produto da Jigsaw, CJ Adams, em um post online. É uma experiência para mostrar às pessoas como a tecnologia ML pode criar novas formas de capacitar as pessoas enquanto elas lêem as discussões on-line.

O Tune funciona apenas para comentários em inglês, no Facebook, Twitter, YouTube, Reddit e Disqus. Comentários em outros idiomas serão mostrados acima e ocultos abaixo, um limite pré-definido.

O modelo ML do Tune é experimental, então ele ainda perde alguns comentários tóxicos e oculta incorretamente alguns comentários não-tóxicos. Os desenvolvedores têm trabalhado na tecnologia subjacente e os usuários podem fornecer feedback na ferramenta para ajudar a melhorar seus algoritmos.

Medo e repulsa ao longo do tempo

“Não temos idéia de como policiar a Internet, portanto, vamos passar para um robô”, brincou Michael Jude, gerente de programa da Stratecast / Frost & Sullivan .

“Você não sabe o que está fazendo com os dados que coleta. Você não sabe quem construiu. Você está desistindo da liberdade de fazer suas próprias determinações”, disse ele à TechNewsWorld.

“Se alguém decide utilizar a mídia social, está tacitamente concordando em acessar certa quantidade de discordância, discurso de ódio, seja o que for”, destacou Jude. “Como um comediante famoso disse uma vez, você paga seu dinheiro e você se arrisca.”

Como funciona o tune

O Tune faz parte do projeto de pesquisa Conversation-AI e é completamente open source, então qualquer um pode examinar o código ou contribuir diretamente para ele no Github.

“Quanto mais granulares são as APIs e quanto mais abertos os controles, melhor os desenvolvedores podem ajustar os algoritmos analógicos de conversação para gerar menos falsos positivos e falsos negativos”, disse Ray Wang, analista principal da Constellation Research .

No entanto, o Tune exigirá uma quantidade crescente de dados para ajuste fino. Os usuários precisam se inscrever para fornecer acesso à API de perspectiva.

Os comentários lidos não estão associados às contas dos usuários ou são salvos pelo Tune. Em vez disso, eles são enviados para a API de perspectiva para pontuação e, em seguida, são excluídos automaticamente quando a pontuação é retornada.

Existem duas maneiras de enviar comentários: clicando em Sobre> Feedback, onde o ID do usuário da conta é incluído no relatório de feedback; ou enviando uma correção para como um comentário é pontuado. Para correções, o texto do comentário e a resposta do usuário são armazenados para treinamento do sistema ML, mas o envio não está vinculado ao ID do usuário.

Problemas de liberdade de expressão

Assim como nas tentativas anteriores de gerenciar ou controlar os comentários on-line, o Tune pode desencadear um debate sobre liberdade de expressão.

“No filme Zorro, o Gay Blade , uma mulher disse ao comandante militar de uma cidade que tentou impedi-la de protestar que as regras da cidade eram de que qualquer pessoa poderia dizer qualquer coisa que quisesse na praça da cidade”, lembrou Jude.

“A mulher está certa!” o comandante respondeu. “Ela pode dizer o que quiser. Prenda quem ouve.”

Ainda assim, “alguns parecem acreditar que a liberdade de expressão significa que você precisa ouvir o que eles dizem”, observou Rob Enderle, principal analista do Enderle Group .

“Mesmo que isso esteja incorreto, isso não reduz a crença de que suas próprias palavras devem ser invioláveis”, disse ele à TechNewsWorld.

A tecnologia Tune “é uma boa maneira de resolver um problema real, e vai aprender e melhorar com o tempo”, afirmou Doug Henschen, analista principal da Constellation Research.

“O Tune coloca o controle nas mãos do indivíduo”, disse ele ao TechNewsWorld. “Os comentários ainda estão sendo publicados e, portanto, não são contidos, mas os usuários estão optando por não vê-los. Isso é um direito deles.”

Com bots e fábricas de spam produzindo conteúdo falso, o Tune “é a resposta para recuperar algum controle para permitir a liberdade de expressão”, observou Wang da Constellation.

Tune “permite que você se livre dos trolls que têm uma voz desproporcional”, disse ele. “Ele também irá conter as pessoas que publicarem o mesmo conteúdo várias vezes nos comentários.”

Os algoritmos parecem estar funcionando bem para o Google em seus sites que aceitam comentários, observou Wang, e “liberar a tecnologia para os outros é um bom primeiro passo”.

Ameaça do Tune para Mídia Social

A mídia social é toda sobre globos oculares, e quanto mais controversa é uma declaração, mais olhos serão atraídos para uma página.

Isso levanta a questão de saber se o uso de Tune pode desencadear uma reação dos sites de mídia social.

“Não acho que os sites de mídia social condenariam seus próprios usuários por tentarem controlar o que vêem”, disse Henschen, da Constellation.

Eles podem, na verdade, ver o Tune como útil, porque “os proprietários de conteúdo têm a obrigação de tentar abordar o discurso de ódio e coisas do gênero, mas fazê-lo em escala é caro”, observou ele.

A perspectiva pode ser enganada através do uso inteligente da linguagem, mas o Google resolveu alguns dos primeiros problemas que surgiram.

No entanto, outro grupo de pesquisadores publicou no ano passado um artigo que dizia que todas as técnicas de detecção propostas poderiam ser contornadas por adversários inserindo automaticamente erros de digitação, alterando limites de palavras ou adicionando palavras inócuas à fala. Eles recomendaram o uso de recursos em nível de caracteres, em vez de recursos em nível de palavra, para tornar os modelos de detecção de fala em ML mais robustos.

O modelo Tune ML ainda é imaturo, então “espero ver muitos problemas como esse”, disse Enderle. Uma vez que tenha amadurecido, no entanto, “deve ser capaz de lidar com esses esforços para comprometê-lo com eficiência suficiente para tornar o jogo um desperdício de tempo”. 

Click to comment

Leave a Reply

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

sete + dez =

Esse site utiliza o Akismet para reduzir spam. Aprenda como seus dados de comentários são processados.

Mais Vistas

To Top