O novo recurso de IA do Instagram avisará os usuários antes de publicar …

Não há como negar que a Internet está cheia de ódio e coisas abusivas. Especialmente as mídias sociais são tratadas por alguns como uma plataforma de abuso. O Instagram criou um novo recurso que avisará se sua legenda é abusiva. E a melhor parte é que ele avisa antes mesmo de publicar a legenda.

O Instagram anunciou que começou a lançar uma nova ferramenta que informará os usuários se sua legenda pode ser considerada ofensiva. Essa é uma tentativa de ajudar os usuários a repensar o que estão postando ou, em alguns casos, reformular a legenda de forma que não seja abusiva.

O recurso é alimentado por uma Inteligência Artificial que funciona nos bastidores. É capaz de sinalizar palavras “potencialmente ofensivas” e automaticamente dá aos usuários a opção de “editar legendas”. Além disso, os usuários também terão a opção de “aprender mais” ou substituir a legenda selecionando “compartilhar de qualquer maneira”.

Como parte de nosso compromisso de longo prazo de liderar a luta contra o bullying online, desenvolvemos e testamos a IA que pode reconhecer diferentes formas de bullying no Instagram. No início deste ano, lançamos um recurso que notifica as pessoas quando seus comentários podem ser considerados ofensivos antes de serem postados. Os resultados foram promissores e descobrimos que esses tipos de cutucadas podem incentivar as pessoas a reconsiderarem suas palavras quando tiverem uma chance.

A partir de agora, sempre que os usuários digitarem uma legenda para uma postagem, a IA detectará e solicitará que eles editem a legenda. Desde o início, o novo recurso deve educar os usuários sobre o cyberbullying e também reduzir os riscos de serem bloqueados. Com toda a probabilidade, também aliviará o fardo do Instagram quando se trata de rastrear legendas abusivas.

[via Instagram]