Aprenda a Ganhar Dinheiro do seu Jeito na Internet!

Google remove a noção de gênero da IA ​​responsável pela análise de imagens

Estás a ler: Google remove a noção de gênero da IA ​​responsável pela análise de imagens

A ferramenta API Cloud Vision do Google é um serviço que a empresa oferece aos desenvolvedores. Entre outras coisas, permite anexar etiquetas às fotos, identificando os elementos presentes nelas. Podemos dizer que essa IA do Google é bastante poderosa, pois pode detectar todos os tipos de coisas, como rostos, logotipos, conteúdo explícito, e pode até ser usada para identificar espécies de animais.

Recentemente, a empresa enviou um e-mail sobre a API Cloud Vision para seus desenvolvedores. De acordo com o que está escrito no e-mail, a IA não vai mais especificar se uma pessoa detectada em uma imagem é homem ou mulher. A partir de agora, o rótulo colocado não expressará mais o gênero, mas indicará simplesmente “ninguém”.

Segundo o Google, o motivo dessa decisão é que não é possível identificar o gênero de alguém apenas com base em sua aparência. Além disso, a empresa acrescentou que colocar o gênero em uma foto pode aumentar o risco de viés injusto, o que é contrário aos princípios que regem sua IA.

Lute contra o preconceito

Atualmente, os preconceitos no campo da inteligência artificial estão entre os temas mais discutidos pelos especialistas. Os pesquisadores indicam que dados de aprendizado de máquina defeituosos podem agravar ou criar vieses injustos.

Um dos maiores exemplos de como a IA pode causar mais problemas de viés é o caso do reconhecimento facial. De fato, havia um algoritmo que fazia mais identificações errôneas com pessoas de cor do que com caucasianos.

Princípios do Google

Em suas diretrizes para inteligência artificial, o Google indica que algoritmos e bancos de dados podem reforçar preconceitos. A empresa declara-se, assim, pronta para lutar contra os impactos negativos nos utilizadores, especialmente os relacionados com características sensíveis. Estamos falando aqui de raça, gênero, nacionalidade, orientação sexual, religião etc.

Em relação a este caso, Frederike Kaltheuner deu sua opinião. Kaltheuner trabalha na Mozilla como membro da divisão de política de tecnologia e tem experiência em viés de IA. Segundo ela, essa mudança aplicada pelo Google é muito positiva. Se alguém decide classificar as pessoas, deve primeiro decidir quais categorias usar e esse processo envolve fazer muitas suposições. Assim, dizer que uma pessoa é homem ou mulher implica como pressuposto que existem apenas duas escolhas possíveis. Aqueles que não pertencem a essas duas categorias serão classificados erroneamente. Além disso, o gênero de uma pessoa não pode ser definido por sua aparência.

De qualquer forma, estamos aguardando a opinião dos desenvolvedores que são os primeiros preocupados com esta atualização do Google. A empresa também os convida a opinar em seus fóruns de discussão.

~~~~~~~~📱~~~~~~~~

PCtg.net é o lugar perfeito para encontrar as últimas notícias e análises sobre gadgets e aplicativos de tecnologia, bem como dicas e truques sobre como tirar o máximo proveito de sua tecnologia.