Os perigos do reconhecimento facial e das ferramentas de IA

Funcionários de algumas grandes empresas de tecnologia, como Microsoft e Google, avaliaram os riscos da tecnologia de reconhecimento facial e das ferramentas de IA.

Brad Smith, atual presidente e conselheiro geral da Microsoft, chegou a pedir ao governo dos EUA que endureça as regulamentações sobre o uso dessas ferramentas revolucionárias, apesar de sua eficácia.

A tecnologia de reconhecimento facial e as ferramentas de IA estão dando grandes passos. No entanto, seu impacto na privacidade de muitas pessoas pode ser prejudicial. Um comunicado divulgado pelo grupo IA Now esta semana descreve seus principais inconvenientes nas áreas de educação, ordem pública e finanças.

A tecnologia de reconhecimento facial e as ferramentas de inteligência artificial levantam questões que afetam a privacidade de algumas pessoas.

Aplicativos poderosos, mas bastante duvidosos

Nos Estados Unidos, essa tecnologia comercializada pela Amazon em 2016 é polêmica. Apesar de seu desempenho aumentado, alguns aspectos ainda apresentam áreas cinzentas. A organização Anistia Internacional, por sua vez, convida as empresas a examinarem de perto o software de reconhecimento facial, bem como os serviços de inteligência artificial que seu governo usaria.

A Bloomberg aponta que, em um futuro próximo, é possível que as ferramentas de reconhecimento facial sejam capazes de decifrar as emoções e o estado de espírito de um indivíduo comum. Isso é chamado de reconhecimento de afeto. Essa notícia dificilmente encanta os gigantes da informática e da Internet.

O que pensam os defensores dos direitos?

Em uma de suas publicações, o AI Now revelou que as ferramentas de reconhecimento facial e inteligência artificial fornecem funções específicas diferentes do que pensamos. O que mais preocupa este grupo ligado à Universidade de Nova Iorque é a intrusão desta nova tecnologia (bastante banal) que, no entanto, está ao alcance de todos.

Uma dúvida que a cofundadora da Microsoft Research, Kate Crawford, sustenta em suas declarações. “Essas ferramentas são muito suspeitas e baseadas em dados defeituosos”, argumenta ela. Ainda segundo ela, as empresas, sejam elas quais forem, não devem ter um sistema de caixa preta em seus serviços sociais básicos.