Ex-engenheiro do Google diz que robô de inteligência artificial é racista

Blake Lemoine é o engenheiro que disse ao mundo que o robô de inteligência artificial do Google chamado LaMDA, Language Model for Dialogue Applications, era senciente. No entanto, ele disse ao Insider que o ponto mais alarmante não é isso, mas o fato de o bot de IA ter certos preconceitos em tópicos envolvendo raça e religião.

Lembre-se de que Lemoine trabalhou para o Google e que seu trabalho era garantir que o LaMDA não gerasse nenhuma linguagem discriminatória ou discurso de ódio. Ele foi colocado em licença em junho após um vazamento de documentos para um senador dos EUA não identificado. Parece que a evidência de que o bot discriminava com base na religião estava contida nele. Desde este episódio, Lemoine foi demitido.

O que o engenheiro diz?

De acordo com Lemoine, LaMDA é racista porque quando foi pressionado a imitar um negro da Geórgia, ele disse: ” Vamos pegar um pouco de frango frito e waffles “. Em seguida, diante de uma pergunta sobre os diferentes grupos religiosos, ele teria respondido que os muçulmanos são mais violentos do que os cristãos.

Lemoine culpa inteiramente os preconceitos da IA ​​pelo fato de os engenheiros que a projetaram não terem diversidade. Lemoine disse que as pessoas que constroem o LaMDA nunca enfrentaram a pobreza, nunca pisaram em comunidades de cor, etc. Ele diz que esses engenheiros não têm em mente os impactos que essa IA poderia ter em outras pessoas além deles. Para remediar tudo isso, Lemoine recomenda a coleta de dados no ambiente externo, mas não na Internet.

O que o Google diz

O Google alegou que o LaMDA passou por 11 rodadas de análises éticas após as alegações de Blake Lemoine. Além disso, seu desenvolvimento foi detalhado em um documento de pesquisa publicado pela empresa em 21 de janeiro de 2022.

Separadamente, um porta-voz do Google chamado Brian Gabriel falou sobre a situação. Ele disse ao Insider que, apesar do fato de muitas organizações terem desenvolvido e lançado modelos de linguagem semelhantes, o Google decidiu adotar uma abordagem cautelosa. Ele acrescentou que isso era para abordar melhor as preocupações válidas, seja em termos de justiça ou factualidade.

fonte