De interpretar a linguagem das redes neurais em linguagem natural

Equipe de Evan Hernandez do MIT desenvolveu um método que permite lançar luz sobre o funcionamento interno das redes neurais de caixa preta. Com base no modelo do cérebro humano, o redes neurais são organizados em camadas de nós interconectados. chamado “neurônios”, esses nós processam os dados. O novo sistema pode reproduzir automaticamente as descrições desses neurônios individuais, gerado em inglês ou outro idioma natural.

o redes neurais às vezes são chamados “caixas pretas”. Estes últimos têm a capacidade de superar os humanos em determinadas tarefas. No entanto, mesmo os designers muitas vezes não entendem como ou por que eles funcionam tão bem. Fora do laboratório, o conhecimento de operação do modelo ajuda os pesquisadores a prever o comportamento na prática.

Os pesquisadores aplicaram seu método para auditar uma rede neural para determinar o que ele aprendeu. Além disso, seu sistema ainda permite modificar uma rede identificando e, em seguida, desativando neurônios desnecessários ou incorretos.

MILÃO

Hernandez e seus colaboradores nomearam o sistema MILÃO (anotação linguística de neurônios guiados por informações mútuas). ao contrário da maioria inteligência artificial, não requer uma lista de conceitos com antecedência. ele pode produzir automaticamente descrições em linguagem natural de todos os neurônios de uma rede.

Uma das atribuições do MILAN diz respeito reconhecimento de objetos e síntese de imagens.

“Em uma rede neural treinada para classificar imagens, haverá toneladas de neurônios diferentes para detectar cães. Mas, existem muitos tipos diferentes de cães e muitas partes diferentes de cães.

Hernandez

Ele enfatizou a necessidade de descrições muito específicas do que esse neurônio faz.

“Não se trata apenas de cães; este é o lado esquerdo das orelhas dos pastores alemães.»

Análise, verificação e modificação de redes neurais

Os pesquisadores analisaram A importância dos neurônios para a rede neural. Neurônios cujas descrições continham duas palavras muito diferentes mostram uma influência fraca.

Próximo, aplicado a rostos humanos, o MILÃO surpreendeu a equipe de Hernandez. Ao contrário de outros sistemas, é capaz de produzir todos os tipos de tratamentos faciais com imagem borrada.

Hernandez e sua equipe também usaram o MILÃO para editar uma rede neural. Encontrar e remover neurônios que detectam correlações ruins nos dados levou a aumentar a precisão da rede em 5%.

No entanto, o modelo às vezes emite descrições muito vagas. Caso contrário, ele faz uma suposição incorreta quando não conhece o conceito que deveria identificar. A equipe planeja abordar essas limitações em trabalhos futuros.

FONTE: Scitechdaily