AI pode ler artigos de pesquisa e fornecer um resumo em inglês simples

• Pesquisadores desenvolvem uma nova rede neural baseada em uma ideia até então inexplorada - rotações.
• Ele pode substituir os métodos existentes para resolver problemas do mundo real, como resumo de texto, modelagem de linguagem e resposta a perguntas.

Um artigo de pesquisa geralmente é preenchido com abordagens especializadas e terminologias técnicas, o que o torna bastante difícil de ser entendido por leitores sem formação científica.

Recentemente, cientistas do MIT e do Qatar Computing Research Institute criaram um novo modelo de inteligência artificial (IA) que pode ler jornais científicos e fornecer um resumo em inglês simples em algumas frases.

Embora produza resultados muito melhores do que as técnicas anteriores, certamente não pode substituir os escritores e editores científicos. No entanto, essa IA pode ajudar os escritores a digitalizar um grande número de periódicos e ter uma ideia do que eles tratam.

A equipe de pesquisa estava originalmente tentando desenvolver redes neurais para resolver certos problemas físicos, por exemplo, como a luz se comporta em materiais de engenharia intrincados.

Eles logo perceberam que a mesma metodologia pode ser usada para lidar com outras tarefas computacionais complexas, como reconhecimento de fala e interpretação de linguagem natural, de maneiras muito mais eficientes do que os métodos de aprendizado de máquina existentes.

O que eles realmente fizeram?

Nos últimos anos, a Rede Neural Recorrente (RNN) se tornou uma rede neural artificial padrão para abordar uma ampla gama de tarefas, desde modelagem de linguagem até sumarização de texto e desenvolvimento de sistemas de chatbots.

Várias técnicas foram desenvolvidas para melhorar a capacidade de correlacionar informações de uma longa sequência de dados. Os mais populares são Long Short-Term Memory (LSTM) e Gated Recurrent Units (GRU). Mas eles ainda falham em demonstrar capacidades de memória impressionantes ou recuperação eficiente em tarefas sintéticas.

É por isso que os pesquisadores desenvolveram uma abordagem alternativa chamada Unidade Rotacional de Memória (RUM). Ao contrário das redes neurais tradicionais que são baseadas na multiplicação de matrizes, o RUM é baseado em vetores girando no espaço multidimensional.

Referência:MIT Press Journals | doi:10.1162 / tacl_a_00258 | MIT

Ele usa um vetor no espaço multidimensional (uma certa linha apontando em uma direção específica) para representar cada palavra do texto. Cada palavra sucessiva desvia o vetor para uma direção particular em um espaço teórico, que pode conter milhares de dimensões. O vetor resultante (ou um grupo de vetores) é então convertido de volta em sua sequência de palavras associada.



No geral, o RUM faz duas coisas:memoriza complicadas dinâmicas sequenciais e recupera informações com precisão. Ele também mostra um desempenho promissor para modelagem de linguagem em nível de personagem e respostas a perguntas.

Teste

Os pesquisadores testaram esse sistema em vários artigos científicos, incluindo seu próprio artigo descrevendo essas descobertas, e compararam os resultados com as redes neurais tradicionais baseadas em LSTM e GRU.

Em vez de apenas digitalizar resumos, o RUM lê o artigo inteiro para gerar um resumo simples de seu conteúdo. O resumo apresentado por este sistema continha menos termos técnicos e palavras repetitivas. Embora não seja uma prosa elegante, ela atinge os pontos-chave dos dados.

Leia:AI escreve sua própria poesia que se assemelha à obra de Shakespeare

Você pode experimentar este sistema em suas próprias tarefas:o código e a demonstração estão disponíveis no GitHub.