Chip de IA Revolucionário Transcende Limites de Transistores, Entregando Poder Computacional Massivo

Electronics & Sensors INSIDER

Pesquisadores de Princeton reimaginaram totalmente a física da computação para construir um chip para cargas de trabalho modernas de IA. E com novo apoio do governo dos EUA, eles verão quão rápido, compacto e energeticamente eficiente este chip pode ficar. Um protótipo inicial é mostrado acima. (Imagem: Hongyang Jia/Universidade de Princeton)

A maior organização de pesquisa do Departamento de Defesa fez parceria com um esforço liderado pela Universidade de Princeton para desenvolver microchips avançados para inteligência artificial.

O novo hardware reimagina chips para cargas de trabalho modernas que podem rodar sistemas poderosos de IA usando muito menos energia que os semicondutores mais avançados de hoje, segundo Naveen Verma, professor de engenharia elétrica e de computação. Verma, que liderará o projeto, disse que os avanços rompem barreiras-chave que têm impedido chips para IA, incluindo tamanho, eficiência e escalabilidade.

Chips que requerem menos energia podem ser implantados para rodar IA em ambientes mais dinâmicos, de laptops e telefones a hospitais e rodovias, até órbita terrestre baixa e além. Os tipos de chips que alimentam os modelos mais avançados de hoje são muito volumosos e ineficientes para rodar em dispositivos pequenos, então eles são principalmente restritos a racks de servidores e grandes centros de dados.

Agora, a Agência de Projetos de Pesquisa Avançada de Defesa (DARPA) anunciou que apoiará o trabalho de Verma, baseado em uma suíte de invenções-chave de seu laboratório, com uma bolsa de $18,6 milhões. O financiamento da DARPA impulsionará uma exploração sobre quão rápido, compacto e energeticamente eficiente o novo chip pode ficar.

"Há uma limitação bastante importante com a melhor IA disponível estando apenas no centro de dados," disse Verma. "Você a liberta disso e as maneiras pelas quais podemos obter valor da IA explodem."

O anúncio veio como parte de um esforço mais amplo da DARPA para financiar "avanços revolucionários em ciência, dispositivos e sistemas" para a próxima geração de computação de IA. O programa, chamado OPTIMA, inclui projetos em múltiplas universidades e empresas. A chamada de propostas do programa estimou financiamento total em $78 milhões, embora a DARPA não tenha divulgado a lista completa de instituições ou o valor total de financiamento que o programa concedeu até o momento.

Colaboração com EnCharge AI

No projeto liderado por Princeton, pesquisadores colaborarão com a startup de Verma, EnCharge AI. Baseada em Santa Clara, CA, a EnCharge AI está comercializando tecnologias baseadas em descobertas do laboratório de Verma, incluindo vários artigos-chave que ele co-escreveu com estudantes de pós-graduação em engenharia elétrica desde 2016.

Verma co-fundou a EnCharge AI em 2022 com Kailash Gopalakrishnan, ex-IBM Fellow, e Echere Iroaga, líder em design de sistemas semicondutores.

Gopalakrishnan disse que a inovação dentro das arquiteturas de computação existentes, bem como melhorias na tecnologia de silício, começaram a desacelerar exatamente quando a IA começou a criar demandas massivas por poder computacional e eficiência. Nem mesmo a melhor unidade de processamento gráfico (GPU), usada para rodar os sistemas de IA de hoje, pode mitigar os gargalos em memória e energia de computação enfrentados pela indústria. "Embora GPUs sejam a melhor ferramenta disponível hoje," ele disse, "concluímos que um novo tipo de chip será necessário para desbloquear o potencial da IA."

Entre 2012 e 2022, a quantidade de poder computacional requerida por modelos de IA cresceu cerca de um milhão por cento, segundo Verma, que também é diretor do Keller Center for Innovation in Engineering Education na Universidade de Princeton. Para atender à demanda, os chips mais recentes empacotam dezenas de bilhões de transistores, cada um separado pela largura de um pequeno vírus. E ainda assim, os chips ainda não são densos o suficiente em seu poder computacional para necessidades modernas.

Os modelos líderes de hoje, que combinam grandes modelos de linguagem com visão computacional e outras abordagens de machine learning, foram desenvolvidos usando mais de um trilhão de variáveis cada. As GPUs projetadas pela Nvidia que alimentaram o boom da IA se tornaram tão valiosas que grandes empresas supostamente as transportam via carro blindado. As filas para comprar ou alugar esses chips se estendem até o ponto de desaparecimento.

Quando a Nvidia se tornou apenas a terceira empresa a atingir uma avaliação de $2 trilhões, o Wall Street Journal relatou que uma parcela rapidamente crescente da receita crescente da empresa veio não através do desenvolvimento dos modelos, chamado treinamento, mas em chips que permitem o uso de sistemas de IA uma vez que já estão treinados. Tecnólogos se referem a esta etapa de implantação como inferência. E a inferência é onde Verma diz que sua pesquisa terá o maior impacto no curto a médio prazo.

"Tudo isso é sobre descentralizar a IA, libertá-la do centro de dados," ele disse. "Ela tem que sair do centro de dados para lugares onde nós e os processos que importam para nós podemos acessar computação mais, e isso são telefones, laptops, fábricas, aquelas coisas."

Três Partes-Chave da Abordagem

Para criar chips que possam lidar com cargas de trabalho modernas de IA em ambientes compactos ou com restrições de energia, os pesquisadores tiveram que reimaginar completamente a física da computação enquanto projetavam e empacotavam hardware que pudesse ser fabricado com técnicas de fabricação existentes e que funcionasse bem com tecnologias de computação existentes, como uma unidade de processamento central.

"Modelos de IA explodiram em seu tamanho," disse Verma, "e isso significa duas coisas." Chips de IA precisam se tornar muito mais eficientes em fazer matemática e muito mais eficientes em gerenciar e mover dados.

Sua abordagem tem três partes-chave.

A arquitetura central de praticamente todo computador digital seguiu um padrão enganosamente simples, desenvolvido pela primeira vez nos anos 1940: armazenar dados em um lugar, fazer computação em outro. Isso significa transferir informações entre células de memória e o processador. Na última década, Verma pioneirou pesquisa em uma abordagem atualizada onde a computação é feita diretamente nas células de memória, chamada computação em memória. Essa é a parte um. A promessa é que a computação em memória reduzirá o tempo e energia que custa mover e processar grandes quantidades de dados.

Mas até agora, abordagens digitais para computação em memória têm sido altamente limitadas. Verma e sua equipe recorreram a uma abordagem alternativa: computação analógica. Essa é a parte dois.

"No caso especial de computação em memória, você não só precisa computar eficientemente," disse Verma, "você também precisa fazer isso com densidade muito alta porque agora precisa caber dentro destas minúsculas células de memória." Em vez de codificar informação em uma série de 0s e 1s, e processar essa informação usando circuitos lógicos tradicionais, computadores analógicos aproveitam a física mais rica dos dispositivos. A curvatura de uma engrenagem. A capacidade de um fio de segurar carga elétrica.

Sinais digitais começaram a substituir sinais analógicos nos anos 1940 principalmente porque código binário escalava melhor com o crescimento exponencial da computação. Mas sinais digitais não exploram profundamente a física dos dispositivos, e como resultado podem requerer mais armazenamento e gerenciamento de dados. Eles são menos eficientes nesse sentido. O analógico obtém sua eficiência processando sinais mais finos usando a física intrínseca dos dispositivos. Mas isso pode vir com uma compensação em precisão.

"A chave está em encontrar a física certa para o trabalho em um dispositivo que pode ser controlado extremamente bem e fabricado em escala," disse Verma.

Sua equipe encontrou uma maneira de fazer computação altamente precisa usando o sinal analógico gerado por capacitores especialmente projetados para ligar e desligar com precisão exata. Essa é a parte três. Diferente de dispositivos semicondutores como transistores, a energia elétrica movendo-se através de capacitores não depende de condições variáveis como temperatura e mobilidade de elétrons em um material. "Eles dependem apenas da geometria," disse Verma. "Eles dependem do espaço entre um fio metálico e o outro fio metálico." E geometria é uma coisa que as técnicas de fabricação de semicondutores mais avançadas de hoje podem controlar extremamente bem.

Fonte