Os chips de inteligência artificial da Qualcomm mostraram mais eficiência energética em dois de três testes em comparação aos da Nvidia, como aponta um novo conjunto de dados de prova feito pelo consórcio de engenharia MLCommons. A startup Neuchips, de Taiwan, superou ambas as empresas em uma categoria.
A Nvidia domina o mercado de treinamento de modelos de IA com grandes volumes de dados. No entanto, depois que esses modelos são treinados, eles são usados em uma escala maior para realizar tarefas de inferência, como gerar respostas de texto ou decidir se uma imagem contém um gato. Analistas acreditam que o mercado de chips de inferência para data centers continuará crescendo à medida que as empresas incluem tecnologias de IA em seus produtos.
No entanto, empresas incluindo o Google já estão começando a explorar como manter o controle sobre os custos adicionais relacionados à utilização de tecnologias de IA. O consumo de energia se destaca como um grande desafio a ser superado. Como solução, a Qualcomm usou sua experiência em criação de chips para dispositivos móveis alimentados a bateria, como smartphones, para projetar o chip Cloud AI 100, que visa um consumo parcimonioso de energia.
Os dados de teste divulgados revelaram que o chip da Qualcomm superou o chip H100 da Nvidia em uma categoria específica, a classificação de imagens, com base em quantas consultas de servidor de data center cada chip pode realizar por watt. Os chips da Qualcomm atingiram 197,6 consultas de servidor por watt contra 108,4 consultas por watt da Nvidia.
A Neuchips, empresa fundada pelo veterano acadêmico de chips de Taiwan Youn-Long Lin, conquistou o primeiro lugar com 227 consultas por watt.
Os resultados dos testes de eficiência energética podem ter um impacto significativo no mercado de chips de inferência para data centers. A empresa que produzir um chip mais eficiente em termos de energia poderá atender a uma demanda crescente por tecnologias de IA, obter inovações mais avançadas e uma vantagem competitiva.
Por enquanto, a Nvidia ainda possui uma presença forte no mercado de IA com seus produtos para treinamento de modelos de IA, mas a competição entre a empresa e a Qualcomm e outras startups pode se acirrar à medida que a demanda por tecnologias de IA para data centers continuar crescendo.