Pesquisadores acadêmicos estão sofrendo para ter acesso a computadores capazes de trabalhar com o desenvolvimento de LLMs (Large Language Model ou Modelo de Linguagem de Larga Escala). A informação foi divulgada pela Nature, na qual é dito que “cientistas ligados a universidades estão frustrados com o poder computacional limitado disponível para pesquisas sobre inteligência artificial (IA)”.
Segundo um estudo publicado compartilhado dia 30 de outubro de 2024 no ArXiv por cientistas da Brown University, pesquisadores acadêmicos não têm tido recursos para obter GPUs (Graphics Processing Units ou Unidades de Processamento Gráfico) para realizar trabalhos envolvendo IA.
Em contraste, cientistas de empresas privadas tem tido acesso a orçamentos altos para gastar comprando placas de vídeo voltadas para o desenvolvimento de LLMs. Stella Biderman, diretora executiva da EleutherAI, um instituto de pesquisa de IA sem fins lucrativos em Washington DC, diz:
“A lacuna entre os modelos acadêmicos e industriais é enorme, mas poderia ser muito menor.”
Mais da metade dos acadêmicos estão insatisfeitos com os PCs para pesquisas em IA
O estudo feito pelos pesquisadores da Brown University entrevistou 50 cientistas em 35 instituições acadêmicas. O resultado mostrou que 66% dos entrevistados estavam insatisfeitos com o poder computacional de PCs disponibilizados para pesquisas em inteligência artificial, dando nota 3 de 5.
Universidades têm diferentes maneiras de dar acesso às GPUs para pesquisa em IA
Segundo a pesquisa compartilhada pela Nature, constatou-se que as universidades adotam diferentes formas de dar acesso às GPUs para os pesquisadores da área de inteligência artificial. Algumas tem um computador central compartilhado entre departamentos e alunos, onde os cientistas fazem solicitações de uso da máquina. Outras já adquirem computadores para uso exclusivo do laboratório de IA.
Pesquisadores que usam computadores compartilhados reclamam do tempo de espera
Apoorv Khandelwal mostrou em seu artigo que alguns pesquisadores tiveram de esperar por dias para conseguir acessar os computadores com GPUs capazes de fornecer poder computacional para a pesquisa em inteligência artificial. Além disso, apenas 10% dos entrevistados disseram que tinham acesso a GPUs Nvidia H100, que contam com chips poderosos projetados para IA.