Emulação de Large Language Models para RISC-V usando QEMU

Abstract

Este trabalho tem como objetivo executar o DeepSeek em um emulador RISC-V, com o intuito de mostrar a viabilidade de executar LLMs em aparelhos RISC-V, e também em sistemas embarcados. Isso é importante para os propósitos de integração de IA, independência de infra, eficiência energética e código aberto. Utilizamos o emulador QEMU para rodar RISC-V e obtivemos a contagem de tokens por segundo em vários testes. O melhor resultado obtido foi 1,2415 tks/s, valor considerado lento, porém viável.