QUANTUM-INSPIRED NEURAL ARCHITECTURE SEARCH APPLIED TO SEMANTIC SEGMENTATION USING SYMMETRIC NETWORKS

Abstract

[pt] A aprendizagem profunda revolucionou vários domínios, demonstrando excelente desempenho em várias tarefas perceptivas nos campos de visão computacional, reconhecimento de fala e processamento de linguagem natural. No entanto, o projeto de arquiteturas ideais de redes neurais profundas geralmente depende do conhecimento de especialistas e de abordagens demoradas de tentativa e erro. O campo da busca por arquiteturas neurais (NAS - Neural Architecture Search) surgiu como uma solução promissora, automatizando o processo de design para descobrir arquiteturas que melhoram o desempenho e a eficiência. Este trabalho apresenta o SegQSNAS, uma extensão do SegQNAS, projetado para Q-NAS (Quantum-inspired Neural Architecture Search) em segmentação semântica, especialmente no domínio de imagens médicas. O SegQSNAS foi projetado para pesquisar arquiteturas simétricas do tipo U-Net, reduzindo assim o espaço de busca e eliminando a necessidade de verificações de viabilidade de solução que eram necessárias no SegQNAS. Além disso, ele aprimora o processo de busca incorporando uma operação de cruzamento de dois pontos para melhorar a exploração durante o processo evolutivo, juntamente com a adição de funções de self-attention, MobileNet e EfficientNet ao espaço de busca que permite a descoberta de redes eficientes e personalizadas. Para tratar de imprecisões em cenários com vários rótulos, a implementação do SegQNAS do Coeficiente de Dice-Sorensen (DSC) e as funções de perda foram corrigidas porque fornecem uma avaliação de DSC superestimada nesses cenários. Os experimentos com conjuntos de dados de segmentação médica do desafio Medical Segmentation Decathlon demonstram que, no experimento do conjunto de dados de próstata, o SegQSNAS teve um bom desempenho com os melhores resultados em DSC, contagem de parâmetros e dias de GPU, alcançando 0.7924 no DSC médio com meio milhão de parâmetros. SegQSNAS também apresentou bons resultados no experimento com o conjunto de dados do fígado devido ao melhor trade-off, considerando que se trata de um cenário de recursos de computação limitados. No entanto, em alguns experimentos, ele mostra alguma limitação da estratégia de pesquisa ou do recurso computacional disponível. Além disso, em todos os experimentos, a função de self-attention não foi selecionada na melhor arquitetura encontrada, o que indica que o número máximo predefinido de nós ou a complexidade dos problemas testados podem não ter sido suficientemente altos para que essa operação fosse selecionada durante o processo de evolução.