dc.contributor.author | Sette, Bruno Silva | |
dc.date.accessioned | 2021-06-15T11:20:20Z | |
dc.date.available | 2021-06-15T11:20:20Z | |
dc.date.issued | 2021-05-28 | |
dc.identifier.citation | SETTE, Bruno Silva. Committee of NAS-based models. 2021. Dissertação (Mestrado em Ciência da Computação) – Universidade Federal de São Carlos, São Carlos, 2021. Disponível em: https://repositorio.ufscar.br/handle/ufscar/14381. | * |
dc.identifier.uri | https://repositorio.ufscar.br/handle/ufscar/14381 | |
dc.description.abstract | Network Architecture Search (NAS) has achieved great results and generated models comparable with humans’ classifications. Automating the definition of a neural architecture reduces the need for expert work efforts and mitigates human bias from architecture design. NAS techniques usually consist of an algorithm to search for the best architecture in a predetermined space of parameters or functions. Due to the number of deep neural architectures parameters, this search space includes millions of combinations, making NAS a cost procedure and may lead the search to overfit the training set. To reduce NAS search spaces’ complexity and still obtain competitive results, we propose CoNAS, a committee of NAS-based models, by restricting the search spaces to perform Differentiable ARchiTecture Search (DARTS). Our results point to improved accuracy over DARTS on two experimental scenarios: raining from scratch and using a transfer learning approach. | eng |
dc.description.sponsorship | Outra | por |
dc.description.sponsorship | Coordenação de Aperfeiçoamento de Pessoal de Nível Superior (CAPES) | por |
dc.language.iso | eng | eng |
dc.publisher | Universidade Federal de São Carlos | por |
dc.rights | Attribution-NonCommercial-NoDerivs 3.0 Brazil | * |
dc.rights.uri | http://creativecommons.org/licenses/by-nc-nd/3.0/br/ | * |
dc.subject | CoNAS | eng |
dc.subject | Ensemble | eng |
dc.subject | DARTS | eng |
dc.title | Committee of NAS-based models | eng |
dc.title.alternative | Combinação de modelos gerados por NAS | por |
dc.type | Dissertação | por |
dc.contributor.advisor1 | Silva, Diego Furtado | |
dc.contributor.advisor1Lattes | http://lattes.cnpq.br/7662777934692986 | por |
dc.description.resumo | A Busca por Arquitetura de Redes Neurais (Network Architecture Search – NAS) tem obtido ótimos resultados e gerou modelos comparáveis às classificações humanas. Automatizar a definição de uma arquitetura neural reduz a necessidade de esforços de trabalho especializado e mitiga o preconceito humano do projeto de arquitetura. As técnicas de NAS geralmente consistem em um algoritmo para buscar a melhor arquitetura em um espaço pré-determinado de parâmetros ou funções. Devido ao número de parâmetros de arquiteturas neurais profundas, esse espaço de busca inclui milhões de combinações, o que torna o NAS um procedimento custoso e pode levar a busca a super ajustar o conjunto de treinamento. Para reduzir a complexidade dos espaços de busca NAS e ainda obter resultados competitivos, propomos o CoNAS, um comitê de modelos baseados em NAS, restringindo os espaços de busca para realizar a Busca Diferenciável de Arquitetura (Differentiable ARchiTecture
Search – DARTS). Nossos resultados apontam para uma maior precisão em relação ao DARTS tanto em cenários em que a rede é treinada do zero quanto usando uma abordagem de aprendizagem por transferência. | por |
dc.publisher.initials | UFSCar | por |
dc.publisher.program | Programa de Pós-Graduação em Ciência da Computação - PPGCC | por |
dc.subject.cnpq | CIENCIAS EXATAS E DA TERRA::CIENCIA DA COMPUTACAO::METODOLOGIA E TECNICAS DA COMPUTACAO | por |
dc.description.sponsorshipId | B2W Digital: 23112.000186/2020-97 | por |
dc.description.sponsorshipId | CAPES: Código de Financiamento 001 | por |
dc.publisher.address | Câmpus São Carlos | por |
dc.contributor.authorlattes | http://lattes.cnpq.br/9342792525603106 | por |