Mostrar el registro sencillo del ítem
On the training algorithms for Restricted Boltzmann Machine-Based Models
dc.contributor.author | Passos Junior, Leandro Aparecido | |
dc.date.accessioned | 2019-01-10T12:41:32Z | |
dc.date.available | 2019-01-10T12:41:32Z | |
dc.date.issued | 2018-12-05 | |
dc.identifier.citation | PASSOS JUNIOR, Leandro Aparecido. On the training algorithms for Restricted Boltzmann Machine-Based Models. 2018. Tese (Doutorado em Ciência da Computação) – Universidade Federal de São Carlos, São Carlos, 2018. Disponível em: https://repositorio.ufscar.br/handle/ufscar/10828. | * |
dc.identifier.uri | https://repositorio.ufscar.br/handle/ufscar/10828 | |
dc.description.abstract | Deep learning techniques have been studied extensively in the last years, due to its good results related to essential tasks on a large range of applications, such as speech and face recognition, as well as objects classification. Among the most employed techniques is the Restrict Boltzmann Machines (RBMs), which are energy-based stochastic neural networks composed of two layers of neurons., i.e., visible and hidden, whose objective is to estimate the connection weights between both layers, generally using Markov chains. Recently, the scientific community spent many efforts on sampling methods, since RBMs effectiveness is directly related to the success of the sampling process. Thereby, the present work contributes with RBMs Learning area, as well as its variants DBNs and DBMs. Further, the work covers the application of meta-heuristic methods concerning a proper fine-tune of these techniques. Moreover, the validation of the model is presented in the context of image reconstruction and pattern recognition. In general, the present work presents different approaches to training these techniques, as well as the evaluation of meta-heuristic methods efficiency in training. Finally, this thesis presents a collection of works developed by the author during the study period, which was published/submitted until the present time, concerning: (i) temperature parameter introduction in DBM formulation, (ii) DBM using adaptive temperature, (iii) DBM meta-parameters optimization through meta-heuristic techniques, and (iv) iRBM meta-parameters optimization through meta-heuristic techniques. | eng |
dc.description.sponsorship | Coordenação de Aperfeiçoamento de Pessoal de Nível Superior (CAPES) | por |
dc.language.iso | eng | eng |
dc.publisher | Universidade Federal de São Carlos | por |
dc.rights.uri | Acesso aberto | por |
dc.subject | Aprendizado de Máquina | por |
dc.subject | Restricted Boltzmann Machine | por |
dc.subject | Otimização | por |
dc.subject | Machine Learning | eng |
dc.subject | Optimization | eng |
dc.title | On the training algorithms for Restricted Boltzmann Machine-Based Models | eng |
dc.type | Tese | por |
dc.contributor.advisor1 | Papa, João Paulo | |
dc.contributor.advisor1Lattes | http://lattes.cnpq.br/9039182932747194 | por |
dc.description.resumo | Técnicas de aprendizado em profundidade têm sido amplamente investigadas pela comunidade científica nos últimos anos, principalmente devido ao seu bom desempenho em tarefas tidas como essenciais em diversas aplicações, tais como reconhecimento de faces e comandos por voz, bem como classificação de objetos. Um dos métodos mais empregados é o das Máquinas de Boltzmann Restritas, do inglês Restricted Boltzmann Machines (RBMs), as quais são, basicamente, redes neurais estocásticas que objetivam estimar os pesos das conexões entre camadas distintas utilizando, dentre algumas técnicas, aquelas baseadas em amostragem em cadeias de Markov. Atualmente, grande parte dos trabalhos científicos têm concentrado sua atenção em métodos de amostragem nessas cadeias, dado que a sua eficiência e eficácia estão intimamente ligadas ao sucesso do processo de treinamento de uma RBM. Assim, a presente Tese contribui na área de aprendizado de RBMs, bem como de suas variantes chamadas de Deep Belief Networks e Deep Boltzmann Machines. Métodos de otimização para seleção dos parâmetros dessas técnicas também são estudados e validados no contexto de reconstrução de imagens e reconhecimento de padrões. De uma maneira geral, esta Tese objetiva estabelecer paralelos entre diferentes abordagens de treinamento dessas técnicas, bem como estudar e avaliar a eficiência de seu treinamento por meio de técnicas meta-heurísticas. Além disso, a proposta apresenta uma coleção de trabalhos desenvolvidos pelo autor durante o período de estudo, que foram publicados/submetidos para publicação em periódicos e conferências até o presente momento, sendo eles relacionados à: (i) inclusão do parâmetro temperatura na formulação da DBM, (ii) utilização de temperatura adaptativa para DBM, (iii) otimização dos meta-parâmetros da DBM utilizando técnicas meta-heurísticas e (iv) otimização dos meta-parâmetros da iRBM utilizando técnicas meta-heurísticas. | por |
dc.publisher.initials | UFSCar | por |
dc.publisher.program | Programa de Pós-Graduação em Ciência da Computação - PPGCC | por |
dc.subject.cnpq | CIENCIAS EXATAS E DA TERRA::CIENCIA DA COMPUTACAO::METODOLOGIA E TECNICAS DA COMPUTACAO | por |
dc.description.sponsorshipId | CAPES: Código do Financiamento 001 | por |
dc.ufscar.embargo | Online | por |
dc.publisher.address | Câmpus São Carlos | por |
dc.contributor.authorlattes | http://lattes.cnpq.br/3785255738671502 | por |