Mostrar registro simples

dc.creatorPassos Junior, Leandro Aparecido
dc.date.accessioned2019-01-10T12:41:32Z
dc.date.available2019-01-10T12:41:32Z
dc.date.issued2018-12-05
dc.identifier.urihttps://repositorio.ufscar.br/handle/ufscar/10828
dc.description.abstractDeep learning techniques have been studied extensively in the last years, due to its good results related to essential tasks on a large range of applications, such as speech and face recognition, as well as objects classification. Among the most employed techniques is the Restrict Boltzmann Machines (RBMs), which are energy-based stochastic neural networks composed of two layers of neurons., i.e., visible and hidden, whose objective is to estimate the connection weights between both layers, generally using Markov chains. Recently, the scientific community spent many efforts on sampling methods, since RBMs effectiveness is directly related to the success of the sampling process. Thereby, the present work contributes with RBMs Learning area, as well as its variants DBNs and DBMs. Further, the work covers the application of meta-heuristic methods concerning a proper fine-tune of these techniques. Moreover, the validation of the model is presented in the context of image reconstruction and pattern recognition. In general, the present work presents different approaches to training these techniques, as well as the evaluation of meta-heuristic methods efficiency in training. Finally, this thesis presents a collection of works developed by the author during the study period, which was published/submitted until the present time, concerning: (i) temperature parameter introduction in DBM formulation, (ii) DBM using adaptive temperature, (iii) DBM meta-parameters optimization through meta-heuristic techniques, and (iv) iRBM meta-parameters optimization through meta-heuristic techniques.eng
dc.description.sponsorshipCoordenação de Aperfeiçoamento de Pessoal de Nível Superior (CAPES)por
dc.language.isoengeng
dc.publisherUniversidade Federal de São Carlospor
dc.rights.uriAcesso abertopor
dc.subjectAprendizado de Máquinapor
dc.subjectRestricted Boltzmann Machinepor
dc.subjectOtimizaçãopor
dc.subjectMachine Learningeng
dc.subjectOptimizationeng
dc.titleOn the training algorithms for Restricted Boltzmann Machine-Based Modelseng
dc.typeTesepor
dc.contributor.advisor1Papa, João Paulo
dc.contributor.advisor1Latteshttp://lattes.cnpq.br/9039182932747194por
dc.creator.Latteshttp://lattes.cnpq.br/3785255738671502por
dc.description.resumoTécnicas de aprendizado em profundidade têm sido amplamente investigadas pela comunidade científica nos últimos anos, principalmente devido ao seu bom desempenho em tarefas tidas como essenciais em diversas aplicações, tais como reconhecimento de faces e comandos por voz, bem como classificação de objetos. Um dos métodos mais empregados é o das Máquinas de Boltzmann Restritas, do inglês Restricted Boltzmann Machines (RBMs), as quais são, basicamente, redes neurais estocásticas que objetivam estimar os pesos das conexões entre camadas distintas utilizando, dentre algumas técnicas, aquelas baseadas em amostragem em cadeias de Markov. Atualmente, grande parte dos trabalhos científicos têm concentrado sua atenção em métodos de amostragem nessas cadeias, dado que a sua eficiência e eficácia estão intimamente ligadas ao sucesso do processo de treinamento de uma RBM. Assim, a presente Tese contribui na área de aprendizado de RBMs, bem como de suas variantes chamadas de Deep Belief Networks e Deep Boltzmann Machines. Métodos de otimização para seleção dos parâmetros dessas técnicas também são estudados e validados no contexto de reconstrução de imagens e reconhecimento de padrões. De uma maneira geral, esta Tese objetiva estabelecer paralelos entre diferentes abordagens de treinamento dessas técnicas, bem como estudar e avaliar a eficiência de seu treinamento por meio de técnicas meta-heurí­sticas. Além disso, a proposta apresenta uma coleção de trabalhos desenvolvidos pelo autor durante o período de estudo, que foram publicados/submetidos para publicação em periódicos e conferências até o presente momento, sendo eles relacionados à: (i) inclusão do parâmetro temperatura na formulação da DBM, (ii) utilização de temperatura adaptativa para DBM, (iii) otimização dos meta-parâmetros da DBM utilizando técnicas meta-heurísticas e (iv) otimização dos meta-parâmetros da iRBM utilizando técnicas meta-heurísticas.por
dc.publisher.initialsUFSCarpor
dc.publisher.programPrograma de Pós-graduação em Ciência da Computaçãopor
dc.subject.cnpqCIENCIAS EXATAS E DA TERRA::CIENCIA DA COMPUTACAO::METODOLOGIA E TECNICAS DA COMPUTACAOpor
dc.description.sponsorshipIdCAPES: Código do Financiamento 001por
dc.ufscar.embargoOnlinepor
dc.publisher.addressCâmpus São Carlospor


Arquivos deste item

Thumbnail

Este item aparece na(s) seguinte(s) coleção(s)

Mostrar registro simples