Modulaarsed tehisnärvivõrgud

Date

2019

Journal Title

Journal ISSN

Volume Title

Publisher

Abstract

Töös uuriti modulaarsete tehisnärvivõrkude oskust õppida lahendamaprobleeme, mis on olemuslikult alamülesanneteks jaotatavad. Ülesandeks valiti närvivõrgu abil kaadri kaupa palli liikumise ennustamine laual, kus algsisenditeks on pallija seinte koordinaadid koos kiirustega ning kus toimub sirgliikumine ning põrked vastukõiki seinu. Töös loodud närvivõrgu arhitektuur, kus on iga kihti võimalik loomulikult tõlgendada, kasutab tähelepanumoodulit, et liigitada alamülesandeid. Näidatakse,et sellise mudeliga õppimine on ilma moodulite eeltreenimiseta küllalt aeglane. Kuideeltreenimisel võib mudel õppida ülesandeid lahendama vähesema ülesobitusega, sestmudeli arhitektuuri on teatud eeldusi ja inimteadmisi sisse kodeeritud.
The work focused on the ability of modular artificial neural networks to solveproblems which are inherently divisible into smaller subtasks. The chosen problem wasto use neural networks in predicting frames of ball movements and bounces on a tablewith borders. The network had ball and border coordinates and ball speed as inputs. Aneural architecture was developed where each layer is easily interpreted and which usesattention to classify tasks. It is shown that without pre-training the learning is quite slow.However, with pre-training, the model can overfit less than different networks, becausethe model architecture has some bias and human knowledge coded into it.

Description

Keywords

Citation